AI 탈의 트렌드 등장

소셜 미디어 분석 회사인 Graphika는 'AI 옷 벗기기'의 사용 증가를 관찰했습니다; 생성형 인공지능(AI) 도구를 사용하여 사용자가 제공한 이미지에서 의상을 디지털 방식으로 제거합니다.

이러한 추세는 개인정보 보호 및 동의에 대한 우려를 불러일으킵니다.

Graphika의 조사 결과에 따르면 2023년 Reddit 및 X와 같은 플랫폼에서 댓글과 게시물이 전년 대비 2,408% 증가하여 총 32,100개가 넘는 것으로 나타났습니다.

그래픽 보고서에서 가져온 스크린샷입니다:

이러한 추세는 AI를 활용하여 동의 없이 노골적인 콘텐츠를 생성하는 합성 비동의적 친밀한 이미지(NCII) 서비스의 증가와 관련이 있으며, 이는 표적 성희롱, 성추행, 아동 성적 학대물(CSAM) 제작의 위험을 초래할 수 있습니다.

Graphika는 AI 도구가 사실적인 노골적인 콘텐츠를 대규모로 생성하는 데 제공하는 간편함과 비용 효율성을 강조합니다.

이러한 도구가 없다면 사용자는 사용자 지정 이미지 확산 모델을 관리해야 하는데, 이는 시간이 많이 걸리고 비용이 많이 드는 작업입니다.

회사는 가짜 음란물 콘텐츠 제작을 포함한 잠재적 결과에 대해 경고합니다.

또한, 옷을 벗는 데 AI를 사용하는 방식은 정적인 이미지를 넘어 비스트나 톰 행크스 같은 유명인이 등장하는 딥페이크 동영상으로까지 확장되었습니다.

다크 웹 발견 및 우려 사항

10월에는인터넷 감시 재단(IWF) 는 한 달 동안 다크웹 포럼에서 20,254개 이상의 아동 학대 이미지를 발견하여 AI가 생성한 아동 포르노가 인터넷에 미칠 수 있는 압도적인 영향력에 대한 우려를 제기했습니다.

IWF에 따르면 딥페이크 포르노와 진품 이미지를 구별하는 것은 생성형 AI 이미지의 발전으로 인해 더욱 어려워졌습니다.

성장하는 도전 과제인 AI 딥페이크

유엔은 이 문제의 심각성을 강조하며 AI로 생성된 미디어를 특히 소셜 미디어의 정보 무결성에 대한 '심각하고 시급한 위협'으로 규정했습니다.

이에 대해유럽 의회와 유럽 이사회 협상가들은 12월 8일 유럽연합에서 AI 사용을 규제하는 규칙을 제정했습니다. 를 통해 인공지능이 생성한 콘텐츠로 인해 발생하는 광범위한 문제를 해결합니다.