미성년자 10명 중 1명은 친구들이 다른 아이들의 누드를 생성하기 위해 AI를 사용한다고 응답했습니다.

아동을 성적 학대로부터 보호하는 기술을 개발하는 비영리 단체인 Thorn의 설문조사에 따르면 미성년자 10명 중 1명은 친구나 급우들이 AI 도구를 사용해 다른 아동의 나체를 생성한 적이 있다고 답했습니다.

미성년자 사이에서 AI 도구가 흔히 사용되고 있으며, 특히 누군가의 사진을 찍어 AI를 이용해 나체로 보이게 하는 누드화 앱이 전국 여러 학교에 혼란과 공포를 확산시킨다는 사실은 이미 오래 전부터 알고 있었지만, 리서치 회사 BSG와 협력해 실시한 이번 가시 설문조사는 문제의 범위를 측정한 최초의 시도 중 하나입니다.

2023년 11월 3일부터 12월 1일까지 온라인으로 진행된 이 설문조사에서는 9세에서 17세 사이의 미성년자 1,040명에게 아동 성학대 자료와 "유해한 온라인 경험"에 대한 질문을 던졌습니다.

"이번 조사 당시 미성년자 참여자는 기존 청소년 패널을 통해 모집하거나 보호자를 통해 직접 모집했습니다."라는 제목의 조사 결과 보고서에서 확인할 수 있습니다.온라인 안전에 대한 청소년의 관점, 2023년 라고 말했습니다. "미성년자의 청소년 패널 참여는 물론 설문조사를 위해 직접 모집된 미성년자의 경우에도 보호자의 동의가 필요했습니다."

계속 진행하기 전에 몇 가지 중요한 주의 사항이 있습니다: Thorn 자체는 섹스와 기술에 관한 한 완벽한 실적을 가지고 있지 않습니다. 이 조직은개인 정보 보호 전문가들의 비판 성노동자 광고를 데이터베이스에 스크랩하는 도구를 경찰에 제공한 혐의로, 쏜의 설립자 애쉬튼 커처(Ashton Kutcher)는작년에 물러난 유죄 판결을 받은 강간범과 전직그 70년대 쇼 공동 주연 대니 매스터슨. 저는 또한4월에 한 편 쏜이 구글, 메타, 마이크로소프트, 시비타이 및 기타 대형 기술 기업들과 파트너십을 맺고 공개적으로 "설계를 통한 안전 ' 원칙을 통해 "AI가 생성한 아동 성학대물(AIG-CSAM)의 생성 및 확산을 방지"하겠다고 선언했지만, 해당 기업들은 여전히 이러한 유형의 AI 생성 유해 이미지를 적극적으로 허용하고 있었습니다.

그 외에도 많은 '인신매매 방지' 단체와 마찬가지로, 그리고 보고서의 표현 자체에서 알 수 있듯이 Thorn은 미성년자가 섹스를 하거나 누드를 보내거나 인터넷을 사용하는 방식에 대해 성적으로 인식하고 활동적인 인간으로서 우려스러운 시각을 가지고 있습니다. 예를 들어, Thorn의 설문조사에 따르면 "미성년자 7명 중 1명은 스스로 생성한 아동 성학대 자료를 의미하는 SG-CSAM을 공유한 적이 있다"고 합니다. 이러한 이미지는 기술적으로 불법이며 모든 주요 인터넷 플랫폼의 정책에 위배되지만, 이 무서운 용어는 예를 들어 17세 청소년이 합의하에 누드를 파트너에게 보내는 사례도 포함합니다.

주의 사항은 제쳐두고, 이 설문조사에서 쏜이 언급한 방법론은 탄탄해 보이며 미성년자 사이에서 또래의 비합의적인 누드 이미지를 생성하는 데 AI 도구가 얼마나 일반적으로 사용되는지 대략적으로 파악할 수 있습니다. 10명 중 1명은 친구나 급우가 이러한 목적으로 AI 도구를 사용했다고 답했으며, 10명 중 1명은 "말하지 않는 것이 좋다"고 답했습니다.

보고서는 "이러한 사건의 동기는 성적 학대 의도보다는 청소년의 행동에 의한 것일 가능성이 높지만, 그로 인한 피해자의 피해는 현실이며 책임을 회피하려는 시도로 최소화해서는 안 됩니다."라고 말합니다.

이러한 유형의 이미지가 커뮤니티에 어떤 혼란을 가져올 수 있는지 알아보려면 지난 2월에 작성한 글을 읽어보세요.워싱턴 주 고등학교에서 발생한 사건에 대해 여러 학생이 선생님과 반 친구들에게 '옷 벗기기 앱'을 사용한 혐의로 경찰 조사를 받았습니다. 이러한 앱의 사용은 다음과 같이 확산되었습니다.다른 학교 전국적으로, 그리고 지난 3월에는체포 플로리다의 중학생 2명을 대상으로 설문조사를 실시했습니다.

보고서는 "기술 업계에서 생성 AI 기술이 어린이에게 미치는 위험을 해결하기 위해 상당한 노력이 필요합니다."라고 말합니다. "그러나 이러한 노력이 이러한 피해를 둘러싼 행동을 해결하는 문지기가 되지는 못합니다. 기술은 새로운 기술일 수 있지만 또래 기반의 괴롭힘, 괴롭힘, 학대는 그렇지 않습니다. '딥페이크 누드'로 인한 피해에 대해 적극적이고 직접적으로 이야기하고, 사용되는 기술에 관계없이 우리 커뮤니티와 학교에서 어떤 행위가 용납될 수 없는지에 대한 명확한 이해를 강화하는 것이 중요합니다."