잘못된 인공지능: 살인 용의자를 닮은 인공지능 이미지가 담긴 셔츠를 판매한 셰인 - 인공지능을 신뢰할 수 있을까요?

셰인, 상품 목록에 살인 용의자의 AI 이미지가 등장하자 반발에 직면하다

2024년 12월 유나이티드헬스케어의 CEO 브라이언 톰슨을 살해한 혐의로 기소된 26세의 루이지 맨지오네의 얼굴이 10달러 미만의 남성용 셔츠를 입은 채로 웹사이트에 게재된 이미지로 인해 셰인은 다시 한번 논란의 중심에 서게 되었습니다.

흰색과 파란색의 반소매 꽃무늬 셔츠가 등장하는 제품 사진은 빠르게 삭제되었지만, 스크린샷이 소셜 미디어에 퍼지기 전에는 삭제되지 않았습니다.

출처:X

관찰자들은 이 이미지가 진짜인지 인위적으로 생성된 것인지 의문을 제기했습니다.

BBC Verify는 아마존 레코그니션이 망지오네의 법정 이미지와 얼굴이 99.9% 일치한다고 보도하여 이 이미지가 AI가 만들었거나 디지털로 조작된 것이라는 추측을 불러일으켰습니다.

사진의 출처에 대한 의구심을 불러일으키는 AI 이상 현상

생성 AI 전문가들은 조작의 증거로 여러 가지 시각적 결함을 지적했습니다.

딥페이크 기술 전문가인 헨리 아더는 피부 질감, 조명, 손가락 분할, 그리고 모델의 팔뚝 위에 있는 특이한 인공물 문제를 강조했습니다.

헨크 반 에스 연구원은 가장 유력한 설명은 망지오네의 얼굴을 합성 모델의 몸에 합성한 AI 합성물이며, 아마도 미드저니를 사용했을 가능성이 있다고 제안했습니다.

이 논란은 범죄만큼이나 외모가 화제가 되는 폭력적인 인물에 대한 사회의 집착에 대한 논쟁을 다시 불러일으켰습니다.

주 및 연방 살인 혐의에 대해 무죄를 주장한 망지오네는 이미 온라인에서 많은 팔로워를 확보하고 있으며, 일부에서는 그를 의료 산업에 대한 분노의 상징으로 간주하고 있습니다.

루이지 만지오네는 누구인가요?

1998년 5월 6일 메릴랜드주 토슨에서 태어난 루이지 니콜라스 망지오네는 아이비리그를 졸업하고 유나이티드헬스케어 CEO 브라이언 톰슨을 살해한 혐의로 기소된 인물입니다.

2024년 12월 4일, 맨해튼 미드타운의 한 호텔 밖에서 망지오네는 톰슨을 총으로 쐈고, 5일 후 펜실베이니아주 알투나에서 체포되었습니다.

그는 총기, 소음기, 위조 신분증, 의료 회사를 비판하는 자필 선언문을 소지한 채 발견되었습니다.

망지오네는 1급 살인, 테러 방조 살인, 총기법 위반 등 여러 혐의를 받고 있습니다.

연방 검찰은 그의 사건에 대해 사형을 구형하고 있습니다.

Shein, 리스팅 삭제 및 벤더 검토 약속

셰인은 여러 매체에 해당 이미지가 타사 공급업체에서 제공한 것이며 즉시 삭제되었음을 확인했습니다.

이 회사는 뉴스위크에 이렇게 말했습니다,

"문제의 이미지는 타사 공급업체에서 제공한 것으로 발견 즉시 삭제되었습니다."

또한 대변인은 셰인이 프로세스를 검토하고 있으며 "정책에 따라 해당 공급업체에 대해 적절한 조치를 취할 것"이라고 덧붙였습니다.

신속하게 삭제되었지만, 논란이 불거지기 전에 이미 해당 셔츠가 매진되었다는 보도가 있었습니다.

소셜 미디어 사용자들은 셰인이 닮은꼴을 더 일찍 발견하지 못했다고 비판했고, 다른 사용자들은 셰인이 운영상의 윤리적 결함에 대해 반복적으로 비난을 받아왔다고 지적했습니다.

IPO 야망이 또 다른 장애물에 부딪히다

이번 스캔들은 서구 투자자들의 신뢰를 높이기 위해 상장을 추진하던 셰인에게는 미묘한 시기에 터진 일입니다.

뉴욕에 상장하려던 초기 시도는 공급망 관행에 대한 조사로 인해 중단되었고, 런던 증권거래소 상장 논의도 신장과 관련된 공개에 대한 영국과 중국 규제 당국 간의 이견으로 인해 좌절되었습니다.

현재 이 회사는 홍콩 기업공개 가능성을 모색하고 있으며, 블룸버그 통신에 따르면 셰인은 중국의 승인을 얻기 위해 중국 본토로 거점을 옮길 수도 있다고 합니다.

기업 가치가 66억 달러에 달하고 싱가포르에 본사를 둔 이 패스트패션 소매업체는 글로벌 무대에서 책임감 있게 운영할 수 있다는 점을 투자자들에게 설득하는 동시에 비즈니스 관행에 대한 의문이 커지고 있는 상황입니다.

편리함이 얼마나 빨리 혼란으로 변할 수 있는지 보여주는 패션의 AI

이번 주 셰인에게 일어난 일은 단순히 기업의 당혹감을 넘어, 견제받지 않는 AI가 얼마나 시장을 재편하고 있는지 엿볼 수 있는 사건입니다.

살인 용의자의 얼굴이 온라인에서 저가 셔츠 모델에 등장할 수 있다면 자동화와 책임의 경계는 위험할 정도로 모호해집니다.

코인라이브는 이번 사건이 셰인뿐만 아니라 적절한 감독 없이 생성 도구에 의존하는 모든 브랜드에 경종을 울리는 계기가 될 것이라고 생각합니다.

AI는 상거래의 속도를 높일 수 있지만, FBI 감시 목록에 있는 남성의 얼굴을 재활용하기 시작하면 시스템이 얼마나 결함이 있는지 드러납니다.