알리바바의 타오바오, 쇼핑객을 오도하는 AI 생성 제품 이미지를 단속하다

알리바바, AI로 생성된 제품 이미지 오용 문제 해결

이커머스 플랫폼이 기술의 고도화를 따라잡기 위해 고군분투하고 있는 가운데, AI로 생성된 콘텐츠의 확산은 점점 더 큰 관심사가 되고 있습니다.

이 문제를 해결하기 위한 최근의 움직임 중 하나는 알리바바의 타오바오 플랫폼에서 나온 것으로, 인공지능을 통해 만들어진 오해의 소지가 있는 위조 제품 이미지를 단속하기 위한 중요한 조치를 취하고 있습니다.

이 이니셔티브는 소비자를 보호하고 온라인 쇼핑이 투명하고 신뢰할 수 있도록 하는 것을 목표로 합니다.

AI 생성 이미지 단속

알리바바 그룹의 계열사인 타오바오는 제품을 허위 표시하는 AI 생성 이미지 사용에 대한 포괄적인 캠페인을 시작했습니다.

AI가 생성한 이미지(왼쪽)와 실제 제품(오른쪽)

플랫폼은 일부 이미지 향상은 허용되지만 과도한 조작, 특히 아이템의 비현실적인 묘사를 초래하는 조작은 엄격히 금지된다는 점을 분명히 했습니다.

알리바바는 성명에서 이렇게 말했습니다,

제품 이미지는 주로 제품의 실제 사진을 반영해야 하며, 모든 보정은 왜곡을 피하고 적당히 이루어져야 합니다. AI 또는 기타 기술을 사용하여 제품 정보를 현저히 왜곡하거나 잘못 표현하는 이미지를 생성하는 것은 엄격히 금지됩니다;

또한 AI 기술을 사용하여 실제 상품을 반영하지 않는 오해의 소지가 있는 제품 이미지를 만들려는 시도는 용납되지 않을 것이라고 밝혔습니다.

이를 해결하기 위해 타오바오는 탐지 모델을 개선하고 있으며, 이미 약 10만 개의 이미지가 지나치게 과장되거나 변조된 것으로 판명되었습니다.

이러한 노력의 일환으로 플랫폼은 제품 페이지에 AI가 생성한 콘텐츠를 표시하는 새로운 시각적 표시기를 도입할 예정입니다.

이러한 명확한 라벨은 소비자가 진품 이미지와 AI로 변경된 이미지를 쉽게 구별할 수 있도록 도와주며, 이 문제에 대한 인식을 높이는 데 도움이 됩니다.

AI 탐지가 핵심 초점이 되다

AI로 생성된 콘텐츠의 주요 과제 중 하나는 이미지가 얼마나 사실적으로 표현될 수 있는가 하는 것입니다.

이미지가 인위적으로 만들어졌음을 나타내는 일반적인 징후로는 부자연스러운 손 위치, 일그러진 발, 이상한 그림자, 심지어 기괴하거나 무의미한 텍스트 등이 있습니다.

발이 변형된 모델이 등장하는 잘못 생성된 이미지의 예입니다.

기술이 발전함에 따라 진품 콘텐츠와 AI가 생성한 자료를 구분하는 것이 점점 더 어려워지고 있으며, 이는 쇼핑객을 오도하고 이커머스 플랫폼에 대한 신뢰를 떨어뜨릴 수 있는 잠재력을 가지고 있습니다.

타오바오가 도입하는 새로운 탐지 방법은 조작된 이미지나 가짜 이미지를 보다 효과적으로 식별하여 이러한 우려를 완화하는 것을 목표로 합니다.

똑같은 포즈를 취하고 있지만 상의는 다른 여성.

이러한 조치를 시행하기로 한 플랫폼의 결정은 AI의 오용을 억제하기 위한 중국의 광범위한 규제 노력에 따른 것입니다.

타오바오의 내부적인 변화 외에도 중국 정부는 2025년 9월까지 모든 AI 생성 콘텐츠를 플랫폼에 명확하게 표시하도록 하는 새로운 규정을 시행하는 등 기술 규제에 적극적으로 나서고 있습니다.

업계 전반의 변화를 향한 한 걸음

타오바오의 이러한 움직임은 이커머스 사업자들에게 새로운 선례가 될 것이며, AI 제작 콘텐츠를 대상으로 이러한 종합적인 조치를 도입한 최초의 주요 플랫폼이 될 것입니다.

이 회사는 제품 광고의 신뢰성을 보장하기 위해 업계 내 광범위한 협력을 촉구했습니다.

이미 웨이보와 중국판 틱톡인 더우인(Douyin)과 같은 소셜 미디어 사이트 등 다른 디지털 공간에서도 유사한 행위가 발견되었으며, 이들 사이트에서도 기만적인 AI 생성 콘텐츠를 단속하고 있습니다.

알리바바는 성명을 통해 다음과 같이 밝혔습니다,

"우리는 소비자를 속이고 오리지널 브랜드 판매자의 권리를 침해하는 AI 생성 가짜 이미지의 사용을 막기 위한 노력을 강화하고 있습니다."

회사는 AI의 개발과 활용이 비윤리적이거나 부정직한 관행을 조장하는 데 사용되기보다는 소비자 경험을 향상하고 독창성을 증진하며 합법적인 비즈니스 이익을 보호해야 한다고 강조했습니다.

AI 기술이 계속 발전함에 따라 디지털 공간에서의 오용과의 싸움은 더욱 치열해질 것입니다.

알리바바의 이니셔티브는 전자상거래의 미래를 형성하는 데 있어 AI의 역할과 온라인 거래의 무결성을 유지하기 위한 보다 강력한 시스템의 필요성에 대한 우려가 커지고 있음을 반영합니다.

---

번역:

AI 가짜 이미지 거버넌스

소비자 및 기존 판매자의 권리 보호

타오바오는 오늘부터 전체 플랫폼에 걸쳐 AI 가짜 이미지 거버넌스를 공식적으로 도입하여 소비자를 속이고 오리지널 브랜드 판매자의 권리를 침해하는 AI 생성 가짜 이미지 사용을 막기 위한 노력을 강화합니다.

AI가 생성한 허위 이미지가 이커머스 업계에서 새로운 문제로 떠오르고 있습니다. 겉보기에는 아름답지만 심각하게 부정확한 AI 이미지가 점점 더 많은 플랫폼에 넘쳐나면서 소비자를 오도하고 쇼핑 경험에 영향을 미치고 있습니다. 동시에 AI 가짜 이미지는 부도덕한 판매자가 여러 플랫폼에서 제품을 복제하고 이미지를 도용하며 오리지널 브랜드와 판매자의 정당한 이익을 침해하여 업계 환경을 악화시키는 데 드는 비용을 더욱 낮춥니다.

타오바오 규정에 따르면 제품 이미지는 주로 제품의 실제 사진을 반영해야 하며, 보정은 적당히 하고 왜곡을 피해야 합니다. AI 또는 기타 기술을 사용하여 제품 정보를 크게 왜곡하거나 잘못 표현하는 이미지를 생성하는 행위는 엄격히 금지됩니다.

AI는 판단력이 부족할 수 있지만, 사용자는 분별력을 발휘해야 하며 플랫폼은 가치를 지켜야 합니다. AI의 개발과 활용은 불법적이고 비윤리적인 이윤 창출의 도구가 아니라 소비자 경험을 개선하고 독창성을 증진하며 합법적인 판매자의 권리를 보호하는 방향으로 이루어져야 합니다. 또한 업계 전체에 AI로 생성된 이미지의 사용을 규제하고, 상품 정보의 진위 여부를 확인하고, AI 가짜 이미지에 대한 포괄적인 거버넌스에 동참할 것을 촉구합니다.