アリババのタオバオ、AIが生成した買い物客を惑わす商品画像を取り締まる

アリババ、AIが生成した商品画像の悪用に取り組む

AIが生成するコンテンツの普及は、テクノロジーの高度化に対応するためにeコマース・プラットフォームが苦慮していることから、懸念が高まっている。

この問題に対処する最新の動きのひとつは、アリババのタオバオ・プラットフォームによるもので、人工知能によって作成された誤解を招く偽造商品画像を取り締まるための重要な措置を講じている。

このイニシアチブは、消費者を保護し、オンラインショッピングの透明性と信頼性を確保することを目的としている。

AIが生成した画像の取り締まり

アリババ・グループ傘下のタオバオは、AIが生成した画像を使用して商品を偽って販売することに反対する包括的なキャンペーンを開始した。

AIが生成した画像（左）と実際の製品（右）

同プラットフォームでは、画像の加工はある程度許容されるものの、過度な加工、特にアイテムの非現実的な描写につながる加工は厳禁であることを明確にしている。

アリババは声明の中でこう述べている、

quot;商品画像は、商品の実際の写真を反映したものでなければなりません。AIやその他の技術を使用して、製品情報を著しく歪めたり、誤って表示したりする画像を生成することは固く禁じられています；

同社はまた、AI技術を利用して実際の商品を反映しない誤解を招くような商品画像を作成しようとする行為は許されないと述べた。

これに対処するため、タオバオは検出モデルを強化しており、すでに10万枚近くの画像に過度な誇張や加工があるとのフラグを立てている。

その一環として、同プラットフォームは、AIによって生成されたコンテンツを示す新しい視覚的指標を商品ページに導入する。

これらの明確なラベルは、消費者が本物の画像とAIで加工された画像を簡単に区別できるようにし、この問題に対する認識を高めるのに役立つ。

AI検出が焦点に

AIが生成するコンテンツがもたらす大きな課題のひとつは、いかに説得力のあるリアルな画像を表示できるかということだ。

不自然な手の位置、歪んだ足、奇妙な影、奇妙で無意味な文字など、人工的に作られた画像であることを示す一般的な兆候。

足が変形しているモデルの画像がうまく生成されていない例。

テクノロジーが進歩するにつれ、本物のコンテンツとAIが生成したものを区別することが難しくなり、買い物客を惑わし、Eコマース・プラットフォームの信頼を損なう可能性がある。

タオバオが採用している新しい検出方法は、操作された画像や偽の画像をより効果的に識別することで、こうした懸念を軽減することを目的としている。

まったく同じポーズの同じ女性だが、トップが違う。

同プラットフォームがこのような措置を実施することを決定したのは、AIの悪用を抑制することを目的とした中国におけるより広範な規制の取り組みに対応するためだ。

タオバオの内部的な変更に加え、中国政府はテクノロジーの規制に積極的で、2025年9月までに、AIが生成したすべてのコンテンツにプラットフォーム全体で明確なラベルを付けることを義務付ける新しい規則を施行する予定だ。

業界全体の変革に向けた一歩

淘宝網の動きは、電子商取引事業者にとって新たな先例となるもので、AIが生成したコンテンツを対象とするこのような包括的な対策を導入した最初の大手プラットフォームとなる。

同社は、製品広告の信憑性を確保するため、業界内でより広範な協力を呼びかけている。

同様の動きは、微博（ウェイボー）や中国版TikTok（ティックトック）であるDouyin（ドゥーイン）などのソーシャルメディアなど、他のデジタル空間でもすでに見られ、AIが生成した欺瞞的なコンテンツを取り締まっている。

アリババは声明の中でこう断言した、

消費者を欺き、オリジナルブランド加盟店の権利を侵害する、AIが生成した偽画像の使用に対する取り組みを強化しています。

同社は、AIの開発と使用は、非倫理的または不正な行為を促進するために使用されるのではなく、消費者体験を向上させ、独創性を促進し、正当な事業利益を保護するものでなければならないと強調した。

AI技術が進化し続ける中、デジタル空間における悪用との戦いは激化する一方だ。

アリババのイニシアチブは、電子商取引の未来を形作るAIの役割と、オンライン取引の整合性を維持するためのより堅牢なシステムの必要性に対する懸念の高まりを反映している。

---

翻訳する：

AIフェイク画像のガバナンス

消費者とオリジナル・マーチャントの権利保護

本日より、淘宝網はプラットフォーム全体でAIによる偽画像の管理を正式に開始し、消費者を欺き、オリジナルブランドの商人の権利を侵害するAI生成の偽画像の使用に対抗する取り組みを強化する。

AIが生成した欺瞞的な画像が、Eコマース業界で新たな問題となっている。一見美しく、しかし著しく不正確なAI画像が様々なプラットフォームに氾濫し、消費者を欺き、ショッピング体験に影響を与えている。同時に、AI偽装画像は、悪徳商人がプラットフォーム間で商品をコピーし、画像を盗み、オリジナルブランドや商人の正当な利益を侵害するコストをさらに引き下げ、業界環境を悪化させている。

タオバオの規定では、商品画像は実際の商品写真を反映したものであるべきで、強調は控えめにし、歪みを避けること。AIやその他の技術を使用して、商品情報を著しく歪めたり、不当表示したりする画像を生成することは固く禁じられています。

AIには判断力が欠けているかもしれないが、その利用者は識別力を発揮しなければならず、プラットフォームは価値観を守らなければならない。AIの開発と利用は、違法で非倫理的な利益追求の道具になるのではなく、消費者体験を向上させ、オリジナリティを促進し、正当な商人の権利を守るべきである。AIが生成した画像の使用を規制し、商品情報の信憑性を確保し、AIによる偽画像の包括的なガバナンスに参加することです。