AI Gone Wrong：シェイン、殺人容疑者に似せたAI画像のシャツを販売し炎上 - AIは信用できるのか？

シェイン、商品リストに殺人容疑者のAI画像が掲載され、反発に直面

2024年12月にユナイテッド・ヘルスケアのブライアン・トンプソンCEOを殺害した罪に問われている26歳のルイジ・マンジョーネの顔が、10米ドル以下の男性用シャツのモデルとなっている画像が同社のウェブサイトに掲載されたことで、シェインは再び物議を醸している。

白とブルーの花柄の半袖シャツの商品写真はすぐに削除されたが、スクリーンショットがソーシャルメディアに拡散するまではなかった。

ソースX

オブザーバーたちは、この映像が本物なのか、それとも人工的に作られたものなのかと疑問を呈した。

BBC Verifyは、アマゾンのレコグニションがマンジョーネの法廷画像と99.9％の一致を示したと報じ、この画像はAIが作成したものか、デジタル操作されたものであるとの憶測を呼んだ。

AIの異常が写真の起源を疑わせる

ジェネレーティブAIの専門家たちは、操作の証拠となりうる複数の視覚的欠陥を指摘した。

ディープフェイク技術の専門家であるヘンリー・アジェダーは、肌の質感、照明、指のセグメンテーションの問題、そしてモデルの前腕の上にある異常なアーチファクトを強調した。

研究者のヘンク・ヴァン・エスは、おそらくMidjourneyを使って、マンジョーネの顔が合成モデルの身体にブレンドされたAI合成である可能性が高いと示唆した。

この論争は、犯罪と同じように外見が話題となる暴力的な人物に固執する社会についての議論を再燃させた。

州および連邦の殺人罪に対して無罪を主張しているマンジョーネは、すでにネット上で思わぬ支持を集めており、彼を医療業界に対する怒りの象徴と見る向きもある。

ルイジ・マンジョーネとは？

ルイジ・ニコラス・マンジョーネは1998年5月6日、メリーランド州タウソン生まれ、アイビーリーグ出身で、ユナイテッド・ヘルスケアのブライアン・トンプソンCEOを殺した犯人として告発されている。

2024年12月4日、マンジョーネはマンハッタンのミッドタウンにあるホテルの外でトンプソンを射殺したとされ、5日後にペンシルベニア州アルトゥーナで逮捕された。

彼は銃器、サイレンサー、偽の身分証明書、医療会社を批判する手書きのマニフェストを所持していた。

マンジョーネは、第一級殺人、テロリズム助長殺人、銃刀法違反など複数の罪に問われている。

連邦検察は死刑を求刑している。

シェインが上場廃止、ベンダーの見直しを約束

シャインは複数の報道機関に、この画像は第三者業者から提供されたものであり、すぐに削除されたことを確認した。

同社は『ニューズウィーク』誌にこう語っている、

"問題の画像は第三者業者から提供されたもので、発見次第直ちに削除された"

広報担当者はまた、シェインはプロセスの見直しを行っており、"当社の方針に沿って業者に対して適切な措置をとる "と付け加えた。

すぐに撤去されたにもかかわらず、このシャツは話題になる前にすでに完売していたとの報道もあった。

ソーシャルメディアユーザーは、シェインはもっと早くこの類似性に気づくことができなかったと批判し、一方では、同社はその業務において倫理的な欠如があると繰り返し非難されてきたと指摘する者もいた。

IPOの野望がまたも頓挫

このスキャンダルは、欧米の投資家からの信用を高めるために株式上場を目指していたシェインにとって微妙な時期に起こった。

また、ロンドン証券取引所への上場交渉も、新疆ウイグル自治区に関連する情報開示をめぐる英国と中国の規制当局の意見の相違により頓挫した。

現在、同社は香港でのIPOの可能性を探っており、ブルームバーグは、北京の承認を得るためにシェインが中国本土に拠点を戻す可能性さえあると報じている。

シンガポールに本社を置き、評価額66億米ドルのファストファッションの小売業者は、そのビジネス慣行に関する疑問の高まりに直面している。

ファッションにおけるAIは、便利さがいかに早く混沌に変わるかを示している

今週シェインに起こったことは、単なる企業の恥ずべきことではなく、AIがどこまで野放図に市場を再編成しているかを垣間見るものだ。

殺人容疑者の顔がネット上で格安シャツのモデルになる可能性があるとき、自動化と説明責任の境界線は危険なほど曖昧になる。

コインライブは、これはシェインだけでなく、適切な監視なしにジェネレーティブツールに依存しているすべてのブランドに対する警鐘だと考えている。

AIは商業をスピードアップさせるかもしれないが、FBIの監視リストに載っている男性の顔を再利用し始めたら、そのシステムが本当に欠陥だらけであることが明らかになる。