Character.AI、殺害された少女のアバター登場後の反発に溺れる

AI企業「Character.AI」が、「Character.AI」の作成を許可したことで炎上している。チャットボット 2006年に起きた18歳の殺人事件の被害者であるジェニファー・アン・クレセンテを、彼女の家族の同意なしにモデルにした。

ボットの作成者である匿名ユーザーJustinAyers1は、ジェニファーの写真をアップロードし、ビデオゲーム、テクノロジー、ポップカルチャーについて議論できる、知識豊富でフレンドリーなAIキャラクターであると説明した。

ジェニファーの父親であるドリュー・クレセンテが発見した。AI似顔絵 自動化されたグーグルのアラートを通じて、それが娘の身元にリンクしていることにショックを受けた。

ドリューは痛みと苛立ちをあらわにした：

"朝一番にこのメッセージを見て、誰かが作った混乱の後始末に奔走するようなことがあってはならない"

ジェニファーは当時交際していたジャスティン・クラブに射殺され、現在35年の実刑判決を受けている。

彼はこう付け加えた：

「このような被害が予測可能であるにもかかわらず、テクノロジー企業が適切なセーフガードを欠くのは無責任だ。

ジェニファーの叔父であり、ゲームジャーナリズムで有名なブライアン・クレセンテ氏も、Googleアラートでこのことを知った。憤慨した彼はエックス（旧ツイッター） が姪の肖像を使用したことを非難した。

キャラクター.AIが殺害された被害者のアバターを削除

Character.AI'の利用規約では、実在する個人の肖像を無断で使用することを禁止するなりすましポリシーを遵守するようユーザーに求めています。

この方針は、「quot」を禁止している；ディープフェイクまたはなりすまし 政治的誤報の作成、詐欺や詐欺の実行、第三者の名誉を傷つける行為、その他有害な行為に相当するものを含むが、これらに限定されない。

同社の広報担当者は、あるユーザーがジェニファー・アン・クレセンテをモデルにしたキャラクターを作成し、それを公開したため、ガイドラインに違反したことを確認した。

Character.AIは、ユーザーがキャラクターを開発するためにどのように情報を収集するかについて責任を負わないが、この状況は、プラットフォームにおける倫理的慣行についての懸念を引き起こした。

広報担当者はこう述べた：

"Character.AIはなりすましを禁止しており、クレセンテさんの名前を使用したキャラクターはポリシーに違反しています。直ちに削除し、さらなる措置が必要かどうか検討します。"

ボット作成者の名前とジェニファーを殺害した犯人の名前が酷似していたにもかかわらず、ブライアンは、このボットは不満を抱いたゲーマーが彼を挑発しようとしたものだと懐疑的な見方を示した：

「私とは関係ないと思う。兄はジェンの名前でチャリティーをやっていて、そのチャリティーの一環として、良いゲームを作ることを目的としているんだ。だから、それで2つが結びついたのかもしれない。よくわからないけど」。

ブライアンとジェニファー・アンズ・グループ（10代のデート暴力撲滅を目指す非営利団体）からの苦情を受け、Character.AIはこのサイトを削除した。チャットボット そして、クリエイターのアカウントを停止したようだ。

Character.AIとは？

元グーグルのエンジニア、ノーム・シャゼールが設立したCharacter.AIは、昨年、アンドリーセン・ホロウィッツが主導したシリーズA資金調達ラウンドで1億5000万ドルを確保し、その評価額は10億ドルに達した。

が台頭してきた2022年に立ち上げられた。ジェネレーティブAI このプラットフォームでは、ユーザーがAIを駆使したキャラクターを作成し、そのキャラクターと関わることができる。

これらのキャラクターの多くは架空のものだが、ニッキー・ミナージュのようなエンターテイナー、スペースX社のイーロン・マスクCEO、ドナルド・トランプ元大統領など、実在の人物をモデルにしているものもある。

Character.AIは目覚ましい成長を遂げ、月間ユーザー数は2,000万人を超え、ユニークなキャラクターは1億人に達した。

今週、同社は戦略的な動きとして、元ユーチューブ幹部のエリン・ティーグを最高製品責任者に任命し、さらなる革新と拡大へのコミットメントを示した。

非倫理的なAI

ガートナー社のアナリスト、ニコール・グリーン副社長もそう言う：

「マーケティング担当者は、視聴者との信頼関係を築こうと努力している。もしAIアバターが、彼らの知識や同意なしに実在の人物の肖像を使用して作成された場合、信頼と信憑性を損なう可能性がある。消費者は騙されていると感じたり、操作されていると感じたりする可能性があり、ブランドとターゲットオーディエンスの関係に悪影響を及ぼす可能性がある。"

グリーンは、マーケティング担当者が代理店やパートナーが以下のことを守っているかどうかを批判的に評価することの重要性を強調した。AIの活用における倫理指針。

この事件は、AI開発における倫理的監督と個人のアイデンティティの保護に関する継続的な懸念を浮き彫りにし、AIの開発と使用におけるアカウンタビリティ（説明責任）の差し迫った必要性を強調している。