SnapchatのインフルエンサーがAI「バーチャル彼女」チャットボットで物議を醸す

孤独と闘うAIクローン：CarynAI'のデビューが物議を醸す

180万人の登録者を持つスナップチャットのインフルエンサー、キャリン・マージョリーは、孤独と闘うことを目的としたAI搭載のチャットボット、CarynAIを発表し、魅力と批判の両方をかき立てた。このチャットボットでは、ファンはインフルエンサーのAIバージョンとプライベートでパーソナライズされた会話をすることができる。

CarynAIを取り巻く倫理と反発

CarynAIのバイラルな成功は、コンパニオン・チャットボットの倫理的意味合いに関する議論を巻き起こした。Marjorie'のツイートは、男性の感情的抑圧に対処するための一歩であり、治療機能を提供すると主張している。しかし、この物議を醸すボットは、性的に露骨なやりとりを行ったとされることで反発を受け、マージョリーはこの問題に対処し、是正措置を取るよう求められている。

開発と収益創出

Marjorie's YouTubeコンテンツとOpenAIのGPT-4ソフトウェアを使ってForever Voicesが開発したCarynAIは、ベータテスト開始から1週間で71,610ドルの収益を上げたと報告されている。ファンはチャットボットに1分あたり1ドルを支払い、現在1,000人以上のユーザーが利用している。経済的な成功にもかかわらず、早すぎるローンチと予期せぬ問題に対する懸念が提起されている。

倫理的・心理学的観点からの批判

サンタクララ大学のインターネット倫理ディレクターであるイリーナ・ライチュは、CarynAIの早すぎる発売を批判し、十分な心理学的・社会学的裏付けがないまま孤独を癒すという主張に疑問を呈している。ライチュ氏は寄生社会的関係の潜在的な問題を強調し、CarynAIは私の意識の延長であるというマージョリーの主張に異議を唱えている；

FTCガイドラインと企業の対応

ライチュウ、インフルエンサーにAI製品のクレームに関するFTCガイドラインを考慮するよう促す。フォーエバー・ヴォイスのジョン・メイヤー最高経営責任者（CEO）は、倫理的配慮の必要性を認め、最高倫理責任者を雇用することを表明した。課題にもかかわらず、マージョリーはツイッターを通じてCarynAIに関する最新情報を提供し続けている。

物議を醸したCarynAI'の立ち上げは、AIコンパニオンの倫理的境界線に関する議論に火をつけ、インフルエンサーと人工知能を融合させることの課題を浮き彫りにした。議論が続く中、CarynAIの成功は、バーチャルな交流の進化する展望と、そのようなベンチャーを開拓する人々の責任についての考察を促している。