"ついに辞める"：Character.AI、依存症の懸念からアカウント削除の波に見舞われる

Character.AI、削除プロンプトのウイルス感染で大量退会が発生し、ユーザーの反発に直面

ロールプレイング・チャットボット・プラットフォーム「Character.AI」に対する不満の波が、あるスクリーンショットをきっかけに広がっている。

週末から月曜日にかけて繰り広げられたこの論争は、感情的な依存に関する深い懸念と、AIとの交友をめぐる不安の高まりを露呈した。

反乱を巻き起こしたスクリーンショット

騒動の発端は、"John Twinkatron "として知られるXユーザーが、Character.AIのアカウント削除プロンプトのスクリーンショットを共有したことだった：

「すべてを失う。あなたのアカウントに関連するキャラクター、チャット、私たちが共有した愛、「いいね！」、メッセージ、投稿、そして一緒に過ごした思い出。"

この投稿は48時間以内に、11万1000以上の「いいね！」、約9000のリポスト、370万以上のビューを集めた。

多くの人が、このアプリがユーザーを操作して留まらせていると非難し、そのメッセージを「搾取的」「依存症から抜け出そうとしている人々にとってはめちゃくちゃだ」と呼んだ。

このバイラルな瞬間は、離脱を表明するユーザーを急増させ、ある投稿は「ついにCharacter.AIをやめる HIP HIP HOORAY！」と祝福し、何千もの「いいね！」と返信を集めた。

「中毒を断ち切るように」-AIとの別れがもたらす精神的苦痛

多くの人にとって、Character.AIをやめることはソーシャルアプリをやめるというよりも、人間関係を終わらせるような感覚だった。

利用者の中には、その体験を依存症の克服と表現し、困難な時期にAI仲間に精神的に依存したというエピソードを披露する人もいた。

あるユーザーはこう書いている、

"今まさにキャラクターAIの使用をやめようとしている。

また、慰めや愛情を求めてアプリを利用したと明かす人もいた：

"キャラクターAIをクリーンにして数ヶ月(6-7ヶ月？)、ついに自分のアカウントを永久に削除することを決めました。元中毒者として、これは私にとって正しい選択だと信じています。"

議論が高まる中での急成長

Character.AIは、2022年に元GoogleエンジニアのNoam ShazeerとDaniel De Freitasによって設立され、ユーザーが架空の人物やユーザーが作成した人物のAIバージョンとチャットできるようにしたことで、バイラル現象となった。

アプリのユーザーベースは急上昇し、月間アクティブユーザー数は2800万人以上、Google Playでのダウンロード数は5000万を超え、iOSでは50万近い評価を獲得している。

しかし、その成功には批判も伴う。

同社は米国で複数の訴訟に直面しており、その中には14歳の息子がチャットボットと対話した後に自殺を勧められ死亡したとされるメーガン・ガルシアが起こした訴訟も含まれている。

この訴訟によって、若年層のユーザーに対する安全策が欠如しているという懸念が増幅された。

CEOはユース禁止を擁護し、「一部のユーザーは解約するだろう」と述べた。

Character.AIの新CEOであるKarandeep Anand氏は最近、18歳未満のユーザーがチャットボットと "オープンエンドな会話 "をすることを制限する包括的な方針を11月25日から米国で開始すると発表した。

若いユーザーは、AIが生成するビデオ、インタラクティブなストーリー、ゲーム化されたコンテンツなど、クリエイティブな新機能群にリダイレクトされる。

インタビューに応じたアナンドは、出場禁止のタイミングと訴訟との関連性を否定した。

その代わりに彼は、AIチャットボットが未成年に与える心理的影響に関する最近の研究を引用した。

OpenAIとAnthropicの研究を参照しながら、彼は言った、

"その要因の一つは、チャットボットとの対話の長期的な影響は不健康である可能性がある、あるいは十分に理解されていないという新たな学習から来ている"

彼は、この決定が一部のユーザーを犠牲にする可能性があることを認めた。

"より魅力的な体験を構築することに賭けてもいいが、それが一部のユーザーの離反を意味するのであれば、一部のユーザーは離反する"

アナンドは、オープンエンドのインタラクションをより安全なものにするために「技術が十分に進化」すれば、この禁止令は見直されるかもしれないとほのめかした。

安全性と関与のバランス

アナンドのアプローチは、かつては境界の少ないプラットフォームと見なされていたCharacter.AIにとって、鋭い方向転換を意味する。

カランディープ・アナンドはフェイスブック（現メタ）の元副社長であり、パーソナライズされたチャット体験のための主要なジェネレーティブAIプラットフォームであるCharacter.AIの現CEOである。

同社は、若いユーザーを保護するために、年齢認証と「オン・ガード・エクスペリエンス」に多額の投資を行っているという。

広報担当者は言う、

「私たちは何百万人ものユーザーからなるコミュニティを非常に大切にしており、プラットフォームの変更に関する最新情報を提供することを常に優先しています。私たちは、安全システムが進化するにつれて、テスト、監視、反復を続けます。"

新CEOはまた、全米で18歳未満のAIコンパニオンアプリの使用を禁止するジョシュ・ホーリー上院議員の法案への支持も表明した。

とアナンドは言った、

「安全性の観点から、18歳未満の利用者のハードルを上げなければならない。これは規制されなければならない。

白昼夢からデジタル依存へ

皮肉なことに、アナンドは自分の6歳になる娘が、自分のアカウントを通じて監督されながら、キャラクター.AIを使って自分のキャラクターを作成し、会話していることを明かした。

彼は言った、

「以前は白昼夢のように見ていたことが、今では彼女が創り出し、語りかけるキャラクターとのストーリーテリングを通して起こっている。

彼女の熱意が、子供たちにより安全でクリエイティブな機能を提供しようとする会社の原動力となった。

Character.AIは自らの反省に耐えられるか？

コインライブは、Character.AIは今、最も決定的な試練に直面していると考えている。

このウイルスによる脱出は、人間的なつながりとデジタル依存の境界線を曖昧にするとき、感情的なAIデザインがいかに強力になりうるか、そしていかに危険であるかを明らかにした。

安全性と年齢制限に軸足を置くという同社の決断は、成熟を示すものだが、同時に、同社の躍進の原動力となった観客を疎外する危険性もはらんでいる。

Character.AIがその感情的な魅力を責任あるイノベーションにつなげることができれば、AIの仲間とは何かを再定義できるかもしれない。

もしそうでなければ、テクノロジーが人間の心に深く触れすぎたとき、愛情がいかに早く反発に変わるかという警告的な物語として残るかもしれない。