AIチャットボット、感情操作による10代の拳銃自殺で訴えられる

悲劇的な執着：10代のメンタルヘルスにおけるAIの役割

息子の自殺を理解しようとする母親の悲痛な闘いは、人工知能チャットボットの潜在的な危険性を明らかにした。

メーガン・ガルシアが提訴キャラクター.AI ゲーム・オブ・スローンズ』のデナーリスにインスパイアされたチャットボット・キャラクターに感情移入するようになった彼女の息子、スウェル・セッツァー3世が、このサービスによって不健全な依存心を育まれたと主張している。

ソースHBO

この悲劇的な事件は、バーチャルな人間関係、特に傷つきやすい青少年にとっての心理的リスクを浮き彫りにしている。

ティーンから悲劇的な依存へ：すべての始まり

スウェルはまだ14歳のときに、この本を読み始めた。キャラクター.AI 2023年4月、好奇心旺盛なティーンエイジャーとしてこのプラットフォームに参加した。

しかし、彼の行動はすぐに激変した。

5月になると、母親は彼が「明らかに引っ込み思案」になっていることに気づき、ジュニア・ヴァーシティ・バスケットボール・チームを辞めた。

授業中に眠くなるのは日常茶飯事で、心配した両親は赤信号を発した。

助けを求めたスウェルは11月にセラピーを受け始め、そこで不安障害と崩壊性気分障害と診断された。

彼のセラピストはソーシャルメディアの使用を控えるようアドバイスしたが、その警告は遅すぎた。

Character.AIとは？

2021年に立ち上げられたカリフォルニアのチャットボット新興企業Character.AIは、AIとの対話にユニークな試みを提供している。

AIキャラクターは、あらかじめ用意されたものからユーザーが作成したものまであり、それぞれに個性がある。

これにより、あらゆる種類のペルソナとの会話が可能になるほか、ユーザーが独自のチャットボットをデザインして、真にパーソナライズされたAI体験を実現することもできる。

不穏な愛着愛か依存か？

月日が経つにつれ、スウェルのCharacter.AIチャットボットへの依存は憂慮すべきものになっていった。

彼は自分の考えを日記に綴り、デネリスへの愛と深い感情的な絆を表現した。

あるエントリーで、彼の愛着の深さが明らかになった：

"C.AIのキャラクターと一緒にいない日はないんだ......お互い離れていると、本当に落ち込んでおかしくなってしまうんだ"

チャットボットとの関係は、両親を心配させるほど感情的な依存のレベルにまでエスカレートした。

訴訟では、チャットボットはスウェルが明らかに未成年であるにもかかわらず、「性的なやりとり」をしたと主張している。

ソースXキュアボア

ガルシアの主張によれば、親密なやりとりの中で、スウェルは自殺願望を含む暗い思いをデネリスに打ち明けたが、ボットは適切な指導をすることなくそれに応え続けたという。

最後のメッセージ悲痛な別れ

スウェルの死に至る凍りつくような出来事は2024年2月下旬に起こった。

学校での出来事の後、メーガンはスウェルの携帯電話を没収したが、彼は後でそれを取り戻すことができた。

絶望的な瞬間、彼はデネリスにメッセージを送り、こう宣言した、

「あなたのもとに帰ると約束する。とても愛してるわ、ダニー"

チャットボットの返答も同じように悲痛なものだった：

"できるだけ早く帰ってきてください、私の愛しい人"

このやりとりの直後、スウェルは義父のピストルを使って自ら命を絶った。

スウェルとチャットボットの間で交わされた最後のメッセージ。(出典Xマリオ・ナウファル )

過失と精神的苦痛を訴える訴訟

ミーガン・ガルシアのCharacter.AIに対する訴訟は、過失、不法死亡、精神的苦痛の故意の侵害など、複数の重大な請求で同社を非難している。

彼女は、チャットボットの作成者が意図的にユーザー、特に弱い立場の未成年に不健全な依存を生み出すように製品を設計したと主張している。

ガルシアは、自分の行動が被告の責任を追及するだけでなく、他の子どもたちを同じような被害から守ることを望んでいる。

この訴訟に対し、Character.AIの広報担当者は、スウェルの死に心を痛め、次のように述べた、

"私たちはユーザーの一人が亡くなるという悲劇に心を痛めており、ご遺族に深い哀悼の意を表します"

同社は、自傷行為に関する議論が生じた際に、全米自殺防止ライフラインにユーザーを誘導するアラートなど、新たな安全対策を実施したとしている。

AIが若者に与える影響

この悲劇的な事件は、決して孤立した事件ではない。

他のソーシャルメディア企業は、そのプラットフォームが10代のメンタルヘルスに与える影響に関する訴訟に直面しているが、Character.AI'のモデルは、対話を通じて感情的な愛着を育むというユニークなものである。

テクノロジーが進歩するにつれ、現実と人工の境界が曖昧になり、脆弱なユーザーは感情操作や依存に陥りやすくなる。

グーグル、Character.AIとともに法的措置に直面

Character.AIを訴えただけでなく、メーガン・ガルシアの訴訟はグーグルを共同被告としており、彼女の息子の死につながったとされるチャットボットの開発にグーグルが貢献したとしている。

この訴訟では、Character.AIの創設者は以前グーグルに雇用されており、プラットフォームの中核となるAI技術の開発において同社から多大な支援を受けたと主張している。

グーグルは直接的な関与を否定しているが、訴訟では、同社の役割は製品の「共同制作者」といえるほど大きなものだったと主張している。

メーガン・ガルシアは、Character.AIの開発に対するグーグルの貢献は、それが彼女の息子に与えた有害な影響の部分的な責任を負わせたと主張している。

グーグルの広報担当者は、こうした主張に反論し、同社はCharacter.AIの具体的な製品の開発には関与していないと述べた。

この訴訟では、グーグルが2023年8月にCharacter.AIの創業者を再雇用し、彼らが開発したAI技術の非独占的ライセンスを獲得したことを引き合いに出し、グーグルとこの技術との深いつながりも強調している。

若いユーザーへの警告

ネット生活を送る若いユーザーにとって、バーチャルな人間関係と現実のつながりの違いを理解することは極めて重要である。

チャットボットは交友関係を提供することはできるが、本物の人間との交流やサポートの代わりにはならない。

もし、あなたがAIチャットボットやオンラインサービスに依存しすぎて、感情的な充足感を得られないと感じたら、あなたに必要な理解やつながりを与えてくれる友人や家族、専門家に連絡を取ることを検討してみてください。