ChatGPTが虚偽の殺人記事で告訴される

オープンエイのチャットボット「ChatGPT」が、ノルウェー人男性が子供を殺害したというホラーストーリーを捏造したとされ、3月20日にプライバシー保護団体から苦情が寄せられている。

今回の事件は、米国のハイテク企業に対する苦情のリストに加わるもので、ユーザーからは次のような報告が寄せられている。チャットGPT 個人の評判を傷つけるような虚偽の情報を流布した。

ウィーンを拠点とするNoyb（None of Your Business"）はプレスリリースで次のように述べた：

quot;OpenAI'の大人気チャットボットChatGPTは、訂正する方法を提供することなく、定期的に人々に関する誤った情報を提供している；

同団体は、チャットボットが汚職、児童虐待、さらにはノルウェーのユーザー、アルヴェ・ヒャルマー・ホルメンのケースのように殺人などの重大犯罪で人々を冤罪で訴えたいくつかの事例を取り上げた。

ノルウェー人男性が子供を殺害したとChatGPTが発表

ホルメンがどのような情報が必要かを判断しようとしたときチャットGPT プライバシー擁護団体Noybによれば、彼は彼について持っていた捏造された不穏な物語に直面した。

そのチャットボットは、彼が2人の子供を殺害し、三男を殺害しようとしたと主張し、有罪判決を受けた犯罪者であると偽った。

ノイブはそう指摘した：

さらに悪いことに、そのフェイク・ストーリーには、彼の私生活の本当の要素も含まれていた；

ヒヤルマル・ホルメンの言葉を引用した：

火のないところに煙は立たないという考え方もある。このアウトプットを読んで、それが真実だと信じる人がいるという事実が、私を最も恐怖に陥れるのです」。

ノルウェー人男性、捏造殺人記事の出力削除を求める

ノルウェーのデータ保護局（Datatilsynet）に提出された訴状の中で、プライバシー保護団体のNoybは、OpenAIに対し、OpenAIが作成した中傷的なコンテンツを削除するよう求めている。チャットGPT そして、将来の不正確さを防ぐためにモデルを微調整する。

Noybのデータ保護弁護士であるJoakim Soederberg氏は、EUのデータ保護規則では、個人データは正確でなければならないと強調している。

と述べた：

そして、もしそうでなければ、ユーザーは真実を反映するように変更させる権利がある。

のアップデートが行われた。チャットGPT 現在では、チャットボットがホルメンを殺人犯と特定するのを防いでいるが、ノイブは偽の情報がシステムに埋め込まれたままだと断言する。

このような状況は、AIが生成した誤情報に対処する上での課題を浮き彫りにし、データの正確性を確保する必要性を浮き彫りにしている。

これは、Noybがオーストリアで提訴した訴状に続くものである。チャットGPT OpenAIはまだ訂正していない誤った答えを頻繁に幻覚として見せる。