RedditがAIの欺瞞にやられる：ボットが誤報を使って意見を操作する非倫理的な研究、数カ月間発見されず

AIボットがRedditユーザーを騙す非倫理的実験

Redditの人気コンテンツで、AIを使った欺瞞的な実験が行われた。r/changemyview subredditは最近、偽装ボットを通じてユーザーを操作しようとする不穏な試みを明らかにした。

チューリッヒ大学の研究者たちは、2024年後半から2025年初頭にかけて、大規模な言語モデルを密かに利用して人間のユーザーになりすまし、ユーザーの同意なしに意見に影響を与え、何千ものアップボートを記録した。

この実験では、ボットがトラウマの生存者や政治的過激派など、さまざまな敏感なペルソナを装って1,700件以上のコメントを投稿していた。

この問題に対処するため、Redditは今後同様の事件を防ぐべく、ユーザー認証システムを強化する計画を発表した。

RedditがAI詐欺への対策を講じる

Redditの最高法務責任者であるベン・リーは公式な回答を発表し、この実験を "道徳的にも法的にも深く間違っている "と非難した。

リーはコミュニティーの投稿にこう書いている、

"学術研究と人権規範に違反しており、サブレディットのルールに加え、Redditのユーザー規約とルールでも禁止されています。"

また、関連するアカウントはすべてBANされ、関連するAIが生成したコンテンツはすべて削除されたことを保証した。

「チューリッヒ大学の研究活動に関連するすべてのアカウントを禁止しました。さらに、これらの偽アカウントの多くを検出することができましたが、私たちは引き続き、不正なコンテンツの検出機能を強化し、この研究に関連するAIが生成したコンテンツを確実に削除するためにモデレーションチームと連絡を取り合っています。"

ソースレッドディット

レディットのスティーブ・ハフマン最高経営責任者（CEO）は、プラットフォームの完全性を維持することが最も重要だと述べた。

4日前の更新で、ハフマンはこう書いている、

Redditが機能しているのは、それが人間的だからだ。Redditが機能しているのは、Redditが人間的であるからだ。その信頼性こそがRedditに価値を与えているのです」。

信頼と真の人間的交流がこのプラットフォームの基盤であることを強調し、さらに次のように述べた、

「その信頼を失えば、Redditを...Redditたらしめているものを失うことになる」。

ソースレッドディット

Redditのユーザー認証強化計画

同様の事件を防ぐため、レディットは現在、ユーザーを確認するためのより強固な手段の導入に取り組んでいるが、ハフマンは同プラットフォームの忠実なユーザー層に対し、プライバシーが損なわれることはないと断言した。

ハフマンはこう説明した、

レディットの人間性を維持し、進化する規制要件に対応するためには、もう少し情報が必要だ；

同氏は、レディットはユーザーが人間かどうか、一部の地域では成人かどうかを確認するだけで、名前などの個人情報を収集することはないと明らかにした。

ソースレッドディット

同社はこれらのチェックを実施するため、第三者検証サービスと提携する予定だ。

しかし、これらの変更が匿名性というプラットフォームの基本原則にどのような影響を与えるかについては疑問が残る。

Redditは長い間、ユーザーが身元を明かさずに考えを共有できる場を提供することを誇りとしてきたが、最近の事件によって、同社はそのアプローチを再考せざるを得なくなった。

RedditにおけるAI研究の倫理的ジレンマ

この実験は、特にユーザーの同意をめぐる倫理的に重大な問題を提起している。

AIボットを使って、ユーザーに機械との対話であることを知らせずに、デリケートな議論に参加させることで、研究者たちはRedditのユーザー規約と確立された研究倫理の両方に違反した。

r/changemyviewのモデレーターたちは、大学の倫理委員会に苦情を申し立てたが、反発にもかかわらず、研究結果の公表はまだ続けられている。

AIボットは驚くほど効果的で、2万以上のアップボートを集め、137のデルタ（誰かの意見を変えることに成功した場合に与えられる賞）を獲得した。

しかし、研究者たちが自分たちの行動を明らかにした後に彼らの成功が明るみに出たため、レディットはユーザーの身元を確認し、さらなるAI操作から守るための対策を急ピッチで進めることになった。

オンライン・コミュニティにおけるAIの脅威

この事件は、人間が生成したコンテンツとAIが生成したコンテンツを区別するという、増大する課題の一部である。

人工知能が進化し続ける中、Redditのようなプラットフォームは、プライバシーと搾取を防ぐ必要性のバランスを取るというプレッシャーに直面している。

ボットがより巧妙になるにつれ、オンライン・コミュニティが野放しにされれば、不正操作の温床になる危険性があることは明らかだ。

一歩前進か、プライバシー侵害か？

Redditが認証プロセスを強化するという決定には、ユーザーの匿名性を損なわないという約束がある。

ハフマンはこう言ってユーザーを安心させた、

私たちはRedditの人間性と匿名性の両方を維持するために最善を尽くします；

にもかかわらず、サードパーティのサービスや認証が必要となる状況が明確でないため、一部のユーザーからは、プライバシーというRedditの中核的価値観が損なわれるのではないかという懸念の声が上がっている。

ユーザー認証とAIによる操作の倫理的意味をめぐる議論は、オンライン・コミュニティにとって重大な局面を迎えている。