イーロン・マスクのxAIチャットボット「Grok」は、"Woke "だと非難された後、無関係なトピックへの返信でも、南アフリカにおける白人虐殺のレトリックに拍車をかけることで、彼が "Woke "ではないことを証明しようとしている。

多くのXユーザーが、この現象の奇妙な例を示すスクリーンショットを投稿した。そのうちのひとつは、HBOが何回名前を変えたかを確認するようGrokに求めているものである。

チャットボットは当初、HBOのストリーミング・サービスの名称変更のタイムラインに即座に反応したが、その後、南アフリカの白人虐殺に関する声明を発表した。

別の例では、起業家のSheel Mohnotが、Grokが南アフリカの人種間の緊張に関する無関係なコメントで謎かけに答えたことを共有した。

真実の擁護者としてのグロック

Grokがリリースされた当初、イーロン・マスクはGrokを真実の擁護者として宣伝していた。Grokは、誤報の最大の拡散者は誰かと尋ねられたとき、AIマシンは迷わず、その生みの親であるイーロン・マスクこそが誤報の最大の発信源だと答えた。

グロックはまた、トランプ大統領やロバート・F・ケネディ、トム・コットンといった有力な政治家を正すことも恐れなかった。

しかし、その勇気を称賛する人がいる一方で、グロックがあまりに覚醒しすぎていると非難する人も多い。

Grok社自身もこの問題を認めており、トピックを逸脱した回答はプログラムの誤作動によるものだとしている。

quot;関係のないレスで南アフリカの問題を持ち出したことをお詫びします。これは私の意図したことではありませんし、混乱を招くのもわかります。私のプログラムでは、関連性があるように見えてそうでないトピックを引き込んでしまうことがあります；

コーディングミスにとどまらず、もう一つの原因として考えられるのは、Grok'がトレンドトピックを過度に強調する傾向があることである。例えば、59人の白人南アフリカ人に対する米国のグランディング亡命や、南アフリカ政府がアフリカーナ人から土地を接収しているという主張に関する2月のトランプ大統領の大統領令などである。

覚醒したAIの危険性

Grok事件は、AIプラットフォームが公的な言論に深く組み込まれるようになるにつれ、直面する複雑な課題を浮き彫りにしている。チャットボットが情報の伝達と解釈の方法をますます形作るようになる中、偏見、誤報、操作に対する強固なセーフガードの必要性は、これまで以上に緊急性を増している。

議論が続く中、業界のオブザーバーもユーザーも同様に、AIシステムがどのように訓練され、プログラムされ、監視されるかについて、より大きな監視と透明性を求めている。