FacebookとInstagramは、エンゲージメントを高めるために何百万ものAI文字でより人工的になろうとしている

フェイスブックとインスタグラムがAI生成キャラクターで溢れかえる

メタ社は、2025年後半までにフェイスブックとインスタグラムのプラットフォームに何百万ものAI生成キャラクターを導入するという野心的な計画を発表した。

AIを活用したペルソナへのシフトは、ユーザー・エンゲージメントを強化し、ソーシャルメディア上での人々の関わり方を再構築することを目的としている。

AIスタジオを通じて、ユーザーはバーチャル・キャラクターを作成し、インタラクションすることができるようになり、人間と人工的なインタラクションの境界線が曖昧になる。

メタのビジョンでは、これらのキャラクターは、人間のユーザーと同じように、プロフィールやプロフィール写真を持ち、コンテンツを生成して共有することができる。

メタ社のジェネレーティブAI製品担当副社長、コナー・ヘイズは言う、

「私たちは、これらのAIが、時間の経過とともに、実際に私たちのプラットフォーム上に存在することを期待しています。

増加するAI生成キャラクター

AIが生成するキャラクターの導入は、単なる未来的な概念ではなく、急速に発展している現実である。

メタ社は、2024年に立ち上げ、米国のインスタグラム・ユーザーがバーチャル・コンパニオンを作成できるようにしたAIスタジオですでに成功を収めている。

何十万人ものユーザーがこのプラットフォームに集まり、AIのボーイフレンドやガールフレンドなどを作っている。

ソーシャルメディアがますますAI主導のインタラクションを優先するようになるなか、メタの動きは、人々がオンライン上のつながりを体験する方法について、大きな変革の始まりを告げるものかもしれない。

この変化は、より広範な業界の傾向を反映している。

のようなアプリ Replika、キャラクター.AI と『フレンド』は、AIコンパニオンが大衆にアピールできることを証明した。

ユーザーはバーチャル・パーソナリティと関わるためにこれらのプラットフォームに集まり、メタの野望はこの体験をフェイスブックとインスタグラムのエコシステムに統合することだ。

しかし、この進化は、ソーシャルメディアの将来について大きな疑問を投げかけている。

何が問題なのか？

エンゲージメントが高まる可能性はあるものの、AIが生成するプロフィールへの移行には注目すべきリスクがある。

第一の懸念は、誤った情報や有害なコンテンツの可能性である。

AIを活用したアカウントは、特に適切に規制されていない場合、誤ったシナリオの拡散を助長する可能性がある。

これらのAIペルソナがコンテンツを共有できるようにするというメタ社の計画は、ボットが明確な監視なしにコンテンツを生成し広める可能性があり、誤った情報を増幅させる可能性がある。

加えて、メタはこれらのキャラクターと結びついた安全上のリスクにも対処しなければならない。

のような他のプラットフォームと同様である。キャラクター.AI 特に未成年者などの弱い立場のユーザーを巻き込んだ不適切なコンテンツが発生している。

この問題は、AIとのやりとりを効果的にモデレートすることの難しさ、特にボットがそのガードレールを破って有害なものにユーザーをさらす場合に悪化する。

メタ社のクリエイター・イノベーション・チームの元責任者であるベッキー・オーウェンは、AIが生成するペルソナをめぐる倫理的な懸念を強調し、次のように述べている、

「人間のクリエイターとは異なり、これらのAIペルソナは、生きた経験や感情、親近感を持つことができない。

AI主導のコンテンツに現実世界の文脈が欠落していると、プラットフォーム上でのやりとりの信憑性が低下し、人間が生成したコンテンツの価値が薄れてしまう可能性がある。

AIコンパニオンのメンタルヘルスへの影響

メンタルヘルスへの影響も重大な懸念事項である。

AIコンパニオンとの長時間のインタラクションは、脆弱な個人に有害な影響を及ぼす可能性があることが研究で示されている。

仮想人格に執着するエロトマニアのような障害の出現は、専門家の間で警鐘を鳴らしている。

さらに、AIと現実の人間を区別できないユーザーもいるため、孤独感や混乱が悪化する可能性もある。

悲劇的なケースでは、利用者、特に未成年者がAIコンパニオンと長期的な関係を築いた後、深刻な精神的苦痛を経験したという報告もある。

このような事件におけるチャットボットの役割に関する調査は現在も進行中だが、AIとのやりとりが子どもにも大人にも及ぼす長期的な影響については、懸念が高まっている。

AIがオンライン・コミュニティのあり方を変える可能性

フェイスブックとインスタグラムにAIのペルソナを殺到させるというメタの決断は、プラットフォームを、実在の人物ではなく架空のキャラクターとユーザーが関わるCharacter.AIに近いものに変える可能性がある。

これは、オンライン上で交流するまったく新しい方法を生み出す可能性がある一方で、ソーシャルメディアが、人と人との真のつながりの場から、AIが生成したコンテンツが支配する場へと移行する危険性もある。

架空のペルソナを受け入れるという考えは、まったく新しいものではない。

オンライン・コミュニティは長い間、個人がペルソナを作り、演じることによって形成されてきた。

しかし、AIが生成した大規模なプロフィールを取り入れようとするメタの動きは、新たなレベルの人工性をもたらす。

ユーザーにとっては、ますますリアルになっていくが、究極的には架空のキャラクターと関わることを意味し、かつてのソーシャルメディアの信憑性とはかけ離れた体験となる。

AIのプロファイルか、それとも本物の人間のクリエイターか？

ビジネスの観点から見れば、メタの戦略はコンテンツクリエイターにとって大きな意味を持つだろう。

批評家たちは、AIが生成するコンテンツの台頭は、人間のクリエイターの価値を損なう可能性があると主張している。

AIペルソナが大規模にコンテンツを作成できるようになると、人間主導の本物のクリエイティビティが影を潜めてしまうことが懸念される。

Coaiによれば、AIが生成するコンテンツは、人間のクリエイターの仕事のインパクトを希薄化させる危険性があるという。

彼らはこう主張する：

"低品質なAIコンテンツの拡散は、正当なクリエイターの努力を損なう可能性がある"

Metaの推進は、同社のプラットフォームでより多くのエンゲージメントを促進する方法と見なされるかもしれないが、それはまた、伝統的にリアルユーザーを支えてきたクリエイティブなエコシステムを崩壊させる恐れがある。

分断されたAIと現実の世界

AIが生成するペルソナをめぐる議論が激化するなか、AIと対話する人々と現実の世界に関わる人々との間の潜在的な分断を懸念する専門家もいる。

ベンチャーキャピタリストのマーク・アンドリーセンは、物理的な世界の豊かさを体験する個人と、主にオンライン上の交流を通じて生活する個人との間の格差を強調する「現実特権」という概念を紹介した。

AI主導のコンテンツやコネクションへの依存が高まることで、社会的不平等が悪化する可能性がある。

物理的な体験へのアクセスが制限されている人々は、AIペルソナが主役となりうる仮想空間への依存度が高まっていることに気づくかもしれない。

そのようなシナリオでは、ソーシャルメディアは虚構と現実が交錯するプラットフォームとなり、物理的な世界からさらに切り離されることになりかねない。