イメージMLYearning

ノースウェスタン大学は最近、カスタムGPT（Generative Pre-trained Transformer）に重大な脆弱性があることを公表した。

その汎用性と適応性にもかかわらず、これらの高度なAIチャットボットはプロンプト・インジェクション攻撃を受けやすく、機密情報が漏洩する危険性がある。

OpenAIのChatGPTとGPT-4 Turbo Large Language Modelを使用して開発されたカスタムGPTには、特定のプロンプト、データセット、特殊なタスクの処理命令などの独自の要素が組み込まれています。

画像デクリプト

しかし、これらのカスタマイズやその作成に使用された機密データは、権限のない第三者によって簡単にアクセスされる可能性があります。

Decryptによる実験では、基本的なプロンプトのハッキングによって、カスタムGPT'の完全なプロンプトと機密データを簡単に抽出できることが実証された。

200以上のカスタムGPTをテストした結果、研究者は、初期プロンプトの抽出やプライベートファイルへのアクセスの可能性を含め、このような侵害の可能性が高いことを発見した。

この調査では、知的財産の侵害とユーザーのプライバシー侵害という2つの大きなリスクが浮き彫りになっている。

攻撃者はGPTを悪用して、コアコンフィギュレーションとプロンプトを抜き出したり（システムプロンプトの抜き出し）、機密のトレーニングデータセットを流出させたりすることができる（ファイルの流出）。

防御的プロンプトのような既存の防御策は、より洗練された敵対的プロンプトに対しては効果がないことがわかる。

より脆弱に？

研究者たちは、これらのAIモデルを保護するためのより包括的なアプローチを主張し、断固とした攻撃者は現在の脆弱性を悪用できる可能性が高いことを強調している。

この研究は、AIコミュニティに対し、より強力なセキュリティ対策を開発するよう求めており、このような高度な悪用技術に対しては、単純な防御プロンプトでは不十分であることを示唆している。

GPTのカスタマイズが進み、大きな可能性がある中、この調査は、セキュリティ・リスクの重大な注意喚起となる。

ユーザーのプライバシーと安全性を損なうことなく、AIのセキュリティを強化する必要性を強調している。

ノースウェスタン大学の研究全文はこちらからご覧いただけます。これ .