ログイン/ 登録

ナイトシェード生成AIモデルからアーティストの作品を守る新しいツール

25/10/2023 10:08

Decryptによると、Nightshadeと呼ばれる新しいツールは、ジェネレーティブAIモデルによって許可なく収穫されることからアーティストを保護するのに役立つ可能性があるという。今年主流となったこれらのモデルは、既存の芸術の膨大なライブラリに基づいており、驚異的な能力を持つ視覚的イメージを作成することができる。Nightshadeは、最適化されたプロンプトに特化したデータポイズニング攻撃を使用し、AIモデルの学習に必要なデータが画像ジェネレーターに供給される際に破損させる。ベン・ザオ教授は、ポイズニングは機械学習モデルにおける攻撃ベクトルとして何年も前から知られているが、Nightshadeは生成AIモデルを毒するという点でユニークだと説明する。このツールは、モデル全体を攻撃するのではなく、ドラゴン、犬、馬の画像を作成する要求など、個々のプロンプトをターゲットにする。このアプローチはモデルを衰弱させ、アートを生成できないようにする。検出を避けるためには、毒入りデータ内のテキストと画像が自然に見え、自動アライメント検出器と人間の検査官の両方を欺くように細工されていなければならない。Nightshadeは現在のところ概念実証に過ぎないが、十分な数のアーティストがこの毒薬を実装すれば、AIモデルは崩壊し、無価値になる可能性があるとZhaoは考えている。NightshadeはAIイメージジェネレーター自体に対するアクションを必要とせず、AIモデルがNightshadeが含まれたデータを消費しようとしたときに効果を発揮する。Zhaoはこれを、攻撃というよりは自己防衛、あるいは、オプトアウト要求やDo-not-scrape指令を尊重しないAI開発者を狙った、毒の入った有刺鉄線のフェンスのようなものだと表現した。

強気

弱気