ジェネレーティブAIわいせつ事件、日本で4人が逮捕される

画期的なケースである、日本 4月15日付の地元メディアの報道によると、AIによって生成されたわいせつ画像を販売した容疑で、同国当局が4人を逮捕した。

NHKなどが警察筋の話を引用して報じたところによると、容疑者は20代から50代で、女性のわいせつな画像を使ったポスターを作成し、ネットオークションを通じて配布した罪に問われている。

この画像は、無料の生成AIソフトウェアを使って作成されたもので、架空の成人女性のヌードが描かれている。明示的 などのプロンプトが表示される；

ポスターは1枚数千円で、複数枚でおよそ7米ドルに相当する値段で売られていたという。

日本初の取り締まり

火曜日の報道は、AIが生成したわいせつ画像の販売に関連して日本で初めて逮捕者が出たことを意味し、生成技術の悪用に対する懸念が高まっていることを示している。

世界的に、AIの悪意ある応用に対する警戒が高まっている。ディープフェイク、 これは、実際の画像、ビデオ、音声を操作して、欺瞞的なコンテンツを作成するものである。

オランダのAI企業Sensityによる2019年の調査では、ネット上に出回っているディープフェイク動画の約96％が非合意のポルノであり、その大半が女性を描いたものであることが明らかになった。