AI脱衣トレンドの出現

ソーシャルメディア分析会社Graphikaは、「AI脱衣」の利用が増加していることを観察している； ここでは、ユーザーから提供された画像から衣服をデジタル除去するために、生成人工知能（AI）ツールが採用されている。

この傾向は、プライバシーと同意に関する注目すべき懸念を引き起こす。

Graphika'の調査結果によると、2023年には、RedditやXなどのプラットフォームで、コメントや投稿が合計32,100件以上となり、前年比2,408%という大幅な伸びを示す。

スクリーンショットはGraphika Reportより引用：

この傾向は、AIを活用して同意なしに露骨なコンテンツを生成する合成非同意親密画像（NCII）サービスの台頭と関連しており、標的型ハラスメント、セクストーション、児童性的虐待素材（CSAM）作成のリスクをもたらしている。

グラフィカは、リアルな明示的コンテンツを大規模に生成するために、AIツールがもたらす容易さと費用対効果を強調している。

このようなツールがなければ、ユーザーはカスタム画像拡散モデルを管理する必要があり、時間とコストのかかる作業になる可能性がある。

同社は、偽の露骨なコンテンツの作成を含む潜在的な結果について警告している。

さらに、脱衣のためのAIの利用は、静止画像だけでなく、ミスター・ビーストやトム・ハンクスのような有名人を起用したビデオ・ディープフェイクにまで及んでいる。

ダークウェブの発見と懸念

10月にはインターネット・ウォッチ・ファンデーション（IWF） あるダークウェブ・フォーラムで、1ヶ月の間に20,254枚以上の児童虐待画像が発見され、AIが生成した児童ポルノがインターネット上で圧倒的な影響力を持つ可能性について懸念が高まっている。

IWFによれば、ジェネレーティブAIの画像処理の進歩により、ディープフェイクポルノと本物の画像を区別することはより困難になっている。

成長するAIディープフェイク

国連はこの問題の深刻さを強調し、AIによって生成されたメディアは、特にソーシャルメディアにおいて、情報の完全性に対する深刻かつ緊急の脅威であると宣言した。

これに対して欧州議会と理事会の交渉担当者は12月8日、欧州連合（EU）におけるAIの使用に関する規則を制定した 人工知能が生成するコンテンツがもたらす広範な課題に取り組む。