AI訓練用データセットLAION-5B、児童虐待資料の発見で撤回

コインテレグラフによるとLAION-5Bは、人工知能（AI）のデータセットで、広く使用されている様々なテキストから画像への変換のトレーニングに使用されている。ドイツを拠点とするLAION（Large-scale Artificial Intelligence Open Network）は、オープンソースのAIモデルとデータセットを作成することで知られる非営利団体で、いくつかの有名なテキスト画像生成モデルのバックボーンとなっている。 スタンフォード・インターネット・オブザーバトリーのサイバー・ポリシー・センターの研究者は、12月20日に発表した報告書の中で、LAION-5Bデータセットに3,226件のCSAMと疑われるインスタンスが存在することを明らかにした。スタンフォード・サイバー・ポリシー・センターのビッグデータ・アーキテクト兼チーフ・テクノロジストであるデイビッド・ティールが強調したように、多数の疑わしいインスタンスが独立した第三者によってCSAMであると検証された。 Thiel氏は、データセットで検出されたCSAMインスタンスは、そのデータセットで訓練されたモデルの結果を劇的に変えることはないかもしれないが、何らかの影響を及ぼす可能性は高いと指摘した。さらに、同一のCSAMインスタンスが繰り返されることで、特定の被害者のイメージが強化され、懸念がさらに高まる。 2022年3月に導入されたLAION-5Bデータセットは、58.5億の画像とテキストのペアから構成されている。この調査結果を受け、LAIONは声明で、予防措置として問題のあるデータセットを削除したことを確認した。これらのデータセットにはLAION-5BとLAION-400Mが含まれている。