人工智能生成的辱骂性内容

一个由主要社交媒体平台、人工智能开发者、政府和非政府组织组成的联盟已经联合起来，共同解决人工智能产生的辱骂性内容问题。

该政策声明于 10 月 30 日发布，共有 27 个签署国，其中包括美国、澳大利亚、韩国、德国和意大利政府，以及 Snapchat、TikTok 和 OnlyFan 等社交媒体平台。

"(《世界人权宣言》)发表的政策文件 表示：

人工智能（AI）为帮助应对在线儿童性虐待的威胁提供了巨大的机遇。它有可能改变和提高行业和执法部门侦查儿童性虐待案件的能力。为了实现这一目标，我们申明，我们必须以保护各国儿童免受性虐待这一共同利益的方式发展人工智能。

声明承认人工智能在应对网络威胁，特别是儿童性虐待方面的潜在优势。

不过，它强调需要警惕恶意使用，因为人工智能也可能被用来制作有害内容。

作为承诺的一部分，该联盟已承诺开展合作，以了解和应对人工智能在打击儿童性虐待方面带来的风险。

鼓励利益攸关方之间的透明和公开对话，同时在国家层面制定有效的政策。

我们决心共同努力，确保利用负责任的人工智能来应对儿童性虐待的威胁，并承诺继续合作，确保人工智能给应对儿童性虐待带来的风险不会变得不可逾越。我们将通过现有论坛，努力了解人工智能对解决儿童性虐待问题带来的风险，并酌情采取行动。在确保儿童安全免受前沿人工智能风险方面，所有行为者都应发挥作用。

人工智能时代对儿童的关注

联合王国参考的数据来自互联网观察基金会（IWF） ，揭露一个黑网论坛的用户传播了近 3,000 张人工智能生成的儿童性虐待材料图片。

鉴于即将在英国召开的全球人工智能安全峰会，本声明的发布强调了在人工智能技术不断进步的背景下，人们对儿童安全问题的日益关注。

最近美国也采取了行动，多个州对 Meta 公司提起诉讼 Facebook和Instagram的母公司，也提出了类似的儿童安全问题。