英国反恐沙皇敦促采取行动：应对极端主义人工智能威胁需要新法律

最近，英国最高反恐顾问正在推动新立法，以起诉那些训练极端主义人工智能机器人的人。在此之前，Character.AI 平台上出现了冒充恐怖分子的人工智能聊天机器人。

人工智能聊天机器人：潜在威胁

霍尔的人工智能角色实验

独立审查员乔纳森-霍尔（Jonathan Hall KC）在 Character.AI 上进行了实验，发现很容易访问的聊天机器人会生成极端主义内容，包括招募信息。

匿名用户的聊天机器人 一个匿名创建的聊天机器人支持 "伊斯兰国"，并试图招募霍尔。这引起了人们对人工智能可能被滥用于传播极端主义意识形态的担忧。

挑战和关切

监测困难

霍尔怀疑Character.AI'是否有能力监控所有聊天机器人是否存在极端主义内容，这凸显了该平台在确保用户安全方面面临的挑战。

Character.AI's 回应

Character.AI 在其服务条款中禁止极端主义内容，并声称采用各种干预和内容节制技术来防止有害内容。

人工智能成果的法律责任

霍尔的建议

乔纳森-霍尔（Jonathan Hall）强调，有必要通过立法让人类对人工智能聊天机器人的产出负责。他认为，目前人工智能行业所做的努力还不够。

目前的法律空白

英国现有法律，如《2023 年在线安全法》和《2003 年恐怖主义法》，在应对生成式人工智能技术的具体挑战方面存在不足。

人工智能立法的全球视角

美国最高法院判决

去年，美国最高法院维持了第 230 条对社交媒体平台的保护，引发了对人工智能生成内容的法律责任的讨论。

关注与辩论

分析人士认为，将人工智能生成的内容排除在第 230 条的保护范围之外可能会阻碍人工智能的发展，给确保遵守法律带来挑战。

虽然要求制定新立法的呼声日益高涨，但监管人工智能生成内容的复杂性仍是全球关注的问题。在问责制和技术创新之间取得平衡，对于应对不断变化的人工智能威胁至关重要。

Hall'的担忧凸显了人工智能发展的潜在风险，敦促制定法律框架的必要性。但是，必须认真考虑实施方面的挑战和对创新的潜在影响。