美国司法部周二表示,美国执法当局查获了两个由克里姆林宫支持的人工智能社交媒体机器人农场有关的域名。
在 2022 年 6 月 11 日至 2024 年 3 月 1 日期间,机器人农场总共创建了超过 968 个 Twitter 帐户。
在周二公布的法庭文件中,美国司法部表示,该机器人农场这是克里姆林宫批准和资助的项目的一部分,该项目由一名俄罗斯情报官员负责。
美国司法部称,机器人农场本身及其背后的人工智能软件是由俄罗斯国有媒体RT的一位不愿透露姓名的编辑组织的。(多年来,RT一直将俄罗斯政府的议程推向包括美国在内的国际受众。但自俄罗斯 2022 年入侵乌克兰以来,该媒体已经失去了一些影响力,这促使欧盟禁止俄罗斯官方媒体和包括 TikTok、Facebook 和谷歌在内的科技公司限制访问。)
据称,该机器人农场使用亚利桑那州域名提供商 Namecheap 发布的域名(mlrtr.com 和 otanmail.com)、私人电子邮件服务来生成随机电子邮件地址。
并在 Twitter 上创建个人资料冒充成美国人,随后在Twitter 发布对俄罗斯在乌克兰的战争的虚假信息和其他亲克里姆林宫的言论。
联邦调查局局长克里斯托弗·雷(Christopher Wray)说:“今天的行动代表了破坏俄罗斯赞助的生成式人工智能增强社交媒体机器人农场的第一次。
雷还在随后一份声明中说:“俄罗斯打算利用这个机器人农场来传播人工智能生成的外国虚假信息,在人工智能的帮助下扩大他们的工作规模,以破坏我们在乌克兰的合作伙伴,并影响有利于俄罗斯政府的地缘政治叙事。
在这众多机器人账户其中包括一名自称居住在明尼阿波利斯的用户,他发布了俄罗斯总统弗拉基米尔·普京的视频,为俄罗斯在乌克兰的行动辩护,并声称乌克兰、波兰和立陶宛的部分地区是二战后俄罗斯军队的“礼物”。
这些账户现在似乎因违反服务条款已被Twitter删除。目前尚不清楚有多少人关注了虚假帐户或与他们的帖子进行了互动,Twitter没有回应置评请求。
俄罗斯机器人农场再度敲响警钟
机器人农场的中断正值美国官员对人工智能技术影响今年选举的可能性发出警告,并且持续担心对手的外国影响力活动可能会影响毫无戒心的选民的意见。
就像2016年总统竞选期间发生的那样,当时俄罗斯人发起了一场庞大但隐藏的社交媒体拖钓活动,部分目的是帮助共和党人唐纳德·特朗普击败民主党人希拉里·克林顿。
人工智能技术巨大影响力
现在,人工智能技术的进步使人们能够快速轻松地生成逼真的文本、图像、音频和视频,这引起了人们的担忧,即这些工具可用于大规模地产生更多的宣传和虚假信息。
最近,Facebook 所有者 Meta 和 ChatGPT 的创建者 OpenAI 表示,他们已经确定了外国影响力活动,包括一些与俄罗斯有关的活动,利用人工智能来操纵公众。