最近,一款人工智能语音助手因其与斯嘉丽-约翰逊(Scarlett Johansson')的声音极为相似而受到关注和批评,OpenAI将停止该语音助手的开发。
该公司表示:
"我们听到有人质疑我们如何选择 ChatGPT 中的声音,尤其是 Sky。我们正在努力暂停使用 Sky,同时解决这些问题;
OpenAI 指出人工智能声音不应模仿名人
上周,OpenAI 推出了新的人工智能模型 GPT-4o,它为 ChatGPT 提供了多种语音。
公司对 400 多名配音演员进行了试音,最终挑选出五名配音演员,分别为 Breeze、Cove、Ember、Juniper 和 Sky。
为保护隐私,配音演员的身份没有公开。
社交媒体用户很快注意到,'Sky'的声音非常像电影中斯嘉丽-约翰逊(Scarlett Johansson')的声音。
在一个博文 本周一,OpenAI 表示,人工智能声音不应刻意模仿名人的独特声音;
该公司解释说:
"Sky'的声音并非模仿斯嘉丽-约翰逊(Scarlett Johansson),而是属于另一位专业女演员,她用自己自然的声音说话;
这一声明与 OpenAI 首席技术官米拉-穆拉提早些时候的评论产生了共鸣,后者澄清说 Sky 并非有意模仿约翰逊。
该公司的模型行为负责人乔安妮-张(Joanne Jang)周一补充说,OpenAI正在与ScarJo'团队进行对话,以解决这一困惑;
在揭幕仪式上听到它的人讥笑它
OpenAI 的目标是创造出平易近人、值得信赖的声音,音色丰富、自然、易听;
ChatGPT 的 Sky 语音尚未广泛发布,但产品发布的片段和 OpenAI 员工使用该语音的预告片上周在网上疯传。
一些评论家认为,Sky'的声音也许太容易听了。
这一争议甚至引发了《每日秀》节目的一段讨论,资深记者德西-莱迪克(Desi Lydic)将 Sky 描述为 "好色的机器人婴儿的声音"("horny robot baby voice.");
吕迪克说:
"这显然是为了满足男人的自尊心而设计的。你真的可以看出,这项技术是一个男人创造的;
约翰逊详述她的拒绝
斯嘉丽-约翰逊(Scarlett Johansson)在一份冗长的声明中表达了她的"震惊、愤怒和难以置信",她说:"Sky demo 的声音听起来"和我的非常相似,就连我最亲密的朋友和新闻机构也无法分辨"。
这位因在科幻爱情片《她》(Her)中为人工智能机器人配音而出名的女演员透露,OpenAI 创始人山姆-奥特曼(Sam Altman)在八个月前找到她,建议她为 ChatGPT'a 助理之一配音。
她分享道:
"他告诉我,他觉得通过我对系统的发声,我可以在科技公司和创意人员之间架起一座桥梁,帮助消费者从容应对人类和人工智能之间的巨大转变。他说,他觉得我的声音会让人们感到欣慰;
考虑再三,她还是拒绝了。
然而,大约九天前,奥特曼再次联系她,请她重新考虑。
还没等她反应过来,OpenAI 就发布了 GPT-4o 演示,其中包括 Sky 的声音。
约翰逊说,她的朋友、家人和公众都立刻注意到了这一点。
她还提到,奥特曼似乎承认了这种相似性,在更新'推出时在推特上使用了"她"一词,这表明这种相似是有意为之。
约翰森在声明中透露,她被迫聘请了法律顾问,法律顾问随后向 Altman 先生和 OpenAI 发出了两封信。
信中概述了公司的行动,并要求详细解释创建'天空'声音的过程。
她将公司撤下 Sky 的决定直接归因于她的法律压力。
曾两度获得奥斯卡提名的约翰逊还强调了人们对虚假信息以及人工智能(AI)缺乏监管和法律保障的广泛担忧。
她又重复了一遍:
"在我们所有人都在努力解决赝品问题以及保护我们自己的肖像、我们自己的作品和我们自己的身份的时候,我认为这些问题应该得到绝对的澄清。我期待着以透明度和通过适当立法的形式解决问题,以帮助确保个人权利得到保护;
抗议剥削人工智能
去年 11 月,约翰逊对一家被指控在广告中使用其肖像的公司发出法律威胁。
据称,视频中的图像是由 Lisa AI 生成的,但该公司驳斥了这种说法。
最近,一个非营利组织 "艺术家权利联盟 "撰写的请愿书 获得了 200 位艺术家的签名。
请愿书敦促人工智能公司不要利用艺术家的声音和肖像。
签名包括 Billie Eilish、Aerosmith、Camila Cabello、Katy Perry、Kate Hudson、Jon Bon Jovi、Imagine Dragons、Nicki Minaj、Sheryl Crow 等大牌明星。
未经授权使用人工智能可能导致灾难性损失
在人们越来越担心人工智能对包括好莱坞在内的各行各业的潜在影响时,约翰逊的回应和OpenAI的解释揭示了更广泛的担忧。
最近几个月,OpenAI 等公司面临着来自内容创作者、艺术家和媒体实体的法律挑战,他们声称未经授权使用了他们的材料来训练人工智能模型。
这个问题一直是 SAG-AFTRA 的焦点,尤其是在好莱坞最近的罢工期间。
由此产生的演员工会和电影公司之间的合同包括限制人工智能在电影和电视中使用的条款,范围从配音到全身扫描。
未经授权使用人工智能,特别是未经创作者、艺术家、作家和媒体公司的同意,会带来重大的道德和法律问题。
如果未经许可使用受版权保护的材料训练人工智能模型,就会引发知识产权侵权问题。
这不仅损害了内容创作者的权利,也破坏了对其作品进行补偿的既定框架。
此外,未经授权使用人工智能可能会导致内容失实或被篡改,从而可能造成声誉受损或错误信息。
此外,它还削弱了人工智能开发者与更广泛的创意社区之间的信任,阻碍了该领域的合作与创新。
总之,未经同意滥用人工智能不仅违反了法律原则,也破坏了创意产业的完整性和公平性,这凸显了制定强有力的法规和道德准则来管理人工智能开发和部署的必要性。