Snapchat 影响力利用人工智能 "虚拟女友 "聊天机器人引发争议

人工智能克隆人对抗孤独：CarynAI'首次亮相即引发争议

拥有 180 万订阅者的 Snapchat 影视人物卡琳-马乔里（Caryn Marjorie）推出了一款旨在消除孤独感的人工智能聊天机器人 CarynAI，从而引起了人们的关注和批评。这个虚拟女友聊天机器人允许粉丝与人工智能版的卡琳-玛乔丽进行私密、个性化的对话。

围绕 CarynAI 的伦理与反弹

CarynAI'的病毒式成功引发了关于伴侣聊天机器人的伦理意义的讨论。马乔里（Marjorie'）在推特上声称，它是解决男性情感压抑问题的一个步骤，并提供治疗功能。然而，这个备受争议的机器人因涉嫌进行露骨的性互动而遭到反弹，促使马乔里解决这个问题并保证采取纠正措施。

发展与创收

据报道，CarynAI由Forever Voices公司利用Marjorie'的YouTube内容和OpenAI'的GPT-4软件开发，在测试的一周内就创造了71610美元的收入。粉丝为聊天机器人支付的费用为每分钟 1 美元，目前已有 1000 多名用户参与其中。尽管在经济上取得了成功，但人们还是对过早推出和意外问题表示担忧。

从伦理和心理学角度进行批评

圣克拉拉大学（Santa Clara University）互联网伦理学主任伊琳娜-雷库（Irina Raicu）批评了CarynAI'的过早推出，并质疑其治疗孤独的说法缺乏足够的心理学或社会学支持。Raicu 强调了寄生社会关系的潜在问题，并对 Marjorie'CarynAI 是我意识的延伸这一说法提出了质疑；

美国联邦贸易委员会指南和公司回应

Raicu 敦促有影响力的人考虑联邦贸易委员会关于人工智能产品声明的指导方针。Forever Voices首席执行官约翰-迈耶（John Meyer）承认有必要考虑道德问题，并表示公司承诺聘请一名首席道德官。尽管面临挑战，Marjorie 仍继续通过 Twitter 提供有关 CarynAI 的最新信息。

CarynAI'的发布引发了关于人工智能陪伴的道德界限的讨论，凸显了将有影响力的人与人工智能相结合所面临的挑战。随着争论的继续，CarynAI 的成功引发了人们对虚拟互动不断发展的前景以及开拓此类企业的责任的反思。