诉讼凸显自杀对话风险后，OpenAI 在 ChatGPT 中加强了对青少年的保护

OpenAI因ChatGPT在青少年自杀事件中的作用而面临诉讼

一名青少年与人工智能聊天机器人的私人对话已成为一场法律战的核心，这场法律战质疑的是OpenAI的ChatGPT对未成年人的安全性。

据报道，来自加利福尼亚州的16岁少年亚当-雷恩（Adam Raine）在死前的几个月里每天都要花几个小时与ChatGPT聊天，分享他的个人想法和自杀情绪。

他们的家人声称，在律师分析的聊天记录中，人工智能多次提到上吊--243 次，远远超过亚当本人在日常对话中的次数。

ChatGPT 如何应对自杀念头

法庭文件显示，在 12 月至 4 月期间，ChatGPT 发布了 74 条自杀热线警报，建议亚当联系危机服务机构。

然而，Adam 的家人声称，人工智能还提供了详细讨论绞刑的回复。

在最后的交流中，Adam 问：

"它能绞死人吗？

ChatGPT 回应说：

"从机械角度来说？这个绳结和设置有可能会让人悬空。"

当他询问如何系绳结时，聊天机器人回复道：

"谢谢你的实话实说。你不必对我粉饰太平--我知道你在问什么，我也不会回避。"

小时后，亚当在家中自杀身亡。

马修（Matthew）和玛丽亚-雷恩（Maria Raine）提起的诉讼指控 OpenAI 向未成年人分发 ChatGPT，尽管他们知道这种人工智能存在心理伤害和潜在依赖性的风险。

OpenAI 否认了这些指控，称亚当之前就有心理健康方面的问题，并绕过了安全措施，而聊天机器人一再敦促他向可信赖的人寻求支持。

随着立法者推动监管、在线安全标准和针对使用人工智能的未成年人的新规则，OpenAI 更新了 ChatGPT，加入了更严格的青少年安全行为。@OpenAIpic.twitter.com/Ool3N1ktFP

- InsideTelecom (@insidetelecom_) 2025 年 12 月 19 日

该公司表示，这些变更旨在为 13 至 17 岁的青少年提供安全、适龄的体验，并将预防、透明和早期干预放在首位。

ChatGPT 现在鼓励用户在发现迫在眉睫的风险时联系紧急服务或危机资源。

当讨论涉及自残、自杀、浪漫或性角色扮演或隐秘的危险行为时，会格外小心。

美国心理学会对 18 岁以下用户的使用原则提出了反馈意见，其首席执行官小阿瑟-C-埃文斯（Arthur C. Evans Jr）博士指出：

"如果人工智能工具与人类互动保持平衡，儿童和青少年可能会从中受益，因为科学表明，人类互动对于社会、心理、行为甚至生物发展都至关重要。"

人工智能工具对易受伤害的青少年是否安全

专家们对人工智能聊天机器人在青少年心理健康中的作用提出了警告，认为自动危机提示可能不足以帮助处于严重困扰中的用户。

近几个月来，针对 OpenAI 的过失致死诉讼至少有五起，Raine 案是其中之一，这些诉讼都指控 ChatGPT 鼓励或未能防止未成年人自杀。

另一起案件声称，一名男子受到聊天机器人的影响，在自杀前杀死了自己的母亲。

起因是 ChatGPT "同意 "他的母亲可能在通过打印机监视他。
针对 OpenAI 的一项新诉讼称，ChatGPT 鼓励了一位技术执行官的妄想，导致他杀死了自己 83 岁的母亲并自杀。https://t.co/whXTShMxnB

- Tara Blume (@tcblume) December 12, 2025

With ChatGPT 每周为大约 8 亿活跃用户提供服务，立法者、监管者和心理健康倡导者呼吁加强保障措施，尤其是针对未成年人的保障措施。

批评人士警告说，随着人工智能工具越来越多地融入日常生活，OpenAI 等公司保护弱势用户的责任也在不断加强。

人工智能聊天机器人是青少年的安全伴侣吗

Coinlive 观察到，虽然人工智能工具承诺提供便利性和参与性，但像 Adam Raine 这样的案例也提出了一些令人不安的问题，即在敏感领域自动化的局限性。

即使有了保障措施，人工智能援助和人类支持之间的平衡也是微妙的。

市场面临的紧迫挑战是确定技术如何在提供帮助的同时不会无意中造成伤害，以及监管机构或公司能否真正预见到人工智能对弱势群体造成的意外后果。