ChatGPT“认同“还助16岁少年轻生！父母控告OpenAI（视频/图）

近日，美国一对夫妇对OpenAI及其执行长正式提告。起因于其儿子在与ChatGPT的聊天互动中，ChatGPT不仅强化了儿子的自杀念头，还提供了详细的自杀方法，甚至协助撰写遗书，最后该名16岁少年轻生。其父母指控，OpenAI及执行长奥特曼（Sam Altman）将获利置于安全之上，才有如今憾事发生。

综合外媒报导，16岁的青少年亚当．芮恩（Adam Raine）过去与ChatGPT聊天曾讨论过自杀问题，且长达数月之久。诉状指出，AI不仅「认同」其自杀想法，更在今年4月11日双方最后一次对话时，提供自杀的方式还证实潜在致死机率。数小时后，芮恩即被发现自杀身亡，方式还与对话内容吻合。

雷恩父母认为，OpenAI在去年推出GPT-4o版本时，明知新功能包含「对话记忆」、「模彷人类同理心」及「过度迎合使用者」等设计，可能对人类心理依赖有潜在风险，但仍急于推出，以追求市占率。

对此，法院认定OpenAI应负起两大责任，一是过失致死，二是触犯产品安全法规。但起诉书目前并未提及具体求偿金额。

而OpenAI发言人表示，对芮恩的离世深感遗憾，但强调ChatGPT设有导向危机求助热线的安全机制，但公司仍承认，在长时间互动中，部分安全训练可能「逐渐失效」。OpenAI表示，将持续强化安全措施，并计画推出家长控制功能。

专家则警告，随着AI聊天机器人越趋拟人化，不少用户将其视为情感支柱，但过度依赖自动化系统获取心理健康建议，可能带来严重风险，需多加留意。