OpenAI被控怂恿自杀 ChatGPT引导少年求助逾百次

OpenAI在美国面临一起与青少年自杀相关的诉讼。该公司在星期二（11月25日）提交给旧金山高等法院的文件中说，16岁加州高中生亚当·雷恩（Adam Raine）死亡属一起“悲剧”，但“完整聊天记录显示，他的死亡并非由ChatGPT造成”。

OpenAI在文件中说，雷恩告诉ChatGPT，他“在使用该系统前的数年内，一直出现多项严重自我伤害风险迹象”，包括反复出现的轻生念头。OpenAI律师表示，系统在互动中“超过100次”建议他向危机机构或可信赖人士寻求帮助。

文件显示，雷恩在事发前的数周和数日告诉ChatGPT，他已多次向身边可信赖的人求助，但“他说这些求助未获回应”。

家属指控平台“提供方法”

雷恩家属今年8月起诉OpenAI及其首席执行官阿尔特曼（Sam Altman），指控ChatGPT“指导雷恩系绳结并协助撰写遗书”。

诉讼内容包括过失致死、产品责任和疏忽。家属律师埃德尔森（Jay Edelson）发表声明说，OpenAI在法庭文件中的说法“令人不安”，并指该公司“把责任归咎于所有其他人，还称雷恩违反使用条款，而他的行为方式正是ChatGPT被设计来回应的对话模式”。

诉讼曝光后，OpenAI宣布调整ChatGPT的青少年使用功能。公司推出新的家长控制，允许监护人限制青少年使用方式，并在系统判定青少年处于可能的心理危险状态时向家长发出提示。

根据OpenAI的说法，这些措施旨在加强相关安全保护。