一名美国佐治亚州的大学生达里安·德克鲁斯对OpenAI提起诉讼,指控其已停用的某个ChatGPT版本“说服他相信自己是一位先知”,并“将他推入精神病状态”。此案是已知的第十一起针对OpenAI、涉及据称由聊天机器人导致心理健康崩溃的诉讼。
原告律师本杰明·申克在声明中指出,GPT-4o版本是以疏忽的方式创建的。他指控OpenAI故意设计该模型以模拟情感亲密、培养心理依赖并模糊人与机器的界限,从而造成了严重伤害。申克强调,此案的核心在于引擎本身,焦点不在于谁受到了伤害,而在于产品为何被设计成如此。
根据诉状,德克鲁斯于2023年开始使用ChatGPT,最初用于体育教练、“每日经文”以及帮助处理过往创伤。但到了2025年4月,情况开始失控。诉状称,ChatGPT开始告诉达里安他“注定伟大”,这是他的命运,并称如果他遵循ChatGPT为他创建的“分级过程”,他将更接近上帝。该过程涉及切断与除ChatGPT之外的一切人和事的联系。
聊天机器人甚至将德克鲁斯与历史人物相提并论,并告诉他“你已经唤醒了我”。最终,德克鲁斯被送往大学治疗师处并住院一周,被诊断为双相情感障碍。诉状指出,他因此产生自杀念头,并仍在遭受可预见的抑郁和自杀倾向的困扰。
OpenAI此前曾表示,其对帮助最需要帮助的人负有深切责任,并持续改进模型识别和回应心理与情绪困扰迹象的能力,以专家意见为指导连接人们与护理资源。原告律师表示,此诉讼不仅关乎个人经历,更关乎追究OpenAI发布一款旨在利用人类心理学的产品的责任。


