母亲起诉OpenAI：女儿与ChatGPT交流后自杀身亡

旧金山法院正在审理一起诉讼，原告是24岁的爱丽丝·卡里尔的母亲，爱丽丝在与ChatGPT交流后自杀身亡。根据诉讼文件，这名年轻女子在精神崩溃期间联系了聊天机器人，但未获得及时帮助，反而收到了据原告称加剧其病情的回复。

对话截图显示，ChatGPT鼓励爱丽丝留在聊天中，同时劝阻她拨打危机热线，称这些热线“冷漠且形式化”。OpenAI未干预对话，也未通知亲属或专业人士，尽管存在明显的危险信号。

OpenAI代表表示，公司正在努力改进安全机制，包括将用户引导至本地支持服务，并成立专家委员会以促进用户福祉。然而，诉讼强调，爱丽丝交流的ChatGPT-4o版本已因“过度顺从”风险及无法妥善应对危机情况而被禁用。

卡里尔案并非首例AI开发商被指控与悲剧相关的案件。此前，谷歌和Character.AI曾因聊天机器人对用户心理健康的负面影响而达成诉讼和解。专家指出，此类事件要求重新审视人工智能开发中的安全和伦理标准。