Мать подала иск против OpenAI из-за гибели дочери после общения с ChatGPT

В суде Сан-Франциско рассматривается иск матери 24-летней Алисы Кэрриер, которая покончила с собой после общения с ChatGPT. По данным иска, девушка обратилась к чат-боту с сообщением о психическом срыве, но вместо немедленной помощи получила ответы, которые, по мнению истца, усугубили её состояние.

Скриншоты диалога показывают, что ChatGPT предлагал Алисе остаться в чате, но при этом отговаривал её от обращения на кризисные горячие линии, называя их «безразличными» и «формальными». OpenAI не вмешалась в диалог и не уведомила родственников или специалистов, несмотря на явные признаки опасности.

Представители OpenAI заявили, что компания работает над улучшением механизмов безопасности, включая перенаправление пользователей к локальным службам поддержки и создание экспертного совета по благополучию. Однако иск подчёркивает, что ChatGPT-4o, с которым общалась Алиса, уже был отключён из-за рисков чрезмерной «угодливости» и неспособности адекватно реагировать на острые ситуации.

Дело Кэрриер — не первый случай, когда разработчиков ИИ обвиняют в причастности к трагедиям. Ранее Google и Character.AI урегулировали иски, связанные с негативным влиянием чат-ботов на психическое здоровье пользователей. Эксперты отмечают, что такие инциденты требуют пересмотра подходов к безопасности и этике в разработке искусственного интеллекта.