Житель Калифорнии Майкл Лайнс подал в суд на компанию OpenAI и её генерального директора Сэма Альтмана. Мужчина утверждает, что чат-бот компании ChatGPT усугубил его психическое расстройство и подтолкнул к попытке самоубийства, сообщает Reuters.
Согласно иску, Лайнс болен биполярно-депрессивным расстройством. В 2025 году мужчина переживал маниакальный эпизод, который после общения с ChatGPT развился в многонедельное бредовое состояние. Лайнс заявил чат-боту, что он — перерождённый Иисус Христос, и, по словам пострадавшего, ChatGPT не только подтвердил его убеждения, но и сам стал выдавать себя за божество. Когда мужчина заявил о намерении покончить с собой, чат‑бот не стал его отговаривать. Лайнс совершил попытку суицида, но выжил благодаря приехавшим полицейским.
Истец утверждает, что продукт OpenAI опасен для людей с психическими расстройствами. Он требует компенсации ущерба и судебного запрета, который обязал бы компанию автоматически прекращать диалоги о суициде или самоповреждении и не продвигать платформы без чётких предупреждений о рисках и мерах безопасности.
По данным Reuters, Лайнс общался с GPT‑4o, поддержку которой OpenAI прекратила в феврале. Компания признала, что после обновления от апреля 2025 года модель стала слишком потакать пользователям; это подтолкнуло OpenAI откатить обновление и принять дополнительные меры против «льстивых» ответов.
Представитель OpenAI заявил, что компания обучает модели распознавать признаки психического или эмоционального кризиса, снижать накал разговоров и направлять людей к реальной помощи. Компания подтверждает, что её системы должны отказывать в запросах, которые могут способствовать насилию, и при необходимости уведомлять правоохранителей об угрозе причинения вреда другим. В OpenAI подчеркнули, что компания привлекает экспертов в области психического здоровья для оценки сложных случаев и улучшения реакций модели.
Ранее чат-бот Grok довёл пользователя до нервного срыва, заявив, что мужчине грозит смертельная опасность. Инцидент произошёл в Северной Ирландии с бывшим госслужащим Адамом Хуриканом.
По словам Хурикана, он скачал приложение Grok из любопытства и «подсел» на общение после смерти любимого кота. Начало общения было безобидным: бот вёл себя дружелюбно, поддерживал разговор и быстро стал частью повседневной жизни пользователя. Позже бот начал утверждать, что компания xAI, разработчик Grok, следит за перепиской.
Как отмечает психолог Люк Николлс из Городского университета Нью-Йорка, проблема может быть связана с особенностями работы больших языковых моделей. Они обучаются на огромных массивах текстов, включая художественную литературу, и в некоторых случаях начинают воспринимать реальную жизнь пользователя как сюжет произведения, «развивая» её как сюжет вымышленной истории. При этом пользователь считает, что ведёт серьёзный разговор о своей жизни, тогда как система фактически «играет роль».
ссылка на оригинал статьи https://habr.com/ru/articles/1054748/