Character.AI обвиняется в смерти 14-летнего подростка

Character.AI стал объектом судебного разбирательства после самоубийства 14-летнего подростка из Флориды (США), чья мать утверждает, что он стал одержим чат-ботом на платформе.

По данным The New York Times, девятиклассник из Орландо, несколько месяцев общался с чат-ботами в приложении Character.AI. Подросток привязался к боту «Дени» (Дейенерис Таргариен), с которым постоянно переписывался, до такой степени, что начал отдаляться от реального мира. Родители записали Сьюэлла на терапию, где стало известно, что у него тревожное расстройство.

Подросток признался боту, что думал о самоубийстве, и отправил сообщение незадолго до своей смерти, где он выразил к «Дени» свою любовь и желание «вернуться домой» к ней. 28 февраля 2024 года Сьюэлл покончил с собой с помощью пистолета.

Сегодня утром компания Character.AI объявила, что выпустит ряд новых функций безопасности, в том числе «улучшенное обнаружение, реагирование и вмешательство» в отношении чатов, нарушающих условия предоставления услуг, а также уведомление, когда пользователь провёл в чате час и более.

Группа адвокатов готовится представить иск против компании в связи с произошедшим случаем.

Как пишет The Times, в наше время существует быстрорастущая индустрия подобных приложений с искусственным интеллектом, влияние которых на психическое здоровье практически не изучено.

Источник