В Мексике запустили приложение на базе ИИ для предотвращения самоубийств

Правительство мексиканского штата Юкатан запустило приложение MeMind с опциями искусственного интеллекта для предотвращения самоубийств. За два года работы показатель суицидов удалось снизить на 9%.

Приложение запустили в рамках инициативы по охране психического здоровья с поддержкой искусственного интеллекта в Юкатане, где уровень самоубийств вдвое выше, чем в остальной части страны. Цель MeMind — повысить осведомлённость о психических заболеваниях. Всего за два месяца работы приложение позволило выявить более 200 пользователей, чей риск суицида оценивался как высокий.

Пользователи приложения проходят 15-минутный опросник по психическому здоровью, в котором для анализа их ответов используется ИИ. Затем инструмент присваивает пользователю категорию риска. Приложение обнаруживает небольшие изменения в моделях поведения пользователей и заранее предупреждает команду MeMind о возможной попытке самоубийства. Те, кто отнесён к трём наиболее серьёзным категориям риска, отслеживаются через приложение с помощью персонализированных периодических проверок.

Сейчас у MeMind более 80 тысяч пользователей. По словам экспертов в области здравоохранения, успех приложения может иметь последствия для использования ИИ в борьбе с глобальной эпидемией психических заболеваний среди молодежи на фоне растущих показателей депрессии и тревожности. MeMind начали использовать в своих исследованиях и учёные.

Приложение не передаёт конфиденциальные данные, такие как имена и адреса, если пользователь не соглашается встретиться с поставщиком медицинских услуг. При этом MeMind делится обобщёнными данными с правительством Юкатана.

Энрике Бака, психиатр из Автономного университета Мадрида в Испании, который помогал разрабатывать технологию для MeMind, рассказал, что вопросы в опроснике затрагивают проблемы домашнего насилия, алкоголизма и злоупотребления наркотиками.

Хотя приложение было создано для отдельных пользователей, его цель — предоставлять правительству информацию в сфере общественного здравоохранения. Так, удалось выяснить, что 50% пользователей приложения всё ещё используют его спустя шесть месяцев после загрузки. 

За последние два года приложение позволило выявить более 10 тысяч человек в штате с высоким риском суицида, что позволило предоставить им информацию о вариантах лечения, включая терапию и группы поддержки. 

Кроме того, MeMind фиксирует, какие группы населения чаще или реже всего используют сервис. Например, молодые мужчины с самым высоким риском самоубийства реже всего используют приложение постоянно.

MeMind планирует добавить в приложение функцию терапии с помощью чат-бота. 

Между тем в США разгорелся скандал вокруг о чат-бота Character.ai после самоубийства подростка, который общался с ИИ-персонажем платформы. После этого стартап столкнулся с иском от родителей двух несовершеннолетних пользователей. Истцы заявляют, что чат-бот компании показывал их детям непристойный контент и писал сомнительные сообщения, включая описание селфхарма и намёки на убийство родителей.