Google будет бороться с мошенническими ссылками в приложении «Сообщения» с помощью ИИ

Google объявила о внедрении ИИ-фильтров в приложении «Сообщения» для борьбы со спамом и мошенническими ссылками. 

Пользователи бета-версии приложения уже получили обновление, которое позволяет отсеивать подозрительные сообщения, в том числе те, которые маскируются под доставку посылок и вакансии. Когда ИИ будет распознавать потенциально мошеннический текст, он автоматически переместит сообщение в папку со спамом или предупредит о его содержимом пользователя. 

Google использует модели машинного обучения на устройстве для классификации типов мошенничества.

Эксперимент с ИИ-фильтрами запустили в 2023 году для пользователей в Индии, Таиланде, Малайзии и Сингапуре. Приложение предупреждало их о получении ссылки от неизвестных отправителей, а также блокировало подобные сообщения.

Кроме того, скоро «Сообщения» будут автоматически скрывать сообщения от международных отправителей, которые не входят в список контактов пользователя. Сообщения будут автоматически перемещаться в папку «Спам и заблокированные». Эта функция будет запущена в Сингапуре в конце этого года, а затем её расширят на большее количество стран.

Кроме того, в приложении появится опция предупреждения о конфиденциальном контенте. Это дополнительная функция, которая размывает изображения наготы перед просмотром, а затем предлагает систему проверки и напоминание о рисках отправки нюдсов. Проверка также происходит на устройстве, чтобы защитить конфиденциальность пользователя. Функцией можно будет управлять через настройки Android, а для пользователей младше 18 лет она будет включаться автоматически. Такие предупреждения появятся на устройствах с Android 9 и новее.

Наконец, в «Сообщения» добавят функцию проверки контактов в Android. Это позволит подтвердить, что пользователь общается с реальным человеком, благодаря единой системе для проверки открытых ключей в разных приложениях с помощью QR-кода или сравнения номеров. Эта функция будет запущена в следующем году для устройств с Android 9 и новее.

Ранее сообщалось, что Google Messages позволит пользователям отправлять фотографии оригинального качества в чатах RCS.