Разработчики социальной сети Instagram** работают над опцией Nudity Protection для запрета получения пользователями нежелательных обнажённых фотографий в чатах от других пользователей.
В компании пояснили, что сотрудники соцсети или третьи лица не смогут получить доступ к подобным фотографиям, а их анализом и блокировкой будет заниматься автоматическая система.
Предполагается, что опция будет работать подобно текущей функции конфиденциальности «Скрытые слова», которая позволяет пользователям автоматически фильтровать сообщения, содержащие оскорбительный контент.
Новая тестовая опция получила предварительное название «Защита от наготы» (Nudity Protection). Этот инструмент с помощью ИИ должен проверять все фотографии, которые пользователи отправляют другим пользователям в чатах. Система при активации скроет контент с обнажёнными изображениями. Пользователь в настройках аккаунта соцсети при активации данной опции может выбрать, открывать ли скрытую фотографию или полностью блокировать такой контент.
«Мы тесно сотрудничаем с экспертами, чтобы гарантировать, что новая функция сохранит конфиденциальность пользователей, одновременно предоставляя им контроль над получаемыми сообщениями», — пояснили разработчики соцсети.
В компании не раскрыли подробности работы алгоритма Nudity Protection и сроков запуска этой функции для пользователей. По данным представителей соцсети, эта опция будет необязательной и всё ещё находится на ранних стадиях разработки.
Пример опций, которые будут доступны при активации Nudity Protection.
Эксперты пояснили, что даже с такой опцией остановить киберфлэшинг (cyberflashing) соцсети вряд ли получится полностью, но сама инициатива компании может дать пример другим соцсетям и сервисам для введения подобных ограничений.
Проблема пересылки фотографий случайным пользователям последние годы стала наиболее актуальна в разных сервисах. Отправляющий фото человек может попасть в неприятную для себя ситуацию, хотя хотел сделать обратное. Так, в августе этого года пилот самолёта в США пригрозил высадить пассажиров, если они не перестанут делиться обнажёнными фото по AirDrop.
Meta Platforms*, а также принадлежащие ей социальные сети Facebook** и Instagram**:
* — признана экстремистской организацией, её деятельность в России запрещена
** — запрещены в России
ссылка на оригинал статьи https://habr.com/ru/articles/689720/
Добавить комментарий