Сингапур хочет ввести “этикетки” для AI-продуктов

от автора

Сингапур обсуждает с технологическими компаниями идею “nutrition labels” для продуктов с искусственным интеллектом. По смыслу это должны быть короткие и понятные “этикетки”, похожие на маркировку еды или лекарств: для чего AI-продукт предназначен, где его можно использовать, а где лучше не стоит.

Сначала такой подход хотят запустить как добровольную рамку. Если маркировка окажется полезной, власти смогут перейти к следующему этапу регулирования. В первую очередь речь идёт о потребительских приложениях с AI-функциями, а не только о больших корпоративных системах.

Идея выглядит простой, но для рынка ИИ она важна. Сейчас пользователь часто видит в продукте кнопку “AI”, но не понимает, что именно за ней стоит: модель для генерации текста, помощник для поиска, инструмент принятия решений, рекомендательная система или просто автоматизация старого сценария. “Этикетка” должна объяснять назначение и ограничения такого инструмента до того, как человек начнёт ему доверять.

Сингапур также развивает тестовые рамки для AI-продуктов и систему аккредитации организаций, которые смогут такие продукты оценивать. Это уже ближе не к маркетингу, а к инфраструктуре доверия: кто-то должен проверять, насколько заявленные возможности модели совпадают с реальностью, где у неё слабые места и в каких сценариях её использование может быть рискованным.

На этом фоне Сингапур активно усиливает позицию AI-хаба. OpenAI открывает там первую Applied AI Lab за пределами США с инвестициями более $234 млн. Google DeepMind также развивает партнёрство с Сингапуром в образовании, здравоохранении и научных исследованиях.

Власти страны хотят помочь 10 тыс. компаний внедрить ИИ и расширить применение технологий в производстве, медицине и финансах. Отдельная ставка делается на энергоэффективный ИИ — на уровне чипов и алгоритмов, потому что энергопотребление быстро становится одним из ограничений для развития отрасли.

Если подход с “этикетками” заработает, он может стать мягкой альтернативой жёсткому регулированию: не запрещать AI-продукты заранее, а заставить рынок понятнее объяснять, что именно они делают и где заканчивается зона их надёжности.


Источник

ссылка на оригинал статьи https://habr.com/ru/articles/1037314/