Исследование: разработчики используют нейросети, несмотря на запреты в компаниях

Компания Checkmarx опубликовала исследование, согласно которому, разработчики всё равно используют нейросети, несмотря на запреты начальства. Это тревожит экспертов по информационной безопасности, которых беспокоят потенциальные уязвимости в коде.

Стало известно, что только в 29% компаний есть специальные отделы, регулирующие использование генеративных нейросетей. В остальных случаях решения принимаются на уровне отделов. В таких компаниях нет единой стратегии, поэтому даже у разных команд разработки могут быть свои правила.

Около 15% опрошенных компаний явно запрещают генерировать код с помощью нейросетей. Это правило нарушают 99% команд разработки. Отмечается, что разрыв между официальной политикой и реальной практикой показывает сложность регуляции искусственного интеллекта. Также выяснилось, что 47% опрошенных готовы рассмотреть возможность внедрения нейросетей в процесс разработки, только 6% категорически отказались от этого.

80% компаний беспокоит использование нейросетей в коммерческих проектах. Больше половины опрошенных пугают галлюцинации. Также ИБ-эксперты отмечают другие проблемы с безопасностью, включая утечку кода в датасеты.