Исследование компании 1Password показывает, что многие компании предоставляют ИИ‑агентам доступ к конфиденциальным системам и учётным данным без ограничений или мониторинга.
Компания опросила 500 разработчиков и столько же IT‑специалистов в США. Выяснилось, что 40% разработчиков предоставляют агентам ИИ постоянный доступ к данным даже после завершения назначенной ему задачи.
Учётные данные, которые остаются активными дольше, чем необходимо, становятся ещё одной целью для злоумышленников, а также могут повлиять на размер ущерба из‑за допущенной ошибки, внедрения вредоносных подсказок или неправильно сформулированных инструкций.
Сама 1Password расширяет доступ в области управления привилегированным доступом. Подход основан на исключении постоянного доступа для людей, машин и агентов ИИ. Он создаётся по мере необходимости, ограничивается выполнением задачи, оценивается на соответствие политике компании и автоматически удаляется по завершении работы.
По данным 1Password, 46% разработчиков уже используют агентов ИИ в производственных средах. Ещё 45% планируют использовать их в течение следующих двух лет.
При этом 65% разработчиков заявили, что от них ожидают или поощряют использование агентов ИИ, но только 33% считают, что у них есть методы защиты на этот случай. 67% заявили, что подход их компании к безопасности агентов имеет пробелы. В то же время от команд безопасности ожидается, что они будут контролировать доступ этих агентов, не замедляя при этом работу всех остальных.
В результате может образоваться набор ключей API, учётных записей сервисов, токенов и других нечеловеческих идентификаторов, которые трудно отследить. В плохо управляемых средах никто не может знать, какой агент и какие учётные данные использует, равно как и кто авторизовал эту активность.
В 1Password обнаружили, что 71% респондентов используют как минимум один небезопасный метод управления секретами и нечеловеческими идентификаторами. 24% разработчиков заявили, что жёстко прописывают учётные данные, 20% делятся ими по электронной почте или в Slack, а 43% не используют выделенный менеджер секретов или хранилище.
Последствия не ограничиваются гипотетическими атаками. 86% респондентов сообщили о проблемах с учётными данными, а 37% столкнулись с перебоями в работе сервисов, отключениями или задержками. 27% сообщили об инциденте или нарушении безопасности, связанном с агентами с избыточными привилегиями. Среди разработчиков, использующих ИИ‑агентов, этот показатель увеличился до 33%.
47% заявили, что агент совершил непреднамеренное действие после выполнения инструкций, встроенных в ненадёжную веб‑страницу, документ, электронное письмо или выходные данные инструмента.
Опрос показал, что в 71% компаний, где работают респонденты, агенты ИИ имеют доступ к информации о клиентах, интеллектуальной собственности, кадровым данным или другой конфиденциальной информации. В 41% организаций агенты получают доступ к несанкционированным данным.
В 1Password отмечают, что подход с привилегированным доступом позволит предоставить временное разрешение для конкретного запроса. Компания утверждает, что организации должны иметь возможность видеть, к какому контенту получил доступ агент, определять, кто одобрил запрос, и отслеживать действия вплоть до агента и до ответственного за его работу лица.
Опрос показывает, что клиенты ищут такие возможности. 52% респондентов хотели бы централизованного предоставления доступа к данным всех пользователей и агентов. 47% хотели бы выдавать учётные данные для конкретных задач с автоматическим истечением срока действия, 51% — полные журналы аудита, а 53% — более чёткую подотчётность за действия агентов.
Ранее в 1Password представили решение для Claude, которое позволит ИИ‑агенту выполнять в браузере задачи, требующие ввода логина и одноразового кода. При этом учётные данные не передаются в модель и не сохраняются в её памяти.
ссылка на оригинал статьи https://habr.com/ru/articles/1066188/