Банк России дал рекомендации по безопасному использованию ИИ в финансовой сфере

Банк России опубликовал рекомендации по использованию искусственного интеллекта финансовыми организациями. Это первый документ регулятора, в котором перечислили риски применения технологии, описали возможные сценарии атак мошенников на системы ИИ и дали советы по защите.

«Если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платёжных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник», — говорится в сообщении Центробанка.

Банк России также рекомендовал участникам рынка разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.

Один из разделов документа касается информационной безопасности при использовании ИИ-сервисов, которые предоставляют поставщики услуг. Например, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает доверие к ней.