Расследование BBC выявило уязвимость банковских систем безопасности перед AI

Журналистское расследование BBC показало, что современные технологии клонирования голоса с помощью искусственного интеллекта способны обойти банковские системы безопасности. В рамках Недели безопасности от мошенничества журналисты провели эксперимент, демонстрирующий уязвимость голосовой идентификации в банках.

Проблема становится все более актуальной — уже известны случаи использования поддельных голосов знаменитостей мошенниками. Среди пострадавших оказался защитник прав потребителей Мартин Льюис, а актер Джеймс Несбитт был поражен качеством имитации своего голоса.

Для эксперимента журналист BBC создала клон собственного голоса с помощью того же эксперта, который работал с Несбиттом. Достаточно было короткого радиоинтервью, чтобы получить убедительную копию. Коллеги с трудом могли отличить настоящий голос от искусственного.

Главной целью эксперимента было проверить не способность обмануть людей, а возможность преодолеть банковские системы безопасности. Многие банки используют технологию Voice ID («мой голос — мой пароль») для идентификации клиентов по телефону.

Тесты показали тревожные результаты: клонированный голос успешно прошел проверку в двух крупных банках — Santander и Halifax. Причем это удалось сделать как через профессиональное оборудование, так и через обычный динамик планшета. Единственным препятствием оставалась необходимость звонить с зарегистрированного телефона клиента.

Представители банков заявили, что случаев мошенничества с использованием Voice ID пока не зафиксировано, и что это лишь один из элементов многоуровневой системы безопасности. Однако эксперт по кибербезопасности Саж Хук выразил обеспокоенность результатами эксперимента, назвав это ярким примером рисков, связанных с развитием генеративного ИИ.

Исследование подчеркивает необходимость постоянного совершенствования банковских систем безопасности в условиях стремительного развития технологий искусственного интеллекта.

Источник: BBC