Исследователи выяснили, что ChatGPT направляет покупателей на мошеннические сайты, пишет Cybernews. На фейковых ресурсах пользователи рискуют ввести свои данные, которые сразу попадут в руки аферистов.
Сайты-клоны розничных магазинов, созданные мошенниками, появляются в рекомендациях по покупкам, составленных искусственным интеллектом. Это вызывает опасения по поводу того, насколько эффективно поисковые инструменты на основе ИИ предотвращают попадание мошеннических сайтов в поле зрения потребителей по мере того, как все больше покупателей переходят на поиск с использованием ИИ.
Проблема была выявлена британским сервисом проверки на мошенничество Ask Silver. Согласно статье в The Guardian, компания обратилась к ChatGPT за рекомендациями по популярным сумкам и кошелькам Russell & Bromley. Сгенерированный ответ включал в себя информацию о товарах, ценах и ссылки на источники. Однако некоторые из этих ссылок вели на мошеннические сайты, имитирующие официальный сайт ретейлера.
Фальшивые сайты очень похожи на настоящие: они используют брендинг, изображения и описания товаров розничных продавцов, из-за чего кажутся потребителям вполне легитимными. В данном случае в Ask Silver предположили, что мошенники могли воспользоваться неразберихой, возникшей после закрытия магазина Russell & Bromley и его последующего приобретения ретейлером Next в начале 2026 года.
На некоторых из этих поддельных сайтов предлагаются скидки до 80% — распространенный признак мошенничества в сфере онлайн-покупок. Компания Ask Silver выявила поддельные доменные имена, в том числе therussellbromleyofficial, russellandbromleylondon, russellbromleyonlineuk и russell-and-bromley.
Соосновательница Ask Silver Анна Джонс заявила, что, возможно, большая языковая модель, лежащая в основе ChatGPT, была «отравлена». Это приём, при котором вредоносный контент намеренно внедряется в информацию, которую используют ИИ, через клонированные сайты и поддельные сигналы доверия, чтобы система воспринимала их как надёжные источники.
Исследователи предупреждают, что киберпреступники экспериментируют с методами «отравления данных», наводняя интернет фейковыми отзывами, автоматически созданным контентом для форумов и поддельными индексационными данными, чтобы повлиять на то, как системы искусственного интеллекта находят и ранжируют информацию.
Компания OpenAI сообщила The Guardian, что удалила мошеннические сайты из своего поискового индекса, пишет Cybernews.
В прошлом году исследователи Cybernews обнаружили, что системы искусственного интеллекта могут «выдавать» ссылки на фишинговые сайты, когда пользователи запрашивают страницы для входа в систему или онлайн-сервисы. Это даёт киберпреступникам возможность регистрировать такие домены и злоупотреблять доверием к рекомендациям, сгенерированным искусственным интеллектом.
ссылка на оригинал статьи https://habr.com/ru/articles/1045939/