Security Week 2424: что не так с функцией Microsoft Recall

В пятницу 7 июня компания Microsoft сообщила о внесении изменений в работу фичи Microsoft Recall. Представленная ранее функция пока недоступна обычным пользователям и какое-то время будет работать только на ноутбуках Microsoft Surface и устройствах других производителей на базе новейших процессоров Qualcomm Snapdragon X. Microsoft Recall каждые несколько секунд делает скриншот экрана, распознает его содержимое, сохраняет информацию в базу данных и предоставляет пользователям возможность поиска по этой базе. По замыслу разработчиков, это должно значительно упростить жизнь владельца компьютера с вновь введенным обозначением «Copilot+ PC». Можно отыскать сайт, который вы когда-то посещали, по общему описанию типа «статья про домики красного цвета», вытащить из «истории» случайно удаленный текст и так далее. В некотором смысле Recall расширяет возможности, которые нам предоставляют сейчас разрозненные сервисы: поиск по архиву электронной почты и сообщений в мессенджере, история перемещений («где находится ресторан, в котором я был год назад»). Все это возможно благодаря сбору и хранению огромного массива данных обо всех аспектах деятельности пользователя. И именно это является проблемой.

Microsoft отреагировала на волну критики как в соцсетях от обычных пользователей и специалистов по информационной безопасности, так и в средствах массовой информации и внесла некоторые ограничения на работу Recall, которая рано или поздно появится на большинстве компьютеров с Windows. В этой статье мы постараемся привести таймлайн всей этой истории и начнем не с анонса новой фичи, а отмотаем еще немного назад. 3 мая Microsoft объявляет об инициативе Secure Future. В блогпосте, на сайте компании и в утекшем внутреннем письме говорится о том, что безопасность клиентов становится высшим приоритетом компании. В письме гендиректора Microsoft прямо сказано, что защищенность данных пользователей должна быть важнее, чем выпуск новых функций или поддержка устаревших решений. Всего через две недели Microsoft анонсирует фичу, которая явно идет вразрез с этими благими намерениями.

Поводов усилить безопасность своих решений у Microsoft было достаточно. Инициатива Secure Future стала ответом на ряд громких киберинцидентов, в ходе которых у компаний и государственных структур были похищены чувствительные данные. Основные три «слона», на которых стоит инициатива Microsoft, — это безопасность на этапе разработки (Secure by Design), максимальная защищенность данных с настройками по умолчанию (Secure by Default) и развитие инструментов мониторинга и защиты (Secure Operations). 20 мая компания провела мероприятие, на котором были анонсированы новые мобильные компьютеры Surface на базе архитектуры ARM. Они построены на базе новейшего чипа Qualcomm Snapdragon X — это первый процессор на базе ARM, который может полноценно конкурировать по вычислительной мощности и энергоэффективности как с традиционными процессорами Intel и AMD, так и с процессорами компании Apple. Наибольший упор в ходе презентации делался на возможности так называемого Neural Processing Unit, аппаратного модуля в чипах Qualcomm для ускорения работы алгоритмов искусственного интеллекта.

Искусственный интеллект в том или ином виде в этом году начал рекламироваться по-настоящему широко. Хотя пока и не ясно, насколько хорошо все эти нововведения будут приняты пользователями, производители аппаратного обеспечения и ПО уже активно конкурируют друг с другом за потенциальную долю рынка в новой реальности, когда к любой привычной нам функциональности компьютера, ноутбука и смартфона будет прикручена какая-нибудь нейросеть. Вслед за анонсами Microsoft и Qualcomm новые линейки процессоров представили компании Intel и AMD. И в том, и в другом случае упор в презентациях сделан не на увеличение общей производительности, а на эффективную работу в специфических задачах, связанных с искусственным интеллектом. У AMD новые процессоры называются Ryzen AI, у Intel родилась целая концепция AI PC. Microsoft со своей стороны обозначила аппаратные требования для тех самых NPU: минимум 40 триллионов операций в секунду требуются для полноценной работы с ИИ-фичами Copilot+. Чуть подробнее эта метрика описана на сайте Qualcomm, но по сути мы имеем дело с новым, достаточно простым бенчмарком, по которому производители железа теперь могут соревноваться. Анонс Qualcomm показал преимущество (пусть пока теоретическое) над чипами Intel и AMD, но последние оперативно отреагировали, выпустив новые процессоры с повышенной производительностью собственных NPU. Можно наверняка утверждать, что новые ПК на любой платформе скоро также получат доступ ко всем фичам Copilot+, включая Recall.

Всю эту производительность нужно куда-то утилизировать, предъявив пользователям новые возможности, и вот с этим пока дела обстоят не очень хорошо. Помимо фичи Recall компания Microsoft представила возможность перевода в режиме реального времени с 44 языков на английский — во время аудиозвонков или при просмотре кино и видеороликов. ИИ-эффекты внедрены в ПО для веб-камеры, а в новом Microsoft Paint обещан помощник, улучшающий рисунки. Функция Recall на фоне других выглядит единственным нетривиальным нововведением. При этом и она имеет предшественника в виде стороннего ассистента AI Rewind для компьютеров на базе Mac OS. Очевидно желание Microsoft предложить пользователям хоть какие-то ИИ-возможности прямо сейчас, в период их бурного развития с не до конца определенными перспективами.

В самой идее «записи действий пользователя» ничего плохого нет, хотя в нескольких комментариях было отмечено, что это достаточно нишевая функциональность. Она вряд ли принципиально изменит наше взаимодействие с компьютером под управлением Windows 11. Две основные проблемы Recall — это небезопасная реализация и недоверие со стороны пользователей к любым попыткам масштабного сбора персональных данных. Отвечая заранее на возможную критику, в Microsoft пытались отреагировать именно на потенциальное недоверие пользователей. Множество раз было сказано, что данные Recall хранятся и обрабатываются локально на компьютере и ни в коем случае не отправляются на серверы Microsoft. Даже если и так, остается проблема небезопасной реализации данной функции. Об этом на прошлой неделе было сказано много. Сразу несколько исследователей смогли оценить функциональность Recall, не имея на руках новые компьютеры (они поступят в продажу 18 июня). Это можно сделать в виртуальной машине локально или арендовав виртуальный сервер на базе архитектуры ARM.

Внутренняя кухня Recall разобрана здесь в деталях и в общих чертах описана тут. Здесь есть альтернативная утилита, которая позволяет распарсить базу данных Recall. Эта база хранится по пути C:\Users\$USER\AppData\Local\CoreAIPlatform.00\UKP\{GUID}, там же в папке ImageStore хранятся скриншоты. Здесь показано, как можно получить доступ к этой базе с привилегиями пользователя. Иными словами, потенциальный инфостилер, вредоносная программа, направленная на кражу персональных данных, сможет без труда получить доступ и к базе данных Recall. Потенциальный ущерб от такой вполне реалистичной кибератаки окажется куда серьезнее, чем даже кража сохраненных паролей и сессионных cookie из браузера.

Возвращаемся к описанию основной функциональности Recall: эта фича регулярно (по некоторым источникам, раз в пять секунд) делает скриншоты экрана и распознает их содержимое, сохраняя метаданные в базу для дальнейшего поиска. Если вы вводите номер кредитки на сайте интернет-магазина, он будет сохранен в базу, по сути, открытым текстом. Если вы устроили секретный, автоматически удаляющийся разговор в мессенджере, весь чат попадет в базу Recall и будет храниться там неопределенное время как в виде текста, так и в виде скриншотов. Вся ваша почтовая корреспонденция, все документы будут там же. Не будут сохранены пароли при их вводе на сайтах, но если вы хотя бы один раз засветите пароль открытым текстом, он также попадет в базу. Любопытная деталь: Recall не сохраняет данные о приватных (в режиме инкогнито) сессиях в браузере Microsoft Edge, но на Chrome и Firefox это ограничение не распространяется. В общем, на компьютере с включенной фичей Recall будет храниться отдельная, достаточно полная копия всех ваших персональных данных. Если даже согласиться на этот потенциальный риск, очевидно, что защищать эту копию нужно не хуже, чем любые другие хранилища максимально чувствительной информации. Быстрый анализ функции Recall по ссылкам выше показывает, что вся эта информация защищена недостаточно хорошо, примерно на уровне текстового документа с паролями, хранимого на рабочем столе.

Отдельной порции критики была удостоена схема навязывания фичи Recall для новых пользователей. В изначальном варианте диалог при первой настройке компьютера, относящийся к Recall, выглядел так:

Функция включена по умолчанию, и только позднее ее можно отключить в настройках системы. В конце прошлой недели Microsoft отреагировала на критику и немного усилила защищенность базы данных Recall. Во-первых, чтобы включить фичу, а также для доступа к базе данных потребуется авторизация пользователя через систему Windows Hello. Во-вторых, будет введена проверка на наличие пользователя у компьютера при доступе к сохраненной информации. В-третьих, вводится еще один слой шифрования данных. Слегка изменен диалог активации фичи при первоначальной настройке ПК:

Впрочем, вот это уже чисто косметическое изменение. Большинство пользователей нажмут «Да», не читая, и, возможно, даже не будут знать о том, что за всеми их действиями штатно следят. В обсуждениях в Сети часто поднималась тема, что лучший способ обезопасить пользовательские данные — не собирать их вовсе. Новые средства защиты Recall наверняка попробуют обойти разработчики вредоносного ПО. Помимо потенциальных кибератак есть еще и проблема сталкинга — слежки за членами семьи и близкими людьми, и фича Recall тут, мягко говоря, не помогает. В отдельном эксперименте журналисты издания Ars Technica показали, что данные Recall может получить другой пользователь того же ПК, если у него есть права администратора. Возможно, более логичным действием было бы отказаться от этой функции вовсе, отменить ее внедрение (на английском языке это звучит красиво: recall Recall). Но, видимо, уж слишком сильно желание Microsoft показать пользователям новые возможности на основе машинного обучения. Хотя, кажется, реальная польза от искусственного интеллекта произойдет и не сейчас, и не в таком виде. Для пользователей Windows, заботящихся о приватности данных, в скором времени добавится еще один пункт в списке необходимых действий по настройке нового компьютера: помимо расширенной телеметрии, персонализированной рекламы, отключить еще и функцию Recall.

Что еще произошло

Исследователи «Лаборатории Касперского» разбирают методы обхода системы двухфакторной аутентификации в реальных кибератаках. Еще одна публикация подробно описывает кибератаку, в которой используется технология децентрализованного Интернета NKN.

Похищен и выложен в общий доступ большой архив исходного кода, принадлежащего изданию New York Times.

Закрыта критическая уязвимость в PHP для Windows.

Bleeping Computer пишет об интересном варианте кибератаки с вымогательством. Злоумышленник получает доступ к учетке на GitHub, делает копию содержимого, удаляет все данные на сервере и требует выкуп за восстановление информации.

Zyxel закрывает критические уязвимости в устройствах NAS326 и NAS542, несмотря на то что они официально более не поддерживаются производителем. Уязвимости могут быть использованы для выполнения произвольного кода и перехвата контроля над сетевым хранилищем данных.

Серьезная уязвимость была закрыта на прошлой неделе в приложении для соцсети TikTok. Уязвимость позволяла перехватить контроль над учетной записью, отправив жертве подготовленное личное сообщение (в случае если пользователь его откроет). Ее использовали для угона учетных записей нескольких крупных компаний.