Президент Signal Мередит Уиттакер в интервью Bloomberg высказалась о чат-ботах вроде ChatGPT и Claude предельно жестко. На вопрос о том, что эти системы означают для приватности, она ответила: «Это не ваши друзья. Это не разумные существа. Это не чувствующие собеседники». Разбор интервью опубликовал TechCrunch.
Сама Уиттакер призналась, что ИИ все же использует — но лишь чтобы «отформатировать документ время от времени». Вопросов ботам она не задает принципиально: по ее словам, она серьезно относится к своему мышлению и письму и не хочет, чтобы процесс обдумывания идеи перекрывала система, которая просто усредняет уже существующее в сети.
Но главную тревогу у нее вызывают не сами чат-боты, а их превращение в агентов с доступом к вашим данным и правом действовать за вас. Поводом стало обещание главы Microsoft AI Мустафы Сулеймана: уже в этом году Copilot сможет взять на себя все рождественские покупки — например, прослушав семейный групповой чат, чтобы понять, кто какой подарок хочет. Уиттакер перевела эту красивую картину обратно на язык разрешений.
Чтобы провернуть такое, ассистенту нужен доступ к банковской карте, браузеру, мессенджеру Signal, праву писать родственникам от вашего имени, домашнему адресу и календарю. «То, что вы описали, — это система с очень широким доступом сразу к множеству приложений и сервисов, — сказала Уиттакер. — В контексте Signal это было бы чем-то вроде бэкдора». Вес этим словам придает должность: Уиттакер возглавляет Signal с 2022 года, а криптографический протокол мессенджера используется в том числе в WhatsApp с его двумя с лишним миллиардами пользователей.
За словом «бэкдор» стоит более общий тезис: агентный ИИ плохо совместим со сквозным шифрованием. Если ассистент читает сообщения до того, как они зашифрованы, или после расшифровки, то шифрование переписки теряет смысл — данные все равно обрабатываются в открытом виде прямо на устройстве. Позиция Уиттакер идет вразрез с мейнстримом индустрии, где агентное будущее подают как неизбежный и сплошь удобный сценарий. Ее ставка проста: чем больше ассистент умеет делать за вас, тем больше границ между приложениями он стирает — и тем меньше у вас остается приватности.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
ссылка на оригинал статьи https://habr.com/ru/articles/1050726/