Как мы научили агента парсить данные, к которым нет доступа через API

от автора

Есть данные, которые вроде бы доступны, но программно их не взять. Они отображаются в браузере, их видно на графиках, по ним можно кликать мышкой. Но API для них либо не существует, либо он закрыт.

Раньше это означало ручной анализ: открываешь плеер, смотришь, как пользователь скроллил страницу, на чем задерживался и где кликал. Триста посещений — триста раз открыть плеер. А если нужно проанализировать поведение за месяц с тысячами визитов, задача превращается в нерешаемую. Теперь эту работу можно делегировать агенту. 

Классический пример — Вебвизор Яндекс.Метрики. Посещения, скроллы, клики — все это можно смотреть в плеере, но выгрузить поведение пользователей штатными средствами нельзя.

Парсинг недокументированных данных через Chrome MCP

Chrome MCP — протокол, позволяющий агенту управлять браузером так же, как это делает человек. Агент использует его для навигации и извлечения данных: может открывать вкладки, скроллить, смотреть DOM и сетевые запросы, кликать по элементам. Разница в том, что он делает это в десятки раз быстрее человека и, очевидно, не устает.

При работе с Chrome MCP лучше запускать отдельный изолированный экземпляр Chrome. Хорошо, если он не привязан к вашему основному профилю. Так у агента не будет доступа к вашим сессиям и паролям авторизации.

Агент будет работать в отдельной песочнице. Он запускает изолированный экземпляр Chrome, подключается к нему через определенный порт и выполняет команды: перейти на URL, подождать загрузки, прочитать DOM, выполнить JavaScript в контексте страницы. Все действия агента при этом изолированы от основного браузера.

Практический кейс

У нас есть 300 посещений лендинга. Они сохранены в Вебвизоре Яндекс.Метрики. Нужно понять, как пользователи взаимодействовали со страницей: какие блоки читали, где останавливались, на каком этапе уходили.

Агент с Chrome MCP заходит в плеер, открывает первый визит и изучает доступные данные: идентификатор визита, таймлайн событий, скроллы, клики, заполнение форм. Он сам определяет, какие данные можно извлечь из интерфейса плеера. Документации по формату этих данных нет, это сырые данные, не описанные ни в одном API.

Затем агент методично обходит все 300 плееров и собирает поведение каждого пользователя в структурированный JSON. 

Чтобы ускорить процесс, можно параллельно открыть несколько вкладок. Сначала 2, потом 4, потом 8, пока компьютер не начинает подавать признаки перегрузки. Так экспериментально находится оптимальное число параллельных сессий. 300 визитов при 16 параллельных вкладках парсятся за 7-10 минут вместо 5 часов ручного просмотра.

На выходе получается машиночитаемый датасет с поведением пользователей:

  • на какой секунде визита пользователь доскроллил до блока с тарифами;

  • где кликнул;

  • в каком месте остановился;

  • на каком элементе ушел с сайта. 

Эти данные уже можно скормить агенту для анализа: выявить паттерны поведения, найти узкие места воронки, предложить конкретные изменения на странице.

Коротко о главном

Парсинг недокументированных данных через Chrome MCP применим не только к Яндекс.Метрике. Любой веб-интерфейс, не имеющий API, например, внутренняя админка, отчеты партнеров, старые корпоративные системы — теперь может быть источником данных для автоматизации. Это открывает возможности для интеграции систем, которые раньше считались закрытыми.

ссылка на оригинал статьи https://habr.com/ru/articles/1060626/