Как мы построили платформу с нуля, а потом научили нейросети на ней работать

—

от автора

Привет, Хабр! Меня зовут Сергей Протацкий, я директор по продукту COMETAL. Мы строим платформу для промышленной кооперации, через которую помогаем заказчикам находить исполнителей для изготовления металлоизделий, а производствам – получать заказы.

За последние годы мы прошли путь от стороннего коробочного решения, которое не справлялось с нашими задачами, до собственной платформы с сильной IT-командой. Параллельно научились использовать нейросети так, чтобы они не просто писали код, а реально работали на бизнес. Сегодня у нас работают 14 ИИ-агентов, и они делают вещи, которые ещё пару лет назад казались фантастикой.

В этом материале расскажу, как мы строили платформу, почему отказались от готовых решений и как дошли до того, что нейросети у нас тестируют платформу по ночам, строят графики по запросу на человеческом языке и сами выкатывают код в прод (да, было и такое).

От коробки к своему продукту: как мы поняли, что готовых решений нет

Когда я пришёл в проект аналитиком, это была ещё гипотеза – платформа по продаже изделий из металла. Мы начали с AMS CRM, я предложил кучу интеграций: телефония, бизнес-процессы, разные сервисы. Но быстро стало понятно, что классические CRM не подходят. У нас схема другая: мы сначала закупаем продукт у исполнителя, потом продаём заказчику. Это два разных контракта, две разные логики. В одной заявке нужно учитывать и закупку, и продажу. CRM под это не заточены.

Мы взяли коробочное решение интернет-магазина и начали дорабатывать. Переписали около 80% кода. Но столкнулись с проблемой – монолитная архитектура. Мы быстро росли, накидывали функциональность, и система начала ломаться. Правили одно – ломалось другое. Стало очевидно, что это тупик.

Отказались. Забрали главное – наработки и знания бизнес-процесса. Аналогов нашей платформы на рынке нет, мы первопроходцы. Всё, что мы делаем, мы придумываем сами.

Мы нашли нового вендора, поставили задачу. Но и здесь нас ждал сюрприз: вендор взялся за дело рьяно, но этого запала хватило на пару месяцев. Скорость просела, продукт оказался сложнее, чем они думали. Первую версию мы получили только через полгода, и к тому моменту уже понимали: дальше работать с ними не будем.

В мае 2023 года у нас появилась первая внутренняя команда разработчиков. В ноябре мы закончили отношения с вендором, забрали код, утрясли финансовые вопросы, и команда начала работать в полную силу. Сейчас в IT-дирекции COMETAL 25 человек: аналитики, разработчики бэкенда и фронтенда, тестировщики, архитекторы, девопсы, дизайнеры, техподдержка.

Где живут ИИ-агенты?

Самым сложным было создать инфраструктуру. Агентам нужно где-то жить, нужна платформа, которая будет их оркестрировать. Мы рассматривали готовые решения, но они не подошли: либо дорого, либо слабо по функционалу, либо оказывалось, что компания выдаёт open-source за свою наработку.

Приняли решение пилить сами. И здесь у нас было преимущество: мы уже умели применять ИИ в работе. Платформу я сделал сам с помощью нейросетей. Заказали пентест – нас не взломали. После этого начали создавать агентов и запускать их в бой.

Все агенты живут в Яндекс.Мессенджере. Мы работаем в закрытом контуре, плотно интегрированы с Яндекс.Трекером и Яндекс.Вики. Пользователи пишут агентам прямо в рабочих чатах – это удобно: не надо переключаться между платформами.

Важный момент про безопасность: мы используем локальные модели. Если работаем с облачными, вся чувствительная информация проходит через маскиратор. Маскиратор заменяет реальные данные на маски, а при возврате запроса делает демаскирацию. Пользователь думает, что модель просто обработала запрос, а на самом деле данные защищены. Мы не раскрываем ни персональные данные, ни коммерческую тайну.

Наши агенты: кто они и чем занимаются

Сейчас у нас 14 полноценных агентов. Перечислю основных, чтобы было понятно, что именно мы передали нейросетям.

«Аркадий» – наш первый агент. Пишет ТЗ. Любой пользователь может написать ему в Яндекс.Мессенджере, описать идею, и «Аркадий» превратит её в структурированное техническое задание, которое сразу упадёт в трекер задач. Он подключён к Вики и Трекеру, знает всё о нашей системе, может ответить на любой вопрос по статусу задачи.

«Ирида» – обрабатывает входящие письма. 80% заявок приходят на почту. Раньше менеджер открывал письмо, копировал данные вручную, вбивал ИНН, название компании, контакты. Сейчас «Ирида» забирает письмо и в течение 30 секунд заполняет заявку. Всё автоматически: ИНН, название, гендиректор, контакты. Никакого ручного ввода.

«Геннадий» – для техотдела. Очищает чертежи от персональных данных и коммерческой тайны. Раньше технологи открывали каждый чертёж и вручную удаляли всё лишнее. Теперь это делает «Геннадий» по кнопке. Он же проверяет комплектность конструкторской документации: может быстро сказать, каких чертежей не хватает.

«Нестор» – проверяет контрагентов. Пишешь ему ИНН и роль (заказчик или исполнитель) – он собирает информацию из открытых и закрытых источников, проверяет через «Контур-Фокус» и выдаёт заключение: стоит с этой компанией работать или нет. Всё за две минуты.

«Герман» – занимается преддоговорной работой. Может написать письмо, собрать комплект уставных документов, заполнить формы для тендерной подачи.

«Прохор» – нейроюрист. Закидываешь договор – он проверяет его по нашей карте рисков, подсвечивает все проблемные места. Карту рисков составляли наши юристы; «Прохор» просто применяет её к каждому новому договору.

«Порфирий» – для производства. Сверяет с эталоном спецификации, собирает таблицы из КМД и проверяет сертификаты.

«Аналитик» – новый агент, который появился совсем недавно. Работает прямо на платформе, подключён к реплике нашей продакшн-базы данных (копия снимается раз в час). Теперь любой сотрудник может написать агенту на человеческом языке: «Выбери заказчиков с такими-то контактами по такому-то переделу» или «Построй график динамики за период». Агент сам сходит в базу, вытащит данные, обработает и выдаст результат. Теперь получение информации занимает минуты вместо дней ожидания в очереди. Забавный факт: я не собирался его выпускать, но в пятницу вечером накидал ему идей и ушёл спать. В субботу коллега пишет: «Классная функциональность». Агент сам всё доделал и залил в прод.

«Контекст» – второй мозг для продажника. Полное досье на заказчика и на сделку. Можно написать ему любой вопрос по заявке или контрагенту – он выдаст всю информацию: что мы с ним делали, что продавали, какие были договорённости. Приходит звонок – он тут же транскрибирует, записывает оперативную информацию и раз в полчаса обновляет данные. Помните, как на совещаниях постоянно звучит: «Дайте статус по заявкам»? Теперь этот статус будет собирать агент. А ещё мы его доработаем, чтобы он показывал, на каком этапе заявка «тупила».

«QA-калибратор» – тестирует платформу. Берёт тест-кейс из Яндекс.Вики, открывает QA-стенд, заходит под нужной ролью и начинает пошагово проверять: нажимает кнопки, смотрит результат. Когда успешно проходит весь путь, генерирует специальный скрипт с точными локаторами. Дальше этот скрипт уже без нейросети просто прогоняет кнопки. Каждую ночь в 22:00 запускается прогон. К 7:00 всё готово. В 8:00 в мессенджер приходит отчёт: столько-то прошло, столько-то упало. Раньше, чтобы руками проверить всю платформу, требовалось два человеко-дня. Сейчас весь прогон занимает буквально час.

«Триажёр» – разбирает упавшие тесты и помогает понять, где именно проблема: код сломали или тест-кейс устарел.

Есть ещё «OCR-бот» – это функция, а не полноценный агент, но она важна. Распознаёт текст в любых документах и сканах, в том числе без текстового слоя. Работает через Apple Vision или более серьёзные визуальные модели, если Apple Vision не справляется.

И ещё несколько агентов для внутренних технических нужд: помогают разработчикам с нотификациями, проверяют мерж-реквесты на качество кода.

Планы и мысли на будущее

Сложно прогнозировать развитие на год вперёд. Всё зависит от того, куда пойдёт мировая тенденция. Если выпустят ещё более быстрые и качественные модели – мы сможем реализовать планы 2027 года быстрее и меньшим количеством людей. Если появятся новые технологические решения – мы можем полностью переписать платформу для агентов, чтобы сделать их ещё лучше.

Мы не бежим за трендами. Если задачу можно решить алгоритмом – решаем алгоритмом. Это дешевле, быстрее и стабильнее. Если нужна непрямая логика – используем ИИ. Человеческий контроль остаётся обязательным. Нейросети ошибаются, и мы не можем позволить себе пропустить ошибку.

Через год-два я вижу такую картину: все сотрудники IT-дирекции используют ИИ в своей работе. Рутинные задачи автоматизированы, люди сосредоточены на сложных задачах, требующих профессионального суждения. Разработчики перестают быть кодерами – они становятся инженерами, которые управляют нейросетями. Аналитики пишут бизнес-требования, а не системные ТЗ.

Аргумент для тех, кто сомневается

Многие боятся, что ИИ заменит людей. Я думаю иначе: преимущество получат специалисты, которые умеют применять ИИ в своей работе. Если у меня есть два разработчика – один использует нейросети, а другой нет, – первый сможет быстрее решать часть задач. Скорость здесь решает всё. Фича, которая делается месяц, с нейросетью делается за неделю.

В нашей команде мы сейчас проводим ротацию, и это нормально. Для определённого этапа развития продукта нужны определённые люди.

Тем, кто только думает начать: просто попробуйте. Работать с ИИ значительно проще, чем кажется. Начните с самой рутинной задачи – переложите её на нейросеть и посмотрите на результат. Это лучший способ убедиться самому.

Если у вас есть похожий опыт или вопросы – добро пожаловать в комментарии. 🤝

ссылка на оригинал статьи https://habr.com/ru/articles/1104690/