Контекст для человеков всегда был важен. На онбординге всегда ломалось много мотивации и employee experience; над передачей знаний и снижением bus factor трудились и тимлиды, и HR-менеджеры, и даже выделенные KM-специалисты. Всё это делалось для людей, и делалось с весьма переменным успехом.
Для ИИ-агентов мы делаем ровно то же самое, но с повышенным рвением, скоростью и отдачей. Вливаем максимальный контекст, пишем подробнейший промпт. Строим волты и описываем весь мир в понятном для агента языковом ключе. Некоторые уже всерьёз думают о developer experience, но для агентов.
Почему на агентов хватило того, чего никогда не хватало на людей?
Самый напрашивающийся ответ: агент дороже, поэтому его берегут. Я довольно долго на этом стояла и теперь думаю, что была неправа, причём дважды.
Первое: дело в длине петли обратной связи
Человек, которому достался плохой онбординг, может его компенсировать: догадаться, спросить у соседа, погуглить, переварить неоднозначность, доковырять вечером после работы. Издержки провала он абсорбирует в себе тихо, в виде фрустрации, переработок и медленного выгорания (или громко, сразу — и прослывёт «человеком-проблемой»). Работодатель увидит счёт месяцев через восемь в виде заявления по собственному, и спишет его на «плохие софты».
Агент с плохим контекстом выдаёт мусор через четыре секунды. Воспроизводимо. И за эти четыре секунды вы уже заплатили.
Мне казалось, что мы носимся с агентами, как с любимым ребёнком, игнорируя ещё пятерых по лавкам, потому что они не такие выдающиеся. Но, кажется, причина проще — за агентов мы платим сами и быстрее, чем за живого сотрудника. А ещё это больнее: если ошибку человека проще всего списать на самого человека, то ошибку агента списывать придётся на себя.
И отсюда следует довольно неприятная вещь. Та самая человеческая живучесть — неприхотливость, способность работать в дефицитах и агрессивных средах, умение «чинить» себя самостоятельно, — которую мы привыкли записывать человеку в достоинства, и сделала пренебрежение им устойчивым. Люди слишком хорошо адаптируются к плохому менеджменту, чтобы у плохого менеджмента была причина исправляться.
Второе: дело не в цене, а в том, кому выставлен счёт
С точки зрения экономики человек — самая дешёвая рабочая единица. Он самовоспроизводим и самообучаем, даже «чинит» себя сам в большинстве случаев. В средней массе неприхотлив, может работать в условиях самых разных дефицитов и в агрессивных средах. Агенты, напротив, чувствительны ко всем вводным, которые в них положат, менее рассудительны (рассуждать-то умеют, но это другая этимология), а зависимость самого их существования от сложного железа заставляет плакать. Отсюда и ощущение дороговизны: агент требует больше усилий ради адекватного выхлопа, обучается при условии чудовищных инвестиций, его трудно добыть, легко потерять и невозможно повторить в неэксклюзивных условиях.
Но сколько на самом деле человеку стоит человек? Я сейчас не о стоимости труда по ФОТ и ТК, не о жилье и пище. Всё это может существовать только внутри огромных систем. Чтобы платить кому-то зарплату, нужна институция товарно-денежных отношений. Чтобы институция существовала, ей нужна масса и прецедент, когда без неё дальнейшее развитие невозможно. Чтобы человек обучался, нужна образовательная система, которая не может работать на 11 классов и 4 года ВУЗа ради единственного Васи, — системе снова нужна масса. Чтобы миллионы Вась не остались неприкаянными тунеядцами после вышки, им нужны рабочие места, в идеале совпадающие по специфике с теми программами, которые Васи осваивали, и в достаточном количестве, чтобы каждый нашёл своё. Чтобы Васям было где жить, это жильё должен кто-то построить. Чтобы стройка была возможна, нужна логистика, транспортная система, заводы-пароходы и дОбыча нефтИ. Нефть в принципе нужна для всего, даже чтобы дышать, но это отдельный разговор. Чтобы Васе выписали нурофен, когда он простынет, нужна наукоёмкая система здравоохранения с непрекращающимися исследованиями влияния этого нурофена на микро- и макроорганизмы, а также — снова — производство, снова логистика.
Мне долго казалось, что Васю можно получить бесплатно или условно-бесплатно: за его школу, ВУЗ и умение думать заплатил кто-то другой — задолго до работодателя и вовсе не ради него. И это при условии, если в конкретном регионе такое образование вообще есть. Где-то это будет в лучшем случае средняя школа, куда идут те, у кого нет другого варианта, а где-то вся эта конструкция невозможна в принципе. Но там, где система работает, работодателю Вася достаётся даром. Хотя как это «даром», ведь один Вася в итоге требует всех этих надцати систем и структур, описанных в предыдущем параграфе.
Бесплатных агентов нет нигде. Точнее, то, что выглядит бесплатным, бесплатно ровно тем же способом, что и школа: за него уже заплатили до тебя. Только школа не собирается взыскивать это с тебя лично, а тот, кто раздаёт бесплатный тариф, собирается, и ещё как. Агента можно купить — и надеяться, что тебя не забанит Клод, а бюджета хватит на те миллионы токенов, которые ты планируешь сжечь; предел твоего влияния на такого агента при этом очень мал. Его можно развернуть у себя — и принять на себя железо, окружение, интеграцию и адопшен. Его можно попытаться создать самому — и к на порядки возрастающей потребности в мощностях добавить потребность в околоуникальной экспертизе, которую тоже придётся формировать самостоятельно; ни одна система не заточена на генерацию уникальности, экономика всегда стремится к арбитражу, а значит, ни один ВУЗ не выпустит тебе уникального Васю ровно в тот год, в который он тебе нужен. Выпускай сам или жди, пока махина повернётся в нужную тебе сторону.
Агентов поставляет ровно та же цивилизация, что и Вась, просто слоем выше: фабы, ASML, энергосети, исследовательские институты, чьи-то сорок лет линейной алгебры. И главное — то, на чём агента учили. Это ведь всё написали Васи: код, документация, статьи, инструкции, ответы на форумах — всё, что миллионы людей произвели за свою жизнь, пройдя через ту самую бесплатную школу. Так что поставщик у агента есть, и это ровно та же система, что поставляет людей. Агент целиком собран из её экстернализованного опыта — просто счёт за сборку впервые приходит одному конкретному актору и одним документом.
Выходит, дорожим мы не тем, что дорого стоит, а тем, за что платим сами.
Так у кого, наконец, нашёлся мотив?
Всё, что мы сейчас строим ради агентов — волты, явные описания процессов, разложенный по полочкам контекст, отчуждённая от головы экспертиза, — это артефакты, читаемые человеком. Ни одному из них агент не нужен, чтобы быть полезным.
Управление знаниями всю жизнь было дисциплиной без плательщика: всем очевидно полезно, но платить за нее никто не хотел. ROI размазывался по всем и обещал вернуться в неопределённом будущем, а издержки ложились на конкретного тимлида, который вместо фичи неделю писал документацию, и в моменте, а не когда-нибудь потом. В итоге у бизнес-задачи всегда более высокий приоритет, обусловленный принципом действия всей системы, а у вспомогательных функций типа актуальной базы знаний вся надежда только на достаточно изворотливого и неравнодушного инициатора.
И вот впервые появилось что-то, что смогло развернуть матрицу приоритетов в обратную сторону. Агент, как требовательная дорогая игрушка, отлично стимулирует работодателя финансово вложиться в то, что раньше вывозилось на волевых и передавалось как притча во языцех. Мол, сын маминой подруги работает в компании, в которой доступы выдаются в первый день, онбординг бесшовный, дока читаема — и прочие байки. Одно не изменилось: работодатель заплатит не из уважения к людям и не из любви к порядку, а потому что иначе агент не работает.
Люди на этом поезде пока едут, ещё и бесплатно. И не потому что о них позаботились, а потому что поезд всё равно довезёт их до Иркутска. Документация, написанная для агента, читается человеком, а процесс, разложенный по полочкам ради агента, понятен и новичку. Работу, которая людям была нужна всегда и которую никто не соглашался оплачивать, наконец оплачивают. Только по другой причине.
Боюсь, что это верно ровно до тех пор, пока артефакты остаются человекочитаемыми. Как только оптимизация под агента начнёт расходиться с человекочитаемостью, человека с этого поезда ссадят на ближайшей станции. Поэтому ситуация опять переворачивается. Не «мы делаем для неживого то, чего не делали для живого», а «неживое, наконец, выбило бюджет на то, что живому было нужно всегда».
PS.
Я буду рада вашему взгляду на отношение человека к человеку и человека к нейронке. А эта статья родилась после длинной дискуссии с директором Технохаба Сбера, чей взгляд на сегодняшние реалии и обозримое будущее оказался намного более суровым, чем я привыкла видеть в интернете.
ссылка на оригинал статьи https://habr.com/ru/articles/1063214/