Что происходит внутри ИИ, когда вы жмёте Enter: пять аналогий

Мой знакомый недавно спросил у чат-бота, сколько букв «р» в слове «стратегия». Ответ был уверенным и неправильным. Через минуту тот же бот перевёл ему абзац с японского и набросал план переговоров с поставщиком. «Так что у неё внутри?» — спросил он. Не в философском смысле: вот этот текст на экране — он откуда берётся физически?

В прошлой статье мы разбирались с поведением: почему модель выдумывает ссылки, забывает условия — и вдруг пишет грамотные претензии. Здесь спускаемся этажом ниже, до устройства. Пять новых картинок, пять новых вопросов. Правило прежнее: одна аналогия — один вопрос; тянуть одну на всё не надо, сломается.

Карта вместо города: что модель хранит

Первое, что стоит уяснить: внутри обученной модели текстов нет. Ни Википедии, ни форумов, ни ваших писем. Ничего.

Обучение закончилось — и весь материал исчез из доступа. Осталось то, что модель из него вынесла. Представьте таксиста, который двадцать лет гонял по городу, а потом город снесли. Улиц нет, но карта в голове осталась: где обычно пробки, какие дворы соединяются, откуда лучше объезжать центр. От вокзала до парка он проведёт уверенно. А вот что написано на двери конкретного офиса — не знает: двери больше нет, есть только выученный маршрут.

Модель — такая же карта, только из закономерностей: как обычно продолжаются фразы, какие факты с какими ходят, как меняется тон от документа к документу. Поэтому она не «база со статьями»: ей нечего открывать и перечитывать, она может лишь пройтись по своей карте. Оговорка ради честности: отдельные часто повторявшиеся куски она иногда восстанавливает почти дословно — но это побочный эффект, а не хранилище. Размер карты — те самые миллиарды параметров: не объём архива, а плотность прорисовки.

У карты есть ещё одна особенность. Понятия стоят на ней не по алфавиту, а по смысловой близости: «кошка» — рядом с «котёнком» и в другом конце города от «бухгалтерии». Большая часть того, что мы называем пониманием, — умение ориентироваться на этих расстояниях: связывать похожее, отличать далёкое.

Откуда карта взялась — тема прошлой статьи, пульт с ручками. Но карта сама по себе сырая: она знает, как пишут люди, а не как отвечать человеку. Как из неё делают ассистента?

Судьи на льду: откуда у бота манеры

Базовая модель после обучения на текстах — фигурист, откатавший всю технику, но ещё не знакомый с жюри. Прыгать умеет. А что ценится — аккуратность, артистизм, попадание в задание — не понимает. Спросишь о чём угодно — получишь что угодно: продолжение фразы, стилизацию под cookbook, бессвязный поток. Так и было в первые годы: модели умели «писать как Википедия», но собеседниками не были.

Дальше — судьи. Люди, а позже и автоматические оценщики, смотрят пары ответов и выбирают лучший: этот полезный, этот уходит от вопроса, этот грубиян. Модель доучивают так, чтобы её ответы получали высокие оценки. Несколько сезонов такой работы — и появляется привычный чат-бот: вежливые обороты, уточняющие вопросы, отказы там, где просят опасное.

Отсюда два вывода. Манеры — не признак души, а тренировка под оценки: уверенный спокойный тон наработан так же, как тройной аксель. И второе: у судей свои вкусы и слепые пятна, модель их наследует. Поэтому у разных компаний боты различаются характером — у каждого своё жюри.

Хорошо, ассистент готов. Что происходит в момент, когда вы жмёте Enter?

Кухня в час пик: почему ответ стоит денег

Ваш вопрос нарезается на токены и уходит на конвейер. Дальше лучше всего описывается кухней ресторана в час пик. Заказ один. Но по цехам параллельно работают сотни рук: кто-то режет, кто-то мешает, кто-то держит соус на водяной бане. Блюдо — результат одновременной работы всей бригады, а не одного одарённого повара.

Так и нейросеть: ответ не обдумывается в одиночной «голове». Он перемалывается миллиардами однотипных вычислений, которые гоняют тысячи специализированных чипов. Обычный процессор — виртуоз-универсал, хорош в сложных последовательных делах. Здесь же нужны тысячи простых работников, каждый делает одно умножение — зато все сразу. Поэтому под ИИ строят целые площадки из видеокарт, с охлаждением и электрическим аппетитом небольшого городка.

Отсюда и цена, и скорость. Десять секунд «думания» — это фабрика, которая в этот момент работает на одного вас. Ваш ноутбук большие модели обычно не тянет — кухня не того масштаба. А лимиты и очереди на бесплатных тарифах существуют потому, что кухонные мощности не резиновые, а аппетит у блюда огромный.

На этой кухне есть прилавок, о который спотыкаются все, кто ждёт от модели буквальной точности.

Матовое стекло: почему модель не видит буквы

Вернёмся к «стратегии». Модель в буквальном смысле не видит букв. Текст для неё нарезан на токены, и границы нарезки с буквами не совпадают: «стратегия» может оказаться парой обломков, редкая фамилия — развалиться на нелепые «стр» и «атег». Всю жизнь модель работает с этими кусками — как человек, который читает через матовое стекло. Смысл улавливает отлично. Букв — никогда не видел.

Отсюда характерные промахи: подсчёт букв, слова наоборот, местами арифметика на длинных числах. Это не глупость — нарезка, в которой букв и одиночных цифр просто нет. Лекарство известное: дать инструмент. Калькулятор, исполнение кода, поиск — и нудная точность возвращается, потому что числа наконец идут по одному.

Тот же эффект со стихами: звуков модель не слышит, ей доступны только обломки текста, поэтому рифма временами хромает — на бумаге совпало, вслух не легло.

Остался фокус, который вроде бы противоречит сказанному.

Черновик перед чистовиком: зачем ИИ просят рассуждать

Выше я говорил: модель не обдумывает ответ, а выдаёт кусочек за кусочком. А теперь попросите её «рассуждай пошагово» — и результаты на сложных задачах заметно растут. Противоречие? Нет.

Вспомните экзамен. Одни пишут ответ сразу набело — и на многоходовой задаче заваливаются в первом же действии. Другие сначала выписывают черновик: шаг, проверка, ещё шаг. Черновик не делает человека умнее. Он оставляет написанное перед глазами — и следующий шаг опирается на предыдущий, а не на память.

У модели каждое слово ответа — сразу набело: сказано и стало исходником для следующего куска. Если заставить её сначала выписать рассуждение, промежуточные шаги остаются в тексте, и финальный ответ строится уже на них. Поэтому современные модели специально учат рассуждать вслух: на трудных задачах прирост ощутимый, расплачиваться приходится лишними секундами и токенами на той самой кухне.

Только помните реставратора из прошлой статьи: красивое развёрнутое рассуждение — не гарантия верного ответа. Убедительный ход мысли и правильный ответ — разные вещи; черновик лишь повышает шансы второго.

Что с этим делать

Каждая картинка — под свой вопрос. Почему бот платный и небыстрый — кухня. Почему путается в буквах и числах — матовое стекло. Откуда вежливость и отказы — судьи. Почему не знает сегодняшних новостей — карта: она рисована по прошлому, свежее подтягивает поиск, но это уже про обвязку вокруг модели. Что даёт «пошагово» — черновик.

Границы проговаривайте сразу. У таксиста был настоящий опыт вождения, у судей есть регламент, у кухни — меню и заказы. У модели этого нет, и любая картинка, если тянуть её за уши, начинает врать раньше самой модели.

Для первого разговора хватает трёх фраз. Модель хранит не тексты, а выученные закономерности — карту, по которой однажды прочитанный интернет больше не открыть. Манеры ей поставили люди-оценщики. А считает она обломками слов, поэтому в мелочах нужна страховка — инструменты и проверка.

А мой знакомый после нашего разговора задал новый вопрос: сколько букв «р» в слове «аналогия». Прогресс налицо — теперь он хотя бы знает, почему ответ может быть любым.