Почему революция в нейросетях намного важнее, чем кажется

Придется начать немного издалека. Долгие века основой любого европейского (и, соответственно, российского тоже) мировоззрения была философия. Это был обязательный элемент в кругозоре любого публичного интеллектуала. Фактически, послевоенное поколение стало первым, которое отошло от этой традиции — и это дало свои плоды. Во многих вопросах современные публичные интеллектуалы, не зная истории мысли, выглядят абсолютно невежественными.

Многие концепции, кажущиеся нам банальными, имеют конкретных авторов. Например, естественная для современных технарей мысль о том, что «природа написана языком математики», была высказана Галилеем. До того, веками безраздельно господствовал Аристотель, который выдвинул тезис о том, что миры математики и физики ортогональны, и физика может быть постигнута лишь чувственно. Простейший формальный тезис опередил историю человечества на века.

На данный момент вся наука написана языком математики, а математика — это строгое и стройное здание, построенное на длинной цепочке логических выводов из нескольких самоочевидных аксиом. Мы знаем, что из нескольких формально простых правил дискретной математики и формальной логики выстроена вся инфраструктура IT.

Теперь немного ближе к теме. Несмотря на то что ИИ создан с помощью IT и математики, на самом деле нет понимания того, как он действительно устроен. Конечно, существуют модели трансформеров, различные алгоритмы градиентного спуска, тензоры и матрицы, но мы понятия не имеем, что именно они означают. Определенно, это не модель Галилея. Человеческий мозг и человеческая культура устроены совсем иначе. Все объяснения, которые мне удалось найти о том, почему расчет статистической вероятности следующего токена в цепочке ведет к имитации человеческого мышления, весьма эффективной во многих областях, сводятся к понятию «эмерджентности». Но эта самая эмерджентность почти не фигурирует ни в физике, ни в философии. По сути, объяснение «потому что так сложилось» было бы не менее убедительным.

Фактически, совершенно неожиданно у нас появилась новая модель познания, новая модель мышления, ранее людям не известная, — а значит, и последствия её возникновения нам неизвестны. Подобно тому, как размышления Аристотеля на тысячу лет остановили физику, а мысли Галилея, напротив, возродили её, ИИ принесет масштабные и совершенно непредсказуемые последствия, поскольку его мышление для нас — черный ящик. Мы можем корректировать те или иные параметры, но почему и как это работает — неясно. Точно так же, как у нас есть код ДНК, но мы лишь отчасти понимаем, почему наследственность закодирована именно так, и до полного проектирования живого организма нам еще очень далеко.