Хассабис предложил необычный тест на AGI — открыть теорию относительности во второй раз

Глава Google DeepMind и нобелевский лауреат Демис Хассабис в интервью на подкасте Y Combinator предложил необычный тест для AGI: создать на основе его архитектуры модель, обученную только на знаниях, которые были у физиков в 1901 году. Далее эта модель должна самостоятельно вывести специальную теорию относительности — то, что Альберт Эйнштейн сделал в 1905 году. По его словам, нынешние системы на это пока не способны.

Тест разводит две вещи, которые в разговорах об AGI часто смешивают: умение хорошо решать известные задачи и способность создавать принципиально новое знание. К 1901 году у физиков уже были электромагнетизм Максвелла, ньютоновская механика, термодинамика Больцмана и накопившиеся экспериментальные парадоксы — нулевой результат опыта Майкельсона-Морли, ультрафиолетовая катастрофа. Все классические инструменты были в распоряжении, но в последующие годы для прорыва потребовалась серия концептуальных скачков, которые сделал Эйнштейн.

Современные модели Хассабис называет «неровным интеллектом» (jagged intelligence): они получают золотые медали на Международной математической олимпиаде, но проваливают простые задачи, если их слегка перефразировать. По его оценке, до AGI не хватает, возможно, «одной-двух фундаментальных идей» — в частности, способности к аналогическому рассуждению и генерации новых гипотез. Без этих способностей пройти тест невозможно: открытие СТО нельзя получить интерполяцией существующих данных, требуется смена парадигмы.

Хассабис при этом не считает недостающие способности магическими — это прорывы, которые могут произойти в ближайшие годы, а не века. Но смысл теста именно в том, чтобы перестать путать технический прогресс LLM с настоящим научным творчеством — открытием, которое нельзя вывести из существующего корпуса знаний.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть«, где я рассказываю про ИИ с творческой стороны.