Стартап Recursive Superintelligence привлек $650 млн, чтобы научить ИИ улучшать самого себя

Основатель You.com и бывший исследователь Salesforce Ричард Сочер запустил новый AI-стартап Recursive Superintelligence. Компания вышла из скрытого режима и объявила о привлечении $650 млн.

Главная идея проекта — создать систему рекурсивного самоулучшения ИИ. Это не просто агент, который помогает программисту писать код или улучшает отдельную задачу по запросу. Recursive Superintelligence хочет автоматизировать весь исследовательский цикл: генерацию идей, реализацию и проверку гипотез без участия человека.

По словам Сочера, многие называют auto-research рекурсивным самоулучшением, но это не одно и то же. Если модель помогает улучшить письмо, код или другой ML-проект — это просто улучшение. Рекурсивное самоулучшение в его понимании начинается там, где ИИ сам находит собственные слабые места, предлагает изменения и проверяет, действительно ли новая версия стала лучше.

В команду вошли заметные исследователи и предприниматели. Среди них — Питер Норвиг, бывший директор по исследованиям Google и один из известных авторов в области ИИ, Тим Ши, сооснователь Cresta, а также Тим Роктешель, который ранее работал в Google DeepMind над open-endedness и самоулучшением.

Именно open-endedness Сочер называет ключевым подходом Recursive Superintelligence. Речь идет о системах, которые не просто решают заранее заданный набор задач, а могут постоянно искать новые сценарии, пробовать разные стратегии и развиваться через много итераций. В качестве примера он приводит эволюционные процессы и AI-системы, которые могут соревноваться друг с другом, находя все новые слабые места.

Один из таких подходов — rainbow teaming. По смыслу он похож на red teaming, но вместо ручного поиска опасных промптов или уязвимостей одна AI-система атакует другую множеством разных способов. Затем первая система учится защищаться от этих атак. Такой цикл можно повторять миллионы раз, постепенно улучшая устойчивость модели.

Сочер подчеркивает, что Recursive Superintelligence не хочет оставаться только исследовательской лабораторией. Компания планирует выпускать продукты, а первые релизы, по его словам, могут появиться в течение кварталов, а не лет.

Если такой подход сработает, главным ограничением для дальнейшего прогресса станет не только качество исследователей, но и доступный compute. Чем больше вычислительных ресурсов можно дать системе, тем быстрее она сможет проверять гипотезы и улучшать себя.

Источник