Илон Маск: «Новый Grok обучался на данных Cursor и будет намного лучше в коде»

Илон Маск объявил в X, что базовая модель Grok V9-Medium на 1,5 трлн параметров завершила обучение, акцент в котором был сделан на коде. Для этого в дополнительный этап обучения добавили большие объемы данных Cursor. Сейчас идет дообучение модели, а далее запланирован этап обучения с подкреплением. Публичный релиз — через 2-3 недели.

Это сильный контраст c v8-small — моделью на 0,5T параметров, которая положена в основу Grok 4.20 и Grok 4.30. У V9-Medium параметров втрое больше, что поднимет ее в одну лигу с конкурентами в лице OpenAI и Anthropic.

Доступ к данным Cursor команда разработчиков получила после апрельской сделки, в ходе которой SpaceXAI получила опцион на покупку Cursor за $60 млрд до конца года или $10 млрд за продолжение партнерства. Cursor взамен получил доступ к Colossus 2 для тренировки собственных моделей Composer — это примерно миллион эквивалентов H100. Раньше казалось, что обмен односторонний: деньги и вычислительные мощности против сотрудничества. Теперь видно, что данные текут и в обратную сторону.

Это качественно другой источник обучения, чем сбор данных из открытого интернета или синтетика. Cursor — главный AI-редактор для разработчиков, через него идут миллионы реальных сессий кодинга: как пользователи правят код, что отклоняют у ассистента, как чинят ошибки. 18 мая Cursor выпустил Composer 2.5 на базе Kimi K2.5 — модель набрала 79,8% на SWE-bench Multilingual, на уровне Claude Opus 4.7, но в десять раз дешевле. Теперь те же данные пойдут и в Grok.

P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть«, где я рассказываю про ИИ с творческой стороны.