Thinking Machines Lab представила Inkling – open-weights модель с 975 млрд параметров и ставкой на кастомизацию

от автора

Стартап Thinking Machines Lab, основанный бывшим CTO OpenAI Мирой Мурати, выпустил свою первую фундаментальную модель — Inkling. Вместо гонки за лидерством в бенчмарках компания делает ставку на открытые веса, мультимодальность и инфраструктуру для глубокой кастомизации моделей под конкретные продукты.

По характеристикам релиз получился одним из самых крупных среди открытых моделей:

  • 975 млрд параметров (архитектура Mixture-of-Experts);

  • 41 млрд активных параметров на токен;

  • контекстное окно до 1 млн токенов;

  • предварительное обучение на 45 трлн токенов, включающих текст, изображения, аудио и видео.

Также представили Inkling-Small. Это облегчённая версия с 12 млрд активных параметров, ориентированная на более дешёвый и быстрый инференс.

При этом в Thinking Machines прямо признают, что Inkling не является лучшей моделью ни среди open-, ни среди closed-моделей. Вместо этого разработчики позиционируют её как сильную базовую мультимодальную модель, которую можно эффективно адаптировать под конкретные сценарии использования. Такой подход, по мнению компании, важнее, чем максимальные результаты в синтетических тестах.

Главная идея — не модель, а конвейер её адаптации

Ключевым элементом экосистемы стала платформа Tinker, анонсированная компанией ранее. Через неё разработчики могут запускать полный цикл дообучения модели: загружать собственные датасеты, проводить fine-tuning, выполнять оценку качества и переключать приложения на новые веса без самостоятельной организации ML-инфраструктуры.

В демонстрации возможностей Thinking Machines показала показательный сценарий: Inkling самостоятельно сформировала задачу на fine-tuning, обучилась избегать использования буквы «e» в ответах, автоматически запустила оценку качества и после успешной проверки переключилась на обновлённые веса. Таким образом компания демонстрирует не столько возможности самой модели, сколько полностью автоматизированный цикл ее адаптации.

Фактически предлагается следующий процесс: модель → постановка задачи → подготовка данных → fine-tuning → evaluation → публикация новых весов.

Ставка на рынок корпоративного AI

На фоне того, что многие разработчики сегодня выбирают между дорогими закрытыми моделями OpenAI/Anthropic и открытыми решениями зачастую китайских лабораторий, Thinking Machines пытается занять свою нишу. Компания делает акцент на том, что бизнесу зачастую важнее не абсолютное лидерство в рейтингах, а возможность быстро получить собственную специализированную модель, адаптированную под внутренние процессы и данные.

Если эта стратегия окажется успешной, Inkling может стать не просто ещё одной крупной open-weights моделью, а основой для своеобразной «фабрикой моделей», где под каждый продукт или компанию создаётся собственная специализированная версия ИИ.

ссылка на оригинал статьи https://habr.com/ru/articles/1060322/