Вышла Nemotron 3.5 Super VL от NVIDIA: 120 млрд параметров, миллион токенов и анализ видео

—

от автора

15 октября NVIDIA выпустила Nemotron 3.5 Super VL — мультимодальную модель с открытыми весами для ИИ-агентов. Она принимает текст, изображения, скриншоты, документы и видео, а затем может анализировать их в рамках одной задачи.

Мы изучили карточку модели, результаты бенчмарков и независимый тест Plotly. Главный вывод: Nemotron 3.5 Super VL интересна скоростью и работой с разными форматами, но не превосходит конкурентов во всех сценариях.

Что нового

Nemotron 3.5 Super VL построена по схеме Mixture of Experts. Всего в модели 120 млрд параметров, но при обработке каждого токена используются только 12 млрд.

Для пользователя это означает, что модель может сохранять возможности крупной нейросети, не задействуя её целиком при каждом запросе. NVIDIA заявляет, что благодаря такой архитектуре новинка работает до пяти раз быстрее открытых моделей сопоставимого класса. Результат получен на оборудовании компании и не должен восприниматься как универсальная скорость для любого сервиса.

Ещё одна важная характеристика — контекст до одного миллиона токенов. В него входят запрос, загруженные материалы, история диалога, результаты работы инструментов и ответ модели. Фактический лимит зависит от площадки, на которой она запущена.

Для каких задач подходит модель

Главное отличие Nemotron 3.5 Super VL от обычного текстового чат-бота — способность работать сразу с несколькими типами информации.

Модель можно использовать, чтобы:

  • изучить большой PDF-отчёт и подготовить краткое содержание;

  • найти данные в таблицах, диаграммах и сканах;

  • сравнить текст документа с показателями на графиках;

  • разобрать скриншот интерфейса и предложить исправления;

  • проверить программный код и найти причину ошибки;

  • восстановить последовательность событий в коротком видео;

  • вызвать внешний инструмент и продолжить работу с его результатом;

  • вернуть данные в структурированном формате JSON.

Возможности модели

Возможности модели

Например, модели можно передать отчёт с диаграммами и попросить проверить, совпадают ли выводы автора с цифрами. Другой сценарий — загрузить запись работы приложения, найти момент появления ошибки и составить список возможных причин.

Генерировать изображения и видео Nemotron 3.5 Super VL не умеет. Все входные материалы она анализирует, а результат возвращает в текстовом виде.

Что показывают тесты

По результатам NVIDIA, Nemotron 3.5 Super VL сильна в работе с длинным контекстом и агентными задачами. В некоторых тестах она обходит более крупную Nemotron 3 Ultra, хотя использует примерно в 4,6 раза меньше активных параметров.

Бенчмарк

Nemotron 3.5 Super VL

Nemotron 3 Ultra

Qwen 3.8 Flash Next

GPQA Diamond

89,52%

87,0%

92,7%

GraphWalks

89,71%

63,3%

76,1%

SWE-bench Pro

51,78%

49,66%

60,37%

Terminal-Bench 2.1

60,67%

54,8%

85,8%

Новинка показывает высокий результат в GraphWalks — тесте на работу со сложными связями в длинном контексте. Она также опережает Nemotron 3 Ultra в SWE-bench Pro и Terminal-Bench 2.1.

При этом Qwen 3.8 Flash Next остаётся сильнее в программировании и ряде сложных рассуждений. Поэтому считать Nemotron 3.5 Super VL безусловным лидером пока нельзя. Полная таблица опубликована в карточке модели.

Как модель показала себя в практическом тесте

Команда Plotly проверила Nemotron 3.5 Super VL на 43 заданиях по анализу данных. Модель правильно выполнила 30 заданий и набрала 70%.

Медианное время ответа составило 12 секунд — это лучший результат среди 28 протестированных моделей. Для сравнения, Nemotron 3 Ultra набрала 79%, но отвечала в среднем за 26 секунд.

Результаты независимого теста Plotly

Результаты независимого теста Plotly

Однако тест показал и слабое место новинки. Она не заметила специально добавленные проблемы с качеством данных: пропущенные даты, повторяющиеся строки и неполные наборы наблюдений. Модель быстро строила расчёты, но не всегда проверяла исходные данные.

На практике это означает, что Nemotron 3.5 Super VL можно использовать для первичного анализа, SQL-запросов и подготовки отчётов. Но результаты, влияющие на решения или деньги, необходимо перепроверять. Подробности опубликованы в отчёте Plotly.

Можно ли запустить модель локально

NVIDIA опубликовала полную версию BF16 и более компактную сборку NVFP4. Полноточный вариант требует серверного оборудования — в примерах компании используются четыре H100 или два GB200.

Квантованная версия занимает около 70 ГБ и может работать на системе со 128 ГБ общей памяти. Это делает локальный запуск возможным, но обычного домашнего компьютера для модели всё равно недостаточно.

Для работы без собственной инфраструктуры доступны NVIDIA NIM, Hugging Face, ModelScope и OpenRouter. На момент подготовки материала OpenRouter указывает цену от $0,10 за миллион входных и $0,40 за миллион выходных токенов. Стоимость зависит от провайдера и может измениться.

Какие ограничения нужно учитывать

Русский язык не указан среди приоритетных языков постобучения. Разработчики отдельно усиливали английский, французский, немецкий, итальянский, испанский, японский и китайский, а также языки Индии. Поэтому качество работы с русскоязычными документами лучше оценивать на собственных примерах.

Максимальный контекст также не гарантирован на каждой площадке. Модель поддерживает до одного миллиона токенов, но отдельный сервис может установить меньший лимит из-за требований к памяти и скорости.

Наконец, открытые веса не делают ответы автоматически достоверными. Как показал тест Plotly, модель способна правильно выполнить расчёты и одновременно не заметить проблему в исходных данных.

Как попробовать Nemotron 3.5 Super VL в России

Nemotron 3.5 Super VL уже доступна в SpeShu.AI. Модель можно запустить без VPN, зарубежной карты и самостоятельной настройки серверов. Пользователи могут загружать документы, изображения и видео, проверять код и оплачивать только фактическое использование.

По промокоду HABRSPESHUAI к балансу начисляется ещё 15%. Это позволит провести больше тестов и сравнить Nemotron 3.5 Super VL с другими моделями на одинаковых задачах.

Итог

Nemotron 3.5 Super VL подойдёт для анализа документов, кода, скриншотов и видео, особенно когда важны скорость и длинный контекст. Проверить возможности новой модели уже можно в SpeShu.AI, однако важные расчёты и выводы всё равно стоит перепроверять.

ссылка на оригинал статьи https://habr.com/ru/articles/1095204/