Возвращение короля: разбираемся, что такое Qwen3.8 27B

14 августа 2026 года, 15:00 UTC.

CEO Anthropic Дарио Амодей срочно созвал заседание. Экс-глава Apple Тим Кук пожалел, что встроил в айфоны облачную Gemini, так и не дождавшись локальной модели нужного уровня. Где-то в датацентрах Alibaba щёлкнул рубильник, на Hugging Face слетел обратный отсчёт, и в мир вышла Qwen3.8-27B — новая dense-модель на 27 миллиардов параметров, которую даже прозвали «локальным Opus’ом», поскольку она позиционируется как одно из самых мощных открытых решений для локальной генерации. Ждали её всем миром: обратный отсчёт на huggingface, первые пиксельные пеликаны на великах — всё как положено.

Если вкратце, это открытая (Apache 2.0) мультимодальная модель, которая понимает текст, картинки и видео, влезает в одну ооочень мощную домашнюю видеокарту, а временами по бенчмаркам обгоняет закрытые облачные модели уровня Claude Opus 4.6. Если не вкратце — читайте дальше, потому что там есть и триумф, и зависания на 49 минут раздумий!

---

Кто это вообще такой

Стоит сразу заметить, чтобы не путаться: что это не 8-миллиардная модель (как было в случае Qwen3-8B), и не гигантский Qwen3.8-Max на 2,4 триллиона параметров, который вышел днём раньше под отдельной лицензией. У 27B-модели ровно 27,78 млрд параметров, она плотная, то есть dense (это значит, не MoE — при инференсе работают все веса разом, а не «выбранные эксперты»), и весит около 55,6 ГБ в BF16 (веса кодированы в виде дробных чисел точностью 16 битов на число).

Архитектурно перед нами гибрид: 64 слоя, из которых только 16 — это классический full attention, а остальные 48 — линейные Gated DeltaNet слои. Схема выглядит так: 16 раз повторяется блок «3 слоя DeltaNet → FFN, затем 1 слой полного внимания → FFN», где на 48 голов приходится линейное внимание с V и 16 QK-головами, а полноценное внимание использует 24 головы Q и 4 KV-головы с размерностью 256. Звучит как абракадабра, практический смысл простой: у модели гигантский контекст в 262144 токена из коробки (и растягивается YaRN’ом до миллиона), а KV-кэш при этом не взрывается, потому что честный attention нужен только на каждом четвёртом слое.

Кстати: архитектурно Qwen3.8-27B полностью идентична предыдущей локальной модели подобного уровня – Qwen3.6-27B, а значит весь прирост способностей пришёл исключительно из улучшений обучения.

Бенчмарки

Сразу скажем, что включение Opus4.6 Max в качестве точки сравнения в официальной табличке восприняли как дерзкий жест.

В день релиза сама Alibaba не стеснялась праздновать открыто — вплоть до отдельного благодарственного поста, когда модель вышла в топ трендов на Hugging Face:

И действительно, таблица заставляет присвистнуть. Вот основные текстовые бенчмарки:

А по мультимодальным и агентным задачам разрыв с предшественником вообще выглядит неприлично большим: OSWorld-Verified (компьютерное управление) вырос с 63.9 до 84.3, WebArena — с 48.8 до 64.8, SWE-MM — с 25.7 до 38.6. Модель затачивали не просто на болтовню в чате, а на работу агентом — с браузером, терминалом и интерфейсами.

Прирост над предыдущим поколением показывает вот такой график с разбивкой по категориям:

Аналитики Kingy.ai отметили несколько важных нюансов: во-первых, все цифры — это цифры от самой Qwen, и публичность задач не делает прогон вендора независимым. Во-вторых, сравнение по SWE-bench Pro не совсем честное: компания не гоняла модель Opus заново под тем же харнессом, а просто взяла её официально опубликованный результат, тогда как остальных участников таблицы прогнали через доработанный набор задач с исправленными багами (то есть в данной таблице квеновский SWE-bench Pro = число по собственноручно запущенным тестам, опусовский SWE-bench Pro = число взято из уже имевшихся из антропиковских бенчмарков). Ну и в-третьих: несколько бенчмарков (QwenSWEBench, CoWorkBench, RecreationBench) — это внутренние разработки Alibaba, для которых пока нет внешней проверяемости уровня зрелых публичных бенчмарков.

Собственно, именно эта горсть недоверия и стала темой нескольких жарковатых веток на форумах.

Пользователи отмечали также, что по умолчанию режим размышлений установлен на xhigh прямо в чат-шаблоне, из-за чего модель думает очень долго, что для обычного пользователя стало неожиданным по сравнению с версией 3.6 — и именно это накручивает метрики интеллекта, но не отражается в метриках вроде расхода токенов или времени вычислений. Тут, впрочем, надо признать: reasoning-эффорт действительно влияет на итоговый счёт, но и сами по себе улучшения Qwen3.6 остаются реальными и воспроизводимыми в разных источниках.

А вот ещё один независимый прогон — на Hugging Face прогнали модель против Nemotron 3.5 Lightning и Muse Glimmer* (* организация Meta является запрещённой в РФ) на 16 сложных задачах (математика, код, логика) на одной RTX 5090:

Итог получился неоднозначным, Qwen3.8-27B финишировал быстрее всех с большим отрывом и оказался единственной из трёх моделей, ни разу не упёршейся в потолок генерации в 32768 токенов — тогда как два других участника застревали суммарно трижды, и поднятие лимита до 60000 токенов не спасло ни один из этих прогонов. При этом сама модель ошиблась дважды — оба раза в математике, причём один раз даже сослалась на несуществующую последовательность в OEIS (Онлайн-энциклопедия целочисленных последовательностей) в подтверждение неверного ответа.

Overthinking: главная драма релиза

Если у Qwen3.8-27B и есть главная особенность — это патологическая склонность модели «пережёвывать» даже тривиальные запросы.

Простой промпт может спровоцировать пять тысяч токенов размышлений — при том, что все версии Qwen3.x были склонны к долгому обдумыванию с самокопанием, но эта модель, похоже, установила рекорд. И это ещё цветочки. Иногда модель (как это, впрочем, уже бывало с Qwen нередко) уходит в практически бесконечные размышления – после 49 минут ответа можно уже не ждать.

Даже на простое эссе о картошке, объемом 250 слов, модель может буквально вручную пересчитывать слова в черновике, ставят номер с каждым и проходясь по всем абзацам, лишь бы строго попасть в лимит.

Но кое-кто таки проанализировал тензоры GGUF-весов и вывел якобы структурный дефект в слоях temporal processing, подкрепив это наукообразной таблицей. Однако позже выяснилось, что заявленные «пятьдесят оттенков экспертизы» — это, по сути, наукообразная мистификация…

Проблема overthinking-а вполне реальна, просто причина куда прозаичнее любых «сломанных тензоров». Всё дело в том, что, как уже упоминалось, по умолчанию у модели включён режим мышления на уровне xhigh, предназначенный для сложных задач, а понизить его до medium или low можно только явным указанием — и далеко не все инструменты вроде LM Studio вообще выставляют для этого переключатель в интерфейсе. А вот у облачных моделях вроде Claude Sonnet 5 подобных проблем с бесконечным самокопанием практически не встречается.

Ещё пример: агенто о четырёх инструментах, которому задали простейший фактический вопрос про поддержку MTP, использовал около пятидесяти вызовов инструментов и потратила порядка 85 000 токенов контекста из 256 000 доступных, хотя для ответа было бы достаточно первых пяти вызовов.

Единственный предлагаемый рабочий рецепт — снижать reasoning_effort руками, хотя по факту даже на low модель порой продолжает зависать в цикле раздумий.

Галлюцинации

Они есть. Например, модель не может написать текстовую строку наоборот. В этом тревожном кейсе модель не сумела развернуть .DefaultCellStyle, галлюцинируя буквально с самого начала рассуждений. Qwen3.6-27B, кстати, тоже был хорош: на схожем тесте успех составил лишь около 33% случаев. При решении этой же «задачи» модель может вдруг ни с того ни с сего менять исходную строку на середине рассуждения — то на .DataGridViewCellStyle, то на .DataCellEditor, то есть попросту придумывает себе новый текст задания и с упоением решает уже его.

В целом пользователи крайне негативно удивлены поведением — у неё экстремальное количество галлюцинаций, некоторые всерьёз рассматривают откат на Qwen3.6-27B. Проблема проявляется даже на коротком контексте.

Также модель игнорирует пожелания пользователя и забывает инструкции, а при попытке исправить одну ошибку тут же порождает несколько новых, вдобавок забывая изначальный промпт.

Увы, локальная модель на 27 миллиардов параметров физически не дотягивает до уровня Claude или GPT с их триллионами параметров, обученных на несопоставимо больших объёмах данных. И это ощущается очень зримо, особенно на фактологии за пределами кода.

И всё-таки — пеликан на велосипеде

Нельзя обойтись без классического бенчмарка — нарисовать SVG-пеликана на велосипеде, руководствуясь исключительно редактированием PSD через блокнот текстовым кодингом графики.

Эта картинка сгенерирована с использованием IQ4_NL-квантованной модели от Unsloth, с одного захода без доработок. Получилось весьма достойно — заметно лучше, чем у большинства локальных моделей поколения полугодовой давности. Утверждают, что это один из лучших пеликанов, которого видели от локально запущенной модели: форма велосипеда правильная, клюв пеликана отличный, нормальный фон, по одной лапе с каждой (важно!) стороны велосипеда, что встречается очень редко. Ушло 21 минута и 22276 токенов размышлений на 3223 токена итогового результата.

Похоже, модель специально дообучалась на генерации SVG, причём не обязательно именно на промпте про пеликана, а скорее в рамках более общего этапа RL, где генерация SVG оценивалась более сильной vision-моделью-судьёй.

27B против облачных гигантов

Вот так выглядит Three.js-сцену затонувшей Атлантиды с храмом, колоннами, рыбами, водорослями, лучами света и 20-секундным пролётом камеры по единому промпту без правок – в Qwen3.8-27B и Claude Opus 4.6:

Результат Qwen, наверное, менее детальный, но сопоставимый.

Ещё немного воды – на этот раз от Grok 4.6. Рендеринг воды явно не сильная сторона Grok 4.6:

Оба в максимальном режиме размышлений. Как тебе такое, Илон Маск? Локальная модель оказалась убедительнее. Страшно представить, что будет с 35B-моделью.

Официального подтверждения от Alibaba на момент написания статьи так и не последовало – по-прежнему лишь 27B и 2.4T версии.

Термокамера, ватты и что нужно, чтобы это запустить

Официальные веса доступны в BF16 (~55,6 ГБ) и блочном FP8 (~30,9 ГБ), но большинство домашних пользователей воспользуется GGUF-квантами от Unsloth или аналогичных команд.

Вот таблица по реальным размерам файлов и тому, что для них нужно:

Именно математика по KV-кешу решает, влезет ли нужный контекст. Поскольку honest attention работает только на 16 слоях из 64, каждый токен контекста стоит всего 64 КБ (а не 256 КБ, как у обычной dense-модели такого же размера). При 32K контекста это 2 ГБ, при 128K — уже 8 ГБ, а на полные 262K — 16,4 ГБ поверх весов. Именно гибридная архитектура и делает реалистичным окно в четверть миллиона токенов на одной домашней карте.

Уже в день релиза свою поддержку модели выкатила AMD — для владельцев Ryzen AI Max и видеокарт Radeon, зафиксировав до 24,5 токена в секунду на Ryzen AI Max+ 395 и до 51,8 токена в секунду на одиночной Radeon AI PRO R9700. (Для тех, кто хочет максимум производительности, мощный Qwen3.8 Max уже развёрнут в облачной версии.)

Быстрый гайд по запуску через llama.cpp:

llama-server -hf unsloth/Qwen3.8-27B-GGUF:UD-Q6_K_XL \  --host 0.0.0.0 --port 8080 \  --fit off --gpu-layers all --gpu-layers-draft all \  --ctx-size 48000 \  --top-p 0.95 --top-k 20 --temp 1.0 --min-p 0.00 --repeat-penalty 1.0 \  --spec-type draft-mtp

Судя по отзывам, на RTX 5090 (32 ГБ VRAM), кванте UD-Q6_K_XL, контекст влезает только на 48000 токенов при скорости генерации 100 т/с, а на кванте UD-Q5_K_XL расширяется до 125000 токенов при скорости 120 т/с. На картах послабее — на RTX 4090 порядка 65 т/с при контексте в 260000 токенов.

Команда SGLang в день релиза отчиталась о результатах на потребительском железе:

• 206,1 т/с на одиночной RTX 5090 – NVFP4-версия, с включённой технологией оптимизации DSpark;

• а также 38,28 токена в секунду – с включённой DGX Spark.

---

С одной стороны — реально измеримый прогресс над предыдущим поколением почти по всем метрикам, впечатляющая работа с компьютером и браузером, способность влезать на одну видеокарту с контекстом в сотни тысяч токенов. С другой — реальные проблемы с пережёвыванием простых задач по умолчанию, жалобы на галлюцинации по сравнению с предшественником, здоровая доля вендорского приукрашивания в официальных бенчмарках.

Qwen3.8-27B можно назвать одной из самых значимых локальных моделей года. Просто не забудьте выставить reasoning_effort на нужный уровень, если не хотите ждать сорок девять минут ответа на вопрос про автомойку.