{"id":494060,"date":"2026-09-09T11:59:05","date_gmt":"2026-09-09T11:59:05","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=494060"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=494060","title":{"rendered":"\u0422\u0435\u0441\u0442 DeepSeek, Qwen, GLM \u0438 \u043f\u0440\u043e\u0447\u0438\u0445 LLM \u043d\u0430\u00a0\u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u043e\u043c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c\u00a0\u0436\u0435\u043b\u0435\u0437\u0435"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u0415\u0449\u0435 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u0433\u043e\u0434\u0430 \u043d\u0430\u0437\u0430\u0434 \u0432\u0430\u0448 \u043f\u043e\u043a\u043e\u0440\u043d\u044b\u0439 \u0441\u043b\u0443\u0433\u0430 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0440\u0435\u0448\u0438\u043b\u0441\u044f \u043e\u0431\u043d\u043e\u0432\u0438\u0442\u044c \u043a\u043e\u043c\u043f, \u043f\u0440\u0438\u043e\u0431\u0440\u0435\u0442\u044f \u041f\u041a \u0441\u00a0RTX 5090\u00a0\u0438 96Gb RAM, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u043a\u0430\u043a\u00a0\u044f \u0442\u043e\u0433\u0434\u0430 \u0434\u0443\u043c\u0430\u043b, \u043e\u043a\u0430\u0436\u0443\u0442\u0441\u044f \u0443\u043b\u044c\u0442\u0438\u043c\u0430\u0442\u0438\u0432\u043d\u044b\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0432\u0441\u0435\u0433\u043e, \u0447\u0442\u043e\u00a0\u043c\u043e\u0436\u0435\u0442 \u043a\u043e\u0433\u0434\u0430\u2011\u043b\u0438\u0431\u043e \u0445\u043e\u0442\u0435\u0442\u044c\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c. \u041d\u043e\u00a0\u0441\u00a0\u0432\u044b\u0445\u043e\u0434\u043e\u043c DeepSeek V4\u00a0Flash \u0432\u00a0\u0430\u043f\u0440\u0435\u043b\u0435 \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e\u00a0\u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0432\u00a0\u0441\u0432\u043e\u0435\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u043c \u00ab\u043b\u0438\u043c\u0431\u043e\u00bb\u00a0\u2014 \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0445 128Gb VRAM+RAM \u0445\u0432\u0430\u0442\u0430\u043b\u043e\u00a0\u043b\u0438\u0431\u043e \u043d\u0430\u00a0\u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0438 \u0432 <a href=\"https:\/\/habr.com\/ru\/articles\/918936\/\" rel=\"noopener nofollow\">\u043a\u0432\u0430\u043d\u0442\u0435<\/a> Q2,\u00a0\u043b\u0438\u0431\u043e \u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u043f\u0440\u0435\u0434\u0435\u043b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0433\u043e \u0432\u00a0Q3XSS. \u0422\u043e \u0435\u0441\u0442\u044c\u00a0\u0431\u044b\u043b Qwen 3.6, \u0430\u00a0\u043d\u0430\u00a0\u0432\u0441\u0451, \u0447\u0442\u043e\u00a0\u0431\u043e\u043b\u044c\u0448\u0435\u00a0\u2014 \u043f\u0430\u043c\u044f\u0442\u0438 \u0443\u0436\u0435 \u043d\u0435\u00a0\u0445\u0432\u0430\u0442\u0430\u043b\u043e. \u0410\u00a0\u0442\u0443\u0442 \u043a\u0430\u043a\u00a0\u0440\u0430\u0437 \u0432\u044b\u0448\u043b\u0430 \u043d\u043e\u0432\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f DSv4Flash 0731\u2026 \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c\u00a0\u0431\u044b, \u043a\u043e\u043c\u043f \u043c\u043e\u0449\u043d\u044b\u0439, \u0438 \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0438 \u043d\u0435\u00a0\u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0441\u043e\u0432\u0441\u0435\u043c \u0447\u0443\u0442\u044c\u2011\u0447\u0443\u0442\u044c, \u0430\u00a0\u0432\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0\u0437\u043b\u043e\u0441\u0447\u0430\u0441\u0442\u043d\u044b\u0445 \u043e\u0431\u043b\u0430\u0434\u0430\u0442\u0435\u043b\u0435\u0439 DGX Spark, \u043a\u043e\u0442\u043e\u0440\u044b\u043c, \u043d\u0430\u0432\u0435\u0440\u043d\u043e, \u0431\u0440\u0430\u0442\u044c \u0440\u0430\u0437\u0432\u0435 \u0447\u0442\u043e\u00a0\u0432\u0442\u043e\u0440\u0443\u044e \u0442\u0430\u043a\u0443\u044e\u00a0\u0436\u0435, \u044f \u043c\u043e\u0433\u0443 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043e\u043a\u0443\u043f\u0438\u0442\u044c \u0435\u0449\u0435 \u043e\u0434\u0438\u043d \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442 96Gb RAM, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043d\u0435 \u0442\u043e\u0433\u0434\u0430 \u043e\u0431\u043e\u0448\u0435\u043b\u0441\u044f \u0432\u0441\u0435\u0433\u043e\u2011\u0442\u043e \u0432\u2026 32000\u0440?<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/770\/505\/c52\/770505c52c120582b05edd2b5882b2df.jpg\" alt=\"\u00af\\_(\u30c4)_\/\u00af\" title=\"\u00af\\_(\u30c4)_\/\u00af\" width=\"998\" height=\"521\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/770\/505\/c52\/770505c52c120582b05edd2b5882b2df.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/770\/505\/c52\/770505c52c120582b05edd2b5882b2df.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u00af\\_(\u30c4)_\/\u00af<\/figcaption><\/div>\n<\/figure>\n<p>\u2026\u042f \u043d\u0435\u00a0\u0445\u043e\u0447\u0443 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c, \u0432\u043e\u00a0\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043d\u0435 \u044d\u0442\u043e \u043e\u0431\u043e\u0448\u043b\u043e\u0441\u044c \u0441\u0435\u0439\u0447\u0430\u0441. \u0422\u0435\u043c \u043d\u0435\u00a0\u043c\u0435\u043d\u0435\u0435, 192Gb RAM \u043d\u0430\u00a0AM5\u00a0\u0437\u0430\u0432\u0435\u043b\u0438\u0441\u044c \u0432\u00a0\u0432\u0435\u0441\u044c\u043c\u0430 \u0434\u043e\u0441\u0442\u043e\u0439\u043d\u044b\u0445 6000Mhz \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0435 1:1\u00a0\u0438 \u043f\u043e\u0441\u043b\u0435\u00a0\u043b\u0438\u0448\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0448\u0430\u043c\u0430\u043d\u0441\u0442\u0432\u0430 \u0441\u00a0\u043d\u0430\u043f\u0440\u044f\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043f\u0440\u043e\u0448\u043b\u0438 \u0432\u0441\u0435 \u0442\u0435\u0441\u0442\u044b \u043d\u0430\u00a0\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5ff\/e73\/0e8\/5ffe730e890774a12095c431b806d1ee.jpg\" alt=\"\u0422\u043e \u0441\u0430\u043c\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u0441 \u0434\u0432\u0443\u043c\u044f \u043d\u043e\u0432\u044b\u043c\u0438 \u043f\u043b\u0430\u043d\u043a\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438\" title=\"\u0422\u043e \u0441\u0430\u043c\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u0441 \u0434\u0432\u0443\u043c\u044f \u043d\u043e\u0432\u044b\u043c\u0438 \u043f\u043b\u0430\u043d\u043a\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438\" width=\"3072\" height=\"3700\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/5ff\/e73\/0e8\/5ffe730e890774a12095c431b806d1ee.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5ff\/e73\/0e8\/5ffe730e890774a12095c431b806d1ee.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u043e \u0441\u0430\u043c\u043e\u0435\u00a0\u0436\u0435\u043b\u0435\u0437\u043e \u0441\u00a0\u0434\u0432\u0443\u043c\u044f \u043d\u043e\u0432\u044b\u043c\u0438 \u043f\u043b\u0430\u043d\u043a\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438<\/figcaption><\/div>\n<\/figure>\n<div class=\"floating-image\">\n<p>\u0422\u0435\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043a\u043e\u043d\u0435\u0446 \u043b\u0435\u0442\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0443 \u043f\u0440\u044f\u043c\u043e\u2011\u0442\u0430\u043a\u0438 \u0436\u0430\u0440\u043a\u0438\u043c!<\/p>\n<\/div>\n<ul>\n<li>\n<p>DeepSeek V4\u00a0Flash (0731)\u00a0\u2014 31\u00a0\u0438\u044e\u043b\u044f 2026\u00a0\u0433\u043e\u0434\u0430. (MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 284B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 13B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u00a0\u0418\u0418\u2011\u0430\u0433\u0435\u043d\u0442\u043e\u0432). <\/p>\n<\/li>\n<li>\n<p>Qwen 3.8 27B\u00a0\u2014 3\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u041f\u043b\u043e\u0442\u043d\u0430\u044f (dense) \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u0443\u043c\u0435\u0449\u0430\u044e\u0449\u0430\u044f\u0441\u044f \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0439 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0435). <\/p>\n<\/li>\n<li>\n<p>GLM 5.3\u00a0Flash\u00a0\u2014 26\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u041c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0430\u044f MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 320B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 18B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, \u0440\u0430\u043d\u0435\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0432\u0448\u0430\u044f\u0441\u044f \u043f\u043e\u0434\u00a0\u0441\u0442\u0435\u043b\u0441\u2011\u0438\u043c\u0435\u043d\u0435\u043c Ox Alpha). <\/p>\n<\/li>\n<li>\n<p>Qwen 3.8\u00a0Flash Next\u00a0\u2014 28\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0435 \u043f\u0440\u0435\u0432\u044c\u044e\u00a0\u043b\u0438\u043d\u0435\u0439\u043a\u0438 Qwen 4, MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 ~125B \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 ~6B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d, \u043f\u043b\u044e\u0441 \u043e\u043a\u043e\u043b\u043e 51B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 n\u2011gram\u2011\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432; \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u043e\u00a0\u2014 ~180B).<\/p>\n<\/li>\n<\/ul>\n<p>\u0418 \u0435\u0449\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0431\u043e\u043b\u0435\u0435 \u043c\u0435\u043b\u043a\u0438\u0445, \u043d\u043e\u00a0\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u0440\u0435\u043b\u0438\u0437\u043e\u0432 \u043d\u0430\u0432\u0440\u043e\u0434\u0435 Ornith 1.5 35B\u2011A3B \u0438 397B. \u0422\u043e \u0435\u0441\u0442\u044c \u0437\u0430\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0434\u0435\u043b\u044c \u0443\u00a0\u043c\u0435\u043d\u044f \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043e\u0442 \u00ab\u043f\u043b\u043e\u0442\u043d\u043e\u0439\u00bb 27B \u0434\u043e 300+B MoE, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0434\u043e\u043c\u0430\u00a0\u2014 \u043f\u0440\u0438\u0447\u0435\u043c, \u0432\u00a0\u0438\u0434\u0435\u0430\u043b\u0435, \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u0430\u00a0\u0441\u00a0\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e, \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0431\u0435\u0437\u00a0\u0443\u0431\u0438\u0439\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f. \u0425\u043e\u0447\u0443 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0432\u0441\u0435!<\/p>\n<h2>\u0424\u043e\u0440\u043c\u0430\u0442 \u0442\u0435\u0441\u0442\u043e\u0432<\/h2>\n<p>\u0422\u0435\u0441\u0442\u044b \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0438\u0441\u044c \u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u043e\u043c \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f cmd\u2011\u0441\u043a\u0440\u0438\u043f\u0442\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0432\u0448\u0435\u0433\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 LLM\u2011\u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u043e\u00a0\u0430\u0434\u0440\u0435\u0441\u0443 <a href=\"http:\/\/127.0.0.1:5000\/v1\" rel=\"noopener nofollow\">http:\/\/127.0.0.1:5000\/v1<\/a>, \u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u043a\u00a0\u043d\u0435\u043c\u0443 \u0447\u0435\u0440\u0435\u0437 \u043a\u043b\u0438\u0435\u043d\u0442 Jan Desktop. \u041f\u0440\u0438\u043c\u0435\u0440 \u0441\u043a\u0440\u0438\u043f\u0442\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 (\u0442\u0443\u0442 \u043c\u0435\u043d\u044f \u00ab\u0432\u0435\u043b \u0437\u0430\u00a0\u0440\u0443\u043a\u0443\u00bb ChatGPT):<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043a\u0440\u044b\u0442\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/summary>\n<div class=\"spoiler__content\">\n<pre><code class=\"powershell\">@echo offsetlocalchcp 65001 &gt;nulset \"COMMON=%~dp0benchmark-common.ps1\"set \"LLAMA_DIR=C:\\Users\\[User]\\.unsloth\\llama.cpp\\build\\bin\\Release\"set \"SERVER=%LLAMA_DIR%\\llama-server.exe\"set \"CUDA_LIBS=C:\\Users\\[User]\\.unsloth\\studio\\unsloth_studio\\Lib\\site-packages\\torch\\lib\"set \"MODEL=D:\\LLM\\Qwen3.8-Flash-Next\\Qwen3.8-Flash-Next-UD-Q4_K_XL\\UD-Q4_K_XL\\Qwen3.8-Flash-Next-UD-Q4_K_XL-00001-of-00004.gguf\"set \"CTX=262144\"set \"THREADS=16\"set \"FIT_TARGET=1024\"if not exist \"%COMMON%\" (    echo ERROR: benchmark-common.ps1 not found:    echo %COMMON%    pause    exit \/b 1)if not exist \"%SERVER%\" (    echo ERROR: llama-server.exe not found:    echo %SERVER%    pause    exit \/b 1)if not exist \"%MODEL%\" (    echo ERROR: model not found:    echo %MODEL%    pause    exit \/b 1)if not exist \"%CUDA_LIBS%\" (    echo ERROR: CUDA runtime directory not found:    echo %CUDA_LIBS%    pause    exit \/b 1)set \"PATH=%CUDA_LIBS%;%PATH%\"set \"NVIDIA_TF32_OVERRIDE=0\"rem ============================================================rem BENCHMARK METADATArem ============================================================set \"BENCH_SERVER=%SERVER%\"set \"BENCH_MODEL_FILE=%MODEL%\"set \"BENCH_MODEL=Qwen3.8-Flash-Next\"set \"BENCH_PARAMS=~180B \/ ~6B active per token\"set \"BENCH_QUANT=Unsloth UD-Q4_K_XL GGUF\"set \"BENCH_RUNTIME=llama.cpp (Unsloth build)\"set \"BENCH_DRAFTER=none; baseline (MTP disabled)\"set \"BENCH_CONTEXT_KV=256K (262144) \/ Q8_0, Q8_0\"set \"BENCH_VISION=No; mmproj not loaded\"set \"BENCH_LAYERS=48 trunk layers; hybrid recurrent\/attention architecture\"set \"BENCH_EXPERTS=512 routed experts; 10 selected per MoE layer\"set \"BENCH_EXPERT_PLACEMENT=TRUE AUTO FIT; mixed VRAM\/RAM\"set \"BENCH_GPU_EXPERT_CACHE=n\/a; auto-fit tensor placement\"set \"BENCH_CPU_MOE=automatic placement; no --n-cpu-moe override\"set \"BENCH_RUN_ARGS=-m \"%MODEL%\" --alias benchmark --host 127.0.0.1 --port 5000 -c %CTX% -np 1 --cache-type-k q8_0 --cache-type-v q8_0 -fa on --fit on --lazy-mode off --fit-target %FIT_TARGET% --load-mode none -b 2048 -ub 128 -t %THREADS% --threads-batch %THREADS% --cache-ram 0 --jinja --reasoning-preserve\"title Qwen3.8-Flash-Next UD-Q4_K_XL - 256K baseline benchmark - port 5000powershell.exe -NoLogo -NoProfile -ExecutionPolicy Bypass -File \"%COMMON%\"set \"RC=%ERRORLEVEL%\"echo.echo llama-server exited with code %RC%.pauseendlocalexit \/b %RC%<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<\/div>\n<\/details>\n<p>\u041a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0434\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u0442\u0440\u0438 \u00abone\u2011shot\u00bb \u0437\u0430\u0434\u0430\u0447\u0438:<\/p>\n<ol>\n<li>\n<p>\u041d\u0430\u043f\u0438\u0448\u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0435 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u0433\u043e, \u043f\u043e\u0447\u0435\u043c\u0443 \u0443\u043f\u0440\u0435\u0436\u0434\u0430\u044e\u0449\u0435\u0435 \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (speculative decoding) \u043c\u043e\u0436\u0435\u0442 \u0443\u0441\u043a\u043e\u0440\u044f\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c (LLM), \u043d\u043e\u00a0\u0438\u043d\u043e\u0433\u0434\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u044d\u0442\u043e\u0433\u043e \u0437\u0430\u043c\u0435\u0434\u043b\u044f\u0435\u0442 \u0435\u0451. \u0420\u0430\u0437\u0431\u0435\u0440\u0438 \u0434\u043e\u043b\u044e \u043f\u0440\u0438\u043d\u044f\u0442\u044b\u0445 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 (acceptance rate), \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 (draft model), \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e (verification), \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438 (memory bandwidth), \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b \u0431\u043b\u043e\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 (speculative block) \u0438 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u041d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b. \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0439 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435 \u0434\u043e\u00a0\u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f\u00a0\u043b\u0438\u043c\u0438\u0442\u0430 \u0432 4096\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041d\u0435\u00a0\u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0439 \u043e\u0442\u0432\u0435\u0442 \u0434\u043e\u0441\u0440\u043e\u0447\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0434\u0435\u043b\u0430\u0439 SVG\u2011\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435: \u043e\u0441\u0451\u043b \u0435\u0434\u0435\u0442 \u043d\u0430\u00a0\u0432\u0435\u043b\u043e\u0441\u0438\u043f\u0435\u0434\u0435, \u043d\u0430\u00a0\u0437\u0430\u0434\u043d\u0435\u043c \u043f\u043b\u0430\u043d\u0435 \u0432\u00a0\u043b\u0435\u0441\u0443 \u0441\u0442\u043e\u0438\u0442 \u043c\u0435\u0434\u0432\u0435\u0434\u044c. \u0412\u044b\u0434\u0430\u0439 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u0438\u043d \u0437\u0430\u043a\u043e\u043d\u0447\u0435\u043d\u043d\u044b\u0439 SVG\u2011\u043a\u043e\u0434, \u0431\u0435\u0437\u00a0\u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u0439, Markdown \u0438 \u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. SVG \u0434\u043e\u043b\u0436\u0435\u043d \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u043a\u0430\u043a\u00a0\u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u0430\u0439\u043b \u0432\u00a0\u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0434\u0435\u043b\u0430\u0439 \u043e\u0434\u043d\u0438\u043c \u043e\u0442\u0432\u0435\u0442\u043e\u043c \u0437\u0430\u043a\u043e\u043d\u0447\u0435\u043d\u043d\u0443\u044e \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u043d\u0443\u044e \u0438\u0433\u0440\u0443, \u0430\u043d\u0430\u043b\u043e\u0433 Battle City. \u0412\u044b\u0434\u0430\u0439 \u043e\u0434\u0438\u043d \u0441\u0430\u043c\u043e\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0439 HTML\u2011\u0444\u0430\u0439\u043b \u0431\u0435\u0437\u00a0\u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a \u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. \u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 WASD\/\u0441\u0442\u0440\u0435\u043b\u043a\u0438, Space\u00a0\u2014 \u0432\u044b\u0441\u0442\u0440\u0435\u043b. \u0414\u043e\u043b\u0436\u043d\u044b\u00a0\u0431\u044b\u0442\u044c \u0438\u0433\u0440\u043e\u043a, \u043f\u0440\u043e\u0442\u0438\u0432\u043d\u0438\u043a\u0438, \u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u043c\u044b\u0435 \u043a\u0438\u0440\u043f\u0438\u0447\u043d\u044b\u0435 \u0441\u0442\u0435\u043d\u044b, \u043d\u0435\u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u043c\u044b\u0435 \u0441\u0442\u0435\u043d\u044b, \u0441\u0442\u043e\u043b\u043a\u043d\u043e\u0432\u0435\u043d\u0438\u044f, \u0441\u043d\u0430\u0440\u044f\u0434\u044b, \u043e\u0447\u043a\u0438, \u0436\u0438\u0437\u043d\u0438, \u043f\u043e\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0438 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a. \u041d\u0435\u00a0\u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0439 \u043a\u043e\u0434\u00a0\u2014 \u0432\u044b\u0434\u0430\u0439 \u0442\u043e\u043b\u044c\u043a\u043e \u0433\u043e\u0442\u043e\u0432\u044b\u0439 HTML.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043c\u043e\u0434\u0435\u043b\u0438: Ornith-1.5\u201335B\u2011A3B, Qwen3.6\u201335B\u2011A3B, Qwen3.8\u201327B, Qwen3.5\u2013122B\u2011A10B, Laguna\u2011S-2.1, Qwen3.8-Flash\u2011Next, DeepSeek\u2011V4-Flash-0731, Ornith-1.5\u2013397B, GLM-5.3-Flash, Hy3, MiniMax\u2011M3. \u041f\u043e\u0434\u00a0\u043a\u043e\u043d\u0435\u0446\u00a0\u0431\u044b\u043b\u043e \u0440\u0435\u0448\u0435\u043d\u043e \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0445\u0430\u0439\u043f\u0430\u043d\u0443\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043e\u0433\u0440\u043e\u043c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c Hy4-preview \u0432\u00a0STQ1_0\u00a0\u2014 \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043c\u043e\u0433\u0443! \u0412\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u044f \u043f\u044b\u0442\u0430\u043b\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043d\u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u043c \u0440\u0430\u0437\u0443\u043c\u043d\u043e\u043c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435.<\/p>\n<h2>\u0418\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u044b<\/h2>\n<p>\u0414\u043e\u0432\u043e\u043b\u044c\u043d\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u044f \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e\u00a0\u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d, \u0430\u00a0\u0434\u043b\u044f\u00a0\u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0435\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043d\u0443\u0436\u043d\u043e \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u043e\u043e\u0431\u0449\u0435 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 llama.cpp. \u041f\u0435\u0440\u0432\u044b\u043c \u00ab\u0437\u0432\u043e\u043d\u043e\u0447\u043a\u043e\u043c\u00bb \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u043b\u0430\u043d\u0435 \u0441\u0442\u0430\u043b Ninfer\u00a0\u2014 \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f \u043d\u0430\u00a0\u0443\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435 \u043e\u00a0\u043d\u0451\u043c \u043d\u0430\u00a0Reddit, \u043a\u043e\u0433\u0434\u0430 \u0438\u0441\u043a\u0430\u043b \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0418 \u043f\u0435\u0440\u0432\u044b\u0439\u00a0\u0436\u0435 \u0442\u0435\u0441\u0442 \u043d\u0430\u00a0Qwen3.8\u201327B \u043f\u043e\u0434\u043d\u044f\u043b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441 ~100\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0434\u043e ~170\u0442\u043e\u043a\/\u0441. \u0412\u0430\u0443! <\/p>\n<p>NInfer\u00a0\u2014 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0434\u0432\u0438\u0436\u043e\u043a \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 (\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0432\u044b\u0432\u043e\u0434\u0430 LLM), \u0437\u0430\u0442\u043e\u0447\u0435\u043d\u043d\u044b\u0439 \u043f\u043e\u0434\u00a0\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0435 NVIDIA\u2011\u0436\u0435\u043b\u0435\u0437\u043e; \u0432\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0433\u043e llama.cpp \u043e\u043d \u0441\u043e\u0437\u043d\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u00a0\u0436\u0435\u0440\u0442\u0432\u0443\u0435\u0442 \u0448\u0438\u0440\u043e\u0442\u043e\u0439 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432 \u0440\u0430\u0434\u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438. \u041d\u0430\u00a0\u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b Blackwell NInfer \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 4-\u0431\u0438\u0442\u043d\u043e\u0433\u043e \u0444\u043e\u0440\u043c\u0430\u0442\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 NVIDIA FP4\u00a0(NVFP4), \u0438\u043c\u0435\u044e\u0449\u0435\u0433\u043e \u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u0443\u044e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u043c\u0438 \u044f\u0434\u0440\u0430\u043c\u0438 \u0434\u0430\u043d\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043e\u0431\u044a\u0451\u043c \u0447\u0438\u0442\u0430\u0435\u043c\u044b\u0445 \u0438\u0437\u00a0\u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0441\u0430\u043c\u0438 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u041e\u0431\u0440\u0430\u0442\u043d\u0430\u044f \u0441\u0442\u043e\u0440\u043e\u043d\u0430\u00a0\u2014 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043f\u0435\u0440\u0435\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437\u00a0BF16\u00a0\u0432\u00a0NVFP4, \u0430 4-\u0431\u0438\u0442\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0443\u0436\u0435 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u043b\u0438\u044f\u0442\u044c \u043d\u0430\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e, \u043f\u043b\u044e\u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 \u0444\u0430\u0439\u043b\u043e\u0432 *.ninfer. \u0420\u0430\u043d\u044c\u0448\u0435 \u0434\u0432\u0438\u0436\u043e\u043a \u0440\u0430\u0437\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434\u00a0Linux \u0438 \u0432\u00a0Windows \u043e\u0431\u044b\u0447\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0441\u044f \u0447\u0435\u0440\u0435\u0437 WSL2, \u043d\u043e\u00a0\u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c \u0438 \u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"https:\/\/github.com\/natpate\/ninfer-windows\" rel=\"noopener nofollow\">natpate\/ninfer\u2011windows<\/a>. <\/p>\n<p>\u0418\u0437\u00a0\u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432 \u043c\u043d\u0435 \u043f\u043e\u043f\u0430\u043b\u0438\u0441\u044c \u0435\u0449\u0451 ExLlamaV3, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043d\u0430\u00a0NVIDIA GPU \u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 EXL3, \u0438 FreeToken, \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0439 \u043d\u0430\u00a0\u043f\u043e\u043f\u044b\u0442\u043a\u0443 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u00a0\u0440\u0430\u0437\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0441\u043b\u043e\u0435\u0432 \u0432\u00a0RAM. <\/p>\n<p>\u0418\u0437\u00a0\u0431\u043e\u043b\u0435\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441\u0442\u043e\u0438\u0442 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0442\u044c vLLM \u0438 SGLang. \u0412\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0llama.cpp, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u00a0\u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0446\u0435\u043d\u0435\u043d \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432 \u0438 \u0441\u0430\u043c\u043e\u0433\u043e \u0440\u0430\u0437\u043d\u043e\u0433\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0430, \u044d\u0442\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0430\u00a0\u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435: \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443 \u0441\u00a0\u0443\u0436\u0435 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043c\u0435\u0436\u0434\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u043c\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u043d\u0438 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b \u043f\u0440\u0438\u00a0\u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0438 LLM \u043a\u0430\u043a\u00a0\u0441\u0435\u0440\u0432\u0438\u0441\u0430. \u0412\u00a0\u044d\u0442\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u044f \u0438\u0445 \u043f\u043e\u043a\u0430 \u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b: \u0437\u0434\u0435\u0441\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439\u00a0\u2014 \u043e\u0434\u043d\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u043c\u0430\u0448\u0438\u043d\u0430 \u0438 \u043e\u0434\u0438\u043d \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441. <\/p>\n<p>\u0418\u0437\u00a0\u0432\u0441\u0435\u0433\u043e \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0432\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043a\u00a0llama.cpp \u044f \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b NInfer, ExLlamaV3\u00a0\u0438 FreeToken \u0442\u0430\u043c, \u0433\u0434\u0435 \u0432\u0438\u0434\u0435\u043b \u0432\u00a0\u044d\u0442\u043e\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0438 \u0441\u043c\u044b\u0441\u043b.<\/p>\n<h2>VRAM, RAM \u0438 MoE<\/h2>\n<p>\u0414\u0440\u0443\u0433\u0438\u043c \u0432\u0430\u0436\u043d\u044b\u043c \u0442\u0435\u0441\u0442\u043e\u043c \u0441\u0442\u0430\u043b \u0442\u0435\u0441\u0442 Q6\u00a0vs Q8\u00a0\u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u044f\u0445 Qwen3.8\u201327B \u0438 Ornith-1.5\u201335B\u2011A3B. \u041f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u0441\u00a0Q6\u00a0\u043d\u0430\u00a0Q8\u00a0\u0434\u043b\u044f\u00a0\u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0437\u00a0\u043d\u0438\u0445 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0432\u0441\u0435\u0433\u043e\u00a0\u043b\u0438\u0448\u044c \u0432\u044b\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0435\u0432 \u0438\u0437\u00a0VRAM \u0432\u00a0RAM\u2026 \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u043e 100\u0442\u043e\u043a\/\u0441 \u0443\u043b\u0435\u0442\u0435\u043b\u0430 \u0434\u043e 10. \u0412 10\u00a0\u0440\u0430\u0437, \u041a\u0430\u0440\u043b! \u0414\u043b\u044f\u00a0Ornith-1.5\u201335B\u2011A3B \u0432\u044b\u0433\u0440\u0443\u0437\u043a\u0430 \u043f\u0430\u0440\u044b \u0441\u043b\u043e\u0435\u0432 \u0432\u00a0RAM \u043f\u0440\u043e\u0448\u043b\u0430 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043c\u0435\u043d\u0435\u0435 \u0431\u043e\u043b\u0435\u0437\u043d\u0435\u043d\u043d\u043e\u00a0\u2014 \u0435\u0441\u043b\u0438 Q6_K GGUF \u0441\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 192K \u0441\u00a0\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c kv\u2011\u043a\u0435\u0448\u0430 \u0432\u00a0Q8, \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043f\u043e\u043c\u0435\u0449\u0430\u0432\u0448\u0430\u044f\u0441\u044f \u0432\u00a0\u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c, \u0434\u0430\u0432\u0430\u043b\u0430 ~235\u0442\u043e\u043a\/\u0441, \u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0441\u00a0\u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0439 \u0432\u044b\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0434\u043e 256K \u0434\u0430\u043b\u043e \u0443\u0436\u0435 ~185\u0442\u043e\u043a\/\u0441, \u0430\u00a0\u043f\u0435\u0440\u0435\u0445\u043e\u0434 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u0442\u0435\u043c \u043d\u0430\u00a0Q8\u00a0\u2014 ~95\u0442\u043e\u043a\/\u0441.<\/p>\n<p>\u041e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u044d\u0442\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u00a0\u2014 \u0432\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439\u00a0\u2014 Mixture of Experts (MoE, \u0441\u043c\u0435\u0441\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432). \u0415\u0441\u043b\u0438 \u0432\u00a0\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439 LLM, \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0439 \u00ab\u043f\u043b\u043e\u0442\u043d\u043e\u0439\u00bb \u043c\u043e\u0434\u0435\u043b\u0438, \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0430\u043a\u0442\u0438\u0432\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432\u0441\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b, \u0442\u043e \u0432\u00a0MoE \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0439 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d \u043d\u0430\u00a0\u043d\u0430\u0431\u043e\u0440 \u00ab\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432\u00bb (\u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432), \u0438 \u043f\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0440\u043e\u0443\u0442\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442, \u043a\u0430\u043a\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043d (\u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435\u00a0\u2014 <a href=\"https:\/\/newsletter.maartengrootendorst.com\/p\/a-visual-guide-to-mixture-of-experts\" rel=\"noopener nofollow\">https:\/\/newsletter.maartengrootendorst.com\/p\/a\u2011visual\u2011guide\u2011to\u2011mixture\u2011of\u2011experts<\/a>).<\/p>\n<figure class=\"bordered full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d99\/0d4\/43d\/d990d443d540e7a1179ce98c4769b521.png\" alt=\"A) \u00ab\u041f\u043b\u043e\u0442\u043d\u044b\u0435\u00bb \u0441\u043b\u043e\u0438     B) \u0421\u043b\u043e\u0438 Mixture of Experts\" title=\"A) \u00ab\u041f\u043b\u043e\u0442\u043d\u044b\u0435\u00bb \u0441\u043b\u043e\u0438     B) \u0421\u043b\u043e\u0438 Mixture of Experts\" width=\"1736\" height=\"656\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d99\/0d4\/43d\/d990d443d540e7a1179ce98c4769b521.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d99\/0d4\/43d\/d990d443d540e7a1179ce98c4769b521.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><strong>A) \u201c\u041f\u043b\u043e\u0442\u043d\u044b\u0435\u201d \u0441\u043b\u043e\u0438 B) \u0421\u043b\u043e\u0438 Mixture of Experts<\/strong><\/figcaption><\/div>\n<\/figure>\n<div class=\"floating-image\">\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u0442\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442\u044c \u044d\u0442\u043e\u0442 \u0441\u043b\u043e\u0439 \u0433\u043e\u0440\u0430\u0437\u0434\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435. \u0427\u0442\u043e\u00a0\u0432\u00a0\u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043e \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0441\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c\u044e VRAM \u0432\u00a0\u0441\u043e\u0442\u043d\u0438 \u0438 \u0442\u044b\u0441\u044f\u0447\u0438 \u0413\u0411\/\u0441 (1792\u00a0\u0413\u0411\/\u0441 \u0434\u043b\u044f 5090) \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c RAM \u0441 \u00ab\u0436\u0430\u043b\u043a\u0438\u043c\u0438\u00bb \u0434\u0435\u0441\u044f\u0442\u043a\u0430\u043c\u0438 \u0413\u0411\/\u0441 (96\u00a0\u0413\u0411\/\u0441 \u0434\u043b\u044f\u00a0\u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u0439 DDR5-6000). \u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0443\u0437\u043a\u0438\u043c \u043c\u0435\u0441\u0442\u043e\u043c, \u0438 2\u00a0\u043a\u0430\u043d\u0430\u043b\u0430 DDR4\u00a0\u0441\u0438\u043b\u044c\u043d\u043e \u0445\u0443\u0436\u0435 DDR5, 2\u00a0\u043a\u0430\u043d\u0430\u043b\u0430 DDR5\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u041f\u041a \u0441\u0438\u043b\u044c\u043d\u043e \u0445\u0443\u0436\u0435 8\u00a0\u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u0432\u00a0\u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0441\u0442\u0430\u043d\u0446\u0438\u044f\u0445 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, AMD Threadripper Pro) \u0438\u043b\u0438 12\u00a0\u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u0432\u00a0\u0441\u0435\u0440\u0432\u0435\u0440\u0430\u0445 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, AMD Epyc, \u0432\u00a0\u043c\u043d\u043e\u0433\u043e\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043d\u044b\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u0445 \u043c\u043e\u0436\u0435\u0442\u00a0\u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435, \u043d\u043e\u00a0\u0442\u0430\u043c \u043c\u043d\u043e\u0433\u043e \u043d\u044e\u0430\u043d\u0441\u043e\u0432), \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u00a0\u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 VRAM. \u041d\u043e\u00a0\u043c\u043d\u043e\u0433\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u043e\u0439 VRAM \u0441\u0435\u0439\u0447\u0430\u0441 \u0441\u0442\u043e\u0438\u0442 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0445 \u0434\u0435\u043d\u0435\u0433.<\/p>\n<\/div>\n<p>\u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c, \u0441\u0430\u043c\u0430 \u043c\u043e\u0434\u0435\u043b\u044c\u00a0\u2014 \u044d\u0442\u043e \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0438. \u0418 \u0434\u0430\u0436\u0435 \u0432\u00a0MoE \u043f\u043e\u043c\u0438\u043c\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 (Routed Experts) \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043e\u0431\u0449\u0430\u044f, \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u043c\u0430\u044f \u0447\u0430\u0441\u0442\u044c\u00a0\u2014 attention, \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0438 \u043f\u0440\u043e\u0447\u0435\u0435, \u0432\u00a0\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u043e\u0431\u0449\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b (Shared Experts), \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0437\u0430\u0434\u0435\u0439\u0441\u0442\u0432\u0443\u044e\u0442\u0441\u044f \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. \u0412\u0441\u0451 \u044d\u0442\u043e \u043b\u0443\u0447\u0448\u0435 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c \u0432\u00a0VRAM. \u041d\u043e\u00a0\u043f\u043e\u043c\u0438\u043c\u043e \u0441\u043b\u043e\u0435\u0432 \u0435\u0441\u0442\u044c \u0435\u0449\u0435 \u0438 \u043a\u044d\u0448 \u043f\u0430\u043c\u044f\u0442\u0438 (KV cache) \u043c\u043e\u0434\u0435\u043b\u0438, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u043e\u043f\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u0434\u0440\u0430\u0444\u0442\u0435\u0440 (\u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440, \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u0435\u043b\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043e\u00a0\u043d\u0451\u043c \u043f\u043e\u0437\u0436\u0435) \u0438 \u0441\u043b\u043e\u0438 Vision\u00a0\u2014 \u0438\u0445, \u043a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u043d\u0435\u00a0\u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438, \u043a\u0430\u043a\u00a0\u0440\u0430\u0437 \u0447\u0430\u0441\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u0432\u00a0RAM.<\/p>\n<p>KV cache\u00a0\u2014 \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f\u00a0\u0443\u0436\u0435 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430: \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u0447\u0430\u0442\u0430, \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430, \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430 \u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0432\u0441\u0435\u0433\u043e, \u0447\u0442\u043e\u00a0\u0441\u0435\u0439\u0447\u0430\u0441 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432\u00a0\u0435\u0451 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u043e\u043a\u043d\u0435. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e\u00a0\u2014 \u044d\u0442\u043e \u0442\u043e\u0442 \u043e\u0431\u044a\u0451\u043c \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0434\u0435\u043b\u044c \u0435\u0449\u0451 \u00ab\u0432\u0438\u0434\u0438\u0442\u00bb; \u0432\u0441\u0451, \u0447\u0442\u043e\u00a0\u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u0437\u0430\u00a0\u0435\u0433\u043e \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u043c\u0438, \u043e\u043d\u0430 \u0443\u0436\u0435 \u043d\u0435\u00a0\u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442. \u0414\u043b\u044f\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 \u044d\u0442\u043e\u0433\u043e \u043e\u043a\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0445\u0440\u0430\u043d\u0438\u0442 \u0432\u00a0KV cache \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u0447\u0442\u043e\u0431\u044b \u043d\u0435\u00a0\u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0438\u0445 \u0437\u0430\u043d\u043e\u0432\u043e \u043f\u0440\u0438\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0442\u043e\u043a\u0435\u043d\u0435.<\/p>\n<p>\u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 KV cache. \u041d\u0430\u00a0\u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0442\u044c \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u044b \u0438 \u0434\u0430\u0436\u0435 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0430\u00a0\u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043a\u044d\u0448 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u0435\u0433\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u00a0\u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0432\u00a0\u0434\u043e\u0440\u043e\u0433\u043e\u0439 \u0434\u043b\u044f\u00a0\u043d\u0430\u0441 VRAM. \u041d\u043e\u00a0\u0440\u0430\u0441\u0445\u043e\u0434 \u043f\u0430\u043c\u044f\u0442\u0438, \u043c\u043e\u0436\u043d\u043e \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c.<\/p>\n<p>\u0422\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438, KV cache (Key\u2011Value Cache)\u00a0\u2014 \u044d\u0442\u043e \u0431\u0443\u0444\u0435\u0440 \u0432\u00a0\u043f\u0430\u043c\u044f\u0442\u0438 GPU\/CPU, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0445\u0440\u0430\u043d\u044f\u0442\u0441\u044f \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0435 \u0442\u0435\u043d\u0437\u043e\u0440\u044b Key \u0438 Value, \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u043c \u0441\u0430\u043c\u043e\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (self\u2011attention) \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043d\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. \u0412\u00a0\u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0435 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442 \u0442\u0440\u0438 \u0432\u0435\u043a\u0442\u043e\u0440\u0430: Query (Q), Key (K) \u0438 Value (V). \u041f\u0440\u0438\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0435\u0433\u043e Query \u0434\u043e\u043b\u0436\u0435\u043d\u00a0\u0431\u044b\u0442\u044c \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0441\u00a0Keys \u0432\u0441\u0435\u0445 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0442\u043e\u0431\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c, \u043d\u0430\u00a0\u043a\u0430\u043a\u0438\u0435 \u0447\u0430\u0441\u0442\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0438 \u0437\u0430\u0442\u0435\u043c \u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 Values. \u0411\u0435\u0437\u00a0\u043a\u044d\u0448\u0430 \u044d\u0442\u0438 K \u0438 V \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c\u00a0\u0431\u044b \u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0437\u0430\u043d\u043e\u0432\u043e \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u0447\u0442\u043e\u00a0\u043f\u0440\u0438\u0432\u0435\u043b\u043e\u00a0\u0431\u044b \u043a\u00a0\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0439 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u00a0\u0432\u0440\u0435\u043c\u0435\u043d\u0438. KV\u2011\u043a\u044d\u0448 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u0438\u0445 \u043e\u0434\u0438\u043d \u0440\u0430\u0437, \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0448\u0430\u0433 decode \u0438\u0437\u00a0O(N\u00b2) \u0432\u00a0O(N) \u043f\u043e\u00a0\u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u043c (<a href=\"https:\/\/sponsr.ru\/evil_about_tech\/159835\/IIshnica_Upravlenie_KVkeshem_v_vLLM_i_llamacpp_Arhitekturnye_razlichiya_i_ih_posledstviya\/\" rel=\"noopener nofollow\">https:\/\/sponsr.ru\/evil_about_tech\/159835\/IIshnica_Upravlenie_KVkeshem_v_vLLM_i_llamacpp_Arhitekturnye_razlichiya_i_ih_posledstviya\/<\/a>).<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e \u0442\u043e, \u0447\u0442\u043e\u00a0\u0438 K, \u0438 V \u043c\u044b \u0442\u0430\u043a\u0436\u0435 \u043c\u043e\u0436\u0435\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u044c, \u0440\u0430\u0437\u043c\u0435\u043d\u0438\u0432\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c \u043d\u0430\u00a0\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0432\u0435\u0442\u0430. \u0422\u043e \u0435\u0441\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043e 128K \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0441 16-\u0431\u0438\u0442\u043d\u044b\u043c KV cache \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 256K Q8, Q8\u00a0\u043f\u043e\u0447\u0442\u0438 \u0431\u0435\u0437\u00a0\u043f\u043e\u0442\u0435\u0440\u044c, \u0438\u043b\u0438\u00a0\u0434\u0430\u0436\u0435 512K Q4, Q4. \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u044f \u043f\u043e\u043a\u0430 \u043d\u0435\u00a0\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b, \u0438\u0431\u043e \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0442\u0435\u043c \u0441\u043b\u043e\u0436\u043d\u0435\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u00a0\u0442\u0435\u0440\u044f\u0442\u044c \u0432\u0430\u0436\u043d\u044b\u0435 \u0434\u0435\u0442\u0430\u043b\u0438 \u0441\u0440\u0435\u0434\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u043e\u0431\u044a\u0451\u043c\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0442\u0430\u043a, \u0430\u00a0\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u043c\u0435\u0441\u0442\u0438\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0439 \u043e\u0431\u044a\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043d\u043e\u00a0\u0438 \u043d\u0435\u00a0\u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u043c \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>\u041a\u0430\u043a\u00a0\u0438\u0442\u043e\u0433, \u043a\u0440\u0430\u0439\u043d\u0435\u00a0\u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u0432\u00a0VRAM \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u043f\u043e\u043c\u0435\u0449\u0430\u043b\u0438\u0441\u044c \u0432\u0441\u0435 \u0441\u043b\u043e\u0438 \u00ab\u043f\u043b\u043e\u0442\u043d\u043e\u0439\u00bb LLM \u0438\u043b\u0438\u00a0\u0432\u0441\u044f \u043e\u0431\u0449\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0438 Shared Experts \u0434\u043b\u044f\u00a0MoE, \u0434\u0440\u0430\u0444\u0442\u0435\u0440 (\u0435\u0441\u043b\u0438 \u0435\u0441\u0442\u044c), KV cache, \u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0441\u044f \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u043f\u043e\u0434\u00a0\u0440\u0430\u0431\u043e\u0447\u0438\u0435 \u0431\u0443\u0444\u0435\u0440\u044b \u0438 \u0441\u0430\u043c\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u0443. \u041a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0441\u043b\u043e\u0435\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 (\u0432\u0435\u0440\u043d\u0435\u0435, \u0447\u0430\u0449\u0435 \u0432\u044b\u0431\u043e\u0440\u043e\u043c \u0438 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u043d\u0438\u0435\u043c \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u043a\u0432\u0430\u043d\u0442\u0430), \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c K, V \u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0433\u043e \u043e\u043a\u043d\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u044d\u0442\u043e\u0433\u043e \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f. \u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0445 \u0441\u043b\u043e\u0435\u0432 \u0442\u0430\u043a\u0436\u0435 \u043e\u043a\u0430\u0436\u0435\u0442\u0441\u044f \u0432\u00a0\u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0442\u0435\u043c\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0437\u0430\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c. \u0415\u0441\u043b\u0438 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e, \u0441\u043b\u043e\u0438 \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 (\u043d\u043e \u044d\u0442\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u0436\u0435 \u043d\u0435\u00a0\u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e). \u041d\u0443\u0436\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442!<\/p>\n<h2>\u041d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0435\u0435 \u0440\u0430\u0437\u043e\u0447\u0430\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u00a0\u2014 \u0434\u0440\u0430\u0444\u0442\u0435\u0440\u044b<\/h2>\n<p>\u041d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0435\u0435\u00a0\u2014 \u043f\u043e\u0441\u043b\u0435 \u0446\u0435\u043d \u043d\u0430\u00a0\u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0438 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0443, \u043a\u043e\u043d\u0435\u0447\u043d\u043e. \u041d\u043e\u00a0\u0434\u0430, \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0443\u0437\u043d\u0430\u0432 \u043f\u0440\u043e\u00a0MTP (Multi\u2011Token Prediction) \u0438 DFlash\\DSpark, \u044f \u043f\u0440\u044f\u043c\u043e\u00a0\u0431\u044b\u043b \u0432\u00a0\u043f\u0440\u0435\u0434\u0432\u043a\u0443\u0448\u0435\u043d\u0438\u0438. MTP\u00a0\u2014 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. DSpark \u0443\u00a0DeepSeek \u0440\u0435\u0448\u0430\u0435\u0442 \u0442\u0443\u00a0\u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0443 \u0431\u043e\u043b\u0435\u0435 \u0445\u0438\u0442\u0440\u044b\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u043c\u043e\u0434\u0443\u043b\u044c.<\/p>\n<p>\u0418\u0434\u0435\u044f \u043d\u0430\u00a0\u0431\u0443\u043c\u0430\u0433\u0435 \u043a\u0440\u0430\u0441\u0438\u0432\u0430\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u00a0\u043e\u0434\u043d\u043e\u043c\u0443 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d, \u0435\u0439 \u0432\u00a0\u043f\u043e\u043c\u043e\u0449\u044c \u0434\u0430\u044e\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0443\u0433\u0430\u0434\u0430\u0442\u044c \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u0442\u0435\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 \u044d\u0442\u043e\u0442 \u043a\u0443\u0441\u043e\u043a \u0446\u0435\u043b\u0438\u043a\u043e\u043c: \u0443\u0434\u0430\u0447\u043d\u044b\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0442\u0441\u044f, \u043d\u0430\u00a0\u043f\u0435\u0440\u0432\u043e\u043c \u043e\u0448\u0438\u0431\u043e\u0447\u043d\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0446\u0435\u043f\u043e\u0447\u043a\u0430 \u043e\u0431\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f. \u0415\u0441\u043b\u0438 \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u0435\u0448\u0451\u0432\u044b\u0439 \u0438 \u0443\u0433\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e, \u0437\u0430\u00a0\u043e\u0434\u0438\u043d \u0434\u043e\u0440\u043e\u0433\u043e\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0418 \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442! \u041d\u0430\u00a0\u0442\u043e\u0439\u00a0\u0436\u0435 Qwen3.8\u201327B \u0432\u00a0Q6\u00a0\u0432\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 MTP \u043f\u043e\u0434\u043d\u044f\u043b\u043e \u0441\u0440\u0435\u0434\u043d\u044e\u044e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u00a0\u043c\u043e\u0438\u0445 \u0442\u0440\u0451\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441 56\u00a0\u0434\u043e 106\u00a0\u0442\u043e\u043a\/\u0441\u00a0\u2014 \u043f\u043e\u0447\u0442\u0438 \u0432\u00a0\u0434\u0432\u0430 \u0440\u0430\u0437\u0430! \u041d\u043e\u00a0\u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0434\u0440\u0430\u0444\u0442\u0435\u0440\u044b \u0434\u043e\u043b\u0436\u043d\u044b \u043f\u043e\u0432\u0435\u0441\u0442\u0438 \u0441\u0435\u0431\u044f \u0442\u0430\u043c, \u0433\u0434\u0435 \u043e\u043d\u0438 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043d\u0443\u0436\u043d\u044b\u00a0\u2014 \u0432\u00a0\u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u0445 MoE \u043c\u043e\u0434\u0435\u043b\u0435\u0439! \u0412\u0435\u0440\u043d\u043e?<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e7e\/6f7\/548\/e7e6f7548f70f2c9f48577a0d1f054e6.jpg\" alt=\"\u00af\\_(\u30c4)_\/\u00af\" title=\"\u00af\\_(\u30c4)_\/\u00af\" width=\"998\" height=\"521\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/e7e\/6f7\/548\/e7e6f7548f70f2c9f48577a0d1f054e6.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e7e\/6f7\/548\/e7e6f7548f70f2c9f48577a0d1f054e6.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u00af\\_(\u30c4)_\/\u00af<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u0435\u0440\u0432\u043e\u0439 \u043f\u043e\u0434\u00a0\u0440\u0430\u0437\u0434\u0430\u0447\u0443 \u043f\u043e\u043f\u0430\u043b\u0430 Qwen3.8-Flash\u2011Next. \u0411\u0435\u0437\u00a0MTP \u043e\u043d\u0430 \u0443\u00a0\u043c\u0435\u043d\u044f \u0434\u0430\u0432\u0430\u043b\u0430 \u043e\u043a\u043e\u043b\u043e 34,3\u00a0\u0442\u043e\u043a\/\u0441. \u0412\u043a\u043b\u044e\u0447\u0430\u044e \u0448\u0442\u0430\u0442\u043d\u044b\u0439 MTP\u00a0\u2014 \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e:<\/p>\n<ul>\n<li>\n<p>n_max=1\u00a0\u2014 20,5\u00a0\u0442\u043e\u043a\/\u0441; <\/p>\n<\/li>\n<li>\n<p>n_max=2\u00a0\u2014 21,2\u00a0\u0442\u043e\u043a\/\u0441; <\/p>\n<\/li>\n<li>\n<p>n_max=3\u00a0\u2014 20,3\u00a0\u0442\u043e\u043a\/\u0441; <\/p>\n<\/li>\n<li>\n<p>n_max=4\u00a0\u2014 20,9\u00a0\u0442\u043e\u043a\/\u0441.<\/p>\n<\/li>\n<\/ul>\n<p>\u0413\u0434\u0435 n_max\u00a0\u2014 \u043c\u0430\u043a\u0441. \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0434\u0440\u0430\u0444\u0442\u0435\u0440\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043e \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f\u00a0\u2014 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0435 \u043c\u0438\u043d\u0443\u0441 38\u201341%. \u041f\u0440\u0438\u0447\u0451\u043c \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b speculative\u2011\u0431\u043b\u043e\u043a\u0430 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438 \u043d\u0430\u00a0\u0447\u0442\u043e\u00a0\u043d\u0435\u00a0\u0432\u043b\u0438\u044f\u0435\u0442: \u0441\u0430\u043c\u0430 \u043f\u043e\u00a0\u0441\u0435\u0431\u0435 \u0440\u0430\u0431\u043e\u0442\u0430 MTP \u0443\u0436\u0435 \u0441\u0442\u043e\u0438\u0442 \u043d\u0430\u0441\u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0440\u043e\u0433\u043e, \u0447\u0442\u043e\u00a0\u043e\u0442\u0431\u0438\u0442\u044c \u0435\u0451 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u043f\u0440\u0438\u043d\u044f\u0442\u044b\u043c\u0438 \u0442\u043e\u043a\u0435\u043d\u0430\u043c\u0438 \u043d\u0435\u00a0\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f. \u041f\u043e\u043f\u044b\u0442\u043a\u0430 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0441\u0432\u0435\u0440\u0445\u0443 \u0435\u0449\u0451 ngram\u2011mod \u0442\u043e\u0436\u0435 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0441\u043f\u0430\u0441\u043b\u0430\u00a0\u2014 20,7\u00a0\u0442\u043e\u043a\/\u0441.<\/p>\n<p>\u041d\u0435\u0443\u0434\u0430\u0447\u043d\u044b\u0439 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c? \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c\u00a0\u0431\u044b, \u0434\u0430. \u041d\u043e\u00a0\u0434\u0430\u043b\u044c\u0448\u0435 \u0441\u0442\u0430\u043b\u043e \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435.<\/p>\n<p>\u041d\u0430\u00a0GLM-5.3\u00a0Flash \u043e\u0431\u044b\u0447\u043d\u044b\u0439 decode \u0434\u0430\u043b 9,22\u00a0\u0442\u043e\u043a\/\u0441. MTP \u0441\u00a0n=2\u00a0\u043f\u043e\u0434\u043d\u044f\u043b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0434\u043e 9,49\u00a0\u0442\u043e\u043a\/\u0441, \u0442\u043e \u0435\u0441\u0442\u044c \u0430\u0436 \u043d\u0430 2,9%. \u0421\u00a0n=3\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0443\u0436\u0435 \u0443\u043f\u0430\u043b\u0430 \u0434\u043e 8,19\u00a0\u0442\u043e\u043a\/\u0441.<\/p>\n<p>\u0418\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u0437\u0434\u0435\u0441\u044c \u0434\u0440\u0430\u0444\u0442\u0435\u0440 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u044b\u0448\u0435\u043b \u0432\u00a0\u043d\u043e\u043b\u044c. \u0412\u0442\u043e\u0440\u043e\u0439 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0435\u0449\u0451 \u043a\u043e\u0435\u2011\u043a\u0430\u043a \u043e\u043a\u0443\u043f\u0430\u0435\u0442 \u0437\u0430\u0442\u0440\u0430\u0442\u044b \u043d\u0430\u00a0\u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440 \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443, \u0442\u0440\u0435\u0442\u0438\u0439\u00a0\u2014 \u0443\u0436\u0435 \u043d\u0435\u0442.<\/p>\n<p>\u0410\u00a0\u0432\u043e\u0442 DeepSeek V4\u00a0Flash \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u043e\u0431\u0440\u0430\u0442\u043d\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u0443: \u0441\u00a0\u0435\u0433\u043e DSpark \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0435 \u0443\u00a0\u043c\u0435\u043d\u044f \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0441 13.5\u0442\u043e\u043a\/\u0441 \u0434\u043e 17\u0442\u043e\u043a\/\u0441\u00a0\u2014 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 25%!<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u043c \u0438 \u0442\u043e\u043c\u00a0\u0436\u0435 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435, \u0441\u0440\u0435\u0434\u0438 \u0442\u0440\u0451\u0445 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 MoE \u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b:<\/p>\n<ul>\n<li>\n<p>Qwen Flash\u2011Next\u00a0\u2014 \u0434\u0440\u0430\u0444\u0442\u0435\u0440 \u0441\u0438\u043b\u044c\u043d\u043e \u043c\u0435\u0448\u0430\u0435\u0442. <\/p>\n<\/li>\n<li>\n<p>GLM-5.3\u00a0Flash\u00a0\u2014 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u043c\u0435\u043d\u044f\u0435\u0442. <\/p>\n<\/li>\n<li>\n<p>DeepSeek V4\u00a0Flash\u00a0\u2014 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u00abspeculative decoding \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e\u00bb \u043c\u043d\u0435 \u0441\u0442\u0430\u043b\u043e \u043d\u0440\u0430\u0432\u0438\u0442\u044c\u0441\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0438\u043d\u0430, \u0441\u0443\u0434\u044f \u043f\u043e\u00a0\u0432\u0441\u0435\u043c\u0443, \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u0437\u0435\u043c\u043b\u0451\u043d\u043d\u0430\u044f: \u0434\u0440\u0430\u0444\u0442\u0435\u0440 \u0442\u043e\u0436\u0435 \u043d\u0435\u00a0\u0431\u0435\u0441\u043f\u043b\u0430\u0442\u0435\u043d. \u041d\u0443\u0436\u043d\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u044c \u0435\u0433\u043e \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f, \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u0438\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e, \u043e\u0442\u0431\u0440\u043e\u0441\u0438\u0442\u044c \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u044b\u0435. \u0412\u0441\u0451 \u044d\u0442\u043e \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u0435\u0441\u043b\u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u044d\u0442\u043e\u0439 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0442\u0435\u0445 \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u043e\u0445\u043e\u0434\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c.<\/p>\n<p>\u0418 \u0437\u0434\u0435\u0441\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0435\u0448\u0430\u0435\u0442 \u043e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e\u0435.<\/p>\n<p>\u0423\u00a0Qwen3.8-Flash\u2011Next \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u0431\u0435\u0437\u00a0\u0442\u043e\u0433\u043e \u0447\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u043e \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u0430\u044f\u00a0\u2014 \u043e\u043a\u043e\u043b\u043e 6\u00a0\u043c\u043b\u0440\u0434 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d. \u041e\u0431\u044b\u0447\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0435\u0448\u0451\u0432\u044b\u043c, \u0438 \u043c\u044b \u043f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0443\u0436\u0435\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c, \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044f \u043a\u00a0\u043d\u0435\u043c\u0443 \u0432\u043f\u043e\u043b\u043d\u0435 \u0440\u0435\u0430\u043b\u044c\u043d\u0443\u044e \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u00a0\u2014 \u043c\u0438\u043d\u0443\u0441 40%.<\/p>\n<p>\u0423\u00a0GLM-5.3\u00a0Flash \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0442\u044f\u0436\u0435\u043b\u0435\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442\u044c \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u0447\u0442\u043e, \u043d\u043e\u00a0\u0435\u0451 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 MTP, \u043f\u043e\u0445\u043e\u0436\u0435, \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u00a0\u0443\u0433\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043a\u0443\u0441\u043a\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u0451\u0448\u0435\u0432\u043e. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0442\u043e\u0447\u043a\u0430 \u0431\u0435\u0437\u0443\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>\u0410\u00a0\u0443 DeepSeek V4\u00a0Flash \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0443\u0436\u0435 \u0431\u043e\u043b\u0435\u0435 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c DSpark, \u0438 \u043e\u043d \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u043c, \u0447\u0442\u043e\u0431\u044b \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u043a\u0443\u043f\u0430\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0440\u0430\u0441\u0445\u043e\u0434\u044b.<\/p>\n<p>\u0415\u0441\u0442\u044c \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0438\u043c\u0435\u043d\u043d\u043e \u0434\u043b\u044f\u00a0MoE \u0441\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430\u043c\u0438 \u0432\u00a0RAM. \u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0435\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u043c\u043e\u0436\u043d\u043e \u043e\u0434\u0438\u043d \u0440\u0430\u0437 \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u043e\u0447\u0442\u0438 \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e. \u0420\u0430\u0437\u043d\u044b\u0435 \u043f\u043e\u0437\u0438\u0446\u0438\u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0440\u043e\u0443\u0442\u0435\u0440\u043e\u043c \u043a\u00a0\u0440\u0430\u0437\u043d\u044b\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430\u043c, \u0438 \u0442\u043e\u0433\u0434\u0430 \u043f\u0440\u0438\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0435 \u0431\u043b\u043e\u043a\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0442\u0430\u0449\u0438\u0442\u044c \u0438\u0437\u00a0\u043f\u0430\u043c\u044f\u0442\u0438 \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432. \u0415\u0441\u043b\u0438 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u044b \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f\u00a0\u2014 \u043e\u0442\u043b\u0438\u0447\u043d\u043e, \u0435\u0441\u043b\u0438 \u043d\u0435\u0442\u00a0\u2014 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u043e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u041d\u0430\u00a0\u043f\u043b\u043e\u0442\u043d\u043e\u0439 Qwen3.8\u201327B, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0443\u00a0\u043c\u0435\u043d\u044f \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0VRAM \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043f\u0440\u0438\u044f\u0442\u043d\u0435\u0435. \u0422\u0430\u043c \u0434\u043b\u044f\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435\u00a0\u0436\u0435 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0435\u0441\u043e\u0432, \u043b\u0435\u0436\u0430\u0449\u0438\u0435 \u0432\u00a0\u0431\u044b\u0441\u0442\u0440\u043e\u0439 GDDR7, \u0438 \u0434\u0440\u0430\u0444\u0442\u0435\u0440 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u0434\u0430\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u0443. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u043d\u0435\u00a0\u0432\u00a0\u0441\u0430\u043c\u043e\u0439 \u0438\u0434\u0435\u0435 speculative decoding\u00a0\u2014 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043b\u044f\u00a0\u0440\u0430\u0437\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u0432 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0451 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u043a\u0430 \u0440\u0430\u0434\u0438\u043a\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u0443\u00a0\u043c\u0435\u043d\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0433\u0440\u0443\u0441\u0442\u043d\u044b\u0439: \u0434\u0440\u0430\u0444\u0442\u0435\u0440 \u043d\u0435\u043b\u044c\u0437\u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0432\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u0438 \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0441\u0442\u0430\u043b\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435. \u0415\u0433\u043e \u043d\u0443\u0436\u043d\u043e \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043d\u0430\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c\u00a0\u0436\u0435\u043b\u0435\u0437\u0435. \u041f\u0440\u0438\u0447\u0451\u043c \u0438\u043d\u043e\u0433\u0434\u0430 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u043e\u0439 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f n=2, \u0438\u043d\u043e\u0433\u0434\u0430 n=3, \u0430\u00a0\u0438\u043d\u043e\u0433\u0434\u0430\u00a0\u2014 \u043a\u043d\u043e\u043f\u043a\u0430 \u00ab\u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u044c\u00bb.<\/p>\n<h2>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0442\u0435\u0441\u0442\u043e\u0432<\/h2>\n<p>\u041d\u043e\u00a0\u0445\u0432\u0430\u0442\u0438\u0442 \u0443\u0436\u0435 \u0434\u0443\u0448\u043d\u0438\u0442\u044c, \u043f\u044b\u0442\u0430\u044f\u0441\u044c \u0441\u0432\u043e\u0438\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0442\u043e, \u0447\u0442\u043e\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0443 \u0437\u0434\u0435\u0441\u044c \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e. \u0412\u043e\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0442\u0435\u0441\u0442\u043e\u0432:<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/20b\/bf1\/65a\/20bbf165aacd3dda3f6f2730a388c04e.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 1. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 1. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438\" width=\"1059\" height=\"542\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/20b\/bf1\/65a\/20bbf165aacd3dda3f6f2730a388c04e.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/20b\/bf1\/65a\/20bbf165aacd3dda3f6f2730a388c04e.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 1. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cc4\/4cf\/118\/cc44cf118701107aa9875f281d9c7355.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 2. \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 2. \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432\" width=\"1227\" height=\"542\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/cc4\/4cf\/118\/cc44cf118701107aa9875f281d9c7355.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cc4\/4cf\/118\/cc44cf118701107aa9875f281d9c7355.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 2. \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d2e\/080\/b0e\/d2e080b0e772b9bcaea1af3f9c1d52cc.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 3. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 1 \u0438\u0437 4\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 3. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 1 \u0438\u0437 4\" width=\"1617\" height=\"631\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d2e\/080\/b0e\/d2e080b0e772b9bcaea1af3f9c1d52cc.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d2e\/080\/b0e\/d2e080b0e772b9bcaea1af3f9c1d52cc.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 3. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 1\u00a0\u0438\u0437 4<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/14c\/82f\/a40\/14c82fa40527e08363baa62e11a51166.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 4. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 2 \u0438\u0437 4\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 4. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 2 \u0438\u0437 4\" width=\"1617\" height=\"633\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/14c\/82f\/a40\/14c82fa40527e08363baa62e11a51166.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/14c\/82f\/a40\/14c82fa40527e08363baa62e11a51166.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 4. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 2\u00a0\u0438\u0437 4<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/165\/a99\/10a\/165a9910a5d9d24a1e7ba7d508f4dba7.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 5. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 3 \u0438\u0437 4\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 5. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 3 \u0438\u0437 4\" width=\"1617\" height=\"632\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/165\/a99\/10a\/165a9910a5d9d24a1e7ba7d508f4dba7.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/165\/a99\/10a\/165a9910a5d9d24a1e7ba7d508f4dba7.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 5. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 3\u00a0\u0438\u0437 4<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ac9\/240\/131\/ac924013102c1868618d2f19add6431c.png\" alt=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 6. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 4 \u0438\u0437 4\" title=\"\u0422\u0430\u0431\u043b\u0438\u0446\u0430 6. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 4 \u0438\u0437 4\" width=\"1617\" height=\"633\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/ac9\/240\/131\/ac924013102c1868618d2f19add6431c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ac9\/240\/131\/ac924013102c1868618d2f19add6431c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0430\u0431\u043b\u0438\u0446\u0430 6. \u0421\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432, \u0447\u0430\u0441\u0442\u044c 4\u00a0\u0438\u0437 4<\/figcaption><\/div>\n<\/figure>\n<p>\u0412\u00a0\u0446\u0435\u043b\u043e\u043c, \u0433\u043b\u044f\u0434\u044f \u043d\u0430\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u0432\u0448\u0438\u0435\u0441\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0442\u0435\u0441\u0442\u043e\u0432, \u044f\u00a0\u0431\u044b \u0437\u0430\u043a\u043b\u044e\u0447\u0438\u043b, \u0447\u0442\u043e:<\/p>\n<ul>\n<li>\n<p>\u041f\u0435\u0440\u0432\u043e\u0435\u00a0\u2014 \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u043e\u0436\u0435\u0442 \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u0432\u0430\u0436\u043d\u0435\u0435 \u0435\u0451 \u043d\u043e\u043c\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. Qwen3.8\u201327B, Qwen3.8-Flash\u2011Next, DeepSeek V4\u00a0Flash \u0438 GLM-5.3\u00a0Flash \u0432\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 \u0432\u044b\u0433\u043b\u044f\u0434\u044f\u0442 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043c\u043d\u043e\u0433\u0438\u0445 \u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u044f. \u041a\u00a0\u043d\u0438\u043c\u00a0\u0436\u0435 \u0441\u00a0\u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u043e\u0439 \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u043d\u0435\u0441\u0442\u0438 Ornith-1.5\u201335B\u2011A3B \u043a\u0430\u043a\u00a0\u0441\u0432\u043e\u0435\u043e\u0431\u0440\u0430\u0437\u043d\u044b\u0439 \u00ab\u0442\u043e\u043f \u0437\u0430\u00a0\u0441\u0432\u043e\u0438 \u0434\u0435\u043d\u044c\u0433\u0438\u00bb. \u041f\u043e\u043d\u0430\u0434\u0435\u0435\u043c\u0441\u044f, \u0447\u0442\u043e\u00a0Qwen3.8\u201335B\u2011A3B \u0432\u0441\u0435\u2011\u0442\u0430\u043a\u0438 \u0442\u043e\u0436\u0435 \u0432\u044b\u0439\u0434\u0435\u0442. \u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c Ornith-397B, Hy3, MiniMax M3\u00a0\u0438 \u043f\u0440\u043e\u0447\u0438\u0435 \u0441\u043f\u0440\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u0445\u0443\u0436\u0435, \u043d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430\u00a0\u0433\u043e\u0440\u0430\u0437\u0434\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u0439 \u0440\u0430\u0437\u043c\u0435\u0440. Hy4, \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e, \u043f\u0440\u043e\u0438\u0433\u0440\u0430\u043b \u0438\u0437\u2011\u0437\u0430 \u0430\u0431\u0441\u0443\u0440\u0434\u043d\u043e \u043d\u0438\u0437\u043a\u043e\u0433\u043e \u043a\u0432\u0430\u043d\u0442\u0430. <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u00a0\u2014 \u043d\u043e\u0432\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043d\u043e\u0433\u0434\u0430 \u043f\u044b\u0442\u0430\u044e\u0442\u0441\u044f \u0432\u044b\u0437\u044b\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u043c \u043d\u0438\u043a\u0442\u043e \u043d\u0435\u00a0\u0434\u0430\u0432\u0430\u043b. \u0412\u00a0\u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0447\u0430\u0442\u0435 \u044d\u0442\u043e \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0430\u0446\u0438\u0435\u0439, \u0438, \u043f\u043e\u0445\u043e\u0436\u0435, \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u043e\u0439 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. <\/p>\n<\/li>\n<li>\n<p>\u0412\u0442\u043e\u0440\u043e\u0435\u00a0\u2014 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u00a0\u043f\u0430\u043c\u044f\u0442\u0438 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u043e. \u0415\u0441\u043b\u0438 \u0443\u00a0\u043f\u043b\u043e\u0442\u043d\u043e\u0439 Qwen3.8\u201327B \u0447\u0430\u0441\u0442\u044c \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0445 \u0432\u0435\u0441\u043e\u0432 \u0432\u044b\u043b\u0435\u0442\u0430\u0435\u0442 \u0438\u0437\u00a0VRAM \u0432\u00a0RAM, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u0440\u0443\u0445\u043d\u0443\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u043d\u0430\u00a0\u043f\u043e\u0440\u044f\u0434\u043e\u043a. \u0423\u00a0MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0432\u044b\u0433\u0440\u0443\u0437\u043a\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432 \u043e\u0431\u044b\u0447\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043c\u044f\u0433\u0447\u0435, \u043d\u043e\u00a0\u0442\u043e\u0436\u0435 \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0431\u044c\u0451\u0442 \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043a\u0432\u0430\u043d\u0442 KV cache \u0438 \u0432\u044b\u0431\u043e\u0440 \u043a\u0432\u0430\u043d\u0442\u0430 \u0432\u0435\u0441\u043e\u0432 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043d\u0435\u00a0\u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c\u0438, \u0430\u00a0\u0447\u0430\u0441\u0442\u044c\u044e \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438. <\/p>\n<\/li>\n<li>\n<p>\u0422\u0440\u0435\u0442\u044c\u0435\u00a0\u2014 NInfer \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u044b\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u0440\u0435\u0434\u0438 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432 llama.cpp, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438. FreeToken \u0442\u043e\u0436\u0435 \u0432\u043d\u0430\u0447\u0430\u043b\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043c\u043d\u0435 \u0431\u043e\u043b\u0435\u0435\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u043c \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438, \u043d\u043e\u00a0\u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043a reasoning \u043a\u00a0\u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u043e\u043c\u0443 \u0432\u0438\u0434\u0443 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u043d\u0435 llama.cpp. ExLlamaV3\u00a0\u0447\u0430\u0449\u0435 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0441\u044f \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u043d\u043e\u00a0\u0432\u0438\u0434\u0438\u043c\u043e, \u043f\u0440\u0438\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445 \u0438 \u0443\u0434\u0430\u0447\u043d\u044b\u0445 \u043a\u0432\u0430\u043d\u0442\u0430\u0445, \u043a\u0430\u043a\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u0441\u00a0GLM-5.3-Flash EXL3 4.05\u00a0bpw, \u043c\u043e\u0436\u0435\u0442 \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u043c. <\/p>\n<\/li>\n<li>\n<p>\u0427\u0435\u0442\u0432\u0435\u0440\u0442\u043e\u0435\u00a0\u2014 \u0434\u0440\u0430\u0444\u0442\u0435\u0440\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430. \u041d\u0430\u00a0Qwen3.8-Flash\u2011Next MTP \u0434\u0430\u043b \u043f\u043e\u0447\u0442\u0438 \u043c\u0438\u043d\u0443\u0441 40%, \u043d\u0430\u00a0GLM-5.3\u00a0Flash\u00a0\u2014 \u043e\u043a\u043e\u043b\u043e \u043d\u0443\u043b\u044f, \u0430\u00a0\u043d\u0430\u00a0DeepSeek V4\u00a0Flash \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 dFlash\/DSpark \u0434\u0430\u043b \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u043b\u044e\u0441 25%. \u0422\u043e \u0435\u0441\u0442\u044c \u0432\u043a\u043b\u044e\u0447\u0430\u0442\u044c speculative decoding \u201c\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043e\u043d \u0435\u0441\u0442\u044c\u201d \u0442\u043e\u0447\u043d\u043e \u043d\u0435\u00a0\u0441\u0442\u043e\u0438\u0442, \u0432\u0441\u0435\u0433\u0434\u0430 \u0442\u0440\u0435\u0431\u0443\u044e\u0442\u0441\u044f \u0442\u0435\u0441\u0442\u044b. <\/p>\n<\/li>\n<li>\n<p>\u041f\u044f\u0442\u043e\u0435\u00a0\u2014 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0432\u00a0\u0442\u043e\u043a\u0435\u043d\u0430\u0445 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0441\u0430\u043c\u0430 \u043f\u043e\u00a0\u0441\u0435\u0431\u0435 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0442\u043e\u0447\u043d\u043e \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438. Qwen3.8-Flash\u2011Next \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 DeepSeek V4\u00a0Flash, \u043d\u043e\u00a0\u0432\u00a0\u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0447\u0430\u0441\u0442\u043e \u043f\u0438\u0448\u0435\u0442 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u00a0\u043f\u043e\u043b\u043d\u043e\u043c\u0443 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0436\u0435\u0442 \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u043d\u0438\u0436\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u0433\u043e \u0438\u043b\u0438\u00a0\u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0441\u0447\u0435\u0437\u043d\u0443\u0442\u044c. GLM-5.3\u00a0Flash \u0432\u00a0\u044d\u0442\u043e\u043c \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u0441\u0435\u0431\u044f \u0435\u0449\u0451 \u0442\u044f\u0436\u0435\u043b\u0435\u0435: \u043e\u043d\u0430 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 DeepSeek \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u043d\u043e\u00a0\u0432\u00a0\u0442\u0435\u0441\u0442\u0430\u0445 \u0435\u0449\u0451 \u0438 \u0442\u0440\u0430\u0442\u0438\u043b\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u043a\u043e\u043c\u043f\u0435\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0438\u0437\u043a\u0443\u044e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043a\u0440\u0430\u0442\u043a\u043e\u0441\u0442\u044c\u044e \u043e\u0442\u0432\u0435\u0442\u0430 \u043d\u0435\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c. \u0425\u043e\u0442\u044f, \u0437\u0430\u043c\u0435\u0442\u0438\u043c, \u0432\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0435\u0439 \u043d\u0435\u00a0\u043e\u0442\u043a\u0430\u0436\u0435\u0448\u044c. <\/p>\n<\/li>\n<li>\n<p>\u0428\u0435\u0441\u0442\u043e\u0435\u00a0\u2014 \u0434\u0430\u0436\u0435 \u043d\u0430\u00a0Q4-Q6-Q8\u00a0\u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e\u00a0\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435\u00a0\u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u043c \u043f\u043e\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443. \u041d\u0438\u0436\u0435 Q3\u00a0\u043a\u0430\u043a\u00a0\u043f\u0440\u0430\u0432\u0438\u043b\u043e \u0443\u0445\u043e\u0434\u0438\u0442\u044c \u0432\u043e\u043e\u0431\u0449\u0435 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e, \u043e\u0441\u0442\u0430\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u00a0Q3\u00a0\u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u00a0\u0431\u0435\u0437\u044b\u0441\u0445\u043e\u0434\u043d\u043e\u0441\u0442\u0438, \u043d\u043e\u00a0\u0434\u0430\u0436\u0435 Q4, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043d\u0430\u00a0\u043c\u0430\u043b\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445, \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u044b\u043c \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441\u043e\u043c. <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0434\u043b\u044f\u00a0Qwen3.8-Flash\u2011Next \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 n\u2011gram\u2011\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u043d\u0430\u00a0SSD \u0431\u0435\u0437\u00a0\u0434\u0440\u0430\u043c\u0430\u0442\u0438\u0447\u043d\u043e\u0433\u043e \u0437\u0430\u043c\u0435\u0434\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438, \u043d\u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u0434\u043b\u044f\u00a0\u043c\u043e\u0435\u0439 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u044d\u0442\u043e \u043d\u0435\u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e.<\/p>\n<\/li>\n<\/ul>\n<h2>\u041a\u0440\u0430\u0442\u043a\u0438\u0435 \u0432\u044b\u0432\u043e\u0434\u044b<\/h2>\n<ol>\n<li>\n<p>\u0414\u043b\u044f\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u043e\u0436\u0435\u0442 \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u0432\u0430\u0436\u043d\u0435\u0435 \u0435\u0451 \u043d\u043e\u043c\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. <\/p>\n<\/li>\n<li>\n<p>\u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u00a0\u2014 \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u044a\u0451\u043c VRAM, \u0430\u00a0\u0442\u043e, \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f\u00a0\u043b\u0438 \u0432\u00a0\u043d\u0435\u0451 \u00abhot working set\u00bb. KV cache \u0438 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438\u00a0\u2014 \u043b\u0443\u0447\u0448\u0435 \u043d\u0435\u00a0\u0442\u0440\u043e\u0433\u0430\u0442\u044c, \u0430\u00a0\u0432\u043e\u0442 Vision \u0447\u0430\u0441\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u043d\u0435\u0441\u0442\u0438 \u0432\u00a0RAM. <\/p>\n<\/li>\n<li>\n<p>\u0414\u043b\u044f\u00a0MoE\u00a0\u0431\u044b\u0441\u0442\u0440\u0430\u044f RAM \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u00a0\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e. \u0425\u043e\u0442\u044f 10\u201330\u0442\u043e\u043a\/\u0441 \u043d\u0430\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0439 \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u0439 DDR5\u00a0\u2014 \u0432\u0441\u0435\u2011\u0442\u0430\u043a\u0438 \u043c\u0430\u043b\u043e\u0432\u0430\u0442\u043e. <\/p>\n<\/li>\n<li>\n<p>NInfer \u043d\u0430\u00a0\u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u043c\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445\u00a0\u2014 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043d\u043e\u0432\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438. FreeToken \u0438 ExLlamaV3\u00a0\u043c\u043e\u0433\u0443\u0442 \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u043c\u0438 \u0441\u0438\u0442\u0443\u0430\u0442\u0438\u0432\u043d\u043e. <\/p>\n<\/li>\n<li>\n<p>\u0414\u0440\u0430\u0444\u0442\u0435\u0440\u044b \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u0430\u044e\u0442 \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0435\u00a0\u2014 \u043d\u0443\u0436\u043d\u043e \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u043e\u0431\u043e\u0440\u0443\u0434\u043e\u0432\u0430\u043d\u0438\u044f. <\/p>\n<\/li>\n<li>\n<p>\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u043b\u0443\u0447\u0448\u0435 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u0441\u00a0\u0443\u0447\u0435\u0442\u043e\u043c \u0437\u0430\u0442\u0440\u0430\u0442 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u00a0\u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430. <\/p>\n<\/li>\n<li>\n<p>Q4\u00a0\u0443\u0436\u0435 \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u043c \u043f\u043e\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043d\u0430\u00a0\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u043e\u043f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430\u00a0\u0442\u0435\u043a\u0443\u0449\u0438\u0439 \u043c\u043e\u043c\u0435\u043d\u0442, \u043f\u043e\u043b\u0430\u0433\u0430\u044e, \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">\u2116<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0439<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"right\">1<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">Qwen3.8\u201327B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u043e\u043f \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\/\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"right\">2<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">GLM-5.3-Flash-321B\u2011A18B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u043e\u043f \u043f\u043e\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443, \u043d\u043e\u00a0\u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"right\">3<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">DeepSeek\u2011V4-Flash-0731-284B\u2011A13B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0441\u0451 \u0435\u0449\u0435 \u0445\u043e\u0440\u043e\u0448.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"right\">4<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">Qwen3.8-Flash\u2011Next-180B\u2011A6B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0440\u0435\u0434\u0438 \u0442\u0440\u043e\u0439\u043a\u0438 \u043d\u043e\u0432\u044b\u0445 MoE\u00a0\u2014 \u0441\u0430\u043c\u044b\u0439\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"right\">5<\/p>\n<\/td>\n<td data-colwidth=\"319\" width=\"319\">\n<p align=\"left\">Ornith-1.5\u201335B\u2011A3B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u043e\u043f \u0437\u0430\u00a0\u0441\u0432\u043e\u0438 \u0434\u0435\u043d\u044c\u0433\u0438 (\u0435\u0441\u043b\u0438 \u0438\u0445 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u0442).<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>P.\u202fS.:<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/325\/4e9\/682\/3254e96820d9845a08f226454f62e29e.png\" alt=\"\u041a\u0430\u043a-\u0442\u043e \u0442\u0430\u043a\" title=\"\u041a\u0430\u043a-\u0442\u043e \u0442\u0430\u043a\" width=\"1024\" height=\"1536\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/325\/4e9\/682\/3254e96820d9845a08f226454f62e29e.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/325\/4e9\/682\/3254e96820d9845a08f226454f62e29e.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041a\u0430\u043a\u2011\u0442\u043e \u0442\u0430\u043a<\/figcaption><\/div>\n<\/figure>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1080316\/\">https:\/\/habr.com\/ru\/articles\/1080316\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u0415\u0449\u0435 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u0433\u043e\u0434\u0430 \u043d\u0430\u0437\u0430\u0434 \u0432\u0430\u0448 \u043f\u043e\u043a\u043e\u0440\u043d\u044b\u0439 \u0441\u043b\u0443\u0433\u0430 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0440\u0435\u0448\u0438\u043b\u0441\u044f \u043e\u0431\u043d\u043e\u0432\u0438\u0442\u044c \u043a\u043e\u043c\u043f, \u043f\u0440\u0438\u043e\u0431\u0440\u0435\u0442\u044f \u041f\u041a \u0441\u00a0RTX 5090\u00a0\u0438 96Gb RAM, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u043a\u0430\u043a\u00a0\u044f \u0442\u043e\u0433\u0434\u0430 \u0434\u0443\u043c\u0430\u043b, \u043e\u043a\u0430\u0436\u0443\u0442\u0441\u044f \u0443\u043b\u044c\u0442\u0438\u043c\u0430\u0442\u0438\u0432\u043d\u044b\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0432\u0441\u0435\u0433\u043e, \u0447\u0442\u043e\u00a0\u043c\u043e\u0436\u0435\u0442 \u043a\u043e\u0433\u0434\u0430\u2011\u043b\u0438\u0431\u043e \u0445\u043e\u0442\u0435\u0442\u044c\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c. \u041d\u043e\u00a0\u0441\u00a0\u0432\u044b\u0445\u043e\u0434\u043e\u043c DeepSeek V4\u00a0Flash \u0432\u00a0\u0430\u043f\u0440\u0435\u043b\u0435 \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e\u00a0\u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0432\u00a0\u0441\u0432\u043e\u0435\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u043c \u00ab\u043b\u0438\u043c\u0431\u043e\u00bb\u00a0\u2014 \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0445 128Gb VRAM+RAM \u0445\u0432\u0430\u0442\u0430\u043b\u043e\u00a0\u043b\u0438\u0431\u043e \u043d\u0430\u00a0\u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0438 \u0432 \u043a\u0432\u0430\u043d\u0442\u0435 Q2,\u00a0\u043b\u0438\u0431\u043e \u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u043f\u0440\u0435\u0434\u0435\u043b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0433\u043e \u0432\u00a0Q3XSS. \u0422\u043e \u0435\u0441\u0442\u044c\u00a0\u0431\u044b\u043b Qwen 3.6, \u0430\u00a0\u043d\u0430\u00a0\u0432\u0441\u0451, \u0447\u0442\u043e\u00a0\u0431\u043e\u043b\u044c\u0448\u0435\u00a0\u2014 \u043f\u0430\u043c\u044f\u0442\u0438 \u0443\u0436\u0435 \u043d\u0435\u00a0\u0445\u0432\u0430\u0442\u0430\u043b\u043e. \u0410\u00a0\u0442\u0443\u0442 \u043a\u0430\u043a\u00a0\u0440\u0430\u0437 \u0432\u044b\u0448\u043b\u0430 \u043d\u043e\u0432\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f DSv4Flash 0731\u2026 \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c\u00a0\u0431\u044b, \u043a\u043e\u043c\u043f \u043c\u043e\u0449\u043d\u044b\u0439, \u0438 \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0438 \u043d\u0435\u00a0\u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0441\u043e\u0432\u0441\u0435\u043c \u0447\u0443\u0442\u044c\u2011\u0447\u0443\u0442\u044c, \u0430\u00a0\u0432\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0\u0437\u043b\u043e\u0441\u0447\u0430\u0441\u0442\u043d\u044b\u0445 \u043e\u0431\u043b\u0430\u0434\u0430\u0442\u0435\u043b\u0435\u0439 DGX Spark, \u043a\u043e\u0442\u043e\u0440\u044b\u043c, \u043d\u0430\u0432\u0435\u0440\u043d\u043e, \u0431\u0440\u0430\u0442\u044c \u0440\u0430\u0437\u0432\u0435 \u0447\u0442\u043e\u00a0\u0432\u0442\u043e\u0440\u0443\u044e \u0442\u0430\u043a\u0443\u044e\u00a0\u0436\u0435, \u044f \u043c\u043e\u0433\u0443 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043e\u043a\u0443\u043f\u0438\u0442\u044c \u0435\u0449\u0435 \u043e\u0434\u0438\u043d \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442 96Gb RAM, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043d\u0435 \u0442\u043e\u0433\u0434\u0430 \u043e\u0431\u043e\u0448\u0435\u043b\u0441\u044f \u0432\u0441\u0435\u0433\u043e\u2011\u0442\u043e \u0432\u2026 32000\u0440?\u00af\\_(\u30c4)_\/\u00af\u2026\u042f \u043d\u0435\u00a0\u0445\u043e\u0447\u0443 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c, \u0432\u043e\u00a0\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043d\u0435 \u044d\u0442\u043e \u043e\u0431\u043e\u0448\u043b\u043e\u0441\u044c \u0441\u0435\u0439\u0447\u0430\u0441. \u0422\u0435\u043c \u043d\u0435\u00a0\u043c\u0435\u043d\u0435\u0435, 192Gb RAM \u043d\u0430\u00a0AM5\u00a0\u0437\u0430\u0432\u0435\u043b\u0438\u0441\u044c \u0432\u00a0\u0432\u0435\u0441\u044c\u043c\u0430 \u0434\u043e\u0441\u0442\u043e\u0439\u043d\u044b\u0445 6000Mhz \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0435 1:1\u00a0\u0438 \u043f\u043e\u0441\u043b\u0435\u00a0\u043b\u0438\u0448\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0448\u0430\u043c\u0430\u043d\u0441\u0442\u0432\u0430 \u0441\u00a0\u043d\u0430\u043f\u0440\u044f\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043f\u0440\u043e\u0448\u043b\u0438 \u0432\u0441\u0435 \u0442\u0435\u0441\u0442\u044b \u043d\u0430\u00a0\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c.\u0422\u043e \u0441\u0430\u043c\u043e\u0435\u00a0\u0436\u0435\u043b\u0435\u0437\u043e \u0441\u00a0\u0434\u0432\u0443\u043c\u044f \u043d\u043e\u0432\u044b\u043c\u0438 \u043f\u043b\u0430\u043d\u043a\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438\u0422\u0435\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043a\u043e\u043d\u0435\u0446 \u043b\u0435\u0442\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0443 \u043f\u0440\u044f\u043c\u043e\u2011\u0442\u0430\u043a\u0438 \u0436\u0430\u0440\u043a\u0438\u043c!DeepSeek V4\u00a0Flash (0731)\u00a0\u2014 31\u00a0\u0438\u044e\u043b\u044f 2026\u00a0\u0433\u043e\u0434\u0430. (MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 284B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 13B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u00a0\u0418\u0418\u2011\u0430\u0433\u0435\u043d\u0442\u043e\u0432). Qwen 3.8 27B\u00a0\u2014 3\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u041f\u043b\u043e\u0442\u043d\u0430\u044f (dense) \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u0443\u043c\u0435\u0449\u0430\u044e\u0449\u0430\u044f\u0441\u044f \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0439 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0435). GLM 5.3\u00a0Flash\u00a0\u2014 26\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u041c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0430\u044f MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 320B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 18B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, \u0440\u0430\u043d\u0435\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0432\u0448\u0430\u044f\u0441\u044f \u043f\u043e\u0434\u00a0\u0441\u0442\u0435\u043b\u0441\u2011\u0438\u043c\u0435\u043d\u0435\u043c Ox Alpha). Qwen 3.8\u00a0Flash Next\u00a0\u2014 28\u00a0\u0430\u0432\u0433\u0443\u0441\u0442\u0430 2026\u00a0\u0433\u043e\u0434\u0430. (\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0435 \u043f\u0440\u0435\u0432\u044c\u044e\u00a0\u043b\u0438\u043d\u0435\u0439\u043a\u0438 Qwen 4, MoE\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 ~125B \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441 ~6B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d, \u043f\u043b\u044e\u0441 \u043e\u043a\u043e\u043b\u043e 51B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 n\u2011gram\u2011\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432; \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u043e\u00a0\u2014 ~180B).\u0418 \u0435\u0449\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0431\u043e\u043b\u0435\u0435 \u043c\u0435\u043b\u043a\u0438\u0445, \u043d\u043e\u00a0\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u0440\u0435\u043b\u0438\u0437\u043e\u0432 \u043d\u0430\u0432\u0440\u043e\u0434\u0435 Ornith 1.5 35B\u2011A3B \u0438 397B. \u0422\u043e \u0435\u0441\u0442\u044c \u0437\u0430\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0434\u0435\u043b\u044c \u0443\u00a0\u043c\u0435\u043d\u044f \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043e\u0442 \u00ab\u043f\u043b\u043e\u0442\u043d\u043e\u0439\u00bb 27B \u0434\u043e 300+B MoE, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0434\u043e\u043c\u0430\u00a0\u2014 \u043f\u0440\u0438\u0447\u0435\u043c, \u0432\u00a0\u0438\u0434\u0435\u0430\u043b\u0435, \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u0430\u00a0\u0441\u00a0\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e, \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0431\u0435\u0437\u00a0\u0443\u0431\u0438\u0439\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f. \u0425\u043e\u0447\u0443 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0432\u0441\u0435!\u0424\u043e\u0440\u043c\u0430\u0442 \u0442\u0435\u0441\u0442\u043e\u0432\u0422\u0435\u0441\u0442\u044b \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0438\u0441\u044c \u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u043e\u043c \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f cmd\u2011\u0441\u043a\u0440\u0438\u043f\u0442\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0432\u0448\u0435\u0433\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 LLM\u2011\u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u043e\u00a0\u0430\u0434\u0440\u0435\u0441\u0443 http:\/\/127.0.0.1:5000\/v1, \u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u043a\u00a0\u043d\u0435\u043c\u0443 \u0447\u0435\u0440\u0435\u0437 \u043a\u043b\u0438\u0435\u043d\u0442 Jan Desktop. \u041f\u0440\u0438\u043c\u0435\u0440 \u0441\u043a\u0440\u0438\u043f\u0442\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 (\u0442\u0443\u0442 \u043c\u0435\u043d\u044f \u00ab\u0432\u0435\u043b \u0437\u0430\u00a0\u0440\u0443\u043a\u0443\u00bb ChatGPT):\u0421\u043a\u0440\u044b\u0442\u044b\u0439 \u0442\u0435\u043a\u0441\u0442@echo offsetlocalchcp 65001 &gt;nulset &#171;COMMON=%~dp0benchmark-common.ps1&#8243;set &#171;LLAMA_DIR=C:\\Users\\[User]\\.unsloth\\llama.cpp\\build\\bin\\Release&#187;set &#171;SERVER=%LLAMA_DIR%\\llama-server.exe&#187;set &#171;CUDA_LIBS=C:\\Users\\[User]\\.unsloth\\studio\\unsloth_studio\\Lib\\site-packages\\torch\\lib&#187;set &#171;MODEL=D:\\LLM\\Qwen3.8-Flash-Next\\Qwen3.8-Flash-Next-UD-Q4_K_XL\\UD-Q4_K_XL\\Qwen3.8-Flash-Next-UD-Q4_K_XL-00001-of-00004.gguf&#187;set &#171;CTX=262144&#8243;set &#171;THREADS=16&#8243;set &#171;FIT_TARGET=1024&#8243;if not exist &#171;%COMMON%&#187; (    echo ERROR: benchmark-common.ps1 not found:    echo %COMMON%    pause    exit \/b 1)if not exist &#171;%SERVER%&#187; (    echo ERROR: llama-server.exe not found:    echo %SERVER%    pause    exit \/b 1)if not exist &#171;%MODEL%&#187; (    echo ERROR: model not found:    echo %MODEL%    pause    exit \/b 1)if not exist &#171;%CUDA_LIBS%&#187; (    echo ERROR: CUDA runtime directory not found:    echo %CUDA_LIBS%    pause    exit \/b 1)set &#171;PATH=%CUDA_LIBS%;%PATH%&#187;set &#171;NVIDIA_TF32_OVERRIDE=0&#8243;rem ============================================================rem BENCHMARK METADATArem ============================================================set &#171;BENCH_SERVER=%SERVER%&#187;set &#171;BENCH_MODEL_FILE=%MODEL%&#187;set &#171;BENCH_MODEL=Qwen3.8-Flash-Next&#187;set &#171;BENCH_PARAMS=~180B \/ ~6B active per token&#187;set &#171;BENCH_QUANT=Unsloth UD-Q4_K_XL GGUF&#187;set &#171;BENCH_RUNTIME=llama.cpp (Unsloth build)&#187;set &#171;BENCH_DRAFTER=none; baseline (MTP disabled)&#187;set &#171;BENCH_CONTEXT_KV=256K (262144) \/ Q8_0, Q8_0&#8243;set &#171;BENCH_VISION=No; mmproj not loaded&#187;set &#171;BENCH_LAYERS=48 trunk layers; hybrid recurrent\/attention architecture&#187;set &#171;BENCH_EXPERTS=512 routed experts; 10 selected per MoE layer&#187;set &#171;BENCH_EXPERT_PLACEMENT=TRUE AUTO FIT; mixed VRAM\/RAM&#187;set &#171;BENCH_GPU_EXPERT_CACHE=n\/a; auto-fit tensor placement&#187;set &#171;BENCH_CPU_MOE=automatic placement; no &#8212;n-cpu-moe override&#187;set &#171;BENCH_RUN_ARGS=-m &#171;%MODEL%&#187; &#8212;alias benchmark &#8212;host 127.0.0.1 &#8212;port 5000 -c %CTX% -np 1 &#8212;cache-type-k q8_0 &#8212;cache-type-v q8_0 -fa on &#8212;fit on &#8212;lazy-mode off &#8212;fit-target %FIT_TARGET% &#8212;load-mode none -b 2048 -ub 128 -t %THREADS% &#8212;threads-batch %THREADS% &#8212;cache-ram 0 &#8212;jinja &#8212;reasoning-preserve&#187;title Qwen3.8-Flash-Next UD-Q4_K_XL &#8212; 256K baseline benchmark &#8212; port 5000powershell.exe -NoLogo -NoProfile -ExecutionPolicy Bypass -File &#171;%COMMON%&#187;set &#171;RC=%ERRORLEVEL%&#187;echo.echo llama-server exited with code %RC%.pauseendlocalexit \/b %RC%\u041a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0434\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u0442\u0440\u0438 \u00abone\u2011shot\u00bb \u0437\u0430\u0434\u0430\u0447\u0438:\u041d\u0430\u043f\u0438\u0448\u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0435 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u0433\u043e, \u043f\u043e\u0447\u0435\u043c\u0443 \u0443\u043f\u0440\u0435\u0436\u0434\u0430\u044e\u0449\u0435\u0435 \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (speculative decoding) \u043c\u043e\u0436\u0435\u0442 \u0443\u0441\u043a\u043e\u0440\u044f\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c (LLM), \u043d\u043e\u00a0\u0438\u043d\u043e\u0433\u0434\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u044d\u0442\u043e\u0433\u043e \u0437\u0430\u043c\u0435\u0434\u043b\u044f\u0435\u0442 \u0435\u0451. \u0420\u0430\u0437\u0431\u0435\u0440\u0438 \u0434\u043e\u043b\u044e \u043f\u0440\u0438\u043d\u044f\u0442\u044b\u0445 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 (acceptance rate), \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 (draft model), \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e (verification), \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438 (memory bandwidth), \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b \u0431\u043b\u043e\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 (speculative block) \u0438 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u041d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b. \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0439 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435 \u0434\u043e\u00a0\u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f\u00a0\u043b\u0438\u043c\u0438\u0442\u0430 \u0432 4096\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041d\u0435\u00a0\u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0439 \u043e\u0442\u0432\u0435\u0442 \u0434\u043e\u0441\u0440\u043e\u0447\u043d\u043e.\u0421\u0434\u0435\u043b\u0430\u0439 SVG\u2011\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435: \u043e\u0441\u0451\u043b \u0435\u0434\u0435\u0442 \u043d\u0430\u00a0\u0432\u0435\u043b\u043e\u0441\u0438\u043f\u0435\u0434\u0435, \u043d\u0430\u00a0\u0437\u0430\u0434\u043d\u0435\u043c \u043f\u043b\u0430\u043d\u0435 \u0432\u00a0\u043b\u0435\u0441\u0443 \u0441\u0442\u043e\u0438\u0442 \u043c\u0435\u0434\u0432\u0435\u0434\u044c. \u0412\u044b\u0434\u0430\u0439 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u0438\u043d \u0437\u0430\u043a\u043e\u043d\u0447\u0435\u043d\u043d\u044b\u0439 SVG\u2011\u043a\u043e\u0434, \u0431\u0435\u0437\u00a0\u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u0439, Markdown \u0438 \u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. SVG \u0434\u043e\u043b\u0436\u0435\u043d \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u043a\u0430\u043a\u00a0\u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u0430\u0439\u043b \u0432\u00a0\u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0435.\u0421\u0434\u0435\u043b\u0430\u0439 \u043e\u0434\u043d\u0438\u043c \u043e\u0442\u0432\u0435\u0442\u043e\u043c \u0437\u0430\u043a\u043e\u043d\u0447\u0435\u043d\u043d\u0443\u044e \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u043d\u0443\u044e \u0438\u0433\u0440\u0443, \u0430\u043d\u0430\u043b\u043e\u0433 Battle City. \u0412\u044b\u0434\u0430\u0439 \u043e\u0434\u0438\u043d \u0441\u0430\u043c\u043e\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0439 HTML\u2011\u0444\u0430\u0439\u043b \u0431\u0435\u0437\u00a0\u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a \u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. \u0423\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 WASD\/\u0441\u0442\u0440\u0435\u043b\u043a\u0438, Space\u00a0\u2014 \u0432\u044b\u0441\u0442\u0440\u0435\u043b. \u0414\u043e\u043b\u0436\u043d\u044b\u00a0\u0431\u044b\u0442\u044c \u0438\u0433\u0440\u043e\u043a, \u043f\u0440\u043e\u0442\u0438\u0432\u043d\u0438\u043a\u0438, \u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u043c\u044b\u0435 \u043a\u0438\u0440\u043f\u0438\u0447\u043d\u044b\u0435 \u0441\u0442\u0435\u043d\u044b, \u043d\u0435\u0440\u0430\u0437\u0440\u0443\u0448\u0430\u0435\u043c\u044b\u0435 \u0441\u0442\u0435\u043d\u044b, \u0441\u0442\u043e\u043b\u043a\u043d\u043e\u0432\u0435\u043d\u0438\u044f, \u0441\u043d\u0430\u0440\u044f\u0434\u044b, \u043e\u0447\u043a\u0438, \u0436\u0438\u0437\u043d\u0438, \u043f\u043e\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0438 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a. \u041d\u0435\u00a0\u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0439 \u043a\u043e\u0434\u00a0\u2014 \u0432\u044b\u0434\u0430\u0439 \u0442\u043e\u043b\u044c\u043a\u043e \u0433\u043e\u0442\u043e\u0432\u044b\u0439 HTML.\u0422\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043c\u043e\u0434\u0435\u043b\u0438: Ornith-1.5\u201335B\u2011A3B, Qwen3.6\u201335B\u2011A3B, Qwen3.8\u201327B, Qwen3.5\u2013122B\u2011A10B, Laguna\u2011S-2.1, Qwen3.8-Flash\u2011Next, DeepSeek\u2011V4-Flash-0731, Ornith-1.5\u2013397B, GLM-5.3-Flash, Hy3, MiniMax\u2011M3. \u041f\u043e\u0434\u00a0\u043a\u043e\u043d\u0435\u0446\u00a0\u0431\u044b\u043b\u043e \u0440\u0435\u0448\u0435\u043d\u043e \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0445\u0430\u0439\u043f\u0430\u043d\u0443\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043e\u0433\u0440\u043e\u043c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c Hy4-preview \u0432\u00a0STQ1_0\u00a0\u2014 \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043c\u043e\u0433\u0443! \u0412\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u044f \u043f\u044b\u0442\u0430\u043b\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043d\u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u043c \u0440\u0430\u0437\u0443\u043c\u043d\u043e\u043c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435.\u0418\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u044b\u0414\u043e\u0432\u043e\u043b\u044c\u043d\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u044f \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e\u00a0\u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d, \u0430\u00a0\u0434\u043b\u044f\u00a0\u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0435\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043d\u0443\u0436\u043d\u043e \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u043e\u043e\u0431\u0449\u0435 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 llama.cpp. \u041f\u0435\u0440\u0432\u044b\u043c \u00ab\u0437\u0432\u043e\u043d\u043e\u0447\u043a\u043e\u043c\u00bb \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u043b\u0430\u043d\u0435 \u0441\u0442\u0430\u043b Ninfer\u00a0\u2014 \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f \u043d\u0430\u00a0\u0443\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435 \u043e\u00a0\u043d\u0451\u043c \u043d\u0430\u00a0Reddit, \u043a\u043e\u0433\u0434\u0430 \u0438\u0441\u043a\u0430\u043b \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u043e\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0418 \u043f\u0435\u0440\u0432\u044b\u0439\u00a0\u0436\u0435 \u0442\u0435\u0441\u0442 \u043d\u0430\u00a0Qwen3.8\u201327B \u043f\u043e\u0434\u043d\u044f\u043b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441 ~100\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0434\u043e ~170\u0442\u043e\u043a\/\u0441. \u0412\u0430\u0443! NInfer\u00a0\u2014 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0434\u0432\u0438\u0436\u043e\u043a \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 (\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0432\u044b\u0432\u043e\u0434\u0430 LLM), \u0437\u0430\u0442\u043e\u0447\u0435\u043d\u043d\u044b\u0439 \u043f\u043e\u0434\u00a0\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0435 NVIDIA\u2011\u0436\u0435\u043b\u0435\u0437\u043e; \u0432\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0433\u043e llama.cpp \u043e\u043d \u0441\u043e\u0437\u043d\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u00a0\u0436\u0435\u0440\u0442\u0432\u0443\u0435\u0442 \u0448\u0438\u0440\u043e\u0442\u043e\u0439 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432 \u0440\u0430\u0434\u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438. \u041d\u0430\u00a0\u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b Blackwell NInfer \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 4-\u0431\u0438\u0442\u043d\u043e\u0433\u043e \u0444\u043e\u0440\u043c\u0430\u0442\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 NVIDIA FP4\u00a0(NVFP4), \u0438\u043c\u0435\u044e\u0449\u0435\u0433\u043e \u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u0443\u044e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u043c\u0438 \u044f\u0434\u0440\u0430\u043c\u0438 \u0434\u0430\u043d\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043e\u0431\u044a\u0451\u043c \u0447\u0438\u0442\u0430\u0435\u043c\u044b\u0445 \u0438\u0437\u00a0\u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0441\u0430\u043c\u0438 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u041e\u0431\u0440\u0430\u0442\u043d\u0430\u044f \u0441\u0442\u043e\u0440\u043e\u043d\u0430\u00a0\u2014 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043f\u0435\u0440\u0435\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437\u00a0BF16\u00a0\u0432\u00a0NVFP4, \u0430 4-\u0431\u0438\u0442\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0443\u0436\u0435 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u043b\u0438\u044f\u0442\u044c \u043d\u0430\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e, \u043f\u043b\u044e\u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 \u0444\u0430\u0439\u043b\u043e\u0432 *.ninfer. \u0420\u0430\u043d\u044c\u0448\u0435 \u0434\u0432\u0438\u0436\u043e\u043a \u0440\u0430\u0437\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434\u00a0Linux \u0438 \u0432\u00a0Windows \u043e\u0431\u044b\u0447\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0441\u044f \u0447\u0435\u0440\u0435\u0437 WSL2, \u043d\u043e\u00a0\u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c \u0438 \u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, natpate\/ninfer\u2011windows. \u0418\u0437\u00a0\u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432 \u043c\u043d\u0435 \u043f\u043e\u043f\u0430\u043b\u0438\u0441\u044c \u0435\u0449\u0451 ExLlamaV3, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043d\u0430\u00a0NVIDIA GPU \u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 EXL3, \u0438 FreeToken, \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0439 \u043d\u0430\u00a0\u043f\u043e\u043f\u044b\u0442\u043a\u0443 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u00a0\u0440\u0430\u0437\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0441\u043b\u043e\u0435\u0432 \u0432\u00a0RAM. \u0418\u0437\u00a0\u0431\u043e\u043b\u0435\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441\u0442\u043e\u0438\u0442 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0442\u044c vLLM \u0438 SGLang. \u0412\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0llama.cpp, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u00a0\u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0446\u0435\u043d\u0435\u043d \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432 \u0438 \u0441\u0430\u043c\u043e\u0433\u043e \u0440\u0430\u0437\u043d\u043e\u0433\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0430, \u044d\u0442\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0430\u00a0\u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435: \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443 \u0441\u00a0\u0443\u0436\u0435 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043c\u0435\u0436\u0434\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u043c\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u043d\u0438 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b \u043f\u0440\u0438\u00a0\u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0438 LLM \u043a\u0430\u043a\u00a0\u0441\u0435\u0440\u0432\u0438\u0441\u0430. \u0412\u00a0\u044d\u0442\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u044f \u0438\u0445 \u043f\u043e\u043a\u0430 \u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b: \u0437\u0434\u0435\u0441\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439\u00a0\u2014 \u043e\u0434\u043d\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u043c\u0430\u0448\u0438\u043d\u0430 \u0438 \u043e\u0434\u0438\u043d \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441. \u0418\u0437\u00a0\u0432\u0441\u0435\u0433\u043e \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0432\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043a\u00a0llama.cpp \u044f \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b NInfer, ExLlamaV3\u00a0\u0438 FreeToken \u0442\u0430\u043c, \u0433\u0434\u0435 \u0432\u0438\u0434\u0435\u043b \u0432\u00a0\u044d\u0442\u043e\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0438 \u0441\u043c\u044b\u0441\u043b.VRAM, RAM \u0438 MoE\u0414\u0440\u0443\u0433\u0438\u043c \u0432\u0430\u0436\u043d\u044b\u043c \u0442\u0435\u0441\u0442\u043e\u043c \u0441\u0442\u0430\u043b \u0442\u0435\u0441\u0442 Q6\u00a0vs Q8\u00a0\u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u044f\u0445 Qwen3.8\u201327B \u0438 Ornith-1.5\u201335B\u2011A3B. \u041f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u0441\u00a0Q6\u00a0\u043d\u0430\u00a0Q8\u00a0\u0434\u043b\u044f\u00a0\u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0437\u00a0\u043d\u0438\u0445 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0432\u0441\u0435\u0433\u043e\u00a0\u043b\u0438\u0448\u044c \u0432\u044b\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0435\u0432 \u0438\u0437\u00a0VRAM \u0432\u00a0RAM\u2026 \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u043e 100\u0442\u043e\u043a\/\u0441 \u0443\u043b\u0435\u0442\u0435\u043b\u0430 \u0434\u043e 10. \u0412 10\u00a0\u0440\u0430\u0437, \u041a\u0430\u0440\u043b! \u0414\u043b\u044f\u00a0Ornith-1.5\u201335B\u2011A3B \u0432\u044b\u0433\u0440\u0443\u0437\u043a\u0430 \u043f\u0430\u0440\u044b \u0441\u043b\u043e\u0435\u0432 \u0432\u00a0RAM \u043f\u0440\u043e\u0448\u043b\u0430 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043c\u0435\u043d\u0435\u0435 \u0431\u043e\u043b\u0435\u0437\u043d\u0435\u043d\u043d\u043e\u00a0\u2014 \u0435\u0441\u043b\u0438 Q6_K GGUF \u0441\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 192K \u0441\u00a0\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c kv\u2011\u043a\u0435\u0448\u0430 \u0432\u00a0Q8, \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043f\u043e\u043c\u0435\u0449\u0430\u0432\u0448\u0430\u044f\u0441\u044f \u0432\u00a0\u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c, \u0434\u0430\u0432\u0430\u043b\u0430 ~235\u0442\u043e\u043a\/\u0441, \u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0441\u00a0\u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0439 \u0432\u044b\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0434\u043e 256K \u0434\u0430\u043b\u043e \u0443\u0436\u0435 ~185\u0442\u043e\u043a\/\u0441, \u0430\u00a0\u043f\u0435\u0440\u0435\u0445\u043e\u0434 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u0442\u0435\u043c \u043d\u0430\u00a0Q8\u00a0\u2014 ~95\u0442\u043e\u043a\/\u0441.\u041e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u044d\u0442\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u00a0\u2014 \u0432\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439\u00a0\u2014 Mixture of Experts (MoE, \u0441\u043c\u0435\u0441\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432). \u0415\u0441\u043b\u0438 \u0432\u00a0\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439 LLM, \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0439 \u00ab\u043f\u043b\u043e\u0442\u043d\u043e\u0439\u00bb \u043c\u043e\u0434\u0435\u043b\u0438, \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0430\u043a\u0442\u0438\u0432\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432\u0441\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b, \u0442\u043e \u0432\u00a0MoE \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0439 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d \u043d\u0430\u00a0\u043d\u0430\u0431\u043e\u0440 \u00ab\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432\u00bb (\u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432), \u0438 \u043f\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0440\u043e\u0443\u0442\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442, \u043a\u0430\u043a\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043d (\u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435\u00a0\u2014 https:\/\/newsletter.maartengrootendorst.com\/p\/a\u2011visual\u2011guide\u2011to\u2011mixture\u2011of\u2011experts).A) \u201c\u041f\u043b\u043e\u0442\u043d\u044b\u0435\u201d \u0441\u043b\u043e\u0438 B) \u0421\u043b\u043e\u0438 Mixture of Experts\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u0442\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442\u044c \u044d\u0442\u043e\u0442 \u0441\u043b\u043e\u0439 \u0433\u043e\u0440\u0430\u0437\u0434\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435. \u0427\u0442\u043e\u00a0\u0432\u00a0\u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043e \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0441\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-494060","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/494060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=494060"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/494060\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=494060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=494060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=494060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}