{"id":491904,"date":"2026-08-23T17:59:22","date_gmt":"2026-08-23T17:59:22","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=491904"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=491904","title":{"rendered":"753B \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0435: \u0440\u0430\u0437\u0431\u043e\u0440 FreeToken"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/a2\/f0\/8d\/a2f08d019902c6c699c2fe0b78f50e98.jpg\" alt=\"\u0427\u0443\u0432\u0430\u043a \u0438\u0437 \u041a\u0430\u043b\u0438\u0444\u043e\u0440\u043d\u0438\u0438 \u0432\u0440\u044f\u0434 \u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u044d\u0442\u043e \u0432\u0441\u0435 \u043d\u0430 \u0442\u0430\u043a\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/a2\/f0\/8d\/a2f08d019902c6c699c2fe0b78f50e98.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/a2\/f0\/8d\/a2f08d019902c6c699c2fe0b78f50e98.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0427\u0443\u0432\u0430\u043a \u0438\u0437 \u041a\u0430\u043b\u0438\u0444\u043e\u0440\u043d\u0438\u0438 \u0432\u0440\u044f\u0434 \u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u044d\u0442\u043e \u0432\u0441\u0435 \u043d\u0430 \u0442\u0430\u043a\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435<\/figcaption><\/div>\n<\/figure>\n<p>\u0411\u044b\u0432\u0430\u0435\u0442 \u0442\u0430\u043a: \u0441\u0438\u0434\u0438\u0448\u044c, \u043b\u0438\u0441\u0442\u0430\u0435\u0448\u044c \u043b\u0435\u043d\u0442\u0443, \u0438 \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0440\u0430\u0437 \u043d\u0430\u0442\u044b\u043a\u0430\u0435\u0448\u044c\u0441\u044f \u043d\u0430 \u043f\u043e\u0441\u0442, \u0433\u0434\u0435 \u0441\u0442\u0430\u0444\u0444-\u0438\u043d\u0436\u0435\u043d\u0435\u0440 \u0438\u0437 \u0441\u043e\u043b\u043d\u0435\u0447\u043d\u043e\u0439 \u041a\u0430\u043b\u0438\u0444\u043e\u0440\u043d\u0438\u0438 \u043a\u0440\u0443\u0442\u0438\u0442 \u0441\u0432\u0435\u0436\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0443 \u043d\u0430 \u043f\u0430\u0440\u0435 RTX PRO 6000 \u043e\u0431\u0449\u0435\u0439 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\u044e \u0441 \u043f\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u043d\u0443\u044e \u043c\u0430\u0448\u0438\u043d\u0443. \u0422\u044b \u0441\u043c\u043e\u0442\u0440\u0438\u0448\u044c \u043d\u0430 \u0441\u0432\u043e\u044e RTX 4060 \u0432 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0443\u043f\u0430\u043b \u00ab\u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u0438\u0433\u0440\u00bb, \u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0448\u044c: \u043d\u0443 \u043b\u0430\u0434\u043d\u043e, \u044d\u0442\u043e \u043d\u0435 \u0434\u043b\u044f \u043d\u0430\u0441.<\/p>\n<p>\u0422\u0430\u043a \u0432\u043e\u0442, \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u0434\u043b\u044f \u043d\u0430\u0441. \u041d\u0430 \u0442\u043e\u0439 \u0441\u0430\u043c\u043e\u0439 \u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u043e\u0439 4060 \u0441 \u0432\u043e\u0441\u0435\u043c\u044c\u044e \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430\u043c\u0438 \u0438 \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u043c \u0432\u0434\u0432\u043e\u0435 PCIe-\u043b\u0438\u043d\u043a\u043e\u043c \u0432\u0441\u0435-\u0442\u0430\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 39.3 tok\/s \u043d\u0430 35-\u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u043e\u0447\u0438\u043c \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0447\u0435\u043c \u043c\u0435\u0434\u0438\u0430\u043d\u043d\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0434\u0435\u043a\u043e\u0434\u0430 Codex \u0432 \u043f\u0440\u043e\u0434\u0435. \u0412\u043e\u043f\u0440\u043e\u0441 \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0434\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u0431\u044b\u043b \u043d\u0435 \u0432 \u0436\u0435\u043b\u0435\u0437\u0435, \u0430 \u0432 \u0441\u043e\u0444\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u044d\u0442\u043e \u0436\u0435\u043b\u0435\u0437\u043e \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442.<\/p>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0442\u0430\u043a\u0438\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c FreeToken \u2014 \u0434\u0432\u0438\u0436\u043e\u043a \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 MoE-\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043e\u0442 \u043a\u043e\u043c\u0430\u043d\u0434\u044b, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u0441\u0434\u0435\u043b\u0430\u043b\u0430 vLLM \u0438 SGLang.<\/p>\n<h3>\u0417\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0434\u0432\u0438\u0436\u043e\u043a<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/5f\/26\/a4\/5f26a4a884875288602c664bced29320.jpg\" alt=\"\u0414\u0432\u0438\u0436\u043e\u043a \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u0442\u0438\u043f\u0430 \u0442\u043e\u0433\u043e\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/5f\/26\/a4\/5f26a4a884875288602c664bced29320.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/5f\/26\/a4\/5f26a4a884875288602c664bced29320.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0414\u0432\u0438\u0436\u043e\u043a \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u0442\u0438\u043f\u0430 \u0442\u043e\u0433\u043e<\/figcaption><\/div>\n<\/figure>\n<p>\u041a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043e\u0442\u0432\u0435\u0442: \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043d\u0435\u0434\u043e\u0431\u0438\u0440\u0430\u044e\u0442 \u043e\u0442 \u043c\u0430\u0448\u0438\u043d\u044b \u043a\u0440\u0430\u0442\u043d\u043e, \u0438 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u2014 \u0442\u0430\u043c, \u0433\u0434\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043d\u0443\u0436\u043d\u044b, \u0442\u043e \u0435\u0441\u0442\u044c \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445.<\/p>\n<p>\u0414\u043b\u0438\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043e\u0441\u0442\u0430\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u044c\u0438, \u043d\u043e \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0440\u0430\u0437\u0443 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u0440\u0438\u043b\u0438 \u0430\u0432\u0442\u043e\u0440\u044b. \u041d\u0435 \u043e\u0434\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442, \u043a\u0430\u043a \u043f\u0440\u0438\u043d\u044f\u0442\u043e \u0432 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0432\u0438\u0436\u043a\u043e\u0432, \u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043d\u043e\u0433\u043e\u0442\u0443\u0440\u043e\u0432\u044b\u0435 \u0441\u0435\u0441\u0441\u0438\u0438: SWE-\u0437\u0430\u0434\u0430\u0447\u0430 \u0447\u0435\u0440\u0435\u0437 OpenCode, \u0442\u0430 \u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430 \u0447\u0435\u0440\u0435\u0437 Claude Code \u043f\u043e \u043d\u0430\u0442\u0438\u0432\u043d\u043e\u043c\u0443 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0443 \u0441 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u0430\u0431\u0430\u0433\u0435\u043d\u0442\u0430\u043c\u0438 \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0434\u043e 56\u201365 \u0442\u044b\u0441\u044f\u0447 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u043f\u043e\u0447\u0442\u043e\u0432\u043e-\u043a\u0430\u043b\u0435\u043d\u0434\u0430\u0440\u043d\u044b\u0439 \u0430\u0433\u0435\u043d\u0442 \u0447\u0435\u0440\u0435\u0437 OpenClaw \u043d\u0430 \u0442\u0440\u0438\u043d\u0430\u0434\u0446\u0430\u0442\u044c \u0445\u043e\u0434\u043e\u0432.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043f\u043e \u0442\u0435\u043a\u0441\u0442\u0443 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043b\u044c\u043a\u0430\u0442\u044c TTFT \u2014 time to first token, \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. \u042d\u0442\u043e \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043c\u0435\u0436\u0434\u0443 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0441\u0438\u043c\u0432\u043e\u043b\u0430 \u043e\u0442\u0432\u0435\u0442\u0430, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u043e \u0441\u0443\u0442\u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0430: \u043f\u043e\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043f\u0440\u043e\u0436\u0435\u0432\u0430\u043b\u0430 \u0432\u0435\u0441\u044c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0439 \u043d\u0435\u0447\u0435\u0433\u043e.<\/p>\n<p>\u0412 \u0447\u0430\u0442\u0435 \u043d\u0430 \u043f\u0430\u0440\u0443 \u0430\u0431\u0437\u0430\u0446\u0435\u0432 \u044d\u0442\u043e \u0434\u043e\u043b\u0438 \u0441\u0435\u043a\u0443\u043d\u0434\u044b, \u0438 \u043d\u0430 \u043d\u0435\u0451 \u043d\u0438\u043a\u0442\u043e \u043d\u0435 \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u2014 \u0432\u0441\u0435 \u043c\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0412 \u0430\u0433\u0435\u043d\u0442\u0435 \u0432\u0441\u0451 \u0438\u043d\u0430\u0447\u0435. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0442\u0430\u043c \u2014 \u044d\u0442\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442, \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430, \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u0432\u044b\u0432\u043e\u0434\u044b \u0432\u0441\u0435\u0445 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u0438 \u043e\u043d \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0445\u043e\u0434\u043e\u043c. \u0410 \u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0441\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043d\u043e\u0432\u043e \u043d\u0430 <strong>\u043a\u0430\u0436\u0434\u043e\u043c<\/strong> \u0432\u044b\u0437\u043e\u0432\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, \u0430 \u043d\u0435 \u043e\u0434\u0438\u043d \u0440\u0430\u0437 \u0437\u0430 \u0441\u0435\u0441\u0441\u0438\u044e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 TTFT \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 \u2014 \u044d\u0442\u043e \u043d\u0435 \u00ab\u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043f\u0435\u0440\u0435\u0434 \u043e\u0442\u0432\u0435\u0442\u043e\u043c\u00bb, \u0430 \u0442\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u044b \u0436\u0434\u0451\u0442\u0435 \u043c\u0435\u0436\u0434\u0443 \u043a\u0430\u0436\u0434\u044b\u043c\u0438 \u0434\u0432\u0443\u043c\u044f \u0448\u0430\u0433\u0430\u043c\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u0433\u0435\u043d\u0442\u0430. \u0414\u0435\u0441\u044f\u0442\u044c \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043f\u043e\u0434\u0440\u044f\u0434 \u2014 \u0434\u0435\u0441\u044f\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u043e\u0432 \u043d\u0430 \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435.<\/p>\n<p>\u0418 \u0432\u043e\u0442 \u043d\u0430 \u044d\u0442\u0438\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 \u0432\u044b\u043b\u0435\u0437\u0430\u0435\u0442 \u0446\u0438\u0444\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043e\u0434\u043d\u043e\u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432\u044b\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u043d\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/cb\/4d\/08\/cb4d0833d6b3e3c190457763898b883e.png\" alt=\"\u0421\u0440\u0430\u0432\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/cb\/4d\/08\/cb4d0833d6b3e3c190457763898b883e.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/cb\/4d\/08\/cb4d0833d6b3e3c190457763898b883e.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0421\u0440\u0430\u0432\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445<\/figcaption><\/div>\n<\/figure>\n<blockquote>\n<p><strong>\u0425\u0443\u0434\u0448\u0438\u0439 TTFT \u0437\u0430 \u0441\u0435\u0441\u0441\u0438\u044e: 44 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0443 FreeToken \u043f\u0440\u043e\u0442\u0438\u0432 232 \u0443 llama.cpp \u0438 946 \u0443 KTransformers.<\/strong><\/p>\n<\/blockquote>\n<p>\u0417\u0434\u0435\u0441\u044c \u043d\u0430\u0434\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c\u0441\u044f. \u0423 OpenClaw \u0432 \u0441\u0442\u043e\u043a\u0435 \u0441\u0442\u043e\u0438\u0442 idle-watchdog \u043d\u0430 120 \u0441\u0435\u043a\u0443\u043d\u0434. \u0423 Claude Code \u0434\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0439 \u0442\u0430\u0439\u043c\u0430\u0443\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u2014 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u0435\u0441\u044f\u0442\u044c \u043c\u0438\u043d\u0443\u0442. \u0422\u043e \u0435\u0441\u0442\u044c 946 \u0441\u0435\u043a\u0443\u043d\u0434 \u2014 \u044d\u0442\u043e \u043d\u0435 \u00ab\u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u00bb. \u042d\u0442\u043e \u00ab\u0430\u0433\u0435\u043d\u0442 \u0443\u043f\u0430\u043b\u00bb. \u0421\u0440\u0435\u0434\u043d\u0438\u0439 tok\/s \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0432\u043f\u043e\u043b\u043d\u0435 \u043f\u0440\u0438\u0441\u0442\u043e\u0439\u043d\u043e, \u0438 \u0432\u044b \u0431\u0443\u0434\u0435\u0442\u0435 \u0441\u0438\u0434\u0435\u0442\u044c \u0438 \u0434\u0443\u043c\u0430\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0443 \u0432\u0430\u0441 \u0432\u0441\u0451 \u043e\u0442\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u0425\u0432\u043e\u0441\u0442 TTFT \u0437\u0434\u0435\u0441\u044c \u2014 \u043d\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u0438, \u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0440\u0430\u0431\u043e\u0442\u043e\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438. \u042d\u0442\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u0432\u0441\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<h3>\u041f\u043e\u0447\u0435\u043c\u0443 MoE \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u0430\u0451\u0442 \u0448\u0430\u043d\u0441 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u0436\u0435\u043b\u0435\u0437\u0443<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/93\/bd\/7b\/93bd7b110c60a435cdfb108a8151d90e.jpg\" alt=\"\u0410\u0432\u0442\u043e\u0440 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0441\u0442\u0430\u0442\u044c\u0438\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/93\/bd\/7b\/93bd7b110c60a435cdfb108a8151d90e.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/93\/bd\/7b\/93bd7b110c60a435cdfb108a8151d90e.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0410\u0432\u0442\u043e\u0440 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0441\u0442\u0430\u0442\u044c\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0432\u044b \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0441\u043b\u044b\u0448\u0438\u0442\u0435 \u0430\u0431\u0431\u0440\u0435\u0432\u0438\u0430\u0442\u0443\u0440\u0443 \u2014 \u0441\u043e\u0432\u0441\u0435\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u043e. \u0412 \u043e\u0431\u044b\u0447\u043d\u043e\u0439, <strong>\u043f\u043b\u043e\u0442\u043d\u043e\u0439<\/strong> (dense) \u043c\u043e\u0434\u0435\u043b\u0438 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 \u0432 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430: \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0434\u0430\u0442\u044c \u043e\u0434\u0438\u043d \u0442\u043e\u043a\u0435\u043d, \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 30B \u0447\u0435\u0441\u0442\u043d\u043e \u0432\u044b\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0438\u0437 \u043f\u0430\u043c\u044f\u0442\u0438 \u0432\u0441\u0435 \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u044c \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u0432\u0435\u0441\u043e\u0432. \u0412 <strong>Mixture of Experts<\/strong> feed-forward \u0441\u043b\u043e\u0438 \u0440\u0430\u0437\u0431\u0438\u0442\u044b \u043d\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u00ab\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432\u00bb, \u0438 \u0440\u043e\u0443\u0442\u0435\u0440 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e. \u0423 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0438\u0434\u0430 30B-A3B \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u044c \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432\u0441\u0435\u0433\u043e, \u043d\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u2014 \u0442\u0440\u0438.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: <strong>\u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0441 \u043e\u0431\u0449\u0438\u043c \u0447\u0438\u0441\u043b\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u2014 \u0441 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u043c.<\/strong> \u0414\u0435\u0440\u0436\u0430\u0442\u044c \u043d\u0430\u0433\u043e\u0442\u043e\u0432\u0435 \u043d\u0430\u0434\u043e \u0432\u0441\u0435\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435. \u0410 \u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0431\u0430\u0437\u044b \u043f\u043e\u043f\u043b\u043e\u0442\u043d\u0435\u0435 \u2014 \u043f\u0440\u043e dense \u043f\u0440\u043e\u0442\u0438\u0432 MoE, \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438, GGUF \u0438 \u043f\u0440\u043e \u0442\u043e, \u043f\u043e\u0447\u0435\u043c\u0443 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0432\u043e\u043e\u0431\u0449\u0435 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438, \u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043f\u0438\u0441\u0430\u043b \u0432 <a href=\"https:\/\/habr.com\/ru\/articles\/1069422\/\" rel=\"noopener noreferrer nofollow\">\u00ab\u0412\u0441\u0451, \u0447\u0442\u043e \u0432\u044b \u0445\u043e\u0442\u0435\u043b\u0438 \u0437\u043d\u0430\u0442\u044c \u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u0418\u0418, \u043d\u043e \u0441\u0442\u0435\u0441\u043d\u044f\u043b\u0438\u0441\u044c \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c\u00bb<\/a>. \u0420\u0430\u0437\u043d\u0438\u0446\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0442\u0430\u043c \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 \u0431\u0443\u0434\u0443 \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e \u0431\u0430\u0437\u0430 \u0435\u0441\u0442\u044c.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0438\u043b\u043e\u0436\u0438\u043c \u044d\u0442\u043e \u043a \u0444\u0440\u043e\u043d\u0442\u0438\u0440-\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0443. DeepSeek-V4-Flash: 6 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0438\u0437 256 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0438\u0437 43 \u0441\u043b\u043e\u0451\u0432. \u0422\u043e \u0435\u0441\u0442\u044c \u0432 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 13B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438\u0437 284B, \u0438 \u0432 \u0434\u0435\u043f\u043b\u043e\u0439\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044d\u0442\u043e\u0442 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043b\u0435\u0434 \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u043e \u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0432 32 \u0413\u0411 RTX 5090.<\/p>\n<p><strong>\u041d\u043e.<\/strong> \u0420\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0440\u0435\u0436\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u043d\u0430 \u0442\u043e\u043a\u0435\u043d, \u0430 \u043d\u0435 \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043e\u0434 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432. \u041c\u043e\u0434\u0435\u043b\u044c \u0446\u0435\u043b\u0438\u043a\u043e\u043c \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0432 VRAM \u0441 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0437\u0430\u043f\u0430\u0441\u043e\u043c, \u043d\u0435\u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b \u0436\u0438\u0432\u0443\u0442 \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u0445\u043e\u0441\u0442\u0430 \u0438 \u0437\u0430\u0445\u043e\u0434\u044f\u0442 \u0432 \u043f\u0443\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0430, \u0432\u043e\u043a\u0440\u0443\u0433 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0432\u0441\u044f \u0440\u0430\u0431\u043e\u0442\u0430: \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u044f \u0434\u0435\u043b\u0430\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 <em>\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c<\/em>, \u0430 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0434\u0435\u043b\u0430\u0435\u0442 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0442\u0434\u0430\u0447\u0443 <em>\u0441\u043b\u043e\u0436\u043d\u043e\u0439<\/em>. \u0412\u043e\u043f\u0440\u043e\u0441 \u0441\u043c\u0435\u0441\u0442\u0438\u043b\u0441\u044f \u0441 \u00ab\u0432\u043b\u0435\u0437\u0435\u0442 \u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 GPU\u00bb \u043d\u0430 \u00ab\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0443\u043c\u0435\u0435\u0442 \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0448\u0438\u043d\u0443 \u0446\u0435\u043b\u0438\u043a\u043e\u043c\u00bb \u2014 GPU, CPU, \u043f\u0430\u043c\u044f\u0442\u044c \u0445\u043e\u0441\u0442\u0430 \u0438 \u0448\u0438\u043d\u0443 \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438.<\/p>\n<p>\u041c\u0430\u0441\u0448\u0442\u0430\u0431, \u043a \u0441\u043b\u043e\u0432\u0443, \u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0439: \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u044b\u0435 GPU \u0441\u0442\u043e\u044f\u0442 \u0431\u043e\u043b\u0435\u0435 \u0447\u0435\u043c \u0432 \u0441\u043e\u0442\u043d\u0435 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u043c\u0430\u0448\u0438\u043d. \u041f\u043e Steam Hardware Survey \u0437\u0430 \u0438\u044e\u043d\u044c 2026 \u043a\u0430\u0440\u0442\u044b NVIDIA \u2014 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 72% \u043e\u043f\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c, \u0430 \u0441\u0430\u043c\u0430\u044f \u043c\u0430\u0441\u0441\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u043a\u0430\u043a \u0440\u0430\u0437 RTX 4060 Laptop \u0441 \u0434\u043e\u043b\u0435\u0439 3.81%. \u0416\u0435\u043b\u0435\u0437\u043e \u0443 \u043b\u044e\u0434\u0435\u0439 \u0435\u0441\u0442\u044c. \u041d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0441\u043e\u0444\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u043c\u0435\u0435\u0442 \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0438\u0437 \u043d\u0435\u0433\u043e \u0435\u0434\u0438\u043d\u0443\u044e \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0443 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430.<\/p>\n<h3>\u0413\u0434\u0435 \u043b\u043e\u043c\u0430\u044e\u0442\u0441\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0434\u0432\u0438\u0436\u043a\u0438<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/13\/bd\/4b\/13bd4b8a6df5dddf1dcb8c899eee824c.jpg\" alt=\"\u041d\u0443 \u0432\u044b \u043f\u043e\u043d\u044f\u043b\u0438\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/13\/bd\/4b\/13bd4b8a6df5dddf1dcb8c899eee824c.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/13\/bd\/4b\/13bd4b8a6df5dddf1dcb8c899eee824c.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041d\u0443 \u0432\u044b \u043f\u043e\u043d\u044f\u043b\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b FreeToken \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 \u043d\u0430 \u0442\u0440\u0438 \u0447\u0430\u0441\u0442\u0438, \u0442\u0430\u043a \u0447\u0442\u043e \u0440\u0430\u0437\u0431\u043e\u0440 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e \u043f\u043e\u0443\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u0430\u043c \u043f\u043e \u0441\u0435\u0431\u0435 \u2014 \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0432\u044b \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0435 FreeToken.<\/p>\n<h4>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 1: \u043d\u0430 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0435 \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u0447\u0435\u0437\u0430\u0435\u0442<\/h4>\n<p>\u042d\u0442\u043e \u0442\u043e\u0442 \u043c\u043e\u043c\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043b\u0438\u0447\u043d\u043e \u044f \u043e\u0441\u043e\u0437\u043d\u0430\u043b \u043d\u0435 \u0441\u0440\u0430\u0437\u0443.<\/p>\n<p>\u041f\u0440\u0438 \u0434\u0435\u043a\u043e\u0434\u0435 \u0442\u043e\u043a\u0435\u043d \u0438\u0434\u0451\u0442 \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u2014 \u043a\u0440\u0430\u0441\u0438\u0432\u043e, \u044d\u043a\u043e\u043d\u043e\u043c\u043d\u043e. \u041f\u0440\u0438 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0442\u044b\u0441\u044f\u0447\u0438, \u0438 <strong>\u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435<\/strong> \u0438\u0445 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u043e\u0432 \u043f\u043e\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u0435\u0441\u044c \u043d\u0430\u0431\u043e\u0440 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435. \u0420\u0430\u0431\u043e\u0447\u0435\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043b\u043e\u0442\u043d\u044b\u043c. \u0412\u0441\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u0438\u0441\u043f\u0430\u0440\u044f\u0435\u0442\u0441\u044f.<\/p>\n<p>\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u0432 \u0431\u0430\u0439\u0442\u0430\u0445: FP4-\u0434\u0435\u043f\u043b\u043e\u0439 DeepSeek-V4-Flash \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u043c\u0435\u0436\u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u043e\u043a\u043e\u043b\u043e 140 \u0413\u0411 \u0432\u0435\u0441\u043e\u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432. \u0421\u0447\u0438\u0442\u0430\u0435\u043c:<\/p>\n<ul>\n<li>\n<p>RTX 5090, PCIe 5.0 x16, ~60 \u0413\u0411\/\u0441 \u2192 \u043e\u043a\u043e\u043b\u043e <strong>2 \u0441\u0435\u043a\u0443\u043d\u0434<\/strong><\/p>\n<\/li>\n<li>\n<p>RTX 4090 \/ 3090, PCIe 4.0 x16, ~25 \u0413\u0411\/\u0441 \u2192 \u043e\u043a\u043e\u043b\u043e <strong>5 \u0441\u0435\u043a\u0443\u043d\u0434<\/strong><\/p>\n<\/li>\n<li>\n<p>\u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u044b\u0435 x8-\u043b\u0438\u043d\u043a\u0438 \u2192 <strong>\u0434\u0435\u0441\u044f\u0442\u044c \u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u0435\u043a\u0443\u043d\u0434<\/strong><\/p>\n<\/li>\n<\/ul>\n<p>\u0418 \u0434\u0432\u0438\u0436\u043e\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u044f\u043d\u0435\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e, \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u0441\u0451 \u044d\u0442\u043e \u043e\u043a\u043d\u043e \u043d\u0430\u0440\u0443\u0436\u0443 \u043a\u0430\u043a \u0447\u0438\u0441\u0442\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 GPU. \u041d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u0435\u0444\u0438\u043b\u043b. \u0412 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u2014 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0445\u043e\u0434 \u0434\u0438\u0430\u043b\u043e\u0433\u0430.<\/p>\n<h4>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 2: \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u044b \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0438\u043d\u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/h4>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u0431\u043e\u043b\u0438 \u2014 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438 \u043e\u043d \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u0435\u043d \u0438\u043c\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0430\u0433\u0435\u043d\u0442\u043e\u0432.<\/p>\n<p>\u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u0445\u043e\u0434\u044f\u0442 \u0432 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435: \u0447\u0435\u0440\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441\u043e \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u043c \u043e\u043a\u043d\u043e\u043c (DeepSeek-V4-Flash, GPT-OSS) \u0438\u043b\u0438 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u0441\u043b\u043e\u0438 (gated DeltaNet \u0432 Qwen3.6-35B-A3B, Kimi Delta Attention \u0432 Kimi-K3). \u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u0432\u0435\u0441\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u0432 \u043e\u0434\u043d\u043e \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0449\u0435\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0435\u043b\u044c\u0437\u044f \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043b\u0438\u043a\u043e\u043c \u0441 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u0430. \u0410 \u043a\u0430\u0436\u0434\u044b\u0439 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u0432\u0435\u0441\u0438\u0442 \u043a\u0430\u043a KV-\u043a\u044d\u0448 \u0441\u043e\u0442\u0435\u043d \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0445 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0435\u0434\u0438\u043d\u0438\u0446\u044b.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u044e\u0442 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438 \u0441 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c:<\/p>\n<ul>\n<li>\n<p><strong>OpenClaw<\/strong> \u0432\u044b\u0440\u0435\u0437\u0430\u0435\u0442 thinking-\u0431\u043b\u043e\u043a\u0438 \u0438\u0437 \u0432\u0441\u0435\u0445 \u0445\u043e\u0434\u043e\u0432 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430, \u043a\u0440\u043e\u043c\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e<\/p>\n<\/li>\n<li>\n<p><strong>OpenCode<\/strong> \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 tool-\u0432\u044b\u0445\u043e\u0434\u044b \u0441\u0442\u0430\u0440\u0448\u0435 \u0437\u0430\u0449\u0438\u0449\u0451\u043d\u043d\u043e\u0433\u043e \u043e\u043a\u043d\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0437\u0430\u0433\u043b\u0443\u0448\u043a\u043e\u0439<\/p>\n<\/li>\n<li>\n<p><strong>SWE-agent<\/strong> \u0432\u044b\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442 \u0432\u0441\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f, \u043a\u0440\u043e\u043c\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445 n<\/p>\n<\/li>\n<\/ul>\n<p>\u041b\u044e\u0431\u043e\u0439 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043f\u0440\u0430\u0432\u043a\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043d\u0435\u0432\u0430\u043b\u0438\u0434\u043d\u044b\u043c. \u0414\u0432\u0438\u0436\u043e\u043a \u043e\u0442\u043a\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u043c\u0443 \u0436\u0438\u0432\u043e\u043c\u0443 \u2014 \u0438 \u043f\u0435\u0440\u0435\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0417\u0430\u043d\u043e\u0432\u043e.<\/p>\n<p>\u0421\u043f\u0440\u044f\u0442\u0430\u0442\u044c \u044d\u0442\u043e \u043d\u0435\u043a\u0443\u0434\u0430: RTX 5090 \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u044f\u0442\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u043b\u043e\u0442\u043d\u043e\u0439 BF16-\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 H100 \u0438 \u0434\u0435\u0441\u044f\u0442\u0443\u044e \u043e\u0442 B200. \u041a\u0430\u0436\u0434\u044b\u0439 \u043b\u0438\u0448\u043d\u0438\u0439 \u0440\u0435-\u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 GPU \u043d\u0430 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0441\u0435\u043a\u0443\u043d\u0434. \u0412\u043e\u0442 \u0432\u0430\u043c \u0438 946 \u0441\u0435\u043a\u0443\u043d\u0434 \u0432 \u0445\u0432\u043e\u0441\u0442\u0435.<\/p>\n<h4>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 3: \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043c\u0438\u043c\u043e \u0442\u0440\u0430\u0444\u0438\u043a\u0430<\/h4>\n<p>llama.cpp \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u0435\u0442 MoE-\u0442\u0435\u043d\u0437\u043e\u0440\u044b \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u043c \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. KTransformers \u0437\u0430\u043a\u0440\u0435\u043f\u043b\u044f\u0435\u0442 \u00ab\u0433\u043e\u0440\u044f\u0447\u0435\u0435\u00bb \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0432 VRAM, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u0433\u043e\u043d\u0438\u0442 \u043d\u0430 CPU. \u041e\u0431\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0443\u0437\u043d\u0430\u044e\u0442, \u043a\u0443\u0434\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0439\u0434\u0451\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f.<\/p>\n<p>\u0410 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u043c. \u0420\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0435 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0430, \u043b\u043e\u0432\u0438\u0442 \u043c\u0430\u043b\u0443\u044e \u0434\u043e\u043b\u044e \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0442\u0440\u0430\u0444\u0438\u043a\u0430. \u0418\u0445 \u0437\u0430\u043c\u0435\u0440 \u043d\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0442\u0440\u0430\u0441\u0441\u0430\u0445 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u0438, \u043f\u0440\u0438 \u0451\u043c\u043a\u043e\u0441\u0442\u0438 \u043a\u044d\u0448\u0430, \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e\u0439 \u043d\u0430 RTX 5090 (37% \u043f\u0443\u043b\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 Qwen3.6 \u0438 11% \u043f\u0443\u043b\u0430 DSV4-Flash):<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u043e\u043b\u0438\u0442\u0438\u043a\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u0440\u043e\u043c\u0430\u0445\u0438, Qwen3.6<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u0440\u043e\u043c\u0430\u0445\u0438, DSV4-Flash<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">FreeToken, \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 LRU<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>16%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>39%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">KTransformers, \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u043f\u043e \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0443<\/p>\n<\/td>\n<td>\n<p align=\"left\">41%<\/p>\n<\/td>\n<td>\n<p align=\"left\">59%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">llama.cpp, \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043f\u043b\u0438\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">62%<\/p>\n<\/td>\n<td>\n<p align=\"left\">89%<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u043b\u043e\u0436\u0438\u0442\u044c \u0432\u0441\u0451 \u043d\u0430 CPU \u043d\u0435\u043b\u044c\u0437\u044f \u0447\u0438\u0441\u0442\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438. \u041f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 \u0434\u0430\u0451\u0442 \u0434\u0432\u0430 \u043a\u0430\u043d\u0430\u043b\u0430 DRAM: \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 50 \u0413\u0411\/\u0441 \u043d\u0430 \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u043c DDR4 \u0438 80\u201390 \u043d\u0430 DDR5. \u041f\u0440\u043e\u0442\u0438\u0432 1\u20131.8 \u0422\u0411\/\u0441, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 RTX 4090 \u0438\u043b\u0438 5090 \u0442\u044f\u043d\u0435\u0442 \u0438\u0437 \u0441\u0432\u043e\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438. \u0421\u043a\u043e\u043b\u044c\u043a\u043e \u044f\u0434\u0435\u0440 \u043d\u0438 \u0434\u0430\u0439, CPU-only \u043f\u0443\u0442\u044c \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<h4>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 4: \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043e \u044d\u043a\u0441\u043a\u043b\u044e\u0437\u0438\u0432\u043d\u043e<\/h4>\n<p>\u0421\u044e\u0436\u0435\u0442, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432 \u0434\u0430\u0442\u0430\u0446\u0435\u043d\u0442\u0440\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u0442. VRAM \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u0441 \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u043e\u043c \u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0430, \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u043e\u043c, \u0438\u0433\u0440\u0430\u043c\u0438, \u0434\u0438\u0441\u043a\u043e\u0440\u0434\u043e\u043c. \u0411\u044e\u0434\u0436\u0435\u0442 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043c\u0438 \u0438 \u043f\u0440\u044f\u043c\u043e \u043f\u043e\u0441\u0440\u0435\u0434\u0438 \u0441\u0435\u0441\u0441\u0438\u0438.<\/p>\n<p>\u0418 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043f\u043b\u0438\u0442 \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u0442\u043e\u0436\u0435 \u043f\u043b\u044b\u0432\u0451\u0442: \u0430\u0433\u0435\u043d\u0442\u043d\u0430\u044f \u0441\u0435\u0441\u0441\u0438\u044f \u043d\u0430\u043a\u0430\u043f\u043b\u0438\u0432\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0441\u043f\u0440\u043e\u0441 \u043d\u0430 KV-\u043a\u044d\u0448 \u0440\u0430\u0441\u0442\u0451\u0442, \u0430 \u0440\u0430\u0431\u043e\u0447\u0435\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0435\u043c \u0436\u0435. \u0421\u043f\u043b\u0438\u0442, \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u043d\u0430 \u043f\u0435\u0440\u0432\u043e\u043c \u0445\u043e\u0434\u0443, \u043a \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u043e\u043c\u0443 \u0443\u0436\u0435 \u043d\u0435\u0432\u0435\u0440\u0435\u043d.<\/p>\n<p>\u041f\u043b\u044e\u0441 \u0441\u0442\u0430\u0440\u0442. \u041f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c 140 \u0413\u0411 \u043f\u0443\u043b\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0441 NVMe \u043d\u0430 7 \u0413\u0411\/\u0441 \u2014 \u043e\u043a\u043e\u043b\u043e 20 \u0441\u0435\u043a\u0443\u043d\u0434, \u0438 \u044d\u0442\u043e \u0434\u043e \u0432\u0441\u044f\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430. \u0410 \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u0434\u0432\u0438\u0436\u043e\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442 \u0438 \u0433\u0430\u0441\u044f\u0442 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e: \u043f\u043e\u0440\u0430\u0431\u043e\u0442\u0430\u043b, \u0437\u0430\u043a\u0440\u044b\u043b, \u043e\u0441\u0432\u043e\u0431\u043e\u0434\u0438\u043b \u0436\u0435\u043b\u0435\u0437\u043e \u043f\u043e\u0434 \u0438\u0433\u0440\u0443.<\/p>\n<p>\u041f\u0440\u043e\u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0438\u0440\u0443\u044e \u043d\u0430 \u0441\u0435\u0431\u0435. \u0423 \u043c\u0435\u043d\u044f RTX 5080 \u043d\u0430 16 \u0413\u0411 \u2014 \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u0442\u0430\u043a \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0430 \u043a\u043e\u0440\u043e\u0431\u043a\u0435.<\/p>\n<p>\u041e\u0442\u043a\u0440\u044b\u0432\u0430\u044e <code>nvidia-smi<\/code> \u043d\u0430 \u0441\u0432\u0435\u0436\u0435\u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0439 Windows. \u041d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0437\u0430\u043f\u0443\u0449\u0435\u043d\u043e, \u0442\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0441\u0442\u043e\u043b. <strong>1.2 \u0413\u0411 \u0443\u0436\u0435 \u0437\u0430\u043d\u044f\u0442\u043e.<\/strong> \u042d\u0442\u043e \u043c\u043e\u043d\u0438\u0442\u043e\u0440, \u0432\u043e\u0442\u043a\u043d\u0443\u0442\u044b\u0439 \u0432 \u043a\u0430\u0440\u0442\u0443 \u043f\u043e DisplayPort: \u0444\u0440\u0435\u0439\u043c\u0431\u0443\u0444\u0435\u0440, \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0442\u043e\u0440 \u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0430, DWM. \u041f\u043b\u0430\u0442\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430 \u0442\u043e, \u0447\u0442\u043e \u043d\u0430 \u044d\u043a\u0440\u0430\u043d\u0435 \u0447\u0442\u043e-\u0442\u043e \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442\u0441\u044f. \u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0431\u0440\u0430\u0443\u0437\u0435\u0440 \u0441 \u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u043c \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0435\u043c, \u0438 \u0446\u0438\u0444\u0440\u0430 \u0443\u043f\u043e\u043b\u0437\u0430\u0435\u0442 \u0435\u0449\u0451 \u0432\u044b\u0448\u0435.<\/p>\n<p>\u0420\u0430\u0434\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0430 \u044f \u043f\u0435\u0440\u0435\u0442\u043a\u043d\u0443\u043b \u043c\u043e\u043d\u0438\u0442\u043e\u0440 \u0432 \u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0433\u0440\u0430\u0444\u0438\u043a\u0443, \u043e\u0441\u0442\u0430\u0432\u0438\u0432 5080 \u0447\u0438\u0441\u0442\u043e \u043f\u043e\u0434 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u0422\u0435 \u0441\u0430\u043c\u044b\u0435 1.2 \u0413\u0411 \u0432\u0435\u0440\u043d\u0443\u043b\u0438\u0441\u044c. \u041d\u0430 \u0448\u0435\u0441\u0442\u043d\u0430\u0434\u0446\u0430\u0442\u0438\u0433\u0438\u0433\u043e\u0432\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u044d\u0442\u043e 7.5% \u0432\u0441\u0435\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u2014 \u043d\u0435 \u0440\u0435\u0432\u043e\u043b\u044e\u0446\u0438\u044f, \u043d\u043e \u0440\u043e\u0432\u043d\u043e \u043d\u0430 \u0442\u043e\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u0435, \u0433\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043b\u0438\u0431\u043e \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u043b\u0438\u0431\u043e \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u044d\u0442\u0438 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u044b \u0440\u0435\u0448\u0430\u044e\u0442 \u0432\u0441\u0451.<\/p>\n<p>\u0418 \u0432\u043e\u0442 \u0437\u0434\u0435\u0441\u044c \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u0431\u043e\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0435 \u043f\u0440\u043e \u0441\u0430\u043c\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u044b, \u0430 \u043f\u0440\u043e \u0438\u0445 \u043d\u0435\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u0441\u0442\u0432\u043e. \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u044f llama.cpp \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c <code>-ngl<\/code>, \u044f \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u0430\u0433\u0430\u0434\u044b\u0432\u0430\u044e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0431\u0443\u0434\u0435\u0442 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e \u0432 \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0438\u0435 \u043f\u0430\u0440\u0443 \u0447\u0430\u0441\u043e\u0432. \u0417\u0430\u0433\u0430\u0434\u0430\u043b \u0449\u0435\u0434\u0440\u043e \u2014 \u0434\u0432\u0438\u0436\u043e\u043a \u043e\u0442\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e OOM \u0433\u0434\u0435-\u0442\u043e \u043d\u0430 \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0435 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0439 \u0441\u0435\u0441\u0441\u0438\u0438, \u043f\u0440\u0438\u0447\u0451\u043c \u043e\u0431\u044b\u0447\u043d\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e\u0433\u0434\u0430, \u043a\u043e\u0433\u0434\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e\u0440\u043e\u0441 \u0438 KV-\u043a\u044d\u0448 \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u043b \u0434\u043e\u0431\u0430\u0432\u043a\u0438. \u0417\u0430\u0433\u0430\u0434\u0430\u043b \u0441\u043a\u0440\u043e\u043c\u043d\u043e \u2014 \u0441\u0438\u0436\u0443 \u0441 \u043d\u0435\u0434\u043e\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u043e\u0439 \u0438 \u0434\u043e\u0431\u0440\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043e\u0442\u0434\u0430\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u0435\u0441\u0441\u0438\u0438.<\/p>\n<p>\u0420\u043e\u0432\u043d\u043e \u044d\u0442\u0443 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 FreeToken \u0440\u0435\u0448\u0430\u0435\u0442 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e \u2014 \u043a \u044d\u0442\u043e\u043c\u0443 \u0432\u0435\u0440\u043d\u0451\u043c\u0441\u044f \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e \u044d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u0443\u044e \u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<h3>\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 FreeToken<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/d4\/d1\/ff\/d4d1ffe0001bb367b599a2efd0a400bb.png\" alt=\"\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 FreeToken\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/d4\/d1\/ff\/d4d1ffe0001bb367b599a2efd0a400bb.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/d4\/d1\/ff\/d4d1ffe0001bb367b599a2efd0a400bb.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 FreeToken<\/figcaption><\/div>\n<\/figure>\n<p>\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044f \u2014 \u0434\u0432\u0443\u0445\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u0430\u044f \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u044f \u043f\u0430\u043c\u044f\u0442\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432.<\/p>\n<p>\u041f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043b\u0435\u0436\u0438\u0442 \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u0445\u043e\u0441\u0442\u0430 \u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f <strong>\u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u043c \u0438\u0441\u0442\u0438\u043d\u044b<\/strong>. \u041d\u0435-\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u043d\u0430 GPU. \u0412\u0441\u044f \u043e\u0441\u0442\u0430\u0432\u0448\u0430\u044f\u0441\u044f \u043f\u0430\u043c\u044f\u0442\u044c GPU \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u043e\u0434\u0438\u043d \u044d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u043a\u044d\u0448 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043e\u0431\u0449\u0438\u0439 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 MoE-\u0441\u043b\u043e\u0451\u0432: \u0441\u043b\u043e\u0442 \u0434\u0435\u0440\u0436\u0438\u0442 \u0432\u0441\u0451 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0435 \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u043f\u0430\u0440\u044b (\u0441\u043b\u043e\u0439, \u044d\u043a\u0441\u043f\u0435\u0440\u0442), \u0438 \u0440\u0435\u0437\u0438\u0434\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c, \u043f\u043e\u0438\u0441\u043a \u0438 \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0441 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u0430\u043c\u0438, \u0430 \u043d\u0435 \u0441\u043e \u0448\u0430\u0440\u0434\u0430\u043c\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432.<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e\u0435 \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435: \u0440\u0430\u0437 \u043f\u0443\u043b \u043d\u0430 \u0445\u043e\u0441\u0442\u0435 \u2014 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u0438\u0441\u0442\u0438\u043d\u044b, \u043f\u0430\u043c\u044f\u0442\u044c GPU \u0432\u043b\u0438\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0430 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0441\u0442\u044c. \u0418\u0437 \u044d\u0442\u043e\u0433\u043e \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430 \u0440\u0430\u0441\u0442\u0451\u0442 \u0432\u0441\u044f \u044d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0441\u0442\u044c, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0438\u0436\u0435.<\/p>\n<h4>\u041f\u0440\u0435\u0444\u0438\u043b\u043b: \u043f\u043e\u043b\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0434\u0432\u043e\u0439\u043d\u0430\u044f \u0431\u0443\u0444\u0435\u0440\u0438\u0437\u0430\u0446\u0438\u044f<\/h4>\n<p>\u0420\u0430\u0437 \u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0430\u043a\u0442\u0438\u0432\u0438\u0440\u0443\u0435\u0442 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0441\u043b\u043e\u044f (\u0441\u043c. \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 1), \u0442\u044f\u043d\u0443\u0442\u044c \u0438\u0445 \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e. \u0411\u0435\u0440\u0443\u0442\u0441\u044f \u0434\u0432\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0445 \u0431\u0443\u0444\u0435\u0440\u0430 \u0438\u0437 \u043e\u0431\u0449\u0435\u0433\u043e \u043f\u0443\u043b\u0430 \u0441\u043b\u043e\u0442\u043e\u0432: \u043f\u043e\u043a\u0430 GPU \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0441\u043b\u043e\u0439 <em>l<\/em> \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0431\u0443\u0444\u0435\u0440\u0430, \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u0437\u0430\u043b\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0441\u043b\u043e\u044f <em>l+1<\/em> \u0432 \u0434\u0440\u0443\u0433\u043e\u0439. \u041f\u043e\u0442\u043e\u043c \u0431\u0443\u0444\u0435\u0440\u044b \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0440\u043e\u043b\u044f\u043c\u0438.<\/p>\n<p>\u041a\u043b\u044e\u0447\u0435\u0432\u043e\u0439 \u0442\u0440\u044e\u043a \u2014 \u0433\u0440\u0443\u0437\u0438\u0442\u0441\u044f <strong>\u0432\u0435\u0441\u044c<\/strong> \u0441\u043b\u043e\u0439 \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0443 \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0447\u0430\u0442\u044c \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u044d\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430. \u0414\u0432\u0438\u0436\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u0438\u0434\u0451\u0442 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e \u0432 \u0444\u043e\u043d\u0435, \u0430 \u043d\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u0435\u0436\u0434\u0443 \u0441\u043b\u043e\u044f\u043c\u0438.<\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442: \u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f transfer-bound, \u0442\u043e \u0435\u0441\u0442\u044c \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u0448\u0438\u043d\u0443, \u0430 \u043d\u0435 \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u0427\u0430\u043d\u043a \u043d\u0430 8192 \u0442\u043e\u043a\u0435\u043d\u0430 \u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0432 1.19\u20131.22 \u0441 \u2014 \u0440\u043e\u0432\u043d\u043e \u0432\u0440\u0435\u043c\u044f \u043e\u0434\u043d\u043e\u043a\u0440\u0430\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u043a\u0430\u0447\u043a\u0438 64.4 \u0413\u0411 \u043f\u0443\u043b\u0430 \u043d\u0430 52.7 \u0413\u0411\/\u0441, \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043e\u0442\u043e\u043b\u043e\u043a PCIe 5.0 x16. \u041f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0440\u0430\u0441\u0442\u0451\u0442 \u0434\u043e 6.7k tok\/s \u043d\u0430 16k \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u0432\u0442\u043e\u0440\u043e\u0439 \u0431\u0443\u0444\u0435\u0440, \u0442\u0435\u0440\u044f\u0435\u0442\u0441\u044f 19% \u043d\u0430 4k \u0442\u043e\u043a\u0435\u043d\u043e\u0432, 25% \u043d\u0430 8k \u0438 26% \u043d\u0430 16k. \u0428\u0442\u0440\u0430\u0444 \u0440\u0430\u0441\u0442\u0451\u0442 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0434\u043b\u0438\u043d\u043e\u0439 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u2014 \u043b\u043e\u0433\u0438\u0447\u043d\u043e, \u0447\u0435\u043c \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u043f\u0440\u043e\u043c\u043f\u0442, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0434\u043e\u043b\u044e \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0442 \u0441\u043f\u0440\u044f\u0442\u0430\u043d\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f.<\/p>\n<h4>\u0421\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u044f\u043a\u043e\u0440\u044f<\/h4>\n<p>\u0421\u0430\u043c\u0430\u044f \u0438\u0437\u044f\u0449\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u0432\u043e \u0432\u0441\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u0435, \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0441\u0430\u043c\u0430\u044f \u043f\u0440\u043e\u0441\u0442\u0430\u044f.<\/p>\n<p>\u0427\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u044b \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0441\u0442\u0430\u0432\u044f\u0442\u0441\u044f \u043d\u0435 \u043a\u0430\u0436\u0434\u044b\u0435 N \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430 \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0430\u0445 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u043e\u0432: \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0435 \u0438 \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u0435 thinking-\u0431\u043b\u043e\u043a\u0430, \u0432\u044b\u0437\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, \u0435\u0433\u043e \u0432\u044b\u0432\u043e\u0434, \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0445\u043e\u0434\u0430 \u0434\u0438\u0430\u043b\u043e\u0433\u0430.<\/p>\n<p>\u041b\u043e\u0433\u0438\u043a\u0430 \u043f\u0440\u044f\u043c\u0430\u044f. \u0425\u0430\u0440\u043d\u0435\u0441\u0441\u044b \u043f\u0440\u0430\u0432\u044f\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u043e, \u0430 <strong>\u0446\u0435\u043b\u044b\u043c\u0438 \u0431\u043b\u043e\u043a\u0430\u043c\u0438, \u0440\u0430\u0437\u043c\u0435\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430\u043c\u0438<\/strong>, \u0438 \u0442\u043e\u0447\u043d\u044b\u0439 \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u0434\u043e \u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f. \u0417\u043d\u0430\u0447\u0438\u0442, \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442, \u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u0442\u0430\u043a\u043e\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u0435, \u043f\u0435\u0440\u0435\u0436\u0438\u0432\u0451\u0442 \u0443\u0441\u0435\u0447\u0435\u043d\u0438\u0435 \u0441 \u043d\u0435\u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u043e \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e, \u0447\u0435\u043c \u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0439 \u0432 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u043c \u043c\u0435\u0441\u0442\u0435.<\/p>\n<p>\u041f\u0440\u0438 \u043f\u0440\u0430\u0432\u043a\u0435 \u0441\u043b\u043e\u0438 \u0441 \u043f\u043e\u043b\u043d\u044b\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435\u043c \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 KV-\u043a\u044d\u0448 \u0434\u043e \u0442\u043e\u0447\u043a\u0438 \u043f\u0440\u0430\u0432\u043a\u0438, \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u2014 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441 \u044f\u043a\u043e\u0440\u044f, \u0438 \u043f\u0435\u0440\u0435\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043d\u043e\u0432\u044b\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441. \u0421\u043b\u043e\u0442\u044b \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u043e\u0432 \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u043e LRU, \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 KV-\u043f\u0443\u043b\u0430.<\/p>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u043d\u043e, \u0447\u0442\u043e \u044d\u0442\u043e \u043f\u0440\u043e\u0442\u0435\u043a\u0430\u044e\u0449\u0430\u044f \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u044f \u0432 \u0447\u0438\u0441\u0442\u043e\u043c \u0432\u0438\u0434\u0435. \u0414\u0432\u0438\u0436\u043e\u043a \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0442\u0435\u043f\u0435\u0440\u044c \u0434\u043e\u043b\u0436\u0435\u043d \u0437\u043d\u0430\u0442\u044c \u043f\u0440\u043e \u0444\u043e\u0440\u043c\u0430\u0442 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0430. \u0420\u0430\u043d\u044c\u0448\u0435 \u043e\u043d \u0432\u0438\u0434\u0435\u043b \u043f\u043b\u043e\u0441\u043a\u0438\u0439 \u043f\u043e\u0442\u043e\u043a \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u0437\u043d\u0430\u0442\u044c \u043d\u0435 \u0437\u043d\u0430\u043b, \u0447\u0442\u043e \u0442\u0430\u043c \u0437\u0430 <code>&lt;think&gt;<\/code>. \u0425\u043e\u0440\u043e\u0448\u043e \u044d\u0442\u043e \u0438\u043b\u0438 \u043f\u043b\u043e\u0445\u043e \u2014 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439, \u043d\u043e \u0442\u0435\u043d\u0434\u0435\u043d\u0446\u0438\u044f \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f: \u0441\u043b\u043e\u0438 \u0441\u0442\u0435\u043a\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u0434\u043e\u0433\u043e\u0432\u0430\u0440\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e.<\/p>\n<h4>\u0414\u0435\u043a\u043e\u0434: \u0444\u043e\u0440\u043c\u0443\u043b\u0430 q*<\/h4>\n<p>\u0412\u043e\u0442 \u044d\u0442\u043e \u044f\u0434\u0440\u043e \u0440\u0430\u0431\u043e\u0442\u044b, \u0437\u0434\u0435\u0441\u044c \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u043c\u0435\u0434\u043b\u0438\u0442\u044c\u0441\u044f.<\/p>\n<p>\u041f\u0440\u0438 \u0434\u0435\u043a\u043e\u0434\u0435 \u0440\u043e\u0443\u0442\u0435\u0440 \u0438 \u043f\u0440\u043e\u0441\u043c\u043e\u0442\u0440 \u043a\u044d\u0448\u0430 \u0438\u0434\u0443\u0442 \u043d\u0430 GPU, \u043f\u043e\u043f\u0430\u0432\u0448\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u0441\u0440\u0430\u0437\u0443 \u0436\u0435. \u0412\u043e\u043f\u0440\u043e\u0441 \u2014 \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 <em>m<\/em> \u043f\u0440\u043e\u043c\u0430\u0445\u043d\u0443\u0432\u0448\u0438\u043c\u0438\u0441\u044f. \u041f\u0443\u0442\u0435\u0439 \u0440\u043e\u0432\u043d\u043e \u0434\u0432\u0430:<\/p>\n<ol>\n<li>\n<p>\u041f\u0435\u0440\u0435\u043a\u0438\u043d\u0443\u0442\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u043f\u043e PCIe \u0438 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 GPU (\u0437\u0430\u043e\u0434\u043d\u043e \u043e\u043d \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0432 \u043a\u044d\u0448\u0435 \u043d\u0430 \u0431\u0443\u0434\u0443\u0449\u0435\u0435)<\/p>\n<\/li>\n<li>\n<p>\u041f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 CPU \u043f\u0440\u044f\u043c\u043e \u0442\u0430\u043c, \u0433\u0434\u0435 \u0432\u0435\u0441\u0430 \u0443\u0436\u0435 \u043b\u0435\u0436\u0430\u0442<\/p>\n<\/li>\n<\/ol>\n<p>\u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u044e\u0442 \u0447\u0442\u043e-\u0442\u043e \u043e\u0434\u043d\u043e \u0438 \u043f\u0440\u0438\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0432\u044b\u0431\u043e\u0440\u0430. KTransformers \u0434\u0435\u0440\u0436\u0438\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430 CPU \u0434\u0430\u0436\u0435 \u043a\u043e\u0433\u0434\u0430 PCIe \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u0435\u0442 \u0438 \u043c\u0435\u0441\u0442\u043e \u0432 \u043a\u044d\u0448\u0435 \u0435\u0441\u0442\u044c. llama.cpp \u0434\u0435\u043b\u0438\u0442 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043b\u0438\u043d\u0438\u044f \u0440\u0430\u0431\u043e\u0442 (Mixtral-offloading, MoE-Infinity, ProMoE, ExpertFlow, FineMoE) \u0442\u043e\u0447\u0438\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u2014 \u043d\u043e \u043d\u0435 \u0442\u043e, \u043a\u0430\u043a \u043f\u0440\u043e\u043c\u0430\u0445\u0438 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f. \u0410 \u0442\u0430\u043c \u043f\u043e\u0442\u043e\u043b\u043e\u043a: \u043b\u044e\u0431\u043e\u0439 \u043f\u0440\u043e\u043c\u0430\u0445 \u0432 \u0438\u0442\u043e\u0433\u0435 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0443 \u043f\u043e PCIe, \u0438 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0434\u0435\u043a\u043e\u0434\u0430 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043b\u0438\u043d\u043a, \u043a\u0430\u043a\u0438\u043c \u0431\u044b \u0442\u043e\u0447\u043d\u044b\u043c \u043d\u0438 \u0441\u0442\u0430\u043b \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440. \u0425\u043e\u0441\u0442\u043e\u0432\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u044e\u0442.<\/p>\n<p>\u041d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0435 FreeToken: DMA-\u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0438 \u0438\u0445 \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043d\u0430 CPU \u0447\u0438\u0442\u0430\u044e\u0442 <strong>\u0438\u0437 \u043e\u0434\u043d\u043e\u0439 \u0438 \u0442\u043e\u0439 \u0436\u0435 \u043f\u043e\u0434\u0441\u0438\u0441\u0442\u0435\u043c\u044b \u043f\u0430\u043c\u044f\u0442\u0438 \u0445\u043e\u0441\u0442\u0430<\/strong>. \u0417\u043d\u0430\u0447\u0438\u0442, \u044d\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u0432\u044b\u0431\u043e\u0440 \u00ab\u0438\u043b\u0438-\u0438\u043b\u0438\u00bb. \u042d\u0442\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u043e \u0434\u0435\u043b\u0435\u0436\u0435 \u043f\u043e\u043b\u043e\u0441\u044b.<\/p>\n<p>\u041f\u0443\u0441\u0442\u044c <code>B_P<\/code> \u2014 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u043f\u043e PCIe, <code>B_H<\/code> \u2014 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u0430\u044f \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f CPU-\u044f\u0434\u0440\u0430 MoE. \u041d\u0430\u0441\u044b\u0449\u0435\u043d\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u043f\u043e PCIe \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u0443\u044e \u043f\u043e\u043b\u043e\u0441\u0443:<\/p>\n<pre><code>B_R = max(B_H \u2212 B_P, 0)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0418\u043c\u0435\u043d\u043d\u043e \u043e\u043d\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0430 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e\u043c\u0443 \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044e \u043d\u0430 CPU. \u0411\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u0443\u0435\u043c \u0432\u0440\u0435\u043c\u044f \u0434\u0432\u0443\u0445 \u0432\u0435\u0442\u043e\u043a:<\/p>\n<pre><code>T_fill(q)     \u2248 q\u00b7S \/ B_PT_cpu(m \u2212 q)  \u2248 (m \u2212 q)\u00b7S \/ (B_H \u2212 B_P)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0433\u0434\u0435 S \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u043e\u0434\u043d\u043e\u0433\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u0432 \u0431\u0430\u0439\u0442\u0430\u0445. \u041f\u0440\u0438\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u043c \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c:<\/p>\n<pre><code>q* \u2248 m \u00b7 B_P \/ B_H<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041e\u0434\u043d\u0430 \u0444\u043e\u0440\u043c\u0443\u043b\u0430 \u043f\u043e\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u0432\u0441\u0435 \u0431\u0430\u043b\u0430\u043d\u0441\u044b \u0436\u0435\u043b\u0435\u0437\u0430. \u041a\u043e\u0433\u0434\u0430 <code>B_H<\/code> \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u043a <code>B_P<\/code>, <code>q*<\/code> \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0441\u044f \u043a <code>m<\/code>, \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432\u044b\u0440\u043e\u0436\u0434\u0430\u0435\u0442\u0441\u044f \u0432 \u0447\u0438\u0441\u0442\u0443\u044e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e \u2014 \u0431\u0435\u0437 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u0435\u0442\u043e\u043a \u0438 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043b\u0438\u0442\u0438\u043a.<\/p>\n<p><strong>\u0410 \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u0430\u043c\u043e\u0435 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e\u0435.<\/strong> \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0438\u0445 \u0436\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u0441\u0442\u0435\u043d\u0434\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u044b\u0435 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a\u0430\u044f \u0434\u043e\u043b\u044f \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u0443\u0435\u0437\u0436\u0430\u0435\u0442 \u043f\u043e PCIe \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u0430\u0448\u0438\u043d\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">B_P, \u0413\u0411\/\u0441<\/p>\n<\/th>\n<th>\n<p align=\"left\">B_H, \u0413\u0411\/\u0441<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0414\u043e\u043b\u044f \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u043d\u0430 PCIe<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 4060 Laptop (PCIe 4.0 x8, LPDDR5)<\/p>\n<\/td>\n<td>\n<p align=\"left\">11.8<\/p>\n<\/td>\n<td>\n<p align=\"left\">47.5<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>25%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 4090 (PCIe 4.0 x16, DDR4)<\/p>\n<\/td>\n<td>\n<p align=\"left\">25.1<\/p>\n<\/td>\n<td>\n<p align=\"left\">63.2<\/p>\n<\/td>\n<td>\n<p align=\"left\">40%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 3090 (PCIe 4.0 x16, DDR4)<\/p>\n<\/td>\n<td>\n<p align=\"left\">25.3<\/p>\n<\/td>\n<td>\n<p align=\"left\">56.7<\/p>\n<\/td>\n<td>\n<p align=\"left\">45%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX PRO 6000 (PCIe 5.0 x16, DDR5 512)<\/p>\n<\/td>\n<td>\n<p align=\"left\">51.5<\/p>\n<\/td>\n<td>\n<p align=\"left\">178<\/p>\n<\/td>\n<td>\n<p align=\"left\">29%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 5090 \u0441\u0435\u0440\u0432\u0435\u0440 (PCIe 5.0 x16, DDR5)<\/p>\n<\/td>\n<td>\n<p align=\"left\">52.7<\/p>\n<\/td>\n<td>\n<p align=\"left\">77.3<\/p>\n<\/td>\n<td>\n<p align=\"left\">68%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 5090 \u0434\u0435\u0441\u043a\u0442\u043e\u043f (PCIe 5.0 x16, DDR5 2ch)<\/p>\n<\/td>\n<td>\n<p align=\"left\">49.0<\/p>\n<\/td>\n<td>\n<p align=\"left\">53.8<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>91%<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0420\u0430\u0437\u0431\u0440\u043e\u0441 \u043e\u0442 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u0438 \u0434\u043e \u0434\u0435\u0432\u044f\u0442\u0438 \u0434\u0435\u0441\u044f\u0442\u044b\u0445. \u041d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u043e\u0439 4060 \u0442\u0440\u0438 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u0438 \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043d\u0430 CPU, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0443\u0437\u043a\u0438\u0439 x8-\u043b\u0438\u043d\u043a \u2014 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435. \u041d\u0430 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435 \u0441 5090 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0451 \u0443\u0435\u0437\u0436\u0430\u0435\u0442 \u043f\u043e PCIe, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u0430\u044f DDR5 \u0435\u0434\u0432\u0430 \u043e\u0431\u0433\u043e\u043d\u044f\u0435\u0442 \u0448\u0438\u043d\u0443. \u041d\u0438\u043a\u0430\u043a\u0430\u044f \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0430 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0440\u0430\u0432\u0430 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0432 \u043e\u0431\u043e\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u2014 \u0438 \u0432\u043e\u0442 \u0440\u043e\u0432\u043d\u043e \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0432\u0438\u0436\u043a\u0438 \u0441\u043e \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u0441\u043f\u043b\u0438\u0442\u043e\u043c \u043f\u0440\u043e\u0438\u0433\u0440\u044b\u0432\u0430\u044e\u0442 \u0442\u043e 1.3\u00d7, \u0442\u043e 2.1\u00d7.<\/p>\n<p>\u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0434\u0435\u0442\u0430\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u0442\u043e\u0438\u0442 \u0437\u043d\u0430\u0442\u044c: <code>q*<\/code> \u043e\u043a\u0440\u0443\u0433\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e \u0446\u0435\u043b\u043e\u0433\u043e, \u0432\u044b\u0431\u043e\u0440 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0434\u043b\u044f \u0437\u0430\u043b\u0438\u0432\u043a\u0438 \u043e\u0442\u0434\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0435 \u0432\u044b\u0442\u0435\u0441\u043d\u0435\u043d\u0438\u044f, \u0438 \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u043e\u0434\u043d\u0430 \u0437\u0430\u043b\u0438\u0432\u043a\u0430 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u0441\u0435\u0433\u0434\u0430 \u2014 \u0447\u0442\u043e\u0431\u044b \u043a\u044d\u0448 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u043b \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430\u0442\u044c\u0441\u044f \u0434\u0430\u0436\u0435 \u043a\u043e\u0433\u0434\u0430 CPU \u0442\u0430\u0449\u0438\u0442 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0451. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u044b\u0435 \u0441\u0443\u043c\u043c\u044b GPU \u0438 CPU \u0441\u043b\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0442\u043e\u0447\u043d\u043e, \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438: \u0432\u044b\u0445\u043e\u0434 MoE \u043f\u043e\u0431\u0438\u0442\u043e\u0432\u043e \u0442\u043e\u0442 \u0436\u0435, \u0447\u0442\u043e \u0431\u044b\u043b \u0431\u044b \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u043c \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0438 \u0432 VRAM. \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u0435\u0442\u0441\u044f, \u0440\u043e\u0443\u0442\u0435\u0440 \u043d\u0435 \u043f\u0435\u0440\u0435\u0443\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<h4>\u041a\u0430\u043a \u044d\u0442\u043e \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043e \u0432 CUDA Graph<\/h4>\n<p>\u0420\u0430\u0437\u0434\u0435\u043b \u0434\u043b\u044f \u0442\u0435\u0445, \u043a\u043e\u043c\u0443 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f. \u041e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0433\u0443\u0442 \u043f\u0440\u043e\u043b\u0438\u0441\u0442\u0430\u0442\u044c, \u043d\u043e \u0442\u0430\u043c \u043a\u0440\u0430\u0441\u0438\u0432\u043e, \u043b\u0438\u0431\u043e \u0443 \u043c\u0435\u043d\u044f \u043e\u0447\u0435\u043d\u044c \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0432\u043a\u0443\u0441\u044b, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0435 \u044f \u0431\u044b\u043b \u043d\u0435\u0443\u043a\u043b\u044e\u0436\u0438\u043c \u0438 \u0431\u0438\u043b\u0441\u044f \u0433\u043e\u043b\u043e\u0432\u043e\u0439 \u043e\u0431 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0435 \u0441\u0442\u043e\u0439\u043a\u0438 \u0441 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u043c\u0438 \u0438 \u0441\u0432\u0438\u0442\u0447\u0438.<\/p>\n<p>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043a\u044d\u0448\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u043e \u043f\u0440\u0438\u0440\u043e\u0434\u0435 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0435: \u043a\u0430\u043a\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b \u043f\u0440\u043e\u043c\u0430\u0445\u043d\u0443\u0442\u0441\u044f, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u0445 \u0431\u0443\u0434\u0435\u0442, \u043a\u0430\u043a\u0438\u0435 \u0441\u043b\u043e\u0442\u044b \u0432\u044b\u0442\u0435\u0441\u043d\u0438\u0442\u044c \u2014 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435. \u0425\u043e\u0441\u0442\u043e\u0432\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043a\u044d\u0448\u0435\u043c \u043e\u0437\u043d\u0430\u0447\u0430\u043b\u043e \u0431\u044b \u0434\u043e\u0440\u043e\u0433\u0443\u044e \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0441 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e\u043c \u043d\u0430 <strong>\u043a\u0430\u0436\u0434\u043e\u043c<\/strong> MoE-\u0441\u043b\u043e\u0435. \u0418\u043c\u0435\u043d\u043d\u043e \u043f\u043e\u044d\u0442\u043e\u043c\u0443 llama.cpp \u0432 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435 \u043d\u0435 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 graph execution, \u0430 \u0445\u043e\u0441\u0442\u043e\u0432\u044b\u0435 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043e\u0432 \u0432 \u0433\u0440\u0430\u0444 \u043d\u0435 \u0437\u0430\u0445\u0432\u0430\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>FreeToken \u0434\u0435\u0440\u0436\u0438\u0442 \u0432\u0441\u0451 \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0435\u0435 \u043e\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u0442\u0440\u043e\u0433\u043e \u043d\u0430 GPU \u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0435\u0433\u043e \u043a\u0430\u043a <em>\u0434\u0430\u043d\u043d\u044b\u0435<\/em> \u0432\u043d\u0443\u0442\u0440\u0438 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u0430\u0445\u0432\u0430\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0433\u0440\u0430\u0444\u0430: \u0431\u0443\u0444\u0435\u0440\u044b \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0444\u043e\u0440\u043c\u044b \u043f\u043b\u044e\u0441 \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438 \u0432\u0430\u043b\u0438\u0434\u043d\u043e\u0441\u0442\u0438 \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430.<\/p>\n<p>\u041e\u0434\u043d\u043e \u044f\u0434\u0440\u043e \u043d\u0430 MoE-\u0441\u043b\u043e\u0439 \u0434\u0435\u043b\u0430\u0435\u0442 \u0432\u0441\u0451 \u0441\u0440\u0430\u0437\u0443: \u0434\u0435\u0434\u0443\u043f\u043b\u0438\u0446\u0438\u0440\u0443\u0435\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u0435\u0442 \u0438\u0445 \u043f\u0440\u043e\u0442\u0438\u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0440\u0435\u0437\u0438\u0434\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u0438, \u0432\u044b\u0432\u043e\u0434\u0438\u0442 <code>q<\/code>, \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0436\u0435\u0440\u0442\u0432 \u0434\u043b\u044f \u0432\u044b\u0442\u0435\u0441\u043d\u0435\u043d\u0438\u044f \u0438 \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 ID \u0432 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u043b\u043e\u0442\u044b \u0438\u043b\u0438 \u0441\u043f\u0435\u0446\u0444\u043b\u0430\u0433 \u00ab\u044d\u0442\u043e\u0442 \u043d\u0430 CPU\u00bb.<\/p>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0440\u0435\u0448\u0435\u043d\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043b\u043e\u0432\u0443\u0448\u043a\u0430 LRU. \u041d\u0430\u0438\u0432\u043d\u0430\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0445\u043e\u0434\u0430 \u043f\u043e \u043a\u044d\u0448\u0443 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u0435\u043c\u044b\u0439 \u0441\u043b\u043e\u0442. \u0417\u0434\u0435\u0441\u044c \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434 \u043d\u0430\u0445\u043e\u0434\u0438\u0442 K \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u0441\u0440\u0430\u0437\u0443, \u0430 \u043f\u0443\u0442\u044c \u043f\u0440\u043e\u043c\u0430\u0445\u0430 \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043f\u0435\u0440\u0432\u044b\u0435 <code>q \u2264 K<\/code>. \u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u043e\u0438\u0441\u043a\u0430 \u0436\u0435\u0440\u0442\u0432 \u2014 \u0440\u043e\u0432\u043d\u043e \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434, \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432.<\/p>\n<p>CPU-\u0432\u0435\u0442\u043a\u0430 \u0437\u0430\u0445\u0432\u0430\u0447\u0435\u043d\u0430 \u0432 \u0442\u043e\u0442 \u0436\u0435 \u0433\u0440\u0430\u0444 \u0446\u0435\u043b\u0438\u043a\u043e\u043c: \u043f\u0438\u043d\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u0435 I\/O-\u0431\u0443\u0444\u0435\u0440\u044b, \u043f\u0435\u0440\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u043d\u044b\u0435 \u0434\u0435\u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0440\u044b \u0437\u0430\u0434\u0430\u0447, \u0443\u0437\u0435\u043b submit \u0445\u043e\u0441\u0442\u043e\u0432\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0439 GPU-\u043f\u0443\u0442\u044c, \u0443\u0437\u0435\u043b \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u0438, \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430. \u0420\u0435\u043f\u043b\u0435\u0439 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0432\u0435\u0441\u044c \u0433\u0435\u0442\u0435\u0440\u043e\u0433\u0435\u043d\u043d\u044b\u0439 \u0448\u0430\u0433 \u0431\u0435\u0437 \u043f\u043e\u0448\u0430\u0433\u043e\u0432\u043e\u0433\u043e \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0437 Python. \u0412\u043e\u0440\u043a\u0435\u0440\u044b \u2014 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u044b\u0439 C++ \u043f\u0443\u043b, \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0439 \u043a \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u044f\u0434\u0440\u0430\u043c, \u0441 SIMD \u0438 \u0434\u0435\u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u043f\u0440\u044f\u043c\u043e \u0432 \u044f\u0434\u0440\u0435.<\/p>\n<h4>\u042d\u043b\u0430\u0441\u0442\u0438\u0447\u043d\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0441\u0442\u0430\u0440\u0442<\/h4>\n<p>\u041a\u044d\u0448 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u0435\u0440\u0435\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0434 \u043f\u0435\u0440\u0435\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 VRAM \u0432 \u043b\u044e\u0431\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0435 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a\u0430 \u2014 \u0431\u0435\u0437 \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u0430 \u0434\u0432\u0438\u0436\u043a\u0430 \u0438 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043f\u0443\u043b\u0430 \u0441 \u0445\u043e\u0441\u0442\u0430. \u0421\u0432\u0435\u0440\u043d\u0443\u043b\u0438 \u0438\u0433\u0440\u0443, \u043e\u0441\u0432\u043e\u0431\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0442\u0440\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430 \u2014 \u0434\u0432\u0438\u0436\u043e\u043a \u0438\u0445 \u043f\u043e\u0434\u0431\u0435\u0440\u0451\u0442.<\/p>\n<p>\u041f\u043b\u044e\u0441 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 FTW: \u0432\u0435\u0441\u0430 \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0441\u043b\u043e\u0436\u0435\u043d\u044b \u0432 \u0440\u0430\u043d\u0442\u0430\u0439\u043c-\u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0443 \u0431\u0430\u043d\u043a\u043e\u0432, \u043f\u0440\u0438 \u0441\u0442\u0430\u0440\u0442\u0435 \u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u0432\u044b\u0440\u043e\u0432\u043d\u0435\u043d\u043d\u044b\u043c\u0438 \u043a\u0443\u0441\u043a\u0430\u043c\u0438 \u0447\u0435\u0440\u0435\u0437 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0439 direct I\/O \u0441\u0440\u0430\u0437\u0443 \u0432 \u0445\u043e\u0441\u0442\u043e\u0432\u044b\u0435 \u0431\u0430\u043d\u043a\u0438 \u043d\u0443\u0436\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. \u041f\u0430\u043c\u044f\u0442\u044c \u043f\u0438\u043d\u043d\u0443\u0435\u0442\u0441\u044f <strong>\u043f\u043e\u0441\u043b\u0435<\/strong> \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u2014 \u043f\u0438\u043d\u043d\u0438\u0442\u044c \u043f\u0443\u0441\u0442\u044b\u0435 \u0431\u0443\u0444\u0435\u0440\u044b \u0437\u043d\u0430\u0447\u0438\u0442 \u0437\u0430\u0444\u043e\u043b\u0442\u0438\u0442\u044c \u0438 \u043e\u0431\u043d\u0443\u043b\u0438\u0442\u044c \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u044b \u0441\u0442\u0440\u0430\u043d\u0438\u0446, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0442\u0443\u0442 \u0436\u0435 \u0431\u0443\u0434\u0443\u0442 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0438\u0441\u0430\u043d\u044b.<\/p>\n<p>\u041f\u0440\u043e\u0433\u0440\u0435\u0432 \u043d\u0435 \u043d\u0443\u0436\u0435\u043d \u043f\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e: \u043f\u0435\u0440\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0445\u043e\u043b\u043e\u0434\u043d\u044b\u043c \u043a\u044d\u0448\u0435\u043c \u0447\u0435\u0440\u0435\u0437 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u0434\u0435\u043a\u043e\u0434\u0430, \u0430 \u043a\u044d\u0448 \u043d\u0430\u0433\u0440\u0435\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<h3>\u0426\u0438\u0444\u0440\u044b<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/ea\/cf\/2f\/eacf2f1aba2c9749efafec83a4c72c90.png\" alt=\"\u0414\u0430, \u0432\u0437\u044f\u043b \u0438\u0437 \u0441\u0442\u0430\u0442\u044c\u0438\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/ea\/cf\/2f\/eacf2f1aba2c9749efafec83a4c72c90.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/ea\/cf\/2f\/eacf2f1aba2c9749efafec83a4c72c90.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0414\u0430, \u0432\u0437\u044f\u043b \u0438\u0437 \u0441\u0442\u0430\u0442\u044c\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u0442\u0435\u043d\u0434: \u0448\u0435\u0441\u0442\u044c \u043c\u0430\u0448\u0438\u043d \u043e\u0442 \u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u043e\u0439 RTX 4060 \u0441 8 \u0413\u0411 \u0434\u043e RTX PRO 6000 \u043d\u0430 96 \u0413\u0411. \u041c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<ul>\n<li>\n<p><strong>Qwen3.6-35B-A3B<\/strong> \u2014 BF16 (\u0434\u043b\u044f \u0442\u043e\u0447\u043d\u043e\u0433\u043e \u043f\u0430\u0440\u0438\u0442\u0435\u0442\u0430 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0438\u0436\u043a\u0430\u043c\u0438), \u043d\u0430 8-\u0433\u0438\u0433\u043e\u0432\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 NVFP4-\u0440\u0435\u043b\u0438\u0437<\/p>\n<\/li>\n<li>\n<p><strong>DeepSeek-V4-Flash<\/strong> \u2014 284B \u043f\u0440\u0438 13B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, \u0440\u043e\u0434\u043d\u044b\u0435 MXFP4-\u0431\u043b\u043e\u043a\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432<\/p>\n<\/li>\n<li>\n<p><strong>GLM-5.2<\/strong> \u2014 753B \u043f\u0440\u0438 40B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445, NVFP4, \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u043d\u0430 433 \u0413\u0411<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0441\u0435 \u0434\u0432\u0438\u0436\u043a\u0438 \u0435\u0434\u044f\u0442 \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435 \u0436\u0435 \u0432\u0435\u0441\u0430 \u043f\u043e\u0431\u0438\u0442\u043e\u0432\u043e. \u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u2014 \u0447\u0435\u0442\u044b\u0440\u0435 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445, \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0445 \u0432\u044b\u0448\u0435.<\/p>\n<p><strong>\u0414\u0435\u043a\u043e\u0434 \u043d\u0430 RTX 5090:<\/strong> 77\u201383 tok\/s \u043d\u0430 Qwen3.6 \u0438 22\u201325 tok\/s \u043d\u0430 DSV4-Flash. \u042d\u0442\u043e 1.8\u20132.3\u00d7 \u0438 1.5\u20131.9\u00d7 \u043a \u0441\u0438\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u043c\u0443 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d\u0443 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438.<\/p>\n<p><strong>\u0421\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0434 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439<\/strong> \u2014 \u0442\u043e, \u0440\u0430\u0434\u0438 \u0447\u0435\u0433\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 \u044d\u0442\u043e \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c FreeToken \u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 12% \u043e\u0442 \u043e\u0434\u043d\u043e\u0442\u0443\u0440\u043e\u0432\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0432\u0441\u0435\u0445 \u0442\u0440\u0451\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445. KTransformers \u043d\u0430 DSV4-Flash \u0442\u0435\u0440\u044f\u0435\u0442 31% \u0443\u0436\u0435 \u043d\u0430 \u0432\u0442\u043e\u0440\u043e\u043c. \u0412\u044b\u0432\u043e\u0434 \u0430\u0432\u0442\u043e\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u044f \u0431\u044b \u043f\u043e\u0432\u0435\u0441\u0438\u043b \u043d\u0430 \u0441\u0442\u0435\u043d\u0443: \u043e\u0434\u043d\u043e\u043f\u043e\u0442\u043e\u0447\u043d\u044b\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u0430\u0432\u044b\u0448\u0430\u044e\u0442 \u0430\u0433\u0435\u043d\u0442\u043d\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d\u043e\u0432.<\/p>\n<p><strong>\u041f\u043e \u0436\u0435\u043b\u0435\u0437\u0443<\/strong> (SWE-\u0437\u0430\u0434\u0430\u0447\u0430 \u0447\u0435\u0440\u0435\u0437 OpenCode, Qwen3.6): 1.3\u00d7 \u043d\u0430 3090 \u0438 4090, 1.9\u00d7 \u043d\u0430 5090-\u0441\u0435\u0440\u0432\u0435\u0440\u0435, 2.1\u00d7 \u043d\u0430 5090-\u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435, 1.8\u00d7 \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u043e\u0439 4060 \u2014 \u0433\u0434\u0435 NVFP4-\u0441\u0431\u043e\u0440\u043a\u0430 \u0432\u044b\u0434\u0430\u0451\u0442 \u0442\u0435 \u0441\u0430\u043c\u044b\u0435 39.3 tok\/s \u043d\u0430 8 \u0413\u0411 \u0438 PCIe x8. \u042d\u0442\u043e 92% \u043e\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u043e\u0439 RTX 4090.<\/p>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043a\u0440\u0430\u0441\u0438\u0432\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u043a\u043e\u043b\u043e\u043d\u043e\u043a \u0441 5090: \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u043a\u0440\u0435\u043c\u043d\u0438\u0439, \u0440\u0430\u0437\u043d\u044b\u0439 \u0445\u043e\u0441\u0442. \u041f\u0435\u0440\u0435\u0445\u043e\u0434 \u0441 \u043c\u043d\u043e\u0433\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u043d\u0430 \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u0435\u0441\u043a\u0442\u043e\u043f \u0441\u0442\u043e\u0438\u0442 FreeToken 4% \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0434\u0435\u043a\u043e\u0434\u0430. llama.cpp \u043d\u0430 \u0442\u043e\u043c \u0436\u0435 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e 80% \u2014 \u0435\u0433\u043e CPU-\u0440\u0435\u0437\u0438\u0434\u0435\u043d\u0442\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b \u0433\u043e\u043b\u043e\u0434\u0430\u044e\u0442 \u043d\u0430 \u0434\u0432\u0443\u0445 \u043a\u0430\u043d\u0430\u043b\u0430\u0445 DDR5.<\/p>\n<p><strong>\u0418 \u0444\u0440\u043e\u043d\u0442\u0438\u0440, \u0440\u0430\u0434\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0437\u0430\u0433\u043e\u043b\u043e\u0432\u043e\u043a.<\/strong> GLM-5.2 \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 RTX PRO 6000 \u2014 14.9 tok\/s \u043f\u0440\u043e\u0442\u0438\u0432 7.3 \u0443 llama.cpp, \u043f\u0440\u0438 \u043f\u043e\u0431\u0438\u0442\u043e\u0432\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0432\u0435\u0441\u0430\u0445 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u043e\u043c \u0441\u0440\u0435\u0434\u043d\u0435\u043c TTFT (7.5 \u043f\u0440\u043e\u0442\u0438\u0432 7.8 \u0441). \u0423 KTransformers \u043f\u0443\u0442\u0438 \u0434\u043b\u044f \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u044d\u0442\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u043d\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435: \u0435\u0433\u043e \u043c\u0435\u0442\u043e\u0434\u044b \u0442\u0440\u0435\u0431\u0443\u044e\u0442 753 \u0413\u0411\u20131.5 \u0422\u0411 \u0445\u043e\u0441\u0442\u043e\u0432\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u0440\u043e\u0442\u0438\u0432 512 \u0413\u0438\u0411 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438, \u0430 CPU-\u044f\u0434\u0440\u0430 \u043d\u0435 \u0447\u0438\u0442\u0430\u044e\u0442 NVFP4-\u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0443 GLM-5.2.<\/p>\n<p>\u0414\u0430, PRO 6000 \u2014 \u044d\u0442\u043e \u0434\u043e\u0440\u043e\u0433\u0430\u044f \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u0430\u044f \u043a\u0430\u0440\u0442\u0430. \u041d\u043e \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 \u0441\u0442\u0443\u043f\u0435\u043d\u044c\u043a\u0443 \u043d\u0438\u0436\u0435: 284B DeepSeek-V4-Flash \u0438\u043d\u0442\u0435\u0440\u0430\u043a\u0442\u0438\u0432\u043d\u043e \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0438\u0433\u0440\u043e\u0432\u043e\u043c \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435 \u0441 32 \u0413\u0411. \u042d\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c, \u0447\u0435\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0432 FP4 \u0432\u0435\u0441\u0438\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 140 \u0413\u0411.<\/p>\n<h3>\u041a\u0443\u0434\u0430 \u044d\u0442\u043e \u0432\u0441\u0442\u0430\u0451\u0442 \u0432 \u043e\u0431\u0449\u0435\u0439 \u043a\u0430\u0440\u0442\u0438\u043d\u0435<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/6a\/e8\/62\/6ae862975ce1e674cb809c73b31fb206.jpg\" alt=\"\u0412\u0441\u0442\u0430\u0432\u0438\u043b, \u043a\u0430\u043a \u0440\u0435\u0441\u043f\u0435\u043a\u0442 \u0418\u0432\u0430\u043d\u0443 \u042f\u043c\u0449\u0438\u043a\u043e\u0432\u0443, \u0438\u043d\u0442\u0435\u0440\u0432\u044c\u044e \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u0435\u043d\u044f \u043e\u0447\u0435\u043d\u044c \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u044f\u044e\u0442 \u0440\u0430\u0437 \u0432 \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438.\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/6a\/e8\/62\/6ae862975ce1e674cb809c73b31fb206.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/6a\/e8\/62\/6ae862975ce1e674cb809c73b31fb206.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u0441\u0442\u0430\u0432\u0438\u043b, \u043a\u0430\u043a \u0440\u0435\u0441\u043f\u0435\u043a\u0442 \u0418\u0432\u0430\u043d\u0443 \u042f\u043c\u0449\u0438\u043a\u043e\u0432\u0443, \u0438\u043d\u0442\u0435\u0440\u0432\u044c\u044e \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u0435\u043d\u044f \u043e\u0447\u0435\u043d\u044c \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u044f\u044e\u0442 \u0440\u0430\u0437 \u0432 \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438.<\/figcaption><\/div>\n<\/figure>\n<p>\u041d\u0435\u043c\u043d\u043e\u0433\u043e \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u0435\u043c, \u0447\u0442\u043e \u044d\u0442\u0430 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u043c\u0435\u043d\u044f\u0435\u0442.<\/p>\n<p><strong>\u041b\u0438\u043d\u0438\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0438 \u043a\u044d\u0448\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f.<\/strong> EdgeMoE \u0437\u0430\u0434\u0430\u043b \u0441\u0430\u043c\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 (\u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u043d\u0430 \u0445\u043e\u0441\u0442\u0435, \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0432 \u043a\u044d\u0448\u0435 GPU), Mixtral-offloading \u0434\u043e\u0431\u0430\u0432\u0438\u043b LRU \u0441\u043e \u0441\u043f\u0435\u043a\u0443\u043b\u044f\u0442\u0438\u0432\u043d\u044b\u043c \u043f\u0440\u0435\u0444\u0435\u0442\u0447\u0435\u043c, MoE-Infinity \u0442\u0440\u0430\u0441\u0441\u0438\u0440\u0443\u0435\u0442 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, ProMoE, ExpertFlow \u0438 FineMoE \u0442\u043e\u0447\u0430\u0442 \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u043e\u0440\u044b. \u041f\u043e\u0442\u043e\u043b\u043e\u043a \u043b\u0438\u043d\u0438\u0438 \u043e\u043f\u0438\u0441\u0430\u043d \u0432\u044b\u0448\u0435: \u043b\u044e\u0431\u043e\u0439 \u043f\u0440\u043e\u043c\u0430\u0445 \u2014 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430.<\/p>\n<p><strong>\u041b\u0438\u043d\u0438\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0433\u043e CPU-GPU \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f.<\/strong> Fiddler \u043f\u0435\u0440\u0432\u044b\u043c \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u043b \u043d\u0430 \u043f\u0440\u043e\u043c\u0430\u0445\u043d\u0443\u0432\u0448\u0435\u0433\u043e\u0441\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u043a\u0430\u043a \u043d\u0430 <em>\u0440\u0430\u0431\u043e\u0442\u0443<\/em>, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c \u043d\u0430 CPU, \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u043a \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430\u0434\u043e \u043f\u0435\u0440\u0435\u043c\u0435\u0441\u0442\u0438\u0442\u044c. KTransformers \u0441\u0434\u0435\u043b\u0430\u043b \u044d\u0442\u043e \u0431\u044b\u0441\u0442\u0440\u044b\u043c \u0437\u0430 \u0441\u0447\u0451\u0442 AMX-\u044f\u0434\u0435\u0440. HybriMoE \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u0443\u0435\u0442 \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u0441\u0438\u043c\u0443\u043b\u044f\u0446\u0438\u0435\u0439 \u0440\u0430\u0441\u043f\u0438\u0441\u0430\u043d\u0438\u044f. \u0421\u043b\u0430\u0431\u043e\u0435 \u043c\u0435\u0441\u0442\u043e: \u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043b\u0438\u0431\u043e \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043d\u0430 \u0441\u0442\u0430\u0440\u0442\u0435, \u043b\u0438\u0431\u043e \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0445\u043e\u0441\u0442\u043e\u0432\u044b\u043c\u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0430\u043c\u0438, \u0447\u044c\u044f \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u0432 CUDA Graph \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u044e\u0442.<\/p>\n<p><strong>\u041b\u0438\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u043d\u0430 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043f\u043e\u043b\u043e\u0441\u0443.<\/strong> HOBBIT \u0442\u044f\u043d\u0435\u0442 \u043f\u043e\u043d\u0438\u0436\u0435\u043d\u043d\u0443\u044e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u043c\u0430\u0445\u043d\u0443\u0432\u0448\u0438\u0445\u0441\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, SiDA \u0438 SMoE \u043f\u043e\u0434\u043c\u0435\u043d\u044f\u044e\u0442 \u0438\u043b\u0438 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442 \u043d\u0438\u0437\u043a\u043e\u0440\u0435\u0439\u0442\u0438\u043d\u0433\u043e\u0432\u044b\u0445, Pre-gated MoE \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u0435\u0440\u0435\u0443\u0447\u0438\u0432\u0430\u0435\u0442 \u0440\u043e\u0443\u0442\u0435\u0440. FreeToken \u0441\u044e\u0434\u0430 \u043d\u0435 \u0438\u0434\u0451\u0442 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e.<\/p>\n<p>\u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0430 \u0430\u0432\u0442\u043e\u0440\u043e\u0432: \u043e\u043d\u0438 \u043c\u0435\u043d\u044f\u044e\u0442 \u043d\u0435 \u0442\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u0440\u043e\u043c\u0430\u0445\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f, \u0430 \u0442\u043e, \u043a\u0430\u043a \u043e\u043d\u0438 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f. \u041f\u043b\u044e\u0441 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u043a\u043b\u0430\u0434 \u2014 \u044d\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0440\u0430\u043d\u0442\u0430\u0439\u043c \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u043e\u0442\u0443\u0440\u043e\u0432\u044b\u0445 \u0441\u0435\u0441\u0441\u0438\u0439, \u0430 \u043d\u0435 \u043e\u0434\u043d\u043e\u0437\u0430\u043f\u0440\u043e\u0441\u043d\u044b\u0439 \u0445\u0430\u0440\u043d\u0435\u0441\u0441. \u041d\u0438 \u043e\u0434\u043d\u0430 \u0438\u0437 \u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u043d\u0435 \u0434\u0430\u0451\u0442 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438, \u0430 \u0430\u0433\u0435\u043d\u0442\u043d\u0430\u044f \u0441\u0435\u0441\u0441\u0438\u044f \u0437\u0430\u0445\u043e\u0434\u0438\u0442 \u0432 \u043f\u0440\u0435\u0444\u0438\u043b\u043b \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0432\u044b\u0437\u043e\u0432\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430.<\/p>\n<h3>\u0427\u0435\u0433\u043e \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u043d\u0435\u0442 \u0438 \u0447\u0442\u043e \u0441\u0442\u043e\u0438\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0441\u0430\u043c\u043e\u043c\u0443<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/f4\/e2\/e9\/f4e2e9613f3b332464dd97facaf0bf08.jpg\" alt=\"\u041f\u0443 \u043f\u0443 \u043f\u0443\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/f4\/e2\/e9\/f4e2e9613f3b332464dd97facaf0bf08.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/f4\/e2\/e9\/f4e2e9613f3b332464dd97facaf0bf08.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0443 \u043f\u0443 \u043f\u0443<\/figcaption><\/div>\n<\/figure>\n<p>\u0412\u0441\u0435\u0433\u0434\u0430 \u0435\u0441\u0442\u044c \u043f\u0430\u0440\u0443 <strong>\u043d\u043e<\/strong>, \u043a\u0443\u0434\u0430 \u0436\u0435 \u0431\u0435\u0437 \u044d\u0442\u043e\u0433\u043e<\/p>\n<p><strong>\u0422\u0440\u0438 \u0438\u0437 \u0448\u0435\u0441\u0442\u0438 \u043c\u0430\u0448\u0438\u043d \u2014 \u0430\u0440\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0434\u0432\u0443\u0445\u0441\u043e\u043a\u0435\u0442\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u044b<\/strong>, \u044d\u043c\u0443\u043b\u0438\u0440\u0443\u044e\u0449\u0438\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0432 6 \u043f\u043e\u0442\u043e\u043a\u043e\u0432 CPU \u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u043a\u043e\u0439 \u043a NUMA-\u043d\u043e\u0434\u0435 GPU. \u0410\u0432\u0442\u043e\u0440\u044b \u044d\u0442\u043e \u0440\u0430\u0441\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0438 \u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u044e\u0442 \u043d\u0430 \u0434\u0432\u0443\u0445 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445, \u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u043e\u0432\u0435 \u0441\u0442\u043e\u0438\u0442.<\/p>\n<p><strong>\u0421\u043a\u0432\u043e\u0437\u043d\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u0447\u0438 \u043d\u0435 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/strong> \u0422\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0438 \u0430\u0433\u0435\u043d\u0442\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0438\u0436\u043a\u0430\u043c\u0438 \u0440\u0430\u0441\u0445\u043e\u0434\u044f\u0442\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u0435\u0440\u044f\u044e\u0442\u0441\u044f decode tok\/s \u0438 TTFT. \u041c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438 \u0447\u0435\u0441\u0442\u043d\u043e, \u043d\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u00ab\u0432\u043e \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0440\u0435\u0448\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u0434\u0430\u0447\u0430\u00bb \u0438\u0437 \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0435 \u0441\u043b\u0435\u0434\u0443\u0435\u0442.<\/p>\n<p><strong>\u041f\u0438\u043d\u043d\u0438\u043d\u0433 \u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d \u043d\u0435 \u0432\u0435\u0437\u0434\u0435.<\/strong> \u0415\u0441\u043b\u0438 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0435 \u0443\u0434\u0430\u0451\u0442\u0441\u044f \u0437\u0430\u043f\u0438\u043d\u043d\u0438\u0442\u044c \u0438\u043b\u0438 \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u0434 DMA \u2014 \u0430 \u044d\u0442\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u041e\u0421 \u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u2014 FreeToken \u043e\u0442\u043a\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0447\u0438\u0441\u0442\u043e CPU-\u0448\u043d\u044b\u0439 MoE-\u0431\u044d\u043a\u0435\u043d\u0434. \u0414\u043b\u044f Windows \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u0431\u043e\u043b\u0435\u0435 \u0447\u0435\u043c \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u0430\u044f.<\/p>\n<p><strong>Qwen3.6 \u0433\u043e\u043d\u044f\u0435\u0442\u0441\u044f \u0432 BF16<\/strong> \u0440\u0430\u0434\u0438 \u043f\u0430\u0440\u0438\u0442\u0435\u0442\u0430 \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0438\u0436\u043a\u0430\u043c\u0438. \u0412 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0436\u0438\u0437\u043d\u0438 \u0432\u0441\u0435 \u0441\u0438\u0434\u044f\u0442 \u043d\u0430 \u043a\u0432\u0430\u043d\u0442\u0430\u0445, \u0438 \u0442\u0430\u043c \u0431\u0430\u043b\u0430\u043d\u0441 <code>B_P\/B_H<\/code> \u043d\u0435\u0438\u0437\u0431\u0435\u0436\u043d\u043e \u043f\u043e\u0435\u0434\u0435\u0442: \u044d\u043a\u0441\u043f\u0435\u0440\u0442 \u0441\u0442\u0430\u043d\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u043d\u0430 \u0442\u043e\u0442 \u0436\u0435 \u043e\u0431\u044a\u0451\u043c \u043a\u044d\u0448\u0430 \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u0430 \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u043f\u043e\u043b\u043e\u0441 \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0436\u043d\u0438\u043c.<\/p>\n<p><strong>\u041d\u0435 \u043f\u043e\u043a\u0440\u044b\u0442 \u0441\u0440\u0435\u0434\u043d\u0438\u0439 \u0442\u0438\u0440.<\/strong> \u0423 \u043d\u0438\u0445 \u0435\u0441\u0442\u044c 8 \u0413\u0411 \u0438 \u0435\u0441\u0442\u044c 24\u201332 \u0413\u0411. \u041a\u0430\u0440\u0442 \u0441 16 \u0413\u0411 \u2014 \u0441\u0430\u043c\u043e\u0439 \u043c\u0430\u0441\u0441\u043e\u0432\u043e\u0439 \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u2014 \u0432 \u0437\u0430\u043c\u0435\u0440\u0430\u0445 \u043d\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435.<\/p>\n<p>\u0422\u0438\u0440 \u044d\u0442\u043e\u0442, \u043a \u0441\u043b\u043e\u0432\u0443, \u043b\u0435\u0433\u043a\u043e \u0434\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u0430 \u0431\u0443\u043c\u0430\u0433\u0435. \u0412\u043e\u0437\u044c\u043c\u0451\u043c RTX 5080 \u0441 16 \u0413\u0411 \u2014 \u0432\u0434\u0432\u043e\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 VRAM, \u0447\u0435\u043c \u0443 \u0438\u0445 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0430, \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u0443 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0430 \u0441 5090, \u0445\u043e\u0441\u0442 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439, \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u0430\u044f DDR5. \u041f\u043e \u0431\u0430\u043b\u0430\u043d\u0441\u0443 \u043f\u043e\u043b\u043e\u0441 \u043e\u043d\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0441\u0438\u0434\u0435\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u0432\u043f\u043b\u043e\u0442\u043d\u0443\u044e \u043a \u0438\u0445 \u043a\u043e\u043b\u043e\u043d\u043a\u0435 \u00ab5090 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u00bb.<\/p>\n<p>\u0427\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u043a\u0430. PCIe 5.0 x16 \u0443 5080 \u0442\u043e\u0442 \u0436\u0435, \u0437\u043d\u0430\u0447\u0438\u0442 <code>B_P<\/code> \u0434\u043e\u043b\u0436\u0435\u043d \u043b\u0435\u0436\u0430\u0442\u044c \u0432 \u0440\u0430\u0439\u043e\u043d\u0435 49\u201350 \u0413\u0411\/\u0441 \u2014 \u043a\u0430\u043a \u0443 \u043d\u0438\u0445 \u043d\u0430 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435. \u0414\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u0430\u044f DDR5 \u0442\u0430\u043c \u0436\u0435 \u0434\u0430\u043b\u0430 <code>B_H<\/code> = 53.8. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c:<\/p>\n<pre><code>q* \u2248 49 \/ 53.8 \u2248 0.91<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0414\u0435\u0432\u044f\u0442\u044c \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u0438\u0437 \u0434\u0435\u0441\u044f\u0442\u0438 \u0443\u0435\u0437\u0436\u0430\u044e\u0442 \u043f\u043e \u0448\u0438\u043d\u0435, \u043d\u0430 CPU \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0441\u0438\u043c\u0432\u043e\u043b\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0445\u0432\u043e\u0441\u0442. \u0414\u043b\u044f 16-\u0433\u0438\u0433\u043e\u0432\u043e\u0439 \u043a\u0430\u0440\u0442\u044b \u044d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0432\u0441\u044f \u0441\u0442\u0430\u0432\u043a\u0430 \u2014 \u043d\u0430 PCIe, \u0438 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u0432 \u0434\u0443\u0445\u0435 \u00ab\u0434\u0435\u0440\u0436\u0438\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430 CPU\u00bb \u0437\u0434\u0435\u0441\u044c \u0437\u0430\u0432\u0435\u0434\u043e\u043c\u043e \u0432 \u043f\u0440\u043e\u0438\u0433\u0440\u044b\u0448\u0435: \u043e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u044e\u0442 \u043b\u0438\u043d\u043a\u043e\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0447\u0442\u0438 \u0434\u043e\u0433\u043e\u043d\u044f\u0435\u0442 \u0432\u0441\u044e \u043e\u0441\u0442\u0430\u0432\u0448\u0443\u044e\u0441\u044f \u043f\u043e\u043b\u043e\u0441\u0443 \u043f\u0430\u043c\u044f\u0442\u0438 \u0445\u043e\u0441\u0442\u0430.<\/p>\n<p>\u0412\u0441\u0442\u0440\u0435\u0447\u043d\u044b\u0439 \u0444\u0430\u043a\u0442\u043e\u0440 \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u044d\u0448\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432. \u042d\u0442\u043e \u0442\u0430 \u0441\u0430\u043c\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c GPU, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435 \u043d\u0435-\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432 \u0438 KV-\u043a\u044d\u0448\u0430: \u043d\u0430 5090 \u0435\u0451 \u0445\u0432\u0430\u0442\u0430\u043b\u043e, \u0447\u0442\u043e\u0431\u044b \u0434\u0435\u0440\u0436\u0430\u0442\u044c 37% \u043f\u0443\u043b\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 Qwen3.6 \u0438 11% \u043f\u0443\u043b\u0430 DSV4-Flash.<\/p>\n<p>\u0418 \u0437\u0434\u0435\u0441\u044c \u00ab\u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435\u00bb \u2014 \u043e\u0446\u0435\u043d\u043a\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0441\u0442\u0438\u0447\u043d\u0430\u044f. \u041d\u0435-\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0438 KV-\u043a\u044d\u0448 \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u044b\u0439 \u043e\u0431\u044a\u0451\u043c \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u043a\u0430\u0440\u0442\u044b, \u043d\u043e \u0432\u044b\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u0438\u0437 \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u043e\u0434 \u0441\u0430\u043c \u043a\u044d\u0448 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430 16 \u0413\u0411 \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f <strong>\u043c\u0435\u043d\u044c\u0448\u0435<\/strong> \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u044b \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u043d\u0430 32. \u0414\u043e\u043b\u044f \u043f\u0443\u043b\u0430 \u0432 \u043a\u044d\u0448\u0435 \u043f\u0430\u0434\u0430\u0435\u0442 \u0441\u0438\u043b\u044c\u043d\u0435\u0435, \u0447\u0435\u043c \u0432 \u0434\u0432\u0430 \u0440\u0430\u0437\u0430, \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 <code>m<\/code> \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u2014 \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u043e\u0442 \u0451\u043c\u043a\u043e\u0441\u0442\u0438 \u043a\u044d\u0448\u0430 \u0448\u0435\u0441\u0442\u043d\u0430\u0434\u0446\u0430\u0442\u044c \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 \u043f\u043e\u043f\u0430\u0434\u0430\u044e\u0442 \u0441\u0438\u043b\u044c\u043d\u043e \u043b\u0435\u0432\u0435\u0435. \u0410 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0440\u043e\u043c\u0430\u0445\u043e\u0432 \u043f\u0440\u0438 \u043d\u0435\u0438\u0437\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043e\u043b\u0435 <code>q*\/m<\/code> \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0432\u0441\u044f \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043b\u043e\u0436\u0438\u0442\u0441\u044f \u043d\u0430 \u0442\u0443 \u0436\u0435 \u0448\u0438\u043d\u0443. \u041a\u0443\u0434\u0430 \u0441\u043e\u0439\u0434\u0443\u0442\u0441\u044f \u044d\u0442\u0438 \u0434\u0432\u0435 \u0441\u0438\u043b\u044b, \u0438\u0437 \u0441\u0442\u0430\u0442\u044c\u0438 \u0443\u0437\u043d\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f: \u0442\u0430\u043a\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0432 \u0437\u0430\u043c\u0435\u0440\u0430\u0445 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u0442.<\/p>\n<h3>\u0427\u0442\u043e \u0432 \u0441\u0443\u0445\u043e\u043c \u043e\u0441\u0442\u0430\u0442\u043a\u0435<\/h3>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/b9\/f2\/c7\/b9f2c724bb3bfc31adadbe32ea624644.jpg\" alt=\"\u0412\u044b\u0432\u043e\u0434\u044b\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/b9\/f2\/c7\/b9f2c724bb3bfc31adadbe32ea624644.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/b9\/f2\/c7\/b9f2c724bb3bfc31adadbe32ea624644.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u044b\u0432\u043e\u0434\u044b<\/figcaption><\/div>\n<\/figure>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434 \u2014 \u043c\u044b \u0432\u0441\u0451 \u0435\u0449\u0451 \u043d\u0435 \u0434\u043e \u043a\u043e\u043d\u0446\u0430 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u043e, \u0438 \u0433\u0440\u0430\u043c\u043e\u0442\u043d\u044b\u0439 \u0432\u043a\u043b\u0430\u0434 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 \u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0432\u044b\u0436\u0438\u043c\u0430\u0442\u044c \u0438\u0437 \u0436\u0435\u043b\u0435\u0437\u0430 \u0432\u0441\u0451 \u0431\u043e\u043b\u044c\u0448\u0435. \u041c\u044b \u0443\u0436\u0435 \u043f\u0435\u0440\u0435\u0448\u043b\u0438 \u043f\u043e\u0440\u043e\u0433, \u0433\u0434\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0431\u044c\u044e\u0442 \u043f\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e\u0434\u043d\u0438\u0435 \u0444\u0440\u043e\u043d\u0442\u0438\u0440\u044b, \u0434\u0435\u043b\u0430\u044f \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0439 \u043a\u043e\u0434\u0438\u043d\u0433 \u0432\u0441\u0451 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0435\u0435, \u0430 \u043f\u043e\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0434\u043e\u0440\u043e\u0433\u0438\u0445 \u0434\u0430\u0442\u0430\u0446\u0435\u043d\u0442\u0440\u043e\u0432 \u0432\u0441\u0451 \u0441\u043e\u043c\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0435\u0435.<\/p>\n<p>\u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0441\u0442\u043e\u0438\u0442 \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0446\u0438\u044f\u0445 \u0432 \u043b\u044e\u0434\u0435\u0439 \u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043d\u0435 \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0435 \u0440\u0430\u0437\u0434\u0443\u0442\u0438\u0435 \u043e\u0446\u0435\u043d\u043a\u0438 \u0447\u0438\u043f\u043c\u0435\u0439\u043a\u0435\u0440\u043e\u0432 \u043d\u0430 \u0431\u0438\u0440\u0436\u0435.<\/p>\n<p>\u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u0434\u043b\u044f \u0432\u0441\u0435\u0445, \u043a\u0442\u043e \u0433\u043e\u043d\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e: \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u044c\u0442\u0435 \u043c\u0435\u0440\u0438\u0442\u044c \u0434\u0432\u0438\u0436\u043a\u0438 \u043e\u0434\u0438\u043d\u043e\u0447\u043d\u044b\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c. \u041c\u0435\u0440\u044f\u0439\u0442\u0435 \u0445\u0432\u043e\u0441\u0442 TTFT \u043d\u0430 \u043c\u043d\u043e\u0433\u043e\u0442\u0443\u0440\u043e\u0432\u043e\u0439 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0439 \u0441\u0435\u0441\u0441\u0438\u0438. \u0418\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043c \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0438\u0437 \u0434\u0432\u0443\u043a\u0440\u0430\u0442\u043d\u043e\u0439 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0440\u0430\u0437\u043d\u0438\u0446\u0443 \u043c\u0435\u0436\u0434\u0443 \u00ab\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u00bb \u0438 \u00ab\u043a\u043b\u0438\u0435\u043d\u0442 \u043e\u0442\u0432\u0430\u043b\u0438\u043b\u0441\u044f \u043f\u043e \u0442\u0430\u0439\u043c\u0430\u0443\u0442\u0443\u00bb.<\/p>\n<p>\u0410 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0441 4060 \u2014 \u0432\u043f\u043e\u043b\u043d\u0435 \u0441\u0435\u0431\u0435 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430. \u041d\u0435 \u0434\u043b\u044f \u0432\u0441\u0435\u0433\u043e, \u043d\u043e \u0434\u043b\u044f \u043a\u0443\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e, \u0447\u0435\u043c \u0432\u0430\u043c \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u0447\u0438\u0442\u0430\u0435\u0442\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u043f\u043e\u0441\u0442 \u043f\u0440\u043e \u0434\u0432\u0430 PRO 6000.<\/p>\n<hr\/>\n<p><em>\u041a\u043e\u0440\u043e\u0442\u043a\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0437\u0431\u043e\u0440\u0430, \u0441\u044b\u0440\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b \u0441 \u043c\u043e\u0435\u0439 \u043c\u0430\u0448\u0438\u043d\u044b, \u043a\u043e\u043d\u0444\u0438\u0433\u0438 \u0438 \u0432\u0441\u0451, \u0447\u0442\u043e \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442 \u0441\u0442\u0430\u0442\u044c\u0438 \u2014 \u0432<\/em> <a href=\"https:\/\/t.me\/techn0danya\" rel=\"noopener noreferrer nofollow\"><em>@techn0danya<\/em><\/a><em>. \u0422\u0430\u043c \u0436\u0435 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u044e \u043d\u043e\u0432\u044b\u0435 \u0440\u0435\u043b\u0438\u0437\u044b \u043f\u043e \u043c\u0435\u0440\u0435 \u0432\u044b\u0445\u043e\u0434\u0430, \u0430 \u0437\u0430\u043e\u0434\u043d\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e \u043f\u0440\u043e \u0436\u0435\u043b\u0435\u0437\u043a\u0438, \u0438\u043d\u0444\u0440\u0443 \u0438 \u043d\u0430\u0443\u043a\u0443.<\/em><\/p>\n<hr\/>\n<p><strong>\u0421\u0441\u044b\u043b\u043a\u0438<\/strong><\/p>\n<ul>\n<li>\n<p>\u0421\u0442\u0430\u0442\u044c\u044f: <a href=\"https:\/\/arxiv.org\/abs\/2608.16157\" rel=\"noopener noreferrer nofollow\">arXiv:2608.16157<\/a><\/p>\n<\/li>\n<li>\n<p>\u041a\u043e\u0434: <a href=\"https:\/\/github.com\/FlashML-org\/FreeToken\" rel=\"noopener noreferrer nofollow\">github.com\/FlashML-org\/FreeToken<\/a><\/p>\n<\/li>\n<li>\n<p>\u0414\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432: <a href=\"https:\/\/flashml.ai\" rel=\"noopener noreferrer nofollow\">flashml.ai<\/a><\/p>\n<\/li>\n<li>\n<p>\u0421\u043c\u0435\u0436\u043d\u043e\u0435: Fiddler (<a href=\"https:\/\/arxiv.org\/abs\/2402.07033\" rel=\"noopener noreferrer nofollow\">2402.07033<\/a>), MoE-Infinity (<a href=\"https:\/\/arxiv.org\/abs\/2401.14361\" rel=\"noopener noreferrer nofollow\">2401.14361<\/a>), TraceLab \u043f\u0440\u043e \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0437\u0430\u0446\u0438\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u043a \u043a\u043e\u0434\u043e\u0432\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043e\u0432 (<a href=\"https:\/\/arxiv.org\/abs\/2606.30560\" rel=\"noopener noreferrer nofollow\">2606.30560<\/a>)<\/p>\n<\/li>\n<\/ul>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1073522\/\">https:\/\/habr.com\/ru\/articles\/1073522\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0427\u0443\u0432\u0430\u043a \u0438\u0437 \u041a\u0430\u043b\u0438\u0444\u043e\u0440\u043d\u0438\u0438 \u0432\u0440\u044f\u0434 \u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u044d\u0442\u043e \u0432\u0441\u0435 \u043d\u0430 \u0442\u0430\u043a\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435\u0411\u044b\u0432\u0430\u0435\u0442 \u0442\u0430\u043a: \u0441\u0438\u0434\u0438\u0448\u044c, \u043b\u0438\u0441\u0442\u0430\u0435\u0448\u044c \u043b\u0435\u043d\u0442\u0443, \u0438 \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0440\u0430\u0437 \u043d\u0430\u0442\u044b\u043a\u0430\u0435\u0448\u044c\u0441\u044f \u043d\u0430 \u043f\u043e\u0441\u0442, \u0433\u0434\u0435 \u0441\u0442\u0430\u0444\u0444-\u0438\u043d\u0436\u0435\u043d\u0435\u0440 \u0438\u0437 \u0441\u043e\u043b\u043d\u0435\u0447\u043d\u043e\u0439 \u041a\u0430\u043b\u0438\u0444\u043e\u0440\u043d\u0438\u0438 \u043a\u0440\u0443\u0442\u0438\u0442 \u0441\u0432\u0435\u0436\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0443 \u043d\u0430 \u043f\u0430\u0440\u0435 RTX PRO 6000 \u043e\u0431\u0449\u0435\u0439 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c\u044e \u0441 \u043f\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u043d\u0443\u044e \u043c\u0430\u0448\u0438\u043d\u0443. \u0422\u044b \u0441\u043c\u043e\u0442\u0440\u0438\u0448\u044c \u043d\u0430 \u0441\u0432\u043e\u044e RTX 4060 \u0432 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0443\u043f\u0430\u043b \u00ab\u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u0438\u0433\u0440\u00bb, \u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0448\u044c: \u043d\u0443 \u043b\u0430\u0434\u043d\u043e, \u044d\u0442\u043e \u043d\u0435 \u0434\u043b\u044f \u043d\u0430\u0441.\u0422\u0430\u043a \u0432\u043e\u0442, \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u0434\u043b\u044f \u043d\u0430\u0441. \u041d\u0430 \u0442\u043e\u0439 \u0441\u0430\u043c\u043e\u0439 \u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u043e\u0439 4060 \u0441 \u0432\u043e\u0441\u0435\u043c\u044c\u044e \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430\u043c\u0438 \u0438 \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u043c \u0432\u0434\u0432\u043e\u0435 PCIe-\u043b\u0438\u043d\u043a\u043e\u043c \u0432\u0441\u0435-\u0442\u0430\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 39.3 tok\/s \u043d\u0430 35-\u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u043e\u0447\u0438\u043c \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0447\u0435\u043c \u043c\u0435\u0434\u0438\u0430\u043d\u043d\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0434\u0435\u043a\u043e\u0434\u0430 Codex \u0432 \u043f\u0440\u043e\u0434\u0435. \u0412\u043e\u043f\u0440\u043e\u0441 \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0434\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u0431\u044b\u043b \u043d\u0435 \u0432 \u0436\u0435\u043b\u0435\u0437\u0435, \u0430 \u0432 \u0441\u043e\u0444\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u044d\u0442\u043e \u0436\u0435\u043b\u0435\u0437\u043e \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442.\u0414\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0442\u0430\u043a\u0438\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c FreeToken \u2014 \u0434\u0432\u0438\u0436\u043e\u043a \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 MoE-\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043e\u0442 \u043a\u043e\u043c\u0430\u043d\u0434\u044b, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u0441\u0434\u0435\u043b\u0430\u043b\u0430 vLLM \u0438 SGLang.\u0417\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0434\u0432\u0438\u0436\u043e\u043a\u0414\u0432\u0438\u0436\u043e\u043a \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u0442\u0438\u043f\u0430 \u0442\u043e\u0433\u043e\u041a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043e\u0442\u0432\u0435\u0442: \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043d\u0435\u0434\u043e\u0431\u0438\u0440\u0430\u044e\u0442 \u043e\u0442 \u043c\u0430\u0448\u0438\u043d\u044b \u043a\u0440\u0430\u0442\u043d\u043e, \u0438 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u2014 \u0442\u0430\u043c, \u0433\u0434\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043d\u0443\u0436\u043d\u044b, \u0442\u043e \u0435\u0441\u0442\u044c \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445.\u0414\u043b\u0438\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043e\u0441\u0442\u0430\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u044c\u0438, \u043d\u043e \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0440\u0430\u0437\u0443 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u0440\u0438\u043b\u0438 \u0430\u0432\u0442\u043e\u0440\u044b. \u041d\u0435 \u043e\u0434\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442, \u043a\u0430\u043a \u043f\u0440\u0438\u043d\u044f\u0442\u043e \u0432 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0432\u0438\u0436\u043a\u043e\u0432, \u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043d\u043e\u0433\u043e\u0442\u0443\u0440\u043e\u0432\u044b\u0435 \u0441\u0435\u0441\u0441\u0438\u0438: SWE-\u0437\u0430\u0434\u0430\u0447\u0430 \u0447\u0435\u0440\u0435\u0437 OpenCode, \u0442\u0430 \u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430 \u0447\u0435\u0440\u0435\u0437 Claude Code \u043f\u043e \u043d\u0430\u0442\u0438\u0432\u043d\u043e\u043c\u0443 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0443 \u0441 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u0430\u0431\u0430\u0433\u0435\u043d\u0442\u0430\u043c\u0438 \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0434\u043e 56\u201365 \u0442\u044b\u0441\u044f\u0447 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u043f\u043e\u0447\u0442\u043e\u0432\u043e-\u043a\u0430\u043b\u0435\u043d\u0434\u0430\u0440\u043d\u044b\u0439 \u0430\u0433\u0435\u043d\u0442 \u0447\u0435\u0440\u0435\u0437 OpenClaw \u043d\u0430 \u0442\u0440\u0438\u043d\u0430\u0434\u0446\u0430\u0442\u044c \u0445\u043e\u0434\u043e\u0432.\u0414\u0430\u043b\u044c\u0448\u0435 \u043f\u043e \u0442\u0435\u043a\u0441\u0442\u0443 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043b\u044c\u043a\u0430\u0442\u044c TTFT \u2014 time to first token, \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. \u042d\u0442\u043e \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043c\u0435\u0436\u0434\u0443 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0441\u0438\u043c\u0432\u043e\u043b\u0430 \u043e\u0442\u0432\u0435\u0442\u0430, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u043e \u0441\u0443\u0442\u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0430: \u043f\u043e\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043f\u0440\u043e\u0436\u0435\u0432\u0430\u043b\u0430 \u0432\u0435\u0441\u044c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0439 \u043d\u0435\u0447\u0435\u0433\u043e.\u0412 \u0447\u0430\u0442\u0435 \u043d\u0430 \u043f\u0430\u0440\u0443 \u0430\u0431\u0437\u0430\u0446\u0435\u0432 \u044d\u0442\u043e \u0434\u043e\u043b\u0438 \u0441\u0435\u043a\u0443\u043d\u0434\u044b, \u0438 \u043d\u0430 \u043d\u0435\u0451 \u043d\u0438\u043a\u0442\u043e \u043d\u0435 \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u2014 \u0432\u0441\u0435 \u043c\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0412 \u0430\u0433\u0435\u043d\u0442\u0435 \u0432\u0441\u0451 \u0438\u043d\u0430\u0447\u0435. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0442\u0430\u043c \u2014 \u044d\u0442\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442, \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430, \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u0432\u044b\u0432\u043e\u0434\u044b \u0432\u0441\u0435\u0445 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u0438 \u043e\u043d \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0445\u043e\u0434\u043e\u043c. \u0410 \u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0441\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043d\u043e\u0432\u043e \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0432\u044b\u0437\u043e\u0432\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, \u0430 \u043d\u0435 \u043e\u0434\u0438\u043d \u0440\u0430\u0437 \u0437\u0430 \u0441\u0435\u0441\u0441\u0438\u044e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 TTFT \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 \u2014 \u044d\u0442\u043e \u043d\u0435 \u00ab\u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u043f\u0435\u0440\u0435\u0434 \u043e\u0442\u0432\u0435\u0442\u043e\u043c\u00bb, \u0430 \u0442\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u044b \u0436\u0434\u0451\u0442\u0435 \u043c\u0435\u0436\u0434\u0443 \u043a\u0430\u0436\u0434\u044b\u043c\u0438 \u0434\u0432\u0443\u043c\u044f \u0448\u0430\u0433\u0430\u043c\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u0433\u0435\u043d\u0442\u0430. \u0414\u0435\u0441\u044f\u0442\u044c \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043f\u043e\u0434\u0440\u044f\u0434 \u2014 \u0434\u0435\u0441\u044f\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u043e\u0432 \u043d\u0430 \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435.\u0418 \u0432\u043e\u0442 \u043d\u0430 \u044d\u0442\u0438\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 \u0432\u044b\u043b\u0435\u0437\u0430\u0435\u0442 \u0446\u0438\u0444\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043e\u0434\u043d\u043e\u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432\u044b\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u043d\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435:\u0421\u0440\u0430\u0432\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445\u0425\u0443\u0434\u0448\u0438\u0439 TTFT \u0437\u0430 \u0441\u0435\u0441\u0441\u0438\u044e: 44 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0443 FreeToken \u043f\u0440\u043e\u0442\u0438\u0432 232 \u0443 llama.cpp \u0438 946 \u0443 KTransformers.\u0417\u0434\u0435\u0441\u044c \u043d\u0430\u0434\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c\u0441\u044f. \u0423 OpenClaw \u0432 \u0441\u0442\u043e\u043a\u0435 \u0441\u0442\u043e\u0438\u0442 idle-watchdog \u043d\u0430 120 \u0441\u0435\u043a\u0443\u043d\u0434. \u0423 Claude Code \u0434\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0439 \u0442\u0430\u0439\u043c\u0430\u0443\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u2014 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u0435\u0441\u044f\u0442\u044c \u043c\u0438\u043d\u0443\u0442. \u0422\u043e \u0435\u0441\u0442\u044c 946 \u0441\u0435\u043a\u0443\u043d\u0434 \u2014 \u044d\u0442\u043e \u043d\u0435 \u00ab\u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u00bb. \u042d\u0442\u043e \u00ab\u0430\u0433\u0435\u043d\u0442 \u0443\u043f\u0430\u043b\u00bb. \u0421\u0440\u0435\u0434\u043d\u0438\u0439 tok\/s \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0432\u043f\u043e\u043b\u043d\u0435 \u043f\u0440\u0438\u0441\u0442\u043e\u0439\u043d\u043e, \u0438 \u0432\u044b \u0431\u0443\u0434\u0435\u0442\u0435 \u0441\u0438\u0434\u0435\u0442\u044c \u0438 \u0434\u0443\u043c\u0430\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0443 \u0432\u0430\u0441 \u0432\u0441\u0451 \u043e\u0442\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f.\u0425\u0432\u043e\u0441\u0442 TTFT \u0437\u0434\u0435\u0441\u044c \u2014 \u043d\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u0438, \u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0440\u0430\u0431\u043e\u0442\u043e\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438. \u042d\u0442\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u0432\u0441\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u044b.\u041f\u043e\u0447\u0435\u043c\u0443 MoE \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u0430\u0451\u0442 \u0448\u0430\u043d\u0441 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u0436\u0435\u043b\u0435\u0437\u0443\u0410\u0432\u0442\u043e\u0440 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0441\u0442\u0430\u0442\u044c\u0438\u0415\u0441\u043b\u0438 \u0432\u044b \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0441\u043b\u044b\u0448\u0438\u0442\u0435 \u0430\u0431\u0431\u0440\u0435\u0432\u0438\u0430\u0442\u0443\u0440\u0443 \u2014 \u0441\u043e\u0432\u0441\u0435\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u043e. \u0412 \u043e\u0431\u044b\u0447\u043d\u043e\u0439, \u043f\u043b\u043e\u0442\u043d\u043e\u0439 (dense) \u043c\u043e\u0434\u0435\u043b\u0438 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 \u0432 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430: \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0434\u0430\u0442\u044c \u043e\u0434\u0438\u043d \u0442\u043e\u043a\u0435\u043d, \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 30B \u0447\u0435\u0441\u0442\u043d\u043e \u0432\u044b\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0438\u0437 \u043f\u0430\u043c\u044f\u0442\u0438 \u0432\u0441\u0435 \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u044c \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u0432\u0435\u0441\u043e\u0432. \u0412 Mixture of Experts feed-forward \u0441\u043b\u043e\u0438 \u0440\u0430\u0437\u0431\u0438\u0442\u044b \u043d\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u00ab\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432\u00bb, \u0438 \u0440\u043e\u0443\u0442\u0435\u0440 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e. \u0423 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0438\u0434\u0430 30B-A3B \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u044c \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432\u0441\u0435\u0433\u043e, \u043d\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u2014 \u0442\u0440\u0438.\u041e\u0442\u0441\u044e\u0434\u0430 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0441 \u043e\u0431\u0449\u0438\u043c \u0447\u0438\u0441\u043b\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u2014 \u0441 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u043c. \u0414\u0435\u0440\u0436\u0430\u0442\u044c \u043d\u0430\u0433\u043e\u0442\u043e\u0432\u0435 \u043d\u0430\u0434\u043e \u0432\u0441\u0435\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435. \u0410 \u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445.\u0415\u0441\u043b\u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0431\u0430\u0437\u044b \u043f\u043e\u043f\u043b\u043e\u0442\u043d\u0435\u0435 \u2014 \u043f\u0440\u043e dense \u043f\u0440\u043e\u0442\u0438\u0432 MoE, \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438, GGUF \u0438 \u043f\u0440\u043e \u0442\u043e, \u043f\u043e\u0447\u0435\u043c\u0443 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0432\u043e\u043e\u0431\u0449\u0435 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438, \u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043f\u0438\u0441\u0430\u043b \u0432 \u00ab\u0412\u0441\u0451, \u0447\u0442\u043e \u0432\u044b \u0445\u043e\u0442\u0435\u043b\u0438 \u0437\u043d\u0430\u0442\u044c \u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u0418\u0418, \u043d\u043e \u0441\u0442\u0435\u0441\u043d\u044f\u043b\u0438\u0441\u044c \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c\u00bb. \u0420\u0430\u0437\u043d\u0438\u0446\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0442\u0430\u043c \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 \u0431\u0443\u0434\u0443 \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e \u0431\u0430\u0437\u0430 \u0435\u0441\u0442\u044c.\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0438\u043b\u043e\u0436\u0438\u043c \u044d\u0442\u043e \u043a \u0444\u0440\u043e\u043d\u0442\u0438\u0440-\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0443. DeepSeek-V4-Flash: 6 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0438\u0437 256 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0438\u0437 43 \u0441\u043b\u043e\u0451\u0432. \u0422\u043e \u0435\u0441\u0442\u044c \u0432 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 13B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438\u0437 284B, \u0438 \u0432 \u0434\u0435\u043f\u043b\u043e\u0439\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044d\u0442\u043e\u0442 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043b\u0435\u0434 \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u043e \u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0432 32 \u0413\u0411 RTX 5090.\u041d\u043e. \u0420\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0440\u0435\u0436\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u043d\u0430 \u0442\u043e\u043a\u0435\u043d, \u0430 \u043d\u0435 \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043e\u0434 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432. \u041c\u043e\u0434\u0435\u043b\u044c \u0446\u0435\u043b\u0438\u043a\u043e\u043c \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0432 VRAM \u0441 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0437\u0430\u043f\u0430\u0441\u043e\u043c, \u043d\u0435\u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u044b \u0436\u0438\u0432\u0443\u0442 \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u0445\u043e\u0441\u0442\u0430 \u0438 \u0437\u0430\u0445\u043e\u0434\u044f\u0442 \u0432 \u043f\u0443\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e.\u041e\u0442\u0441\u044e\u0434\u0430 \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0430, \u0432\u043e\u043a\u0440\u0443\u0433 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0432\u0441\u044f \u0440\u0430\u0431\u043e\u0442\u0430: \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u044f \u0434\u0435\u043b\u0430\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c, \u0430 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0443\u043b \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0434\u0435\u043b\u0430\u0435\u0442 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0442\u0434\u0430\u0447\u0443 \u0441\u043b\u043e\u0436\u043d\u043e\u0439. \u0412\u043e\u043f\u0440\u043e\u0441 \u0441\u043c\u0435\u0441\u0442\u0438\u043b\u0441\u044f \u0441 \u00ab\u0432\u043b\u0435\u0437\u0435\u0442 \u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 GPU\u00bb \u043d\u0430 \u00ab\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0443\u043c\u0435\u0435\u0442 \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0448\u0438\u043d\u0443 \u0446\u0435\u043b\u0438\u043a\u043e\u043c\u00bb \u2014 GPU, CPU, \u043f\u0430\u043c\u044f\u0442\u044c \u0445\u043e\u0441\u0442\u0430 \u0438 \u0448\u0438\u043d\u0443 \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438.\u041c\u0430\u0441\u0448\u0442\u0430\u0431, \u043a \u0441\u043b\u043e\u0432\u0443, \u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0439: \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u044b\u0435 GPU \u0441\u0442\u043e\u044f\u0442 \u0431\u043e\u043b\u0435\u0435 \u0447\u0435\u043c \u0432 \u0441\u043e\u0442\u043d\u0435 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u043c\u0430\u0448\u0438\u043d. \u041f\u043e Steam Hardware Survey \u0437\u0430 \u0438\u044e\u043d\u044c 2026 \u043a\u0430\u0440\u0442\u044b NVIDIA \u2014 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 72% \u043e\u043f\u0440\u043e\u0448\u0435\u043d\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c, \u0430 \u0441\u0430\u043c\u0430\u044f \u043c\u0430\u0441\u0441\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u043a\u0430\u043a \u0440\u0430\u0437 RTX 4060 Laptop \u0441 \u0434\u043e\u043b\u0435\u0439 3.81%. \u0416\u0435\u043b\u0435\u0437\u043e \u0443 \u043b\u044e\u0434\u0435\u0439 \u0435\u0441\u0442\u044c. \u041d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0441\u043e\u0444\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u043c\u0435\u0435\u0442 \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0438\u0437 \u043d\u0435\u0433\u043e \u0435\u0434\u0438\u043d\u0443\u044e \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0443 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430.\u0413\u0434\u0435 \u043b\u043e\u043c\u0430\u044e\u0442\u0441\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0434\u0432\u0438\u0436\u043a\u0438\u041d\u0443 \u0432\u044b \u043f\u043e\u043d\u044f\u043b\u0438\u0410\u0432\u0442\u043e\u0440\u044b FreeToken \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 \u043d\u0430 \u0442\u0440\u0438 \u0447\u0430\u0441\u0442\u0438, \u0442\u0430\u043a \u0447\u0442\u043e \u0440\u0430\u0437\u0431\u043e\u0440 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e \u043f\u043e\u0443\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u0430\u043c \u043f\u043e \u0441\u0435\u0431\u0435 \u2014 \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0432\u044b \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0435 FreeToken.\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 1: \u043d\u0430 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0435 \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u0447\u0435\u0437\u0430\u0435\u0442\u042d\u0442\u043e \u0442\u043e\u0442 \u043c\u043e\u043c\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043b\u0438\u0447\u043d\u043e \u044f \u043e\u0441\u043e\u0437\u043d\u0430\u043b \u043d\u0435 \u0441\u0440\u0430\u0437\u0443.\u041f\u0440\u0438 \u0434\u0435\u043a\u043e\u0434\u0435 \u0442\u043e\u043a\u0435\u043d \u0438\u0434\u0451\u0442 \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u2014 \u043a\u0440\u0430\u0441\u0438\u0432\u043e, \u044d\u043a\u043e\u043d\u043e\u043c\u043d\u043e. \u041f\u0440\u0438 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0442\u044b\u0441\u044f\u0447\u0438, \u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u0438\u0445 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u043e\u0432 \u043f\u043e\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u0435\u0441\u044c \u043d\u0430\u0431\u043e\u0440 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435. \u0420\u0430\u0431\u043e\u0447\u0435\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043b\u043e\u0442\u043d\u044b\u043c. \u0412\u0441\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u0438\u0441\u043f\u0430\u0440\u044f\u0435\u0442\u0441\u044f.\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u0432 \u0431\u0430\u0439\u0442\u0430\u0445: FP4-\u0434\u0435\u043f\u043b\u043e\u0439 DeepSeek-V4-Flash \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u043c\u0435\u0436\u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u043e\u043a\u043e\u043b\u043e 140 \u0413\u0411 \u0432\u0435\u0441\u043e\u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432. \u0421\u0447\u0438\u0442\u0430\u0435\u043c:RTX 5090, PCIe 5.0 x16, ~60 \u0413\u0411\/\u0441 \u2192 \u043e\u043a\u043e\u043b\u043e 2 \u0441\u0435\u043a\u0443\u043d\u0434RTX 4090 \/ 3090, PCIe 4.0 x16, ~25 \u0413\u0411\/\u0441 \u2192 \u043e\u043a\u043e\u043b\u043e 5 \u0441\u0435\u043a\u0443\u043d\u0434\u043d\u043e\u0443\u0442\u0431\u0443\u0447\u043d\u044b\u0435 x8-\u043b\u0438\u043d\u043a\u0438 \u2192 \u0434\u0435\u0441\u044f\u0442\u044c \u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u0435\u043a\u0443\u043d\u0434\u0418 \u0434\u0432\u0438\u0436\u043e\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u044f\u043d\u0435\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044e, \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u0441\u0451 \u044d\u0442\u043e \u043e\u043a\u043d\u043e \u043d\u0430\u0440\u0443\u0436\u0443 \u043a\u0430\u043a \u0447\u0438\u0441\u0442\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 GPU. \u041d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u0435\u0444\u0438\u043b\u043b. \u0412 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u2014 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0445\u043e\u0434 \u0434\u0438\u0430\u043b\u043e\u0433\u0430.\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 2: \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u044b \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0438\u043d\u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0412\u0442\u043e\u0440\u043e\u0439 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u0431\u043e\u043b\u0438 \u2014 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438 \u043e\u043d \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u0435\u043d \u0438\u043c\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0430\u0433\u0435\u043d\u0442\u043e\u0432.\u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u0445\u043e\u0434\u044f\u0442 \u0432 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435: \u0447\u0435\u0440\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441\u043e \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u043c \u043e\u043a\u043d\u043e\u043c (DeepSeek-V4-Flash, GPT-OSS) \u0438\u043b\u0438 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u0441\u043b\u043e\u0438 (gated DeltaNet \u0432 Qwen3.6-35B-A3B, Kimi Delta Attention \u0432 Kimi-K3). \u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u0432\u0435\u0441\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u0432 \u043e\u0434\u043d\u043e \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0449\u0435\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0435\u043b\u044c\u0437\u044f \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043b\u0438\u043a\u043e\u043c \u0441 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442\u0430. \u0410 \u043a\u0430\u0436\u0434\u044b\u0439 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u0432\u0435\u0441\u0438\u0442 \u043a\u0430\u043a KV-\u043a\u044d\u0448 \u0441\u043e\u0442\u0435\u043d \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0445 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0435\u0434\u0438\u043d\u0438\u0446\u044b.\u0422\u0435\u043f\u0435\u0440\u044c \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u044e\u0442 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438 \u0441 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c:OpenClaw \u0432\u044b\u0440\u0435\u0437\u0430\u0435\u0442 thinking-\u0431\u043b\u043e\u043a\u0438 \u0438\u0437 \u0432\u0441\u0435\u0445 \u0445\u043e\u0434\u043e\u0432 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430, \u043a\u0440\u043e\u043c\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043eOpenCode \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 tool-\u0432\u044b\u0445\u043e\u0434\u044b \u0441\u0442\u0430\u0440\u0448\u0435 \u0437\u0430\u0449\u0438\u0449\u0451\u043d\u043d\u043e\u0433\u043e \u043e\u043a\u043d\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0437\u0430\u0433\u043b\u0443\u0448\u043a\u043e\u0439SWE-agent \u0432\u044b\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442 \u0432\u0441\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f, \u043a\u0440\u043e\u043c\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445 n\u041b\u044e\u0431\u043e\u0439 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0447\u043a\u0438 \u043f\u0440\u0430\u0432\u043a\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043d\u0435\u0432\u0430\u043b\u0438\u0434\u043d\u044b\u043c. \u0414\u0432\u0438\u0436\u043e\u043a \u043e\u0442\u043a\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u043c\u0443 \u0436\u0438\u0432\u043e\u043c\u0443 \u2014 \u0438 \u043f\u0435\u0440\u0435\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0417\u0430\u043d\u043e\u0432\u043e.\u0421\u043f\u0440\u044f\u0442\u0430\u0442\u044c \u044d\u0442\u043e \u043d\u0435\u043a\u0443\u0434\u0430: RTX 5090 \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u044f\u0442\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u043b\u043e\u0442\u043d\u043e\u0439 BF16-\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 H100 \u0438 \u0434\u0435\u0441\u044f\u0442\u0443\u044e \u043e\u0442 B200. \u041a\u0430\u0436\u0434\u044b\u0439 \u043b\u0438\u0448\u043d\u0438\u0439 \u0440\u0435-\u043f\u0440\u0435\u0444\u0438\u043b\u043b \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 GPU \u043d\u0430 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0441\u0435\u043a\u0443\u043d\u0434. \u0412\u043e\u0442 \u0432\u0430\u043c \u0438 946 \u0441\u0435\u043a\u0443\u043d\u0434 \u0432 \u0445\u0432\u043e\u0441\u0442\u0435.\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 3: \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043c\u0438\u043c\u043e \u0442\u0440\u0430\u0444\u0438\u043a\u0430llama.cpp \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u0435\u0442 MoE-\u0442\u0435\u043d\u0437\u043e\u0440\u044b \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u043c \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. KTransformers \u0437\u0430\u043a\u0440\u0435\u043f\u043b\u044f\u0435\u0442 \u00ab\u0433\u043e\u0440\u044f\u0447\u0435\u0435\u00bb \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0432 VRAM, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u0433\u043e\u043d\u0438\u0442 \u043d\u0430 CPU. \u041e\u0431\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0443\u0437\u043d\u0430\u044e\u0442, \u043a\u0443\u0434\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0439\u0434\u0451\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f.\u0410 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u043c. \u0420\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0435 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u0430, \u043b\u043e\u0432\u0438\u0442 \u043c\u0430\u043b\u0443\u044e \u0434\u043e\u043b\u044e \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0442\u0440\u0430\u0444\u0438\u043a\u0430. \u0418\u0445 \u0437\u0430\u043c\u0435\u0440 \u043d\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0442\u0440\u0430\u0441\u0441\u0430\u0445 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u0438, \u043f\u0440\u0438 \u0451\u043c\u043a\u043e\u0441\u0442\u0438 \u043a\u044d\u0448\u0430, \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e\u0439 \u043d\u0430 RTX 5090 (37% \u043f\u0443\u043b\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 Qwen3.6 \u0438 11% \u043f\u0443\u043b\u0430 DSV4-Flash):\u041f\u043e\u043b\u0438\u0442\u0438\u043a\u0430\u041f\u0440\u043e\u043c\u0430\u0445\u0438, Qwen3.6\u041f\u0440\u043e\u043c\u0430\u0445\u0438, DSV4-FlashFreeToken, \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 LRU16%39%KTransformers, \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u043f\u043e \u043f\u0440\u0435\u0444\u0438\u043b\u043b\u044341%59%llama.cpp, \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043f\u043b\u0438\u044262%89%\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u043b\u043e\u0436\u0438\u0442\u044c \u0432\u0441\u0451 \u043d\u0430 CPU \u043d\u0435\u043b\u044c\u0437\u044f \u0447\u0438\u0441\u0442\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438. \u041f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 \u0434\u0430\u0451\u0442 \u0434\u0432\u0430 \u043a\u0430\u043d\u0430\u043b\u0430 DRAM: \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 50 \u0413\u0411\/\u0441 \u043d\u0430 \u0434\u0432\u0443\u0445\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u043c DDR4 \u0438 80\u201390 \u043d\u0430 DDR5. \u041f\u0440\u043e\u0442\u0438\u0432 1\u20131.8 \u0422\u0411\/\u0441, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 RTX 4090 \u0438\u043b\u0438 5090 \u0442\u044f\u043d\u0435\u0442 \u0438\u0437 \u0441\u0432\u043e\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438. \u0421\u043a\u043e\u043b\u044c\u043a\u043e \u044f\u0434\u0435\u0440 \u043d\u0438 \u0434\u0430\u0439, CPU-only \u043f\u0443\u0442\u044c \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u044c.\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 4: \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043e \u044d\u043a\u0441\u043a\u043b\u044e\u0437\u0438\u0432\u043d\u043e\u0421\u044e\u0436\u0435\u0442, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432 \u0434\u0430\u0442\u0430\u0446\u0435\u043d\u0442\u0440\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u0442. VRAM \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u0441 \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u043e\u043c \u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0430, \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u043e\u043c, \u0438\u0433\u0440\u0430\u043c\u0438, \u0434\u0438\u0441\u043a\u043e\u0440\u0434\u043e\u043c. \u0411\u044e\u0434\u0436\u0435\u0442 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043c\u0438 \u0438 \u043f\u0440\u044f\u043c\u043e \u043f\u043e\u0441\u0440\u0435\u0434\u0438 \u0441\u0435\u0441\u0441\u0438\u0438.\u0418 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043f\u043b\u0438\u0442 \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u0442\u043e\u0436\u0435 \u043f\u043b\u044b\u0432\u0451\u0442: \u0430\u0433\u0435\u043d\u0442\u043d\u0430\u044f \u0441\u0435\u0441\u0441\u0438\u044f \u043d\u0430\u043a\u0430\u043f\u043b\u0438\u0432\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0441\u043f\u0440\u043e\u0441 \u043d\u0430 KV-\u043a\u044d\u0448 \u0440\u0430\u0441\u0442\u0451\u0442, \u0430 \u0440\u0430\u0431\u043e\u0447\u0435\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0435\u043c \u0436\u0435. \u0421\u043f\u043b\u0438\u0442, \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u043d\u0430 \u043f\u0435\u0440\u0432\u043e\u043c \u0445\u043e\u0434\u0443, \u043a \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u043e\u043c\u0443 \u0443\u0436\u0435 \u043d\u0435\u0432\u0435\u0440\u0435\u043d.\u041f\u043b\u044e\u0441 \u0441\u0442\u0430\u0440\u0442. \u041f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c 140 \u0413\u0411 \u043f\u0443\u043b\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0441 NVMe \u043d\u0430 7 \u0413\u0411\/\u0441 \u2014 \u043e\u043a\u043e\u043b\u043e 20 \u0441\u0435\u043a\u0443\u043d\u0434, \u0438 \u044d\u0442\u043e \u0434\u043e \u0432\u0441\u044f\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430. \u0410 \u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u0434\u0432\u0438\u0436\u043e\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442 \u0438 \u0433\u0430\u0441\u044f\u0442 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e: \u043f\u043e\u0440\u0430\u0431\u043e\u0442\u0430\u043b, \u0437\u0430\u043a\u0440\u044b\u043b, \u043e\u0441\u0432\u043e\u0431\u043e\u0434\u0438\u043b \u0436\u0435\u043b\u0435\u0437\u043e \u043f\u043e\u0434 \u0438\u0433\u0440\u0443.\u041f\u0440\u043e\u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0438\u0440\u0443\u044e \u043d\u0430 \u0441\u0435\u0431\u0435. \u0423 \u043c\u0435\u043d\u044f RTX 5080 \u043d\u0430 16 \u0413\u0411 \u2014 \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u0442\u0430\u043a \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0430 \u043a\u043e\u0440\u043e\u0431\u043a\u0435.\u041e\u0442\u043a\u0440\u044b\u0432\u0430\u044e nvidia-smi \u043d\u0430 \u0441\u0432\u0435\u0436\u0435\u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0439 Windows. \u041d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0437\u0430\u043f\u0443\u0449\u0435\u043d\u043e, \u0442\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0441\u0442\u043e\u043b. 1.2 \u0413\u0411 \u0443\u0436\u0435 \u0437\u0430\u043d\u044f\u0442\u043e. \u042d\u0442\u043e \u043c\u043e\u043d\u0438\u0442\u043e\u0440, \u0432\u043e\u0442\u043a\u043d\u0443\u0442\u044b\u0439 \u0432 \u043a\u0430\u0440\u0442\u0443 \u043f\u043e DisplayPort: \u0444\u0440\u0435\u0439\u043c\u0431\u0443\u0444\u0435\u0440, \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0442\u043e\u0440 \u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0430, DWM. \u041f\u043b\u0430\u0442\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430 \u0442\u043e, \u0447\u0442\u043e \u043d\u0430 \u044d\u043a\u0440\u0430\u043d\u0435 \u0447\u0442\u043e-\u0442\u043e \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442\u0441\u044f. \u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0431\u0440\u0430\u0443\u0437\u0435\u0440 \u0441 \u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u044b\u043c \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0435\u043c, \u0438 \u0446\u0438\u0444\u0440\u0430 \u0443\u043f\u043e\u043b\u0437\u0430\u0435\u0442 \u0435\u0449\u0451 \u0432\u044b\u0448\u0435.\u0420\u0430\u0434\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0430 \u044f \u043f\u0435\u0440\u0435\u0442\u043a\u043d\u0443\u043b \u043c\u043e\u043d\u0438\u0442\u043e\u0440 \u0432 \u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0433\u0440\u0430\u0444\u0438\u043a\u0443, \u043e\u0441\u0442\u0430\u0432\u0438\u0432 5080 \u0447\u0438\u0441\u0442\u043e \u043f\u043e\u0434 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u0422\u0435 \u0441\u0430\u043c\u044b\u0435 1.2 \u0413\u0411 \u0432\u0435\u0440\u043d\u0443\u043b\u0438\u0441\u044c. \u041d\u0430 \u0448\u0435\u0441\u0442\u043d\u0430\u0434\u0446\u0430\u0442\u0438\u0433\u0438\u0433\u043e\u0432\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u044d\u0442\u043e 7.5% \u0432\u0441\u0435\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u2014 \u043d\u0435 \u0440\u0435\u0432\u043e\u043b\u044e\u0446\u0438\u044f, \u043d\u043e \u0440\u043e\u0432\u043d\u043e \u043d\u0430 \u0442\u043e\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u0435, \u0433\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043b\u0438\u0431\u043e \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u043b\u0438\u0431\u043e \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u044d\u0442\u0438 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u044b \u0440\u0435\u0448\u0430\u044e\u0442 \u0432\u0441\u0451.\u0418 \u0432\u043e\u0442 \u0437\u0434\u0435\u0441\u044c \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u0431\u043e\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0435 \u043f\u0440\u043e \u0441\u0430\u043c\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u044b, \u0430 \u043f\u0440\u043e \u0438\u0445 \u043d\u0435\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u0441\u0442\u0432\u043e. \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u044f llama.cpp \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c -ngl, \u044f&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-491904","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/491904","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=491904"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/491904\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=491904"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=491904"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=491904"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}