{"id":503491,"date":"2026-11-16T22:24:01","date_gmt":"2026-11-16T19:24:01","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=503491"},"modified":"2026-11-16T22:24:01","modified_gmt":"2026-11-16T19:24:01","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=503491","title":{"rendered":"\u041b\u0435\u0433\u043a\u0438\u0435 LLM \u043d\u0430 CPU, \u0447\u0430\u0441\u0442\u044c 2: \u043a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043d\u0430 VPS \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412 <a href=\"https:\/\/habr.com\/ru\/articles\/1103894\" rel=\"noopener nofollow\">\u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0441\u0442\u0430\u0442\u044c\u0438<\/a> \u044f \u0438\u0437 \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u0441\u0442\u0432\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b, \u043a\u0430\u043a\u0438\u0435 \u0431\u0438\u0437\u043d\u0435\u0441-\u0437\u0430\u0434\u0430\u0447\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c \u043b\u0435\u0433\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0434\u043e\u0440\u043e\u0433\u043e\u043c VPS \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u0412 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u043c\u043d\u0435 \u043e\u0442\u0441\u044b\u043f\u0430\u043b\u0438 \u043a\u0440\u0438\u0442\u0438\u043a\u0438, \u0438 \u0447\u0430\u0441\u0442\u044c \u0435\u0435, \u043a\u0430\u043a \u0432\u043e\u0434\u0438\u0442\u0441\u044f, \u043f\u043e \u0434\u0435\u043b\u0443. \u0422\u0430\u043a \u0447\u0442\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u043e\u0442\u0447\u0430\u0441\u0442\u0438 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u0432 \u0436\u0430\u043d\u0440\u0435 \u0440\u0430\u0431\u043e\u0442\u044b \u043d\u0430\u0434 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438, \u0438, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c, \u0447\u0442\u043e \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u044f \u043f\u0435\u0440\u0435\u0434\u0435\u043b\u044b\u0432\u0430\u043b, \u043b\u0443\u0447\u0448\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u044c\u0441\u044f \u043a \u0438\u0441\u0442\u043e\u043a\u0430\u043c.<\/p>\n<p>\u0421\u043a\u0430\u0437\u0430\u0442\u044c \u043f\u043e \u043f\u0440\u0430\u0432\u0434\u0435, \u044f \u0438 \u0441\u0430\u043c \u0445\u043e\u0442\u0435\u043b \u043a\u043e\u0435-\u0447\u0442\u043e \u0434\u043e\u0432\u0435\u0441\u0442\u0438 \u0434\u043e \u0443\u043c\u0430: \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u0442\u0435\u0441\u0442\u044b \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 RAM, \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043a\u0440\u0443\u043f\u043d\u0435\u0435 \u0438 \u0442.\u0434. \u041d\u043e\u0432\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u044f \u0441\u0442\u0430\u0432\u0438\u043b \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043e\u0448\u0438\u0431\u043e\u043a \u0438 \u043d\u0435\u0434\u043e\u0434\u0435\u043b\u043e\u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438. \u0426\u0438\u0444\u0440\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0442\u043e\u0447\u043d\u0435\u0435 \u0438 \u0441\u0442\u0440\u043e\u0436\u0435, \u0430 \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u043d\u044b\u0445 \u0444\u0430\u043a\u0442\u043e\u0432, \u043d\u0430\u0434\u0435\u044e\u0441\u044c, \u043d\u0435 \u043c\u0435\u043d\u044c\u0448\u0435. \u041d\u0430 \u044d\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u0439\u0434\u0435\u043c \u0431\u043b\u0438\u0436\u0435 \u043a \u0434\u0435\u043b\u0443.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/48\/4e\/ae\/484eae67e23f29c5de9981b3ad129662.jpg\" width=\"1200\" height=\"630\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/48\/4e\/ae\/484eae67e23f29c5de9981b3ad129662.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/48\/4e\/ae\/484eae67e23f29c5de9981b3ad129662.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<h3>TL;DR<\/h3>\n<ul>\n<li>\n<p>\u0414\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439, \u043a\u0440\u0430\u0442\u043a\u0438\u0445 \u0440\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u043f\u0440\u043e\u0447\u0435\u0439 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u0440\u0443\u0442\u0438\u043d\u044b \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043b\u0435\u0433\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 VPS \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u041d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 RAM \u043b\u0443\u0447\u0448\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 2-4B \u0441\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0437\u0430 3-5 \u0441\u0435\u043a \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u043a\u043e\u043b\u043e 90%. \u041e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439 \u0438 \u0440\u0435\u0437\u044e\u043c\u0435 \u0437\u0430\u043f\u0438\u0441\u0435\u0439 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 0,5-2,5 \u043c\u0438\u043d. \u0414\u043b\u044f \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u044d\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0434\u043b\u044f \u0447\u0430\u0442\u0430 \u0441 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c\u0438 \u0443\u0436\u0435 \u043d\u0435\u0442. \u041a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0434 \u043a\u0430\u043a\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0432 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041f\u0435\u0440\u0435\u0445\u043e\u0434 \u0441 4 \u043d\u0430 8 \u0413\u0411 RAM \u0443\u0431\u0440\u0430\u043b \u043f\u0430\u0434\u0435\u043d\u0438\u044f \u043f\u043e \u043d\u0435\u0445\u0432\u0430\u0442\u043a\u0435 \u043f\u0430\u043c\u044f\u0442\u0438 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0435\u0441\u044c \u043e\u0431\u043c\u0435\u043d \u0441\u043e swap. \u041f\u044f\u0442\u044b\u0439 vCPU \u0434\u043e\u0431\u0430\u0432\u0438\u043b 20-25% \u043a \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u043e\u043a\u043e\u043b\u043e 10% \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0422\u0430\u043a \u0447\u0442\u043e \u043f\u043e\u0434 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0442 8 \u0413\u0411, \u0430 \u043b\u0438\u0448\u043d\u0438\u0439 vCPU \u0434\u0430\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<\/li>\n<li>\n<p>\u041d\u0430 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 9 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438\u0437 10 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c 87-92%, \u0445\u043e\u0442\u044f \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u043d\u0430 20 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u0441\u0435\u043c\u044c \u0438\u0437 \u043d\u0438\u0445 \u0432\u044b\u0431\u0438\u043b\u0438 100%. \u041e\u0442\u0441\u044e\u0434\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u043d\u0430 \u0441\u043e\u0442\u043d\u044f\u0445 \u0441\u0432\u043e\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 \u043b\u0438\u0434\u0435\u0440\u0430\u043c\u0438 \u0432 2-3 \u043f\u0443\u043d\u043a\u0442\u0430 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0441\u0442\u0430\u0442\u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0442\u043e\u0438\u0442 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438 \u043f\u0430\u043c\u044f\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>\u0412\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u0441\u0438\u043b\u044c\u043d\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u043f\u0440\u043e\u043c\u043f\u0442\u0430. \u0415\u0441\u043b\u0438 \u0432\u0441\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442\u0441\u044f \u0441 \u043e\u0434\u043d\u043e\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0438, \u043c\u043e\u0434\u0435\u043b\u044c \u043a\u044d\u0448\u0438\u0440\u0443\u0435\u0442 \u0435\u0435 \u0438 \u0447\u0438\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c. \u0412 \u043f\u0440\u043e\u0442\u0438\u0432\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 \u0440\u0430\u0437 \u0437\u0430\u043d\u043e\u0432\u043e. \u0421 \u043a\u044d\u0448\u0435\u043c QVikhr-3-4B \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0437\u0430 3,8 \u0441\u0435\u043a, \u0430 \u0431\u0435\u0437 \u0437\u0430 12,4 \u0441\u0435\u043a. \u0414\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u044d\u0442\u0430 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 2-3 \u0440\u0430\u0437\u0430. \u041e\u0431\u0449\u0443\u044e \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044e \u0441\u0442\u043e\u0438\u0442 \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u043d\u0430\u0447\u0430\u043b\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430, \u0430 \u0442\u0435\u043a\u0441\u0442 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0432 \u043a\u043e\u043d\u0435\u0446. \u042d\u0442\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443.<\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-10B \u043d\u0435 \u043e\u0431\u043e\u0433\u043d\u0430\u043b\u0438 \u043b\u0443\u0447\u0448\u0438\u0435 4B, \u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0434\u0430\u0436\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u0418\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u2013 GigaChat 3.1 Lightning \u0441 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 MoE. \u041d\u0430 CPU \u0440\u0430\u0437\u0443\u043c\u043d\u0435\u0435 \u0431\u0440\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 2-4B (\u0435\u0441\u043b\u0438 \u043d\u0443\u0436\u043d\u0430 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0430\u044f \u2013 GigaChat 3.1 Lightning).<\/p>\n<\/li>\n<li>\n<p>\u041d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 \u043a\u044d\u0448 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0432 Ollama \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u044f\u0442\u044c \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c: \u0443 qwen3.5:4b \u044d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u043b\u043e \u043a \u0441\u0431\u043e\u044f\u043c. \u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0443\u0431\u0440\u0430\u043b\u043e \u0438 \u0441\u0431\u043e\u0438, \u0438 swap. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 \u043b\u0443\u0447\u0448\u0435 \u0441\u0440\u0430\u0437\u0443 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c <code>LLAMA_ARG_CACHE_RAM=1024<\/code> \u0432 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama.<\/p>\n<\/li>\n<li>\n<p>Decision-\u043c\u043e\u0434\u0435\u043b\u044c d1-2B \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445, \u043d\u043e \u0434\u0430\u0432\u0430\u043b\u0430 \u0447\u0435\u0441\u0442\u043d\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c. \u041f\u0440\u0438 \u043f\u043e\u0440\u043e\u0433\u0435 0,9 \u043e\u043d\u0430 \u0432\u0437\u044f\u043b\u0430 \u0431\u044b \u043d\u0430 \u0441\u0435\u0431\u044f 69% \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 97%, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0434\u0430\u043b\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443. \u0414\u043b\u044f \u0441\u043b\u0443\u0436\u0431\u044b \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438, \u0433\u0434\u0435 \u043e\u0448\u0438\u0431\u043a\u0430 \u0434\u043e\u0440\u043e\u0436\u0435 \u043b\u0438\u0448\u043d\u0435\u0439 \u0440\u0443\u0447\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438, \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<\/li>\n<\/ul>\n<h3>\u0421\u0442\u0435\u043d\u0434 \u0438 \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n<p>\u0422\u043e\u0442 \u0436\u0435, \u0447\u0442\u043e \u0438 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438, VPS \u043d\u0430 JustHost \u0441 \u0448\u0430\u0431\u043b\u043e\u043d\u043e\u043c Ollama, \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 5 vCPU (Intel Xeon Gold 6148) \u0438 8 \u0413\u0411 RAM, swap 4 \u0413\u0411. \u0421\u0442\u0435\u043a \u0442\u0430\u043a\u0436\u0435 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439: Ubuntu 24.04, Ollama 0.35.0 \u0432 Docker, \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u0435 llama.cpp \u0441\u0431\u043e\u0440\u043a\u0438 161755f29.<\/p>\n<p>\u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama \u044f \u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043a\u0430\u043a \u0432 \u0448\u0430\u0431\u043b\u043e\u043d\u0435: \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u0434\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a \u043d\u0435\u0439 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443, \u0447\u0438\u0441\u043b\u043e \u043f\u043e\u0442\u043e\u043a\u043e\u0432 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0440\u0430\u0432\u043d\u043e \u0447\u0438\u0441\u043b\u0443 \u044f\u0434\u0435\u0440. \u0418\u0437\u043c\u0435\u043d\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0440\u0435\u043c\u044f, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u0438, \u0441 5 \u0434\u043e 30 \u043c\u0438\u043d. Open WebUI \u043d\u0430 \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u0431\u044b\u043b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d, \u043f\u043e\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0435 \u0431\u044b\u043b\u043e. Steal \u044f \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u043b \u0440\u0430\u0437 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443: \u0437\u0430 41 \u0447\u0430\u0441 \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c 0,2%, \u0432 99% \u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0435 \u0432\u044b\u0448\u0435 1%, \u0440\u0430\u0437\u043e\u0432\u044b\u0439 \u043f\u0438\u043a 6,4%. \u0414\u043b\u044f \u0432\u0438\u0440\u0442\u0443\u0430\u043b\u043a\u0438 \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c: \u0441\u043e\u0441\u0435\u0434\u0438 \u043f\u043e \u0445\u043e\u0441\u0442\u0443 \u043d\u0430 \u0437\u0430\u043c\u0435\u0440\u044b \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0432\u043b\u0438\u044f\u043b\u0438.<\/p>\n<p>\u041a \u043c\u043e\u0434\u0435\u043b\u044f\u043c-\u043b\u0438\u0434\u0435\u0440\u0430\u043c \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 (QVikhr-3-4B, qwen3.5:2b \u0438 4b, gemma3:4b, granite4:micro-h) \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u043f\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u043a\u0440\u0443\u043f\u043d\u0435\u0435, \u0432\u0441\u0435 \u0441 Hugging Face \u0432 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 Q4_K_M.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th data-colwidth=\"165\" width=\"165\">\n<p>\u0420\u0430\u0437\u043c\u0435\u0440<\/p>\n<\/th>\n<th data-colwidth=\"163\" width=\"163\">\n<p>\u0424\u0430\u0439\u043b<\/p>\n<\/th>\n<th>\n<p>\u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">10B<\/p>\n<\/td>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">6,5 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">MoE: \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 1,8B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-lite-it-2.1<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">8B<\/p>\n<\/td>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">5,0 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412 \u043e\u0441\u043d\u043e\u0432\u0435 Qwen3, \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0430 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">YandexGPT-5-Lite-8B-instruct<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">8B<\/p>\n<\/td>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">4,9 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u0431\u043e\u0440\u043a\u0430 \u042f\u043d\u0434\u0435\u043a\u0441\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Qwen3-8B<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">8B<\/p>\n<\/td>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">5,0 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GLM-4-9B-0414<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">9B<\/p>\n<\/td>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">6,2 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0430\u043c\u0430\u044f \u0442\u044f\u0436\u0435\u043b\u0430\u044f \u0438\u0437 \u043f\u043b\u043e\u0442\u043d\u044b\u0445<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u043e \u0441\u043e\u0432\u0435\u0442\u0443 \u0438\u0437 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0435\u0432 \u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043f\u043e\u0434 \u0437\u0430\u0434\u0430\u0447\u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0435\u0449\u0435 \u0438 decision-\u043c\u043e\u0434\u0435\u043b\u044c d1-2B \u043e\u0442 Liquid AI (1,9B, Q8_0). \u041e\u043d\u0430 \u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u043a\u0441\u0442, \u0430 \u0437\u0430 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430. d1-2B \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043d\u0430 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 LFM3, \u0438 \u043f\u043e\u0434 \u043d\u0435\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e Ollama 0.40.15. \u0412 \u0445\u043e\u0434\u0435 \u0442\u0435\u0441\u0442\u043e\u0432 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430\u0441\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430. \u041f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0442\u0430\u043b\u0430 \u0437\u0430 \u043f\u0440\u043e\u0445\u043e\u0434 \u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u0434\u043b\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0432 946 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u043b\u043e \u043e\u0448\u0438\u0431\u043a\u0443. \u041f\u043e\u043c\u043e\u0433 <code>num_batch 2048<\/code> \u0432 Modelfile.<\/p>\n<p>\u0411\u0438\u0437\u043d\u0435\u0441-\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0442\u0435 \u0436\u0435, \u0447\u0442\u043e \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438: \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0437\u044b\u0432\u043e\u0432, \u0438\u0437\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u0437\u0430\u044f\u0432\u043a\u0438, \u0441\u0443\u043c\u043c\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f, \u043e\u0431\u044a\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u042f\u043d\u0434\u0435\u043a\u0441 \u0414\u0438\u0440\u0435\u043a\u0442\u0430, \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 CRM \u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439. \u041a \u043d\u0438\u043c \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 (\u043e \u043d\u0435\u0439 \u043d\u0438\u0436\u0435).<\/p>\n<h3>\u041f\u0440\u043e\u0442\u043e\u043a\u043e\u043b, \u043f\u043e\u0432\u0442\u043e\u0440\u044b \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438<\/h3>\n<p>\u0412 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0445\u0430\u0431\u0440\u043e\u0432\u0447\u0430\u043d\u0435 \u0443\u043a\u0430\u0437\u0430\u043b\u0438 \u043d\u0430 \u0441\u043b\u0430\u0431\u044b\u0435 \u043c\u0435\u0441\u0442\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430: \u043d\u0435 \u0431\u044b\u043b\u043e \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432, \u0437\u0430\u043c\u0435\u0440\u043e\u0432 steal \u0438 \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u0431\u0435\u0437 \u043a\u044d\u0448\u0430, \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0431\u044b\u043b\u0438 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c\u0438. \u0412\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u044f \u044d\u0442\u043e \u0438\u0441\u043f\u0440\u0430\u0432\u0438\u043b.<\/p>\n<ul>\n<li>\n<p><strong>\u041e\u0434\u0438\u043d \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/strong> \u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0438 JSON-\u0441\u0445\u0435\u043c\u0430 \u043e\u0442\u0432\u0435\u0442\u0430, <code>temperature 0<\/code>, <code>seed 42<\/code>, \u0440\u0435\u0436\u0438\u043c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d, \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u0434\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c. \u041f\u0435\u0440\u0435\u0434 \u0437\u0430\u043c\u0435\u0440\u043e\u043c \u044f \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430\u043b \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c, \u0430 \u0437\u0430\u0442\u0435\u043c \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443.<\/p>\n<\/li>\n<li>\n<p><strong>\u0421 \u043a\u044d\u0448\u0435\u043c \u0438 \u0431\u0435\u0437.<\/strong> \u0415\u0441\u043b\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0443 \u0432\u0441\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0431\u0449\u0438\u0439, llama.cpp \u043c\u043e\u0436\u0435\u0442 \u0432\u0437\u044f\u0442\u044c \u0443\u0436\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0438\u0437 \u043a\u044d\u0448\u0430. \u0414\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u044d\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f, \u043d\u043e \u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043e\u043d\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u0441\u0438\u043b\u044c\u043d\u043e. \u0412 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0435 <a href=\"https:\/\/arxiv.org\/abs\/2312.07104\" rel=\"noopener nofollow\">SGLang<\/a> \u043d\u0430\u0448\u0435\u043b, \u0447\u0442\u043e \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u043a\u044d\u0448\u0430 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u043e\u0441\u044c \u0432 6 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0440\u0435\u043c\u044f \u044f \u043c\u0435\u0440\u0438\u043b \u0432 \u0434\u0432\u0443\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445: \u0441 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u0438 \u0441 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0435\u0442\u043a\u043e\u0439 \u0432 \u0441\u0430\u043c\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u0430, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043a\u044d\u0448 \u043d\u0435 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b.<\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u043e\u0432\u0442\u043e\u0440\u044b.<\/strong> \u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u043d\u0430 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0434\u0432\u0430\u0436\u0434\u044b. \u0412\u0441\u0435 10 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u0430\u043b\u0438 \u0442\u0435 \u0436\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u043e \u0432\u0441\u0435\u0445 326 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043c\u0435\u0434\u0438\u0430\u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043e\u0442\u043b\u0438\u0447\u0430\u043b\u0430\u0441\u044c \u043d\u0430 0-5%. \u041d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u044f \u0442\u043e\u0436\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u043b \u0434\u0432\u0430\u0436\u0434\u044b: \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u0435 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 10%, \u043a\u0440\u043e\u043c\u0435 qwen3.5:2b (\u043d\u043e \u043e\u0431 \u044d\u0442\u043e\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e).<\/p>\n<\/li>\n<li>\n<p><strong>\u0412\u0440\u0435\u043c\u044f.<\/strong> \u0412\u0440\u0435\u043c\u044f \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u2013 \u043e\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0434\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430, \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u0445 \u043c\u0435\u0434\u0438\u0430\u043d\u0430. \u0412 \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u044f \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u043b \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0438 95-\u0439 \u043f\u0435\u0440\u0446\u0435\u043d\u0442\u0438\u043b\u044c.<\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0430.<\/strong> \u041e\u0434\u0438\u043d, \u0434\u0432\u0430 \u0438\u043b\u0438 \u0447\u0435\u0442\u044b\u0440\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0448\u043b\u044e\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0434\u0440\u0443\u0433 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u043c \u0431\u0435\u0437 \u043f\u0430\u0443\u0437. \u041a\u0430\u0436\u0434\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u0434\u043b\u0438\u0442\u0441\u044f \u043d\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 5 \u043c\u0438\u043d \u0438 40 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u2013 10 \u043c\u0438\u043d \u0438 16 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u2013 \u0447\u0438\u0441\u043b\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441.<\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0430.<\/strong> \u0414\u043b\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044f \u0441\u0447\u0438\u0442\u0430\u043b 95%-\u0435 <a href=\"https:\/\/en.wikipedia.org\/wiki\/Binomial_proportion_confidence_interval#Wilson_score_interval\" rel=\"noopener nofollow\">\u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u044b \u0423\u0438\u043b\u0441\u043e\u043d\u0430<\/a>. \u041c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b \u043f\u0430\u0440\u043d\u044b\u043c <a href=\"https:\/\/en.wikipedia.org\/wiki\/McNemar%27s_test\" rel=\"noopener nofollow\">\u0442\u0435\u0441\u0442\u043e\u043c McNemar<\/a>: \u0432\u0441\u0435 \u043e\u043d\u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u043b\u0438 \u043d\u0430 \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435 \u0436\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f, \u0438 \u0442\u0430\u043a\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u0435\u0435, \u0447\u0435\u043c \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u043e\u0432. \u0422\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u0443\u0435\u0442 \u0434\u0435\u043b\u0430\u0442\u044c Anthropic \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 <a href=\"https:\/\/arxiv.org\/abs\/2411.00640\" rel=\"noopener nofollow\">Adding Error Bars to Evals<\/a>.<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430.<\/strong> \u042d\u0442\u0430\u043b\u043e\u043d \u0434\u043b\u044f 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u0438. \u042f \u0432\u0437\u044f\u043b 50 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0432\u0441\u043b\u0435\u043f\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u043b \u0438\u0445 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043b \u0441 \u044d\u0442\u0430\u043b\u043e\u043d\u043e\u043c: \u0441\u043e\u0432\u043f\u0430\u043b\u043e 45 \u0438\u0437 50.<\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0430\u043d\u043d\u044b\u0435 \u0438 \u043a\u043e\u0434.<\/strong> \u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b, \u0441\u043a\u0440\u0438\u043f\u0442\u044b \u0438 \u0441\u044b\u0440\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043b\u0435\u0436\u0430\u0442 \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438: <a href=\"http:\/\/github.com\/alvec7\/llm-cpu-bench\" rel=\"noopener nofollow\">github.com\/alvec7\/llm-cpu-bench<\/a>.<\/p>\n<\/li>\n<\/ul>\n<h3>\u041f\u0430\u043c\u044f\u0442\u044c \u0432\u0430\u0436\u043d\u0435\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430<\/h3>\n<p>\u041d\u0430 8 \u0413\u0411 RAM \u044f \u0437\u0430\u043d\u043e\u0432\u043e \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043b\u0438\u0434\u0435\u0440\u043e\u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043d\u0430 \u0442\u0440\u0435\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445: \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u0440\u0435\u0437\u044e\u043c\u0435 \u0438 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439. \u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430\u0441\u044c (\u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u043e\u0434\u043d\u043e\u0433\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u0430), \u0437\u0430\u0442\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445. \u041d\u0430 4 \u0413\u0411 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 4B \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043d\u0435 \u043f\u043e\u043c\u0435\u0449\u0430\u043b\u0430\u0441\u044c \u0432 \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0433\u043e\u043d\u044f\u043b\u0430 \u0434\u0430\u043d\u043d\u044b\u0435 \u0447\u0435\u0440\u0435\u0437 swap. \u041d\u0430 8 \u0413\u0411 RAM \u043e\u0431\u043c\u0435\u043d \u0441\u043e swap \u0443 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u0447\u0442\u0438 \u043f\u0440\u0435\u043a\u0440\u0430\u0442\u0438\u043b\u0441\u044f:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430<\/p>\n<\/th>\n<th>\n<p>\u0412\u0440\u0435\u043c\u044f, 4 \u0413\u0411 \u2192 8 \u0413\u0411<\/p>\n<\/th>\n<th>\n<p>\u041e\u0431\u043c\u0435\u043d \u0441\u043e swap, 4 \u0413\u0411 \u2192 8 \u0413\u0411<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">94 \u2192 73 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">9,1 \u0413\u0411 \u2192 43 \u041c\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">qwen3.5:4b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">69 \u2192 56 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,9 \u0413\u0411 \u2192 11 \u041c\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">181 \u2192 158 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,7 \u0413\u0411 \u2192 9 \u041c\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">gemma3:4b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">82 \u2192 73 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,7 \u0413\u0411 \u2192 5 \u041c\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">gemma3:4b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u0430\u0434\u0430\u043b\u0430 \u2192 51 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u0430\u0434\u0430\u043b\u0430 \u2192 2,0 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0412\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043e\u0431\u044a\u0435\u043c \u043e\u0431\u043c\u0435\u043d\u0430 \u0441\u043e swap \u043d\u0430 4 \u0413\u0411 \u0438 8 \u0413\u0411 RAM.<\/em><\/p>\n<p>\u0423 gemma3:4b \u043d\u0430 4 \u0413\u0411 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439 \u0441 \u0431\u0430\u0437\u043e\u0439 \u0437\u043d\u0430\u043d\u0438\u0439 \u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u043b \u0434\u043e \u043a\u043e\u043d\u0446\u0430: \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u043b\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043f\u043e \u043d\u0435\u0445\u0432\u0430\u0442\u043a\u0435 \u043f\u0430\u043c\u044f\u0442\u0438. \u041d\u0430 8 \u0413\u0411 \u043e\u043d\u0430 \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430 \u0432\u0435\u0440\u043d\u043e \u043d\u0430 14 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0438\u0437 15, \u043d\u043e \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u0430\u043b\u0430 \u0432 swap \u043e\u043a\u043e\u043b\u043e 2 \u0413\u0411.<\/p>\n<p>\u0417\u0430\u043c\u0435\u0440\u044b \u043d\u0430 4 \u0438 8 \u0413\u0411 \u044f \u0434\u0435\u043b\u0430\u043b \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0434\u043d\u0438. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441 \u043f\u0430\u043c\u044f\u0442\u044c\u044e \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0441\u044f \u043f\u044f\u0442\u044b\u0439 vCPU, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f. \u0412\u043a\u043b\u0430\u0434 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u044f \u0438\u0437\u043c\u0435\u0440\u0438\u043b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e: \u043d\u0430 \u0442\u043e\u043c \u0436\u0435 VPS \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u043b Ollama \u043e\u0442 \u043e\u0434\u043d\u043e\u0433\u043e \u0434\u043e \u043f\u044f\u0442\u0438 \u043f\u043e\u0442\u043e\u043a\u043e\u0432 \u0438 \u0433\u043e\u043d\u044f\u043b \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 1000 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043f\u043e \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435.\u00a0<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041f\u043e\u0442\u043e\u043a\u0438<\/p>\n<\/th>\n<th>\n<p>QVikhr-3-4B<\/p>\n<\/th>\n<th>\n<p>qwen3.5:4b<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">1<\/p>\n<\/td>\n<td>\n<p align=\"left\">7,8 \/ 1,7<\/p>\n<\/td>\n<td>\n<p align=\"left\">7,9 \/ 2,1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">2<\/p>\n<\/td>\n<td>\n<p align=\"left\">15,1 \/ 3,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">15,4 \/ 3,6<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">3<\/p>\n<\/td>\n<td>\n<p align=\"left\">21,7 \/ 4,1<\/p>\n<\/td>\n<td>\n<p align=\"left\">22,1 \/ 4,8<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4<\/p>\n<\/td>\n<td>\n<p align=\"left\">29,3 \/ 5,2<\/p>\n<\/td>\n<td>\n<p align=\"left\">28,4 \/ 5,9<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">5<\/p>\n<\/td>\n<td>\n<p align=\"left\">35,4 \/ 5,7<\/p>\n<\/td>\n<td>\n<p align=\"left\">35,6 \/ 6,5<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0447\u0438\u0441\u043b\u0430 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, \u0442\u043e\u043a\/\u0441\u0435\u043a.<\/em><\/p>\n<p>\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0440\u043e\u0441\u043b\u0430 \u043f\u043e\u0447\u0442\u0438 \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u0447\u0438\u0441\u043b\u0443 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, \u0438 \u043d\u0430 \u043f\u044f\u0442\u0438 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u0438\u044f \u043d\u0435 \u0431\u044b\u043b\u043e. \u041f\u044f\u0442\u044b\u0439 \u043f\u043e\u0442\u043e\u043a \u0434\u043e\u0431\u0430\u0432\u0438\u043b 20-25% \u043a \u0447\u0442\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u043e\u043a\u043e\u043b\u043e 10% \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u043b\u0430\u0441\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0443\u043f\u0438\u0440\u0430\u043b\u0430\u0441\u044c \u0435\u0449\u0435 \u0438 \u0432 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438. \u0414\u043b\u044f LLM \u044d\u0442\u043e \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u0435 \u0443\u0437\u043a\u043e\u0435 \u043c\u0435\u0441\u0442\u043e, \u0441\u043c. \u043e\u0431\u0437\u043e\u0440 <a href=\"https:\/\/arxiv.org\/abs\/2402.16363\" rel=\"noopener nofollow\">LLM Inference Unveiled<\/a>.<\/p>\n<p>\u041d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043b \u0432\u0441\u0435\u0433\u043e \u0438\u0437 12 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0438 8 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043d\u0430 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u0422\u0435\u043f\u0435\u0440\u044c \u0438\u0445 \u0441\u0442\u0430\u043b\u043e \u043d\u0435 \u043c\u0435\u043d\u0435\u0435 40 \u0438 16 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e.<\/p>\n<p>\u041a\u043e\u0440\u043e\u0442\u043a\u0438\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0434\u0432\u0430\u0436\u0434\u044b. \u0412 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0441\u0440\u0435\u0434\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432 \u0438\u043b\u0438 \u043e\u0431\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0447\u0435\u0440\u0435\u0437 \u0434\u0435\u0444\u0438\u0441, \u0435\u0441\u043b\u0438 \u043e\u043d\u0438 \u0440\u0430\u0437\u043e\u0448\u043b\u0438\u0441\u044c. p50 \u2013 \u043e\u0431\u044b\u0447\u043d\u043e\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043e\u0442\u0432\u0435\u0442\u0430, p95 \u2013 \u0434\u043e\u043b\u044c\u0448\u0435 \u044d\u0442\u043e\u0433\u043e \u0436\u0434\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e 5% \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p>\u041a\u044d\u0448<\/p>\n<\/th>\n<th data-colwidth=\"165\" width=\"165\">\n<p>\u0417\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441: 1 \/ 2 \/ 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430<\/p>\n<\/th>\n<th data-colwidth=\"160\" width=\"160\">\n<p>\u041e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043f\u0440\u0438 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445, p50 \/ p95<\/p>\n<\/th>\n<th>\n<p>\u0421\u0431\u043e\u0438<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td rowspan=\"2\">\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~990 \/ ~870 \/ ~840<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">17 \/ 19-20 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u0435\u0437 \u043a\u044d\u0448\u0430<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~295 \/ ~290 \/ ~300<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">47 \/ 49-53 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td rowspan=\"2\">\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~820 \/ ~790 \/ ~760<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">19 \/ 20-21 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u0435\u0437 \u043a\u044d\u0448\u0430<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~305 \/ ~325 \/ ~310<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">46 \/ 50-51 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td rowspan=\"2\">\n<p align=\"left\">qwen3.5:2b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">\u043e\u0442 560 \u0434\u043e 1540<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">10 \/ 11-28 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u0435\u0437 \u043a\u044d\u0448\u0430<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~520 \/ ~520 \/ ~520<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">27-28 \/ 29-30 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td rowspan=\"2\">\n<p align=\"left\">qwen3.5:4b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~345 \/ ~330 \/ ~360<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">41-42 \/ 43-44 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u0435\u0437 \u043a\u044d\u0448\u0430<\/p>\n<\/td>\n<td data-colwidth=\"165\" width=\"165\">\n<p align=\"left\">~315 \/ ~320 \/ ~305<\/p>\n<\/td>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\">45-47 \/ 48-50 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">6 \u0438\u0437 ~250<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0434\u043b\u044f \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043d\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439: \u043e\u043a\u043e\u043b\u043e 350 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0438 7-8 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435.<\/em><\/p>\n<p>\u0427\u0442\u043e \u0432\u0438\u0434\u043d\u043e:<\/p>\n<ul>\n<li>\n<p>\u0421 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c QVikhr \u0438 GigaChat \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0438 750-1000 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441, \u0431\u0435\u0437 \u043a\u044d\u0448\u0430 \u2013 \u043e\u043a\u043e\u043b\u043e 300. \u041a\u044d\u0448 \u0443 \u043d\u0438\u0445 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b \u0441 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p>\u0423 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0445 qwen3.5 \u043a\u044d\u0448 \u0432\u0435\u043b \u0441\u0435\u0431\u044f \u043d\u0435\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e. qwen3.5:2b \u043f\u0435\u0440\u0432\u044b\u0435 116 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0447\u0438\u0442\u0430\u043b\u0430 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0437\u0430\u043d\u043e\u0432\u043e (\u043e\u043a\u043e\u043b\u043e 6,4 \u0441\u0435\u043a \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441), \u0430 \u043f\u043e\u0442\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u0430 \u0431\u0440\u0430\u0442\u044c \u0435\u0433\u043e \u0438\u0437 \u043a\u044d\u0448\u0430 (2,2 \u0441\u0435\u043a). \u041e\u0442\u0441\u044e\u0434\u0430 \u0440\u0430\u0437\u0431\u0440\u043e\u0441 \u043e\u0442 560 \u0434\u043e 1540 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441. qwen3.5:4b \u0432 \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u0442\u0430\u043a \u0438 \u043d\u0435 \u043d\u0430\u0447\u0430\u043b\u0430 \u0431\u0440\u0430\u0442\u044c \u043f\u0440\u043e\u043c\u043f\u0442 \u0438\u0437 \u043a\u044d\u0448\u0430, \u0445\u043e\u0442\u044f \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u043d\u0430 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u043b\u0430. \u042d\u0442\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430\u044f \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439: \u043a\u044d\u0448 \u0443 \u043d\u0438\u0445 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438 \u0442\u043e\u0447\u043d\u043e\u043c \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0438 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u0438 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439 (<a href=\"https:\/\/arxiv.org\/abs\/2411.19379\" rel=\"noopener nofollow\">Marconi, 2024<\/a>).<\/p>\n<\/li>\n<li>\n<p>\u041a\u043e\u0433\u0434\u0430 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e \u0434\u0432\u0430 \u0438\u043b\u0438 \u0447\u0435\u0442\u044b\u0440\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430, \u0437\u0430 \u0447\u0430\u0441 \u043e\u043d \u0443\u0441\u043f\u0435\u0432\u0430\u043b \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u043a\u043e\u0433\u0434\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u0438 \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443. Ollama \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0432 \u043f\u043e\u0440\u044f\u0434\u043a\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445 \u043a\u0430\u0436\u0434\u044b\u0439 \u0436\u0434\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u0447\u0435\u0442\u0432\u0435\u0440\u043e \u0434\u043e\u043b\u044c\u0448\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0412\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u043f\u043e\u0447\u0442\u0438 \u0440\u0430\u0432\u043d\u044f\u043b\u043e\u0441\u044c \u043f\u043e\u043b\u043d\u043e\u043c\u0443: \u043e\u0442\u0432\u0435\u0442 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439, \u0438 \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0443\u0445\u043e\u0434\u0438\u043b\u0430 \u043d\u0430 \u0447\u0442\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u0430.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u044f \u043f\u0440\u043e\u0432\u0435\u043b \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u2013 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439, \u043e\u043a\u043e\u043b\u043e 2500 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u0445\u043e\u0434\u0435. \u0417\u0434\u0435\u0441\u044c \u043a\u044d\u0448 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u0442, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0434\u0438\u043d \u0440\u0435\u0436\u0438\u043c \u0438 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th data-colwidth=\"177\" width=\"177\">\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th data-colwidth=\"215\" width=\"215\">\n<p>\u0417\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441: 1 \/ 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430<\/p>\n<\/th>\n<th data-colwidth=\"216\" width=\"216\">\n<p>\u041e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043f\u0440\u0438 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445, p50<\/p>\n<\/th>\n<th>\n<p>\u0421\u0431\u043e\u0438<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">qwen3.5:2b<\/p>\n<\/td>\n<td data-colwidth=\"215\" width=\"215\">\n<p align=\"left\">104 \/ 105<\/p>\n<\/td>\n<td data-colwidth=\"216\" width=\"216\">\n<p align=\"left\">2,2 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">qwen3.5:4b<\/p>\n<\/td>\n<td data-colwidth=\"215\" width=\"215\">\n<p align=\"left\">64 \/ 62<\/p>\n<\/td>\n<td data-colwidth=\"216\" width=\"216\">\n<p align=\"left\">3,7 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td data-colwidth=\"215\" width=\"215\">\n<p align=\"left\">56 \/ 55<\/p>\n<\/td>\n<td data-colwidth=\"216\" width=\"216\">\n<p align=\"left\">4,2 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td data-colwidth=\"215\" width=\"215\">\n<p align=\"left\">48 \/ 48<\/p>\n<\/td>\n<td data-colwidth=\"216\" width=\"216\">\n<p align=\"left\">4,9 \u043c\u0438\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432: \u043e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439, \u043e\u043a\u043e\u043b\u043e 2500 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u0445\u043e\u0434\u0435.<\/em><\/p>\n<p>\u0421\u0431\u043e\u0435\u0432 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u043d\u0435 \u0431\u044b\u043b\u043e, \u043d\u043e \u043f\u0440\u0438 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445 \u043f\u0430\u043c\u044f\u0442\u044c \u0434\u043e\u0445\u043e\u0434\u0438\u043b\u0430 \u0434\u043e 7,7 \u0413\u0411, \u0438 \u0441\u0435\u0440\u0432\u0435\u0440 \u0441\u043d\u043e\u0432\u0430 \u043f\u0438\u0441\u0430\u043b \u0432 swap (QVikhr \u0434\u043e 5,9 \u0413\u0411 \u0437\u0430 \u0443\u0440\u043e\u0432\u0435\u043d\u044c). \u041f\u0440\u0438\u0447\u0438\u043d\u0443 \u044f \u0432 \u0438\u0442\u043e\u0433\u0435 \u043d\u0430\u0448\u0435\u043b, \u043e\u0431 \u044d\u0442\u043e\u043c \u043d\u0438\u0436\u0435.<\/p>\n<h3>\u041d\u0430 \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0435 \u043e\u0446\u0435\u043d\u0438\u0442\u044c<\/h3>\n<p>\u0412 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0432 \u0442\u0435\u0441\u0442\u0435 \u043d\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u0447\u0435\u0442\u044b\u0440\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0435\u0440\u043d\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043b\u0438 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e \u0443 \u0432\u0441\u0435\u0445 20 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439. \u041d\u043e \u043d\u0430 \u0442\u0430\u043a\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u044d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u043b\u043e \u043b\u0438\u0448\u044c, \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0441 95%-\u0439 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e \u043d\u0435 \u043d\u0438\u0436\u0435 84%. \u0427\u0442\u043e\u0431\u044b \u0443\u0437\u043d\u0430\u0442\u044c \u0442\u043e\u0447\u043d\u0435\u0435, \u0431\u044b\u043b \u043d\u0443\u0436\u0435\u043d \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0441 \u0441\u043e\u0442\u043d\u044f\u043c\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432.<\/p>\n<p><strong>\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430.<\/strong> \u041d\u0430\u0441\u0442\u043e\u044f\u0449\u0438\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432 \u043c\u043e\u0433\u0443\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u044f \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b 327 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 DeepSeek V4.1 Flash: \u0448\u0435\u0441\u0442\u044c \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0439, \u0442\u0440\u0438 \u0443\u0440\u043e\u0432\u043d\u044f \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0438 \u0448\u0435\u0441\u0442\u044c \u0441\u0442\u0438\u043b\u0435\u0439 \u2013 \u043e\u0442 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u0432 \u0447\u0430\u0442\u0435 \u0441 \u043e\u043f\u0435\u0447\u0430\u0442\u043a\u0430\u043c\u0438 \u0434\u043e \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043e\u043a \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u044b\u0445. \u0412 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u0431\u044b\u043b\u0438 \u0441\u043c\u0435\u0448\u0430\u043d\u044b \u0434\u0432\u0435 \u0442\u0435\u043c\u044b, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 \u0436\u0430\u043b\u043e\u0431\u0430 \u043d\u0430 \u043a\u0443\u0440\u044c\u0435\u0440\u0430 \u0438 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0441\u0440\u043e\u043a\u0430\u0445 \u0434\u043e\u0441\u0442\u0430\u0432\u043a\u0438.<\/p>\n<p><strong>\u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430.<\/strong> \u041e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u0443\u044e \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e \u044f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b \u0434\u0432\u0443\u043c\u044f \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438, DeepSeek V4 Pro \u0438 MiMo V2.6 Pro, \u0441 \u0442\u0435\u043c \u0436\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c, \u0447\u0442\u043e \u0438 \u0443 \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c\u044b\u0445. \u0417\u0430 \u044d\u0442\u0430\u043b\u043e\u043d \u0431\u0440\u0430\u043b \u0442\u0443 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u043e\u0433\u043b\u0430\u0441\u0438\u043b\u0438\u0441\u044c \u0445\u043e\u0442\u044f \u0431\u044b \u0434\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437 \u0442\u0440\u0435\u0445. \u0412 297 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u044e\u0449\u0435\u0439 \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u044e\u0449\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u043e\u0432\u043f\u0430\u043b\u0438. 29 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0443\u044e \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e. \u041e\u0434\u043d\u043e \u044f \u0432\u044b\u0431\u0440\u043e\u0441\u0438\u043b, \u0442\u0430\u043a \u043a\u0430\u043a \u0442\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u0437\u0432\u0430\u043b\u0438 \u043a\u0430\u0436\u0434\u0430\u044f \u0441\u0432\u043e\u044e \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e. \u0412 \u0438\u0442\u043e\u0433\u0435 \u0432 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u0434\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u044d\u0442\u0430\u043b\u043e\u043d\u0443 \u043e\u0442 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u044f \u0432\u0437\u044f\u043b 50 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0438 \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u043b \u0438\u0445 \u0432\u0441\u043b\u0435\u043f\u0443\u044e \u0441\u0430\u043c. \u0421 \u044d\u0442\u0430\u043b\u043e\u043d\u043e\u043c \u044f \u0441\u043e\u0432\u043f\u0430\u043b \u0432 45 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0438\u0437 50 (90%, \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b 79-96%). \u0414\u0430\u0436\u0435 \u0441 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u043e\u0439 \u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044f \u0441\u043e\u0433\u043b\u0430\u0441\u0438\u0435 \u043f\u043e\u0447\u0442\u0438 \u043f\u043e\u043b\u043d\u043e\u0435: <a href=\"https:\/\/en.wikipedia.org\/wiki\/Cohen%27s_kappa\" rel=\"noopener nofollow\">\u043a\u0430\u043f\u043f\u0430 \u041a\u043e\u044d\u043d\u0430<\/a> \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 0,88. \u042d\u0442\u043e \u0441\u043e\u0433\u043b\u0430\u0441\u0443\u0435\u0442\u0441\u044f \u0441 <a href=\"https:\/\/arxiv.org\/abs\/2303.15056\" rel=\"noopener nofollow\">\u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0426\u044e\u0440\u0438\u0445\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430<\/a>: \u0442\u0430\u043c ChatGPT \u0432 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0438\u0437 \u043f\u044f\u0442\u0438 \u0440\u0430\u0437\u043c\u0435\u0447\u0430\u043b \u0442\u0435\u043a\u0441\u0442\u044b \u0442\u043e\u0447\u043d\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u0435\u0439 \u0441 \u043a\u0440\u0430\u0443\u0434\u0441\u043e\u0440\u0441\u0438\u043d\u0433\u043e\u0432\u043e\u0439 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b. \u0412\u0441\u0435 \u043f\u044f\u0442\u044c \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u0439 \u043f\u0440\u0438\u0448\u043b\u0438\u0441\u044c \u043d\u0430 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f, \u0433\u0434\u0435 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u0449\u0438\u0442\u0438\u0442\u044c \u043e\u0431\u0435 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0431\u0440\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043f\u044b\u043b\u0435\u0441\u043e\u0441 \u0438 \u0433\u0440\u0443\u0431\u044b\u0439 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u0432 \u043e\u0434\u043d\u043e\u043c \u0444\u043b\u0430\u043a\u043e\u043d\u0435 \u2013 \u044d\u0442\u043e \u0432\u043e\u0437\u0432\u0440\u0430\u0442 \u0438\u043b\u0438 \u0436\u0430\u043b\u043e\u0431\u0430? \u0421\u0443\u0434\u0438\u0442\u0435 \u0441\u0430\u043c\u0438.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th data-colwidth=\"132\" width=\"132\">\n<p>20 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439<\/p>\n<\/th>\n<th data-colwidth=\"130\" width=\"130\">\n<p>326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439<\/p>\n<\/th>\n<th>\n<p>95%-\u0439 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b<\/p>\n<\/th>\n<th>\n<p>\u0412\u0440\u0435\u043c\u044f, \u043e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/th>\n<th>\n<p>\u0412\u0440\u0435\u043c\u044f, \u0431\u0435\u0437 \u043a\u044d\u0448\u0430<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GLM-4-9B<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">95%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">92,0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">88,6-94,5%<\/p>\n<\/td>\n<td>\n<p align=\"left\">7,6 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">24,0 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">qwen3.5:4b<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">91,4%<\/p>\n<\/td>\n<td>\n<p align=\"left\">87,9-94,0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,5 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,0 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">89,9%<\/p>\n<\/td>\n<td>\n<p align=\"left\">86,1-92,7%<\/p>\n<\/td>\n<td>\n<p align=\"left\">3,8 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">12,4 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">qwen3.5:2b<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">89,6%<\/p>\n<\/td>\n<td>\n<p align=\"left\">85,8-92,4%<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,9 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,8 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-lite-it-2.1<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">89,0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">85,1-91,9%<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,7 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">16,4 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">granite4:micro-h<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">\u2013<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">88,0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">84,1-91,1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">10,9 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">13,7 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Qwen3-8B<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">87,7%<\/p>\n<\/td>\n<td>\n<p align=\"left\">83,7-90,9%<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,9 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">21,9 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">gemma3:4b<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">87,4%<\/p>\n<\/td>\n<td>\n<p align=\"left\">83,4-90,6%<\/p>\n<\/td>\n<td>\n<p align=\"left\">8,8 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">9,4 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">d1-2B (decision-\u043c\u043e\u0434\u0435\u043b\u044c)<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">\u2013<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">87,1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">83,0-90,3%<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,6 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,6 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">100%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">86,8%<\/p>\n<\/td>\n<td>\n<p align=\"left\">82,7-90,1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,5 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,0 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">YandexGPT-5-Lite-8B<\/p>\n<\/td>\n<td data-colwidth=\"132\" width=\"132\">\n<p align=\"left\">75%<\/p>\n<\/td>\n<td data-colwidth=\"130\" width=\"130\">\n<p align=\"left\">72,1%<\/p>\n<\/td>\n<td>\n<p align=\"left\">67,0-76,7%<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,2 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,3 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0438 \u0432\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u043f\u0440\u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438<\/em> <em>\u043d\u0430 20 \u0438 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445.<\/em><\/p>\n<p>\u0412 \u0441\u0442\u043e\u043b\u0431\u0446\u0430\u0445 \u0441\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043c\u0435\u0434\u0438\u0430\u043d\u043d\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430: \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u0421 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u044f \u043c\u0435\u0440\u0438\u043b \u0435\u0433\u043e \u043d\u0430 \u0432\u0441\u0435\u0445 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445, \u0431\u0435\u0437 \u043a\u044d\u0448\u0430 \u043d\u0430 50 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445. \u0423 d1-2B \u0432 \u043e\u0431\u043e\u0438\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u0430\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e \u0432\u0441\u0435\u043c 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u043c, \u043a\u044d\u0448 \u043d\u0430 \u043d\u0435\u0435 \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u0442.<\/p>\n<p>\u0427\u0442\u043e \u0442\u0443\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0433\u043e:<\/p>\n<ul>\n<li>\n<p><strong>\u00ab20 \u0438\u0437 20\u00bb \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u0443\u0435\u0442.<\/strong> \u0412\u0441\u0435 \u0441\u0435\u043c\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u044b\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u043d\u0430 \u043c\u0430\u043b\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043e\u0448\u0438\u0431\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 \u043e\u0434\u043d\u043e\u043c \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0438 \u0438\u0437 \u0434\u0435\u0441\u044f\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>\u041b\u0438\u0434\u0435\u0440\u043e\u0432 \u043d\u0435\u043b\u044c\u0437\u044f \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c.<\/strong> \u042f \u0441\u0440\u0430\u0432\u043d\u0438\u043b \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0435\u0440\u0432\u043e\u0439 \u043f\u044f\u0442\u0435\u0440\u043a\u0438 \u043f\u043e\u043f\u0430\u0440\u043d\u043e \u043d\u0430 \u043e\u0434\u043d\u0438\u0445 \u0438 \u0442\u0435\u0445 \u0436\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445: \u043d\u0438 \u043e\u0434\u043d\u0430 \u043f\u0430\u0440\u0430 \u043d\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u043e. \u0417\u043d\u0430\u0447\u0438\u0442, \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0442\u043e\u0438\u0442 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438 \u043f\u0430\u043c\u044f\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>\u0423 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043a\u044d\u0448 \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u043e\u0442\u0432\u0435\u0442 \u0432 2-3 \u0440\u0430\u0437\u0430.<\/strong> QVikhr \u0441 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u043e\u0442\u0432\u0435\u0447\u0430\u043b\u0430 \u0437\u0430 3,8 \u0441\u0435\u043a, \u0430 \u0431\u0435\u0437 \u043a\u044d\u0448\u0430 \u0432\u0442\u0440\u043e\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u2013 \u0437\u0430 12,4 \u0441\u0435\u043a. qwen3.5:2b \u0431\u0435\u0437 \u043a\u044d\u0448\u0430 \u0437\u0430\u043c\u0435\u0434\u043b\u0438\u043b\u0430\u0441\u044c \u0432\u0434\u0432\u043e\u0435, \u0441 2,9 \u0434\u043e 6,8 \u0441\u0435\u043a. \u0418\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u2013 gemma3, granite \u0438 YandexGPT: \u0443 \u043d\u0438\u0445 \u043a\u044d\u0448 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0434\u0430\u043b.<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u0430\u0437\u043c\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f.<\/strong> \u041b\u0443\u0447\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 9B \u043e\u0431\u043e\u0433\u043d\u0430\u043b\u0430 \u043b\u0443\u0447\u0448\u0443\u044e \u043d\u0430 4B \u043c\u0435\u043d\u044c\u0448\u0435 \u0447\u0435\u043c \u043d\u0430 \u043f\u0443\u043d\u043a\u0442, \u0430 \u0432\u0441\u0435 \u0442\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8B \u043e\u043a\u0430\u0437\u0430\u043b\u0438\u0441\u044c \u0432 \u0440\u0435\u0439\u0442\u0438\u043d\u0433\u0435 \u043d\u0438\u0436\u0435 \u043b\u0438\u0434\u0435\u0440\u043e\u0432 \u043d\u0430 4B.<\/p>\n<\/li>\n<\/ul>\n<p>d1-2B \u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u043d\u0430 \u0442\u0435\u0445 \u0436\u0435 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u0438 \u0441 \u0442\u0435\u043c\u0438 \u0436\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f\u043c\u0438 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0439, \u0447\u0442\u043e \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u2013 284 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u0430 \u0438\u0437 326 \u043f\u0440\u0438 6,6 \u0441\u0435\u043a \u043d\u0430 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435. \u041f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044d\u0442\u043e \u0443\u0440\u043e\u0432\u0435\u043d\u044c GigaChat \u0438 gemma3, \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u043e d1-2B \u0443\u0441\u0442\u0443\u043f\u0438\u043b\u0430 \u0442\u043e\u043b\u044c\u043a\u043e GLM-4-9B \u0438 qwen3.5:4b.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 d1-2B \u043e\u0442 LLM \u2013 \u043e\u043d\u0430 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0432\u0435\u0442\u0430. \u0418 \u0435\u0439 \u043c\u043e\u0436\u043d\u043e \u0432\u0435\u0440\u0438\u0442\u044c: \u0432 151 \u043e\u0442\u0432\u0435\u0442\u0435 \u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0442 0,97 \u043d\u0435 \u0431\u044b\u043b\u043e \u043d\u0438 \u043e\u0434\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0438. \u0415\u0441\u043b\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443 \u0432\u0441\u0435, \u0433\u0434\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0438\u0436\u0435 0,9, \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0430\u043c\u0430 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0435\u0442 69% \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 97,3%, \u0430 \u043e\u0441\u0442\u0430\u0432\u0448\u0438\u0439\u0441\u044f 31% \u0443\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 \u0440\u0443\u0447\u043d\u0443\u044e \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443. \u0414\u043b\u044f \u0441\u0430\u043f\u043f\u043e\u0440\u0442\u0430, \u0433\u0434\u0435 \u043e\u0448\u0438\u0431\u043a\u0430 \u0434\u043e\u0440\u043e\u0436\u0435 \u043b\u0438\u0448\u043d\u0435\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0440\u0443\u043a\u0430\u043c\u0438, \u044d\u0442\u043e \u0441\u0438\u043b\u044c\u043d\u044b\u0439 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442.<\/p>\n<h3>\u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-10B \u043d\u0435 \u043e\u043f\u0440\u0430\u0432\u0434\u0430\u043b\u0438 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0439<\/h3>\n<p>\u0421 8 \u0413\u0411 \u0432 \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043e\u043c\u0435\u0441\u0442\u0438\u043b\u0438\u0441\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0432 \u043d\u0435\u0435 \u043d\u0435 \u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u043b\u0438\u0441\u044c, \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u0442\u0440\u0438 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0435. \u041d\u0430 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u043e\u043d\u0438 \u0441\u0440\u0430\u0432\u043d\u044f\u043b\u0438\u0441\u044c \u0441 4B (\u0441\u043c. \u0442\u0430\u0431\u043b\u0438\u0446\u0443 \u0432\u044b\u0448\u0435). \u041d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u0442\u0430\u043a\u0430\u044f:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p>\u041e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439<\/p>\n<\/th>\n<th>\n<p>\u0412\u0440\u0435\u043c\u044f \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441<\/p>\n<\/th>\n<th>\n<p>\u0420\u0435\u0437\u044e\u043c\u0435: \u0444\u0430\u043a\u0442\u043e\u0432 \u0438\u0437 32<\/p>\n<\/th>\n<th>\n<p>\u0412\u0440\u0435\u043c\u044f \u043d\u0430 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-lite-it-2.1<\/p>\n<\/td>\n<td>\n<p align=\"left\">15 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">88 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">27<\/p>\n<\/td>\n<td>\n<p align=\"left\">172 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Qwen3-8B<\/p>\n<\/td>\n<td>\n<p align=\"left\">15 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">120 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">20<\/p>\n<\/td>\n<td>\n<p align=\"left\">195 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">63 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">22<\/p>\n<\/td>\n<td>\n<p align=\"left\">110 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GLM-4-9B<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">117 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">19<\/p>\n<\/td>\n<td>\n<p align=\"left\">197 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">YandexGPT-5-Lite-8B<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">82 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">19<\/p>\n<\/td>\n<td>\n<p align=\"left\">194 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><em>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f:<\/em> qwen3.5:4b<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">56 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">28<\/p>\n<\/td>\n<td>\n<p align=\"left\">90 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><em>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f:<\/em> qwen3.5:2b<\/p>\n<\/td>\n<td>\n<p align=\"left\">14 \u0438\u0437 15<\/p>\n<\/td>\n<td>\n<p align=\"left\">34 \u0441\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">20<\/p>\n<\/td>\n<td>\n<p align=\"left\">50 \u0441\u0435\u043a<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u041e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439 \u0438 \u0440\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u043d\u0430 8-10B \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438 \u0441 qwen3.5.<\/em><\/p>\n<p>\u041d\u0430 \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435 \u0441\u043f\u0440\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e. \u0412 \u0440\u0435\u0437\u044e\u043c\u0435 \u043b\u0443\u0447\u0448\u0435 \u0434\u0440\u0443\u0433\u0438\u0445 \u0431\u044b\u043b\u0430 T-lite, \u043e\u043d\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 qwen3.5:4b. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-9B \u043e\u0442\u0432\u0435\u0447\u0430\u043b\u0438 \u0432 1,5-2 \u0440\u0430\u0437\u0430 \u0434\u043e\u043b\u044c\u0448\u0435 qwen3.5:4b, \u0430 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043d\u0438 \u043e\u0434\u043d\u0430 \u0438\u0437 \u043d\u0438\u0445 \u043d\u0435 \u0434\u0430\u043b\u0430. \u0412\u044b\u0431\u043e\u0440\u043a\u0438 \u0431\u044b\u043b\u0438 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0442\u0441\u044f. \u041f\u0435\u0440\u0435\u0432\u0435\u0441 T-lite \u0432 \u0444\u0430\u043a\u0442\u0430\u0445 \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u043d\u0430\u0437\u0432\u0430\u0442\u044c \u0442\u0435\u043d\u0434\u0435\u043d\u0446\u0438\u0435\u0439, \u0430 \u043d\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u043e\u043c.<\/p>\n<p>GigaChat 3.1 Lightning \u0441\u0442\u0430\u043b\u0430 \u0441\u0430\u043c\u043e\u0439 \u0431\u044b\u0441\u0442\u0440\u043e\u0439 \u0438\u0437 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0423 \u043d\u0435\u0435 10B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043d\u043e \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e 1,8B (\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 MoE). \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 8,7 \u0442\u043e\u043a\/\u0441, \u0430 \u043f\u043b\u043e\u0442\u043d\u044b\u0435 8B-\u043c\u043e\u0434\u0435\u043b\u0438 \u2013 \u043e\u043a\u043e\u043b\u043e 5 \u0442\u043e\u043a\/\u0441. \u0412\u0441\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043b\u0435\u0436\u0430\u0442 \u0432 \u043f\u0430\u043c\u044f\u0442\u0438, \u0442\u0430\u043a \u0447\u0442\u043e \u043f\u043e \u043e\u0431\u044a\u0435\u043c\u0443 \u043e\u043d\u0430 \u0441\u0430\u043c\u0430\u044f \u0442\u044f\u0436\u0435\u043b\u0430\u044f: 6,5 \u0413\u0411. \u0422\u043e\u0442 \u0436\u0435 \u043f\u0440\u0438\u043d\u0446\u0438\u043f \u0443 <a href=\"https:\/\/arxiv.org\/abs\/2401.04088\" rel=\"noopener nofollow\">Mixtral 8x7B<\/a> \u043e\u0442 Mistral: \u0438\u0437 47B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 13B.<\/p>\n<p>\u041f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 GigaChat \u043f\u0440\u043e\u0448\u043b\u0430 \u0442\u043e\u0442 \u0436\u0435 \u0442\u0435\u0441\u0442, \u0447\u0442\u043e \u0438 4B-\u043c\u043e\u0434\u0435\u043b\u0438 (\u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443). \u041d\u0430 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0441 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u043e\u043d\u0430 \u0431\u044b\u043b\u0430 \u043d\u0430 10-20% \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 QVikhr, \u0430 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u0431\u044b\u0441\u0442\u0440\u0435\u0435: 56 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 48. GLM-4-9B \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u043f\u043e \u0441\u0442\u0430\u0440\u043e\u0439 \u0441\u0445\u0435\u043c\u0435, \u043e\u0434\u0438\u043d \u0440\u0430\u0437: \u0442\u0430\u043c \u043e\u043d\u0430 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 590-635 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 1062 \u0443 GigaChat, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435.<\/p>\n<p>\u041f\u0430\u0434\u0435\u043d\u0438\u0439 \u043d\u0435 \u0431\u044b\u043b\u043e, \u043d\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 5-7 \u0413\u0411 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435 8 \u0413\u0411 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u044b. \u041d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u043f\u0438\u043a \u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u043e\u0445\u043e\u0434\u0438\u043b \u0434\u043e 7,7 \u0413\u0411, \u0438 \u0441\u0435\u0440\u0432\u0435\u0440 \u0441\u043d\u043e\u0432\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u043b \u043f\u0438\u0441\u0430\u0442\u044c \u0432 swap.<\/p>\n<p>YandexGPT-5-Lite-8B \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u0441\u043b\u0430\u0431\u0435\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445: 72% \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u043f\u043e\u0447\u0442\u0438 \u043d\u0430 15 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 \u043d\u0438\u0436\u0435 \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. JSON \u043e\u043d\u0430 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u043b\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0439, \u0442\u0430\u043a \u0447\u0442\u043e \u0434\u0435\u043b\u043e \u043d\u0435 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u043e\u0442\u0432\u0435\u0442\u0430.<\/p>\n<h3>\u0421\u043b\u0430\u0431\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430 \u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0432\u044b\u0432\u043e\u0434\u043e\u0432<\/h3>\n<ol>\n<li>\n<p><strong>\u041e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435, \u044d\u0442\u0430\u043b\u043e\u043d \u0442\u043e\u0436\u0435 \u0434\u0435\u043b\u0430\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u0438.<\/strong> 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u044d\u0442\u0430\u043b\u043e\u043d \u2013 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0438\u0437 \u0442\u0440\u0435\u0445 \u0433\u043e\u043b\u043e\u0441\u043e\u0432. \u041c\u043e\u044f \u0440\u0443\u0447\u043d\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 50 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441\u043e\u0432\u043f\u0430\u043b\u0430 \u0441 \u044d\u0442\u0430\u043b\u043e\u043d\u043e\u043c \u0432 45 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043d\u043e \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u043d\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u0447\u0438\u043a\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0444\u043e\u0440\u0443. \u041d\u0430 \u0436\u0438\u0432\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0434\u0440\u0443\u0433\u043e\u0439.<\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0434\u0438\u043d \u0441\u0435\u0440\u0432\u0435\u0440.<\/strong> \u0412\u0441\u0435 \u0446\u0438\u0444\u0440\u044b \u0441\u043d\u044f\u0442\u044b \u043d\u0430 \u043e\u0434\u043d\u043e\u043c VPS \u0441 Xeon Gold 6148 \u0438 AVX-512. Steal \u0431\u044b\u043b \u043d\u0438\u0437\u043a\u0438\u043c, \u043d\u043e \u043d\u0430 \u0434\u0440\u0443\u0433\u043e\u043c \u0445\u043e\u0441\u0442\u0435 \u0438\u043b\u0438 \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0435 \u0431\u0435\u0437 AVX-512 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445.<\/strong> \u041d\u0430 \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439 15 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432, \u0432 \u0440\u0435\u0437\u044e\u043c\u0435 32 \u0444\u0430\u043a\u0442\u0430: \u0437\u0434\u0435\u0441\u044c \u0432\u0438\u0434\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0440\u0443\u043f\u043d\u044b\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>\u041a\u044d\u0448 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0432 Ollama \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u044f\u0442\u044c \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c.<\/strong> \u0412\u043d\u0443\u0442\u0440\u0438 Ollama 0.35 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 llama.cpp \u0441 \u043a\u044d\u0448\u0435\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0432 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438, \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0434\u043e 8 \u0413\u0411. \u0423 qwen3.5:4b \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u043b \u043e\u043a\u043e\u043b\u043e 43 \u041c\u0411, \u0438 \u043d\u0430 8-\u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u043d\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u043a\u044d\u0448 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u043b \u0432\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435. \u041e\u0442\u0441\u044e\u0434\u0430 \u0448\u0435\u0441\u0442\u044c \u0441\u0431\u043e\u0435\u0432 qwen3.5:4b \u0432 \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u0438 swap \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445. \u041f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f <code>LLAMA_ARG_CACHE_RAM <\/code>\u0432 <code>docker-compose<\/code>. \u0412 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 Ollama \u0435\u0435 \u043d\u0435\u0442, \u044d\u0442\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0441\u0430\u043c\u043e\u0433\u043e llama.cpp:<\/p>\n<pre><code class=\"yaml\">services:\u00a0 ollama:\u00a0 \u00a0 environment:\u00a0 \u00a0 \u00a0 LLAMA_ARG_CACHE_RAM: \"1024\"<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper\"><\/span><\/a><\/div><\/pre>\n<p>\u0421 \u043b\u0438\u043c\u0438\u0442\u043e\u043c \u0432 1 \u0413\u0411 \u044f \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u043b \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 qwen3.5:4b \u0431\u0435\u0437 \u043a\u044d\u0448\u0430: \u0441\u0431\u043e\u0435\u0432 \u043d\u0435 \u0431\u044b\u043b\u043e, \u043f\u0438\u043a \u043f\u0430\u043c\u044f\u0442\u0438 5,0 \u0413\u0411 \u0432\u043c\u0435\u0441\u0442\u043e 7,7, \u043e\u0431\u043c\u0435\u043d\u0430 \u0441\u043e swap \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u043b\u043e\u0441\u044c. \u0426\u0438\u0444\u0440\u044b \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u0445 \u0441\u043d\u044f\u0442\u044b \u0441 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c\u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e.<\/p>\n<\/li>\n<li>\n<p><strong>\u041a\u044d\u0448 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0435\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c.<\/strong> \u0423 qwen3.5 \u0432\u0440\u0435\u043c\u044f \u0441 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043b\u0438 \u043a\u044d\u0448, \u0430 \u044d\u0442\u043e \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043d\u0435 \u0443\u0433\u0430\u0434\u0430\u0442\u044c. \u0414\u043b\u044f \u043d\u0438\u0445 \u043d\u0430\u0434\u0435\u0436\u043d\u0435\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u0446\u0438\u0444\u0440\u044b \u0431\u0435\u0437 \u043a\u044d\u0448\u0430.<\/p>\n<\/li>\n<li>\n<p><strong>\u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-10B \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0442 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c.<\/strong> \u0424\u0430\u0439\u043b\u044b \u043d\u0430 4,9-6,5 \u0413\u0411 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u043d\u0430 8-\u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u043d\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u043e\u043a\u043e\u043b\u043e \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430 \u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0443. \u041d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 T-lite \u0438 Qwen3-8B \u0441\u043d\u043e\u0432\u0430 \u0443\u0445\u043e\u0434\u0438\u043b\u0438 \u0432 swap (2,4 \u0438 3,5 \u0413\u0411 \u043e\u0431\u043c\u0435\u043d\u0430 \u0437\u0430 \u043f\u0440\u043e\u0433\u043e\u043d). \u0414\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 8 \u0413\u0411 \u2013 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0439 \u043c\u0438\u043d\u0438\u043c\u0443\u043c, \u0430 \u043d\u0435 \u0437\u0430\u043f\u0430\u0441.<\/p>\n<\/li>\n<\/ol>\n<h3>\u0427\u0442\u043e \u0432 \u0438\u0442\u043e\u0433\u0435 \u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0434 \u0437\u0430\u0434\u0430\u0447\u0443<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th data-colwidth=\"241\" width=\"241\">\n<p>\u0417\u0430\u0434\u0430\u0447\u0430<\/p>\n<\/th>\n<th data-colwidth=\"232\" width=\"232\">\n<p>\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u043c\u043f\u0442 \u043d\u0430 \u0432\u0441\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">QVikhr-3-4B<\/p>\n<\/td>\n<td>\n<p align=\"left\">89,9%, 3,8 \u0441\u0435\u043a \u043d\u0430 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435, ~990 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441, \u043a\u044d\u0448 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0441\u0432\u043e\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">qwen3.5:2b<\/p>\n<\/td>\n<td>\n<p align=\"left\">89,6%, 6,8 \u0441\u0435\u043a \u0431\u0435\u0437 \u043a\u044d\u0448\u0430, ~520 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u043d\u0430 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">GigaChat 3.1 Lightning<\/p>\n<\/td>\n<td>\n<p align=\"left\">86,8%, 4,5 \u0441\u0435\u043a, ~820 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0441\u043e\u043c\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0441\u043b\u0443\u0447\u0430\u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 \u0447\u0435\u043b\u043e\u0432\u0435\u043a<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">d1-2B<\/p>\n<\/td>\n<td>\n<p align=\"left\">87,1% \u0432 \u0446\u0435\u043b\u043e\u043c, 6,6 \u0441\u0435\u043a; \u043f\u0440\u0438 \u043f\u043e\u0440\u043e\u0433\u0435 0,9 \u0441\u0430\u043c\u0430 \u0440\u0435\u0448\u0430\u0435\u0442 69% \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 97,3%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u041e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">qwen3.5:2b<\/p>\n<\/td>\n<td>\n<p align=\"left\">34 \u0441\u0435\u043a \u043d\u0430 \u043e\u0442\u0432\u0435\u0442, ~105 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0432 \u0447\u0430\u0441 \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"241\" width=\"241\">\n<p align=\"left\">\u0420\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432<\/p>\n<\/td>\n<td data-colwidth=\"232\" width=\"232\">\n<p align=\"left\">qwen3.5:4b \u0438\u043b\u0438 T-lite-it-2.1<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u043e\u043b\u044c\u0448\u0435 \u0432\u0441\u0435\u0433\u043e \u0444\u0430\u043a\u0442\u043e\u0432, 1,5-3 \u043c\u0438\u043d \u043d\u0430 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u041a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0434 \u0437\u0430\u0434\u0430\u0447\u0443 \u043d\u0430 VPS \u0441 8 \u0413\u0411 RAM \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b.<\/em><\/p>\n<p>\u0414\u043b\u044f \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u0440\u0443\u0442\u0438\u043d\u044b \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 2-4B \u0438 8 \u0413\u0411 \u043f\u0430\u043c\u044f\u0442\u0438. \u0414\u0432\u0435 \u0432\u0435\u0449\u0438 \u0432\u0430\u0436\u043d\u0435\u0435 \u0432\u044b\u0431\u043e\u0440\u0430 \u043c\u043e\u0434\u0435\u043b\u0438: \u043e\u0431\u0449\u0438\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u043e\u0442\u0432\u0435\u0442 \u0432 2-3 \u0440\u0430\u0437\u0430, \u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u043a\u044d\u0448\u0430 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0432 Ollama \u2013 \u0431\u0435\u0437 \u043d\u0435\u0433\u043e \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 \u043a\u044d\u0448 \u0441\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0441\u0431\u043e\u0438\u0442\u044c.<\/p>\n<p>\u0414\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 2-4B \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c\u0438 \u0442\u0435\u043a\u0441\u0442\u0430\u043c\u0438 8 \u0413\u0411 RAM \u2013 \u0440\u0430\u0437\u0443\u043c\u043d\u044b\u0439 \u043c\u0438\u043d\u0438\u043c\u0443\u043c. \u041d\u0430 4 \u0413\u0411 \u043e\u043d\u0438 \u043f\u0430\u0434\u0430\u043b\u0438 \u0438 \u043d\u0435 \u0432\u044b\u043b\u0435\u0437\u0430\u043b\u0438 \u0438\u0437 swap. \u041d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u044e \u0441\u0440\u0430\u0437\u0443 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0442\u044c \u043a\u044d\u0448 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0447\u0435\u0440\u0435\u0437 <code>LLAMA_ARG_CACHE_RAM<\/code>. \u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-10B \u043d\u0430 \u0442\u0430\u043a\u043e\u043c VPS \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043c\u043e\u0436\u043d\u043e, \u043d\u043e \u0432 \u043c\u043e\u0438\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 \u043e\u043d\u0438 \u043d\u0435 \u0434\u0430\u043b\u0438 \u0432\u044b\u0438\u0433\u0440\u044b\u0448\u0430 \u043f\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u0415\u0441\u043b\u0438 \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u043b\u0438\u0448\u043d\u0438\u043c vCPU \u0438 \u043b\u0438\u0448\u043d\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u044c\u044e, \u0431\u0435\u0440\u0438\u0442\u0435 \u043f\u0430\u043c\u044f\u0442\u044c: \u043f\u044f\u0442\u044b\u0439 vCPU \u0443\u0441\u043a\u043e\u0440\u0438\u043b \u0440\u0430\u0431\u043e\u0442\u0443 \u043b\u0438\u0448\u044c \u043d\u0430 10-25%.<\/p>\n<h3>\u041d\u0430 \u0447\u0442\u043e \u0441\u0441\u044b\u043b\u0430\u044e\u0441\u044c \u0432 \u0442\u0435\u043a\u0441\u0442\u0435<\/h3>\n<ol>\n<li>\n<p>Zheng \u0438 \u0434\u0440., 2023. <a href=\"https:\/\/arxiv.org\/abs\/2312.07104\" rel=\"noopener nofollow\">SGLang: Efficient Execution of Structured Language Model Programs<\/a> \u2013 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043a\u044d\u0448\u0430 \u043e\u0431\u0449\u0435\u0433\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430.<\/p>\n<\/li>\n<li>\n<p>Miller, Anthropic, 2024. <a href=\"https:\/\/arxiv.org\/abs\/2411.00640\" rel=\"noopener nofollow\">Adding Error Bars to Evals: A Statistical Approach to Language Model Evaluations<\/a> \u2013 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u044b \u0438 \u043f\u0430\u0440\u043d\u044b\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<\/li>\n<li>\n<p>Yuan \u0438 \u0434\u0440., 2024. <a href=\"https:\/\/arxiv.org\/abs\/2402.16363\" rel=\"noopener nofollow\">LLM Inference Unveiled: Survey and Roofline Model Insights<\/a> \u2013 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438 \u043a\u0430\u043a \u0443\u0437\u043a\u043e\u0435 \u043c\u0435\u0441\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438.<\/p>\n<\/li>\n<li>\n<p>Pan \u0438 \u0434\u0440., 2024. <a href=\"https:\/\/arxiv.org\/abs\/2411.19379\" rel=\"noopener nofollow\">Marconi: Prefix Caching for the Era of Hybrid LLMs<\/a> \u2013 \u043a\u044d\u0448 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0443 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<\/li>\n<li>\n<p>Gilardi, Alizadeh, Kubli, 2023. <a href=\"https:\/\/arxiv.org\/abs\/2303.15056\" rel=\"noopener nofollow\">ChatGPT Outperforms Crowd-Workers for Text-Annotation Tasks<\/a> \u2013 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0438 \u043b\u044e\u0434\u044c\u043c\u0438.<\/p>\n<\/li>\n<li>\n<p>Jiang \u0438 \u0434\u0440., Mistral AI, 2024. <a href=\"https:\/\/arxiv.org\/abs\/2401.04088\" rel=\"noopener nofollow\">Mixtral of Experts<\/a> \u2013 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 MoE.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1108600\/\">https:\/\/habr.com\/ru\/articles\/1108600\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0412 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u0438\u0437 \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u0441\u0442\u0432\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b, \u043a\u0430\u043a\u0438\u0435 \u0431\u0438\u0437\u043d\u0435\u0441-\u0437\u0430\u0434\u0430\u0447\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c \u043b\u0435\u0433\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0434\u043e\u0440\u043e\u0433\u043e\u043c VPS \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u0412 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u043c\u043d\u0435 \u043e\u0442\u0441\u044b\u043f\u0430\u043b\u0438 \u043a\u0440\u0438\u0442\u0438\u043a\u0438, \u0438 \u0447\u0430\u0441\u0442\u044c \u0435\u0435, \u043a\u0430\u043a \u0432\u043e\u0434\u0438\u0442\u0441\u044f, \u043f\u043e \u0434\u0435\u043b\u0443. \u0422\u0430\u043a \u0447\u0442\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u043e\u0442\u0447\u0430\u0441\u0442\u0438 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u0432 \u0436\u0430\u043d\u0440\u0435 \u0440\u0430\u0431\u043e\u0442\u044b \u043d\u0430\u0434 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438, \u0438, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c, \u0447\u0442\u043e \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u044f \u043f\u0435\u0440\u0435\u0434\u0435\u043b\u044b\u0432\u0430\u043b, \u043b\u0443\u0447\u0448\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u044c\u0441\u044f \u043a \u0438\u0441\u0442\u043e\u043a\u0430\u043c.\u0421\u043a\u0430\u0437\u0430\u0442\u044c \u043f\u043e \u043f\u0440\u0430\u0432\u0434\u0435, \u044f \u0438 \u0441\u0430\u043c \u0445\u043e\u0442\u0435\u043b \u043a\u043e\u0435-\u0447\u0442\u043e \u0434\u043e\u0432\u0435\u0441\u0442\u0438 \u0434\u043e \u0443\u043c\u0430: \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u0442\u0435\u0441\u0442\u044b \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 RAM, \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043a\u0440\u0443\u043f\u043d\u0435\u0435 \u0438 \u0442.\u0434. \u041d\u043e\u0432\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u044f \u0441\u0442\u0430\u0432\u0438\u043b \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043e\u0448\u0438\u0431\u043e\u043a \u0438 \u043d\u0435\u0434\u043e\u0434\u0435\u043b\u043e\u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438. \u0426\u0438\u0444\u0440\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0442\u043e\u0447\u043d\u0435\u0435 \u0438 \u0441\u0442\u0440\u043e\u0436\u0435, \u0430 \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u043d\u044b\u0445 \u0444\u0430\u043a\u0442\u043e\u0432, \u043d\u0430\u0434\u0435\u044e\u0441\u044c, \u043d\u0435 \u043c\u0435\u043d\u044c\u0448\u0435. \u041d\u0430 \u044d\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u0439\u0434\u0435\u043c \u0431\u043b\u0438\u0436\u0435 \u043a \u0434\u0435\u043b\u0443.TL;DR\u0414\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439, \u043a\u0440\u0430\u0442\u043a\u0438\u0445 \u0440\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u043f\u0440\u043e\u0447\u0435\u0439 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u0440\u0443\u0442\u0438\u043d\u044b \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043b\u0435\u0433\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 VPS \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u041d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 RAM \u043b\u0443\u0447\u0448\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 2-4B \u0441\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0437\u0430 3-5 \u0441\u0435\u043a \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u043a\u043e\u043b\u043e 90%. \u041e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439 \u0438 \u0440\u0435\u0437\u044e\u043c\u0435 \u0437\u0430\u043f\u0438\u0441\u0435\u0439 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 0,5-2,5 \u043c\u0438\u043d. \u0414\u043b\u044f \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u044d\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0434\u043b\u044f \u0447\u0430\u0442\u0430 \u0441 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c\u0438 \u0443\u0436\u0435 \u043d\u0435\u0442. \u041a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0440\u0430\u0442\u044c \u043f\u043e\u0434 \u043a\u0430\u043a\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0432 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438.\u041f\u0435\u0440\u0435\u0445\u043e\u0434 \u0441 4 \u043d\u0430 8 \u0413\u0411 RAM \u0443\u0431\u0440\u0430\u043b \u043f\u0430\u0434\u0435\u043d\u0438\u044f \u043f\u043e \u043d\u0435\u0445\u0432\u0430\u0442\u043a\u0435 \u043f\u0430\u043c\u044f\u0442\u0438 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0435\u0441\u044c \u043e\u0431\u043c\u0435\u043d \u0441\u043e swap. \u041f\u044f\u0442\u044b\u0439 vCPU \u0434\u043e\u0431\u0430\u0432\u0438\u043b 20-25% \u043a \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u043e\u043a\u043e\u043b\u043e 10% \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0422\u0430\u043a \u0447\u0442\u043e \u043f\u043e\u0434 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0442 8 \u0413\u0411, \u0430 \u043b\u0438\u0448\u043d\u0438\u0439 vCPU \u0434\u0430\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c.\u041d\u0430 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 9 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438\u0437 10 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c 87-92%, \u0445\u043e\u0442\u044f \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u043d\u0430 20 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u0441\u0435\u043c\u044c \u0438\u0437 \u043d\u0438\u0445 \u0432\u044b\u0431\u0438\u043b\u0438 100%. \u041e\u0442\u0441\u044e\u0434\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u043d\u0430 \u0441\u043e\u0442\u043d\u044f\u0445 \u0441\u0432\u043e\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 \u043b\u0438\u0434\u0435\u0440\u0430\u043c\u0438 \u0432 2-3 \u043f\u0443\u043d\u043a\u0442\u0430 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0441\u0442\u0430\u0442\u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0442\u043e\u0438\u0442 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438 \u043f\u0430\u043c\u044f\u0442\u0438.\u0412\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u0441\u0438\u043b\u044c\u043d\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u043f\u0440\u043e\u043c\u043f\u0442\u0430. \u0415\u0441\u043b\u0438 \u0432\u0441\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442\u0441\u044f \u0441 \u043e\u0434\u043d\u043e\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0438, \u043c\u043e\u0434\u0435\u043b\u044c \u043a\u044d\u0448\u0438\u0440\u0443\u0435\u0442 \u0435\u0435 \u0438 \u0447\u0438\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c. \u0412 \u043f\u0440\u043e\u0442\u0438\u0432\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 \u0440\u0430\u0437 \u0437\u0430\u043d\u043e\u0432\u043e. \u0421 \u043a\u044d\u0448\u0435\u043c QVikhr-3-4B \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0437\u0430 3,8 \u0441\u0435\u043a, \u0430 \u0431\u0435\u0437 \u0437\u0430 12,4 \u0441\u0435\u043a. \u0414\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u044d\u0442\u0430 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 2-3 \u0440\u0430\u0437\u0430. \u041e\u0431\u0449\u0443\u044e \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044e \u0441\u0442\u043e\u0438\u0442 \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u043d\u0430\u0447\u0430\u043b\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430, \u0430 \u0442\u0435\u043a\u0441\u0442 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0432 \u043a\u043e\u043d\u0435\u0446. \u042d\u0442\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443.\u041c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 8-10B \u043d\u0435 \u043e\u0431\u043e\u0433\u043d\u0430\u043b\u0438 \u043b\u0443\u0447\u0448\u0438\u0435 4B, \u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0434\u0430\u0436\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u0418\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u2013 GigaChat 3.1 Lightning \u0441 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 MoE. \u041d\u0430 CPU \u0440\u0430\u0437\u0443\u043c\u043d\u0435\u0435 \u0431\u0440\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 2-4B (\u0435\u0441\u043b\u0438 \u043d\u0443\u0436\u043d\u0430 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0430\u044f \u2013 GigaChat 3.1 Lightning).\u041d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 \u043a\u044d\u0448 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0432 Ollama \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u044f\u0442\u044c \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c: \u0443 qwen3.5:4b \u044d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u043b\u043e \u043a \u0441\u0431\u043e\u044f\u043c. \u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0443\u0431\u0440\u0430\u043b\u043e \u0438 \u0441\u0431\u043e\u0438, \u0438 swap. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0441 8 \u0413\u0411 \u043b\u0443\u0447\u0448\u0435 \u0441\u0440\u0430\u0437\u0443 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c LLAMA_ARG_CACHE_RAM=1024 \u0432 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama.Decision-\u043c\u043e\u0434\u0435\u043b\u044c d1-2B \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445, \u043d\u043e \u0434\u0430\u0432\u0430\u043b\u0430 \u0447\u0435\u0441\u0442\u043d\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c. \u041f\u0440\u0438 \u043f\u043e\u0440\u043e\u0433\u0435 0,9 \u043e\u043d\u0430 \u0432\u0437\u044f\u043b\u0430 \u0431\u044b \u043d\u0430 \u0441\u0435\u0431\u044f 69% \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 97%, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0434\u0430\u043b\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443. \u0414\u043b\u044f \u0441\u043b\u0443\u0436\u0431\u044b \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438, \u0433\u0434\u0435 \u043e\u0448\u0438\u0431\u043a\u0430 \u0434\u043e\u0440\u043e\u0436\u0435 \u043b\u0438\u0448\u043d\u0435\u0439 \u0440\u0443\u0447\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438, \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.\u0421\u0442\u0435\u043d\u0434 \u0438 \u043c\u043e\u0434\u0435\u043b\u0438\u0422\u043e\u0442 \u0436\u0435, \u0447\u0442\u043e \u0438 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438, VPS \u043d\u0430 JustHost \u0441 \u0448\u0430\u0431\u043b\u043e\u043d\u043e\u043c Ollama, \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 5 vCPU (Intel Xeon Gold 6148) \u0438 8 \u0413\u0411 RAM, swap 4 \u0413\u0411. \u0421\u0442\u0435\u043a \u0442\u0430\u043a\u0436\u0435 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439: Ubuntu 24.04, Ollama 0.35.0 \u0432 Docker, \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u0435 llama.cpp \u0441\u0431\u043e\u0440\u043a\u0438 161755f29.\u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama \u044f \u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043a\u0430\u043a \u0432 \u0448\u0430\u0431\u043b\u043e\u043d\u0435: \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u0434\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a \u043d\u0435\u0439 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443, \u0447\u0438\u0441\u043b\u043e \u043f\u043e\u0442\u043e\u043a\u043e\u0432 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0440\u0430\u0432\u043d\u043e \u0447\u0438\u0441\u043b\u0443 \u044f\u0434\u0435\u0440. \u0418\u0437\u043c\u0435\u043d\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0440\u0435\u043c\u044f, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u0438, \u0441 5 \u0434\u043e 30 \u043c\u0438\u043d. Open WebUI \u043d\u0430 \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u0431\u044b\u043b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d, \u043f\u043e\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0435 \u0431\u044b\u043b\u043e. Steal \u044f \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u043b \u0440\u0430\u0437 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443: \u0437\u0430 41 \u0447\u0430\u0441 \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c 0,2%, \u0432 99% \u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0435 \u0432\u044b\u0448\u0435 1%, \u0440\u0430\u0437\u043e\u0432\u044b\u0439 \u043f\u0438\u043a 6,4%. \u0414\u043b\u044f \u0432\u0438\u0440\u0442\u0443\u0430\u043b\u043a\u0438 \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c: \u0441\u043e\u0441\u0435\u0434\u0438 \u043f\u043e \u0445\u043e\u0441\u0442\u0443 \u043d\u0430 \u0437\u0430\u043c\u0435\u0440\u044b \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0432\u043b\u0438\u044f\u043b\u0438.\u041a \u043c\u043e\u0434\u0435\u043b\u044f\u043c-\u043b\u0438\u0434\u0435\u0440\u0430\u043c \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 (QVikhr-3-4B, qwen3.5:2b \u0438 4b, gemma3:4b, granite4:micro-h) \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u043f\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u043a\u0440\u0443\u043f\u043d\u0435\u0435, \u0432\u0441\u0435 \u0441 Hugging Face \u0432 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 Q4_K_M.\u041c\u043e\u0434\u0435\u043b\u044c\u0420\u0430\u0437\u043c\u0435\u0440\u0424\u0430\u0439\u043b\u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438GigaChat 3.1 Lightning10B6,5 \u0413\u0411MoE: \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 1,8B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432T-lite-it-2.18B5,0 \u0413\u0411\u0412 \u043e\u0441\u043d\u043e\u0432\u0435 Qwen3, \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0430 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043cYandexGPT-5-Lite-8B-instruct8B4,9 \u0413\u0411\u041e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u0431\u043e\u0440\u043a\u0430 \u042f\u043d\u0434\u0435\u043a\u0441\u0430Qwen3-8B8B5,0 \u0413\u0411\u0420\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d\u043eGLM-4-9B-04149B6,2 \u0413\u0411\u0421\u0430\u043c\u0430\u044f \u0442\u044f\u0436\u0435\u043b\u0430\u044f \u0438\u0437 \u043f\u043b\u043e\u0442\u043d\u044b\u0445\u041f\u043e \u0441\u043e\u0432\u0435\u0442\u0443 \u0438\u0437 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0435\u0432 \u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043f\u043e\u0434 \u0437\u0430\u0434\u0430\u0447\u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u044f \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u0435\u0449\u0435 \u0438 decision-\u043c\u043e\u0434\u0435\u043b\u044c d1-2B \u043e\u0442 Liquid AI (1,9B, Q8_0). \u041e\u043d\u0430 \u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u043a\u0441\u0442, \u0430 \u0437\u0430 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430. d1-2B \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043d\u0430 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 LFM3, \u0438 \u043f\u043e\u0434 \u043d\u0435\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e Ollama 0.40.15. \u0412 \u0445\u043e\u0434\u0435 \u0442\u0435\u0441\u0442\u043e\u0432 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430\u0441\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430. \u041f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0442\u0430\u043b\u0430 \u0437\u0430 \u043f\u0440\u043e\u0445\u043e\u0434 \u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u0434\u043b\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0432 946 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u043b\u043e \u043e\u0448\u0438\u0431\u043a\u0443. \u041f\u043e\u043c\u043e\u0433 num_batch 2048 \u0432 Modelfile.\u0411\u0438\u0437\u043d\u0435\u0441-\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0442\u0435 \u0436\u0435, \u0447\u0442\u043e \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438: \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0437\u044b\u0432\u043e\u0432, \u0438\u0437\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u0437\u0430\u044f\u0432\u043a\u0438, \u0441\u0443\u043c\u043c\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f, \u043e\u0431\u044a\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u042f\u043d\u0434\u0435\u043a\u0441 \u0414\u0438\u0440\u0435\u043a\u0442\u0430, \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 CRM \u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439. \u041a \u043d\u0438\u043c \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 (\u043e \u043d\u0435\u0439 \u043d\u0438\u0436\u0435).\u041f\u0440\u043e\u0442\u043e\u043a\u043e\u043b, \u043f\u043e\u0432\u0442\u043e\u0440\u044b \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438\u0412 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0445\u0430\u0431\u0440\u043e\u0432\u0447\u0430\u043d\u0435 \u0443\u043a\u0430\u0437\u0430\u043b\u0438 \u043d\u0430 \u0441\u043b\u0430\u0431\u044b\u0435 \u043c\u0435\u0441\u0442\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430: \u043d\u0435 \u0431\u044b\u043b\u043e \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432, \u0437\u0430\u043c\u0435\u0440\u043e\u0432 steal \u0438 \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u0431\u0435\u0437 \u043a\u044d\u0448\u0430, \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0431\u044b\u043b\u0438 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c\u0438. \u0412\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u044f \u044d\u0442\u043e \u0438\u0441\u043f\u0440\u0430\u0432\u0438\u043b.\u041e\u0434\u0438\u043d \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0438 JSON-\u0441\u0445\u0435\u043c\u0430 \u043e\u0442\u0432\u0435\u0442\u0430, temperature 0, seed 42, \u0440\u0435\u0436\u0438\u043c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d, \u0432 \u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u0434\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c. \u041f\u0435\u0440\u0435\u0434 \u0437\u0430\u043c\u0435\u0440\u043e\u043c \u044f \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430\u043b \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c, \u0430 \u0437\u0430\u0442\u0435\u043c \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443.\u0421 \u043a\u044d\u0448\u0435\u043c \u0438 \u0431\u0435\u0437. \u0415\u0441\u043b\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0443 \u0432\u0441\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0431\u0449\u0438\u0439, llama.cpp \u043c\u043e\u0436\u0435\u0442 \u0432\u0437\u044f\u0442\u044c \u0443\u0436\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0438\u0437 \u043a\u044d\u0448\u0430. \u0414\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u044d\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f, \u043d\u043e \u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043e\u043d\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u0441\u0438\u043b\u044c\u043d\u043e. \u0412 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0435 SGLang \u043d\u0430\u0448\u0435\u043b, \u0447\u0442\u043e \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u043a\u044d\u0448\u0430 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u043e\u0441\u044c \u0432 6 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0440\u0435\u043c\u044f \u044f \u043c\u0435\u0440\u0438\u043b \u0432 \u0434\u0432\u0443\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445: \u0441 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c \u0438 \u0441 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0435\u0442\u043a\u043e\u0439 \u0432 \u0441\u0430\u043c\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u0430, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043a\u044d\u0448 \u043d\u0435 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b.\u041f\u043e\u0432\u0442\u043e\u0440\u044b. \u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u043d\u0430 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f\u0445 \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0434\u0432\u0430\u0436\u0434\u044b. \u0412\u0441\u0435 10 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u0430\u043b\u0438 \u0442\u0435 \u0436\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u043e \u0432\u0441\u0435\u0445 326 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043c\u0435\u0434\u0438\u0430\u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043e\u0442\u043b\u0438\u0447\u0430\u043b\u0430\u0441\u044c \u043d\u0430 0-5%. \u041d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u044f \u0442\u043e\u0436\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u043b \u0434\u0432\u0430\u0436\u0434\u044b: \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u0435 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 10%, \u043a\u0440\u043e\u043c\u0435 qwen3.5:2b (\u043d\u043e \u043e\u0431 \u044d\u0442\u043e\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e).\u0412\u0440\u0435\u043c\u044f. \u0412\u0440\u0435\u043c\u044f \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u2013 \u043e\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0434\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430, \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u0445 \u043c\u0435\u0434\u0438\u0430\u043d\u0430. \u0412 \u043d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u044f \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u043b \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0438 95-\u0439 \u043f\u0435\u0440\u0446\u0435\u043d\u0442\u0438\u043b\u044c.\u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0430. \u041e\u0434\u0438\u043d, \u0434\u0432\u0430 \u0438\u043b\u0438 \u0447\u0435\u0442\u044b\u0440\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0448\u043b\u044e\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0434\u0440\u0443\u0433 \u0437\u0430 \u0434\u0440\u0443\u0433\u043e\u043c \u0431\u0435\u0437 \u043f\u0430\u0443\u0437. \u041a\u0430\u0436\u0434\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u0434\u043b\u0438\u0442\u0441\u044f \u043d\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 5 \u043c\u0438\u043d \u0438 40 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u2013 10 \u043c\u0438\u043d \u0438 16 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u2013 \u0447\u0438\u0441\u043b\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441.\u0421\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0430. \u0414\u043b\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u044f \u0441\u0447\u0438\u0442\u0430\u043b 95%-\u0435 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u044b \u0423\u0438\u043b\u0441\u043e\u043d\u0430. \u041c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b \u043f\u0430\u0440\u043d\u044b\u043c \u0442\u0435\u0441\u0442\u043e\u043c McNemar: \u0432\u0441\u0435 \u043e\u043d\u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u043b\u0438 \u043d\u0430 \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435 \u0436\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f, \u0438 \u0442\u0430\u043a\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u0435\u0435, \u0447\u0435\u043c \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u043e\u0432. \u0422\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u0443\u0435\u0442 \u0434\u0435\u043b\u0430\u0442\u044c Anthropic \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 Adding Error Bars to Evals.\u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430. \u042d\u0442\u0430\u043b\u043e\u043d \u0434\u043b\u044f 326 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u0438. \u042f \u0432\u0437\u044f\u043b 50 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u0432\u0441\u043b\u0435\u043f\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u043b \u0438\u0445 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043b \u0441 \u044d\u0442\u0430\u043b\u043e\u043d\u043e\u043c: \u0441\u043e\u0432\u043f\u0430\u043b\u043e 45 \u0438\u0437 50.\u0414\u0430\u043d\u043d\u044b\u0435 \u0438 \u043a\u043e\u0434. \u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b, \u0441\u043a\u0440\u0438\u043f\u0442\u044b \u0438 \u0441\u044b\u0440\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043b\u0435\u0436\u0430\u0442 \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438: github.com\/alvec7\/llm-cpu-bench.\u041f\u0430\u043c\u044f\u0442\u044c \u0432\u0430\u0436\u043d\u0435\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430\u041d\u0430 8 \u0413\u0411 RAM \u044f \u0437\u0430\u043d\u043e\u0432\u043e \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043b\u0438\u0434\u0435\u0440\u043e\u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043d\u0430 \u0442\u0440\u0435\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445: \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u0440\u0435\u0437\u044e\u043c\u0435 \u0438 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439. \u0422\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430\u0441\u044c (\u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u043e\u0434\u043d\u043e\u0433\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u0430), \u0437\u0430\u0442\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445. \u041d\u0430 4 \u0413\u0411 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 4B \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043d\u0435 \u043f\u043e\u043c\u0435\u0449\u0430\u043b\u0430\u0441\u044c \u0432 \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0433\u043e\u043d\u044f\u043b\u0430 \u0434\u0430\u043d\u043d\u044b\u0435 \u0447\u0435\u0440\u0435\u0437 swap. \u041d\u0430 8 \u0413\u0411 RAM \u043e\u0431\u043c\u0435\u043d \u0441\u043e swap \u0443 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u0447\u0442\u0438 \u043f\u0440\u0435\u043a\u0440\u0430\u0442\u0438\u043b\u0441\u044f:\u041c\u043e\u0434\u0435\u043b\u044c\u0417\u0430\u0434\u0430\u0447\u0430\u0412\u0440\u0435\u043c\u044f, 4 \u0413\u0411 \u2192 8 \u0413\u0411\u041e\u0431\u043c\u0435\u043d \u0441\u043e swap, 4 \u0413\u0411 \u2192 8 \u0413\u0411QVikhr-3-4B\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u043994 \u2192 73 \u0441\u0435\u043a9,1 \u0413\u0411 \u2192 43 \u041c\u0411qwen3.5:4b\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u043969 \u2192 56 \u0441\u0435\u043a4,9 \u0413\u0411 \u2192 11 \u041c\u0411QVikhr-3-4B\u0420\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430181 \u2192 158 \u0441\u0435\u043a2,7 \u0413\u0411 \u2192 9 \u041c\u0411gemma3:4b\u0420\u0435\u0437\u044e\u043c\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043082 \u2192 73 \u0441\u0435\u043a2,7 \u0413\u0411 \u2192 5 \u041c\u0411gemma3:4b\u041e\u0442\u0432\u0435\u0442 \u043f\u043e \u0431\u0430\u0437\u0435 \u0437\u043d\u0430\u043d\u0438\u0439\u041f\u0430\u0434\u0430\u043b\u0430 \u2192 51 \u0441\u0435\u043a\u041f\u0430\u0434\u0430\u043b\u0430 \u2192 2,0 \u0413\u0411\u0412\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043e\u0431\u044a\u0435\u043c \u043e\u0431\u043c\u0435\u043d\u0430 \u0441\u043e swap \u043d\u0430 4 \u0413\u0411 \u0438 8 \u0413\u0411 RAM.\u0423 gemma3:4b \u043d\u0430 4 \u0413\u0411 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439 \u0441 \u0431\u0430\u0437\u043e\u0439 \u0437\u043d\u0430\u043d\u0438\u0439 \u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u043b \u0434\u043e \u043a\u043e\u043d\u0446\u0430: \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u043b\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043f\u043e \u043d\u0435\u0445\u0432\u0430\u0442\u043a\u0435 \u043f\u0430\u043c\u044f\u0442\u0438. \u041d\u0430 8 \u0413\u0411 \u043e\u043d\u0430 \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430 \u0432\u0435\u0440\u043d\u043e \u043d\u0430 14 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0438\u0437 15, \u043d\u043e \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u0430\u043b\u0430 \u0432 swap \u043e\u043a\u043e\u043b\u043e 2 \u0413\u0411.\u0417\u0430\u043c\u0435\u0440\u044b \u043d\u0430 4 \u0438 8 \u0413\u0411 \u044f \u0434\u0435\u043b\u0430\u043b \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0434\u043d\u0438. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441 \u043f\u0430\u043c\u044f\u0442\u044c\u044e \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0441\u044f \u043f\u044f\u0442\u044b\u0439 vCPU, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f. \u0412\u043a\u043b\u0430\u0434 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u044f \u0438\u0437\u043c\u0435\u0440\u0438\u043b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e: \u043d\u0430 \u0442\u043e\u043c \u0436\u0435 VPS \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u043b Ollama \u043e\u0442 \u043e\u0434\u043d\u043e\u0433\u043e \u0434\u043e \u043f\u044f\u0442\u0438 \u043f\u043e\u0442\u043e\u043a\u043e\u0432 \u0438 \u0433\u043e\u043d\u044f\u043b \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 1000 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043f\u043e \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435.\u00a0\u041f\u043e\u0442\u043e\u043a\u0438QVikhr-3-4Bqwen3.5:4b17,8 \/ 1,77,9 \/ 2,1215,1 \/ 3,015,4 \/ 3,6321,7 \/ 4,122,1 \/ 4,8429,3 \/ 5,228,4 \/ 5,9535,4 \/ 5,735,6 \/ 6,5\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0447\u0438\u0441\u043b\u0430 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, \u0442\u043e\u043a\/\u0441\u0435\u043a.\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0442\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0440\u043e\u0441\u043b\u0430 \u043f\u043e\u0447\u0442\u0438 \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u0447\u0438\u0441\u043b\u0443 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, \u0438 \u043d\u0430 \u043f\u044f\u0442\u0438 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u0438\u044f \u043d\u0435 \u0431\u044b\u043b\u043e. \u041f\u044f\u0442\u044b\u0439 \u043f\u043e\u0442\u043e\u043a \u0434\u043e\u0431\u0430\u0432\u0438\u043b 20-25% \u043a \u0447\u0442\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u043e\u043a\u043e\u043b\u043e 10% \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u043b\u0430\u0441\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0443\u043f\u0438\u0440\u0430\u043b\u0430\u0441\u044c \u0435\u0449\u0435 \u0438 \u0432 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438. \u0414\u043b\u044f LLM \u044d\u0442\u043e \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u0435 \u0443\u0437\u043a\u043e\u0435 \u043c\u0435\u0441\u0442\u043e, \u0441\u043c. \u043e\u0431\u0437\u043e\u0440 LLM Inference Unveiled.\u041d\u0430\u0433\u0440\u0443\u0437\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043b \u0432\u0441\u0435\u0433\u043e \u0438\u0437 12 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0438 8 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043d\u0430 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u0422\u0435\u043f\u0435\u0440\u044c \u0438\u0445 \u0441\u0442\u0430\u043b\u043e \u043d\u0435 \u043c\u0435\u043d\u0435\u0435 40 \u0438 16 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e.\u041a\u043e\u0440\u043e\u0442\u043a\u0438\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0434\u0432\u0430\u0436\u0434\u044b. \u0412 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0441\u0440\u0435\u0434\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432 \u0438\u043b\u0438 \u043e\u0431\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0447\u0435\u0440\u0435\u0437 \u0434\u0435\u0444\u0438\u0441, \u0435\u0441\u043b\u0438 \u043e\u043d\u0438 \u0440\u0430\u0437\u043e\u0448\u043b\u0438\u0441\u044c. p50 \u2013 \u043e\u0431\u044b\u0447\u043d\u043e\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043e\u0442\u0432\u0435\u0442\u0430, p95 \u2013 \u0434\u043e\u043b\u044c\u0448\u0435 \u044d\u0442\u043e\u0433\u043e \u0436\u0434\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e 5% \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.\u041c\u043e\u0434\u0435\u043b\u044c\u041a\u044d\u0448\u0417\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441: 1 \/ 2 \/ 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u041e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043f\u0440\u0438 4 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445, p50 \/ p95\u0421\u0431\u043e\u0438QVikhr-3-4B\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442~990 \/ ~870 \/ ~84017 \/ 19-20 \u0441\u0435\u043a\u041d\u0435\u0442\u0411\u0435\u0437 \u043a\u044d\u0448\u0430~295 \/ ~290 \/ ~30047 \/ 49-53 \u0441\u0435\u043a\u041d\u0435\u0442GigaChat 3.1 Lightning\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442~820 \/ ~790 \/ ~76019 \/ 20-21 \u0441\u0435\u043a\u041d\u0435\u0442\u0411\u0435\u0437 \u043a\u044d\u0448\u0430~305 \/ ~325 \/ ~31046 \/ 50-51 \u0441\u0435\u043a\u041d\u0435\u0442qwen3.5:2b\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0442 560 \u0434\u043e 154010 \/ 11-28 \u0441\u0435\u043a\u041d\u0435\u0442\u0411\u0435\u0437 \u043a\u044d\u0448\u0430~520 \/ ~520 \/ ~52027-28 \/ 29-30 \u0441\u0435\u043a\u041d\u0435\u0442qwen3.5:4b\u041e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u043c\u043f\u0442~345 \/ ~330 \/ ~36041-42 \/ 43-44 \u0441\u0435\u043a\u041d\u0435\u0442\u0411\u0435\u0437 \u043a\u044d\u0448\u0430~315 \/ ~320 \/ ~30545-47 \/ 48-50 \u0441\u0435\u043a6 \u0438\u0437 ~250\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0434\u043b\u044f \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043d\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439: \u043e\u043a\u043e\u043b\u043e 350 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0438 7-8 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435.\u0427\u0442\u043e \u0432\u0438\u0434\u043d\u043e:\u0421 \u043e\u0431\u0449\u0438\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u043c QVikhr \u0438 GigaChat \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0438 750-1000 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0447\u0430\u0441, \u0431\u0435\u0437 \u043a\u044d\u0448\u0430 \u2013 \u043e\u043a\u043e\u043b\u043e 300. \u041a\u044d\u0448 \u0443 \u043d\u0438\u0445 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b \u0441 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u043b&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-503491","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/503491","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=503491"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/503491\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=503491"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=503491"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=503491"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}