{"id":488765,"date":"2026-07-27T18:18:55","date_gmt":"2026-07-27T18:18:55","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=488765"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=488765","title":{"rendered":"\u041a\u0430\u043a\u00a0\u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 Kimi K3: 2,8\u00a0\u0442\u0440\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432,\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0438 \u0430\u0433\u0435\u043d\u0442\u044b \u043d\u0430\u00a0\u043c\u0438\u043b\u043b\u0438\u043e\u043d \u0442\u043e\u043a\u0435\u043d\u043e\u0432"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dd8\/82d\/2ce\/dd882d2cec9f89f056aa0f59881f3ed5.gif\" alt=\"\u044f \u0443\u0441\u0442\u0430\u043b \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0441 &gt;1mb gif\" title=\"\u044f \u0443\u0441\u0442\u0430\u043b \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0441 &gt;1mb gif\" width=\"800\" height=\"450\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dd8\/82d\/2ce\/dd882d2cec9f89f056aa0f59881f3ed5.gif 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dd8\/82d\/2ce\/dd882d2cec9f89f056aa0f59881f3ed5.gif 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u044f \u0443\u0441\u0442\u0430\u043b \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0441 &gt;1mb gif<\/figcaption><\/div>\n<\/figure>\n<p>Moonshot AI <a href=\"https:\/\/huggingface.co\/moonshotai\/Kimi-K3\" rel=\"noopener noreferrer nofollow\">\u0432\u044b\u043f\u0443\u0441\u0442\u0438\u043b\u0430 \u0432\u0435\u0441\u0430 Kimi K3<\/a>\u00a0\u2014 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0438 \u0441 2,8\u00a0\u0442\u0440\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0430\u043a\u0442\u0438\u0432\u0438\u0440\u0443\u044e\u0442\u0441\u044f 104\u00a0\u043c\u043b\u0440\u0434. \u0412\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u00a0\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 K3\u00a0\u043e\u0431\u0445\u043e\u0434\u0438\u0442 Claude Opus 4.8, GPT-5.5, GPT-5.6\u00a0Sol \u0438\u043b\u0438\u00a0Claude Fable 5. \u041e\u0434\u043d\u0430\u043a\u043e \u0441\u0432\u043e\u0434\u0438\u0442\u044c \u0440\u0435\u043b\u0438\u0437 \u043a\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432\u00a0\u0431\u044b\u043b\u043e\u00a0\u0431\u044b \u043e\u0448\u0438\u0431\u043a\u043e\u0439: \u0441\u0430\u043c\u0430 Moonshot \u043f\u0440\u0438\u0437\u043d\u0430\u0451\u0442 \u0432 <a href=\"https:\/\/github.com\/MoonshotAI\/Kimi-K3\/blob\/main\/k3_tech_report.pdf\" rel=\"noopener noreferrer nofollow\">\u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u043c \u043e\u0442\u0447\u0451\u0442\u0435<\/a>, \u0447\u0442\u043e\u00a0\u0432\u00a0\u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0441\u0442\u0443\u043f\u0430\u0435\u0442 Fable 5\u00a0\u0438 GPT-5.6\u00a0Sol.<\/p>\n<p>\u041a\u0430\u043a\u00a0\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 <a href=\"https:\/\/www.kimi.com\/blog\/kimi-k3\" rel=\"noopener noreferrer nofollow\">\u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0431\u043b\u043e\u0433\u0430 Moonshot<\/a>, \u0432\u0441\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f K3\u00a0\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e: \u0433\u0438\u0431\u0440\u0438\u0434 Kimi Delta Attention \u0438 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0433\u043e MLA, Attention Residuals, MoE \u043d\u0430 896\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0439 \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043a\u0435\u0448\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f. \u0420\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u043a\u0430\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0440\u0435\u0448\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442, \u0447\u0442\u043e\u00a0\u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u043e \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0430\u043c\u0438 \u0438 \u0433\u0434\u0435 \u043e\u0442\u0447\u0451\u0442\u0443 Moonshot \u043f\u043e\u043a\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432\u0435\u0440\u0438\u0442\u044c \u043d\u0430\u00a0\u0441\u043b\u043e\u0432\u043e.<\/p>\n<h3>\u0421\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0440\u0435\u043b\u0438\u0437\u0430<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">Kimi K3<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0412\u0441\u0435\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,78\u00a0\u0442\u0440\u043b\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0410\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">104,2\u00a0\u043c\u043b\u0440\u0434<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043b\u043e\u0451\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">93<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043b\u043e\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">69\u00a0KDA + 24\u00a0Gated MLA<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">7\u202f168<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0413\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">96<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">896<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0410\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041e\u0431\u0449\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">2<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">1\u202f048\u202f576\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0417\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">MoonViT\u2011V2, 27\u00a0\u0441\u043b\u043e\u0451\u0432, 401\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0432\u0435\u0441\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 MXFP4, \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 MXFP8<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u043d\u0430\u00a0Hugging Face \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u044d\u0442\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0412\u0435\u0441\u0430 \u0440\u0430\u0437\u0431\u0438\u0442\u044b \u043d\u0430 96\u00a0\u0444\u0430\u0439\u043b\u043e\u0432 <code>safetensors<\/code> \u043e\u0431\u0449\u0438\u043c \u043e\u0431\u044a\u0451\u043c\u043e\u043c \u043e\u043a\u043e\u043b\u043e 1,56\u00a0\u0422\u0411. \u042d\u0442\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u0432\u0435\u0441\u0430, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0431\u0435\u0437\u0443\u0441\u043b\u043e\u0432\u043d\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f\u00a0\u043b\u0438\u0446\u0435\u043d\u0437\u0438\u044f: \u043a\u0440\u0443\u043f\u043d\u043e\u043c\u0443 \u043f\u043e\u0441\u0442\u0430\u0432\u0449\u0438\u043a\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u043a\u0430\u043a\u00a0\u043a\u00a0\u0443\u0441\u043b\u0443\u0433\u0435 \u0441\u00a0\u0432\u044b\u0440\u0443\u0447\u043a\u043e\u0439 \u0441\u0432\u044b\u0448\u0435 20\u00a0\u043c\u043b\u043d \u0434\u043e\u043b\u043b\u0430\u0440\u043e\u0432 \u0437\u0430\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 12\u00a0\u043c\u0435\u0441\u044f\u0446\u0435\u0432 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u0441\u00a0Moonshot.<\/p>\n<h3>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u00a0\u0442\u0440\u0451\u043c \u043e\u0441\u044f\u043c<\/h3>\n<p>Moonshot \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 K3\u00a0\u043a\u0430\u043a\u00a0\u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u0441\u043c\u0435\u0448\u0438\u0432\u0430\u043d\u0438\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043f\u043e\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u0433\u043b\u0443\u0431\u0438\u043d\u0435 \u0438 \u043a\u0430\u043d\u0430\u043b\u0430\u043c. \u0422\u0430\u043a\u043e\u0435 \u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u0435\u0435 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0447\u043d\u044f \u0441\u043b\u043e\u0451\u0432: \u043a\u0430\u0436\u0434\u043e\u0435 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u043c.<\/p>\n<h4>\u041f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c: \u0442\u0440\u0438 KDA \u043d\u0430\u00a0\u043e\u0434\u0438\u043d \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 MLA<\/h4>\n<p>\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442 \u0441\u0445\u0435\u043c\u0443:<\/p>\n<pre><code>KDA -&gt; KDA -&gt; KDA -&gt; Gated MLA<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 \u0442\u043e\u0436\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 MLA, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u044b\u0445\u043e\u0434 \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0447\u0435\u0440\u0435\u0437 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435.<\/p>\n<p><a href=\"https:\/\/arxiv.org\/abs\/2510.26692\" rel=\"noopener noreferrer nofollow\">Kimi Delta Attention<\/a>\u00a0\u2014 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u0433\u043e KV\u2011\u043a\u0435\u0448\u0430 \u043e\u043d \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442 \u0435\u0433\u043e \u043f\u043e\u00a0\u0434\u0435\u043b\u044c\u0442\u0430\u2011\u043f\u0440\u0430\u0432\u0438\u043b\u0443. \u041f\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0437\u0430\u0431\u044b\u0432\u0430\u043d\u0438\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442, \u043a\u0430\u043a\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u0440\u0435\u0436\u043d\u0435\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043f\u0435\u0440\u0435\u0434 \u043d\u043e\u0432\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u044c\u044e.<\/p>\n<p>\u0412\u00a0K3\u00a0Moonshot \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u044e \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0430 \u0437\u0430\u0431\u044b\u0432\u0430\u043d\u0438\u044f:<\/p>\n<pre><code>g = g_min * sigmoid(exp(A) * z)alpha = exp(g)g_min = -5<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0423\u00a0Kimi Linear \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u044f \u043d\u0435\u00a0\u0431\u044b\u043b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d \u0441\u043d\u0438\u0437\u0443. \u0412\u043d\u0443\u0442\u0440\u0438 \u043f\u043e\u0431\u043b\u043e\u0447\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u043e\u0435 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u043e\u0433\u043b\u043e \u043f\u0435\u0440\u0435\u043f\u043e\u043b\u043d\u044f\u0442\u044c\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 16-\u0442\u043e\u043a\u0435\u043d\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u044f\u0434\u0440\u043e \u0434\u043b\u044f\u00a0\u043f\u0430\u0440 \u043f\u043e\u0437\u0438\u0446\u0438\u0439. \u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 <code>g_min = -5<\/code> \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 BF16\u00a0\u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0432\u0441\u0435 \u043a\u0430\u0443\u0437\u0430\u043b\u044c\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 \u043f\u043b\u043e\u0442\u043d\u044b\u043c\u0438 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u043c\u0438 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u043d\u0430\u00a0Tensor Cores.<\/p>\n<p>\u042d\u0442\u043e \u0440\u0435\u0434\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439, \u043a\u043e\u0433\u0434\u0430 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u043f\u0440\u044f\u043c\u043e \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u0432\u0435\u0442\u043a\u0443 \u0438\u0437\u00a0\u044f\u0434\u0440\u0430 \u0434\u043b\u044f\u00a0\u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u00a0\u2014 \u0431\u043e\u043b\u0435\u0435 \u043e\u0434\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0431\u0435\u0437\u00a0\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u0443\u0442\u0438 \u0434\u043b\u044f\u00a0\u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u0438.<\/p>\n<p>KDA \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0445\u0440\u0430\u043d\u0438\u0442 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0435 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043a\u0430\u0436\u0434\u044b\u0439 \u0447\u0435\u0442\u0432\u0451\u0440\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Multi\u2011head Latent Attention. MLA \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u043a\u043b\u044e\u0447\u0438 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u00a0\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440, \u043d\u043e\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u0437\u0438\u0446\u0438\u044f\u043c\u0438. \u042f\u0432\u043d\u043e\u0433\u043e \u043f\u043e\u0437\u0438\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0443\u00a0\u044d\u0442\u0438\u0445 \u0441\u043b\u043e\u0451\u0432 \u043d\u0435\u0442: KDA \u043f\u0435\u0440\u0435\u0434\u0430\u0451\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e\u00a0\u043f\u043e\u0440\u044f\u0434\u043a\u0435 \u0438 \u0434\u0430\u0432\u043d\u043e\u0441\u0442\u0438, \u0430\u00a0MLA \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430\u00a0\u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u00a0\u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0435\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u043f\u0435\u0440\u0435\u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c RoPE \u0438\u043b\u0438\u00a0YaRN.<\/p>\n<h4>\u0413\u043b\u0443\u0431\u0438\u043d\u0430: Attention Residuals<\/h4>\n<p>\u041e\u0431\u044b\u0447\u043d\u0430\u044f \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0432\u044f\u0437\u044c \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u044b\u0445\u043e\u0434 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043a\u00a0\u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u043e\u043c\u0443 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044e \u0441\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0432\u0435\u0441\u043e\u043c. \u041f\u043e\u00a0\u043c\u0435\u0440\u0435 \u0440\u043e\u0441\u0442\u0430 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0432\u0441\u0451 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0441\u0436\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a.<\/p>\n<p><a href=\"https:\/\/arxiv.org\/abs\/2603.15031\" rel=\"noopener noreferrer nofollow\">Attention Residuals<\/a> \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435\u043c \u043f\u043e\u00a0\u0432\u044b\u0445\u043e\u0434\u0430\u043c \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0441\u043b\u043e\u0451\u0432. \u041a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043a\u0430\u043a\u043e\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0435\u043c\u0443 \u043d\u0443\u0436\u043d\u043e. \u041f\u043e\u043b\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u0432\u0441\u0435 \u0432\u044b\u0445\u043e\u0434\u044b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 K3\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Block AttnRes:<\/p>\n<ul>\n<li>\n<p>\u0441\u043b\u043e\u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0442\u0441\u044f \u0432\u00a0\u0431\u043b\u043e\u043a\u0438 \u043f\u043e 12;<\/p>\n<\/li>\n<li>\n<p>\u0432\u043d\u0443\u0442\u0440\u0438 \u0431\u043b\u043e\u043a\u0430 \u0432\u044b\u0445\u043e\u0434\u044b \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f;<\/p>\n<\/li>\n<li>\n<p>\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u043e\u00a0\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c \u0431\u043b\u043e\u043a\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0431\u044a\u0451\u043c \u0436\u0438\u0432\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u0438 \u043c\u0435\u0436\u0441\u0442\u0430\u0434\u0438\u0439\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u0441 <code>O(Ld)<\/code> \u0434\u043e <code>O(Nd)<\/code>.<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 Moonshot \u043f\u043e\u00a0AttnRes \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 Kimi Linear \u0441 48\u00a0\u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u043d\u044b 3\u00a0\u043c\u043b\u0440\u0434. \u0414\u043b\u044f\u00a0K3\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u043e\u00a0\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0440\u0435\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043d\u0430\u00a0\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0435 2,8\u00a0\u0442\u0440\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u043e\u043a\u0430 \u043d\u0435\u0442.<\/p>\n<h4>\u041a\u0430\u043d\u0430\u043b\u044b: Stable LatentMoE<\/h4>\n<p>\u0415\u0441\u043b\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0435 \u0441\u043a\u0440\u044b\u0442\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 7\u202f168\u00a0\u0432\u043e\u00a0\u0432\u0441\u0435 16\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043a\u043e\u043c\u043c\u0443\u043d\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u0447\u0442\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u0441\u044a\u0435\u0434\u044f\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. <a href=\"https:\/\/arxiv.org\/abs\/2601.18089\" rel=\"noopener noreferrer nofollow\">LatentMoE<\/a> \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u0443\u044e \u0432\u0435\u0442\u0432\u044c \u0434\u043e\u00a0\u0448\u0438\u0440\u0438\u043d\u044b 3\u202f584, \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0435 FFN \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u0438 \u043f\u0440\u043e\u0435\u0446\u0438\u0440\u0443\u0435\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043e\u0431\u0440\u0430\u0442\u043d\u043e. \u0414\u0432\u0430 \u043e\u0431\u0449\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432\u00a0\u043f\u043e\u043b\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u0435.<\/p>\n<p>\u041f\u0440\u0438 896\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430\u0445 Moonshot \u0441\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0430\u0441\u044c \u0441\u00a0\u0434\u0432\u0443\u043c\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438: \u0432\u044b\u0431\u0440\u043e\u0441\u0430\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439 \u0438 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b <code>RMSNorm<\/code> \u043f\u0435\u0440\u0435\u0434 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0435\u0439 \u0438 SiTU\u2011GLU \u0432\u043c\u0435\u0441\u0442\u043e SwiGLU. \u041e\u0431\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043f\u043b\u0438\u043a\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0432\u0435\u0442\u0432\u0438 SiTU \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u044b \u043f\u043b\u0430\u0432\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 <code>tanh<\/code>; \u0434\u043b\u044f\u00a0K3\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b 4\u00a0\u0438 25, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0434\u0443\u043b\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043d\u0435\u00a0\u043f\u0440\u0435\u0432\u044b\u0448\u0430\u0435\u0442 100. \u041e\u043a\u043e\u043b\u043e \u043d\u0443\u043b\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 SwiGLU, \u043d\u043e\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435\u00a0\u0434\u0430\u044e\u0442 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0433\u043e \u0440\u043e\u0441\u0442\u0430.<\/p>\n<p>\u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u043c\u0435\u0442\u043e\u0434 \u043a\u0432\u0430\u043d\u0442\u0438\u043b\u044c\u043d\u043e\u0439 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438 (Quantile Balancing). \u0421\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430\u00a0\u0432\u044b\u0431\u043e\u0440 Top\u2011k, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0432\u0445\u043e\u0434\u0438\u0442 \u0432\u00a0\u0432\u0435\u0441\u0430 \u0441\u043c\u0435\u0441\u0438 \u0438 \u043d\u0435\u00a0\u0438\u0441\u043a\u0430\u0436\u0430\u0435\u0442 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0442\u043e\u0440\u0430. \u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0438\u0437\u00a0\u043a\u0432\u0430\u043d\u0442\u0438\u043b\u0438 \u0437\u0430\u0437\u043e\u0440\u0430, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0439 \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443 \u0447\u0438\u0441\u043b\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430. \u041f\u0440\u0438\u00a0\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0451\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u0443\u044e \u043a\u0432\u0430\u043d\u0442\u0438\u043b\u044c \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u0433\u0438\u0441\u0442\u043e\u0433\u0440\u0430\u043c\u043c\u0430: \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u044e\u0442 \u0435\u0451 \u043a\u043e\u0440\u0437\u0438\u043d\u044b \u043e\u0434\u043d\u043e\u0439 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0435\u0439 <code>all-reduce<\/code>.<\/p>\n<p>\u0422\u0430\u043a Moonshot \u0443\u0431\u0440\u0430\u043b\u0430 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0448\u0430\u0433\u0430 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438 \u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043b\u0430 \u043a\u043e\u0440\u0440\u0435\u043a\u0446\u0438\u044e \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043a\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u043c\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.<\/p>\n<h3>\u041c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0441\u00a0\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f<\/h3>\n<p>MoonViT\u2011V2\u00a0\u043e\u0431\u0443\u0447\u0430\u043b\u0441\u044f \u0441\u00a0\u043d\u0443\u043b\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0441\u00a0\u043e\u0431\u0449\u0435\u0439 \u0446\u0435\u043b\u044c\u044e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. Moonshot \u043e\u0442\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043e\u0442\u00a0\u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 SigLIP: \u0432\u043e\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u0445 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b \u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0438\u0435 \u043d\u043e\u0440\u043c\u044b \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u0438 \u0447\u0430\u0441\u0442\u044b\u0435 \u0432\u0441\u043f\u043b\u0435\u0441\u043a\u0438.<\/p>\n<p>\u0417\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 27-\u0441\u043b\u043e\u0439\u043d\u044b\u0439 ViT, \u0440\u0430\u0437\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0438 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044b \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0438 \u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u00a0\u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041e\u043f\u0435\u0440\u0430\u0446\u0438\u044f Pixel Shuffle 2\u00d72\u00a0\u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u0437\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u00a0\u0447\u0435\u0442\u044b\u0440\u0435 \u0440\u0430\u0437\u0430. \u041c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u043e\u0435 \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u0435\u00a0\u2014 3584\u00d73584.<\/p>\n<p>\u041e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0433\u0440\u0430\u0444\u0438\u043a \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u0443\u044e \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0443 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 MoonViT\u2011V2, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0447\u0438\u0441\u043b\u043e\u0432\u043e\u0439 \u0430\u0431\u043b\u044f\u0446\u0438\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438. \u0412\u044b\u0432\u043e\u0434 \u043e\u00a0\u043d\u0435\u043d\u0443\u0436\u043d\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c Moonshot, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0449\u0438\u043c \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u043e\u043c.<\/p>\n<h3>\u041a\u0430\u043a\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0432\u00a0\u043c\u0438\u043b\u043b\u0438\u043e\u043d \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/h3>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u043d\u0430\u0447\u0438\u043d\u0430\u043b\u043e\u0441\u044c \u0441\u0440\u0430\u0437\u0443 \u043d\u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u0435. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0441\u0448\u0438\u0440\u044f\u043b\u0441\u044f \u043f\u043e\u044d\u0442\u0430\u043f\u043d\u043e:<\/p>\n<pre><code>8K -&gt; 64K \u0432\u043e \u0432\u0440\u0435\u043c\u044f pre-training256K -&gt; 1M \u0432\u043e \u0432\u0440\u0435\u043c\u044f cooldown<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0414\u043e\u0440\u043e\u0433\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 \u043c\u0430\u043b\u0443\u044e \u0434\u043e\u043b\u044e \u043e\u0431\u0449\u0435\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430. \u041a\u043e\u0440\u043f\u0443\u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u0432\u0438\u0434\u0435\u043e \u043e\u0447\u0438\u0449\u0430\u043b\u0438 \u043e\u0442\u00a0\u0434\u0443\u0431\u043b\u0438\u043a\u0430\u0442\u043e\u0432, \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0445 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432, \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u044b\u0445 \u043b\u043e\u0433\u043e\u0432. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0438\u043d\u0442\u0435\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b, \u0433\u0434\u0435 \u043d\u0443\u0436\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u044b \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u044b \u043f\u043e\u00a0\u0432\u0441\u0435\u043c\u0443 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0443\u00a0\u2014 \u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u0441\u043a\u043b\u0435\u0438\u0432\u0430\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u0435\u0442 \u0434\u0430\u043b\u044c\u043d\u0438\u043c \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044f\u043c.<\/p>\n<p>Moonshot \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 2,5-\u043a\u0440\u0430\u0442\u043d\u043e\u0435 \u043f\u043e\u0432\u044b\u0448\u0435\u043d\u0438\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e Kimi K2. \u0417\u0434\u0435\u0441\u044c \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0431\u0430\u0437\u0430 \u0441\u043b\u0430\u0431\u0435\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f. \u0412\u00a0\u043e\u0442\u0447\u0451\u0442\u0435 \u0435\u0441\u0442\u044c \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 \u043f\u043e\u0442\u0435\u0440\u044c \u043d\u0430\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043e\u0447\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435, \u043d\u043e\u00a0\u043d\u0435\u0442 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u043e\u0432, \u0442\u043e\u0447\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u0434\u043e\u0432\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u043e\u0432, \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u00a0FLOPs \u0438 \u043f\u043e\u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043d\u044b\u0445 \u0430\u0431\u043b\u044f\u0446\u0438\u0439. \u041e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0438\u0441\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u0434\u0430\u043d\u043d\u044b\u0435, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 \u0438 \u0440\u0435\u0436\u0438\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0427\u0438\u0441\u043b\u043e 2,5\u00d7 \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0432\u043e\u0441\u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0435 Moonshot, \u043f\u043e\u043a\u0430 \u0435\u0433\u043e \u043d\u0435\u043b\u044c\u0437\u044f \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438.<\/p>\n<h3>\u0414\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: \u0434\u0435\u0432\u044f\u0442\u044c \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u043b\u0438\u0442\u0438\u043a<\/h3>\n<p>\u041f\u043e\u0441\u043b\u0435 SFT Moonshot \u043e\u0431\u0443\u0447\u0438\u043b\u0430 \u0442\u0440\u0438 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 \u043f\u043e\u043b\u0438\u0442\u0438\u043a \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u00a0\u043f\u043e\u0434\u043a\u0440\u0435\u043f\u043b\u0435\u043d\u0438\u0435\u043c:<\/p>\n<ol>\n<li>\n<p>\u043e\u0431\u0449\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438: \u0437\u043d\u0430\u043d\u0438\u044f, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435, \u0437\u0440\u0435\u043d\u0438\u0435, \u043f\u043e\u0438\u0441\u043a;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0431\u0449\u0438\u0435 \u0430\u0433\u0435\u043d\u0442\u044b: \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u044b, \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0439 \u043f\u043e\u0438\u0441\u043a, \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0430\u0433\u0435\u043d\u0442\u044b \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438: \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u041f\u041e, \u044f\u0434\u0440\u0430 \u0434\u043b\u044f\u00a0\u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043e\u0432, \u0432\u0435\u0431\u2011\u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430.<\/p>\n<\/li>\n<\/ol>\n<p>\u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u043e\u0431\u0443\u0447\u0430\u043b\u043e\u0441\u044c \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0430\u0445 <code>low<\/code>, <code>high<\/code> \u0438 <code>max<\/code>. \u0414\u0435\u0432\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u2011\u0443\u0447\u0438\u0442\u0435\u043b\u0435\u0439 \u0437\u0430\u0442\u0435\u043c \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u043b\u0438 \u0432\u00a0\u043e\u0434\u043d\u0443 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e Multi\u2011Teacher On\u2011Policy Distillation.<\/p>\n<p>\u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u043d\u0438\u044f \u0441\u043e\u0437\u0434\u0430\u044e\u0442 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438: \u043e\u0434\u043d\u0430 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0441\u043e\u0442\u043d\u0438 \u0438\u043b\u0438\u00a0\u0442\u044b\u0441\u044f\u0447\u0438 \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u0436\u0434\u0451\u0442 \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a. \u041f\u043e\u0441\u043b\u0435 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0439 \u0434\u043e\u043b\u0438 \u0433\u043e\u0442\u043e\u0432\u044b\u0445 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0439 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0438, \u0430\u00a0\u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0441\u0440\u0435\u0434\u044b \u0441\u0442\u0430\u0432\u044f\u0442\u0441\u044f \u0432\u00a0\u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e\u0442\u0441\u044f \u043d\u0430\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438.<\/p>\n<p>\u0422\u0430\u043a\u0430\u044f \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f off\u2011policy, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043f\u0435\u0440\u0435\u0436\u0438\u0432\u0430\u0435\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. Moonshot \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u043d\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0421\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0441\u0440\u0435\u0434\u044b \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u043c\u043e\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0430\u043c\u0438 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b <a href=\"https:\/\/github.com\/kvcache-ai\/AgentENV\" rel=\"noopener noreferrer nofollow\">AgentENV<\/a>, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0430\u0433\u0435\u043d\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443, \u0430\u00a0\u043d\u0435\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442 \u0435\u0451 \u0441\u00a0\u043d\u0430\u0447\u0430\u043b\u0430.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0441\u0445\u043e\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u0437\u0430\u0434\u0430\u0447\u0438. \u0422\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f, \u043f\u0440\u0435\u0432\u044b\u0441\u0438\u0432\u0448\u0430\u044f <code>tau \u00d7 budget<\/code>, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0432\u043e\u0437\u043d\u0430\u0433\u0440\u0430\u0436\u0434\u0435\u043d\u0438\u0435 <code>-1<\/code>. \u0423\u043c\u0435\u043d\u044c\u0448\u0430\u044f <code>tau<\/code>, \u043a\u043e\u043c\u0430\u043d\u0434\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 \u0440\u0435\u0436\u0438\u043c\u044b <code>high<\/code> \u0438 <code>low<\/code>. \u0410\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043a\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u043e\u0437\u043d\u0430\u0433\u0440\u0430\u0436\u0434\u0435\u043d\u0438\u044f, \u0447\u0442\u043e\u0431\u044b \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0432\u043d\u043e\u0441\u0442\u044c \u043d\u0435\u00a0\u043f\u043e\u0432\u044b\u0448\u0430\u043b\u0430 \u043e\u0446\u0435\u043d\u043a\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438.<\/p>\n<h3>\u0418\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d\u043d\u043e\u0439 MoE<\/h3>\n<p>\u041f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 K3\u00a0\u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u043d\u044b\u0439, \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0439, \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0439 \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c. \u0413\u043b\u0430\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c\u0430\u00a0\u2014 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0442\u043e\u0440 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u044b: \u043e\u0434\u043d\u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u044e\u0442, \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0436\u0430\u044e\u0442\u0441\u044f, \u0430\u00a0\u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u044e\u0442 \u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<p><a href=\"https:\/\/github.com\/MoonshotAI\/MoonEP\" rel=\"noopener noreferrer nofollow\">MoonEP<\/a> \u0441\u043e\u0437\u0434\u0430\u0451\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043a\u043e\u043f\u0438\u0438 \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0438 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0443 \u0440\u043e\u0432\u043d\u043e <code>S \u00d7 K<\/code> \u0442\u043e\u043a\u0435\u043d\u043e\u0432. Moonshot \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043d\u0435\u00a0\u0431\u043e\u043b\u0435\u0435 <code>E\/R<\/code> \u0440\u0435\u0437\u0435\u0440\u0432\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430\u00a0\u043f\u0440\u043e\u0446\u0435\u0441\u0441. \u0420\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0434\u0430\u0451\u0442:<\/p>\n<ul>\n<li>\n<p>\u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u043f\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u0446\u0435\u043d\u0442\u0440\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u043c\u043c\u0443\u043d\u0438\u043a\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u0431\u0443\u0444\u0435\u0440 <code>S \u00d7 K<\/code>;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u0440\u0430\u0437\u0443 \u0432\u00a0\u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u043d\u044b\u0435 \u044f\u0447\u0435\u0439\u043a\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0445 \u043a\u043e\u043f\u0438\u0439.<\/p>\n<\/li>\n<\/ul>\n<p>\u041a\u043e\u0434 MoonEP \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d \u0441\u00a0\u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u043d\u0430\u00a0CUDA \u0438 \u043c\u043d\u043e\u0433\u043e\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043d\u044b\u043c\u0438 \u0442\u0435\u0441\u0442\u0430\u043c\u0438. \u041d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u0440\u0435\u043b\u0438\u0437\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0434\u0438\u043d \u043a\u043e\u043c\u043c\u0438\u0442, \u0430\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441\u00a0DeepEP \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u043e \u0441\u0430\u043c\u043e\u0439 Moonshot \u043d\u0430\u00a0H20.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c\u0430 KDA \u043a\u0430\u0436\u0434\u044b\u0439 \u0443\u0447\u0430\u0441\u0442\u043e\u043a \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u043e\u0439: \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u044b\u043c \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c, \u0441\u043e\u0437\u0434\u0430\u043d\u043d\u044b\u043c \u0438\u0437\u00a0\u043d\u0443\u043b\u044f. \u042d\u0442\u0438 \u043f\u0430\u0440\u044b \u0430\u0441\u0441\u043e\u0446\u0438\u0430\u0442\u0438\u0432\u043d\u043e \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043d\u044b\u043c \u0441\u043a\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c. \u0412\u00a0\u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442\u00a0\u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, \u043c\u0435\u0436\u0434\u0443 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u0451\u0442\u0441\u044f \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430, \u0430\u00a0\u043d\u0435\u00a0\u0440\u0430\u0441\u0442\u0443\u0449\u0438\u0435 KV\u2011\u0431\u043b\u043e\u043a\u0438. \u0420\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0432\u043e\u0448\u043b\u0430 \u0432 <code>flash-linear-attention<\/code>.<\/p>\n<h3>\u041a\u0430\u043a\u00a0\u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c \u0434\u0432\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043a\u0435\u0448\u0430<\/h3>\n<p>\u0412\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0431\u043b\u043e\u043a\u0435 K3\u00a0\u0441\u043e\u0441\u0435\u0434\u0441\u0442\u0432\u0443\u044e\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 KDA \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0438 \u0440\u0430\u0441\u0442\u0443\u0449\u0438\u0439 KV\u2011\u043a\u0435\u0448 MLA. \u041f\u043e\u0432\u0442\u043e\u0440\u043d\u043e\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u0433\u0434\u0430, \u043a\u043e\u0433\u0434\u0430 \u043e\u0431\u0430 \u0442\u0438\u043f\u0430 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u044b \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u0435.<\/p>\n<p>Moonshot \u043f\u043e\u043c\u0435\u0441\u0442\u0438\u043b\u0430 \u0438\u0445 \u0432\u00a0\u043e\u0431\u0449\u0438\u0439 \u0441\u0442\u0440\u0430\u043d\u0438\u0447\u043d\u044b\u0439 \u043f\u0443\u043b, \u043d\u043e\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0438\u043b\u0430 \u0433\u0440\u0430\u043d\u0443\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u044c \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0438\u0441\u043a\u0430:<\/p>\n<ul>\n<li>\n<p>\u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0430 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 1024\u20136144\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0445\u0435\u0448\u0438 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u0430\u0436\u0434\u044b\u0435 512\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f KDA \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0442\u0441\u044f\u00a0\u043b\u0438\u0448\u044c \u043d\u0430\u00a0\u0447\u0430\u0441\u0442\u0438 \u044d\u0442\u0438\u0445 \u0433\u0440\u0430\u043d\u0438\u0446;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0435\u043d\u0438\u0435 \u043e\u0442\u0434\u0430\u0451\u0442\u0441\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432\u044b\u0445 \u0445\u043e\u0434\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u00a0\u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u0432\u043e\u00a0\u0432\u0441\u0435\u0445 \u0433\u0440\u0443\u043f\u043f\u0430\u0445 KDA.<\/p>\n<\/li>\n<\/ul>\n<p>\u0421\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u043e\u0435 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043d\u0435\u0438\u0437\u043c\u0435\u043d\u044f\u0435\u043c\u044b\u043c. \u0417\u0430\u043f\u0440\u043e\u0441 \u043a\u043e\u043f\u0438\u0440\u0443\u0435\u0442 \u0435\u0433\u043e \u0432\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u0434 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435\u043c. \u041f\u0440\u0438\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u043e\u043c \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0432\u0441\u0435 \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 \u0437\u0430\u043a\u0440\u0435\u043f\u043b\u044f\u044e\u0442\u0441\u044f \u0430\u0442\u043e\u043c\u0430\u0440\u043d\u043e, \u0430\u00a0\u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u043e\u0434\u043d\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0434\u0435\u043b\u0430\u0435\u0442 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0435\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438.<\/p>\n<p>\u041f\u0440\u0438\u00a0\u0441\u043f\u0435\u043a\u0443\u043b\u044f\u0442\u0438\u0432\u043d\u043e\u043c \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 K3\u00a0\u043d\u0435\u00a0\u0445\u0440\u0430\u043d\u0438\u0442 \u043f\u043e\u043b\u043d\u0443\u044e \u043a\u043e\u043f\u0438\u044e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0447\u0435\u0440\u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. \u042f\u0434\u0440\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0438\u0435 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 \u0432\u0445\u043e\u0434\u0430 \u0438 \u043f\u0440\u0438\u00a0\u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043d\u044f\u0442\u044b\u0439 \u0443\u0447\u0430\u0441\u0442\u043e\u043a \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043d\u0430\u00a0\u043a\u0440\u0438\u0441\u0442\u0430\u043b\u043b\u0435. \u042d\u0442\u043e \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u043c\u043d\u043e\u0433\u043e\u043a\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0447\u0442\u0435\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f.<\/p>\n<h3>\u0427\u0442\u043e\u00a0\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e \u043e\u00a0\u043f\u043e\u0438\u0441\u043a\u0435 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439<\/h3>\n<p>Moonshot \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u043b\u0430 \u043a\u0438\u0431\u0435\u0440\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u00a0\u0434\u0432\u0430 \u0443\u0440\u043e\u0432\u043d\u044f.<\/p>\n<p>\u041d\u0430\u00a0\u043f\u0435\u0440\u0432\u043e\u043c K3\u00a0\u0438\u0441\u043a\u0430\u043b\u0430 \u043d\u043e\u0432\u044b\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 \u0432\u00a0\u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u043c \u043a\u043e\u0434\u0435 \u0438 \u0441\u0442\u0440\u043e\u0438\u043b\u0430 PoC. \u041a\u043e\u043c\u043f\u0430\u043d\u0438\u044f \u0441\u043e\u043e\u0431\u0449\u0430\u0435\u0442 \u043e\u00a0\u0441\u043e\u0442\u043d\u044f\u0445 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 70% \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0439 \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0445 \u043d\u0430\u0445\u043e\u0434\u043e\u043a \u0438 16\u00a0\u0440\u0430\u043d\u0435\u0435 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445 \u0432\u00a0\u0448\u0435\u0441\u0442\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u0430\u0445. \u0414\u0432\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043e\u0442\u043d\u043e\u0441\u044f\u0442\u0441\u044f \u043a\u00a0\u044f\u0434\u0440\u0443 Linux: \u0443\u0434\u0430\u043b\u0451\u043d\u043d\u043e \u0434\u043e\u0441\u0442\u0438\u0436\u0438\u043c\u0430\u044f \u0437\u0430\u043f\u0438\u0441\u044c \u0437\u0430\u00a0\u0433\u0440\u0430\u043d\u0438\u0446\u0430\u043c\u0438 \u0431\u0443\u0444\u0435\u0440\u0430 \u0432\u00a0\u043a\u0443\u0447\u0435 \u0438 \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u0440\u0430\u0432 \u0432\u00a0RDMA, \u0434\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0449\u0430\u044f \u0437\u0430\u043f\u0438\u0441\u044c \u0432\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b, \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u043d\u044b\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f\u00a0\u0447\u0442\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043e\u0446\u0435\u043d\u043a\u0438 \u0434\u043e\u043b\u0438 \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0445 \u043d\u0430\u0445\u043e\u0434\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e. \u041d\u0435\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u044b:<\/p>\n<ul>\n<li>\n<p>\u0447\u0438\u0441\u043b\u043e \u043d\u0430\u0445\u043e\u0434\u043e\u043a, \u043f\u0435\u0440\u0435\u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430\u00a0\u0440\u0443\u0447\u043d\u0443\u044e \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0430\u0432\u0438\u043b\u043e \u0438\u0445 \u043e\u0442\u0431\u043e\u0440\u0430;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043f\u0438\u0441\u043e\u043a \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432 \u0438 \u0431\u044e\u043b\u043b\u0435\u0442\u0435\u043d\u0435\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438;<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a\u00a0\u043c\u043e\u0434\u0435\u043b\u0438, \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u0438\u00a0\u043b\u0438\u043c\u0438\u0442\u044b;<\/p>\n<\/li>\n<li>\n<p>\u0434\u043e\u0441\u0442\u0443\u043f \u043c\u043e\u0434\u0435\u043b\u0438 \u043a\u00a0\u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u043a\u043e\u043c\u043c\u0438\u0442\u043e\u0432 \u0438 \u0437\u0430\u0434\u0430\u0447;<\/p>\n<\/li>\n<li>\n<p>\u0434\u043e\u043b\u044f \u043f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439;<\/p>\n<\/li>\n<li>\n<p>\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0441\u043b\u0435\u043f\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 16\u00a0\u043d\u043e\u0432\u044b\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0441\u0430\u043c\u043e\u0439 Moonshot.<\/p>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c\u00a0\u2014 \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u0430\u044f \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u044f \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 CVE. \u041d\u0430\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0438\u0437 36\u00a0\u0437\u0430\u0434\u0430\u0447 K3\u00a0\u0440\u0435\u0448\u0438\u043b\u0430 14, GLM-5.2\u00a0\u2014 \u0432\u043e\u0441\u0435\u043c\u044c. \u0414\u0435\u0441\u044f\u0442\u044c \u0443\u0441\u043f\u0435\u0445\u043e\u0432 K3\u00a0\u043f\u0440\u0438\u0448\u043b\u0438\u0441\u044c \u043d\u0430\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0438 \u0447\u0435\u0442\u044b\u0440\u0435\u00a0\u2014 \u043d\u0430\u00a0\u044f\u0434\u0440\u043e Linux. \u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u0441\u0431\u043e\u0438: \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435\u00a0\u0437\u0430\u0432\u0435\u0440\u0448\u0430\u043b\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0441\u0442\u0430\u0434\u0438\u044e \u0446\u0435\u043f\u043e\u0447\u043a\u0438, \u043f\u043b\u043e\u0445\u043e \u043c\u0435\u043d\u044f\u043b\u0430 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044e \u0441\u00a0\u0443\u0447\u0451\u0442\u043e\u043c \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u0432 \u0437\u0430\u0449\u0438\u0442\u044b, \u0437\u0430\u0441\u0442\u0440\u0435\u0432\u0430\u043b\u0430 \u0432\u00a0\u043e\u0442\u043b\u0430\u0434\u043a\u0435 \u0438 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0430 \u044d\u043a\u0441\u043f\u043b\u043e\u0439\u0442.<\/p>\n<p>\u041d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f <a href=\"https:\/\/www.aisi.gov.uk\/blog\/preliminary-assessment-of-kimi-k3s-cyber-capabilities\" rel=\"noopener noreferrer nofollow\">UK AISI\/CAISI<\/a> \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 \u0441\u0445\u043e\u0436\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b:<\/p>\n<ul>\n<li>\n<p>ExploitBench: 32% \u0443\u00a0K3\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 24% \u0443\u00a0GLM-5.2;<\/p>\n<\/li>\n<li>\n<p>\u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430: 0\u00a0\u0438\u0437 41\u00a0\u0437\u0430\u0434\u0430\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043f\u043e\u043b\u0438\u0433\u043e\u043d The Last Ones: \u0432\u00a0\u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0448\u0430\u0433 17\u00a0\u0438\u0437 32;<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u043f\u043e\u043b\u0438\u0433\u043e\u043d\u0430: \u043e\u0434\u043d\u0430 \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u0438\u0437\u00a0\u0434\u0435\u0441\u044f\u0442\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0435\u0434\u0443\u0449\u0438\u0435 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u00a0\u0442\u0435\u0445\u00a0\u0436\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f\u0445 \u0434\u043e\u0445\u043e\u0434\u0438\u043b\u0438 \u0432\u00a0\u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0434\u043e\u00a0\u0448\u0430\u0433\u0430 28,5\u00a0\u0438 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430 \u0432 20\u00a0\u0438\u0437 41\u00a0\u0437\u0430\u0434\u0430\u043d\u0438\u044f. K3\u00a0\u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0443\u0441\u0438\u043b\u0438\u0432\u0430\u0435\u0442 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0439 \u0441\u00a0\u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u0434\u043b\u044f\u00a0\u043f\u043e\u0438\u0441\u043a\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u0438 \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0432\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435, \u043d\u043e\u00a0\u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u043d\u0435\u00a0\u0441\u0442\u0430\u0432\u044f\u0442 \u0435\u0451 \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043f\u0435\u0440\u0435\u0434\u043e\u0432\u044b\u0445 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0432\u00a0\u043d\u0430\u0434\u0451\u0436\u043d\u043e\u043c \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u0438 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0446\u0435\u043f\u043e\u0447\u0435\u043a.<\/p>\n<h3>\u041f\u043e\u0447\u0435\u043c\u0443 \u043f\u043e\u0431\u0435\u0434\u044b \u0432\u00a0\u0442\u0435\u0441\u0442\u0430\u0445 \u0442\u0440\u0435\u0431\u0443\u044e\u0442 \u043e\u0433\u043e\u0432\u043e\u0440\u043e\u043a<\/h3>\n<p>\u0412\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 Moonshot \u043c\u043e\u0434\u0435\u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0438\u0441\u044c \u0447\u0435\u0440\u0435\u0437 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b: Kimi Code, Claude Code \u0438 Codex. \u0414\u043b\u044f\u00a0Terminal\u2011Bench \u0432\u044b\u0431\u0438\u0440\u0430\u043b\u0430\u0441\u044c \u043b\u0443\u0447\u0448\u0430\u044f \u0430\u0433\u0435\u043d\u0442\u043d\u0430\u044f \u043e\u0431\u0432\u044f\u0437\u043a\u0430, SWE\u2011Marathon \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u043e\u0442\u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u043f\u043e\u0434\u00a0H20\u00a0\u0432\u0435\u0442\u043a\u0443, \u0430\u00a0\u0447\u0430\u0441\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 Fable 5\u00a0\u0438 GPT-5.6\u00a0Sol \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u043b\u0430\u0441\u044c \u0440\u0435\u0437\u0435\u0440\u0432\u043d\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0438\u043b\u0438\u00a0\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u043b\u0430\u0441\u044c \u0437\u0430\u0449\u0438\u0442\u043d\u044b\u043c\u0438 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0430\u043c\u0438.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0442 \u0443\u0437\u043a\u0438\u0435, \u043d\u043e\u00a0\u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0435 \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f:<\/p>\n<ul>\n<li>\n<p>K3\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0438\u0440\u0443\u0435\u0442 \u0441\u00a0\u043f\u0435\u0440\u0435\u0434\u043e\u0432\u044b\u043c\u0438 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u043f\u0440\u0438\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u0431\u044e\u0434\u0436\u0435\u0442\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439;<\/p>\n<\/li>\n<li>\n<p>\u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0438 \u0441\u00a0\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438\u00a0\u2014 \u0435\u0451 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0441\u0438\u043b\u044c\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u0431\u0435\u0434\u0430 \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u043d\u0435\u00a0\u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u0435\u0432\u043e\u0441\u0445\u043e\u0434\u0441\u0442\u0432\u043e \u0431\u0430\u0437\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u0432\u044f\u0437\u043a\u0430 \u00ab\u043c\u043e\u0434\u0435\u043b\u044c + \u0430\u0433\u0435\u043d\u0442\u043d\u0430\u044f \u043e\u0431\u0432\u044f\u0437\u043a\u0430 +\u00a0\u043b\u0438\u043c\u0438\u0442\u044b\u00bb, \u0430\u00a0\u043d\u0435\u00a0\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0439 <a href=\"https:\/\/deepswe.datacurve.ai\/\" rel=\"noopener noreferrer nofollow\">DeepSWE<\/a> \u043d\u0430 25\u00a0\u0438\u044e\u043b\u044f \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 K3\u00a0\u043d\u0430 69% \u00b1 5%: \u043d\u0438\u0436\u0435 GPT-5.6\u00a0Sol \u0438 \u043d\u043e\u043c\u0438\u043d\u0430\u043b\u044c\u043d\u043e Fable 5, \u043d\u043e\u00a0\u0432\u044b\u0448\u0435 Opus 4.8. \u041f\u0435\u0440\u0435\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0435\u0441\u044f \u0434\u043e\u0432\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u044b \u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0432\u044b\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b\u0439 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u043c\u0435\u0436\u0434\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u0441\u043e\u0441\u0435\u0434\u043d\u0438\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438.<\/p>\n<h3>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438<\/h3>\n<p>\u0421\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 K3\u00a0\u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430. Moonshot \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442 \u0441\u0443\u043f\u0435\u0440\u0443\u0437\u0435\u043b \u0441 64\u00a0\u0438 \u0431\u043e\u043b\u0435\u0435 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u0435\u043b\u044f\u043c\u0438, \u0447\u0442\u043e\u0431\u044b \u043e\u0431\u043c\u0435\u043d \u0432\u0435\u0441\u0430\u043c\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0435\u00a0\u0432\u044b\u0445\u043e\u0434\u0438\u043b \u0437\u0430\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u044b \u0432\u044b\u0441\u043e\u043a\u043e\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u043d\u043e\u0439 \u0441\u043e\u0435\u0434\u0438\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0435\u0442\u0438.<\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0435\u0433\u0434\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0440\u0435\u0436\u0438\u043c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0438 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u0430 \u043a\u00a0\u0435\u0433\u043e \u0438\u0441\u0442\u043e\u0440\u0438\u0438. \u0412\u00a0\u043c\u043d\u043e\u0433\u043e\u0445\u043e\u0434\u043e\u0432\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u0435 API \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430, \u0432\u043a\u043b\u044e\u0447\u0430\u044f <code>reasoning_content<\/code> \u0438 <code>tool_calls<\/code>. \u041e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u0435 \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u0438\u043b\u0438\u00a0\u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0441\u0440\u0435\u0434\u0438 \u0441\u0435\u0441\u0441\u0438\u0438 \u0434\u0435\u043b\u0430\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043d\u0435\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0439.<\/p>\n<p>RL \u043d\u0430\u00a0\u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f\u0445 \u0442\u0430\u043a\u0436\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u043b \u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438. \u041f\u0440\u0438\u00a0\u043d\u0435\u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435 K3\u00a0\u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u043d\u044f\u0442\u044c \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0430\u0433\u0435\u043d\u0442\u0443 \u043d\u0443\u0436\u043d\u044b \u044f\u0432\u043d\u044b\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b, \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439, \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u0430\u0432\u0430 \u0438 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u0441\u0440\u0435\u0434\u0430.<\/p>\n<p>\u0417\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 Hugging Face \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 <code>trust_remote_code=True<\/code>. \u0414\u043b\u044f\u00a0\u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u043e\u0439 \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438 \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0437\u0430\u043a\u0440\u0435\u043f\u0438\u0442\u044c \u0442\u043e\u0447\u043d\u0443\u044e \u0440\u0435\u0432\u0438\u0437\u0438\u044e, \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u043a\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u00a0Python \u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0435\u0433\u043e \u0432\u00a0\u0438\u0437\u043e\u043b\u044f\u0446\u0438\u0438.<\/p>\n<h3>\u0418\u0442\u043e\u0433<\/h3>\n<p>Kimi K3\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a\u00a0\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u00a0\u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0438 \u0438 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b. \u041d\u0438\u0436\u043d\u044f\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u044f \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u044f\u0434\u0440\u043e KDA \u0434\u043b\u044f\u00a0\u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430, \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u044b\u0439 MoE \u0434\u0435\u043b\u0430\u0435\u0442 896\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u044b\u043c\u0438, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u043c\u044b\u0435 \u043c\u0435\u0436\u0434\u0443 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044f\u043c\u0438 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0433\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u00a0\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u0430\u00a0\u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u0435\u0448 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u044b \u043f\u0440\u0438\u00a0\u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0438.<\/p>\n<p>\u0421\u043b\u0430\u0431\u044b\u0435 \u043c\u0435\u0441\u0442\u0430 \u043e\u0442\u0447\u0451\u0442\u0430 \u043b\u0435\u0436\u0430\u0442 \u0432\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438: \u043d\u0435\u0442 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430, \u0447\u0438\u0441\u043b\u043e 2,5\u00d7 \u043d\u0435\u00a0\u043f\u043e\u0434\u043a\u0440\u0435\u043f\u043b\u0435\u043d\u043e \u0442\u0430\u0431\u043b\u0438\u0446\u0435\u0439 \u0437\u0430\u043f\u0443\u0441\u043a\u043e\u0432, \u0430 16\u00a0\u043d\u043e\u0432\u044b\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u043d\u0435\u00a0\u0441\u043e\u043f\u0440\u043e\u0432\u043e\u0436\u0434\u0430\u044e\u0442\u0441\u044f \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u043e\u043c \u0440\u0430\u0441\u043a\u0440\u044b\u0442\u0438\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438. \u041e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0438 \u043a\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u043d\u0430\u0447\u0430\u0442\u044c \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0443\u044e \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b; \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u043e\u0431\u00a0\u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043f\u043e\u0438\u0441\u043a\u0430 \u0440\u0430\u043d\u0435\u0435 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u044e\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0439.<\/p>\n<p><strong>\u0415\u0441\u043b\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e \u0447\u0438\u0442\u0430\u0442\u044c \u0435\u0449\u0451 \u043a\u0430\u043a\u0438\u0435\u2011\u0442\u043e \u0440\u0430\u0437\u0431\u043e\u0440\u044b, \u043d\u043e\u00a0\u0432\u00a0\u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0438\u043b\u0438\u00a0\u043a\u0430\u043a\u0438\u0435\u2011\u043d\u0438\u0431\u0443\u0434\u044c \u043c\u0435\u043c\u0447\u0438\u043a\u0438 \u0441\u043c\u0435\u0448\u043d\u044b\u0435 \u043f\u0435\u0440\u0435\u0441\u044b\u043b\u0430\u0442\u044c \u0434\u0440\u0443\u0437\u044c\u044f\u043c, \u0442\u043e \u043f\u043e\u0434\u043f\u0438\u0441\u044b\u0432\u0430\u0439\u0442\u0435\u0441\u044c \u043d\u0430\u00a0\u043c\u043e\u0439 \u043a\u0430\u043d\u0430\u043b <\/strong><a href=\"https:\/\/t.me\/poxek_ai\" rel=\"noopener noreferrer nofollow\"><strong>\u041f\u043e\u0445\u0435\u043a AI<\/strong><\/a><\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1063696\/\">https:\/\/habr.com\/ru\/articles\/1063696\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u044f \u0443\u0441\u0442\u0430\u043b \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0441 &gt;1mb gifMoonshot AI \u0432\u044b\u043f\u0443\u0441\u0442\u0438\u043b\u0430 \u0432\u0435\u0441\u0430 Kimi K3\u00a0\u2014 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0438 \u0441 2,8\u00a0\u0442\u0440\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0430\u043a\u0442\u0438\u0432\u0438\u0440\u0443\u044e\u0442\u0441\u044f 104\u00a0\u043c\u043b\u0440\u0434. \u0412\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u00a0\u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 K3\u00a0\u043e\u0431\u0445\u043e\u0434\u0438\u0442 Claude Opus 4.8, GPT-5.5, GPT-5.6\u00a0Sol \u0438\u043b\u0438\u00a0Claude Fable 5. \u041e\u0434\u043d\u0430\u043a\u043e \u0441\u0432\u043e\u0434\u0438\u0442\u044c \u0440\u0435\u043b\u0438\u0437 \u043a\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432\u00a0\u0431\u044b\u043b\u043e\u00a0\u0431\u044b \u043e\u0448\u0438\u0431\u043a\u043e\u0439: \u0441\u0430\u043c\u0430 Moonshot \u043f\u0440\u0438\u0437\u043d\u0430\u0451\u0442 \u0432 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u043c \u043e\u0442\u0447\u0451\u0442\u0435, \u0447\u0442\u043e\u00a0\u0432\u00a0\u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0441\u0442\u0443\u043f\u0430\u0435\u0442 Fable 5\u00a0\u0438 GPT-5.6\u00a0Sol.\u041a\u0430\u043a\u00a0\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0431\u043b\u043e\u0433\u0430 Moonshot, \u0432\u0441\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f K3\u00a0\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e: \u0433\u0438\u0431\u0440\u0438\u0434 Kimi Delta Attention \u0438 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0433\u043e MLA, Attention Residuals, MoE \u043d\u0430 896\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0439 \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043a\u0435\u0448\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f. \u0420\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u043a\u0430\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0440\u0435\u0448\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442, \u0447\u0442\u043e\u00a0\u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u043e \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0430\u043c\u0438 \u0438 \u0433\u0434\u0435 \u043e\u0442\u0447\u0451\u0442\u0443 Moonshot \u043f\u043e\u043a\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432\u0435\u0440\u0438\u0442\u044c \u043d\u0430\u00a0\u0441\u043b\u043e\u0432\u043e.\u0421\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0440\u0435\u043b\u0438\u0437\u0430\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440Kimi K3\u0412\u0441\u0435\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u04322,78\u00a0\u0442\u0440\u043b\u043d\u0410\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432104,2\u00a0\u043c\u043b\u0440\u0434\u0421\u043b\u043e\u0451\u043293\u0421\u043b\u043e\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f69\u00a0KDA + 24\u00a0Gated MLA\u0420\u0430\u0437\u043c\u0435\u0440 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f7\u202f168\u0413\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f96\u041c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432896\u0410\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d16\u041e\u0431\u0449\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u04322\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u04421\u202f048\u202f576\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432\u0417\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440MoonViT\u2011V2, 27\u00a0\u0441\u043b\u043e\u0451\u0432, 401\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432\u041a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044f\u0432\u0435\u0441\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 MXFP4, \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 MXFP8\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u043d\u0430\u00a0Hugging Face \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u044d\u0442\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0412\u0435\u0441\u0430 \u0440\u0430\u0437\u0431\u0438\u0442\u044b \u043d\u0430 96\u00a0\u0444\u0430\u0439\u043b\u043e\u0432 safetensors \u043e\u0431\u0449\u0438\u043c \u043e\u0431\u044a\u0451\u043c\u043e\u043c \u043e\u043a\u043e\u043b\u043e 1,56\u00a0\u0422\u0411. \u042d\u0442\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u0432\u0435\u0441\u0430, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0431\u0435\u0437\u0443\u0441\u043b\u043e\u0432\u043d\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f\u00a0\u043b\u0438\u0446\u0435\u043d\u0437\u0438\u044f: \u043a\u0440\u0443\u043f\u043d\u043e\u043c\u0443 \u043f\u043e\u0441\u0442\u0430\u0432\u0449\u0438\u043a\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u043a\u0430\u043a\u00a0\u043a\u00a0\u0443\u0441\u043b\u0443\u0433\u0435 \u0441\u00a0\u0432\u044b\u0440\u0443\u0447\u043a\u043e\u0439 \u0441\u0432\u044b\u0448\u0435 20\u00a0\u043c\u043b\u043d \u0434\u043e\u043b\u043b\u0430\u0440\u043e\u0432 \u0437\u0430\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 12\u00a0\u043c\u0435\u0441\u044f\u0446\u0435\u0432 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u0441\u00a0Moonshot.\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u00a0\u0442\u0440\u0451\u043c \u043e\u0441\u044f\u043cMoonshot \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 K3\u00a0\u043a\u0430\u043a\u00a0\u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u0441\u043c\u0435\u0448\u0438\u0432\u0430\u043d\u0438\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043f\u043e\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u0433\u043b\u0443\u0431\u0438\u043d\u0435 \u0438 \u043a\u0430\u043d\u0430\u043b\u0430\u043c. \u0422\u0430\u043a\u043e\u0435 \u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u0435\u0435 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0447\u043d\u044f \u0441\u043b\u043e\u0451\u0432: \u043a\u0430\u0436\u0434\u043e\u0435 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u043c.\u041f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c: \u0442\u0440\u0438 KDA \u043d\u0430\u00a0\u043e\u0434\u0438\u043d \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 MLA\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442 \u0441\u0445\u0435\u043c\u0443:KDA -&gt; KDA -&gt; KDA -&gt; Gated MLA\u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0439 \u0442\u043e\u0436\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 MLA, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u044b\u0445\u043e\u0434 \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0447\u0435\u0440\u0435\u0437 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435.Kimi Delta Attention\u00a0\u2014 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u0433\u043e KV\u2011\u043a\u0435\u0448\u0430 \u043e\u043d \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442 \u0435\u0433\u043e \u043f\u043e\u00a0\u0434\u0435\u043b\u044c\u0442\u0430\u2011\u043f\u0440\u0430\u0432\u0438\u043b\u0443. \u041f\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0437\u0430\u0431\u044b\u0432\u0430\u043d\u0438\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442, \u043a\u0430\u043a\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u0440\u0435\u0436\u043d\u0435\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043f\u0435\u0440\u0435\u0434 \u043d\u043e\u0432\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u044c\u044e.\u0412\u00a0K3\u00a0Moonshot \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u044e \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0430 \u0437\u0430\u0431\u044b\u0432\u0430\u043d\u0438\u044f:g = g_min * sigmoid(exp(A) * z)alpha = exp(g)g_min = -5\u0423\u00a0Kimi Linear \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u044f \u043d\u0435\u00a0\u0431\u044b\u043b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d \u0441\u043d\u0438\u0437\u0443. \u0412\u043d\u0443\u0442\u0440\u0438 \u043f\u043e\u0431\u043b\u043e\u0447\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u043e\u0435 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u043e\u0433\u043b\u043e \u043f\u0435\u0440\u0435\u043f\u043e\u043b\u043d\u044f\u0442\u044c\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 16-\u0442\u043e\u043a\u0435\u043d\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u044f\u0434\u0440\u043e \u0434\u043b\u044f\u00a0\u043f\u0430\u0440 \u043f\u043e\u0437\u0438\u0446\u0438\u0439. \u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 g_min = -5 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 BF16\u00a0\u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0432\u0441\u0435 \u043a\u0430\u0443\u0437\u0430\u043b\u044c\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 \u043f\u043b\u043e\u0442\u043d\u044b\u043c\u0438 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u043c\u0438 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u043d\u0430\u00a0Tensor Cores.\u042d\u0442\u043e \u0440\u0435\u0434\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439, \u043a\u043e\u0433\u0434\u0430 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u043f\u0440\u044f\u043c\u043e \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u0432\u0435\u0442\u043a\u0443 \u0438\u0437\u00a0\u044f\u0434\u0440\u0430 \u0434\u043b\u044f\u00a0\u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u00a0\u2014 \u0431\u043e\u043b\u0435\u0435 \u043e\u0434\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0431\u0435\u0437\u00a0\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u0443\u0442\u0438 \u0434\u043b\u044f\u00a0\u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u0438.KDA \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0445\u0440\u0430\u043d\u0438\u0442 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0435 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043a\u0430\u0436\u0434\u044b\u0439 \u0447\u0435\u0442\u0432\u0451\u0440\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Multi\u2011head Latent Attention. MLA \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u043a\u043b\u044e\u0447\u0438 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u00a0\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440, \u043d\u043e\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u0437\u0438\u0446\u0438\u044f\u043c\u0438. \u042f\u0432\u043d\u043e\u0433\u043e \u043f\u043e\u0437\u0438\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0443\u00a0\u044d\u0442\u0438\u0445 \u0441\u043b\u043e\u0451\u0432 \u043d\u0435\u0442: KDA \u043f\u0435\u0440\u0435\u0434\u0430\u0451\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e\u00a0\u043f\u043e\u0440\u044f\u0434\u043a\u0435 \u0438 \u0434\u0430\u0432\u043d\u043e\u0441\u0442\u0438, \u0430\u00a0MLA \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430\u00a0\u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u00a0\u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0435\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u043f\u0435\u0440\u0435\u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c RoPE \u0438\u043b\u0438\u00a0YaRN.\u0413\u043b\u0443\u0431\u0438\u043d\u0430: Attention Residuals\u041e\u0431\u044b\u0447\u043d\u0430\u044f \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0432\u044f\u0437\u044c \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u044b\u0445\u043e\u0434 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043a\u00a0\u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u043e\u043c\u0443 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044e \u0441\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0432\u0435\u0441\u043e\u043c. \u041f\u043e\u00a0\u043c\u0435\u0440\u0435 \u0440\u043e\u0441\u0442\u0430 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0432\u0441\u0451 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0441\u0436\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a.Attention Residuals \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435\u043c \u043f\u043e\u00a0\u0432\u044b\u0445\u043e\u0434\u0430\u043c \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0441\u043b\u043e\u0451\u0432. \u041a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043a\u0430\u043a\u043e\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0435\u043c\u0443 \u043d\u0443\u0436\u043d\u043e. \u041f\u043e\u043b\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u0432\u0441\u0435 \u0432\u044b\u0445\u043e\u0434\u044b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 K3\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Block AttnRes:\u0441\u043b\u043e\u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0442\u0441\u044f \u0432\u00a0\u0431\u043b\u043e\u043a\u0438 \u043f\u043e 12;\u0432\u043d\u0443\u0442\u0440\u0438 \u0431\u043b\u043e\u043a\u0430 \u0432\u044b\u0445\u043e\u0434\u044b \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f;\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u043e\u00a0\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c \u0431\u043b\u043e\u043a\u043e\u0432;\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u043c;\u043e\u0431\u044a\u0451\u043c \u0436\u0438\u0432\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u0438 \u043c\u0435\u0436\u0441\u0442\u0430\u0434\u0438\u0439\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u0441 O(Ld) \u0434\u043e O(Nd).\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 Moonshot \u043f\u043e\u00a0AttnRes \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 Kimi Linear \u0441 48\u00a0\u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u043d\u044b 3\u00a0\u043c\u043b\u0440\u0434. \u0414\u043b\u044f\u00a0K3\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u043e\u00a0\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0440\u0435\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043d\u0430\u00a0\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0435 2,8\u00a0\u0442\u0440\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u043e\u043a\u0430 \u043d\u0435\u0442.\u041a\u0430\u043d\u0430\u043b\u044b: Stable LatentMoE\u0415\u0441\u043b\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0435 \u0441\u043a\u0440\u044b\u0442\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0448\u0438\u0440\u0438\u043d\u043e\u0439 7\u202f168\u00a0\u0432\u043e\u00a0\u0432\u0441\u0435 16\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432, \u043a\u043e\u043c\u043c\u0443\u043d\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u0447\u0442\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u0441\u044a\u0435\u0434\u044f\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u0440\u0430\u0437\u0440\u0435\u0436\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. LatentMoE \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u0443\u044e \u0432\u0435\u0442\u0432\u044c \u0434\u043e\u00a0\u0448\u0438\u0440\u0438\u043d\u044b 3\u202f584, \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0435 FFN \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u0438 \u043f\u0440\u043e\u0435\u0446\u0438\u0440\u0443\u0435\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043e\u0431\u0440\u0430\u0442\u043d\u043e. \u0414\u0432\u0430 \u043e\u0431\u0449\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432\u00a0\u043f\u043e\u043b\u043d\u043e\u0439 \u0448\u0438\u0440\u0438\u043d\u0435.\u041f\u0440\u0438 896\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430\u0445 Moonshot \u0441\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0430\u0441\u044c \u0441\u00a0\u0434\u0432\u0443\u043c\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438: \u0432\u044b\u0431\u0440\u043e\u0441\u0430\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439 \u0438 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439.\u0414\u043b\u044f\u00a0\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b RMSNorm \u043f\u0435\u0440\u0435\u0434 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0435\u0439 \u0438 SiTU\u2011GLU \u0432\u043c\u0435\u0441\u0442\u043e SwiGLU. \u041e\u0431\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043f\u043b\u0438\u043a\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0432\u0435\u0442\u0432\u0438 SiTU \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u044b \u043f\u043b\u0430\u0432\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 tanh; \u0434\u043b\u044f\u00a0K3\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b 4\u00a0\u0438 25, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0434\u0443\u043b\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043d\u0435\u00a0\u043f\u0440\u0435\u0432\u044b\u0448\u0430\u0435\u0442 100. \u041e\u043a\u043e\u043b\u043e \u043d\u0443\u043b\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 SwiGLU, \u043d\u043e\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435\u00a0\u0434\u0430\u044e\u0442 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0433\u043e \u0440\u043e\u0441\u0442\u0430.\u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u043c\u0435\u0442\u043e\u0434 \u043a\u0432\u0430\u043d\u0442\u0438\u043b\u044c\u043d\u043e\u0439 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438 (Quantile Balancing). \u0421\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430\u00a0\u0432\u044b\u0431\u043e\u0440 Top\u2011k, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0432\u0445\u043e\u0434\u0438\u0442 \u0432\u00a0\u0432\u0435\u0441\u0430 \u0441\u043c\u0435\u0441\u0438 \u0438 \u043d\u0435\u00a0\u0438\u0441\u043a\u0430\u0436\u0430\u0435\u0442 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0442\u043e\u0440\u0430. \u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0438\u0437\u00a0\u043a\u0432\u0430\u043d\u0442\u0438\u043b\u0438 \u0437\u0430\u0437\u043e\u0440\u0430, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0439 \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443 \u0447\u0438\u0441\u043b\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u00a0\u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0430. \u041f\u0440\u0438\u00a0\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0451\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u0443\u044e \u043a\u0432\u0430\u043d\u0442\u0438\u043b\u044c \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u0433\u0438\u0441\u0442\u043e\u0433\u0440\u0430\u043c\u043c\u0430: \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u044e\u0442 \u0435\u0451 \u043a\u043e\u0440\u0437\u0438\u043d\u044b \u043e\u0434\u043d\u043e\u0439 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0435\u0439 all-reduce.\u0422\u0430\u043a Moonshot \u0443\u0431\u0440\u0430\u043b\u0430 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0448\u0430\u0433\u0430 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438 \u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043b\u0430 \u043a\u043e\u0440\u0440\u0435\u043a\u0446\u0438\u044e \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043a\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u043c\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.\u041c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0441\u00a0\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044fMoonViT\u2011V2\u00a0\u043e\u0431\u0443\u0447\u0430\u043b\u0441\u044f \u0441\u00a0\u043d\u0443\u043b\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0441\u00a0\u043e\u0431\u0449\u0435\u0439 \u0446\u0435\u043b\u044c\u044e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430. Moonshot \u043e\u0442\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043e\u0442\u00a0\u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 SigLIP: \u0432\u043e\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u0445 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b \u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0438\u0435 \u043d\u043e\u0440\u043c\u044b \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u0438 \u0447\u0430\u0441\u0442\u044b\u0435 \u0432\u0441\u043f\u043b\u0435\u0441\u043a\u0438.\u0417\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 27-\u0441\u043b\u043e\u0439\u043d\u044b\u0439 ViT, \u0440\u0430\u0437\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0438 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044b \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0438 \u0430\u0433\u0440\u0435\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u00a0\u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041e\u043f\u0435\u0440\u0430\u0446\u0438\u044f Pixel Shuffle 2\u00d72\u00a0\u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u0437\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u00a0\u0447\u0435\u0442\u044b\u0440\u0435 \u0440\u0430\u0437\u0430. \u041c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u043e\u0435 \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u0435\u00a0\u2014 3584\u00d73584.\u041e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0433\u0440\u0430\u0444\u0438\u043a \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u0443\u044e \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0443 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 MoonViT\u2011V2, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0447\u0438\u0441\u043b\u043e\u0432\u043e\u0439 \u0430\u0431\u043b\u044f\u0446\u0438\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438. \u0412\u044b\u0432\u043e\u0434 \u043e\u00a0\u043d\u0435\u043d\u0443\u0436\u043d\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c Moonshot, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0449\u0438\u043c \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u043e\u043c.\u041a\u0430\u043a\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0432\u00a0\u043c\u0438\u043b\u043b\u0438\u043e\u043d \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u043d\u0430\u0447\u0438\u043d\u0430\u043b\u043e\u0441\u044c \u0441\u0440\u0430\u0437\u0443 \u043d\u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u0435. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0441\u0448\u0438\u0440\u044f\u043b\u0441\u044f \u043f\u043e\u044d\u0442\u0430\u043f\u043d\u043e:8K -&gt; 64K \u0432\u043e \u0432\u0440\u0435\u043c\u044f pre-training256K -&gt; 1M \u0432\u043e \u0432\u0440\u0435\u043c\u044f cooldown\u0414\u043e\u0440\u043e\u0433\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 \u043c\u0430\u043b\u0443\u044e \u0434\u043e\u043b\u044e \u043e\u0431\u0449\u0435\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430. \u041a\u043e\u0440\u043f\u0443\u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u0432\u0438\u0434\u0435\u043e \u043e\u0447\u0438\u0449\u0430\u043b\u0438 \u043e\u0442\u00a0\u0434\u0443\u0431\u043b\u0438\u043a\u0430\u0442\u043e\u0432, \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0445 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432, \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u044b\u0445 \u043b\u043e\u0433\u043e\u0432. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0438\u043d\u0442\u0435\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b, \u0433\u0434\u0435 \u043d\u0443\u0436\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u044b \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u044b \u043f\u043e\u00a0\u0432\u0441\u0435\u043c\u0443 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0443\u00a0\u2014 \u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u0441\u043a\u043b\u0435\u0438\u0432\u0430\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u0435\u0442 \u0434\u0430\u043b\u044c\u043d\u0438\u043c \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044f\u043c.Moonshot \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 2,5-\u043a\u0440\u0430\u0442\u043d\u043e\u0435 \u043f\u043e\u0432\u044b\u0448\u0435\u043d\u0438\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e Kimi K2. \u0417\u0434\u0435\u0441\u044c \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0431\u0430\u0437\u0430 \u0441\u043b\u0430\u0431\u0435\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f. \u0412\u00a0\u043e\u0442\u0447\u0451\u0442\u0435 \u0435\u0441\u0442\u044c \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 \u043f\u043e\u0442\u0435\u0440\u044c \u043d\u0430\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043e\u0447\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435, \u043d\u043e\u00a0\u043d\u0435\u0442 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u043e\u0432, \u0442\u043e\u0447\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u0434\u043e\u0432\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u043e\u0432, \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u00a0FLOPs \u0438 \u043f\u043e\u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043d\u044b\u0445 \u0430\u0431\u043b\u044f\u0446\u0438\u0439. \u041e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0438\u0441\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u0434\u0430\u043d\u043d\u044b\u0435, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 \u0438 \u0440\u0435\u0436\u0438\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0427\u0438\u0441\u043b\u043e 2,5\u00d7 \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0432\u043e\u0441\u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0435 Moonshot, \u043f\u043e\u043a\u0430 \u0435\u0433\u043e \u043d\u0435\u043b\u044c\u0437\u044f \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438.\u0414\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: \u0434\u0435\u0432\u044f\u0442\u044c \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u041f\u043e\u0441\u043b\u0435 SFT Moonshot \u043e\u0431\u0443\u0447\u0438\u043b\u0430 \u0442\u0440\u0438 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 \u043f\u043e\u043b\u0438\u0442\u0438\u043a \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u00a0\u043f\u043e\u0434\u043a\u0440\u0435\u043f\u043b\u0435\u043d\u0438\u0435\u043c:\u043e\u0431\u0449\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438: \u0437\u043d\u0430\u043d\u0438\u044f, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435, \u0437\u0440\u0435\u043d\u0438\u0435, \u043f\u043e\u0438\u0441\u043a;\u043e\u0431\u0449\u0438\u0435 \u0430\u0433\u0435\u043d\u0442\u044b: \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u044b, \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0439 \u043f\u043e\u0438\u0441\u043a, \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u0432;\u0430\u0433\u0435\u043d\u0442\u044b \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438: \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u041f\u041e, \u044f\u0434\u0440\u0430 \u0434\u043b\u044f\u00a0\u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043e\u0432, \u0432\u0435\u0431\u2011\u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430.\u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u043e \u043e\u0431\u0443\u0447\u0430\u043b\u043e\u0441\u044c \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0430\u0445 low, high \u0438 max. \u0414\u0435\u0432\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u2011\u0443\u0447\u0438\u0442\u0435\u043b\u0435\u0439 \u0437\u0430\u0442\u0435\u043c \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u043b\u0438 \u0432\u00a0\u043e\u0434\u043d\u0443 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e Multi\u2011Teacher On\u2011Policy Distillation.\u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u043d\u0438\u044f \u0441\u043e\u0437\u0434\u0430\u044e\u0442 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438: \u043e\u0434\u043d\u0430 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0441\u043e\u0442\u043d\u0438 \u0438\u043b\u0438\u00a0\u0442\u044b\u0441\u044f\u0447\u0438 \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u0436\u0434\u0451\u0442 \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a. \u041f\u043e\u0441\u043b\u0435 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0439 \u0434\u043e\u043b\u0438 \u0433\u043e\u0442\u043e\u0432\u044b\u0445 \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u0439 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0438, \u0430\u00a0\u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0441\u0440\u0435\u0434\u044b \u0441\u0442\u0430\u0432\u044f\u0442\u0441\u044f \u0432\u00a0\u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e\u0442\u0441\u044f \u043d\u0430\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438.\u0422\u0430\u043a\u0430\u044f \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f off\u2011policy, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043f\u0435\u0440\u0435\u0436\u0438\u0432\u0430\u0435\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. Moonshot \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u043d\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0421\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0441\u0440\u0435\u0434\u044b \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u043c\u043e\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0430\u043c\u0438 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b AgentENV, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0430\u0433\u0435\u043d\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443, \u0430\u00a0\u043d\u0435\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442 \u0435\u0451 \u0441\u00a0\u043d\u0430\u0447\u0430\u043b\u0430.\u0414\u043b\u044f\u00a0\u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0441\u0445\u043e\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u0437\u0430\u0434\u0430\u0447\u0438. \u0422\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438\u044f, \u043f\u0440\u0435\u0432\u044b\u0441\u0438\u0432\u0448\u0430\u044f tau \u00d7 budget, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0432\u043e\u0437\u043d\u0430\u0433\u0440\u0430\u0436\u0434\u0435\u043d\u0438\u0435 -1. \u0423\u043c\u0435\u043d\u044c\u0448\u0430\u044f tau, \u043a\u043e\u043c\u0430\u043d\u0434\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 \u0440\u0435\u0436\u0438\u043c\u044b high \u0438 low. \u0410\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043a\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u043e\u0437\u043d\u0430\u0433\u0440\u0430\u0436\u0434\u0435\u043d\u0438\u044f, \u0447\u0442\u043e\u0431\u044b \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0432\u043d\u043e\u0441\u0442\u044c \u043d\u0435\u00a0\u043f\u043e\u0432\u044b\u0448\u0430\u043b\u0430 \u043e\u0446\u0435\u043d\u043a\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438.\u0418\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d\u043d\u043e\u0439 MoE\u041f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 K3\u00a0\u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u043d\u044b\u0439, \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u044b\u0439, \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0439 \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c. \u0413\u043b\u0430\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043d\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c\u0430\u00a0\u2014 \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0442\u043e\u0440 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u044b: \u043e\u0434\u043d\u0438 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u044e\u0442, \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0436\u0430\u044e\u0442\u0441\u044f, \u0430\u00a0\u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u044e\u0442 \u043f\u0430\u043c\u044f\u0442\u044c.MoonEP \u0441\u043e\u0437\u0434\u0430\u0451\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043a\u043e\u043f\u0438\u0438 \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0438 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0443 \u0440\u043e\u0432\u043d\u043e S \u00d7 K \u0442\u043e\u043a\u0435\u043d\u043e\u0432. Moonshot \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043d\u0435\u00a0\u0431\u043e\u043b\u0435\u0435 E\/R \u0440\u0435\u0437\u0435\u0440\u0432\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u043d\u0430\u00a0\u043f\u0440\u043e\u0446\u0435\u0441\u0441. \u0420\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0434\u0430\u0451\u0442:\u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439;\u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 \u043f\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u0446\u0435\u043d\u0442\u0440\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043e\u0432;\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u043c\u043c\u0443\u043d\u0438\u043a\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u0431\u0443\u0444\u0435\u0440 S \u00d7 K;\u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u0440\u0430\u0437\u0443 \u0432\u00a0\u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u043d\u044b\u0435 \u044f\u0447\u0435\u0439\u043a\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u0432 \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0445 \u043a\u043e\u043f\u0438\u0439.\u041a\u043e\u0434 MoonEP \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d \u0441\u00a0\u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u043d\u0430\u00a0CUDA \u0438 \u043c\u043d\u043e\u0433\u043e\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u043d\u044b\u043c\u0438 \u0442\u0435\u0441\u0442\u0430\u043c\u0438. \u041d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u0440\u0435\u043b\u0438\u0437\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0434\u0438\u043d \u043a\u043e\u043c\u043c\u0438\u0442, \u0430\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441\u00a0DeepEP \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u043e \u0441\u0430\u043c\u043e\u0439&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-488765","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488765","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=488765"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488765\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=488765"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=488765"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=488765"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}