{"id":504164,"date":"2026-11-20T18:09:43","date_gmt":"2026-11-20T15:09:43","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=504164"},"modified":"2026-11-20T18:09:43","modified_gmt":"2026-11-20T15:09:43","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=504164","title":{"rendered":"\u041f\u0440\u0430\u0432\u043a\u0430 SGNE-CC v2 \u0434\u043b\u044f DeepSeek-R1-1.5B (T=0): \u221287% \u0437\u0430\u0432\u0438\u0441\u0430\u043d\u0438\u0439, \u043e\u0442\u0432\u0435\u0442\u044b \u0432 2.7 \u0440\u0430\u0437\u0430 \u043a\u043e\u0440\u043e\u0447\u0435 \u0438 +11 \u043f.\u043f. \u043d\u0430 MATH-500"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 (<code>T = 0<\/code>) \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0430\u044e\u0449\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c <code>DeepSeek-R1-Distill-Qwen-1.5B<\/code> (<code>1.78<\/code> \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 <code>BF16<\/code>) \u0447\u0430\u0441\u0442\u043e \u0437\u0430\u0441\u0442\u0440\u0435\u0432\u0430\u0435\u0442 \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0435 \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u0448\u0430\u0433\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 <code>&lt;think&gt;...&lt;\/think&gt;<\/code>, \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044f \u0431\u044e\u0434\u0436\u0435\u0442 \u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e \u043f\u0440\u0435\u0434\u0435\u043b\u0430 <code>32 768<\/code> \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0414\u0430\u0436\u0435 \u043f\u0440\u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u043c \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 (<code>T = 0.6, top_p = 0.95<\/code>) \u0432 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435 \u0438 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u0434\u043e\u043b\u044f \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432. <strong>\u041c\u043e\u0436\u043d\u043e \u043b\u0438 \u0441\u043d\u0438\u0437\u0438\u0442\u044c \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u043c\u0430\u043b\u043e\u0439 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u043e\u0439 \u043a \u0441\u0430\u043c\u0438\u043c \u0432\u0435\u0441\u0430\u043c \u2014 \u0431\u0435\u0437 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0431\u0435\u0437 \u0448\u0442\u0440\u0430\u0444\u0430 \u0437\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044b \u0438 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u0434\u0430 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430?<\/strong><\/p>\n<p>\u041d\u0430\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442 \u043c\u0435\u0442\u043e\u0434 <strong>SGNE-CC<\/strong> (<em>Spherical Gated Norm-preserving Edit, Column-Constrained<\/em>), \u0440\u0430\u043d\u0435\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0439 <code>Qwen3.5-0.8B<\/code> (<a href=\"https:\/\/doi.org\/10.5281\/zenodo.24235218\" rel=\"noopener nofollow\">DOI: 10.5281\/zenodo.24235218<\/a>, <a href=\"https:\/\/github.com\/Nondual-Observer\/dna-weight-editing\" rel=\"noopener nofollow\"><code>dna-weight-editing<\/code><\/a>), \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 (<code>DeepSeek-R1-Distill-Qwen-1.5B<\/code>) \u0432 \u0432\u0438\u0434\u0435 <code><strong>SGNE-CC v2<\/strong><\/code> \u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u043e\u0431\u044a\u0451\u043c \u043f\u0440\u0430\u0432\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u2014 \u0441 <code>1 984<\/code> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 (<code>802 + 1 182<\/code>) \u0438 \u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432\u043e\u0440\u043e\u0442 \u0434\u043e <code><strong>205<\/strong><\/code><strong> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 <\/strong><code><strong>mlp.down_proj<\/strong><\/code> (<code><strong>0.0177%<\/strong><\/code> \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432). \u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u0438 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u0431\u044e\u0434\u0436\u0435\u0442\u0435 \u0434\u043e <code><strong>32 768<\/strong><\/code><strong> \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/strong> \u043d\u0430 \u043f\u044f\u0442\u0438 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445 (<code>MATH-500<\/code>, <code>MBPP<\/code>, <code>HumanEval<\/code>, <code>ARC-Challenge<\/code>, <code>BBH Logic<\/code>, \u0432\u0441\u0435\u0433\u043e <code>1 054<\/code> \u0437\u0430\u0434\u0430\u0447\u0438) \u043f\u0440\u0438 \u0434\u0432\u0443\u0445 \u043e\u0431\u0449\u0438\u0445 \u0434\u043b\u044f \u043e\u0431\u0435\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430\u0445 \u2014 <code>T = 0<\/code> \u0438 <code>T = 0.6<\/code> (\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0446\u0435\u043d\u0435\u043d\u0430 \u043f\u0440\u0438 <code>T = 0.3<\/code>).<\/p>\n<h3>1. \u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u044f \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438: 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 mlp.down_proj<\/h3>\n<p>\u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0432\u043d\u043e\u0441\u0438\u0442\u044c \u043f\u0440\u0430\u0432\u043a\u0443, \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b\u0438, \u0433\u0434\u0435 \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u043d\u0443\u0442\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0437\u0430\u043c\u044b\u043a\u0430\u0435\u0442\u0441\u044f \u0446\u0438\u043a\u043b \u0441\u0430\u043c\u043e\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u043a\u0430\u043a\u0438\u0435 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043c\u043e\u0436\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0431\u0435\u0437 \u0443\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u044f \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430.<\/p>\n<p><strong>\u0410\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u044f \u0433\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f.<\/strong> \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0445 <code>336<\/code> \u0433\u043e\u043b\u043e\u0432 (<code>28<\/code> \u0441\u043b\u043e\u0451\u0432 \u00d7 <code>12<\/code> \u0433\u043e\u043b\u043e\u0432) \u043d\u0430 <code>32<\/code> \u0437\u0430\u0446\u0438\u043a\u043b\u0435\u043d\u043d\u044b\u0445 \u0438 <code>32<\/code> \u0448\u0442\u0430\u0442\u043d\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0442\u0440\u0430\u0441\u0441\u0430\u0445 (<code>64<\/code> \u0437\u0430\u0434\u0430\u0447\u0438 <code>MATH-500<\/code>) \u0432\u044b\u044f\u0432\u043b\u044f\u0435\u0442 \u0440\u0435\u0437\u043a\u0443\u044e \u043b\u043e\u043a\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e: \u0432\u0441\u0435 <code>12<\/code> \u0433\u043e\u043b\u043e\u0432 \u0441 \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0440\u043e\u0441\u0442\u043e\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043a \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c (<code>+29 \u2026 +67 \u043f.\u043f.<\/code>) \u043b\u0435\u0436\u0430\u0442 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u0435 <code>KV Group 0<\/code> (<code>H0\u2013H5<\/code>). \u0412 \u0433\u043e\u043b\u043e\u0432\u0435 <code>L23 H04<\/code> \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043a \u0443\u0441\u043b\u043e\u0432\u0438\u044e \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u0430\u0434\u0430\u0435\u0442 \u0441 <code>31%<\/code> \u0434\u043e <code>0.3%<\/code> (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 <code>100<\/code> \u0440\u0430\u0437), \u0430 \u0443 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0432\u0435\u0434\u0443\u0449\u0438\u0445 \u0433\u043e\u043b\u043e\u0432 (<code>L23 H04<\/code>, <code>L19 H03<\/code>, <code>L19 H05<\/code>, <code>L14 H03<\/code>) \u0434\u043e\u043b\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043a \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442 <code>67\u201383%<\/code>. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u043e\u0431\u0430\u0445 \u0441\u043e\u0441\u0442\u0430\u0432\u043d\u044b\u0435 \u0432\u043c\u0435\u0448\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430, \u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u0432\u0448\u0438\u0435 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u0432\u043e\u0440\u043e\u0442\u0430 <code>gate_proj<\/code> \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u0443\u044e \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044e, \u0441\u043d\u0438\u0436\u0430\u043b\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u0441 <code>99%<\/code> \u0434\u043e <code>78%<\/code>, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043b\u043e\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u043a\u0438, <code>gate_proj<\/code> \u0438 <code>up_proj<\/code> \u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b <strong>\u043d\u0435\u0442\u0440\u043e\u043d\u0443\u0442\u044b\u043c\u0438<\/strong>.<\/p>\n<p><strong>\u041e\u0442\u0431\u043e\u0440 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0438 \u043d\u043e\u0440\u043c\u043e\u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0449\u0438\u0439 (\u0441\u0444\u0435\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439) \u043f\u043e\u0432\u043e\u0440\u043e\u0442.<\/strong> \u0412 \u0431\u043b\u043e\u043a\u0435 <code>SwiGLU<\/code> \u0432\u043a\u043b\u0430\u0434 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/363\/363b122c528f54df4a0446b6bab05515.svg\" width=\"12\" height=\"16\" data-width=\"0.932\" data-height=\"1.957\" data-vertical-align=\"-0.462\" style=\"width: 0.932ex; height: 1.957ex; vertical-align: -0.462ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/363\/363b122c528f54df4a0446b6bab05515.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/363\/363b122c528f54df4a0446b6bab05515.svg 781w\" loading=\"lazy\" decode=\"async\"\/>-\u0433\u043e \u0441\u0442\u043e\u043b\u0431\u0446\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_j = W_{\\text{down}}^{(\\ell)}[:, j] \\in \\mathbb{R}^{1536}\" alt=\"w_j = W_{\\text{down}}^{(\\ell)}[:, j] \\in \\mathbb{R}^{1536}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6f9\/6f95f40be10a234de6ecd890ade19dfa.svg\" width=\"185\" height=\"25\" data-width=\"23.153\" data-height=\"3.135\" data-vertical-align=\"-1.002\" style=\"width: 23.153ex; height: 3.135ex; vertical-align: -1.002ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6f9\/6f95f40be10a234de6ecd890ade19dfa.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6f\/6f9\/6f95f40be10a234de6ecd890ade19dfa.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0443\u043c\u043d\u043e\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\operatorname{SiLU}(g_j) u_j\" alt=\"\\operatorname{SiLU}(g_j) u_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/012\/012d72c8a85df177e6d13132d97d0313.svg\" width=\"87\" height=\"19\" data-width=\"10.825\" data-height=\"2.363\" data-vertical-align=\"-0.616\" style=\"width: 10.825ex; height: 2.363ex; vertical-align: -0.616ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/012\/012d72c8a85df177e6d13132d97d0313.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/01\/012\/012d72c8a85df177e6d13132d97d0313.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0442\u043e\u043b\u0431\u0435\u0446, \u0443 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0445\u043e\u0434 \u0432\u0435\u043d\u0442\u0438\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"g_j\" alt=\"g_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d2\/8d2d80ef00296b9ed491d989b30cebd1.svg\" width=\"15\" height=\"13\" data-width=\"1.926\" data-height=\"1.666\" data-vertical-align=\"-0.666\" style=\"width: 1.926ex; height: 1.666ex; vertical-align: -0.666ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d2\/8d2d80ef00296b9ed491d989b30cebd1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8d\/8d2\/8d2d80ef00296b9ed491d989b30cebd1.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u0435\u043d \u0432 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u0435\u043d \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0435, \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u0432. \u041f\u043e \u043c\u0430\u043b\u043e\u043c\u0443 \u043d\u0430\u0431\u043e\u0440\u0443 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0442\u0440\u0430\u0441\u0441 (<code>6 + 6<\/code> \u043f\u0440\u0438 \u043e\u0442\u0431\u043e\u0440\u0435 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u044b \u0438 <code>8 + 6<\/code> \u043f\u0440\u0438 \u043f\u043e\u0434\u0431\u043e\u0440\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430; \u0432\u0441\u0435 <code>26<\/code> \u0437\u0430\u0434\u0430\u0447 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u044b \u0432 \u00a72, \u0430 <code>554<\/code> \u0437\u0430\u0434\u0430\u0447\u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438) \u043e\u0442\u043e\u0431\u0440\u0430\u043d\u044b \u0434\u0432\u0435 \u043d\u0435\u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0449\u0438\u0435\u0441\u044f \u0433\u0440\u0443\u043f\u043f\u044b:<\/p>\n<ol>\n<li>\n<p><strong>\u0413\u0440\u0430\u043d\u0438\u0446\u044b \u0441\u0442\u0440\u043e\u043a (<\/strong><code><strong>135<\/strong><\/code><strong> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u0441\u043b\u043e\u0438 <\/strong><code><strong>L18\u2013L27<\/strong><\/code><strong>):<\/strong> \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u043d\u0430 \u0442\u043e\u043a\u0435\u043d\u0430\u0445 \u0441 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u043e\u043c \u0441\u0442\u0440\u043e\u043a\u0438 (\u0432\u043a\u043b\u044e\u0447\u0430\u044f <code>\\n\\n<\/code>) \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0435 \u0438 \u043f\u043e\u0434\u0430\u0432\u043b\u0435\u043d\u044b \u0432\u043d\u0443\u0442\u0440\u0438 \u0444\u0440\u0430\u0437 \u0438 \u043f\u043e\u0441\u043b\u0435 <code>&lt;\/think&gt;<\/code>.<\/p>\n<\/li>\n<li>\n<p><strong>\u0417\u043d\u0430\u043a\u0438 \u043f\u0440\u0435\u043f\u0438\u043d\u0430\u043d\u0438\u044f (<\/strong><code><strong>70<\/strong><\/code><strong> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u0441\u043b\u043e\u0438 <\/strong><code><strong>L19\u2013L27<\/strong><\/code><strong>):<\/strong> \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u043d\u0430 <code>.<\/code>, <code>?<\/code>, <code>!<\/code> \u0432\u043d\u0443\u0442\u0440\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u0445\u0441\u044f \u0430\u0431\u0437\u0430\u0446\u0435\u0432 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u043e\u0432 (\u0441\u0440\u0435\u0434\u043d\u0438\u0439 \u0432\u0445\u043e\u0434 \u0432\u0435\u043d\u0442\u0438\u043b\u044f <code>+0.85<\/code> \u043f\u0440\u043e\u0442\u0438\u0432 <code>\u22121.41<\/code> \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0438 \u0438 <code>\u22121.81<\/code> \u043f\u043e\u0441\u043b\u0435 <code>&lt;\/think&gt;<\/code>).<\/p>\n<\/li>\n<\/ol>\n<p>\u041a\u0430\u0436\u0434\u044b\u0439 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u043f\u043e\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u043c\u0443 \u0432\u0435\u043a\u0442\u043e\u0440\u0443 \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u044f \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"u_{\\text{ET}} = \\tilde{u} \/ \\|\\tilde{u}\\|_2\" alt=\"u_{\\text{ET}} = \\tilde{u} \/ \\|\\tilde{u}\\|_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bf\/bfe\/bfebc5390caa18eef8b119214b595d65.svg\" width=\"110\" height=\"18\" data-width=\"13.713\" data-height=\"2.262\" data-vertical-align=\"-0.566\" style=\"width: 13.713ex; height: 2.262ex; vertical-align: -0.566ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bf\/bfe\/bfebc5390caa18eef8b119214b595d65.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bf\/bfe\/bfebc5390caa18eef8b119214b595d65.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\tilde{u} = \\gamma_{\\text{norm}} \\odot (W_{\\text{lm}}[\\text{`&lt;\/think&gt;`}] - \\bar{W}_{\\text{lm}})\" alt=\"\\tilde{u} = \\gamma_{\\text{norm}} \\odot (W_{\\text{lm}}[\\text{`&lt;\/think&gt;`}] - \\bar{W}_{\\text{lm}})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d93\/d93ac18e51fac88f013584e885793755.svg\" width=\"298\" height=\"21\" data-width=\"37.2\" data-height=\"2.679\" data-vertical-align=\"-0.774\" style=\"width: 37.2ex; height: 2.679ex; vertical-align: -0.774ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d93\/d93ac18e51fac88f013584e885793755.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d93\/d93ac18e51fac88f013584e885793755.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"s_j = \\operatorname{sign}(\\overline{\\operatorname{SiLU}(g_j) u_j})\" alt=\"s_j = \\operatorname{sign}(\\overline{\\operatorname{SiLU}(g_j) u_j})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f07\/f07114ddca5394814e55cd912dcc9ec0.svg\" width=\"171\" height=\"25\" data-width=\"21.42\" data-height=\"3.08\" data-vertical-align=\"-0.974\" style=\"width: 21.42ex; height: 3.08ex; vertical-align: -0.974ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f07\/f07114ddca5394814e55cd912dcc9ec0.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f07\/f07114ddca5394814e55cd912dcc9ec0.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0441 \u0442\u043e\u0447\u043d\u044b\u043c \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043d\u043e\u0440\u043c\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\|w_j\\|_2\" alt=\"\\|w_j\\|_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/17\/170\/170d312a1e5005ee82ccfd6d6ef7ccfc.svg\" width=\"46\" height=\"19\" data-width=\"5.717\" data-height=\"2.363\" data-vertical-align=\"-0.616\" style=\"width: 5.717ex; height: 2.363ex; vertical-align: -0.616ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/17\/170\/170d312a1e5005ee82ccfd6d6ef7ccfc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/17\/170\/170d312a1e5005ee82ccfd6d6ef7ccfc.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043f\u0435\u0440\u0435\u0434 \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u0438\u0435\u043c \u0432 <code>BF16<\/code>: <\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"w_j' = \\operatorname{BF16}\\!\\left(\\|w_j\\|_2 \\cdot \\frac{w_j + \\beta s_j \\|w_j\\|_2 u_{\\text{ET}}}{\\|w_j + \\beta s_j \\|w_j\\|_2 u_{\\text{ET}}\\|_2}\\right), \\qquad \\beta = 2.\" alt=\"w_j' = \\operatorname{BF16}\\!\\left(\\|w_j\\|_2 \\cdot \\frac{w_j + \\beta s_j \\|w_j\\|_2 u_{\\text{ET}}}{\\|w_j + \\beta s_j \\|w_j\\|_2 u_{\\text{ET}}\\|_2}\\right), \\qquad \\beta = 2.\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8e\/8e7\/8e791fafeabc77bf73812f13638b0727.svg\" width=\"445\" height=\"45\" data-width=\"55.582\" data-height=\"5.675\" data-vertical-align=\"-2.272\" style=\"width: 55.582ex; height: 5.675ex; vertical-align: -2.272ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8e\/8e7\/8e791fafeabc77bf73812f13638b0727.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8e\/8e7\/8e791fafeabc77bf73812f13638b0727.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0432\u0435\u0441\u043e\u0432\u043e\u0439 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438 (<code>BF16<\/code>)<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\"><code>SGNE-CC v2<\/code> (<code>205<\/code> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0412\u0441\u0435\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (<code>model.safetensors<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>1 777 088 000<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>1 777 088 000<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0418\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 <code>mlp.down_proj<\/code> (<code>L18\u2013L27<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>0<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>205<\/strong><\/code> (<code>135<\/code> \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u044b \u0441\u0442\u0440\u043e\u043a\u0438 + <code>70<\/code> \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044f)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043a\u0430\u043b\u044f\u0440\u043e\u0432 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043f\u0440\u0430\u0432\u043a\u0438 \/ \u0438\u0437\u043c\u0435\u043d\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u0432 <code>BF16<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>0<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>314 880<\/strong><\/code><strong> (<\/strong><code><strong>0.01772%<\/strong><\/code><strong>)<\/strong> \/ <code>314 418<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0423\u0433\u043b\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430 \/ \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u043d\u043e\u0440\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\bar{\\kappa}_{\\text{BF16}}\" alt=\"\\bar{\\kappa}_{\\text{BF16}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04b\/04b41ccd1ebbb5b749648832fd7a830a.svg\" width=\"42\" height=\"18\" data-width=\"5.268\" data-height=\"2.262\" data-vertical-align=\"-0.566\" style=\"width: 5.268ex; height: 2.262ex; vertical-align: -0.566ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04b\/04b41ccd1ebbb5b749648832fd7a830a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/04\/04b\/04b41ccd1ebbb5b749648832fd7a830a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>0\u00b0<\/code> \/ <code>1.000000<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>59.93\u00b0 \u2013 66.64\u00b0<\/code> \/ <code><strong>0.99999339<\/strong><\/code> (<code>FP64<\/code>, \u043e\u0442\u043a\u043b. <code>&lt; 0.03%<\/code>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, <code>gate\/up_proj<\/code>, \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0438 \u043a\u043e\u0434\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u043d\u0435\u0442<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<hr\/>\n<h3>2. \u041c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 (MATH-500 \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f 26 \u0437\u0430\u0434\u0430\u0447 \u043e\u0442\u0431\u043e\u0440\u0430 \u0438 53 \u0437\u0430\u0434\u0430\u0447 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0433\u043e\u043b\u043e\u0432)<\/h3>\n<p>\u041d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441 \u043e\u0431\u043b\u0430\u0441\u0442\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0442\u0431\u0438\u0440\u0430\u043b\u0438\u0441\u044c <code>205<\/code> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c, \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043b\u0438 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 (<code>T = 0<\/code>) \u0438 \u043f\u0440\u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u043c \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 (<code>T = 0.6<\/code>), \u0437\u0430\u0442\u0435\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0441\u0440\u0435\u0437 \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0445 \u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u043c \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0443 <code>T = 0.3<\/code>.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/fe\/db\/3a\/fedb3a6a28d4d12590bad7358e01f2a6.png\" alt=\"MATH-500 \u2014 \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0431\u043e\u0440 \u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/fe\/db\/3a\/fedb3a6a28d4d12590bad7358e01f2a6.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/fe\/db\/3a\/fedb3a6a28d4d12590bad7358e01f2a6.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>MATH-500 \u2014 \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0431\u043e\u0440 \u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 1. \u041f\u0440\u0438 \u043d\u0443\u043b\u0435\u0432\u043e\u0439 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0435 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u043d\u0430 MATH-500 \u0438 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u0442\u0440\u0438 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u0438 \u0440\u0430\u0437\u0440\u044b\u0432\u0430 \u0434\u043e \u0441\u0442\u043e\u0445\u0430\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f.<\/strong> <em>\u041f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 MATH-500 (500 \u0437\u0430\u0434\u0430\u0447), vLLM 0.34.0, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, <\/em><code><em>presence_penalty = 0<\/em><\/code><em>. \u041e\u0442\u0432\u0435\u0442\u0430\u043c \u0431\u0435\u0437 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0435\u0433\u043e \u043c\u0430\u0440\u043a\u0435\u0440\u0430 <\/em><code><em>&lt;\/think&gt;<\/em><\/code><em> \u043f\u0440\u0438\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u043e\u043b\u044c.<\/em><\/p>\n<p>\u041f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0447\u0438\u0441\u043b\u043e \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0441\u043e <code>139<\/code> \u0434\u043e <code>16<\/code>, \u0431\u0435\u0437 <code>EOS<\/code> \u2014 \u0442\u0430\u043a\u0436\u0435 \u0441\u043e <code>139<\/code> \u0434\u043e <code>16<\/code> (\u0443 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0431\u0430 \u043c\u0430\u0440\u043a\u0435\u0440\u0430 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0432 <code>12<\/code> \u043e\u0442\u0432\u0435\u0442\u0430\u0445). \u0421\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u0430\u0441\u044c \u0441 <code>11.0<\/code> \u0434\u043e <code>4.7<\/code> \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0418\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 <code>74<\/code> \u0437\u0430\u0434\u0430\u0447\u0438, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u0430\u043b\u0430\u0441\u044c, \u0438 \u043f\u043e\u0442\u0435\u0440\u044f\u043b\u0430 <code>19<\/code> \u043f\u0440\u0435\u0436\u043d\u0438\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 (\u0442\u043e\u0447\u043d\u044b\u0439 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u041c\u0430\u043a-\u041d\u0435\u043c\u0430\u0440\u0430, <img decoding=\"async\" class=\"formula inline\" source=\"p = 7.72 \\times 10^{-9}\" alt=\"p = 7.72 \\times 10^{-9}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.565\" data-vertical-align=\"-0.717\" style=\"width: 15.438ex; height: 2.565ex; vertical-align: -0.717ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u041f\u0440\u0438 <code>T = 0.6<\/code> \u0447\u0438\u0441\u043b\u043e \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u0441 <code>400<\/code> \u0434\u043e <code>410<\/code>, \u043d\u043e \u044d\u0442\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e (<code>+33 \/ \u221223<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.2288\" alt=\"p = 0.2288\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg 781w\" loading=\"lazy\" decode=\"async\"\/>); \u0447\u0438\u0441\u043b\u043e \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u0441 <code>15<\/code> \u0434\u043e <code>2<\/code>, \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u2014 \u0441 <code>5.8<\/code> \u0434\u043e <code>4.3<\/code> \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p><strong>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0445 \u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447.<\/strong><\/p>\n<ul>\n<li>\n<p><strong>\u0411\u0435\u0437 <\/strong><code><strong>26<\/strong><\/code><strong> \u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 (<\/strong><code><strong>474<\/strong><\/code><strong> \u0437\u0430\u0434\u0430\u0447\u0438 <\/strong><code><strong>MATH-500<\/strong><\/code><strong>):<\/strong> \u043f\u0440\u0438 <code>T = 0<\/code> \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 <code>310<\/code> \u0434\u043e <code>363<\/code> (<code>+70 \/ \u221217<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 8.35 \\times 10^{-9}\" alt=\"p = 8.35 \\times 10^{-9}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5c\/d5cb29635798d4bfc9dfc4b077edcb69.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.565\" data-vertical-align=\"-0.717\" style=\"width: 15.438ex; height: 2.565ex; vertical-align: -0.717ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5c\/d5cb29635798d4bfc9dfc4b077edcb69.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d5\/d5c\/d5cb29635798d4bfc9dfc4b077edcb69.svg 781w\" loading=\"lazy\" decode=\"async\"\/>); \u043f\u0440\u0438 <code>T = 0.6<\/code> \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f (<img decoding=\"async\" class=\"formula inline\" source=\"p = 0.1690\" alt=\"p = 0.1690\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/cec\/cec567d3ce2b04a6d28f9a043a3eab13.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/cec\/cec567d3ce2b04a6d28f9a043a3eab13.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ce\/cec\/cec567d3ce2b04a6d28f9a043a3eab13.svg 781w\" loading=\"lazy\" decode=\"async\"\/>).<\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 <\/strong><code><strong>53<\/strong><\/code><strong> \u0437\u0430\u0434\u0430\u0447 \u0438\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0433\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (<\/strong><code><strong>421<\/strong><\/code><strong> \u0437\u0430\u0434\u0430\u0447\u0430):<\/strong> \u0438\u0437 <code>64<\/code> \u0437\u0430\u0434\u0430\u0447 \u0440\u0430\u043d\u043d\u0435\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0433\u043e\u043b\u043e\u0432 (<code>32 + 32<\/code> \u0432 \u00a71) <code>53<\/code> \u0432\u0445\u043e\u0434\u0438\u043b\u0438 \u0432 \u0442\u0435 <code>474<\/code> \u0437\u0430\u0434\u0430\u0447\u0438. \u041d\u0430 \u043e\u0441\u0442\u0430\u0432\u0448\u0438\u0445\u0441\u044f <code><strong>421<\/strong><\/code><strong> \u0437\u0430\u0434\u0430\u0447\u0435<\/strong> \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f: \u043f\u0440\u0438 <code>T = 0<\/code> \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 <code>276<\/code> \u0434\u043e <code>321<\/code> (<code>+60 \/ \u221215<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 1.59 \\times 10^{-7}\" alt=\"p = 1.59 \\times 10^{-7}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c1\/c15\/c15a04267e67962c4cb08dc0e64d34bf.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.581\" data-vertical-align=\"-0.725\" style=\"width: 15.438ex; height: 2.581ex; vertical-align: -0.725ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c1\/c15\/c15a04267e67962c4cb08dc0e64d34bf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c1\/c15\/c15a04267e67962c4cb08dc0e64d34bf.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u043f\u0440\u0438 <code>T = 0.6<\/code> \u2014 \u0441 <code>337<\/code> \u0434\u043e <code>346<\/code> (<code>+29 \/ \u221220<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.253\" alt=\"p = 0.253\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9f\/e9f6b8b037664f4a47a8b2fe788af087.svg\" width=\"74\" height=\"16\" data-width=\"9.309\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 9.309ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9f\/e9f6b8b037664f4a47a8b2fe788af087.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e9\/e9f\/e9f6b8b037664f4a47a8b2fe788af087.svg 781w\" loading=\"lazy\" decode=\"async\"\/>).<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/8e\/2c\/5d\/8e2c5dc2289fcd35820f45ab0ae1187c.png\" alt=\"MATH-500 \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/8e\/2c\/5d\/8e2c5dc2289fcd35820f45ab0ae1187c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/8e\/2c\/5d\/8e2c5dc2289fcd35820f45ab0ae1187c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>MATH-500 \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 2. \u041f\u043e\u043d\u0438\u0436\u0435\u043d\u0438\u0435 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u044b \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043e <\/strong><code><strong>T = 0.3<\/strong><\/code><strong> \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u0447\u0442\u0438 \u043f\u043e\u043b\u043d\u043e\u0435 \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439, \u043d\u043e \u043d\u0435 \u0434\u0430\u0451\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043d\u0430\u0434 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u043f\u0440\u0438 <\/strong><code><strong>T = 0.6<\/strong><\/code><strong>.<\/strong> <em>\u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0440\u0435\u0436\u0438\u043c\u043e\u0432, \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0432\u0435\u0441\u0430\u043c\u0438 \u0438 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0439 (<\/em><code><em>top_p = 0.95<\/em><\/code><em>, <\/em><code><em>seed = 42<\/em><\/code><em>, 500 \u0437\u0430\u0434\u0430\u0447 MATH-500; \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 <\/em><code><em>T = 0.3<\/em><\/code><em> \u043d\u0435 \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0430\u0441\u044c).<\/em><\/p>\n<p>\u0423 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c <code>4<\/code> \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u043f\u0440\u0438 <code>T = 0.3<\/code> \u0438 <code>2<\/code> \u043f\u0440\u0438 <code>T = 0.6<\/code>; \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <code>T = 0.6<\/code> \u0438\u0445 \u0431\u044b\u043b\u043e <code>15<\/code>. \u0412 \u043f\u0430\u0440\u0435 \u00ab\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043f\u0440\u0438 <code>0.3<\/code> \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043f\u0440\u0438 <code>0.6<\/code>\u00bb \u0431\u0430\u043b\u0430\u043d\u0441 \u0432\u0435\u0440\u043d\u044b\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b <code>+29 \/ \u221239<\/code> (<img decoding=\"async\" class=\"formula inline\" source=\"p = 0.2750\" alt=\"p = 0.2750\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e3d\/e3d7c155a93968b01ced52d1ba422360.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.968\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.968ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e3d\/e3d7c155a93968b01ced52d1ba422360.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e3\/e3d\/e3d7c155a93968b01ced52d1ba422360.svg 781w\" loading=\"lazy\" decode=\"async\"\/>; \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f <code>26<\/code> \u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.3284\" alt=\"p = 0.3284\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00f\/00f5987a1ba7d7887a217aab31750e62.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00f\/00f5987a1ba7d7887a217aab31750e62.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/00\/00f\/00f5987a1ba7d7887a217aab31750e62.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u0418\u0437 \u0434\u0432\u0443\u0445 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u0430\u0434\u0430\u0447 <code>MATH-500<\/code> \u043f\u0440\u0438 <code>0.6<\/code>.<\/p>\n<hr\/>\n<h3>3. \u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (MBPP \u0438 HumanEval)<\/h3>\n<p>\u041e\u0431\u0430 \u043a\u043e\u0434\u043e\u0432\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 <code>205<\/code> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438. \u0417\u0434\u0435\u0441\u044c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u043b\u0438 \u044d\u0444\u0444\u0435\u043a\u0442 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u043c\u043e\u0433\u043e \u043a\u043e\u0434\u0430 Python \u0438 \u043d\u0435 \u043f\u043e\u0440\u0442\u0438\u0442 \u043b\u0438 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0441. \u0412 <code>MBPP<\/code> \u0432 \u0442\u0435\u043a\u0441\u0442\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u044b \u043f\u0435\u0440\u0432\u044b\u0435 <code>3<\/code> \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 (<code>assert<\/code>), \u0430 \u043e\u0446\u0435\u043d\u0449\u0438\u043a \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0432\u0435\u0441\u044c <code>test_list<\/code> (<code>3<\/code> \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0432 <code>116<\/code> \u0437\u0430\u0434\u0430\u0447\u0430\u0445, <code>4<\/code> \u0432 \u2116 <code>58, 223, 226<\/code>, <code>5<\/code> \u0432 \u2116 <code>172<\/code> \u2014 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e <code>360<\/code>, \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u043e <code>365<\/code>); \u0432 <code>HumanEval<\/code> \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u043c\u043e\u0434\u0443\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432 <code>test<\/code>.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/7d\/7a\/94\/7d7a9404630470e60698a3a32f653ab5.png\" alt=\"MBPP \u2014 120 \u0437\u0430\u0434\u0430\u0447 \u043d\u0430 Python\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/7d\/7a\/94\/7d7a9404630470e60698a3a32f653ab5.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/7d\/7a\/94\/7d7a9404630470e60698a3a32f653ab5.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>MBPP \u2014 120 \u0437\u0430\u0434\u0430\u0447 \u043d\u0430 Python<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 3. \u041d\u0430 <\/strong><code><strong>MBPP<\/strong><\/code><strong> \u043f\u0440\u0438 <\/strong><code><strong>T = 0<\/strong><\/code><strong> \u043f\u0440\u0430\u0432\u043a\u0430 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 \u0436\u0430\u0434\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c \u0434\u043e <\/strong><code><strong>81\/120<\/strong><\/code><strong> \u2014 \u0443\u0440\u043e\u0432\u043d\u044f \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <\/strong><code><strong>T = 0.6<\/strong><\/code><strong> \u2014 \u043f\u0440\u0438 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u0432 <\/strong><code><strong>3.7<\/strong><\/code><strong> \u0440\u0430\u0437\u0430 \u043a\u043e\u0440\u043e\u0447\u0435, \u0447\u0435\u043c \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <\/strong><code><strong>T = 0<\/strong><\/code><strong> (\u0438 \u0432 <\/strong><code><strong>1.34<\/strong><\/code><strong> \u0440\u0430\u0437\u0430 \u043a\u043e\u0440\u043e\u0447\u0435, \u0447\u0435\u043c \u0443 \u043d\u0435\u0451 \u0436\u0435 \u043f\u0440\u0438 <\/strong><code><strong>T = 0.6<\/strong><\/code><strong>); \u043f\u0440\u0438 <\/strong><code><strong>T = 0.6<\/strong><\/code><strong> \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0430\u0435\u0442 \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043c\u0435\u043d\u044c\u0448\u0435 (\u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e).<\/strong> <em>120 \u0437\u0430\u0434\u0430\u0447 <\/em><code><em>MBPP<\/em><\/code><em>, \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0432 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 Python \u0432\u0441\u0435\u0433\u043e <\/em><code><em>test_list<\/em><\/code><em>, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/em><\/p>\n<p>\u041f\u0440\u0438 <code>T = 0<\/code> \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0441 <code>45<\/code> \u0434\u043e <code>7<\/code>. \u041d\u0430 <code>40<\/code> \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c, \u0430 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0435\u0433\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u043b\u0430. \u0412 <code>20<\/code> \u0438\u0437 \u044d\u0442\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u043f\u0440\u043e\u0448\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438. \u041f\u043e \u0432\u0441\u0435\u043c <code>120<\/code> \u0437\u0430\u0434\u0430\u0447\u0430\u043c \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0434\u0430\u043b\u0430 <code>21<\/code> \u043d\u043e\u0432\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0438 <code>4<\/code> \u043f\u043e\u0442\u0435\u0440\u0438 (<img decoding=\"async\" class=\"formula inline\" source=\"p = 9.11 \\times 10^{-4}\" alt=\"p = 9.11 \\times 10^{-4}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.583\" data-vertical-align=\"-0.726\" style=\"width: 15.438ex; height: 2.583ex; vertical-align: -0.726ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u0421\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u0441\u043d\u0438\u0437\u0438\u043b\u0430\u0441\u044c \u0441 <code>13.1<\/code> \u0434\u043e <code>3.6<\/code> \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (\u0432 <code>3.7<\/code> \u0440\u0430\u0437\u0430), \u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <code>T = 0.6<\/code> \u2014 \u0432 <code>1.34<\/code> \u0440\u0430\u0437\u0430. \u041f\u0440\u0438 <code>T = 0.6<\/code> \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u0441 <code>4<\/code> \u0434\u043e <code>0<\/code>, \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u2014 \u0441 <code>4.8<\/code> \u0434\u043e <code>2.2<\/code> \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 <code>81<\/code> \u0437\u0430\u0434\u0430\u0447\u0443, \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u2014 <code>77<\/code> (<code>+7 \/ \u221211<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4807\" alt=\"p = 0.4807\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u043e \u043f\u0440\u0438 \u043e\u0434\u043d\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0447\u0438\u0441\u0435\u043b.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/77\/9a\/45\/779a457f028239fa385509be3fc68d1e.png\" alt=\"HumanEval \u2014 164 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0438\u043d\u0442\u0435\u0437\u0430 \u043a\u043e\u0434\u0430\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/77\/9a\/45\/779a457f028239fa385509be3fc68d1e.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/77\/9a\/45\/779a457f028239fa385509be3fc68d1e.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>HumanEval \u2014 164 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0438\u043d\u0442\u0435\u0437\u0430 \u043a\u043e\u0434\u0430<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 4. \u041d\u0430 <\/strong><code><strong>HumanEval<\/strong><\/code><strong> \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u043a\u0440\u0430\u0442\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u0438 \u0434\u043b\u0438\u043d\u0443 \u043e\u0442\u0432\u0435\u0442\u0430 \u0432 \u043e\u0431\u043e\u0438\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445, \u043d\u043e \u043f\u0440\u0438 <\/strong><code><strong>T = 0<\/strong><\/code><strong> \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043f\u0440\u043e\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432.<\/strong> <em>164 \u0437\u0430\u0434\u0430\u0447\u0438 <\/em><code><em>HumanEval<\/em><\/code><em>, \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043c\u043e\u0434\u0443\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 <\/em><code><em>test<\/em><\/code><em>, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/em><\/p>\n<p><strong>\u0414\u0440\u0443\u0433\u043e\u0439 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440 \u043e\u0448\u0438\u0431\u043e\u043a \u043f\u0440\u0438 <\/strong><code><strong>T = 0<\/strong><\/code><strong>.<\/strong> \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 <code>MBPP<\/code>, \u043d\u0430 <code>HumanEval<\/code> \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 <code>3.7<\/code> \u0440\u0430\u0437\u0430 (<code>63 \u2192 17<\/code>), \u0430 \u0440\u0430\u0441\u0445\u043e\u0434 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2014 \u0432 <code>2.2<\/code> \u0440\u0430\u0437\u0430 (<code>13.8k \u2192 6.2k<\/code>), \u043d\u043e \u043f\u0430\u0440\u043d\u044b\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 \u043f\u043e \u0442\u0435\u0441\u0442\u0430\u043c \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u043c (<code>+20 \/ \u221218<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.8714\" alt=\"p = 0.8714\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u0418\u0437 <code>53<\/code> \u0437\u0430\u0434\u0430\u0447, \u0433\u0434\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0430 \u043e\u0442\u0432\u0435\u0442 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code>, \u0430 <code>SGNE-CC v2<\/code> \u0435\u0433\u043e \u0437\u0430\u043a\u0440\u044b\u043b\u0430, \u0432 <code>49<\/code> \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0438\u0437\u0432\u043b\u0435\u0447\u0451\u043d\u043d\u044b\u0439 \u043a\u043e\u0434 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f, \u0432 <code>3<\/code> \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u043d\u0435 \u0438\u0437\u0432\u043b\u0435\u0447\u0435\u043d\u0430 \u0438 \u0432 <code>1<\/code> (\u0438\u043d\u0434\u0435\u043a\u0441 <code>75<\/code>) \u0434\u043e\u043f\u0443\u0449\u0435\u043d\u0430 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430; \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0439 \u043a\u043e\u0434 \u0441\u0430\u043c \u043f\u043e \u0441\u0435\u0431\u0435 \u043d\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432, \u0438 \u043e\u0431\u0449\u0438\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f <code>+20 \/ \u221218<\/code>. \u041f\u0440\u0438 <code>T = 0.6<\/code> \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 (<code>+16 \/ \u221211<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4421\" alt=\"p = 0.4421\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u043f\u0440\u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0438 \u0434\u043b\u0438\u043d\u044b \u0432 <code>1.8<\/code> \u0440\u0430\u0437\u0430 (<code>5.8k \u2192 3.3k<\/code>).<\/p>\n<hr\/>\n<h3>4. \u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434 \u0438 \u043b\u043e\u0433\u0438\u043a\u0443 (ARC-Challenge \u0438 BBH Logic)<\/h3>\n<p>\u041d\u0430\u043a\u043e\u043d\u0435\u0446, \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0437\u0430\u0434\u0430\u0447\u0438 \u0431\u0435\u0437 \u0447\u0438\u0441\u043b\u043e\u0432\u044b\u0445 \u0432\u044b\u043a\u043b\u0430\u0434\u043e\u043a \u0438 \u0431\u0435\u0437 \u043a\u043e\u0434\u0430, \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u0432\u0448\u0438\u0435 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432: \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0441 \u0432\u044b\u0431\u043e\u0440\u043e\u043c \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043c\u043d\u043e\u0433\u043e\u0448\u0430\u0433\u043e\u0432\u044b\u0435 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/ed\/0c\/58\/ed0c58b19a9f57af875c87f18a8cd7ea.png\" alt=\"ARC-Challenge \u2014 150 \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/ed\/0c\/58\/ed0c58b19a9f57af875c87f18a8cd7ea.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/ed\/0c\/58\/ed0c58b19a9f57af875c87f18a8cd7ea.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>ARC-Challenge \u2014 150 \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447<\/figcaption><\/div>\n<\/figure>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/6e\/41\/de\/6e41defeb56cd26210283090a732e6bb.png\" alt=\"ARC-Challenge \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/6e\/41\/de\/6e41defeb56cd26210283090a732e6bb.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/6e\/41\/de\/6e41defeb56cd26210283090a732e6bb.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>ARC-Challenge \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 5\u20136. \u041d\u0430 <\/strong><code><strong>ARC-Challenge<\/strong><\/code><strong> \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0443\u0441\u0442\u0440\u0430\u043d\u044f\u0435\u0442 \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0432\u043e \u0432\u0441\u0435\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445 \u0438 \u043f\u043e\u0447\u0442\u0438 \u0432 \u0434\u0435\u0441\u044f\u0442\u044c \u0440\u0430\u0437 \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434; \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438 <\/strong><code><strong>T = 0.3<\/strong><\/code><strong>.<\/strong> <em>150 \u0437\u0430\u0434\u0430\u0447 <\/em><code><em>ARC-Challenge<\/em><\/code><em>, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041e\u0446\u0435\u043d\u0449\u0438\u043a \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0438\u0449\u0435\u0442 \u0431\u0443\u043a\u0432\u0443 \u0432 \u0440\u0430\u043c\u043a\u0435 <\/em><code><em>\\boxed{}<\/em><\/code><em>, \u0430 \u0437\u0430\u0442\u0435\u043c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u0434\u0440\u0443\u0433\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0437\u0430\u043f\u0438\u0441\u0438 (<\/em><code><em>87<\/em><\/code><em> \u0438\u0437 <\/em><code><em>89<\/em><\/code><em> \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 <\/em><code><em>SGNE-CC v2<\/em><\/code><em> \u043f\u0440\u0438 <\/em><code><em>T = 0<\/em><\/code><em> \u0438 \u0432\u0441\u0435 <\/em><code><em>85<\/em><\/code><em> \u043f\u0440\u0438 <\/em><code><em>T = 0.6<\/em><\/code><em> \u0437\u0430\u0447\u0442\u0435\u043d\u044b \u0431\u0435\u0437 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043d\u043e\u0439 \u0431\u0443\u043a\u0432\u044b \u0432 \u0440\u0430\u043c\u043a\u0435).<\/em><\/p>\n<p>\u041d\u0430 <code>ARC-Challenge<\/code> \u0432\u0441\u0435 <code>150<\/code> \u043e\u0442\u0432\u0435\u0442\u043e\u0432 <code>SGNE-CC v2<\/code> \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0431\u043b\u043e\u043a <code>&lt;think&gt;<\/code> \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0438\u0437 \u0442\u0440\u0451\u0445 \u0440\u0435\u0436\u0438\u043c\u043e\u0432. \u041f\u0440\u0438 <code>T = 0<\/code> \u044d\u0442\u043e \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0441\u0440\u0435\u0434\u043d\u044e\u044e \u0434\u043b\u0438\u043d\u0443 \u0432 <code>9.8<\/code> \u0440\u0430\u0437\u0430 \u043f\u0440\u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c, \u043d\u043e \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e\u043c \u0441\u0434\u0432\u0438\u0433\u0435 (<code>+28 \/ \u221218<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.1839\" alt=\"p = 0.1839\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>); \u043f\u0440\u0438 <code>T = 0.6<\/code> \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 (<code>+18 \/ \u221219<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 1.0000\" alt=\"p = 1.0000\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). <strong>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440 (<\/strong><code><strong>T = 0.3<\/strong><\/code><strong>).<\/strong> \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 <code>MATH-500<\/code>, \u043d\u0430 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u0445 \u043f\u0440\u0438 <code>T = 0.3<\/code> <code>SGNE-CC v2<\/code> \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 <code>99\/150<\/code> \u043f\u0440\u043e\u0442\u0438\u0432 <code>86\/150<\/code> \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <code>T = 0.6<\/code> (<code>+31 \/ \u221218<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.0854\" alt=\"p = 0.0854\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00563f8ef73c7d2d6751bcff8ecfa28.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00563f8ef73c7d2d6751bcff8ecfa28.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a00\/a00563f8ef73c7d2d6751bcff8ecfa28.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u043f\u0440\u0438 \u0441\u0440\u0435\u0434\u043d\u0435\u0439 \u0434\u043b\u0438\u043d\u0435 \u043c\u0435\u043d\u0435\u0435 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (\u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 <code>T = 0.3<\/code> \u043d\u0435 \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0430\u0441\u044c).<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/16\/95\/63\/16956386d0bd8066e665f0c970585eb1.png\" alt=\"BBH Logic \u2014 120 \u0437\u0430\u0434\u0430\u0447 \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0440\u0430\u0437\u0434\u0435\u043b\u043e\u0432\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/16\/95\/63\/16956386d0bd8066e665f0c970585eb1.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/16\/95\/63\/16956386d0bd8066e665f0c970585eb1.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>BBH Logic \u2014 120 \u0437\u0430\u0434\u0430\u0447 \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0440\u0430\u0437\u0434\u0435\u043b\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u0420\u0438\u0441. 7. \u041d\u0430 <\/strong><code><strong>BBH Logic<\/strong><\/code><strong> \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434 \u0441 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u043e\u0439 <\/strong><code><strong>SGNE-CC v2<\/strong><\/code><strong> \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442 \u0434\u043e\u043b\u044e \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0434\u043e \u0443\u0440\u043e\u0432\u043d\u044f <\/strong><code><strong>93\/120<\/strong><\/code><strong> (\u043f\u0440\u043e\u0442\u0438\u0432 <\/strong><code><strong>82\/120<\/strong><\/code><strong> \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0436\u0430\u0434\u043d\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435 \u0438 <\/strong><code><strong>87\/120<\/strong><\/code><strong> \u0443 \u043d\u0435\u0451 \u0436\u0435 \u043f\u0440\u0438 <\/strong><code><strong>T = 0.6<\/strong><\/code><strong>).<\/strong> <em>120 \u0437\u0430\u0434\u0430\u0447 \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0440\u0430\u0437\u0434\u0435\u043b\u043e\u0432 <\/em><code><em>BBH<\/em><\/code><em>, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/em><\/p>\n<p>\u041d\u0430 <code>BBH Logic<\/code> \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0436\u0430\u0434\u043d\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> \u043f\u044f\u0442\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043e\u0442\u0432\u0435\u0442\u043e\u0432 (<code>24\/120<\/code>), \u0442\u043e\u0433\u0434\u0430 \u043a\u0430\u043a <code>SGNE-CC v2<\/code> \u2014 \u043b\u0438\u0448\u044c \u043e\u0434\u0438\u043d, \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0434\u043b\u0438\u043d\u0443 \u0432 <code>3.1<\/code> \u0440\u0430\u0437\u0430 (<code>7.4k \u2192 2.4k<\/code>) \u0438 \u0434\u0430\u0451\u0442 \u0432 \u0436\u0430\u0434\u043d\u043e\u0439 \u043f\u0430\u0440\u0435 <code>82 \u2192 93<\/code> (<code>+23 \/ \u221212<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.0895\" alt=\"p = 0.0895\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>); \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 <code>T = 0.6<\/code> \u044d\u0442\u043e <code>87 \u2192 93<\/code> (<code>+22 \/ \u221216<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4177\" alt=\"p = 0.4177\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87f\/87f5cc22c08d1f672fea88dde49fc4b2.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87f\/87f5cc22c08d1f672fea88dde49fc4b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87f\/87f5cc22c08d1f672fea88dde49fc4b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>). \u041f\u0440\u0438 <code>T = 0.6<\/code> \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043d\u0430 \u043f\u0440\u0435\u0436\u043d\u0435\u043c \u0443\u0440\u043e\u0432\u043d\u0435 (<code>+18 \/ \u221217<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 1.0000\" alt=\"p = 1.0000\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u043d\u0435\u0442, \u0430 \u0440\u0430\u0441\u0445\u043e\u0434 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 <code>40%<\/code>.<\/p>\n<hr\/>\n<h3>5. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u043e\u0439, \u0433\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u0435\u0442\u043e\u0434\u0430, \u0441\u0432\u043e\u0434\u043a\u0430 \u0438 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c<\/h3>\n<h4>5.1. \u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043c\u0435\u0436\u0434\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u043c\u0438: \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u043e\u0439 \u043d\u0430 Qwen3.5-0.8B<\/h4>\n<p>\u0412 \u043d\u0430\u0448\u0435\u0439 \u043f\u0435\u0440\u0432\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u0435 (<a href=\"https:\/\/doi.org\/10.5281\/zenodo.24235218\" rel=\"noopener nofollow\">DOI: 10.5281\/zenodo.24235218<\/a>, <a href=\"https:\/\/github.com\/Nondual-Observer\/dna-weight-editing\" rel=\"noopener nofollow\"><code>dna-weight-editing<\/code><\/a>) \u043c\u0435\u0442\u043e\u0434 <code>SGNE-CC<\/code> (<code>v1<\/code>) \u0431\u044b\u043b \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d \u0434\u043b\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 <code>Qwen3.5-0.8B<\/code>, \u0433\u0434\u0435 <code>75%<\/code> \u0441\u043b\u043e\u0451\u0432 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438 <code>GatedDeltaNet<\/code>. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0440\u0430\u0431\u043e\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0441\u0444\u0435\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 \u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043a\u0440\u0430\u0442\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435\u0439 \u043f\u0440\u0430\u0432\u043a\u0438 (\u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0443 \u0434\u0432\u0443\u0445 \u0440\u0430\u0431\u043e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0440\u0435\u0436\u0438\u043c\u044b \u0448\u0442\u0440\u0430\u0444\u0430 \u0437\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044b \u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u043e\u0446\u0435\u043d\u043a\u0438 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430, \u0430 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u043b\u0438\u0448\u044c \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043e):<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0425\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0430 (<code>BF16<\/code>, \u0431\u044e\u0434\u0436\u0435\u0442 <code>32 768<\/code> \u0442\u043e\u043a\u0435\u043d\u043e\u0432)<\/p>\n<\/th>\n<th>\n<p align=\"left\"><code>v1<\/code>: <code>Qwen3.5-0.8B<\/code> (<code>DOI: 10.5281\/zenodo.24235218<\/code>)<\/p>\n<\/th>\n<th>\n<p align=\"left\"><code>v2<\/code> (\u041d\u0430\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430): <code>DeepSeek-R1-Distill-Qwen-1.5B<\/code><\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0422\u0438\u043f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u0440\u0430\u0437\u043c\u0435\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0413\u0438\u0431\u0440\u0438\u0434 (<code>18<\/code> <code>GatedDeltaNet<\/code> + <code>6<\/code> \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f), <code>752<\/code> \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0438\u0441\u0442\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 (<code>28<\/code> \u0441\u043b\u043e\u0451\u0432 <code>GQA<\/code>), <code>1.78<\/code> \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041e\u0431\u044a\u0451\u043c \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438 <code>SGNE-CC<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>1 984<\/code> \u0441\u0442\u043e\u043b\u0431\u0446\u0430 (<code>802<\/code> <code>mlp.down_proj<\/code> + <code>1 182<\/code> <code>GatedDeltaNet<\/code>) \u0438 <code>1<\/code> \u0441\u0442\u0440\u043e\u043a\u0430 \u0432\u043e\u0440\u043e\u0442, <code>0.270%<\/code> \u0432\u0435\u0441\u043e\u0432 (<code>3.13<\/code> \u041c\u0438\u0411)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>205<\/strong><\/code><strong> \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 <\/strong><code><strong>mlp.down_proj<\/strong><\/code> (<code>135<\/code> + <code>70<\/code>), <code><strong>0.0177%<\/strong><\/code> \u0432\u0435\u0441\u043e\u0432 (<code>0.58<\/code> \u041c\u0438\u0411), \u0431\u0435\u0437 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432 \u0438 \u0432\u043e\u0440\u043e\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041c\u0430\u043a\u0441. \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u043d\u043e\u0440\u043c\u044b \u0441\u0442\u043e\u043b\u0431\u0446\u0430 \u0432 <code>BF16<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>0.1625%<\/code> (<code>[0.998375, 1.001620]<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>&lt; 0.03%<\/strong><\/code> (<code>0.0295%<\/code>, \u0441\u0440\u0435\u0434\u043d\u0435\u0435 <code>0.99999339<\/code>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>MATH-500<\/code> \u043f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0432\u043e\u0434\u0435 (<code>T = 0, pp = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>0.0% \u2192 43.0%<\/code>; \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code>: <code>100% \u2192 7.2%<\/code> (<code>500 \u2192 36<\/code>); \u0431\u0435\u0437 <code>EOS<\/code>: <code>100% \u2192 18.4%<\/code> (<code>500 \u2192 92<\/code>); \u0434\u043b\u0438\u043d\u0430 <code>32.8k \u2192 8.6k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>65.4% \u2192 76.4%<\/code>; \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code>: <code>27.8% \u2192 3.2%<\/code> (<code>139 \u2192 16<\/code>); \u0431\u0435\u0437 <code>EOS<\/code>: <code>27.8% \u2192 3.2%<\/code> (<code>139 \u2192 16<\/code>); \u0434\u043b\u0438\u043d\u0430 <code>11.0k \u2192 4.7k<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>HumanEval-164<\/code> \u043f\u0440\u0438 <code>T = 0<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>5.5% \u2192 32.3%<\/strong><\/code> (<code>9\/164 \u2192 53\/164<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>52.4% \u2192 53.7%<\/code> (\u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> <code>38.4% \u2192 10.4%<\/code>, \u0434\u043b\u0438\u043d\u0430 <code>13.8k \u2192 6.2k<\/code>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)*<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>MATH-500<\/code> (<code>pp = 1.5<\/code>): <code>7.8% \u2192 47.0%<\/code>; \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code>: <code>92.2% \/ 0.2%<\/code> (<code>MIT-p50c<\/code> <code>18.2%<\/code>); \u0431\u0435\u0437 <code>EOS<\/code>: <code>92.2% \/ 1.6%<\/code> (<code>MIT-p50c<\/code> <code>28.2%<\/code>); \u043a\u043e\u0440\u043e\u0447\u0435 \u0432 <code>4.0\u00d7<\/code> \u043f\u0440\u043e\u0442\u0438\u0432 <code>MIT-p50c<\/code> (<code>21 052.9 \u2192 5 319.4<\/code>; \u0431\u0430\u0437\u0430 <code>30 632.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>MATH-500<\/code> (<code>pp = 0<\/code>): <code>80.0% \u2192 82.0%<\/code>, \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code>: <code>3.0% \u2192 0.4%<\/code>, \u043a\u043e\u0440\u043e\u0447\u0435 \u043d\u0430 <code>26%<\/code> (\u043f\u043e \u0432\u0441\u0435\u043c <code>1 054<\/code> \u0437\u0430\u0434\u0430\u0447\u0430\u043c <code>\u221233.6%<\/code>)<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>*\u0412 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 <\/em><code><em>Qwen3.5-0.8B<\/em><\/code><em> \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 <\/em><code><em>presence_penalty = 1.5<\/em><\/code><em>, \u0442\u043e\u0433\u0434\u0430 \u043a\u0430\u043a \u0434\u043b\u044f <\/em><code><em>DeepSeek-R1-Distill-Qwen-1.5B<\/em><\/code><em> \u0432\u0441\u0435 \u043f\u0440\u043e\u0433\u043e\u043d\u044b \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u0431\u0435\u0437 \u0448\u0442\u0440\u0430\u0444\u0430 (<\/em><code><em>presence_penalty = 0<\/em><\/code><em>).<\/em><\/p>\n<p>\u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u043c\u0435\u0442\u043e\u0434 <code>SGNE-CC<\/code> \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0431\u043b\u043e\u043a\u043e\u0432 <code>GatedDeltaNet<\/code>: \u0434\u043e\u043b\u044f \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u0430\u0441\u044c \u0432 <code>15<\/code> \u0440\u0430\u0437 (\u0441 <code>0.270%<\/code> \u0434\u043e <code>0.0177%<\/code>), \u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u043d\u043e\u0440\u043c\u044b \u0441\u0442\u043e\u043b\u0431\u0446\u0430 \u0432 <code>BF16<\/code> \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u043b\u043e\u0441\u044c \u0432 <code>5.5<\/code> \u0440\u0430\u0437\u0430 (\u0441 <code>0.1625%<\/code> \u0434\u043e <code>0.0295%<\/code>).<\/p>\n<h4>5.2. \u0413\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u0435\u0442\u043e\u0434\u0430 \u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0435 \u0438\u0437\u0434\u0435\u0440\u0436\u043a\u0438<\/h4>\n<ul>\n<li>\n<p><strong>\u041f\u043e\u0442\u0435\u0440\u044f\u043d\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/strong> \u0412 \u0441\u0432\u043e\u0434\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0438\u0437 <code>1 054<\/code> \u0437\u0430\u0434\u0430\u0447 \u043f\u0440\u0438 <code>T = 0<\/code> \u043d\u0430 <code>166<\/code> \u043d\u043e\u0432\u044b\u0445 \u0432\u0435\u0440\u043d\u044b\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f <code>71<\/code> \u043f\u043e\u0442\u0435\u0440\u044f\u043d\u043d\u044b\u0439 \u0440\u0430\u043d\u0435\u0435 \u0432\u0435\u0440\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442. \u041f\u043e\u0448\u0442\u0443\u0447\u043d\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u044d\u0442\u0438\u0445 <code>71<\/code> \u043f\u043e\u0442\u0435\u0440\u044c \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0432 <code>18<\/code> \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043a\u0440\u044b\u043b\u0430 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0440\u0430\u043d\u044c\u0448\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439, \u0432 <code>38<\/code> \u2014 \u043f\u043e\u0437\u0436\u0435, \u0430 \u0432 <code>15<\/code> \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u0435\u0433\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c; \u043e\u0434\u043d\u043e\u0439 \u043f\u043e\u0437\u0438\u0446\u0438\u0438 \u043c\u0430\u0440\u043a\u0435\u0440\u0430 <code>&lt;\/think&gt;<\/code> \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u043b\u044f \u043f\u0440\u0438\u0447\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u043c\u0430\u0440\u043a\u0435\u0440\u044b <\/strong><code><strong>&lt;\/think&gt;<\/strong><\/code><strong>.<\/strong> \u041f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u044f \u0432 \u0442\u0435\u043a\u0441\u0442\u0435 \u043e\u043a\u043e\u043d\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 <code>SGNE-CC v2<\/code> \u0438\u043d\u043e\u0433\u0434\u0430 \u043f\u043e\u0440\u043e\u0436\u0434\u0430\u0435\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u0441\u043b\u0443\u0436\u0435\u0431\u043d\u044b\u0439 \u043c\u0430\u0440\u043a\u0435\u0440 <code>&lt;\/think&gt;<\/code>: <code>84<\/code> \u0441\u043b\u0443\u0447\u0430\u044f \u043f\u0440\u0438 <code>T = 0<\/code> \u0438 <code>83<\/code> \u043f\u0440\u0438 <code>T = 0.6<\/code> \u043f\u0440\u043e\u0442\u0438\u0432 <code>0<\/code> \u043f\u0440\u0438 <code>T = 0<\/code> \u0438 <code>3<\/code> \u043f\u0440\u0438 <code>T = 0.6<\/code> (<code>BBH<\/code> \u0438\u043d\u0434\u0435\u043a\u0441\u044b <code>16<\/code> \u0438 <code>22<\/code>, <code>MBPP<\/code> \u0438\u043d\u0434\u0435\u043a\u0441 <code>55<\/code>) \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0431\u0449\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/strong> \u041f\u0440\u0438 <code>T = 0.6<\/code> \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043f\u043e <code>1 054<\/code> \u0437\u0430\u0434\u0430\u0447\u0430\u043c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u0430 (<code>+92 \/ \u221281<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4472\" alt=\"p = 0.4472\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg 781w\" loading=\"lazy\" decode=\"async\"\/>): \u043f\u0440\u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u043f\u0440\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0436\u0434\u0435 \u0432\u0441\u0435\u0433\u043e \u043a\u0430\u043a \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0434\u043b\u0438\u043d\u044b (<code>\u221233.6%<\/code>) \u0438 \u0441\u043d\u044f\u0442\u0438\u0435 \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0445 \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 (<code>29 \u2192 4<\/code>; \u0432\u044b\u0445\u043e\u0434\u044b \u043d\u0430 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u043f\u043e <code>EOS<\/code> \u2014 <code>30 \u2192 4<\/code>).<\/p>\n<\/li>\n<\/ul>\n<h4>5.3. \u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h4>\n<p>\u0421\u0444\u0435\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 <code>205<\/code> \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 <code>mlp.down_proj<\/code> (<code>0.0177%<\/code> \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432) \u0431\u0435\u0437 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u0434\u0430 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u0432 \u0447\u0438\u0441\u0442\u043e\u043c \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0435 <code>DeepSeek-R1-Distill-Qwen-1.5B<\/code>. \u041f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 (<code>T = 0<\/code>) \u0447\u0438\u0441\u043b\u043e \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u0441 <code>638<\/code> \u0434\u043e <code>733<\/code> \u0438\u0437 <code>1 054<\/code> (<code>+9.0 \u043f.\u043f.<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 6.07 \\times 10^{-10}\" alt=\"p = 6.07 \\times 10^{-10}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg\" width=\"130\" height=\"21\" data-width=\"16.238\" data-height=\"2.565\" data-vertical-align=\"-0.717\" style=\"width: 16.238ex; height: 2.565ex; vertical-align: -0.717ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u0430 \u0447\u0438\u0441\u043b\u043e \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u0441 <code>305<\/code> \u0434\u043e <code>41<\/code> (\u0431\u0435\u0437 <code>EOS<\/code>: <code>300 \u2192 38<\/code>) \u043f\u0440\u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0438 \u0441\u0440\u0435\u0434\u043d\u0435\u0439 \u0434\u043b\u0438\u043d\u044b \u0441 <code>10.8k<\/code> \u0434\u043e <code>4.0k<\/code> \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041f\u0440\u0438 <code>T = 0.6<\/code> \u043e\u0431\u0449\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 <code>72.3%<\/code> \u0443 \u0431\u0430\u0437\u044b \u0438 <code>73.3%<\/code> \u0443 <code>SGNE-CC v2<\/code> (<code>p = 0.4472<\/code>), \u043f\u0440\u0438 \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u0438 \u0441\u0440\u0435\u0434\u043d\u0435\u0439 \u0434\u043b\u0438\u043d\u044b \u043d\u0430 <code>33.6%<\/code> \u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0438 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 <code>&lt;\/think&gt;<\/code> \u0441 <code>29<\/code> \u0434\u043e <code>4<\/code>.<\/p>\n<h4>5.4. \u0421\u0432\u043e\u0434\u043d\u0430\u044f \u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u043f\u043e \u0432\u0441\u0435\u043c 1 054 \u0437\u0430\u0434\u0430\u0447\u0430\u043c (BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432)<\/h4>\n<p>\u0412 \u044f\u0447\u0435\u0439\u043a\u0430\u0445 \u0443\u043a\u0430\u0437\u0430\u043d\u044b \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c, \u0440\u0430\u0437\u0431\u0438\u0432\u043a\u0430 \u043d\u0430 \u0442\u0440\u0438 \u0438\u0441\u0445\u043e\u0434\u0430 (<strong>\u0432\u0435\u0440\u043d\u043e \/ \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u043e\u0441\u043b\u0435 <\/strong><code><strong>&lt;\/think&gt;<\/strong><\/code><strong> \/ \u0431\u0435\u0437 <\/strong><code><strong>&lt;\/think&gt;<\/strong><\/code>) \u0438 \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u0432 \u0442\u044b\u0441\u044f\u0447\u0430\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432; <code>seed = 42<\/code> \u043f\u0440\u0438 <code>T = 0.6<\/code>, \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" style=\"width: 1.138ex; height: 1.439ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u044b \u0442\u043e\u0447\u043d\u044b\u043c \u0434\u0432\u0443\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u043c \u0442\u0435\u0441\u0442\u043e\u043c \u041c\u0430\u043a-\u041d\u0435\u043c\u0430\u0440\u0430.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041d\u0430\u0431\u043e\u0440 (<code>N<\/code>)<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0435\u0436\u0438\u043c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c: \u0422\u043e\u0447\u043d. (<code>\u0412\u0435\u0440\u043d\u043e \/ \u041e\u0448. \/ \u0411\u0435\u0437 &lt;\/think&gt;<\/code>) \u00b7 \u0422\u043e\u043a.<\/p>\n<\/th>\n<th>\n<p align=\"left\"><code>SGNE-CC v2<\/code>: \u0422\u043e\u0447\u043d. (<code>\u0412\u0435\u0440\u043d\u043e \/ \u041e\u0448. \/ \u0411\u0435\u0437 &lt;\/think&gt;<\/code>) \u00b7 \u0422\u043e\u043a.<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u0440\u0438\u043e\u0431\u0440\u0435\u0442\u0435\u043d\u043e \/ \u043f\u043e\u0442\u0435\u0440\u044f\u043d\u043e \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" style=\"width: 1.138ex; height: 1.439ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>MATH-500<\/strong> (<code>500<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0416\u0430\u0434\u043d\u044b\u0439 (<code>T = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>65.4%<\/code> (<code>327<\/code> \/ <code>34<\/code> \/ <code>139<\/code>) \u00b7 <code>11.0k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>76.4%<\/strong><\/code> (<code>382<\/code> \/ <code>102<\/code> \/ <code><strong>16<\/strong><\/code>) \u00b7 <code><strong>4.7k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>+11.0 \u043f.\u043f.<\/strong><\/code> (<code>+74 \/ \u221219<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 7.72 \\times 10^{-9}\" alt=\"p = 7.72 \\times 10^{-9}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.565\" data-vertical-align=\"-0.717\" style=\"width: 15.438ex; height: 2.565ex; vertical-align: -0.717ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c8\/c87\/c8717dfb0c64cbb92ab55d4f6051bf71.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>MATH-500<\/strong> (<code>500<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>80.0%<\/code> (<code>400<\/code> \/ <code>85<\/code> \/ <code>15<\/code>) \u00b7 <code>5.8k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>82.0%<\/strong><\/code> (<code>410<\/code> \/ <code>88<\/code> \/ <code><strong>2<\/strong><\/code>) \u00b7 <code><strong>4.3k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+2.0 \u043f.\u043f.<\/code> (<code>+33 \/ \u221223<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.2288\" alt=\"p = 0.2288\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/dd\/dde\/dde19678bee5a170157067e685ebe697.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>MBPP<\/strong> (<code>120<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0416\u0430\u0434\u043d\u044b\u0439 (<code>T = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>53.3%<\/code> (<code>64<\/code> \/ <code>11<\/code> \/ <code>45<\/code>) \u00b7 <code>13.1k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>67.5%<\/strong><\/code> (<code>81<\/code> \/ <code>32<\/code> \/ <code><strong>7<\/strong><\/code>) \u00b7 <code><strong>3.6k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>+14.2 \u043f.\u043f.<\/strong><\/code> (<code>+21 \/ \u22124<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 9.11 \\times 10^{-4}\" alt=\"p = 9.11 \\times 10^{-4}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg\" width=\"124\" height=\"21\" data-width=\"15.438\" data-height=\"2.583\" data-vertical-align=\"-0.726\" style=\"width: 15.438ex; height: 2.583ex; vertical-align: -0.726ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/8a\/8a4\/8a4b136f7177915ce9d1c9db543ab329.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>MBPP<\/strong> (<code>120<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>67.5%<\/code> (<code>81<\/code> \/ <code>35<\/code> \/ <code>4<\/code>) \u00b7 <code>4.8k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>64.2%<\/code> (<code>77<\/code> \/ <code>43<\/code> \/ <code><strong>0<\/strong><\/code>) \u00b7 <code><strong>2.2k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>-3.3 \u043f.\u043f.<\/code> (<code>+7 \/ \u221211<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4807\" alt=\"p = 0.4807\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/56\/568\/5680e07d334537bbd2636adfc477d613.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>HumanEval<\/strong> (<code>164<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0416\u0430\u0434\u043d\u044b\u0439 (<code>T = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>52.4%<\/code> (<code>86<\/code> \/ <code>15<\/code> \/ <code>63<\/code>) \u00b7 <code>13.8k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>53.7%<\/strong><\/code> (<code>88<\/code> \/ <code>59<\/code> \/ <code><strong>17<\/strong><\/code>) \u00b7 <code><strong>6.2k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+1.2 \u043f.\u043f.<\/code> (<code>+20 \/ \u221218<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.8714\" alt=\"p = 0.8714\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/764\/764b3fa058d6dcf60607475622a54a31.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>HumanEval<\/strong> (<code>164<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>65.9%<\/code> (<code>108<\/code> \/ <code>49<\/code> \/ <code>7<\/code>) \u00b7 <code>5.8k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>68.9%<\/strong><\/code> (<code>113<\/code> \/ <code>49<\/code> \/ <code><strong>2<\/strong><\/code>) \u00b7 <code><strong>3.3k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+3.0 \u043f.\u043f.<\/code> (<code>+16 \/ \u221211<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4421\" alt=\"p = 0.4421\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/12\/12a\/12acb70359eb399e69f078db0bd45bd7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>ARC-Challenge<\/strong> (<code>150<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0416\u0430\u0434\u043d\u044b\u0439 (<code>T = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>52.7%<\/code> (<code>79<\/code> \/ <code>37<\/code> \/ <code>34<\/code>) \u00b7 <code>7.7k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>59.3%<\/strong><\/code> (<code>89<\/code> \/ <code>61<\/code> \/ <code><strong>0<\/strong><\/code>) \u00b7 <code><strong>0.8k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+6.7 \u043f.\u043f.<\/code> (<code>+28 \/ \u221218<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.1839\" alt=\"p = 0.1839\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a0\/a09\/a09c4f81a53fff4b315ca4fead08a53b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>ARC-Challenge<\/strong> (<code>150<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>57.3%<\/code> (<code>86<\/code> \/ <code>63<\/code> \/ <code>1<\/code>) \u00b7 <code>1.5k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>56.7%<\/code> (<code>85<\/code> \/ <code>65<\/code> \/ <code><strong>0<\/strong><\/code>) \u00b7 <code><strong>1.1k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>-0.7 \u043f.\u043f.<\/code> (<code>+18 \/ \u221219<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 1.0000\" alt=\"p = 1.0000\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>BBH Logic<\/strong> (<code>120<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0416\u0430\u0434\u043d\u044b\u0439 (<code>T = 0<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>68.3%<\/code> (<code>82<\/code> \/ <code>14<\/code> \/ <code>24<\/code>) \u00b7 <code>7.4k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>77.5%<\/strong><\/code> (<code>93<\/code> \/ <code>26<\/code> \/ <code><strong>1<\/strong><\/code>) \u00b7 <code><strong>2.4k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+9.2 \u043f.\u043f.<\/code> (<code>+23 \/ \u221212<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.0895\" alt=\"p = 0.0895\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aaa\/aaad8e45600a1a5eba2e7db099750ba7.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>BBH Logic<\/strong> (<code>120<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<code>T = 0.6<\/code>)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>72.5%<\/code> (<code>87<\/code> \/ <code>31<\/code> \/ <code>2<\/code>) \u00b7 <code>2.5k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>73.3%<\/strong><\/code> (<code>88<\/code> \/ <code>32<\/code> \/ <code><strong>0<\/strong><\/code>) \u00b7 <code><strong>1.5k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+0.8 \u043f.\u043f.<\/code> (<code>+18 \/ \u221217<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 1.0000\" alt=\"p = 1.0000\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/65\/650\/6508ed5cdbe0609e9f5bf92be8c9557d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u0412\u0441\u0435 (<\/strong><code><strong>1 054<\/strong><\/code><strong>)<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0416\u0430\u0434\u043d\u044b\u0439 (<\/strong><code><strong>T = 0<\/strong><\/code><strong>)<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>60.5%<\/code> (<code>638<\/code> \/ <code>111<\/code> \/ <code>305<\/code>) \u00b7 <code>10.8k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>69.5%<\/strong><\/code> (<code>733<\/code> \/ <code>280<\/code> \/ <code><strong>41<\/strong><\/code>) \u00b7 <code><strong>4.0k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>+9.0 \u043f.\u043f.<\/strong><\/code> (<code>+166 \/ \u221271<\/code>, <strong><img decoding=\"async\" class=\"formula inline\" source=\"p = 6.07 \\times 10^{-10}\" alt=\"p = 6.07 \\times 10^{-10}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg\" width=\"130\" height=\"21\" data-width=\"16.238\" data-height=\"2.565\" data-vertical-align=\"-0.717\" style=\"width: 16.238ex; height: 2.565ex; vertical-align: -0.717ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d6\/d62\/d62c41f9108a861199fe25f3ed670afc.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/strong>)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u0412\u0441\u0435 (<\/strong><code><strong>1 054<\/strong><\/code><strong>)<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0421\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (<\/strong><code><strong>T = 0.6<\/strong><\/code><strong>)<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>72.3%<\/code> (<code>762<\/code> \/ <code>263<\/code> \/ <code>29<\/code>) \u00b7 <code>4.7k<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code><strong>73.3%<\/strong><\/code> (<code>773<\/code> \/ <code>277<\/code> \/ <code><strong>4<\/strong><\/code>) \u00b7 <code><strong>3.1k<\/strong><\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>+1.0 \u043f.\u043f.<\/code> (<code>+92 \/ \u221281<\/code>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.4472\" alt=\"p = 0.4472\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg\" width=\"84\" height=\"16\" data-width=\"10.44\" data-height=\"1.971\" data-vertical-align=\"-0.439\" style=\"width: 10.44ex; height: 1.971ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41d\/41defbc8fa9bc0bb80eb11575393fc48.svg 781w\" loading=\"lazy\" decode=\"async\"\/>)<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>(\u0421\u0443\u043c\u043c\u0430\u0440\u043d\u043e \u043f\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u043c \u043d\u0435\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043d\u0430\u0431\u043e\u0440\u0430\u043c \u043f\u0440\u0438 <\/em><code><em>T = 0<\/em><\/code><em>: <\/em><code><em>311 \u2192 351<\/em><\/code><em> \u0438\u0437 <\/em><code><em>554<\/em><\/code><em>, <img decoding=\"async\" class=\"formula inline\" source=\"p = 0.00108\" alt=\"p = 0.00108\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/67\/67c\/67cc5b5d2d72626bd3b02e7cb7e15d29.svg\" width=\"93\" height=\"16\" data-width=\"11.571\" data-height=\"1.946\" data-vertical-align=\"-0.439\" style=\"width: 11.571ex; height: 1.946ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/67\/67c\/67cc5b5d2d72626bd3b02e7cb7e15d29.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/67\/67c\/67cc5b5d2d72626bd3b02e7cb7e15d29.svg 781w\" loading=\"lazy\" decode=\"async\"\/>; \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0439 \u0434\u043b\u0438\u043d\u044b \u043f\u043e \u0432\u0441\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u2014 <\/em><code><em>63.1%<\/em><\/code><em> \u043f\u0440\u0438 <\/em><code><em>T = 0<\/em><\/code><em> \u0438 <\/em><code><em>33.6%<\/em><\/code><em> \u043f\u0440\u0438 <\/em><code><em>T = 0.6<\/em><\/code><em>.)<\/em><\/p>\n<h4>5.5. \u041f\u0440\u043e\u0442\u043e\u043a\u043e\u043b \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0438 \u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c (SHA-256)<\/h4>\n<ul>\n<li>\n<p><strong>\u0411\u044e\u0434\u0436\u0435\u0442 <\/strong><code><strong>32 768<\/strong><\/code><strong> \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 <\/strong><code><strong>316<\/strong><\/code><strong> \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0439:<\/strong> \u0432\u0441\u0435 <code>25<\/code> \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432 (<code>5 270<\/code> \u043e\u0442\u0432\u0435\u0442\u043e\u0432) \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u0432 <code>BF16<\/code> \u043d\u0430 <code>vLLM 0.34.0<\/code> \u043f\u0440\u0438 <code>presence_penalty = 0<\/code>. \u0426\u0435\u043b\u0435\u0432\u043e\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b <code>32 768<\/code> \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432; \u0434\u043b\u044f <code>316<\/code> \u0432\u043e\u0437\u043e\u0431\u043d\u043e\u0432\u043b\u0451\u043d\u043d\u044b\u0445 \u0436\u0430\u0434\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 (<code>T = 0<\/code>) \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0438 \u0432\u044b\u0434\u0435\u043b\u044f\u043b\u0438 <code>24 576<\/code> \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u044f (\u0432 \u043e\u0434\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u2014 <code>BBH Logic<\/code>, \u0438\u043d\u0434\u0435\u043a\u0441 <code>11<\/code>, <code>8 193 + 24 576<\/code> \u2014 \u0441\u0443\u043c\u043c\u0430 \u043f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 <code>32 769<\/code>). \u041f\u043e\u043b\u0435 <code>total_tokens<\/code> \u0441\u0432\u0435\u0440\u0435\u043d\u043e \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0432\u0441\u0435\u0433\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430 (<code>446<\/code> \u0442\u043e\u0447\u043d\u044b\u0445 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0439, <code>4 771<\/code> \u0441 \u0440\u0430\u0437\u043d\u0438\u0446\u0435\u0439 <code>1<\/code> \u0442\u043e\u043a\u0435\u043d, <code>53<\/code> \u0441 \u0440\u0430\u0437\u043d\u0438\u0446\u0435\u0439 <code>2<\/code> \u0442\u043e\u043a\u0435\u043d\u0430; \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438 \u0448\u0430\u0433\u043e\u0432 \u0432\u043e\u0437\u043e\u0431\u043d\u043e\u0432\u043b\u0451\u043d\u043d\u043e\u0439 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u044b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0432 \u0441\u0435\u0440\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u0435).<\/p>\n<\/li>\n<li>\n<p><strong>\u0412\u0435\u0441\u0430, \u043d\u0430\u0431\u043e\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0438:<\/strong> \u0441\u043c. <a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\/blob\/main\/DATASETS_AND_LICENSES.md\" rel=\"noopener nofollow\"><code>DATASETS_AND_LICENSES.md<\/code><\/a>. \u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u0443\u0441\u043b\u043e\u0432\u0438\u0439 <code>MATH-500<\/code> \u0432 \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u043e\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u043d\u0435 \u043f\u0435\u0440\u0435\u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u044f\u044e\u0442\u0441\u044f (\u0432\u043c\u0435\u0441\u0442\u043e \u043d\u0438\u0445 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u044b <code>datasets\/math500_ids_manifest.json<\/code> \u0438 <code>traces\/math500_per_item_results.json<\/code> \u0441 \u043f\u043e\u0441\u0442\u0440\u043e\u0447\u043d\u044b\u043c\u0438 \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438 \u0438 <code>text_sha256<\/code>). \u0411\u0430\u0437\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c <code>deepseek-ai\/DeepSeek-R1-Distill-Qwen-1.5B<\/code> (<code>model.safetensors<\/code>, <code>SHA-256: 58858233513d76b8703e72eed6ce16807b523328188e13329257fb9594462945<\/code>), \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 <a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\/blob\/main\/patch\/FINAL_SGNE_CC_V2_205_PATCH.npz\" rel=\"noopener nofollow\"><code>FINAL_SGNE_CC_V2_205_PATCH.npz<\/code><\/a> (<code>SHA-256: 6f435a63eb306047fe55353b7a911d32a17dd999efa65f082dd1d7c3779a0b2c<\/code>), \u0441\u0435\u0440\u0442\u0438\u0444\u0438\u043a\u0430\u0442 <a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\/blob\/main\/verification\/SHA256_AND_METRICS_CERTIFICATE.json\" rel=\"noopener nofollow\"><code>SHA256_AND_METRICS_CERTIFICATE.json<\/code><\/a> \u0438 \u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442 <a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\/blob\/main\/verification\/SHA256_MANIFEST.json\" rel=\"noopener nofollow\"><code>SHA256_MANIFEST.json<\/code><\/a> (<code>42\/42<\/code> \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u044e\u0449\u0438\u0445 <code>SHA-256<\/code>).<\/p>\n<\/li>\n<li>\n<p><strong>\u041a\u043e\u043c\u0430\u043d\u0434\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0446\u0435\u043b\u043e\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u0438 \u043d\u0430\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438 \u0438\u0437 \u043a\u043e\u0440\u043d\u044f \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f:<\/strong><\/p>\n<pre><code class=\"bash\"># \u0422\u0440\u0435\u0431\u0443\u0435\u0442: numpypython3 verification\/verify_repo_integrity.py# \u0422\u0440\u0435\u0431\u0443\u0435\u0442: numpy, torch, safetensorspython3 patch\/apply_sgne_cc_v2_205_to_safetensors.py \\    --base-dir \/path\/to\/DeepSeek-R1-Distill-Qwen-1.5B \\    --patch    patch\/FINAL_SGNE_CC_V2_205_PATCH.npz \\    --out-dir  \/path\/to\/DeepSeek-R1-Distill-Qwen-1.5B-SGNE-CC-v2<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper\"><\/span><\/a><\/div><\/pre>\n<\/li>\n<\/ul>\n<p><em>\u041f\u0440\u0438\u043c\u0435\u0447\u0430\u043d\u0438\u0435: \u0440\u0430\u0431\u043e\u0442\u0430 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0430 \u0432 \u0441\u043e\u0442\u0440\u0443\u0434\u043d\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0441 \u0418\u0418 \u2014 \u043a\u0430\u043a \u0432 \u0441\u0430\u043c\u043e\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0438, \u0442\u0430\u043a \u0438 \u0432 \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0435 \u043a\u043e\u0434\u0430, \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432 \u0438 \u0442\u0435\u043a\u0441\u0442\u0430. \u041f\u043e\u043b\u043d\u0443\u044e \u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0437\u0430 \u0432\u044b\u0432\u043e\u0434\u044b \u043d\u0435\u0441\u0451\u0442 \u0430\u0432\u0442\u043e\u0440, \u0430 \u0432\u0441\u0435 \u0447\u0438\u0441\u043b\u0430 \u0438 \u0437\u0430\u043c\u0435\u0440\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043f\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0439 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0435, \u0442\u0440\u0430\u0441\u0441\u0430\u043c \u0438 \u0441\u043a\u0440\u0438\u043f\u0442\u0430\u043c \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0435.<\/em><\/p>\n<p><a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\" rel=\"noopener nofollow\">\u0421\u0442\u0430\u0442\u044c\u044f, \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0438 \u0442\u0440\u0430\u0441\u0441\u044b (GitHub)<\/a> \u00b7 <a href=\"https:\/\/github.com\/Nondual-Observer\/deepseek-r1-1.5b-sgne-cc-v2\/releases\/tag\/v2.0.0\" rel=\"noopener nofollow\">\u0420\u0435\u043b\u0438\u0437 v2.0.0 (.npz)<\/a> \u00b7 <a href=\"https:\/\/doi.org\/10.5281\/zenodo.24398165\" rel=\"noopener nofollow\">\u0410\u0440\u0445\u0438\u0432 DOI (Zenodo)<\/a><\/p>\n<p>\u041a\u043e\u0434, \u0432\u0435\u0441\u043e\u0432\u0430\u044f \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0438 \u0442\u0435\u043a\u0441\u0442 \u0430\u0432\u0442\u043e\u0440\u0430 \u043e\u0442\u043a\u0440\u044b\u0442\u044b \u043f\u043e\u0434 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0435\u0439 Apache-2.0; \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u0432\u0435\u0441\u0430 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0442 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0438.<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1110462\/\">https:\/\/habr.com\/ru\/articles\/1110462\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 (T = 0) \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0430\u044e\u0449\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c DeepSeek-R1-Distill-Qwen-1.5B (1.78 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 BF16) \u0447\u0430\u0441\u0442\u043e \u0437\u0430\u0441\u0442\u0440\u0435\u0432\u0430\u0435\u0442 \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e\u0439 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0435 \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u0448\u0430\u0433\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 &lt;think&gt;&#8230;&lt;\/think&gt;, \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044f \u0431\u044e\u0434\u0436\u0435\u0442 \u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e \u043f\u0440\u0435\u0434\u0435\u043b\u0430 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0414\u0430\u0436\u0435 \u043f\u0440\u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u043c \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 (T = 0.6, top_p = 0.95) \u0432 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435 \u0438 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u0434\u043e\u043b\u044f \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432. \u041c\u043e\u0436\u043d\u043e \u043b\u0438 \u0441\u043d\u0438\u0437\u0438\u0442\u044c \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u043c\u0430\u043b\u043e\u0439 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u043e\u0439 \u043a \u0441\u0430\u043c\u0438\u043c \u0432\u0435\u0441\u0430\u043c \u2014 \u0431\u0435\u0437 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0431\u0435\u0437 \u0448\u0442\u0440\u0430\u0444\u0430 \u0437\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044b \u0438 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u0434\u0430 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430?\u041d\u0430\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442 \u043c\u0435\u0442\u043e\u0434 SGNE-CC (Spherical Gated Norm-preserving Edit, Column-Constrained), \u0440\u0430\u043d\u0435\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u043e\u0439 Qwen3.5-0.8B (DOI: 10.5281\/zenodo.24235218, dna-weight-editing), \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 (DeepSeek-R1-Distill-Qwen-1.5B) \u0432 \u0432\u0438\u0434\u0435 SGNE-CC v2 \u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u043e\u0431\u044a\u0451\u043c \u043f\u0440\u0430\u0432\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u2014 \u0441 1 984 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 (802 + 1 182) \u0438 \u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432\u043e\u0440\u043e\u0442 \u0434\u043e 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 mlp.down_proj (0.0177% \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432). \u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u0438 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0438 \u0431\u044e\u0434\u0436\u0435\u0442\u0435 \u0434\u043e 32 768 \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u043f\u044f\u0442\u0438 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445 (MATH-500, MBPP, HumanEval, ARC-Challenge, BBH Logic, \u0432\u0441\u0435\u0433\u043e 1 054 \u0437\u0430\u0434\u0430\u0447\u0438) \u043f\u0440\u0438 \u0434\u0432\u0443\u0445 \u043e\u0431\u0449\u0438\u0445 \u0434\u043b\u044f \u043e\u0431\u0435\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430\u0445 \u2014 T = 0 \u0438 T = 0.6 (\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0446\u0435\u043d\u0435\u043d\u0430 \u043f\u0440\u0438 T = 0.3).1. \u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u044f \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438: 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 mlp.down_proj\u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0432\u043d\u043e\u0441\u0438\u0442\u044c \u043f\u0440\u0430\u0432\u043a\u0443, \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b\u0438, \u0433\u0434\u0435 \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u043d\u0443\u0442\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0437\u0430\u043c\u044b\u043a\u0430\u0435\u0442\u0441\u044f \u0446\u0438\u043a\u043b \u0441\u0430\u043c\u043e\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u043a\u0430\u043a\u0438\u0435 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043c\u043e\u0436\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0431\u0435\u0437 \u0443\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u044f \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430.\u0410\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u044f \u0433\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0445 336 \u0433\u043e\u043b\u043e\u0432 (28 \u0441\u043b\u043e\u0451\u0432 \u00d7 12 \u0433\u043e\u043b\u043e\u0432) \u043d\u0430 32 \u0437\u0430\u0446\u0438\u043a\u043b\u0435\u043d\u043d\u044b\u0445 \u0438 32 \u0448\u0442\u0430\u0442\u043d\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0442\u0440\u0430\u0441\u0441\u0430\u0445 (64 \u0437\u0430\u0434\u0430\u0447\u0438 MATH-500) \u0432\u044b\u044f\u0432\u043b\u044f\u0435\u0442 \u0440\u0435\u0437\u043a\u0443\u044e \u043b\u043e\u043a\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e: \u0432\u0441\u0435 12 \u0433\u043e\u043b\u043e\u0432 \u0441 \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0440\u043e\u0441\u0442\u043e\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043a \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c (+29 \u2026 +67 \u043f.\u043f.) \u043b\u0435\u0436\u0430\u0442 \u0432 \u043f\u0435\u0440\u0432\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u0435 KV Group 0 (H0\u2013H5). \u0412 \u0433\u043e\u043b\u043e\u0432\u0435 L23 H04 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043a \u0443\u0441\u043b\u043e\u0432\u0438\u044e \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u0430\u0434\u0430\u0435\u0442 \u0441 31% \u0434\u043e 0.3% (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 100 \u0440\u0430\u0437), \u0430 \u0443 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0432\u0435\u0434\u0443\u0449\u0438\u0445 \u0433\u043e\u043b\u043e\u0432 (L23 H04, L19 H03, L19 H05, L14 H03) \u0434\u043e\u043b\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043a \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442 67\u201383%. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u043e\u0431\u0430\u0445 \u0441\u043e\u0441\u0442\u0430\u0432\u043d\u044b\u0435 \u0432\u043c\u0435\u0448\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430, \u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u0432\u0448\u0438\u0435 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u0432\u043e\u0440\u043e\u0442\u0430 gate_proj \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u0443\u044e \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044e, \u0441\u043d\u0438\u0436\u0430\u043b\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u0441 99% \u0434\u043e 78%, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043b\u043e\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u043a\u0438, gate_proj \u0438 up_proj \u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043d\u0435\u0442\u0440\u043e\u043d\u0443\u0442\u044b\u043c\u0438.\u041e\u0442\u0431\u043e\u0440 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0438 \u043d\u043e\u0440\u043c\u043e\u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0449\u0438\u0439 (\u0441\u0444\u0435\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439) \u043f\u043e\u0432\u043e\u0440\u043e\u0442. \u0412 \u0431\u043b\u043e\u043a\u0435 SwiGLU \u0432\u043a\u043b\u0430\u0434 -\u0433\u043e \u0441\u0442\u043e\u043b\u0431\u0446\u0430  \u0443\u043c\u043d\u043e\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 , \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0442\u043e\u043b\u0431\u0435\u0446, \u0443 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0445\u043e\u0434 \u0432\u0435\u043d\u0442\u0438\u043b\u044f  \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u0435\u043d \u0432 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u0435\u043d \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0435, \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u0432. \u041f\u043e \u043c\u0430\u043b\u043e\u043c\u0443 \u043d\u0430\u0431\u043e\u0440\u0443 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0442\u0440\u0430\u0441\u0441 (6 + 6 \u043f\u0440\u0438 \u043e\u0442\u0431\u043e\u0440\u0435 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u044b \u0438 8 + 6 \u043f\u0440\u0438 \u043f\u043e\u0434\u0431\u043e\u0440\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430; \u0432\u0441\u0435 26 \u0437\u0430\u0434\u0430\u0447 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u044b \u0432 \u00a72, \u0430 554 \u0437\u0430\u0434\u0430\u0447\u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438) \u043e\u0442\u043e\u0431\u0440\u0430\u043d\u044b \u0434\u0432\u0435 \u043d\u0435\u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0449\u0438\u0435\u0441\u044f \u0433\u0440\u0443\u043f\u043f\u044b:\u0413\u0440\u0430\u043d\u0438\u0446\u044b \u0441\u0442\u0440\u043e\u043a (135 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u0441\u043b\u043e\u0438 L18\u2013L27): \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u043d\u0430 \u0442\u043e\u043a\u0435\u043d\u0430\u0445 \u0441 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u043e\u043c \u0441\u0442\u0440\u043e\u043a\u0438 (\u0432\u043a\u043b\u044e\u0447\u0430\u044f \\n\\n) \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0435 \u0438 \u043f\u043e\u0434\u0430\u0432\u043b\u0435\u043d\u044b \u0432\u043d\u0443\u0442\u0440\u0438 \u0444\u0440\u0430\u0437 \u0438 \u043f\u043e\u0441\u043b\u0435 &lt;\/think&gt;.\u0417\u043d\u0430\u043a\u0438 \u043f\u0440\u0435\u043f\u0438\u043d\u0430\u043d\u0438\u044f (70 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u0441\u043b\u043e\u0438 L19\u2013L27): \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u043d\u0430 ., ?, ! \u0432\u043d\u0443\u0442\u0440\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u0445\u0441\u044f \u0430\u0431\u0437\u0430\u0446\u0435\u0432 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u043e\u0432 (\u0441\u0440\u0435\u0434\u043d\u0438\u0439 \u0432\u0445\u043e\u0434 \u0432\u0435\u043d\u0442\u0438\u043b\u044f +0.85 \u043f\u0440\u043e\u0442\u0438\u0432 \u22121.41 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0438 \u0438 \u22121.81 \u043f\u043e\u0441\u043b\u0435 &lt;\/think&gt;).\u041a\u0430\u0436\u0434\u044b\u0439 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u043f\u043e\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u043c\u0443 \u0432\u0435\u043a\u0442\u043e\u0440\u0443 \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u044f \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f , \u0433\u0434\u0435  \u0438 , \u0441 \u0442\u043e\u0447\u043d\u044b\u043c \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043d\u043e\u0440\u043c\u044b  \u043f\u0435\u0440\u0435\u0434 \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u0438\u0435\u043c \u0432 BF16: \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0432\u0435\u0441\u043e\u0432\u043e\u0439 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0438 (BF16)\u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044cSGNE-CC v2 (205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432)\u0412\u0441\u0435\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (model.safetensors)1 777 088 0001 777 088 000\u0418\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 mlp.down_proj (L18\u2013L27)0205 (135 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u044b \u0441\u0442\u0440\u043e\u043a\u0438 + 70 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044f)\u0421\u043a\u0430\u043b\u044f\u0440\u043e\u0432 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043f\u0440\u0430\u0432\u043a\u0438 \/ \u0438\u0437\u043c\u0435\u043d\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u0432 BF160314 880 (0.01772%) \/ 314 418\u0423\u0433\u043b\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430 \/ \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u043d\u043e\u0440\u043c 0\u00b0 \/ 1.00000059.93\u00b0 \u2013 66.64\u00b0 \/ 0.99999339 (FP64, \u043e\u0442\u043a\u043b. &lt; 0.03%)\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, gate\/up_proj, \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0438 \u043a\u043e\u0434\u0430\u043d\u0435\u0442\u043d\u0435\u04422. \u041c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 (MATH-500 \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f 26 \u0437\u0430\u0434\u0430\u0447 \u043e\u0442\u0431\u043e\u0440\u0430 \u0438 53 \u0437\u0430\u0434\u0430\u0447 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0433\u043e\u043b\u043e\u0432)\u041d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441 \u043e\u0431\u043b\u0430\u0441\u0442\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0442\u0431\u0438\u0440\u0430\u043b\u0438\u0441\u044c 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c, \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u043b\u0438 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 (T = 0) \u0438 \u043f\u0440\u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u043c \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 (T = 0.6), \u0437\u0430\u0442\u0435\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0441\u0440\u0435\u0437 \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0445 \u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u043c \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0443 T = 0.3.MATH-500 \u2014 \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0431\u043e\u0440 \u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u0420\u0438\u0441. 1. \u041f\u0440\u0438 \u043d\u0443\u043b\u0435\u0432\u043e\u0439 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0435 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u043d\u0430 MATH-500 \u0438 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u0442\u0440\u0438 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u0438 \u0440\u0430\u0437\u0440\u044b\u0432\u0430 \u0434\u043e \u0441\u0442\u043e\u0445\u0430\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f. \u041f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 MATH-500 (500 \u0437\u0430\u0434\u0430\u0447), vLLM 0.34.0, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, presence_penalty = 0. \u041e\u0442\u0432\u0435\u0442\u0430\u043c \u0431\u0435\u0437 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0435\u0433\u043e \u043c\u0430\u0440\u043a\u0435\u0440\u0430 &lt;\/think&gt; \u043f\u0440\u0438\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u043e\u043b\u044c.\u041f\u0440\u0438 \u0436\u0430\u0434\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0447\u0438\u0441\u043b\u043e \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 &lt;\/think&gt; \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0441\u043e 139 \u0434\u043e 16, \u0431\u0435\u0437 EOS \u2014 \u0442\u0430\u043a\u0436\u0435 \u0441\u043e 139 \u0434\u043e 16 (\u0443 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0431\u0430 \u043c\u0430\u0440\u043a\u0435\u0440\u0430 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0432 12 \u043e\u0442\u0432\u0435\u0442\u0430\u0445). \u0421\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u0430\u0441\u044c \u0441 11.0 \u0434\u043e 4.7 \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0418\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 74 \u0437\u0430\u0434\u0430\u0447\u0438, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u0430\u043b\u0430\u0441\u044c, \u0438 \u043f\u043e\u0442\u0435\u0440\u044f\u043b\u0430 19 \u043f\u0440\u0435\u0436\u043d\u0438\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 (\u0442\u043e\u0447\u043d\u044b\u0439 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u041c\u0430\u043a-\u041d\u0435\u043c\u0430\u0440\u0430, ). \u041f\u0440\u0438 T = 0.6 \u0447\u0438\u0441\u043b\u043e \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u0441 400 \u0434\u043e 410, \u043d\u043e \u044d\u0442\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e (+33 \/ \u221223, ); \u0447\u0438\u0441\u043b\u043e \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 &lt;\/think&gt; \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u0441 15 \u0434\u043e 2, \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u2014 \u0441 5.8 \u0434\u043e 4.3 \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0445 \u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447.\u0411\u0435\u0437 26 \u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 (474 \u0437\u0430\u0434\u0430\u0447\u0438 MATH-500): \u043f\u0440\u0438 T = 0 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 310 \u0434\u043e 363 (+70 \/ \u221217, ); \u043f\u0440\u0438 T = 0.6 \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f ().\u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 53 \u0437\u0430\u0434\u0430\u0447 \u0438\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0433\u043e\u043b\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (421 \u0437\u0430\u0434\u0430\u0447\u0430): \u0438\u0437 64 \u0437\u0430\u0434\u0430\u0447 \u0440\u0430\u043d\u043d\u0435\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0433\u043e\u043b\u043e\u0432 (32 + 32 \u0432 \u00a71) 53 \u0432\u0445\u043e\u0434\u0438\u043b\u0438 \u0432 \u0442\u0435 474 \u0437\u0430\u0434\u0430\u0447\u0438. \u041d\u0430 \u043e\u0441\u0442\u0430\u0432\u0448\u0438\u0445\u0441\u044f 421 \u0437\u0430\u0434\u0430\u0447\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f: \u043f\u0440\u0438 T = 0 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0451\u0442 \u0441 276 \u0434\u043e 321 (+60 \/ \u221215, ), \u043f\u0440\u0438 T = 0.6 \u2014 \u0441 337 \u0434\u043e 346 (+29 \/ \u221220, ).MATH-500 \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3\u0420\u0438\u0441. 2. \u041f\u043e\u043d\u0438\u0436\u0435\u043d\u0438\u0435 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u044b \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043e T = 0.3 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u0447\u0442\u0438 \u043f\u043e\u043b\u043d\u043e\u0435 \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439, \u043d\u043e \u043d\u0435 \u0434\u0430\u0451\u0442 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043d\u0430\u0434 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u043f\u0440\u0438 T = 0.6. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0440\u0435\u0436\u0438\u043c\u043e\u0432, \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0432\u0435\u0441\u0430\u043c\u0438 \u0438 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0439 (top_p = 0.95, seed = 42, 500 \u0437\u0430\u0434\u0430\u0447 MATH-500; \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.3 \u043d\u0435 \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0430\u0441\u044c).\u0423 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c 4 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u043f\u0440\u0438 T = 0.3 \u0438 2 \u043f\u0440\u0438 T = 0.6; \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 T = 0.6 \u0438\u0445 \u0431\u044b\u043b\u043e 15. \u0412 \u043f\u0430\u0440\u0435 \u00ab\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043f\u0440\u0438 0.3 \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043f\u0440\u0438 0.6\u00bb \u0431\u0430\u043b\u0430\u043d\u0441 \u0432\u0435\u0440\u043d\u044b\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b +29 \/ \u221239 (; \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f 26 \u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u0434\u0431\u043e\u0440\u0430 ). \u0418\u0437 \u0434\u0432\u0443\u0445 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u0430\u0434\u0430\u0447 MATH-500 \u043f\u0440\u0438 0.6.3. \u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 (MBPP \u0438 HumanEval)\u041e\u0431\u0430 \u043a\u043e\u0434\u043e\u0432\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 205 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438. \u0417\u0434\u0435\u0441\u044c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u043b\u0438 \u044d\u0444\u0444\u0435\u043a\u0442 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u043c\u043e\u0433\u043e \u043a\u043e\u0434\u0430 Python \u0438 \u043d\u0435 \u043f\u043e\u0440\u0442\u0438\u0442 \u043b\u0438 \u043f\u043e\u0432\u043e\u0440\u043e\u0442 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0441. \u0412 MBPP \u0432 \u0442\u0435\u043a\u0441\u0442\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u044b \u043f\u0435\u0440\u0432\u044b\u0435 3 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 (assert), \u0430 \u043e\u0446\u0435\u043d\u0449\u0438\u043a \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0432\u0435\u0441\u044c test_list (3 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0432 116 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, 4 \u0432 \u2116 58, 223, 226, 5 \u0432 \u2116 172 \u2014 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e 360, \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u043e 365); \u0432 HumanEval \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u043c\u043e\u0434\u0443\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432 test.MBPP \u2014 120 \u0437\u0430\u0434\u0430\u0447 \u043d\u0430 Python\u0420\u0438\u0441. 3. \u041d\u0430 MBPP \u043f\u0440\u0438 T = 0 \u043f\u0440\u0430\u0432\u043a\u0430 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 \u0436\u0430\u0434\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c \u0434\u043e 81\/120 \u2014 \u0443\u0440\u043e\u0432\u043d\u044f \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 T = 0.6 \u2014 \u043f\u0440\u0438 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u0432 3.7 \u0440\u0430\u0437\u0430 \u043a\u043e\u0440\u043e\u0447\u0435, \u0447\u0435\u043c \u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 T = 0 (\u0438 \u0432 1.34 \u0440\u0430\u0437\u0430 \u043a\u043e\u0440\u043e\u0447\u0435, \u0447\u0435\u043c \u0443 \u043d\u0435\u0451 \u0436\u0435 \u043f\u0440\u0438 T = 0.6); \u043f\u0440\u0438 T = 0.6 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0430\u0435\u0442 \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043c\u0435\u043d\u044c\u0448\u0435 (\u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e). 120 \u0437\u0430\u0434\u0430\u0447 MBPP, \u0438\u0441\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0432 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 Python \u0432\u0441\u0435\u0433\u043e test_list, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u041f\u0440\u0438 T = 0 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0441 45 \u0434\u043e 7. \u041d\u0430 40 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c, \u0430 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0435\u0433\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u043b\u0430. \u0412 20 \u0438\u0437 \u044d\u0442\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u043f\u0440\u043e\u0448\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438. \u041f\u043e \u0432\u0441\u0435\u043c 120 \u0437\u0430\u0434\u0430\u0447\u0430\u043c \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0434\u0430\u043b\u0430 21 \u043d\u043e\u0432\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0438 4 \u043f\u043e\u0442\u0435\u0440\u0438 (). \u0421\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u0441\u043d\u0438\u0437\u0438\u043b\u0430\u0441\u044c \u0441 13.1 \u0434\u043e 3.6 \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (\u0432 3.7 \u0440\u0430\u0437\u0430), \u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 T = 0.6 \u2014 \u0432 1.34 \u0440\u0430\u0437\u0430. \u041f\u0440\u0438 T = 0.6 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u0441 4 \u0434\u043e 0, \u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0434\u043b\u0438\u043d\u0430 \u2014 \u0441 4.8 \u0434\u043e 2.2 \u0442\u044b\u0441. \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0418\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0435\u0448\u0438\u043b\u0430 81 \u0437\u0430\u0434\u0430\u0447\u0443, \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u2014 77 (+7 \/ \u221211, ). \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u043e \u043f\u0440\u0438 \u043e\u0434\u043d\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0447\u0438\u0441\u0435\u043b.HumanEval \u2014 164 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0438\u043d\u0442\u0435\u0437\u0430 \u043a\u043e\u0434\u0430\u0420\u0438\u0441. 4. \u041d\u0430 HumanEval \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u043a\u0440\u0430\u0442\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u0438 \u0434\u043b\u0438\u043d\u0443 \u043e\u0442\u0432\u0435\u0442\u0430 \u0432 \u043e\u0431\u043e\u0438\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445, \u043d\u043e \u043f\u0440\u0438 T = 0 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u043f\u0440\u043e\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432. 164 \u0437\u0430\u0434\u0430\u0447\u0438 HumanEval, \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043c\u043e\u0434\u0443\u043b\u044c\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u0430\u0445 test, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u0414\u0440\u0443\u0433\u043e\u0439 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440 \u043e\u0448\u0438\u0431\u043e\u043a \u043f\u0440\u0438 T = 0. \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 MBPP, \u043d\u0430 HumanEval \u0447\u0438\u0441\u043b\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 3.7 \u0440\u0430\u0437\u0430 (63 \u2192 17), \u0430 \u0440\u0430\u0441\u0445\u043e\u0434 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2014 \u0432 2.2 \u0440\u0430\u0437\u0430 (13.8k \u2192 6.2k), \u043d\u043e \u043f\u0430\u0440\u043d\u044b\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 \u043f\u043e \u0442\u0435\u0441\u0442\u0430\u043c \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u043c (+20 \/ \u221218, ). \u0418\u0437 53 \u0437\u0430\u0434\u0430\u0447, \u0433\u0434\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0430 \u043e\u0442\u0432\u0435\u0442 \u0431\u0435\u0437 &lt;\/think&gt;, \u0430 SGNE-CC v2 \u0435\u0433\u043e \u0437\u0430\u043a\u0440\u044b\u043b\u0430, \u0432 49 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0438\u0437\u0432\u043b\u0435\u0447\u0451\u043d\u043d\u044b\u0439 \u043a\u043e\u0434 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f, \u0432 3 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u043d\u0435 \u0438\u0437\u0432\u043b\u0435\u0447\u0435\u043d\u0430 \u0438 \u0432 1 (\u0438\u043d\u0434\u0435\u043a\u0441 75) \u0434\u043e\u043f\u0443\u0449\u0435\u043d\u0430 \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430; \u0441\u0438\u043d\u0442\u0430\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0439 \u043a\u043e\u0434 \u0441\u0430\u043c \u043f\u043e \u0441\u0435\u0431\u0435 \u043d\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432, \u0438 \u043e\u0431\u0449\u0438\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f +20 \/ \u221218. \u041f\u0440\u0438 T = 0.6 \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u0430\u043b\u0430\u043d\u0441 (+16 \/ \u221211, ) \u043f\u0440\u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0438 \u0434\u043b\u0438\u043d\u044b \u0432 1.8 \u0440\u0430\u0437\u0430 (5.8k \u2192 3.3k).4. \u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434 \u0438 \u043b\u043e\u0433\u0438\u043a\u0443 (ARC-Challenge \u0438 BBH Logic)\u041d\u0430\u043a\u043e\u043d\u0435\u0446, \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0437\u0430\u0434\u0430\u0447\u0438 \u0431\u0435\u0437 \u0447\u0438\u0441\u043b\u043e\u0432\u044b\u0445 \u0432\u044b\u043a\u043b\u0430\u0434\u043e\u043a \u0438 \u0431\u0435\u0437 \u043a\u043e\u0434\u0430, \u043d\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u0432\u0448\u0438\u0435 \u0432 \u043e\u0442\u0431\u043e\u0440\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432: \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0441 \u0432\u044b\u0431\u043e\u0440\u043e\u043c \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043c\u043d\u043e\u0433\u043e\u0448\u0430\u0433\u043e\u0432\u044b\u0435 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438.ARC-Challenge \u2014 150 \u043d\u0430\u0443\u0447\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447ARC-Challenge \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438 T = 0.6 \u0438 SGNE-CC \u043f\u0440\u0438 T = 0.3\u0420\u0438\u0441. 5\u20136. \u041d\u0430 ARC-Challenge \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0443\u0441\u0442\u0440\u0430\u043d\u044f\u0435\u0442 \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0432\u043e \u0432\u0441\u0435\u0445 \u0440\u0435\u0436\u0438\u043c\u0430\u0445 \u0438 \u043f\u043e\u0447\u0442\u0438 \u0432 \u0434\u0435\u0441\u044f\u0442\u044c \u0440\u0430\u0437 \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0436\u0430\u0434\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434; \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438 T = 0.3. 150 \u0437\u0430\u0434\u0430\u0447 ARC-Challenge, BF16, \u0431\u044e\u0434\u0436\u0435\u0442 \u0434\u043e 32 768 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041e\u0446\u0435\u043d\u0449\u0438\u043a \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0438\u0449\u0435\u0442 \u0431\u0443\u043a\u0432\u0443 \u0432 \u0440\u0430\u043c\u043a\u0435 \\boxed{}, \u0430 \u0437\u0430\u0442\u0435\u043c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u0434\u0440\u0443\u0433\u0438\u0435 \u0444\u043e\u0440\u043c\u044b \u0437\u0430\u043f\u0438\u0441\u0438 (87 \u0438\u0437 89 \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 SGNE-CC v2 \u043f\u0440\u0438 T = 0 \u0438 \u0432\u0441\u0435 85 \u043f\u0440\u0438 T = 0.6 \u0437\u0430\u0447\u0442\u0435\u043d\u044b \u0431\u0435\u0437 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043d\u043e\u0439 \u0431\u0443\u043a\u0432\u044b \u0432 \u0440\u0430\u043c\u043a\u0435).\u041d\u0430 ARC-Challenge \u0432\u0441\u0435 150 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 SGNE-CC v2 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0431\u043b\u043e\u043a &lt;think&gt; \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0438\u0437 \u0442\u0440\u0451\u0445 \u0440\u0435\u0436\u0438\u043c\u043e\u0432. \u041f\u0440\u0438 T = 0 \u044d\u0442\u043e \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442 \u0441\u0440\u0435\u0434\u043d\u044e\u044e \u0434\u043b\u0438\u043d\u0443 \u0432 9.8 \u0440\u0430\u0437\u0430 \u043f\u0440\u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c, \u043d\u043e \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e\u043c \u0441\u0434\u0432\u0438\u0433\u0435 (+28 \/ \u221218, ); \u043f\u0440\u0438 T = 0.6 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 (+18 \/ \u221219,&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-504164","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/504164","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=504164"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/504164\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=504164"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=504164"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=504164"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}