{"id":477511,"date":"2026-04-26T20:59:47","date_gmt":"2026-04-26T20:59:47","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=477511"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=477511","title":{"rendered":"\u041e\u0442 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u043a \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0418\u043b\u0438 \u043e\u0434\u0438\u043d \u043e\u0447\u0435\u043d\u044c \u043e\u0431\u0448\u0438\u0440\u043d\u044b\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b \u043f\u043e Context Engineering"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h4>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 1<\/h4>\n<p>\u042d\u0442\u043e \u0434\u043b\u0438\u043d\u043d\u043e\u043f\u043e\u0441\u0442, \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e, \u044f \u043d\u0430\u0434\u0435\u044e\u0441\u044c, \u0443 \u0432\u0430\u0441 \u0441\u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b\u0439 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442 \u043f\u043e \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u0430\u043c\u0438<\/p>\n<h4>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 2<\/h4>\n<p>\u0415\u0441\u043b\u0438 \u0432\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0435, \u0447\u0442\u043e \u044f \u0433\u0434\u0435 \u0442\u043e \u043e\u0448\u0438\u0431\u0441\u044f \u0438\u043b\u0438 \u0445\u043e\u0442\u0438\u0442\u0435 \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c \u0434\u0435\u0442\u0430\u043b\u0438, \u0442\u043e \u043c\u043e\u0436\u0435\u0442\u0435 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u044b. \u0412\u0441\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u044e \u0438 \u043f\u043e\u043f\u0440\u0430\u0432\u043b\u044e<\/p>\n<h3>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 3<\/h3>\n<p>\u0422\u043e, \u0447\u0442\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0438\u0436\u0435 &#8212; \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0442\u044f\u0436\u0435\u043b\u044b\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b, \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u043d\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u0433\u0435\u043d\u0442\u043e\u0432 \u0438 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 LLM, \u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0442\u044f\u0436\u0435\u043b\u043e. \u041d\u043e \u043d\u0435 \u0431\u0435\u0441\u043f\u043e\u043b\u0435\u0437\u043d\u043e)<br \/>\u0414\u043b\u044f \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0449\u0438\u0445 \u0443 \u043c\u0435\u043d\u044f \u0435\u0441\u0442\u044c \u043e\u0442\u0438\u0447\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f <a href=\"https:\/\/habr.com\/ru\/articles\/942414\/\" rel=\"noopener noreferrer nofollow\">\u041f\u0440\u043e\u0441\u0442\u043e \u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 ChatGPT \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 GPT \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0421 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438<\/a>. <\/p>\n<h4>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 4<\/h4>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043a\u043e\u043d\u0446\u0435\u043f\u0442\u044b \u044f \u0431\u0443\u0434\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 Claude Code, \u0442\u0430\u043a \u043a\u0430\u043a \u043e\u043d\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0434\u0432\u0438\u0433\u0430\u0442\u0435\u043b\u044f\u043c\u0438 \u043c\u043e\u0434\u044b \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435. \u041d\u043e \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0430\u0433\u0435\u043d\u0442\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a\u0436\u0435 <\/p>\n<h3>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 5<\/h3>\n<p>\u042f \u043c\u043d\u043e\u0433\u043e \u0433\u0434\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0435 \u0442\u0435\u0440\u043c\u0438\u043d\u044b \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0447\u0435\u0440\u0435\u0437 ChatGPT, \u043d\u0435 \u043d\u0430\u043a\u0430\u0437\u044b\u0432\u0430\u0439\u0442\u0435 \u0441\u0442\u0440\u043e\u0433\u043e \ud83e\udd7a<\/p>\n<hr\/>\n<blockquote>\n<p><strong>TL;DR.<\/strong>\u00a0\u041f\u0440\u043e\u043c\u043f\u0442 \u0438\u043d\u0436\u0438\u043d\u0438\u0440\u0438\u043d\u0433 \u0432 \u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d \u0431\u044b\u043b \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u0435\u043d \u0432 2025 \u0443\u0436\u0435 \u043c\u0451\u0440\u0442\u0432. \u0412 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u0445, \u0442\u0430\u043a\u0438\u0445 \u043a\u0430\u043a Claude Code, Codex \u0438 \u0443\u043f\u0430\u0441\u0438\u0431\u043e\u0433Cursor = \u0432\u0430\u0448 \u0442\u0435\u043a\u0441\u0442 \u044d\u0442\u043e\u00a0~<strong>0,03% \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430<\/strong>. \u0412\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u2014 \u044d\u0442\u043e system prompt, <a href=\"http:\/\/CLAUDE.md\" rel=\"noopener noreferrer nofollow\">CLAUDE.md<\/a>, \u043f\u0430\u043c\u044f\u0442\u044c, MCP, skills, \u0438\u0441\u0442\u043e\u0440\u0438\u044f, tool results. \u0418 \u0441\u043e\u0437\u0434\u0430\u043d\u044b \u043e\u043d\u0438, \u0447\u0442\u043e\u0431\u044b <strong>\u0441\u044a\u0435\u0434\u0430\u0442\u044c \u0432\u0430\u0448\u0438 \u043b\u0438\u043c\u0438\u0442\u044b \u0438 \u0442\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0430\u0448\u0438 \u0434\u0435\u043d\u044c\u0433\u0438 \ud83d\ude08<\/strong><\/p>\n<p><strong>\u0427\u0442\u043e \u0432\u043d\u0443\u0442\u0440\u0438 \u044d\u0442\u043e\u0433\u043e \u043b\u043e\u043d\u0433\u0440\u0438\u0434\u0430<\/strong><\/p>\n<ul>\n<li>\n<p><strong>\u0410\u043a\u0442 1.<\/strong>\u00a0\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e \u043a\u0430\u043a \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. <br \/>Context rot + reasoning shift \u2014 \u043a\u0430\u043a \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043c\u043e\u0436\u0435\u0442 \u0440\u0435\u0437\u0430\u0442\u044c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f\u00a0<strong>\u0434\u043e 50%<\/strong>\u00a0\u0431\u0435\u0437 \u043f\u0440\u0435\u0434\u0443\u043f\u0440\u0435\u0436\u0434\u0435\u043d\u0438\u044f<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0442 2.<\/strong>\u00a0\u041f\u0440\u043e \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c attention \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u00ab\u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u00bb \u0441\u0442\u043e\u0438\u0442 O(n\u00b2)<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0442 3.<\/strong>\u00a0\u041f\u0440\u043e 7 \u0441\u043b\u043e\u0435\u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u2014 \u043e\u0442 pretrained \u0432\u0435\u0441\u043e\u0432 \u0438 \u0434\u043e \u0440\u0435\u0434\u0430\u043a\u0442\u0438\u0440\u0443\u0435\u043c\u044b\u0445 system prompt, <a href=\"http:\/\/CLAUDE.md\" rel=\"noopener noreferrer nofollow\">CLAUDE.md<\/a>, MEMORY.MD, Skills, MCP \u0438 \u0444\u0430\u0439\u043b\u043e\u0432 \u043f\u043e \u0432\u044b\u0437\u043e\u0432\u0443<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0442 4.<\/strong>\u00a0\u041f\u0440\u043e agent loop \u0438 harness. \u0410 \u0435\u0449\u0435 \u043f\u0440\u043e promt caching, spec-driven \u043f\u043e\u0434\u0445\u043e\u0434, subagents, agent teams \u0438 4 \u0442\u0438\u043f\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u0438\u0445 \u0440\u0435\u0430\u043b\u044c\u043d\u0430\u044f \u0446\u0435\u043d\u0430<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0442 5.<\/strong>\u00a0\u0427\u0442\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442 \u043d\u043e\u0432\u0438\u0447\u043a\u0430 \u043e\u0442 \u043c\u0430\u0441\u0442\u0435\u0440\u0430 \u0438\u00a0<strong>6 action items \u043d\u0430 \u043f\u043e\u043d\u0435\u0434\u0435\u043b\u044c\u043d\u0438\u043a<\/strong>\u00a0\u2014 \u0447\u0442\u043e \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c \u0432 \u043f\u0440\u043e\u0435\u043a\u0442 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u0435\u0447\u0435\u0440\u043e\u043c<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041a\u043e\u043c\u0443 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e:<\/strong>\u00a0\u0412\u0441\u0435\u043c, \u043a\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 Claude Code \/ Codex \/ Cursor \u0438 \u0432\u0441\u0435\u043c \u0442\u0435\u043c, \u043a\u0442\u043e \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0441\u0442\u0430\u043b \u0443\u043f\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u0432 \u043b\u0438\u043c\u0438\u0442\u044b<\/p>\n<\/blockquote>\n<hr\/>\n<h2>\u0410\u043a\u0442 1. 0,03% \u0438 99,97%<\/h2>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a \u044d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f \u043f\u0440\u043e \u0442\u043e, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u0438\u0434\u0438\u0442 \u0432 \u044d\u0442\u0438\u0445 99,97%, \u0442\u043e \u0441 \u044d\u0442\u043e\u0433\u043e \u0438 \u043d\u0430\u0447\u043d\u0435\u043c<\/p>\n<p>\u0410 \u0435\u0449\u0435 \u043d\u0430\u0447\u043d\u0435\u043c \u0441 \u043c\u043e\u0435\u0439 \u043b\u044e\u0431\u0438\u043c\u043e\u0439 \u0446\u0438\u0442\u0430\u0442\u044b, \u0432\u043e\u043a\u0440\u0443\u0433 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0438 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0441\u0442\u0440\u043e\u0435\u043d\u043e \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0432\u044b\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u0435<\/p>\n<blockquote>\n<p>Good context engineering means finding the <strong>smallest <\/strong>possible set of <strong>high-signal<\/strong> tokens that <strong>maximize <\/strong>the likelihood of some <strong>desired outcome<\/strong><\/p>\n<\/blockquote>\n<p>\u0412\u043e\u043a\u0440\u0443\u0433 \u0441\u043b\u043e\u0432, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u0436\u0438\u0440\u043d\u044b\u043c, \u0438 \u0432\u044b\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u0432\u0441\u044f \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u0441 LLM<\/p>\n<pre><code class=\"assembly\">System PromptCLAUDE.md \/ \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u0430Memory.md (\u0444\u0430\u0439\u043b\u044b \u043f\u0430\u043c\u044f\u0442\u0438 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u044b\u0445 \u0441\u0435\u0441\u0441\u0438\u0439)Tool definitions (\u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432)Subagents + Skills + MCPs\u0417\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \/ RAG-\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b\u0418\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430 (\u0432\u0441\u0451, \u0447\u0442\u043e \u0432\u044b \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438 \u0440\u0430\u043d\u044c\u0448\u0435)\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432\u0412\u0410\u0428 \u041f\u0420\u041e\u041c\u041f\u0422<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h4>\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e \u043a\u0430\u043a \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f<\/h4>\n<p>\u041e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u043e\u043a\u043d\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043a\u0430\u043a \u043e \u0440\u0430\u0431\u043e\u0447\u0435\u043c \u0441\u0442\u043e\u043b\u0435, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043b\u0435\u0436\u0438\u0442 \u0432\u0441\u0451, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u043d\u0430 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043d\u0430 \u0441\u0442\u043e\u043b\u0435 \u043c\u043d\u043e\u0433\u043e \u043c\u0443\u0441\u043e\u0440\u0430 \u2014 \u0442\u044f\u0436\u0435\u043b\u043e \u043f\u043e\u043d\u044f\u0442\u044c, \u0437\u0430 \u0447\u0442\u043e \u0431\u0440\u0430\u0442\u044c\u0441\u044f. \u0415\u0441\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u0437\u0430\u0434\u0430\u0447\u0435 \u2014 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043f\u0440\u043e\u0449\u0435.  <\/p>\n<p>\u0412\u043d\u0438\u043c\u0430\u043d\u0438\u0435 (attention) \u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043a\u043e\u043d\u0435\u0447\u043d\u044b\u0439 \u0440\u0435\u0441\u0443\u0440\u0441: \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0441\u0443\u043c\u043c\u0430 \u0432\u0435\u0441\u043e\u0432 softmax \u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0443 \u0440\u0430\u0432\u043d\u0430 1. \u0427\u0435\u043c \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u043e\u043a\u043d\u043e, \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0432\u0435\u0441\u0430 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u2014 \u0430 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0435\u0449\u0451 \u0438 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0435: \u043f\u0435\u0440\u0432\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0438 \u0445\u0432\u043e\u0441\u0442 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u043d\u0435\u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e (attention sinks), \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430 \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f9e\/d4e\/0f4\/f9ed4e0f4a91a128681d98e0705cc0f2.png\" width=\"1448\" height=\"1086\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/f9e\/d4e\/0f4\/f9ed4e0f4a91a128681d98e0705cc0f2.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f9e\/d4e\/0f4\/f9ed4e0f4a91a128681d98e0705cc0f2.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0423 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0435\u0441\u0442\u044c \u0434\u0432\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043a\u0438, \u0438 \u043e\u043d\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e<\/p>\n<h4>\u041f\u0435\u0440\u0432\u0430\u044f \u0438 \u0441\u0430\u043c\u0430\u044f \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430\u044f \u2014 Context rot. \u041a\u043e\u0433\u0434\u0430 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0440\u0430\u0437\u043c\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f<\/h4>\n<p>\u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u043a \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0435\u043c \u0441\u043b\u043e\u0436\u043d\u0435\u0435 \u0435\u0439 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e<\/p>\n<p>\u042d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<ul>\n<li>\n<p>\u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0443\u0436\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0451\u043d\u043d\u044b\u0445 \u0442\u043e\u0447\u043a\u0430\u0445<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u0431\u044b\u0432\u0430\u044e\u0442 \u0434\u0435\u0442\u0430\u043b\u0438 \u0438\u0437 \u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u0430<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0430\u0442 \u0440\u0430\u043d\u0435\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f\u043c<\/p>\n<\/li>\n<li>\n<p>\u0434\u0430\u044e\u0442 \u0432\u0441\u0451 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u043c\u044b\u0442\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b<\/p>\n<\/li>\n<\/ul>\n<h4>\u0412\u0442\u043e\u0440\u0430\u044f \u0438 \u043c\u0435\u043d\u0435\u0435 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430\u044f \u2014 Reasoning shift<\/h4>\n<p>\u0415\u0441\u0442\u044c <a href=\"https:\/\/arxiv.org\/abs\/2604.01161\" rel=\"noopener noreferrer nofollow\">\u043d\u0435\u043c\u0430\u043b\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439<\/a>, \u0447\u0442\u043e \u043c\u043d\u043e\u0433\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442 \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u043c\u0435\u0436\u0434\u0443 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435\u043c \u2014 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0441\u0442\u0451\u0442, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>\u041d\u0430 \u0447\u0442\u043e \u044d\u0442\u043e \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u0432\u043b\u0438\u044f\u0442\u044c<\/p>\n<ul>\n<li>\n<p><strong>\u041c\u0435\u043d\u044c\u0448\u0435 \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 <\/strong>\u2014 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0440\u0430\u0437\u0443 \u043f\u0435\u0440\u0435\u0441\u043a\u0430\u043a\u0438\u0432\u0430\u0435\u0442 \u043a \u0432\u044b\u0432\u043e\u0434\u0443<\/p>\n<\/li>\n<li>\n<p><strong>\u041c\u0435\u043d\u044c\u0448\u0435 \u0441\u0430\u043c\u043e\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438<\/strong><\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 <\/strong>\u2014 \u043e\u0434\u043d\u0430 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u0440\u0435\u0445<\/p>\n<\/li>\n<li>\n<p><strong>\u0423\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435, \u043d\u043e \u043d\u0435 \u0444\u0430\u043a\u0442 \u0447\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b <\/strong>\u2014 \u043e\u043d\u0438 \u0437\u0432\u0443\u0447\u0430\u0442 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u0435\u0435, \u0445\u043e\u0442\u044f \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u044b \u0445\u0443\u0436\u0435<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435 \u0431\u043e\u043b\u0435\u0435 \u0442\u043e\u0447\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0438 \u043f\u043e\u0434\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u041e\u0431\u044a\u0451\u043c \u0440\u0430\u0441\u0442\u0451\u0442 \u2192 reasoning \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u2192 \u043e\u0442\u0432\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u0435\u0435, \u043d\u043e \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u0445\u0443\u0436\u0435. \u0418 \u0432\u044b \u043d\u0435 \u0443\u0437\u043d\u0430\u0451\u0442\u0435 \u2014 \u0441\u043e \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e<\/p>\n<h4>\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u043e\u0434\u0438\u043d \u0438\u0437 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u0440\u044b\u0447\u0430\u0433\u043e\u0432 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f inference compute  <\/h4>\n<p>\u0427\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2014 \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u0442\u0435\u043c \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043e\u0442\u0432\u0435\u0442, \u0442\u0435\u043c \u043d\u0438\u0436\u0435 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438 \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c. \u042d\u0442\u043e \u043d\u0435 \u0447\u0435\u0442\u044b\u0440\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u2014 \u044d\u0442\u043e \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435.<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0438\u0441\u0430\u0442\u044c \u0432 \u043e\u0434\u0438\u043d \u0447\u0430\u0442 \u0432\u0441\u0451 \u043f\u043e\u0434\u0440\u044f\u0434 \u043f\u0440\u043e \u0437\u0434\u043e\u0440\u043e\u0432\u044c\u0435, \u0440\u0430\u0431\u043e\u0442\u0443, \u043a\u043e\u0434 \u0438 \u043b\u0438\u0447\u043d\u043e\u0435 \u2014 \u043f\u043b\u043e\u0445\u0430\u044f \u0438\u0434\u0435\u044f. \u0421\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u0432 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0435\u043a\u0442 \u043a\u0443\u0447\u0443 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u00ab\u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0439 \u0432\u0441\u0451\u00bb \u0442\u043e\u0436\u0435 \u043f\u043b\u043e\u0445\u0430\u044f \u0438\u0434\u0435\u044f<\/p>\n<hr\/>\n<h2>\u0410\u043a\u0442 2. \u041f\u043e\u0447\u0435\u043c\u0443 \u0432\u0441\u0451 \u0442\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u043e<\/h2>\n<h4>Attention Is All You Need<\/h4>\n<p>\u0412 \u0438\u044e\u043d\u0435 2017 \u0433\u043e\u0434\u0430 \u0432\u043e\u0441\u0435\u043c\u044c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 Google \u0432\u044b\u043b\u043e\u0436\u0438\u043b\u0438 \u0441\u0442\u0430\u0442\u044c\u044e \u00abAttention Is All You Need\u00bb. \u0412 \u043d\u0435\u0439 \u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 Transformer \u2014 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043e\u043d\u0430 \u043b\u0435\u0436\u0438\u0442 \u0432 \u043e\u0441\u043d\u043e\u0432\u0435 \u0432\u0441\u0435\u0445 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 LLM: GPT, Claude, Gemini, Llama, DeepSeek. \u0411\u0443\u043a\u0432\u0430 T \u0432 GPT \u2014 \u044d\u0442\u043e \u0438 \u0435\u0441\u0442\u044c Transformer.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0432\u043e\u043e\u0431\u0449\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 LLM. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0443\u0436\u043d\u043e \u0432\u0435\u0440\u043d\u0443\u0442\u044c\u0441\u044f \u0432 2017 \u0433\u043e\u0434 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c, \u043a\u0430\u043a \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0441\u044f \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043d\u0446\u0438\u043f \u0440\u0430\u0431\u043e\u0442\u044b LLM.<\/p>\n<h4>\u0427\u0442\u043e \u0431\u044b\u043b\u043e \u0414\u041e 2017<\/h4>\n<p>\u0414\u043e\u043c\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 Recurrent Neural Networks. \u041e\u043d\u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0438 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e: \u0441\u043b\u043e\u0432\u043e \u0437\u0430 \u0441\u043b\u043e\u0432\u043e\u043c. \u0418 \u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u044d\u0442\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u043b\u0430 \u00ab\u0441\u043a\u0440\u044b\u0442\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u00bb \u2014 \u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u00ab\u0441\u0436\u0438\u043c\u0430\u043b\u0430\u0441\u044c\u00bb \u0432\u0441\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f.<\/p>\n<h4>\u0427\u0442\u043e \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b Transformer<\/h4>\n<p>\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u2014\u00a0<strong>self-attention<\/strong>. \u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u043b\u043e\u0432\u043e \u0432 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u00ab\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u00bb \u043d\u0430 \u0432\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043b\u043e\u0432\u0430 \u0438 \u0440\u0435\u0448\u0430\u0435\u0442, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0436\u0434\u043e\u0435 \u0438\u0437 \u043d\u0438\u0445 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e. \u041d\u0438\u043a\u0430\u043a\u043e\u0439 \u0446\u0435\u043f\u043e\u0447\u043a\u0438. \u0412\u0441\u0451 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/868\/427\/e58\/868427e582be8c9d1eaa72db1df53f97.png\" width=\"1448\" height=\"1086\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/868\/427\/e58\/868427e582be8c9d1eaa72db1df53f97.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/868\/427\/e58\/868427e582be8c9d1eaa72db1df53f97.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0418\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u043b \u043d\u0430\u043c \u043f\u0440\u0438\u0439\u0442\u0438 \u043a \u0442\u043e\u043c\u0443 \u0443\u0440\u043e\u0432\u043d\u044e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d\u0438 \u0441\u0435\u0439\u0447\u0430\u0441. \u041d\u043e \u0438 \u043e\u043d \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0432 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0433\u043e \u043e\u043a\u043d\u0430<\/p>\n<p>\u0410ttention \u0432 \u0441\u0432\u043e\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u043c \u0432\u0438\u0434\u0435 \u2014 \u044d\u0442\u043e\u00a0<code><strong>O(n\u00b2)<\/strong><\/code>\u00a0\u043f\u043e \u0434\u043b\u0438\u043d\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438. \u041a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 N \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0432\u044f\u0437\u0435\u0439 \u043d\u0435 N, \u0430 N\u00d7N. <\/p>\n<p>\u041d\u0430 1K \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0431\u0443\u0434\u0435\u0442 \u043c\u0438\u043b\u043b\u0438\u043e\u043d \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439, \u0430 \u043d\u0430 1M \u0443\u0436\u0435 \u0446\u0435\u043b\u044b\u0439 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u00ab\u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0437\u0430\u0441\u0443\u043d\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0444\u0430\u0439\u043b\u043e\u0432 \u0432 \u043c\u043e\u0434\u0435\u043b\u044c\u00bb \u0441\u0442\u043e\u0438\u0442 \u043d\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u043e, \u0430 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e \u2014 \u0438 \u043f\u0440\u043e\u0436\u0435\u043a\u0442\u043e\u0440 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043d\u0435\u0438\u0437\u0431\u0435\u0436\u043d\u043e \u0440\u0430\u0437\u043c\u044b\u0432\u0430\u0435\u0442\u0441\u044f. \u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 (Flash Attention, sliding window, sparse attention) \u0431\u044c\u044e\u0442\u0441\u044f \u0437\u0430 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u043d\u043e\u00a0<strong>\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u043a \u0437\u0430\u043a\u043e\u043d \u043d\u0435 \u043e\u0442\u043c\u0435\u043d\u044f\u044e\u0442<\/strong><\/p>\n<hr\/>\n<h2>\u0410\u043a\u0442 3. \u0418\u0437 \u0447\u0435\u0433\u043e \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/h2>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5fc\/6c0\/ea6\/5fc6c0ea6ca4dae281c8ee175c80874f.png\" width=\"1402\" height=\"1122\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/5fc\/6c0\/ea6\/5fc6c0ea6ca4dae281c8ee175c80874f.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5fc\/6c0\/ea6\/5fc6c0ea6ca4dae281c8ee175c80874f.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<div class=\"floating-image\">\n<p>\u041d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u043b\u0438\u044f\u044e\u0442 \u0434\u0432\u0430 \u0431\u043b\u043e\u043a\u0430 \u2014 \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0432\u00a0<strong>pretrained data<\/strong>\u00a0\u0438 \u0447\u0442\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432\u00a0<strong>Context Window<\/strong>\u00a0\u0432 \u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438<\/p>\n<\/div>\n<p>\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e Pretrained Data \u2014 \u0441\u0438\u043b\u044c\u043d\u043e \u0442\u0443\u0434\u0430 \u043f\u043e\u0433\u0440\u0443\u0436\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0443, \u0443 \u041a\u0430\u0440\u043f\u0430\u0442\u044b \u0435\u0441\u0442\u044c\u00a0<a href=\"https:\/\/www.youtube.com\/watch?v=7xTGNNLPyMI\" rel=\"noopener noreferrer nofollow\">3-\u0447\u0430\u0441\u043e\u0432\u043e\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u00abDeep Dive into LLMs\u00bb<\/a>, \u0433\u0434\u0435 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043d\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u043e\u043d\u044f\u0442\u0438\u044f. \u041f\u043e \u0441\u0443\u0442\u0438, \u044d\u0442\u043e \u0434\u0438\u0441\u0442\u0438\u043b\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 \u0432\u0441\u0435\u0433\u043e \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u0441 cutoff \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438\u043d\u043e\u0433\u0434\u0430 <strong>Soul-\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442<\/strong>, \u043a\u043e\u0442\u043e\u0440\u044b\u043c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043e\u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0432\u0430\u044e\u0442 \u043c\u043d\u043e\u0433\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 Claude<\/p>\n<p>\u0418\u043c\u0435\u043d\u043d\u043e \u0432\u0435\u0441\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442<\/p>\n<ul>\n<li>\n<p>\u043a\u0430\u043a\u0438\u0435\u00a0<strong>Q\/K\/V-\u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438<\/strong>\u00a0\u0441\u043e\u0437\u0434\u0430\u044e\u0442\u0441\u044f (\u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0435\u0441\u043e\u0432\u00a0<code>W_Q<\/code>,\u00a0<code>W_K<\/code>,\u00a0<code>W_V<\/code>)<\/p>\n<\/li>\n<li>\n<p>\u043a\u0430\u043a \u044d\u0442\u0438 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432\u00a0<strong>FFN-\u0431\u043b\u043e\u043a\u0430\u0445<\/strong>\u00a0(Feed-Forward Networks)<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0447\u0435\u0440\u0435\u0437\u00a0<strong>\u043c\u0430\u0442\u0440\u0438\u0446\u0443 unembedding<\/strong>\u00a0(\u0442\u043e\u0436\u0435 \u0432\u0435\u0441\u0430) \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0<strong>\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439<\/strong>\u00a0\u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u0441\u043b\u043e\u0432\u0430\u0440\u044e ~100+K \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/p>\n<p>\u0418 \u0443\u0436\u0435 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d (greedy \/ sampling \/ top-p)<\/p>\n<p><em>\u041f\u043e\u0437\u043d\u0430\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043c\u0438\u043d\u0443\u0442\u043a\u0430<\/em><br \/><em>\u041e\u0434\u0438\u043d NVIDIA H100 \u2014 \u044d\u0442\u043e 80 GB \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438. \u0414\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 1 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u0444\u043e\u0440\u043c\u0430\u0442 float16) \u043d\u0443\u0436\u043d\u043e 25 GPU \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0442\u043e\u0431\u044b \u0432\u0435\u0441\u0430 \u043f\u043e\u043c\u0435\u0441\u0442\u0438\u043b\u0438\u0441\u044c. \u042d\u0442\u043e \u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f KV-cache \u0434\u043b\u044f \u0432\u0430\u0448\u0435\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 Claude Opus \u0438 GPT-4 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043d\u0430 \u0432\u0430\u0448\u0435\u043c \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435 \u2014 \u043e\u043d\u0438 \u0436\u0438\u0432\u0443\u0442 \u0432 \u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440\u0430\u0445. \u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (Llama 3.1 70B \u043d\u0430 M3 Pro \u0432 int4-\u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438) \u2014 \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u043e\u043c \u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u00ab\u043a\u043e\u043d\u0441\u0442\u0438\u0442\u0443\u0446\u0438\u0435\u0439\u00bb. \u041a\u043e\u0433\u0434\u0430 \u0440\u0435\u0447\u044c \u043e \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0441\u0442\u0438 \u0438\u043b\u0438 \u0446\u0435\u043d\u0435, \u0432\u044b\u0431\u043e\u0440 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 = \u0432\u044b\u0431\u043e\u0440 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0421\u043b\u043e\u044f 0<\/em><\/p>\n<p><strong>\u0412\u0435\u0441\u0430 \u2014 \u044d\u0442\u043e \u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435, \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0441\u0442\u043e\u043b.<\/strong><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\n<\/th>\n<th>\n<p align=\"left\">\u0412\u0435\u0441\u0430 (\u0421\u043b\u043e\u0439 0)<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 (\u0421\u043b\u043e\u0438 1\u20136)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u041a\u043e\u0433\u0434\u0430 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 (\u043c\u0435\u0441\u044f\u0446\u044b)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 (\u043c\u0441)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u041c\u043e\u0436\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435\u0442 (\u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u044b)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u041e\u0431\u044a\u0451\u043c<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">~\u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">~200K \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u0427\u0442\u043e \u0445\u0440\u0430\u043d\u044f\u0442<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042f\u0437\u044b\u043a, \u0444\u0430\u043a\u0442\u044b, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0438\u0441\u0442\u043e\u0440\u0438\u044f<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>\u0410\u043d\u0430\u043b\u043e\u0433\u0438\u044f<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0443 \u043d\u0435\u0433\u043e \u043d\u0430 \u0441\u0442\u043e\u043b\u0435<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<details class=\"spoiler\">\n<summary>\u0410 \u0435\u0441\u043b\u0438 \u0445\u043e\u0442\u0438\u0442\u0435 \u043b\u0443\u0447\u0448\u0435 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u043e\u043c \u0440\u0430\u0431\u043e\u0442\u044b \u0432\u0435\u0441\u043e\u0432, \u0442\u043e \u0432\u043e\u0442 \u0442\u0443\u0442 \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f \u0441 GPT-2 \u043c\u043e\u0434\u0435\u043b\u044c\u044e<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/440\/79e\/d9d\/44079ed9db7eb44e289822d295560f87.png\" alt=\"https:\/\/poloclub.github.io\/transformer-explainer\/\" title=\"https:\/\/poloclub.github.io\/transformer-explainer\/\" width=\"1884\" height=\"913\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/440\/79e\/d9d\/44079ed9db7eb44e289822d295560f87.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/440\/79e\/d9d\/44079ed9db7eb44e289822d295560f87.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><a href=\"https:\/\/poloclub.github.io\/transformer-explainer\/\" rel=\"noopener noreferrer nofollow\">https:\/\/poloclub.github.io\/transformer-explainer\/<\/a><\/figcaption><\/div>\n<\/figure>\n<\/div>\n<\/details>\n<p>\u041d\u0430 Pretrained \u0441\u0435\u043a\u0446\u0438\u044e \u043c\u044b \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u043c. \u041e\u043d\u0430 \u0437\u0430\u043f\u0435\u043a\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0442\u0435\u043b\u044f\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u0432\u0441\u0451, \u0447\u0442\u043e \u043c\u044b \u0434\u0435\u043b\u0430\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435 \u2014 \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430 \u043f\u043e\u0432\u0435\u0440\u0445 \u044d\u0442\u043e\u0433\u043e \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430: \u0432\u0435\u0441\u0430 \u043f\u043e\u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f, \u0437\u0430\u0442\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0431\u043b\u043e\u043a \u2014 Context Window \u2014 \u043c\u044b \u0443\u0436\u0435 \u043c\u043e\u0436\u0435\u043c\u00a0<strong>\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c<\/strong><\/p>\n<p>\u0421\u043b\u043e\u0432\u043e \u00ab\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u00bb \u0437\u0434\u0435\u0441\u044c \u0442\u043e\u0447\u043d\u0435\u0435, \u0447\u0435\u043c \u00ab\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u00bb. \u041f\u043e\u043b\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u0443 \u043d\u0430\u0441 \u0442\u043e\u0436\u0435 \u043d\u0435\u0442:\u00a0<strong>System Prompt<\/strong>\u00a0\u0438\u00a0<strong>Tool definitions<\/strong>\u00a0\u043f\u0438\u0448\u0435\u0442 \u0445\u0430\u0440\u043d\u0435\u0441\u0441 (Claude Code \u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435). \u0412 Claude Code \u044d\u0442\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0438\u043b\u043e\u0431\u0430\u0439\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u043e\u0442 Anthropic \u043f\u043b\u044e\u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0435\u0441\u044f\u0442\u043a\u043e\u0432 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 (Read, Write, Bash, Grep \u0438 \u0434\u0430\u043b\u0435\u0435 \u043f\u043e \u0441\u043f\u0438\u0441\u043a\u0443 \u2014 \u0442\u043e\u0447\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u0447\u0435\u043d\u044c \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043e\u0442 \u0432\u0435\u0440\u0441\u0438\u0438 \u043a \u0432\u0435\u0440\u0441\u0438\u0438, \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0439 \u2014 \u0432\u00a0<a href=\"https:\/\/code.claude.com\/docs\/en\/tools-reference\" rel=\"noopener noreferrer nofollow\">tools-reference<\/a>). \u0412\u0441\u0451 \u044d\u0442\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0435\u0440\u0432\u044b\u0435 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043e\u043a\u043d\u0430 \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043c\u044b \u0443\u0441\u043f\u0435\u0432\u0430\u0435\u043c \u0447\u0442\u043e-\u0442\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c<\/p>\n<p>\u0417\u0430\u0442\u043e \u0432\u0441\u0451 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u2014\u00a0<a href=\"http:\/\/CLAUDE.md\" rel=\"noopener noreferrer nofollow\"><strong>CLAUDE.md<\/strong><\/a><strong>, \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u0435\u0441\u0441\u0438\u044f\u043c\u0438, Skills, MCP-\u0441\u0435\u0440\u0432\u0435\u0440\u044b, \u0447\u0442\u043e \u0438 \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0434\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u0438\u0437 \u0444\u0430\u0439\u043b\u043e\u0432, \u043a\u0430\u043a \u0440\u0435\u0436\u0435\u0442\u0441\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430<\/strong>\u00a0\u2014 \u044d\u0442\u043e \u0443\u0436\u0435 \u043d\u0430\u0448\u0430 \u0437\u043e\u043d\u0430. \u0418 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u043e \u043d\u0435\u0451 \u0434\u0430\u043b\u044c\u0448\u0435 \u043f\u043e\u0439\u0434\u0451\u0442 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440<\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432\u043e\u0442 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u043e\u0435\u0433\u043e <em>\/context <\/em>\u0432 Claude Code. \u0421\u043f\u0440\u0430\u0432\u0430 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u0447\u0442\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0435\u0449\u0435 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6fa\/1fc\/d1b\/6fa1fcd1b2bae4005de76e020058005b.png\" width=\"1245\" height=\"498\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/6fa\/1fc\/d1b\/6fa1fcd1b2bae4005de76e020058005b.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6fa\/1fc\/d1b\/6fa1fcd1b2bae4005de76e020058005b.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041d\u0443, \u043f\u043e\u0438\u0445\u0430\u043b\u0438<\/p>\n<h4>CLAUDE.md\u00a0<\/h4>\n<p><a href=\"http:\/\/CLAUDE.md\" rel=\"noopener noreferrer nofollow\">CLAUDE.md<\/a> \u0432 \u043a\u043e\u0440\u043d\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u2014 \u044d\u0442\u043e\u00a0<strong>\u043f\u0435\u0440\u0432\u043e\u0435, \u0447\u0442\u043e Claude Code \u043a\u043b\u0430\u0434\u0451\u0442 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430<\/strong> \u0438 \u0434\u043e \u043b\u044e\u0431\u043e\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f. \u0418 \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u0440\u0438 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043d\u0438\u043c \u2014 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u043f\u0440\u043e\u0441\u0442\u044b\u043d\u044e \u00ab\u0432\u0441\u0451, \u0447\u0442\u043e \u044f \u0445\u043e\u0447\u0443, \u0447\u0442\u043e\u0431\u044b \u0430\u0433\u0435\u043d\u0442 \u0437\u043d\u0430\u043b\u00bb<\/p>\n<p><em>\u041f\u043e\u0437\u043d\u0430\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043c\u0438\u043d\u0443\u0442\u043a\u0430<\/em><br \/><em>CLAUDE.md \u0447\u0438\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e Claude Code. Codex \u0447\u0438\u0442\u0430\u0435\u0442 AGENTS.md, \u0430 Gemini \u0447\u0438\u0442\u0430\u0435\u0442 GEMINI.md. \u0415\u0441\u043b\u0438 \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435, \u0447\u0442\u043e\u0431\u044b \u0432\u0441\u0435 \u0442\u0440\u0438 \u0430\u0433\u0435\u043d\u0442\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 \u0432\u0430\u0448\u0438\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0435\u043c, \u0442\u043e \u0443 \u0432\u0430\u0441 \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u0432\u0441\u0435 3 \u0444\u0430\u0439\u043b\u0430. \u0418 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0438\u0445 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439<\/em><\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6fd\/f26\/b38\/6fdf26b3858596441d02bf9a0d18da26.png\" width=\"1804\" height=\"1116\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/6fd\/f26\/b38\/6fdf26b3858596441d02bf9a0d18da26.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6fd\/f26\/b38\/6fdf26b3858596441d02bf9a0d18da26.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<div class=\"floating-image\">\n<p>\u0423 \u043c\u0435\u043d\u044f \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 <a href=\"http:\/\/CLAUDE.md\" rel=\"noopener noreferrer nofollow\">CLAUDE.md<\/a> \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u043a\u0430\u043a <strong>\u043a\u0430\u0440\u0442\u0430 \u043f\u0440\u043e\u0435\u043a\u0442\u0430<\/strong>, \u0430 \u043d\u0435 \u043a\u0430\u043a \u0441\u043f\u0440\u0430\u0432\u043e\u0447\u043d\u0438\u043a. \u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043a\u0435\u043b\u0435\u0442:<\/p>\n<\/div>\n<pre><code class=\"markdown\"># \u041f\u0440\u043e\u0435\u043a\u0442: &lt;\u043e\u0434\u043d\u0430 \u0441\u0442\u0440\u043e\u043a\u0430&gt;## \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u2014 \u0441\u0442\u0435\u043a, \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0434\u0438\u0440\u0435\u043a\u0442\u043e\u0440\u0438\u0438## \u041f\u0440\u0430\u0432\u0438\u043b\u0430 \u2014 \u043a\u043e\u043d\u0432\u0435\u043d\u0446\u0438\u0438 \u043a\u043e\u043c\u043c\u0438\u0442\u043e\u0432, \u0441\u0442\u0438\u043b\u044f, \u0442\u0435\u0441\u0442\u043e\u0432## \u0427\u0442\u043e \u041d\u0415 \u0434\u0435\u043b\u0430\u0442\u044c \u2014 \u0433\u0440\u0430\u043d\u0438\u0446\u044b, \u0442\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u043e\u0448\u0438\u0431\u043a\u0438<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0421\u0430\u043c\u044b\u0439 \u043d\u0435\u0434\u043e\u043e\u0446\u0435\u043d\u0451\u043d\u043d\u044b\u0439 \u0431\u043b\u043e\u043a \u044d\u0442\u043e \u00ab\u0447\u0442\u043e \u041d\u0415 \u0434\u0435\u043b\u0430\u0442\u044c\u00bb. \u0411\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043e\u0448\u0438\u0431\u043e\u043a \u0430\u0433\u0435\u043d\u0442\u0430 \u0438\u0434\u0443\u0442 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u044b \u043d\u0435 \u0437\u0430\u043f\u0440\u0435\u0442\u0438\u043b\u0438 \u0447\u0442\u043e-\u0442\u043e \u044f\u0432\u043d\u043e.<\/p>\n<h4>MEMORY.md \u0434\u043b\u044f \u043f\u0430\u043c\u044f\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u0435\u0441\u0441\u0438\u044f\u043c\u0438 <\/h4>\n<p>\u041f\u043e\u0434\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 CLAUDE.md<\/p>\n<p>\u041f\u0430\u043c\u044f\u0442\u044c \u0432 Claude Code \u2014 \u044d\u0442\u043e\u00a0\u043d\u0435 <strong>\u043f\u0440\u043e\u0441\u0442\u043e \u0432\u044b\u0436\u0438\u043c\u043a\u0430 \u0438\u0437 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u0430<\/strong>, \u043a\u0430\u043a \u044d\u0442\u043e \u0431\u044b\u043b\u043e \u0440\u0430\u043d\u044c\u0448\u0435. \u0422\u0435\u043f\u0435\u0440\u044c \u044d\u0442\u043e <strong>\u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u044b\u0439 \u0438\u043d\u0434\u0435\u043a\u0441 \u0441 \u043f\u043e\u0434\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u043c\u0438 \u043f\u0430\u043f\u043a\u0430\u043c\u0438<\/strong>, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u0444\u0430\u0439\u043b \u0438\u043c\u0435\u0435\u0442 \u0442\u0438\u043f, \u0438\u043c\u044f \u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435<\/p>\n<p>\u0427\u0435\u0442\u044b\u0440\u0435 \u0442\u0438\u043f\u0430 \u043f\u0430\u043c\u044f\u0442\u0438, \u0440\u0430\u0437\u0434\u0435\u043b\u0451\u043d\u043d\u044b\u0435 \u043f\u043e \u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e:<\/p>\n<ul>\n<li>\n<p><strong>user<\/strong>\u00a0\u2014 \u043a\u0442\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c: \u0440\u043e\u043b\u044c, \u043e\u043f\u044b\u0442, \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>feedback<\/strong>\u00a0\u2014 \u043e\u0431\u0440\u0430\u0442\u043d\u0430\u044f \u0441\u0432\u044f\u0437\u044c \u043f\u043e\u0441\u043b\u0435 \u043e\u0448\u0438\u0431\u043e\u043a: \u00ab\u043d\u0435 \u0434\u0435\u043b\u0430\u0439 X\u00bb, \u00ab\u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0439 \u0434\u0435\u043b\u0430\u0442\u044c Y\u00bb.\u00a0<strong>\u0421\u0430\u043c\u043e\u0435 \u0446\u0435\u043d\u043d\u043e\u0435, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c \u0432 \u043f\u0430\u043c\u044f\u0442\u044c.<\/strong><\/p>\n<\/li>\n<li>\n<p><strong>project<\/strong>\u00a0\u2014 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043f\u0440\u043e\u0435\u043a\u0442\u0430: \u0434\u0435\u0434\u043b\u0430\u0439\u043d\u044b, \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>reference<\/strong>\u00a0\u2014 \u0441\u0441\u044b\u043b\u043a\u0438 \u043d\u0430 \u0432\u043d\u0435\u0448\u043d\u0438\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b: \u0433\u0434\u0435 Notion, \u043a\u0430\u043a\u043e\u0439 \u0440\u0435\u043f\u043e \u0441 \u0444\u0438\u043a\u0441\u0442\u0443\u0440\u0430\u043c\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0423 Memory \u0435\u0441\u0442\u044c \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c AutoDream<\/p>\n<p><strong><em>AutoDream<\/em><\/strong><em>\u00a0\u2014 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u043a\u043e\u043d\u0441\u043e\u043b\u0438\u0434\u0430\u0446\u0438\u0438 \u043f\u0430\u043c\u044f\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u0435\u0441\u0441\u0438\u044f\u043c\u0438, \u043f\u043e \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0443 REM-\u0441\u043d\u0430: \u043c\u0435\u0436\u0434\u0443 \u0441\u0435\u0441\u0441\u0438\u044f\u043c\u0438 \u0447\u0438\u0442\u0430\u0435\u0442 \u0432\u0441\u0435 \u0444\u0430\u0439\u043b\u044b \u043f\u0430\u043c\u044f\u0442\u0438, \u043d\u0430\u0445\u043e\u0434\u0438\u0442 \u0434\u0443\u0431\u043b\u0438 \u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u044f, \u0441\u043a\u043b\u0435\u0438\u0432\u0430\u0435\u0442 \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u043e\u0435 \u0432 \u0441\u0430\u043c\u043c\u0430\u0440\u0438. \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0441\u044f \u043b\u0438\u0431\u043e \u0441 \u0432\u0430\u0448\u0435\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u043b\u0438\u0431\u043e \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0437 \u0432 24 \u0447\u0430\u0441\u0430 \u0438\u043b\u0438 \u043f\u043e\u0441\u043b\u0435 5-10 turns. <\/em><\/p>\n<p><em>\u041d\u0438\u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b Memory \u043e\u0434\u043d\u043e\u0433\u043e \u0438\u0437 \u043c\u043e\u0438\u0445 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432. \u041e\u0440\u0430\u043d\u0436\u0435\u0432\u044b\u043c \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u044b \u0441\u0441\u044b\u043b\u043a\u0438 \u043d\u0430 \u0444\u0430\u0439\u043b\u044b, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 \u043d\u0430\u043f\u0438\u0441\u0430\u043d \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e<\/em><\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3c1\/7bc\/7ce\/3c17bc7cec7e2835f86d1757ac80ad05.png\" width=\"968\" height=\"888\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/3c1\/7bc\/7ce\/3c17bc7cec7e2835f86d1757ac80ad05.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3c1\/7bc\/7ce\/3c17bc7cec7e2835f86d1757ac80ad05.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>&#8230;.<\/p>\n<p>\u0421\u0435\u0439\u0447\u0430\u0441 \u0434\u043e\u043f\u0438\u0448\u0443 \u0447\u0430\u0441\u0442\u044c 2<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1028260\/\">https:\/\/habr.com\/ru\/articles\/1028260\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 1\u042d\u0442\u043e \u0434\u043b\u0438\u043d\u043d\u043e\u043f\u043e\u0441\u0442, \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e, \u044f \u043d\u0430\u0434\u0435\u044e\u0441\u044c, \u0443 \u0432\u0430\u0441 \u0441\u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b\u0439 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442 \u043f\u043e \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u0430\u043c\u0438\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 2\u0415\u0441\u043b\u0438 \u0432\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0435, \u0447\u0442\u043e \u044f \u0433\u0434\u0435 \u0442\u043e \u043e\u0448\u0438\u0431\u0441\u044f \u0438\u043b\u0438 \u0445\u043e\u0442\u0438\u0442\u0435 \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c \u0434\u0435\u0442\u0430\u043b\u0438, \u0442\u043e \u043c\u043e\u0436\u0435\u0442\u0435 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u044b. \u0412\u0441\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u044e \u0438 \u043f\u043e\u043f\u0440\u0430\u0432\u043b\u044e\u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 3\u0422\u043e, \u0447\u0442\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0438\u0436\u0435 &#8212; \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0442\u044f\u0436\u0435\u043b\u044b\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b, \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u043d\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u0433\u0435\u043d\u0442\u043e\u0432 \u0438 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 LLM, \u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0442\u044f\u0436\u0435\u043b\u043e. \u041d\u043e \u043d\u0435 \u0431\u0435\u0441\u043f\u043e\u043b\u0435\u0437\u043d\u043e)\u0414\u043b\u044f \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0449\u0438\u0445 \u0443 \u043c\u0435\u043d\u044f \u0435\u0441\u0442\u044c \u043e\u0442\u0438\u0447\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f \u041f\u0440\u043e\u0441\u0442\u043e \u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 ChatGPT \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 GPT \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0421 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438. \u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 4\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043a\u043e\u043d\u0446\u0435\u043f\u0442\u044b \u044f \u0431\u0443\u0434\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 Claude Code, \u0442\u0430\u043a \u043a\u0430\u043a \u043e\u043d\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0434\u0432\u0438\u0433\u0430\u0442\u0435\u043b\u044f\u043c\u0438 \u043c\u043e\u0434\u044b \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435. \u041d\u043e \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0430\u0433\u0435\u043d\u0442\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a\u0436\u0435 \u041f\u0440\u0435\u043b\u044e\u0434\u0438\u044f 5\u042f \u043c\u043d\u043e\u0433\u043e \u0433\u0434\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0435 \u0442\u0435\u0440\u043c\u0438\u043d\u044b \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0447\u0435\u0440\u0435\u0437 ChatGPT, \u043d\u0435 \u043d\u0430\u043a\u0430\u0437\u044b\u0432\u0430\u0439\u0442\u0435 \u0441\u0442\u0440\u043e\u0433\u043e \ud83e\udd7aTL;DR.\u00a0\u041f\u0440\u043e\u043c\u043f\u0442 \u0438\u043d\u0436\u0438\u043d\u0438\u0440\u0438\u043d\u0433 \u0432 \u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d \u0431\u044b\u043b \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u0435\u043d \u0432 2025 \u0443\u0436\u0435 \u043c\u0451\u0440\u0442\u0432. \u0412 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u0445, \u0442\u0430\u043a\u0438\u0445 \u043a\u0430\u043a Claude Code, Codex \u0438 \u0443\u043f\u0430\u0441\u0438\u0431\u043e\u0433Cursor = \u0432\u0430\u0448 \u0442\u0435\u043a\u0441\u0442 \u044d\u0442\u043e\u00a0~0,03% \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0412\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u2014 \u044d\u0442\u043e system prompt, CLAUDE.md, \u043f\u0430\u043c\u044f\u0442\u044c, MCP, skills, \u0438\u0441\u0442\u043e\u0440\u0438\u044f, tool results. \u0418 \u0441\u043e\u0437\u0434\u0430\u043d\u044b \u043e\u043d\u0438, \u0447\u0442\u043e\u0431\u044b \u0441\u044a\u0435\u0434\u0430\u0442\u044c \u0432\u0430\u0448\u0438 \u043b\u0438\u043c\u0438\u0442\u044b \u0438 \u0442\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0430\u0448\u0438 \u0434\u0435\u043d\u044c\u0433\u0438 \ud83d\ude08\u0427\u0442\u043e \u0432\u043d\u0443\u0442\u0440\u0438 \u044d\u0442\u043e\u0433\u043e \u043b\u043e\u043d\u0433\u0440\u0438\u0434\u0430\u0410\u043a\u0442 1.\u00a0\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e \u043a\u0430\u043a \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. Context rot + reasoning shift \u2014 \u043a\u0430\u043a \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043c\u043e\u0436\u0435\u0442 \u0440\u0435\u0437\u0430\u0442\u044c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f\u00a0\u0434\u043e 50%\u00a0\u0431\u0435\u0437 \u043f\u0440\u0435\u0434\u0443\u043f\u0440\u0435\u0436\u0434\u0435\u043d\u0438\u044f\u0410\u043a\u0442 2.\u00a0\u041f\u0440\u043e \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c attention \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u00ab\u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u00bb \u0441\u0442\u043e\u0438\u0442 O(n\u00b2)\u0410\u043a\u0442 3.\u00a0\u041f\u0440\u043e 7 \u0441\u043b\u043e\u0435\u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u2014 \u043e\u0442 pretrained \u0432\u0435\u0441\u043e\u0432 \u0438 \u0434\u043e \u0440\u0435\u0434\u0430\u043a\u0442\u0438\u0440\u0443\u0435\u043c\u044b\u0445 system prompt, CLAUDE.md, MEMORY.MD, Skills, MCP \u0438 \u0444\u0430\u0439\u043b\u043e\u0432 \u043f\u043e \u0432\u044b\u0437\u043e\u0432\u0443\u0410\u043a\u0442 4.\u00a0\u041f\u0440\u043e agent loop \u0438 harness. \u0410 \u0435\u0449\u0435 \u043f\u0440\u043e promt caching, spec-driven \u043f\u043e\u0434\u0445\u043e\u0434, subagents, agent teams \u0438 4 \u0442\u0438\u043f\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u0438\u0445 \u0440\u0435\u0430\u043b\u044c\u043d\u0430\u044f \u0446\u0435\u043d\u0430\u0410\u043a\u0442 5.\u00a0\u0427\u0442\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442 \u043d\u043e\u0432\u0438\u0447\u043a\u0430 \u043e\u0442 \u043c\u0430\u0441\u0442\u0435\u0440\u0430 \u0438\u00a06 action items \u043d\u0430 \u043f\u043e\u043d\u0435\u0434\u0435\u043b\u044c\u043d\u0438\u043a\u00a0\u2014 \u0447\u0442\u043e \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c \u0432 \u043f\u0440\u043e\u0435\u043a\u0442 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u0435\u0447\u0435\u0440\u043e\u043c\u041a\u043e\u043c\u0443 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e:\u00a0\u0412\u0441\u0435\u043c, \u043a\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 Claude Code \/ Codex \/ Cursor \u0438 \u0432\u0441\u0435\u043c \u0442\u0435\u043c, \u043a\u0442\u043e \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0441\u0442\u0430\u043b \u0443\u043f\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u0432 \u043b\u0438\u043c\u0438\u0442\u044b\u0410\u043a\u0442 1. 0,03% \u0438 99,97%\u0422\u0430\u043a \u043a\u0430\u043a \u044d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f \u043f\u0440\u043e \u0442\u043e, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u0438\u0434\u0438\u0442 \u0432 \u044d\u0442\u0438\u0445 99,97%, \u0442\u043e \u0441 \u044d\u0442\u043e\u0433\u043e \u0438 \u043d\u0430\u0447\u043d\u0435\u043c\u0410 \u0435\u0449\u0435 \u043d\u0430\u0447\u043d\u0435\u043c \u0441 \u043c\u043e\u0435\u0439 \u043b\u044e\u0431\u0438\u043c\u043e\u0439 \u0446\u0438\u0442\u0430\u0442\u044b, \u0432\u043e\u043a\u0440\u0443\u0433 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0438 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0441\u0442\u0440\u043e\u0435\u043d\u043e \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0432\u044b\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u0435Good context engineering means finding the smallest possible set of high-signal tokens that maximize the likelihood of some desired outcome\u0412\u043e\u043a\u0440\u0443\u0433 \u0441\u043b\u043e\u0432, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u0436\u0438\u0440\u043d\u044b\u043c, \u0438 \u0432\u044b\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u0432\u0441\u044f \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u0441 LLMSystem PromptCLAUDE.md \/ \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u0430Memory.md (\u0444\u0430\u0439\u043b\u044b \u043f\u0430\u043c\u044f\u0442\u0438 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u044b\u0445 \u0441\u0435\u0441\u0441\u0438\u0439)Tool definitions (\u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432)Subagents + Skills + MCPs\u0417\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \/ RAG-\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b\u0418\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430 (\u0432\u0441\u0451, \u0447\u0442\u043e \u0432\u044b \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438 \u0440\u0430\u043d\u044c\u0448\u0435)\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432\u0412\u0410\u0428 \u041f\u0420\u041e\u041c\u041f\u0422\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e \u043a\u0430\u043a \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f\u041e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u043e\u043a\u043d\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043a\u0430\u043a \u043e \u0440\u0430\u0431\u043e\u0447\u0435\u043c \u0441\u0442\u043e\u043b\u0435, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043b\u0435\u0436\u0438\u0442 \u0432\u0441\u0451, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u043d\u0430 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0415\u0441\u043b\u0438 \u043d\u0430 \u0441\u0442\u043e\u043b\u0435 \u043c\u043d\u043e\u0433\u043e \u043c\u0443\u0441\u043e\u0440\u0430 \u2014 \u0442\u044f\u0436\u0435\u043b\u043e \u043f\u043e\u043d\u044f\u0442\u044c, \u0437\u0430 \u0447\u0442\u043e \u0431\u0440\u0430\u0442\u044c\u0441\u044f. \u0415\u0441\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u0437\u0430\u0434\u0430\u0447\u0435 \u2014 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043f\u0440\u043e\u0449\u0435.  \u0412\u043d\u0438\u043c\u0430\u043d\u0438\u0435 (attention) \u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043a\u043e\u043d\u0435\u0447\u043d\u044b\u0439 \u0440\u0435\u0441\u0443\u0440\u0441: \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0441\u0443\u043c\u043c\u0430 \u0432\u0435\u0441\u043e\u0432 softmax \u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0443 \u0440\u0430\u0432\u043d\u0430 1. \u0427\u0435\u043c \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u043e\u043a\u043d\u043e, \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0432\u0435\u0441\u0430 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u2014 \u0430 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0435\u0449\u0451 \u0438 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0435: \u043f\u0435\u0440\u0432\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0438 \u0445\u0432\u043e\u0441\u0442 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u043d\u0435\u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e (attention sinks), \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430 \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f.\u0423 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0435\u0441\u0442\u044c \u0434\u0432\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043a\u0438, \u0438 \u043e\u043d\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u041f\u0435\u0440\u0432\u0430\u044f \u0438 \u0441\u0430\u043c\u0430\u044f \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430\u044f \u2014 Context rot. \u041a\u043e\u0433\u0434\u0430 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0440\u0430\u0437\u043c\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f\u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u043a \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0435\u043c \u0441\u043b\u043e\u0436\u043d\u0435\u0435 \u0435\u0439 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e\u042d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u0438\u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0443\u0436\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0451\u043d\u043d\u044b\u0445 \u0442\u043e\u0447\u043a\u0430\u0445\u0437\u0430\u0431\u044b\u0432\u0430\u044e\u0442 \u0434\u0435\u0442\u0430\u043b\u0438 \u0438\u0437 \u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u0430\u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0430\u0442 \u0440\u0430\u043d\u0435\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f\u043c\u0434\u0430\u044e\u0442 \u0432\u0441\u0451 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u043c\u044b\u0442\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b\u0412\u0442\u043e\u0440\u0430\u044f \u0438 \u043c\u0435\u043d\u0435\u0435 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430\u044f \u2014 Reasoning shift\u0415\u0441\u0442\u044c \u043d\u0435\u043c\u0430\u043b\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439, \u0447\u0442\u043e \u043c\u043d\u043e\u0433\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442 \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u043c\u0435\u0436\u0434\u0443 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435\u043c \u2014 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0441\u0442\u0451\u0442, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u044e\u0442\u0441\u044f.\u041d\u0430 \u0447\u0442\u043e \u044d\u0442\u043e \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u0432\u043b\u0438\u044f\u0442\u044c\u041c\u0435\u043d\u044c\u0448\u0435 \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 \u2014 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0440\u0430\u0437\u0443 \u043f\u0435\u0440\u0435\u0441\u043a\u0430\u043a\u0438\u0432\u0430\u0435\u0442 \u043a \u0432\u044b\u0432\u043e\u0434\u0443\u041c\u0435\u043d\u044c\u0448\u0435 \u0441\u0430\u043c\u043e\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438\u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u2014 \u043e\u0434\u043d\u0430 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u0440\u0435\u0445\u0423\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435, \u043d\u043e \u043d\u0435 \u0444\u0430\u043a\u0442 \u0447\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u2014 \u043e\u043d\u0438 \u0437\u0432\u0443\u0447\u0430\u0442 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u0435\u0435, \u0445\u043e\u0442\u044f \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u044b \u0445\u0443\u0436\u0435\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435 \u0431\u043e\u043b\u0435\u0435 \u0442\u043e\u0447\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0438 \u043f\u043e\u0434\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u041e\u0431\u044a\u0451\u043c \u0440\u0430\u0441\u0442\u0451\u0442 \u2192 reasoning \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u2192 \u043e\u0442\u0432\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u0435\u0435, \u043d\u043e \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u0445\u0443\u0436\u0435. \u0418 \u0432\u044b \u043d\u0435 \u0443\u0437\u043d\u0430\u0451\u0442\u0435 \u2014 \u0441\u043e \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u043e\u0434\u0438\u043d \u0438\u0437 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u0440\u044b\u0447\u0430\u0433\u043e\u0432 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f inference compute  \u0427\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2014 \u0442\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u0442\u0435\u043c \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043e\u0442\u0432\u0435\u0442, \u0442\u0435\u043c \u043d\u0438\u0436\u0435 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438 \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c. \u042d\u0442\u043e \u043d\u0435 \u0447\u0435\u0442\u044b\u0440\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u2014 \u044d\u0442\u043e \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435.\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0438\u0441\u0430\u0442\u044c \u0432 \u043e\u0434\u0438\u043d \u0447\u0430\u0442 \u0432\u0441\u0451 \u043f\u043e\u0434\u0440\u044f\u0434 \u043f\u0440\u043e \u0437\u0434\u043e\u0440\u043e\u0432\u044c\u0435, \u0440\u0430\u0431\u043e\u0442\u0443, \u043a\u043e\u0434 \u0438 \u043b\u0438\u0447\u043d\u043e\u0435 \u2014 \u043f\u043b\u043e\u0445\u0430\u044f \u0438\u0434\u0435\u044f. \u0421\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u0432 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0435\u043a\u0442 \u043a\u0443\u0447\u0443 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u00ab\u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0439 \u0432\u0441\u0451\u00bb \u0442\u043e\u0436\u0435 \u043f\u043b\u043e\u0445\u0430\u044f \u0438\u0434\u0435\u044f\u0410\u043a\u0442 2. \u041f\u043e\u0447\u0435\u043c\u0443 \u0432\u0441\u0451 \u0442\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u043eAttention Is All You Need\u0412 \u0438\u044e\u043d\u0435 2017 \u0433\u043e\u0434\u0430 \u0432\u043e\u0441\u0435\u043c\u044c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 Google \u0432\u044b\u043b\u043e\u0436\u0438\u043b\u0438 \u0441\u0442\u0430\u0442\u044c\u044e \u00abAttention Is All You Need\u00bb. \u0412 \u043d\u0435\u0439 \u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 Transformer \u2014 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043e\u043d\u0430 \u043b\u0435\u0436\u0438\u0442 \u0432 \u043e\u0441\u043d\u043e\u0432\u0435 \u0432\u0441\u0435\u0445 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 LLM: GPT, Claude, Gemini, Llama, DeepSeek. \u0411\u0443\u043a\u0432\u0430 T \u0432 GPT \u2014 \u044d\u0442\u043e \u0438 \u0435\u0441\u0442\u044c Transformer.\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u044c, \u043a\u0430\u043a \u0432\u043e\u043e\u0431\u0449\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 LLM. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0443\u0436\u043d\u043e \u0432\u0435\u0440\u043d\u0443\u0442\u044c\u0441\u044f \u0432 2017 \u0433\u043e\u0434 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c, \u043a\u0430\u043a \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0441\u044f \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043d\u0446\u0438\u043f \u0440\u0430\u0431\u043e\u0442\u044b LLM.\u0427\u0442\u043e \u0431\u044b\u043b\u043e \u0414\u041e 2017\u0414\u043e\u043c\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 Recurrent Neural Networks. \u041e\u043d\u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0438 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e: \u0441\u043b\u043e\u0432\u043e \u0437\u0430 \u0441\u043b\u043e\u0432\u043e\u043c. \u0418 \u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u044d\u0442\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u043b\u0430 \u00ab\u0441\u043a\u0440\u044b\u0442\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u00bb \u2014 \u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u00ab\u0441\u0436\u0438\u043c\u0430\u043b\u0430\u0441\u044c\u00bb \u0432\u0441\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f.\u0427\u0442\u043e \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b Transformer\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u2014\u00a0self-attention. \u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u043b\u043e\u0432\u043e \u0432 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u00ab\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u00bb \u043d\u0430 \u0432\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043b\u043e\u0432\u0430 \u0438 \u0440\u0435\u0448\u0430\u0435\u0442, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0436\u0434\u043e\u0435 \u0438\u0437 \u043d\u0438\u0445 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e. \u041d\u0438\u043a\u0430\u043a\u043e\u0439 \u0446\u0435\u043f\u043e\u0447\u043a\u0438. \u0412\u0441\u0451 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e\u0418\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u043b \u043d\u0430\u043c \u043f\u0440\u0438\u0439\u0442\u0438 \u043a \u0442\u043e\u043c\u0443 \u0443\u0440\u043e\u0432\u043d\u044e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d\u0438 \u0441\u0435\u0439\u0447\u0430\u0441. \u041d\u043e \u0438 \u043e\u043d \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0432 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0433\u043e \u043e\u043a\u043d\u0430\u0410ttention \u0432 \u0441\u0432\u043e\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u043c \u0432\u0438\u0434\u0435 \u2014 \u044d\u0442\u043e\u00a0O(n\u00b2)\u00a0\u043f\u043e \u0434\u043b\u0438\u043d\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438. \u041a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 N \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0432\u044f\u0437\u0435\u0439 \u043d\u0435 N, \u0430 N\u00d7N. \u041d\u0430 1K \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0431\u0443\u0434\u0435\u0442 \u043c\u0438\u043b\u043b\u0438\u043e\u043d \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439, \u0430 \u043d\u0430 1M \u0443\u0436\u0435 \u0446\u0435\u043b\u044b\u0439 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u00ab\u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0437\u0430\u0441\u0443\u043d\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0444\u0430\u0439\u043b\u043e\u0432 \u0432 \u043c\u043e\u0434\u0435\u043b\u044c\u00bb \u0441\u0442\u043e\u0438\u0442 \u043d\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u043e, \u0430 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e \u2014 \u0438 \u043f\u0440\u043e\u0436\u0435\u043a\u0442\u043e\u0440 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043d\u0435\u0438\u0437\u0431\u0435\u0436\u043d\u043e \u0440\u0430\u0437\u043c\u044b\u0432\u0430\u0435\u0442\u0441\u044f. \u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 (Flash Attention, sliding window, sparse attention) \u0431\u044c\u044e\u0442\u0441\u044f \u0437\u0430 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u043d\u043e\u00a0\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u043a \u0437\u0430\u043a\u043e\u043d \u043d\u0435 \u043e\u0442\u043c\u0435\u043d\u044f\u044e\u0442\u0410\u043a\u0442 3. \u0418\u0437 \u0447\u0435\u0433\u043e \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u041d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u043b\u0438\u044f\u044e\u0442 \u0434\u0432\u0430 \u0431\u043b\u043e\u043a\u0430 \u2014 \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0432\u00a0pretrained data\u00a0\u0438 \u0447\u0442\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432\u00a0Context Window\u00a0\u0432 \u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e Pretrained Data \u2014 \u0441\u0438\u043b\u044c\u043d\u043e \u0442\u0443\u0434\u0430 \u043f\u043e\u0433\u0440\u0443\u0436\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0443, \u0443 \u041a\u0430\u0440\u043f\u0430\u0442\u044b \u0435\u0441\u0442\u044c\u00a03-\u0447\u0430\u0441\u043e\u0432\u043e\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u00abDeep Dive into LLMs\u00bb, \u0433\u0434\u0435 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043d\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u043e\u043d\u044f\u0442\u0438\u044f. \u041f\u043e \u0441\u0443\u0442\u0438, \u044d\u0442\u043e \u0434\u0438\u0441\u0442\u0438\u043b\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 \u0432\u0441\u0435\u0433\u043e \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u0441 cutoff \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438\u043d\u043e\u0433\u0434\u0430 Soul-\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u043c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043e\u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0432\u0430\u044e\u0442 \u043c\u043d\u043e\u0433\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 Claude\u0418\u043c\u0435\u043d\u043d\u043e \u0432\u0435\u0441\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442\u043a\u0430\u043a\u0438\u0435\u00a0Q\/K\/V-\u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438\u00a0\u0441\u043e\u0437\u0434\u0430\u044e\u0442\u0441\u044f (\u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0435\u0441\u043e\u0432\u00a0W_Q,\u00a0W_K,\u00a0W_V)\u043a\u0430\u043a \u044d\u0442\u0438 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432\u00a0FFN-\u0431\u043b\u043e\u043a\u0430\u0445\u00a0(Feed-Forward Networks)\u041d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0447\u0435\u0440\u0435\u0437\u00a0\u043c\u0430\u0442\u0440\u0438\u0446\u0443 unembedding\u00a0(\u0442\u043e\u0436\u0435 \u0432\u0435\u0441\u0430) \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439\u00a0\u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u0441\u043b\u043e\u0432\u0430\u0440\u044e ~100+K \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u0418 \u0443\u0436\u0435 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d (greedy \/ sampling \/ top-p)\u041f\u043e\u0437\u043d\u0430\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043c\u0438\u043d\u0443\u0442\u043a\u0430\u041e\u0434\u0438\u043d NVIDIA H100 \u2014 \u044d\u0442\u043e 80 GB \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438. \u0414\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 1 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u0444\u043e\u0440\u043c\u0430\u0442 float16) \u043d\u0443\u0436\u043d\u043e 25 GPU \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0442\u043e\u0431\u044b \u0432\u0435\u0441\u0430 \u043f\u043e\u043c\u0435\u0441\u0442\u0438\u043b\u0438\u0441\u044c. \u042d\u0442\u043e \u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f KV-cache \u0434\u043b\u044f \u0432\u0430\u0448\u0435\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 Claude Opus \u0438 GPT-4 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043d\u0430 \u0432\u0430\u0448\u0435\u043c \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435 \u2014 \u043e\u043d\u0438 \u0436\u0438\u0432\u0443\u0442 \u0432 \u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440\u0430\u0445. \u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (Llama 3.1 70B \u043d\u0430 M3 Pro \u0432 int4-\u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438) \u2014 \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u043e\u043c \u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u00ab\u043a\u043e\u043d\u0441\u0442\u0438\u0442\u0443\u0446\u0438\u0435\u0439\u00bb. \u041a\u043e\u0433\u0434\u0430 \u0440\u0435\u0447\u044c \u043e \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0441\u0442\u0438 \u0438\u043b\u0438 \u0446\u0435\u043d\u0435, \u0432\u044b\u0431\u043e\u0440 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 = \u0432\u044b\u0431\u043e\u0440 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0421\u043b\u043e\u044f 0\u0412\u0435\u0441\u0430 \u2014 \u044d\u0442\u043e \u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435, \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0441\u0442\u043e\u043b.\u0412\u0435\u0441\u0430 (\u0421\u043b\u043e\u0439 0)\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 (\u0421\u043b\u043e\u0438 1\u20136)\u041a\u043e\u0433\u0434\u0430 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f\u041f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 (\u043c\u0435\u0441\u044f\u0446\u044b)\u041f\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 (\u043c\u0441)\u041c\u043e\u0436\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c\u041d\u0435\u0442 (\u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u044b)\u0414\u0430\u041e\u0431\u044a\u0451\u043c~\u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432~200K \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u0427\u0442\u043e \u0445\u0440\u0430\u043d\u044f\u0442\u042f\u0437\u044b\u043a, \u0444\u0430\u043a\u0442\u044b, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0438\u0441\u0442\u043e\u0440\u0438\u044f\u0410\u043d\u0430\u043b\u043e\u0433\u0438\u044f\u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0443 \u043d\u0435\u0433\u043e \u043d\u0430 \u0441\u0442\u043e\u043b\u0435\u0410 \u0435\u0441\u043b\u0438 \u0445\u043e\u0442\u0438\u0442\u0435 \u043b\u0443\u0447\u0448\u0435 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u043e\u043c \u0440\u0430\u0431\u043e\u0442\u044b \u0432\u0435\u0441\u043e\u0432, \u0442\u043e \u0432\u043e\u0442 \u0442\u0443\u0442 \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f \u0441 GPT-2 \u043c\u043e\u0434\u0435\u043b\u044c\u044ehttps:\/\/poloclub.github.io\/transformer-explainer\/\u041d\u0430 Pretrained \u0441\u0435\u043a\u0446\u0438\u044e \u043c\u044b \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u043c. \u041e\u043d\u0430 \u0437\u0430\u043f\u0435\u043a\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0442\u0435\u043b\u044f\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u0432\u0441\u0451, \u0447\u0442\u043e \u043c\u044b \u0434\u0435\u043b\u0430\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435 \u2014 \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430 \u043f\u043e\u0432\u0435\u0440\u0445 \u044d\u0442\u043e\u0433\u043e \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442\u0430: \u0432\u0435\u0441\u0430 \u043f\u043e\u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f, \u0437\u0430\u0442\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0431\u043b\u043e\u043a \u2014 Context Window \u2014 \u043c\u044b \u0443\u0436\u0435 \u043c\u043e\u0436\u0435\u043c\u00a0\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0421\u043b\u043e\u0432\u043e \u00ab\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u00bb \u0437\u0434\u0435\u0441\u044c \u0442\u043e\u0447\u043d\u0435\u0435, \u0447\u0435\u043c \u00ab\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u00bb. \u041f\u043e\u043b\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u0443 \u043d\u0430\u0441 \u0442\u043e\u0436\u0435 \u043d\u0435\u0442:\u00a0System Prompt\u00a0\u0438\u00a0Tool definitions\u00a0\u043f\u0438\u0448\u0435\u0442 \u0445\u0430\u0440\u043d\u0435\u0441\u0441 (Claude Code \u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435). \u0412 Claude Code \u044d\u0442\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0438\u043b\u043e\u0431\u0430\u0439\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u043e\u0442 Anthropic \u043f\u043b\u044e\u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0435\u0441\u044f\u0442\u043a\u043e\u0432 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 (Read, Write, Bash, Grep \u0438 \u0434\u0430\u043b\u0435\u0435 \u043f\u043e \u0441\u043f\u0438\u0441\u043a\u0443 \u2014 \u0442\u043e\u0447\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u0447\u0435\u043d\u044c \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043e\u0442 \u0432\u0435\u0440\u0441\u0438\u0438 \u043a \u0432\u0435\u0440\u0441\u0438\u0438, \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0439 \u2014 \u0432\u00a0tools-reference). \u0412\u0441\u0451 \u044d\u0442\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0435\u0440\u0432\u044b\u0435 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043e\u043a\u043d\u0430 \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043c\u044b \u0443\u0441\u043f\u0435\u0432\u0430\u0435\u043c \u0447\u0442\u043e-\u0442\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c\u0417\u0430\u0442\u043e \u0432\u0441\u0451 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u2014\u00a0CLAUDE.md, \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u0435\u0441\u0441\u0438\u044f\u043c\u0438, Skills, MCP-\u0441\u0435\u0440\u0432\u0435\u0440\u044b, \u0447\u0442\u043e \u0438 \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0434\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u0438\u0437 \u0444\u0430\u0439\u043b\u043e\u0432, \u043a\u0430\u043a \u0440\u0435\u0436\u0435\u0442\u0441\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0434\u0438\u0430\u043b\u043e\u0433\u0430\u00a0\u2014 \u044d\u0442\u043e \u0443\u0436\u0435 \u043d\u0430\u0448\u0430 \u0437\u043e\u043d\u0430. \u0418 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u043e \u043d\u0435\u0451 \u0434\u0430\u043b\u044c\u0448\u0435 \u043f\u043e\u0439\u0434\u0451\u0442 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432\u043e\u0442 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u043e\u0435\u0433\u043e \/context \u0432 Claude Code. \u0421\u043f\u0440\u0430\u0432\u0430 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u0447\u0442\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0435\u0449\u0435 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u041d\u0443, \u043f\u043e\u0438\u0445\u0430\u043b\u0438CLAUDE.md\u00a0CLAUDE.md \u0432 \u043a\u043e\u0440\u043d\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u2014 \u044d\u0442\u043e\u00a0\u043f\u0435\u0440\u0432\u043e\u0435, \u0447\u0442\u043e Claude Code \u043a\u043b\u0430\u0434\u0451\u0442 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u0434\u043e \u043b\u044e\u0431\u043e\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f. \u0418 \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u0440\u0438 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043d\u0438\u043c \u2014 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u043f\u0440\u043e\u0441\u0442\u044b\u043d\u044e \u00ab\u0432\u0441\u0451, \u0447\u0442\u043e \u044f \u0445\u043e\u0447\u0443, \u0447\u0442\u043e\u0431\u044b \u0430\u0433\u0435\u043d\u0442 \u0437\u043d\u0430\u043b\u00bb\u041f\u043e\u0437\u043d\u0430\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043c\u0438\u043d\u0443\u0442\u043a\u0430CLAUDE.md \u0447\u0438\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e Claude Code. Codex \u0447\u0438\u0442\u0430\u0435\u0442 AGENTS.md, \u0430 Gemini \u0447\u0438\u0442\u0430\u0435\u0442 GEMINI.md. \u0415\u0441\u043b\u0438 \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435, \u0447\u0442\u043e\u0431\u044b \u0432\u0441\u0435 \u0442\u0440\u0438 \u0430\u0433\u0435\u043d\u0442\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 \u0432\u0430\u0448\u0438\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0435\u043c, \u0442\u043e \u0443 \u0432\u0430\u0441 \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u0432\u0441\u0435 3 \u0444\u0430\u0439\u043b\u0430. \u0418 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0438\u0445 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439\u0423 \u043c\u0435\u043d\u044f \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 CLAUDE.md \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u043a\u0430\u043a \u043a\u0430\u0440\u0442\u0430 \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0430 \u043d\u0435 \u043a\u0430\u043a \u0441\u043f\u0440\u0430\u0432\u043e\u0447\u043d\u0438\u043a. \u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043a\u0435\u043b\u0435\u0442:# \u041f\u0440\u043e\u0435\u043a\u0442: &lt;\u043e\u0434\u043d\u0430&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-477511","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/477511","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=477511"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/477511\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=477511"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=477511"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=477511"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}