{"id":481145,"date":"2026-05-26T16:46:53","date_gmt":"2026-05-26T16:46:53","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=481145"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=481145","title":{"rendered":"\u041a\u0430\u043a \u044f \u043e\u043f\u043e\u0437\u0434\u0430\u043b \u043d\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441 OpenAi \u0441 \u043d\u043e\u0432\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412 \u0430\u043f\u0440\u0435\u043b\u0435 OpenAi \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441 <a href=\"https:\/\/github.com\/openai\/parameter-golf\" rel=\"noopener noreferrer nofollow\">Parameter Golf<\/a> \u043d\u0430 \u0441\u0430\u043c\u0443\u044e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c. \u0411\u044b\u043b\u0438 \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u2014 16 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u043d\u0430 \u0432\u0435\u0441\u0430 \u0438 \u043e\u0431\u0432\u044f\u0437\u043a\u0443, 10 \u043c\u0438\u043d\u0443\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0432\u043e\u0441\u044c\u043c\u0438 H100. \u0415\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u2014 \u0441\u0430\u043c\u044b\u0439 \u043d\u0438\u0437\u043a\u0438\u0439 bpb. \u0411\u044d\u0439\u0441\u043b\u0430\u0439\u043d\u043e\u043c \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u0431\u044b\u043b \u043a\u043e\u0434 \u043e\u0442 OpenAi, \u0441\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u0435\u0433\u043e bpb \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b 1,2244, \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u044c \u0434\u043e\u0431\u0438\u043b\u0441\u044f 1.0565<\/p>\n<p>\u0418\u0434\u0435\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u043c\u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043d\u0440\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u043f\u043e \u0432\u0435\u0441\u044c\u043c\u0430 \u043f\u0440\u043e\u0437\u0430\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043f\u0440\u0438\u0447\u0438\u043d\u0430\u043c \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u0432\u0435\u0441\u043e\u0432 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043c\u043e\u0435\u0439 \u0441\u0442\u0430\u0440\u0435\u043d\u044c\u043a\u043e\u0439 Geforce 1660 \u0441 \u0448\u0435\u0441\u0442\u044c\u044e \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438 \u043d\u0430 \u0431\u043e\u0440\u0442\u0443, \u0430 \u0447\u0451\u0442\u043a\u0430\u044f \u0446\u0435\u043b\u044c \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b\u0430 \u043b\u0435\u0433\u043a\u043e \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0441\u0440\u0435\u0434\u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043e\u0432.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0431\u0437\u043e\u0440 \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u0435\u0439 \u0438 \u043c\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<h4>\u041a\u0442\u043e \u0441 \u0447\u0435\u043c \u043f\u0440\u0438\u0448\u0451\u043b \u043d\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441<\/h4>\n<p>\u0426\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c bpb (bits per byte) \u0445\u043e\u0440\u043e\u0448 \u0442\u0435\u043c, \u0447\u0442\u043e \u043e\u043d \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u0438\u0432\u0435\u043d. \u041c\u0438\u043a\u0440\u043e\u0441\u0435\u0442\u0438 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e \u043d\u0435\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u043a \u0443\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044e \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u043a\u0438 \u0432 \u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u044b \u043f\u0440\u0438\u0432\u044b\u043a\u043b\u0438 \u043f\u0440\u0438 \u043e\u0431\u0449\u0435\u043d\u0438\u0438 \u0441 LLM, \u043d\u043e \u044d\u0442\u043e\u0442 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442, \u043a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0447\u0435\u0440\u0435\u0437 \u0432\u044b\u0443\u0447\u0438\u0432\u0430\u043d\u0438\u0435 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0433\u0440\u0430\u043c\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432.\u00a0<\/p>\n<p>\u0421\u0440\u0430\u0437\u0443 \u043f\u043e\u044f\u0441\u043d\u044e, \u0447\u0442\u043e \u0432 \u043f\u0435\u0440\u0435\u0447\u0435\u043d\u044c \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u0435\u0439 \u043f\u043e\u043f\u0430\u0434\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435, \u043a\u0442\u043e \u0443\u043b\u0443\u0447\u0448\u0438\u043b \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 bpb \u043d\u0430 0,005.\u00a0<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u0432\u0442\u0438\u0441\u043d\u0443\u0442\u044c\u0441\u044f \u0432 16 \u041c\u0411 \u0438 \u0432\u044b\u0436\u0430\u0442\u044c bpb 1.05, \u043f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0435 \u0447\u0438\u0441\u043b\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u043e\u0432 \u043f\u043e\u0448\u043b\u0438 \u043f\u0443\u0442\u0435\u043c \u0436\u0451\u0441\u0442\u043a\u043e\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438: 2-\u0431\u0438\u0442\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 (\u0440\u0430\u0437\u0440\u0443\u0448\u0430\u044e\u0449\u0435\u0435 \u043b\u043e\u0433\u0438\u043a\u0443), \u0445\u0430\u0440\u0434\u043a\u043e\u0434\u043d\u044b\u0435 N-\u0433\u0440\u0430\u043c\u043c\u044b \u0438\u0437 90-\u0445, \u043a\u043e\u0441\u0442\u044b\u043b\u0438 \u0434\u043b\u044f \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u043e\u0432 (CaseOps) \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043b\u0435\u0442\u0443 (TTT). \u0417\u0430\u0434\u0430\u0447\u0430 \u2014 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f bpb \u043d\u0430 \u0441\u0442\u0430\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u0445.<\/p>\n<p>\u041c\u043e\u044f \u0446\u0435\u043b\u044c \u0431\u044b\u043b\u0430 \u0434\u0440\u0443\u0433\u043e\u0439: \u044f \u0445\u043e\u0442\u0435\u043b \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f, \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0433\u043e, \u043d\u043e \u0447\u0435\u0440\u0435\u0437 \u0447\u0438\u0441\u0442\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u0443\u044e \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044e, \u0431\u0435\u0437 \u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0432\u044b\u0445 \u043a\u043e\u0441\u0442\u044b\u043b\u0435\u0439 \u0438 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043c\u0430\u0445\u0438\u043d\u0430\u0446\u0438\u0439. \u041f\u043e \u0441\u0443\u0442\u0438, \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430 \u0441\u0447\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0439 \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0438. \u0412 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435, \u043c\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 bpb 1.075 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043e\u043a \u043a \u0440\u0435\u043a\u043e\u0440\u0434\u043d\u043e\u043c\u0443.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>\u2116<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\"><strong>Run (\u041a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\"><strong>BPB \u0421\u043a\u043e\u0440<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\"><strong>\u0410\u0432\u0442\u043e\u0440<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0414\u0435\u0442\u0430\u043b\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u0432<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">1<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">Calib32 Token-Only N-gram + AsymLogit Stack<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0565<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">codemath3000<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2135. \u041f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438\u0437 PR 2130 \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0445 \u043a\u0430\u043d\u043e\u043d\u0438\u0447\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 CaseOps \u0441 \u0431\u0430\u0442\u0447\u0435\u043c \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043a\u0438 GPTQ_CALIBRATION_BATCHES=32. \u0423\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05651 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043b\u044c\u0433\u043e\u0442\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0438\u043e\u0434\u0430. \u0423\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 p=0.014 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 PR 2014.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">Progressive Context Growth + Short-Doc Score-First TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0576<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">simonbissonnette<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2014. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d \u0441\u0442\u0435\u043a CaseOps (PR 1855 \/ 1953) \u0441 \u043f\u0440\u043e\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u044b\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0434\u043e 3k \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0412\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044e \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 (TTT) \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u043c \u0434\u043b\u044f \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0412 \u043e\u0441\u043d\u043e\u0432\u0435 \u0432\u0435\u0442\u043a\u0430 AWQ-lite \/ AsymLogit. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05759.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">3<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">Long-Context No-Q\/V TTT + QK-Gain 5.25<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0586<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">andrewbaggio1<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1953 (\u0431\u0430\u0437\u0430 V21 \u0438\u0437 1945). \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 (2560) \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0438 TTT. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0430 \u043c\u0430\u0441\u043a\u0430 TTT \u0431\u0435\u0437 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f Q\/V \u0432\u0435\u0441\u043e\u0432 (no-Q\/V), learning rate \u0434\u043b\u044f TTT = 0.75, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f QK_GAIN=5.25. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05855.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">AWQ-Lite GPTQ + AsymLogit on PR1855 Stack<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0594<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">alertcat<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1945. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u0442\u0435\u043a PR 1855, \u0434\u043e\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u044b\u0439 \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c AWQ-lite GPTQ (PR 1908) \u0438 \u0430\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0438\u0442\u0430\u043c\u0438 AsymLogit. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c \u0434\u043b\u044f \u0431\u0430\u0437\u044b V21 v2: 1.05943 \u043f\u043e\u0441\u043b\u0435 \u0441\u0442\u0440\u043e\u0433\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441 seed=42.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">BOS-Fixed SmearGate + LQER + SparseAttnGate + 9-Hparam Stack<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0611<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">codemath3000<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1855. \u0421\u0442\u0435\u043a \u0441 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0433\u0440\u0430\u043d\u0438\u0446\u0430\u043c\u0438 BOS (\u043d\u0430\u0447\u0430\u043b\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438), \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b LQER \u0438 \u0431\u0430\u0437\u0430 SparseAttnGate \/ PolarNS \/ FusedCE. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u043e \u043f\u043e\u0433\u0440\u0443\u043f\u043f\u043e\u0432\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 lrzip \u0438 \u0436\u0430\u0434\u043d\u043e\u0435 \u043f\u0435\u0440\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 9 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">BOS-Fixed SmearGate + LQER Asymmetric + PR1787 SparseAttn + Phased TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0614<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">aquariouseworkman<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1851. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d \u0444\u0438\u043a\u0441 \u0433\u0440\u0430\u043d\u0438\u0446 BOS \u043a \u0441\u0442\u0435\u043a\u0443 SmearGate + LQER. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0431\u0430\u0437\u0430 SparseAttnGate \/ PolarNS \/ FusedCE, \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f CaseOps \u0438 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 TTT \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u043c (phased score-first TTT).<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">PR1736 + PolarNS + MIN_LR + SparseAttnGate + FusedCE + Warm-A TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0634<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">nprime06<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1787. \u0421\u0442\u0435\u043a CaseOps, \u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b: \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b Newton-Schulz (PolarNS), MIN_LR=0.1, SparseAttnGate, \u0444\u044c\u044e\u0437\u0434-\u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0441 \u0441\u043e\u0444\u0442\u043a\u0430\u043f\u043f\u0438\u043d\u0433\u043e\u043c (fused softcapped CE) \u0438 TTT \u0441 \u0442\u0435\u043f\u043b\u044b\u043c \u0441\u0442\u0430\u0440\u0442\u043e\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u044b A (warm-start-A).<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">8<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">CaseOps + MLPClip12 + SmearGate\/LoRA-TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0645<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">dexhunter<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1769. \u0421\u0442\u0435\u043a CaseOps \u0441 \u0434\u043e\u0440\u0430\u0431\u043e\u0442\u043a\u0430\u043c\u0438 SmearGate \u0438 \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u0435\u0439 LoRA-TTT, \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 MLPClip12. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 5 \u0441\u0438\u0434\u0430\u043c \u0441\u0434\u0432\u0438\u0433\u0430\u0435\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 (frontier) CaseOps.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">9<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">SP8192 + CaseOps + GatedAttn + QuantGate + Loop45 + Phased TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0655<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">dexhunter<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1736. \u0412\u043d\u0435\u0434\u0440\u0435\u043d\u043e \u0431\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 CaseOps \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c \u0441 \u0443\u0447\u0435\u0442\u043e\u043c BPB \u0447\u0435\u0440\u0435\u0437 \u0431\u0430\u0439\u0442\u043e\u0432\u044b\u0435 \u0441\u0430\u0439\u0434\u043a\u0430\u0440-\u0444\u0430\u0439\u043b\u044b (byte-sidecar). \u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b \u0433\u0435\u0439\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 (GatedAttn) \u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043a\u0432\u0430\u043d\u0442-\u0433\u0435\u0439\u0442\u043e\u0432 \u043f\u043e\u0432\u0435\u0440\u0445 \u0441\u0442\u0435\u043a\u0430 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e TTT.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">10<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">CaseOps Tokenizer + Tapered WD + Phased TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0678<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">romeerp<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1729. \u0411\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430 (CaseOps) \u0441 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 \u0431\u0430\u0439\u0442\u043e\u0432\u044b\u043c\u0438 \u0441\u0430\u0439\u0434\u043a\u0430\u0440\u0430\u043c\u0438, \u043f\u043b\u044e\u0441 \u043c\u044f\u0433\u043a\u043e\u0435 \u043f\u043e\u0437\u0434\u043d\u0435\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 weight-decay (taper) \u0434\u043b\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430 Muon \u043d\u0430 \u043b\u0435\u0433\u0430\u043b\u044c\u043d\u043e\u043c \u0441\u0442\u0435\u043a\u0435 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e TTT.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">11<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">SmearGate + Attention Output Gate + Legal TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0714<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">MarioPaerle<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1667. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b: SmearGate, \u0433\u0435\u0439\u0442 \u0432\u044b\u0445\u043e\u0434\u0430 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0430 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (attention output gate), \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u043e \u0433\u043b\u0443\u0431\u0438\u043d\u0435 (depth recurrence), \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0435 \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0435 \u0441\u0432\u044f\u0437\u0438, QK-Gain=5.25, \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 score-first TTT.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">12<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">VarLen Attention + Fused MLP + Multi-Phase Global SGD TTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0719<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">dexhunter<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1626. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b: \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u043e\u0439 (VarLen Attention), fused MLP, \u043c\u043d\u043e\u0433\u043e\u0444\u0430\u0437\u043d\u044b\u0439 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 SGD \u0434\u043b\u044f TTT, \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u0439 (trimmed) GPTQ, MLR 0.026, int7 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0430\u0434\u0430\u043f\u0442\u0438\u0432\u043d\u044b\u0439 \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">13<\/p>\n<\/td>\n<td data-colwidth=\"144\" width=\"144\">\n<p align=\"left\">VarLenAttn + PhasingTTT<\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\">1.0728<\/p>\n<\/td>\n<td data-colwidth=\"71\" width=\"71\">\n<p align=\"left\">romeerp<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1610. \u0421\u0442\u0435\u043a \u0432 \u0441\u0442\u0438\u043b\u0435 PR 1530 (\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u044b + fused MLP), \u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 TTT \u043f\u043e\u0432\u0435\u0440\u0445 \u0443\u0436\u0435 \u043e\u0442\u0441\u043a\u043e\u0440\u0435\u043d\u043d\u044b\u0445 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>(\u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0442\u043e\u043f\u0430 \u0441 \u0441\u0430\u0439\u0442\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430)<\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u044f \u0443\u0432\u0438\u0434\u0435\u043b \u043f\u0435\u0440\u0432\u044b\u0435 \u0440\u0435\u043a\u043e\u0440\u0434\u044b \u0441 bpb \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0435\u0449\u0451 1,21 \u2014 1,22, \u0442\u043e \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0438\u0441\u043f\u0443\u0433\u0430\u043b\u0441\u044f. \u041b\u044e\u0434\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438 \u043e\u0431\u044a\u0435\u043c\u043e\u043c \u0431\u043e\u043b\u0435\u0435 100 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u044f \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u0434\u0430\u0436\u0435 \u0431\u044b \u043d\u0435 \u0441\u043c\u043e\u0433\u043b\u0430 \u043f\u043e\u0448\u0435\u0432\u0435\u043b\u0438\u0442\u044c), \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0438 \u0436\u0435\u0441\u0442\u043e\u0447\u0430\u0439\u0448\u0435\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435, \u0438 \u0447\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435, \u0442\u0435\u043c \u0445\u0443\u0436\u0435. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u044f, \u0447\u0435\u0441\u0442\u043d\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u0438 \u043d\u0435 \u0441\u043b\u044b\u0448\u0430\u043b.<\/p>\n<p>\u0412\u043e\u0442 \u0441\u0430\u043c\u043c\u0430\u0440\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438, \u0436\u0435\u043b\u0430\u044e\u0449\u0438\u0435 \u043c\u043e\u0433\u0443\u0442 \u0438\u0437\u0443\u0447\u0438\u0442\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e:<\/p>\n<ol>\n<li>\n<p>Test-Time Training (TTT) \u0438 \u0435\u0433\u043e \u043c\u0443\u0442\u0430\u0446\u0438\u0438: \u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u044f\u043c\u043e \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u0435. \u0423\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 Score-First TTT (\u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u043c, \u043f\u043e\u0442\u043e\u043c \u0443\u0447\u0438\u043c), Phased TTT (\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0444\u0430\u0437\u0430\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430), LoRA-TTT \u0438 \u044d\u043a\u0437\u043e\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u0438\u043a\u0441\u044b \u0432\u0440\u043e\u0434\u0435 Warm-A (\u0442\u0435\u043f\u043b\u044b\u0439 \u0441\u0442\u0430\u0440\u0442 \u043c\u0430\u0442\u0440\u0438\u0446) \u0438\u043b\u0438 \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u043a\u0443 Q\/V \u043c\u0430\u0442\u0440\u0438\u0446 \u0432\u043e \u0432\u0440\u0435\u043c\u044f TTT (No-Q\/V).<\/p>\n<\/li>\n<li>\n<p>\u0410\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u044f: AWQ-lite, GPTQ (\u0441 \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u043c\u0438 \u0431\u0430\u0442\u0447\u0430\u043c\u0438), int7 \u0434\u043b\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438 \u043f\u043e\u0433\u0440\u0443\u043f\u043f\u043e\u0432\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 lrzip.<\/p>\n<\/li>\n<li>\n<p>\u041c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f: \u041e\u0442\u043a\u0430\u0437 \u043e\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e Attention \u0432 \u043f\u043e\u043b\u044c\u0437\u0443 SparseAttnGate, \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u043e\u0439 (VarLen Attention), \u0433\u0435\u0439\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (Attention Output Gate) \u0438 \u043f\u043e\u0434\u0433\u043e\u043d\u043a\u0438 QK-Gain \u0434\u043b\u044f \u0441\u0442\u0430\u0431\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438 softmax-\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0431\u043e\u0442\u0430 \u0441 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430\u043c\u0438 \u0438 \u043b\u043e\u0433\u0438\u0442\u0430\u043c\u0438: \u0412\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 CaseOps (\u0431\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430 \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u0438 \u0431\u0430\u0439\u0442\u043e\u0432\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438) \u0438 AsymLogit (\u0430\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u043b\u043e\u0433\u0438\u0442\u044b).<\/p>\n<\/li>\n<li>\n<p>\u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0438 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u044f: PolarNS (\u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432 \u041d\u044c\u044e\u0442\u043e\u043d\u0430-\u0428\u0443\u043b\u044c\u0446\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0433\u043e LayerNorm), \u0444\u044c\u044e\u0437\u0434 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0441 \u043c\u044f\u0433\u043a\u0438\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u044b\u0431\u0440\u043e\u0441\u043e\u0432 (softcapped CE), \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435\u043c \u0432\u0435\u0441\u043e\u0432 (tapered WD \u0434\u043b\u044f Muon) \u0438 \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 MLP (MLPClip12).<\/p>\n<\/li>\n<\/ol>\n<p>\u041d\u0430\u0434\u043e \u043e\u0442\u0434\u0430\u0442\u044c \u0434\u043e\u043b\u0436\u043d\u043e\u0435 OpenAi, \u043f\u043e\u043d\u0438\u043c\u0430\u044f, \u0447\u0442\u043e \u0432\u0435\u0441\u044c \u0442\u043e\u043f \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0431\u0438\u0442 \u0445\u0430\u0440\u0434\u043a\u043e\u0440\u043d\u044b\u043c\u0438 ml-\u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430\u043c\u0438, \u0436\u0438\u0432\u0443\u0449\u0438\u043c\u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0435\u0439, \u0431\u044b\u043b \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0441\u0442\u0435\u043a \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440. OpenAi \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0430 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u043a\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0445\u0443\u0436\u0435 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430, \u0438\u043b\u0438 \u043d\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u043f\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u043c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438, \u043d\u043e \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439. \u042f \u0431\u043e\u043b\u044c\u0448\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>\u2116<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\"><strong>Run (\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\"><strong>BPB \u0421\u043a\u043e\u0440<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\"><strong>\u0410\u0432\u0442\u043e\u0440<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0414\u0435\u0442\u0430\u043b\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u0432<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">1<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">1 Bit Quantization<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1239<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">CiprianFlorin-Ifrim<\/p>\n<\/td>\n<td>\n<p align=\"left\">106 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0434\u043e 1 \u0431\u0438\u0442\u0430, \u043f\u043b\u044e\u0441 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0438 2 \u0447\u0430\u0441\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">MDLM Text Diffusion<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1465<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">agalimova<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1106. \u041c\u0430\u0441\u043a\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u0430\u044f \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (MDLM) \u0441 \u043e\u0446\u0435\u043d\u043a\u043e\u0439 \u0432 \u0441\u0442\u0438\u043b\u0435 ELBO \u0447\u0435\u0440\u0435\u0437 \u043f\u043e\u0433\u043b\u043e\u0449\u0430\u044e\u0449\u0443\u044e \u043c\u0430\u0441\u043a\u0443. \u041f\u0440\u043e\u0432\u0430\u043b\u0438\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u043d\u0430 \u0434\u0432\u0443\u0445 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u0435\u043b\u044f\u0445 H100 \u043a\u0430\u043a \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u0430\u044f \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">3<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">Hymba-8L + Sliding Attention at 32K<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1467<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">mkenney2<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1245. \u0413\u0438\u0431\u0440\u0438\u0434\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 Mamba SSM \u0441\u043e \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u043c \u043e\u043a\u043d\u043e\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043d\u0430 32 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0423\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c, \u0440\u0430\u0437\u043c\u0435\u0440 \u043c\u0435\u043d\u0435\u0435 16 \u041c\u0411, \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044f score-first TTT.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">Mamba-3 Hybrid SSM + SP8192 + Legal TTT<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1473<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">mradassaad<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1644. 7-\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c Mamba-3: 5 \u0431\u043b\u043e\u043a\u043e\u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (SSM) \u0438 2 \u0441\u043b\u043e\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b SP8192, AR GPTQ, \u0447\u0430\u043d\u043a\u043e\u0432\u044b\u0439 score-first TTT \u0438 \u043e\u0446\u0435\u043d\u043a\u0430 \u0441 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (stateful-overlap eval).<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">Differential-Gated Attention<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1898<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">ddavidgao<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 542. \u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, \u043f\u0435\u0440\u0435\u0434\u0430\u044e\u0449\u0438\u0439 \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u043f\u043e\u043b\u0435\u0437\u043d\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 (\u0430\u043a\u0446\u0435\u043d\u0442 \u043d\u0430 \u043d\u043e\u0432\u0438\u0437\u043d\u0443) \u0432 \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0445 \u0441\u043b\u043e\u044f\u0445. \u0412\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0437 \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438, \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0435\u0439 \u043e\u0442 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441\u0435\u0442\u0438.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">Learned Adapters on Random Linear Maps<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.1971<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">pranavxiyer<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2058. \u041f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u044b-\u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0441\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0441\u0438\u0434\u0430\u043c\u0438 \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u043c\u0438 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430\u043c\u0438 \u0432 \u0441\u0442\u0438\u043b\u0435 LoRA \u0440\u0430\u043d\u0433\u0430 160. 12 \u0441\u043b\u043e\u0435\u0432, \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044c MLP 3x, \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u0430\u044f \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u044f int6\/int8. \u041f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u043e \u043d\u0430 3 \u0441\u0438\u0434\u0430\u0445 \u0441 10-\u043c\u0438\u043d\u0443\u0442\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0430\u043c\u0438.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7<\/p>\n<\/td>\n<td data-colwidth=\"115\" width=\"115\">\n<p align=\"left\">JEPA + Mamba2 LeWorldModel<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">1.2064<\/p>\n<\/td>\n<td data-colwidth=\"86\" width=\"86\">\n<p align=\"left\">CiprianFlorin-Ifrim<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 \u0431\u0430\u0437\u0435 PR 903. \u0410\u043c\u0431\u0438\u0446\u0438\u043e\u0437\u043d\u0430\u044f \u0437\u0430\u044f\u0432\u043a\u0430, \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 SSM \u0438 JEPA \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (latent-prediction). \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u0441 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430\u043c\u0438 \u0434\u043e\u043b\u0433\u0438\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0438 10-\u043c\u0438\u043d\u0443\u0442\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0430\u043c\u0438.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>(\u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0442\u043e\u043f\u0430 \u0441 \u0441\u0430\u0439\u0442\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430)<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 1,12, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0445\u0443\u0436\u0435 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u0433\u043e \u0442\u043e\u043f\u0430. \u0412\u043f\u0440\u043e\u0447\u0435\u043c, \u043f\u043e \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c\u0443 \u043e\u043f\u044b\u0442\u0443 \u0441\u043a\u0430\u0436\u0443, \u0437\u0434\u0435\u0441\u044c \u0432\u0438\u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440, \u0430 \u0440\u0430\u0437\u043d\u0438\u0446\u044b \u0432 \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u0445. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043f\u043b\u043e\u0445\u043e \u0438\u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0445 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u0445, \u0430 \u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0440\u043e\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b \u043d\u0438 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043d\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e.<\/p>\n<p>\u0421\u0430\u043c\u043c\u0430\u0440\u0438 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432:<\/p>\n<ol>\n<li>\n<p>\u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u044b \u0422\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0443 (SSM \u0438 \u0413\u0438\u0431\u0440\u0438\u0434\u044b): \u0421\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u043e\u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u044e\u0442 \u0441 Mamba (State Space Models). \u041f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0435 \u0441\u0431\u043e\u0440\u043a\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, 5 \u0441\u043b\u043e\u0435\u0432 SSM + 2 \u0441\u043b\u043e\u044f Attention), \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0434\u043b\u0438\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 (\u0434\u043e 32\u041a \u0442\u043e\u043a\u0435\u043d\u043e\u0432), \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043a \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u0444\u043e\u043a\u0443\u0441\u0443 \u0447\u0435\u0440\u0435\u0437 \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0435\u0435 \u043e\u043a\u043d\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0422\u0435\u043a\u0441\u0442\u043e\u0432\u0430\u044f \u0414\u0438\u0444\u0444\u0443\u0437\u0438\u044f: \u041f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0443\u0441\u043f\u0435\u0445 \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438\u0437 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0432 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0442\u0435\u043a\u0441\u0442\u0430. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u0430\u044f \u043c\u0430\u0441\u043a\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u044f (MDLM) \u0432\u043c\u0435\u0441\u0442\u043e \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0430\u0432\u0442\u043e\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041f\u0440\u0435\u0434\u0438\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u041c\u0438\u0440\u043e\u0432\u044b\u0435 \u041c\u043e\u0434\u0435\u043b\u0438 (World Models): \u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u0441 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 JEPA \u043e\u0442 \u042f\u043d\u0430 \u041b\u0435\u043a\u0443\u043d\u0430, \u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u043d\u043e\u0439 \u0441 Mamba2. \u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0434\u0435\u0442 \u043d\u0435 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (\u043f\u0438\u043a\u0441\u0435\u043b\u0435\u0439), \u0430 \u043d\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0438 \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u0445 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<li>\n<p>\u042d\u043a\u0441\u0442\u0440\u0435\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435: \u0420\u0430\u0434\u0438\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u0434\u043e 1 \u0431\u0438\u0442\u0430 (\u0431\u0438\u043d\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u0432\u0435\u0441\u043e\u0432). \u041d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0441\u0435\u0440\u044c\u0435\u0437\u043d\u0443\u044e \u043f\u043e\u0442\u0435\u0440\u044e \u0432 \u0441\u043a\u043e\u0440\u0435 (1.12), \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0451 \u0435\u0449\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u044b\u0441\u043e\u043a\u0443\u044e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432 LLM.<\/p>\n<\/li>\n<li>\n<p>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0438\u043d\u044a\u0435\u043a\u0446\u0438\u0438 \u0440\u0430\u043d\u0434\u043e\u043c\u0430 \u0438 LoRA: \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u0430\u0437\u0438\u0441\u0430, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0438\u0437\u043a\u043e\u0440\u0430\u043d\u0433\u043e\u0432\u044b\u0435 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b (LoRA) \u0434\u043b\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0438 \u043f\u0430\u043c\u044f\u0442\u0438, \u043f\u043b\u044e\u0441 \u0438\u043d\u044a\u0435\u043a\u0446\u0438\u044f \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0433\u0435\u0439\u0442\u043e\u0432 \u0432\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0447\u0442\u043e\u0431\u044b \u0441\u043b\u043e\u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u043e\u0432\u0443\u044e, \u0430 \u043d\u0435 \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e.<\/p>\n<\/li>\n<\/ol>\n<h4>\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u043b \u044f<\/h4>\n<p>\u0421 \u0443\u0447\u0435\u0442\u043e\u043c \u043c\u043e\u0438\u0445 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439, \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0441 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u043e\u0439 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043d\u0435 \u0431\u044b\u043b\u043e. \u0411\u043e\u043b\u0435\u0435 \u0442\u043e\u0433\u043e, \u0441\u043e\u0440\u0435\u0432\u043d\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430\u043c\u0438 \u043d\u0430 \u0438\u0445 \u043f\u043e\u043b\u0435 \u0441\u043c\u044b\u0441\u043b\u0430 \u043d\u0435 \u0431\u044b\u043b\u043e \u0438 \u043d\u0435\u0442. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0439 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u0431\u044b\u043b\u0430 \u0441\u0435\u0442\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0432\u043b\u0435\u0437\u0430\u043b\u0430 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u043c\u043e\u044e \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0443.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u043c\u043e\u0433\u043b\u043e \u0431\u044b \u0431\u044b\u0442\u044c \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 150 \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0435\u0440\u0441\u0438\u0439 \u043a\u043e\u0434\u043e\u0432, \u0433\u0438\u043f\u043e\u0442\u0435\u0437, \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0439, \u0437\u0430\u0432\u0438\u0441\u0430\u043d\u0438\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0430, \u043f\u0435\u0440\u0435\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043e\u043a \u043d\u0435 \u0432\u044b\u0434\u0435\u0440\u0436\u0430\u0432\u0448\u0435\u0433\u043e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435. \u041d\u043e \u044d\u0442\u043e \u0441\u043a\u0443\u0447\u043d\u043e.<\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0434\u043e\u043b\u0433\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0435\u0440\u0441\u0438\u0439 \u0441\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u043d\u043e \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435, \u043f\u0440\u043e\u0441\u0442\u043e \u043a \u043e\u043a\u043e\u043d\u0447\u0430\u043d\u0438\u044e \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u043d\u0435 \u0431\u044b\u043b\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0445 \u0438\u0434\u0435\u0439. \u041f\u043e\u044d\u0442\u043e\u043c\u0443, \u043a\u043e\u0433\u0434\u0430 30 \u0430\u043f\u0440\u0435\u043b\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0441 \u043a\u043e\u043d\u0447\u0438\u043b\u0441\u044f, \u044f \u043d\u0435 \u0440\u0430\u0441\u0441\u0442\u0440\u043e\u0438\u043b\u0441\u044f, \u0430 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u043b \u0438\u0437\u044b\u0441\u043a\u0430\u043d\u0438\u044f \u0434\u0430\u043b\u044c\u0448\u0435, \u0443\u0436\u0435 \u0432 \u0441\u0432\u043e\u0451\u043c \u0440\u0438\u0442\u043c\u0435, \u043d\u0435 \u0442\u043e\u0440\u043e\u043f\u044f\u0441\u044c.\u00a0<\/p>\n<p>\u0412 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u043a\u043e\u0434 \u0441 bpb \u043e\u043a\u043e\u043b\u043e 1.075, accuracy (10) \u2014 88.8%. \u0421\u043b\u043e\u0432\u0430\u0440\u044c 1024 \u0442\u043e\u043a\u0435\u043d\u0430, \u0434\u0430\u0442\u0430\u0441\u0435\u0442 Fineweb. \u0421\u0435\u0442\u044c \u043e\u043a\u043e\u043b\u043e 17 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u0420\u0430\u0437\u043c\u0435\u0440 \u0432\u0435\u0441\u043e\u0432 \u0434\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f 66 \u043c\u0431, \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u044f \u0432 \u0441\u0432\u044f\u0437\u0438 \u0441 \u043e\u043a\u043e\u043d\u0447\u0430\u043d\u0438\u0435\u043c \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u0437\u0430\u043c\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0441\u0442\u0430\u043b. \u0414\u043b\u044f \u043c\u0435\u043d\u044f \u0443\u0436\u0435 \u0431\u044b\u043b \u0432\u0430\u0436\u0435\u043d \u0442\u043e\u043b\u044c\u043a\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0434\u0430\u0436\u0435 \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0442\u0435\u0440\u044c \u043f\u043e\u0441\u043b\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438, \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0443\u0434\u0438\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u043c \u0442\u043e\u043f\u0435, \u0438 \u043b\u0443\u0447\u0448\u0438\u043c \u0432 \u0442\u043e\u043f\u0435 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440.\u00a0<\/p>\n<p>\u0418\u0442\u0430\u043a, \u043a\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430:<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e4b\/9e1\/88c\/e4b9e188c1a3f026b21edbeff117f9d0.png\" width=\"2048\" height=\"1117\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/e4b\/9e1\/88c\/e4b9e188c1a3f026b21edbeff117f9d0.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e4b\/9e1\/88c\/e4b9e188c1a3f026b21edbeff117f9d0.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041f\u043e \u0441\u0443\u0442\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u044d\u0442\u043e \u0433\u0438\u0431\u0440\u0438\u0434\u0438\u0437\u0430\u0446\u0438\u044f \u0434\u043e\u0441\u0442\u043e\u0438\u043d\u0441\u0442\u0432 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0438 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0430. \u042f \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u043b \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043d\u0430 \u0442\u0440\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430.\u00a0<\/p>\n<ol>\n<li>\n<p>\u0421\u0435\u043d\u0441\u043e\u0440\u043d\u044b\u0439 \u0431\u043b\u043e\u043a (Sensor) \u2014 \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440, \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430 \u0431\u0430\u0437\u043e\u0432\u0443\u044e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0438 \u043f\u0435\u0440\u0432\u0438\u0447\u043d\u0430\u044f \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430<\/p>\n<\/li>\n<li>\n<p>\u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u043c\u043e\u0434\u0443\u043b\u044f\u0442\u043e\u0440 (Cortex) \u2014 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u0438 \u0443\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u043e\u043b\u0433\u043e\u0441\u0440\u043e\u0447\u043d\u044b\u0435 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b<\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0442\u043e\u0440\u043d\u044b\u0439 \u0431\u043b\u043e\u043a (Motor) \u2014 \u0442\u0440\u0435\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440, \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 \u0432\u044b\u0445\u043e\u0434\u044b \u043f\u0435\u0440\u0432\u044b\u0445 \u0434\u0432\u0443\u0445 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u043b\u043e\u0433\u0438\u0442\u044b.<\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043f\u043e\u0434 \u0441\u043f\u043e\u0439\u043b\u0435\u0440\u043e\u043c:<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043a\u0440\u044b\u0442\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/summary>\n<div class=\"spoiler__content\">\n<h4>1. \u041a\u043e\u043d\u0442\u0443\u0440 \u0441\u0435\u043d\u0441\u043e\u0440\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 (SENSOR)<\/h4>\n<p>\u041e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442 \u043f\u0435\u0440\u0432\u0438\u0447\u043d\u043e\u0435 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, SEQ_LEN].<\/p>\n<ul>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 Embed: \u0421\u043b\u043e\u0439 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 D_MODEL = 512, \u0441\u043e\u0432\u043c\u0435\u0449\u0435\u043d\u043d\u044b\u0439 \u0441 \u0430\u0434\u0434\u0438\u0442\u0438\u0432\u043d\u044b\u043c \u043d\u0430\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u0445 \u043f\u043e\u0437\u0438\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 Transformer Front (TF): 2-\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u0431\u043b\u043e\u043a Transformer Encoder. \u041f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u044b \u043c\u043d\u043e\u0433\u043e\u0433\u043e\u043b\u043e\u0432\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (Multi-Head Self-Attention) \u0438 \u043f\u043e\u043b\u043d\u043e\u0441\u0432\u044f\u0437\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 (FeedForward) \u0441 \u043a\u0430\u0443\u0437\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0441\u043a\u043e\u0439, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0449\u0435\u0439 \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0442\u043e\u043a\u0435\u043d\u0430\u043c \u0438\u0437 \u0431\u0443\u0434\u0443\u0449\u0435\u0433\u043e. \u041d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442 \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0439 \u0442\u0435\u043d\u0437\u043e\u0440 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 mid_l2_seq \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, 64, 512].<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 FrontHead: \u0418\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u0433\u043e\u043b\u043e\u0432\u0430, \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0449\u0430\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e \u0441\u0442\u043e\u0445\u0430\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u0441\u0435\u043d\u0441\u043e\u0440\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 \u0431\u0435\u0437 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u043d\u0438\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u043d\u0430\u0437\u0430\u0434 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 <a href=\"http:\/\/torch.no\" rel=\"noopener noreferrer nofollow\">torch.no<\/a>_grad. \u0418\u0437 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0438\u0437\u0432\u043b\u0435\u043a\u0430\u044e\u0442\u0441\u044f \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0428\u0435\u043d\u043d\u043e\u043d\u0430 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435:<\/p>\n<\/li>\n<\/ul>\n<p>H_norm = &#8212; sum(P_i * ln(P_i)) \/ ln(VOCAB_SIZE)<\/p>\n<p>\u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u0430 Top1. \u0414\u0430\u043d\u043d\u044b\u0435 \u0441\u043a\u0430\u043b\u044f\u0440\u044b \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u043a\u043d\u0430\u043c CHUNK_SIZE = 4 \u0438 \u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0438\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 mode_signal \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, 16, 2].<\/p>\n<h4>2. \u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u043c\u043e\u0434\u0443\u043b\u044f\u0442\u043e\u0440 (CORTEX)<\/h4>\n<p>\u041a\u043e\u043d\u0442\u0443\u0440 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u0443\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044f \u0434\u043e\u043b\u0433\u043e\u0441\u0440\u043e\u0447\u043d\u044b\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0445 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432. \u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043f\u043e\u043d\u0438\u0436\u0435\u043d\u043d\u043e\u0439 \u0447\u0430\u0441\u0442\u043e\u0442\u0435 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438.<\/p>\n<ul>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 CortexIn: \u0412\u0445\u043e\u0434\u043d\u043e\u0439 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u043c\u043e\u0441\u0442. \u041f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u0435\u043d\u0437\u043e\u0440 mid_l2_seq, \u0441\u0436\u0430\u0442\u044b\u0439 \u043f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u043e\u0441\u0438 \u043f\u0443\u0442\u0435\u043c \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430 \u0434\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, 16, 512]. \u041e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 detach \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0438\u0437\u043e\u043b\u0438\u0440\u0443\u0435\u0442 \u0432\u0435\u0441\u0430 \u0441\u0435\u043d\u0441\u043e\u0440\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 \u043e\u0442 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u0441\u0435\u0442\u0438. \u0421\u043b\u043e\u0439 \u043f\u0440\u043e\u0435\u0446\u0438\u0440\u0443\u0435\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0432 \u0432\u0435\u043a\u0442\u043e\u0440 core_input \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, 16, 128].<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 FastRNN: \u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0431\u043b\u043e\u043a GRU \u0441 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f CORE_DIM = 128. \u041f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 fast_rnn_input \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 [Batch, 16, 130], \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0438\u0439 \u0438\u0437 core_input \u0438 mode_signal. \u041e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0447\u0430\u043d\u043a\u0430 (\u043a\u0430\u0436\u0434\u044b\u0435 4 \u0442\u043e\u043a\u0435\u043d\u0430).<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 SlowRNN: \u0420\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0439 \u0431\u043b\u043e\u043a GRU \u0432\u0435\u0440\u0445\u043d\u0435\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c 128. \u041f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0432\u044b\u0445\u043e\u0434\u044b FastRNN \u0441 \u0448\u0430\u0433\u043e\u043c \u0434\u0435\u0446\u0438\u043c\u0430\u0446\u0438\u0438 SLOW_UPDATE_INTERVAL = 4. \u0424\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u0442 \u043c\u0430\u043a\u0440\u043e\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043d\u0430 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 \u0432 16 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<\/li>\n<\/ul>\n<h4>3. \u0421\u043f\u0435\u043a\u0442\u0440\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0443\u043b\u044f\u0446\u0438\u044f \u0438 \u0443\u0437\u0435\u043b \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f (\u03a3)<\/h4>\n<p>\u041c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0432\u043e\u0437\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u043d\u0430 \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a (residual stream) \u0422\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0430.<\/p>\n<ul>\n<li>\n<p>\u041a\u0430\u0443\u0437\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0434\u0432\u0438\u0433 (Causality Shift): \u0414\u043b\u044f \u043f\u0440\u0435\u0434\u043e\u0442\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0443\u0442\u0435\u0447\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 (data leakage) \u0432\u044b\u0445\u043e\u0434\u044b \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u0441\u043b\u043e\u0435\u0432 \u0441\u043c\u0435\u0449\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043d\u0430\u0437\u0430\u0434. \u041d\u0430 \u0448\u0430\u0433\u0435 t \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u0448\u0430\u0433\u0435 t-1. \u0422\u0435\u043d\u0437\u043e\u0440\u044b \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043c\u0435\u0442\u043e\u0434\u043e\u043c repeat_interleave \u0434\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u044b \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 (64 \u0442\u043e\u043a\u0435\u043d\u0430) \u0438 \u043f\u0440\u043e\u0435\u0446\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435 \u0441\u043b\u043e\u0438 bridge_fast \u0438 bridge_slow \u0432 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c 512.<\/p>\n<\/li>\n<li>\n<p>\u0423\u0437\u0435\u043b \u0441\u0438\u043d\u0442\u0435\u0437\u0430 (\u03a3): \u0412\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0430\u0434\u0434\u0438\u0442\u0438\u0432\u043d\u043e\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f mid_l2_seq. \u0410\u043c\u043f\u043b\u0438\u0442\u0443\u0434\u0430 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0432\u043e\u0437\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0440\u0435\u0433\u0443\u043b\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0432\u0435\u0441\u043e\u0432\u044b\u043c\u0438 \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u044b\u043c\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438 gate_fast \u0438 gate_slow, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0443\u043b\u044f\u043c\u0438:<\/p>\n<\/li>\n<\/ul>\n<p>modulated_mid_seq = mid_l2_seq + mod_fast <em> gate_fast + mod_slow <\/em> gate_slow<\/p>\n<h4>4. \u041c\u043e\u0442\u043e\u0440\u043d\u044b\u0439 \u0431\u043b\u043e\u043a (MOTOR) \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u044b<\/h4>\n<p>\u0424\u0438\u043d\u0435\u0437\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0443\u0440 \u0430\u0432\u0442\u043e\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0434\u0435\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0446\u0435\u043b\u0435\u0432\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043f\u043e\u0442\u0435\u0440\u044c.<\/p>\n<ul>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 Transformer Back (TB): 3-\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u0431\u043b\u043e\u043a Transformer Encoder. \u041e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043c\u043e\u0434\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a modulated_mid_seq, \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u044f \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0445 \u043f\u043e\u043f\u0440\u0430\u0432\u043e\u043a.<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 FinalHead: \u041b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 \u0432\u044b\u0445\u043e\u0434\u043e\u0432 TB \u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044f [Batch, 64, 1024]. \u0412\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0435 \u043b\u043e\u0433\u0438\u0442\u044b, \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0431\u0430\u0437\u043e\u0432\u0430\u044f \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f L_CE.<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 \u041c\u043e\u043d\u0438\u0442\u043e\u0440 \u0445\u0430\u043e\u0441\u0430 (PredH): \u041b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 motor_monitor, \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0435\u043d\u043d\u044b\u0439 \u043a \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u043d\u044b\u043c \u0432\u044b\u0445\u043e\u0434\u0430\u043c FastRNN \u0438 SlowRNN. \u0413\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438 \u043c\u043e\u0442\u043e\u0440\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 preds_H_tensor \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0423\u0437\u0435\u043b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 L_Pred: \u0412\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043e\u0448\u0438\u0431\u043a\u0443 (MSE) \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u043e\u043c preds_H_tensor \u0438 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0435\u0439 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f FinalHead, \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u043d\u043e\u0439 \u043f\u043e \u0447\u0430\u043d\u043a\u0430\u043c:<\/p>\n<\/li>\n<\/ul>\n<p>L_Pred = MSE(preds_H_tensor, real_H_chunks)<\/p>\n<p>\u042d\u0442\u043e\u0442 \u0441\u0438\u0433\u043d\u0430\u043b \u043e\u0448\u0438\u0431\u043a\u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u0438\u0441\u043a\u043b\u044e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u0435\u0441\u0430 \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0443\u0440\u0430 \u0438 \u0441\u043f\u0435\u043a\u0442\u0440\u0430\u043b\u044c\u043d\u044b\u0445 \u0432\u0440\u0430\u0442, \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u044f \u0438\u0445 \u043d\u0430 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0432 \u043c\u043e\u0442\u043e\u0440\u043d\u043e\u043c \u0431\u043b\u043e\u043a\u0435. \u041e\u0431\u0449\u0438\u0439 \u0448\u0430\u0433 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u043e \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0442\u043d\u043e\u043c\u0443 \u043b\u043e\u0441\u0441\u0443:<\/p>\n<p>L_Total = (L_CE + w_fut <em> L_Fut + w_pred <\/em> L_Pred) \/ GRAD_ACCUM_STEPS<\/p>\n<\/div>\n<\/details>\n<p>\u0415\u0441\u043b\u0438 \u0432\u044b \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u0432, \u0442\u043e \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u0443\u0432\u0438\u0434\u0438\u0442\u0435 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u044e \u0441 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0438\u043c \u043c\u043e\u0437\u0433\u043e\u043c. \u041a\u0430\u043a \u043d\u0438 \u0441\u0442\u0440\u0430\u043d\u043d\u043e, \u044d\u0442\u043e \u043d\u0435 \u0431\u044b\u043b\u043e \u0437\u0430\u0434\u0443\u043c\u0430\u043d\u043e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e, \u0430 \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043f\u043e\u0441\u043b\u0435 \u043c\u0430\u0441\u0441\u044b \u043f\u0440\u043e\u0431 \u0438 \u043e\u0448\u0438\u0431\u043e\u043a.<\/p>\n<ol>\n<li>\n<p>\u0420\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043d\u0430 SENSOR \u0438 MOTOR \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0430\u0444\u0444\u0435\u0440\u0435\u043d\u0442\u043d\u044b\u0445 (\u0432\u043e\u0441\u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0449\u0438\u0445) \u0438 \u044d\u0444\u0444\u0435\u0440\u0435\u043d\u0442\u043d\u044b\u0445 (\u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445) \u043f\u0443\u0442\u0435\u0439 \u043d\u0435\u0440\u0432\u043d\u043e\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b. \u041f\u0435\u0440\u0432\u0438\u0447\u043d\u044b\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d \u043e\u0442 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u043e\u0442\u043e\u0440\u043d\u044b\u0445 \u043a\u043e\u043c\u0430\u043d\u0434 (\u0442\u043e\u043a\u0435\u043d\u043e\u0432).<\/p>\n<\/li>\n<li>\n<p>\u0411\u043b\u043e\u043a CORTEX \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0430\u0441\u0441\u043e\u0446\u0438\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043a\u043e\u0440\u044b. \u0414\u0432\u0443\u0445\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 GRU (Fast \u0438 Slow \u043a\u043e\u043d\u0442\u0443\u0440\u044b) \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442 \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0443\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0448\u043a\u0430\u043b\u0430\u0445, \u0447\u0442\u043e \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0434\u043b\u044f \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u043e\u043b\u0433\u043e\u0441\u0440\u043e\u0447\u043d\u044b\u0445 \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439.<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043c\u0435\u043d\u0442 PredH (\u0441\u043b\u043e\u0439 motor_monitor) \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0430\u043d\u0430\u043b\u043e\u0433\u043e\u043c \u044d\u0444\u0444\u0435\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u043a\u043e\u043f\u0438\u0438 (efference copy) \u0432 \u043d\u0435\u0439\u0440\u043e\u0431\u0438\u043e\u043b\u043e\u0433\u0438\u0438. \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u0435\u0440\u0435\u0434\u0430\u0435\u0442 \u043a\u043e\u043f\u0438\u044e \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043b\u0430\u043d\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0432 \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u0443\u044e\u0449\u0438\u0439 \u043a\u043e\u043d\u0442\u0443\u0440. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0440\u0430\u0441\u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u0435\u0436\u0434\u0443 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u044b\u043c \u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u043c \u0445\u0430\u043e\u0441\u043e\u043c (\u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e) \u043c\u043e\u0442\u043e\u0440\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 \u0438 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0447\u0435\u0440\u0435\u0437 \u043e\u0448\u0438\u0431\u043a\u0443 L_Pred.<\/p>\n<\/li>\n<\/ol>\n<p>\u0411\u043e\u043b\u0435\u0435 \u0442\u043e\u0433\u043e, \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0432\u044b\u0441\u0442\u0443\u043f\u0438\u043b\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e, \u043a\u043e\u0440\u0442\u0435\u043a\u0441 \u043d\u0435 \u043e\u0431\u043e\u0433\u0430\u0449\u0430\u043b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u0435\u0442\u0438, \u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0441\u044f \u0442\u0435\u043c, \u0447\u0442\u043e \u043f\u043e\u0434\u0430\u0432\u043b\u044f\u043b \u0448\u0443\u043c \u0438 \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u044b. \u0427\u0442\u043e \u0432\u0435\u0441\u044c\u043c\u0430 \u043f\u043e\u0434\u043e\u0437\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u043f\u043e\u043c\u043d\u0438\u043b\u043e \u043c\u043d\u0435 \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u044e \u0421\u0432\u043e\u0431\u043e\u0434\u0430-\u0432\u0435\u0442\u043e \u0411\u0435\u043d\u0434\u0436\u0430\u043c\u0438\u043d\u0430 \u041b\u0438\u0431\u0435\u0442\u0430 \u2014 \u0441\u043e\u0437\u043d\u0430\u043d\u0438\u0435 \u043d\u0435 \u0441\u043e\u0437\u0434\u0430\u0435\u0442 \u0436\u0435\u043b\u0430\u043d\u0438\u044f, \u0430 \u043b\u0438\u0448\u044c \u043e\u0442\u0432\u0435\u0440\u0433\u0430\u0435\u0442 \u043d\u0435\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u044b\u0435.<\/p>\n<p>\u0410 \u044d\u0442\u043e \u0441\u0441\u044b\u043b\u043a\u0438 \u043d\u0430 <a href=\"https:\/\/github.com\/Kamilgr1\/apophatic-vortex\/blob\/main\/TriuneVortex.py\" rel=\"noopener noreferrer nofollow\">\u043a\u043e\u0434<\/a>, <a href=\"https:\/\/github.com\/Kamilgr1\/apophatic-vortex\/blob\/main\/vortex_26_4_log.txt\" rel=\"noopener noreferrer nofollow\">\u043b\u043e\u0433\u0438<\/a>, <a href=\"https:\/\/huggingface.co\/Kamilgr\/apophatic-vortex\/blob\/main\/vortex_26_4_final_step_37000.pt\" rel=\"noopener noreferrer nofollow\">\u0432\u0435\u0441\u0430<\/a>. \u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 state \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u0432\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 <a href=\"https:\/\/github.com\/Kamilgr1\/apophatic-vortex\/blob\/main\/eval.py\" rel=\"noopener noreferrer nofollow\">\u043a\u043e\u0434\u0430<\/a> \u0434\u043b\u044f \u0440\u0430\u0441\u0447\u0435\u0442\u0430 bpb.\u00a0<\/p>\n<p>\u0412 \u043f\u0435\u0440\u0441\u043f\u0435\u043a\u0442\u0438\u0432\u0435, \u044f \u043f\u043e\u043b\u0430\u0433\u0430\u044e, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u0441 \u0440\u0430\u0437\u043c\u043e\u0440\u043e\u0437\u043a\u043e\u0439 \u0432\u0435\u0441\u043e\u0432, \u0447\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0443\u043b\u0443\u0447\u0448\u0438\u0442 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0438 \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 continual learning.<\/p>\n<h4>\u0424\u0438\u043b\u043e\u0441\u043e\u0444\u0441\u043a\u0430\u044f \u0431\u0430\u0437\u0430<\/h4>\n<p>\u042d\u0442\u043e\u0442 \u0440\u0430\u0437\u0434\u0435\u043b \u043f\u043e\u043b\u0435\u0437\u0435\u043d, \u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0435\u043d. \u0427\u0438\u0442\u0430\u0442\u0435\u043b\u0438 \u043c\u043e\u0438\u0445 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439 \u0437\u043d\u0430\u044e\u0442, \u0447\u0442\u043e \u044f \u043f\u0440\u0438\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0441\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0445 \u0432\u0437\u0433\u043b\u044f\u0434\u043e\u0432 \u043d\u0430 \u0441\u043e\u0437\u043d\u0430\u043d\u0438\u0435, \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0438 \u0444\u0438\u043b\u043e\u0441\u043e\u0444\u0438\u044e \u0432 \u0446\u0435\u043b\u043e\u043c. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u044d\u0442\u043e\u0442 \u043a\u043e\u0434 \u043d\u0435 \u043e\u043f\u0438\u0440\u0430\u043b\u0441\u044f \u043d\u0430 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0443, \u0430 \u0432\u043f\u043e\u043b\u043d\u0435 \u043e\u0440\u0433\u0430\u043d\u0438\u0447\u043d\u043e \u0432\u044b\u0440\u043e\u0441 \u0438\u0437 \u043c\u043e\u0438\u0445 \u043a\u043e\u043d\u0446\u0435\u043f\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0433\u0438\u043f\u043e\u0442\u0435\u0437.<\/p>\n<p><strong>\u0412 \u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c,<\/strong> \u044d\u0442\u043e \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u044f \u0410\u043f\u043e\u0444\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0418\u0418, \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u044f \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442, \u0447\u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u043d\u0430 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0438 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0430 \u043d\u0430 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u0438 \u043e\u0448\u0438\u0431\u043e\u0447\u043d\u044b\u0445 \u0447\u0435\u0440\u0435\u0437 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0433\u0440\u0430\u043d\u0438\u0446\u044b (\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430). \u041f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 <a href=\"https:\/\/habr.com\/ru\/articles\/986162\/\" rel=\"noopener noreferrer nofollow\">\u0410\u043f\u043e\u0444\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0418\u0418<\/a>.\u00a0 \u041d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c: \u043e\u0431\u0430 gate (G_fast \u0438 G_slow) \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0443\u0448\u043b\u0438 \u0432 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b\u0439 \u043c\u0438\u043d\u0443\u0441 \u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u043b\u0438 \u0443\u0433\u043b\u0443\u0431\u043b\u044f\u0442\u044c\u0441\u044f. \u041a\u043e\u0440\u0442\u0435\u043a\u0441 \u043d\u0435 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u043b \u0441\u043c\u044b\u0441\u043b \u043a \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0430, \u0430 \u043f\u043e\u0434\u0430\u0432\u043b\u044f\u043b \u043b\u0438\u0448\u043d\u0435\u0435.<\/p>\n<p>\u041f\u043e \u0441\u0443\u0442\u0438 \u044d\u0442\u043e \u043f\u0440\u044f\u043c\u043e\u0435 \u0432\u043e\u043f\u043b\u043e\u0449\u0435\u043d\u0438\u0435 \u0430\u043f\u043e\u0444\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0430 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b. \u0421\u043c\u044b\u0441\u043b \u0440\u043e\u0436\u0434\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u0438\u0437 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u0438\u044f, \u0430 \u0438\u0437 \u043e\u0442\u0441\u0435\u0447\u0435\u043d\u0438\u044f. \u041f\u0440\u0438\u0447\u0435\u043c \u043d\u0435 \u0437\u0430\u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e, \u0430 \u043f\u043e\u044f\u0432\u0438\u0432\u0448\u0435\u0433\u043e\u0441\u044f \u044d\u043c\u0435\u0440\u0434\u0436\u0435\u043d\u0442\u043d\u043e \u0438\u0437 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b. \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0441\u043b\u043e\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u0443\u0436\u0435 \u043e\u0447\u0438\u0449\u0435\u043d\u043d\u044b\u0439 \u0441\u0438\u0433\u043d\u0430\u043b \u0438 \u0441\u0442\u0440\u043e\u044f\u0442 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435.<\/p>\n<p><strong>\u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445<\/strong>, \u044d\u0442\u043e \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u044f \u0434\u0432\u0443\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u0441\u043e\u0437\u043d\u0430\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u0443\u044e \u0442\u0430\u043a: \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0434\u0432\u0443\u0445 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u043d\u044b\u0445 \u0443\u0440\u043e\u0432\u043d\u0435\u0439. \u041f\u0435\u0440\u0432\u044b\u0439 \u2014 \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0438\u0439 \u0430\u0432\u0442\u043e\u043c\u0430\u0442, \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u0430\u0448\u0438\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u0443\u0435\u0442 \u0432\u043d\u0435\u0448\u043d\u0438\u0439 \u043c\u0438\u0440 \u0438 \u0440\u0435\u0430\u0433\u0438\u0440\u0443\u0435\u0442 \u043d\u0430 \u043d\u0435\u0433\u043e. \u0412\u0442\u043e\u0440\u043e\u0439 \u2014 \u0433\u043b\u0443\u0431\u0438\u043d\u043d\u044b\u0439 \u0441\u043b\u043e\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0432\u043d\u0435\u0448\u043d\u0435\u043c\u0443 \u043c\u0438\u0440\u0443 \u0432\u043e\u043e\u0431\u0449\u0435. \u041e\u043d \u0432\u0438\u0434\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 \u2014 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e \u043c\u0435\u043d\u044f\u0435\u0442 \u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e..<\/p>\n<p>\u0413\u043b\u0443\u0431\u0438\u043d\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 \u043d\u0435 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0438\u0440\u0430. \u041e\u043d \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u0443\u0435\u0442 \u043c\u0438\u0440. \u0424\u0443\u043d\u043a\u0446\u0438\u0438 \u0433\u043b\u0443\u0431\u0438\u043d\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f: \u0440\u0430\u0437\u0440\u044b\u0432 \u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u043d\u0438\u044f, \u0432\u044b\u0431\u043e\u0440 \u043c\u0435\u043d\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0433\u043e, \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0440\u0435\u0430\u043a\u0446\u0438\u0438.<\/p>\n<p>\u0412 \u043a\u043e\u0434\u0435 \u044d\u0442\u043e \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043e \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e. \u0422\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440 \u2014 \u044d\u0442\u043e \u0430\u0432\u0442\u043e\u043c\u0430\u0442 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f. GRU-\u043a\u043e\u0440\u0442\u0435\u043a\u0441 \u2014 \u044d\u0442\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0442\u0435\u043b\u044c \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0435 \u0447\u0438\u0442\u0430\u0435\u0442 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e. \u041e\u043d \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0441\u0440\u0435\u0434\u043d\u0451\u043d\u043d\u044b\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0438\u0437 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430, \u0438 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0438 \u044d\u0442\u043e\u0433\u043e \u0441\u0442\u0440\u043e\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0430\u0432\u0442\u043e\u043c\u0430\u0442 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c.<\/p>\n<p>\u041a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435: \u043a\u043e\u0440\u0442\u0435\u043a\u0441 \u0432\u044b\u043d\u0443\u0436\u0434\u0435\u043d \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0432\u044b\u0445\u043e\u0434 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0448\u0430\u0433\u0435. \u0427\u0442\u043e\u0431\u044b \u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u043e, \u043e\u043d \u0441\u0442\u0440\u043e\u0438\u0442 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u044e\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0430. \u042d\u0442\u043e \u0438 \u0435\u0441\u0442\u044c \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f \u0441\u043e\u0437\u043d\u0430\u043d\u0438\u044f \u0447\u0435\u0440\u0435\u0437 \u0437\u0430\u0434\u0430\u0447\u0443 \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f.<\/p>\n<p>\u041d\u0443 \u0438 \u043c\u043d\u043e\u0433\u043e \u0432\u0441\u0435\u0433\u043e \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0433\u043e, \u043d\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0438 \u044d\u0442\u043e\u0433\u043e.<\/p>\n<h4>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h4>\n<p>\u0415\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0432 \u043a\u043e\u0434\u0435 \u0438 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u044f\u0445 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u043e\u0448\u0438\u0431\u043a\u0438 \u0438\u043b\u0438 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0434\u043b\u044f \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f, \u0435\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u0437\u0430\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442\u0441\u044f \u0438 \u0438\u0445 \u043d\u0430\u0439\u0434\u0451\u0442, \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043e\u043e\u0431\u0449\u0438\u0442\u0435 \u043c\u043d\u0435, \u0431\u0443\u0434\u0443 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u0435\u043d.\u00a0<\/p>\n<p>\u0414\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f, \u043d\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u0436\u0435\u043b\u0435\u0437\u043e. \u0415\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0434\u0430\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u043c GPU \u0438\u043b\u0438 \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0433\u0440\u0430\u043d\u0442 (\u0430 \u0432\u0434\u0440\u0443\u0433), \u0431\u044b\u043b \u0431\u044b \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u0435\u043d \u0435\u0449\u0451 \u0431\u043e\u043b\u044c\u0448\u0435.<\/p>\n<p>\u041f\u0435\u0440\u0441\u043f\u0435\u043a\u0442\u0438\u0432\u044b:\u00a0<\/p>\n<p>\u2014 \u0431\u043e\u043b\u0435\u0435 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043c\u0430\u043b\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0437\u0430 \u0441\u0447\u0451\u0442 \u0443\u0441\u0438\u043b\u0435\u043d\u0438\u044f \u0440\u043e\u043b\u0438 hard negatives \u0438 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0445 \u0433\u0440\u0430\u043d\u0438\u0446;<br \/> \u2014 \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u0435 \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0430 \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0447\u0438\u0442\u0441\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f\u043c, \u043d\u043e \u0438 \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u0438 \u0437\u0430\u043f\u0440\u0435\u0442\u043e\u0432;<br \/> \u2014 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435 \u0431\u043e\u043b\u0435\u0435 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0433\u0434\u0435 \u0447\u0430\u0441\u0442\u044c \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043d\u0435 \u0440\u043e\u0441\u0442\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0430 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0439 \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0438;<br \/> \u2014 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0441 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u043c \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u043e\u043c \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0451\u043d\u043d\u043e\u0441\u0442\u0438 (\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438), \u0433\u0434\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e \u0442\u043e\u043a\u0435\u043d\u0430, \u043d\u043e \u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435\u043c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043a\u043e\u0433\u043d\u0438\u0442\u0438\u0432\u043d\u043e\u0439 \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0438;<br \/> \u2014 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0430\u0446\u0438\u0439 \u0447\u0435\u0440\u0435\u0437 \u0443\u0441\u0438\u043b\u0435\u043d\u0438\u0435 \u0430\u043f\u043e\u0444\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0433\u0440\u0430\u043d\u0438\u0446 (\u00ab\u0447\u0442\u043e \u043d\u0435\u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u043e\u00bb).<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430 \u0432\u0435\u0440\u043d\u0430 \u0445\u043e\u0442\u044f \u0431\u044b \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e, \u0442\u043e \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0430\u044f \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u044f LLM \u043c\u043e\u0436\u0435\u0442 \u0438\u0434\u0442\u0438 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0435\u0440\u0435\u0437 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 Transformer\u2019\u043e\u0432, \u043d\u043e \u0438 \u0447\u0435\u0440\u0435\u0437 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440, \u0433\u0434\u0435 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u043c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435\u043c \u0441\u0442\u0430\u043d\u0435\u0442 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u043e\u0442\u0440\u0438\u0446\u0430\u043d\u0438\u0439 \u2014 \u0441\u0432\u043e\u0435\u0433\u043e \u0440\u043e\u0434\u0430 \u00ab\u0441\u0432\u043e\u0431\u043e\u0434\u0430 \u0432\u0435\u0442\u043e\u00bb \u0432\u043d\u0443\u0442\u0440\u0438 \u0441\u0430\u043c\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0411\u043e\u043b\u0435\u0435 \u0444\u0430\u043d\u0442\u0430\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0435\u0440\u0441\u043f\u0435\u043a\u0442\u0438\u0432\u044b \u044f \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442\u044c \u043d\u0435 \u0441\u0442\u0430\u043b \u0437\u0430 \u0438\u0445 \u0444\u0430\u043d\u0442\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0441\u0442\u044c\u044e.<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1039766\/\">https:\/\/habr.com\/ru\/articles\/1039766\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0412 \u0430\u043f\u0440\u0435\u043b\u0435 OpenAi \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441 Parameter Golf \u043d\u0430 \u0441\u0430\u043c\u0443\u044e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c. \u0411\u044b\u043b\u0438 \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u2014 16 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u043d\u0430 \u0432\u0435\u0441\u0430 \u0438 \u043e\u0431\u0432\u044f\u0437\u043a\u0443, 10 \u043c\u0438\u043d\u0443\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0432\u043e\u0441\u044c\u043c\u0438 H100. \u0415\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u2014 \u0441\u0430\u043c\u044b\u0439 \u043d\u0438\u0437\u043a\u0438\u0439 bpb. \u0411\u044d\u0439\u0441\u043b\u0430\u0439\u043d\u043e\u043c \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u0431\u044b\u043b \u043a\u043e\u0434 \u043e\u0442 OpenAi, \u0441\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u0435\u0433\u043e bpb \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b 1,2244, \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u044c \u0434\u043e\u0431\u0438\u043b\u0441\u044f 1.0565\u0418\u0434\u0435\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430 \u043c\u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043d\u0440\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u043f\u043e \u0432\u0435\u0441\u044c\u043c\u0430 \u043f\u0440\u043e\u0437\u0430\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043f\u0440\u0438\u0447\u0438\u043d\u0430\u043c \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u0432\u0435\u0441\u043e\u0432 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043c\u043e\u0435\u0439 \u0441\u0442\u0430\u0440\u0435\u043d\u044c\u043a\u043e\u0439 Geforce 1660 \u0441 \u0448\u0435\u0441\u0442\u044c\u044e \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430\u043c\u0438 \u043f\u0430\u043c\u044f\u0442\u0438 \u043d\u0430 \u0431\u043e\u0440\u0442\u0443, \u0430 \u0447\u0451\u0442\u043a\u0430\u044f \u0446\u0435\u043b\u044c \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b\u0430 \u043b\u0435\u0433\u043a\u043e \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0441\u0440\u0435\u0434\u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043e\u0432.\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0431\u0437\u043e\u0440 \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u0435\u0439 \u0438 \u043c\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.\u041a\u0442\u043e \u0441 \u0447\u0435\u043c \u043f\u0440\u0438\u0448\u0451\u043b \u043d\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0426\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c bpb (bits per byte) \u0445\u043e\u0440\u043e\u0448 \u0442\u0435\u043c, \u0447\u0442\u043e \u043e\u043d \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u0438\u0432\u0435\u043d. \u041c\u0438\u043a\u0440\u043e\u0441\u0435\u0442\u0438 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e \u043d\u0435\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u043a \u0443\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044e \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u043a\u0438 \u0432 \u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u044b \u043f\u0440\u0438\u0432\u044b\u043a\u043b\u0438 \u043f\u0440\u0438 \u043e\u0431\u0449\u0435\u043d\u0438\u0438 \u0441 LLM, \u043d\u043e \u044d\u0442\u043e\u0442 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442, \u043a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u0441\u0436\u0438\u043c\u0430\u0442\u044c \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0447\u0435\u0440\u0435\u0437 \u0432\u044b\u0443\u0447\u0438\u0432\u0430\u043d\u0438\u0435 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0433\u0440\u0430\u043c\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0438\u043d\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432.\u00a0\u0421\u0440\u0430\u0437\u0443 \u043f\u043e\u044f\u0441\u043d\u044e, \u0447\u0442\u043e \u0432 \u043f\u0435\u0440\u0435\u0447\u0435\u043d\u044c \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u0435\u0439 \u043f\u043e\u043f\u0430\u0434\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435, \u043a\u0442\u043e \u0443\u043b\u0443\u0447\u0448\u0438\u043b \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 bpb \u043d\u0430 0,005.\u00a0\u0427\u0442\u043e\u0431\u044b \u0432\u0442\u0438\u0441\u043d\u0443\u0442\u044c\u0441\u044f \u0432 16 \u041c\u0411 \u0438 \u0432\u044b\u0436\u0430\u0442\u044c bpb 1.05, \u043f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0435 \u0447\u0438\u0441\u043b\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u043e\u0432 \u043f\u043e\u0448\u043b\u0438 \u043f\u0443\u0442\u0435\u043c \u0436\u0451\u0441\u0442\u043a\u043e\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438: 2-\u0431\u0438\u0442\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 (\u0440\u0430\u0437\u0440\u0443\u0448\u0430\u044e\u0449\u0435\u0435 \u043b\u043e\u0433\u0438\u043a\u0443), \u0445\u0430\u0440\u0434\u043a\u043e\u0434\u043d\u044b\u0435 N-\u0433\u0440\u0430\u043c\u043c\u044b \u0438\u0437 90-\u0445, \u043a\u043e\u0441\u0442\u044b\u043b\u0438 \u0434\u043b\u044f \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u043e\u0432 (CaseOps) \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043b\u0435\u0442\u0443 (TTT). \u0417\u0430\u0434\u0430\u0447\u0430 \u2014 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f bpb \u043d\u0430 \u0441\u0442\u0430\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430\u0445.\u041c\u043e\u044f \u0446\u0435\u043b\u044c \u0431\u044b\u043b\u0430 \u0434\u0440\u0443\u0433\u043e\u0439: \u044f \u0445\u043e\u0442\u0435\u043b \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f, \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0433\u043e, \u043d\u043e \u0447\u0435\u0440\u0435\u0437 \u0447\u0438\u0441\u0442\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u0443\u044e \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044e, \u0431\u0435\u0437 \u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0432\u044b\u0445 \u043a\u043e\u0441\u0442\u044b\u043b\u0435\u0439 \u0438 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043c\u0430\u0445\u0438\u043d\u0430\u0446\u0438\u0439. \u041f\u043e \u0441\u0443\u0442\u0438, \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430 \u0441\u0447\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0439 \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0438. \u0412 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435, \u043c\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 bpb 1.075 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043e\u043a \u043a \u0440\u0435\u043a\u043e\u0440\u0434\u043d\u043e\u043c\u0443.\u2116Run (\u041a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b)BPB \u0421\u043a\u043e\u0440\u0410\u0432\u0442\u043e\u0440\u0414\u0435\u0442\u0430\u043b\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u04321Calib32 Token-Only N-gram + AsymLogit Stack1.0565codemath3000\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2135. \u041f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438\u0437 PR 2130 \u043d\u0430 \u0447\u0438\u0441\u0442\u044b\u0445 \u043a\u0430\u043d\u043e\u043d\u0438\u0447\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 CaseOps \u0441 \u0431\u0430\u0442\u0447\u0435\u043c \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043a\u0438 GPTQ_CALIBRATION_BATCHES=32. \u0423\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05651 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043b\u044c\u0433\u043e\u0442\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0438\u043e\u0434\u0430. \u0423\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 p=0.014 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 PR 2014.2Progressive Context Growth + Short-Doc Score-First TTT1.0576simonbissonnette\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2014. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d \u0441\u0442\u0435\u043a CaseOps (PR 1855 \/ 1953) \u0441 \u043f\u0440\u043e\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u044b\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0434\u043e 3k \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0412\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044e \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 (TTT) \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u043c \u0434\u043b\u044f \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0412 \u043e\u0441\u043d\u043e\u0432\u0435 \u0432\u0435\u0442\u043a\u0430 AWQ-lite \/ AsymLogit. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05759.3Long-Context No-Q\/V TTT + QK-Gain 5.251.0586andrewbaggio1\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1953 (\u0431\u0430\u0437\u0430 V21 \u0438\u0437 1945). \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 (2560) \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0438 TTT. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0430 \u043c\u0430\u0441\u043a\u0430 TTT \u0431\u0435\u0437 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f Q\/V \u0432\u0435\u0441\u043e\u0432 (no-Q\/V), learning rate \u0434\u043b\u044f TTT = 0.75, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f QK_GAIN=5.25. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c: 1.05855.4AWQ-Lite GPTQ + AsymLogit on PR1855 Stack1.0594alertcat\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1945. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u0442\u0435\u043a PR 1855, \u0434\u043e\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u044b\u0439 \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c AWQ-lite GPTQ (PR 1908) \u0438 \u0430\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0438\u0442\u0430\u043c\u0438 AsymLogit. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c \u0434\u043b\u044f \u0431\u0430\u0437\u044b V21 v2: 1.05943 \u043f\u043e\u0441\u043b\u0435 \u0441\u0442\u0440\u043e\u0433\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0441 seed=42.5BOS-Fixed SmearGate + LQER + SparseAttnGate + 9-Hparam Stack1.0611codemath3000\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1855. \u0421\u0442\u0435\u043a \u0441 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0433\u0440\u0430\u043d\u0438\u0446\u0430\u043c\u0438 BOS (\u043d\u0430\u0447\u0430\u043b\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438), \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b LQER \u0438 \u0431\u0430\u0437\u0430 SparseAttnGate \/ PolarNS \/ FusedCE. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u043e \u043f\u043e\u0433\u0440\u0443\u043f\u043f\u043e\u0432\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 lrzip \u0438 \u0436\u0430\u0434\u043d\u043e\u0435 \u043f\u0435\u0440\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 9 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.6BOS-Fixed SmearGate + LQER Asymmetric + PR1787 SparseAttn + Phased TTT1.0614aquariouseworkman\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1851. \u041f\u0440\u0438\u043c\u0435\u043d\u0435\u043d \u0444\u0438\u043a\u0441 \u0433\u0440\u0430\u043d\u0438\u0446 BOS \u043a \u0441\u0442\u0435\u043a\u0443 SmearGate + LQER. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0431\u0430\u0437\u0430 SparseAttnGate \/ PolarNS \/ FusedCE, \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f CaseOps \u0438 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 TTT \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u043c (phased score-first TTT).7PR1736 + PolarNS + MIN_LR + SparseAttnGate + FusedCE + Warm-A TTT1.0634nprime06\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1787. \u0421\u0442\u0435\u043a CaseOps, \u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b: \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b Newton-Schulz (PolarNS), MIN_LR=0.1, SparseAttnGate, \u0444\u044c\u044e\u0437\u0434-\u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0441 \u0441\u043e\u0444\u0442\u043a\u0430\u043f\u043f\u0438\u043d\u0433\u043e\u043c (fused softcapped CE) \u0438 TTT \u0441 \u0442\u0435\u043f\u043b\u044b\u043c \u0441\u0442\u0430\u0440\u0442\u043e\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u044b A (warm-start-A).8CaseOps + MLPClip12 + SmearGate\/LoRA-TTT1.0645dexhunter\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1769. \u0421\u0442\u0435\u043a CaseOps \u0441 \u0434\u043e\u0440\u0430\u0431\u043e\u0442\u043a\u0430\u043c\u0438 SmearGate \u0438 \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u0435\u0439 LoRA-TTT, \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 MLPClip12. \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e 5 \u0441\u0438\u0434\u0430\u043c \u0441\u0434\u0432\u0438\u0433\u0430\u0435\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 (frontier) CaseOps.9SP8192 + CaseOps + GatedAttn + QuantGate + Loop45 + Phased TTT1.0655dexhunter\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1736. \u0412\u043d\u0435\u0434\u0440\u0435\u043d\u043e \u0431\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 CaseOps \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c \u0441 \u0443\u0447\u0435\u0442\u043e\u043c BPB \u0447\u0435\u0440\u0435\u0437 \u0431\u0430\u0439\u0442\u043e\u0432\u044b\u0435 \u0441\u0430\u0439\u0434\u043a\u0430\u0440-\u0444\u0430\u0439\u043b\u044b (byte-sidecar). \u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u044b \u0433\u0435\u0439\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 (GatedAttn) \u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043a\u0432\u0430\u043d\u0442-\u0433\u0435\u0439\u0442\u043e\u0432 \u043f\u043e\u0432\u0435\u0440\u0445 \u0441\u0442\u0435\u043a\u0430 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e TTT.10CaseOps Tokenizer + Tapered WD + Phased TTT1.0678romeerp\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1729. \u0411\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430 (CaseOps) \u0441 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 \u0431\u0430\u0439\u0442\u043e\u0432\u044b\u043c\u0438 \u0441\u0430\u0439\u0434\u043a\u0430\u0440\u0430\u043c\u0438, \u043f\u043b\u044e\u0441 \u043c\u044f\u0433\u043a\u043e\u0435 \u043f\u043e\u0437\u0434\u043d\u0435\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 weight-decay (taper) \u0434\u043b\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430 Muon \u043d\u0430 \u043b\u0435\u0433\u0430\u043b\u044c\u043d\u043e\u043c \u0441\u0442\u0435\u043a\u0435 \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e TTT.11SmearGate + Attention Output Gate + Legal TTT1.0714MarioPaerle\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1667. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b: SmearGate, \u0433\u0435\u0439\u0442 \u0432\u044b\u0445\u043e\u0434\u0430 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0430 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (attention output gate), \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u043e \u0433\u043b\u0443\u0431\u0438\u043d\u0435 (depth recurrence), \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0435 \u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u0435 \u0441\u0432\u044f\u0437\u0438, QK-Gain=5.25, \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 score-first TTT.12VarLen Attention + Fused MLP + Multi-Phase Global SGD TTT1.0719dexhunter\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1626. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b: \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u043e\u0439 (VarLen Attention), fused MLP, \u043c\u043d\u043e\u0433\u043e\u0444\u0430\u0437\u043d\u044b\u0439 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 SGD \u0434\u043b\u044f TTT, \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u0439 (trimmed) GPTQ, MLR 0.026, int7 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0430\u0434\u0430\u043f\u0442\u0438\u0432\u043d\u044b\u0439 \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433.13VarLenAttn + PhasingTTT1.0728romeerp\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1610. \u0421\u0442\u0435\u043a \u0432 \u0441\u0442\u0438\u043b\u0435 PR 1530 (\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u044b + fused MLP), \u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0444\u0430\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 TTT \u043f\u043e\u0432\u0435\u0440\u0445 \u0443\u0436\u0435 \u043e\u0442\u0441\u043a\u043e\u0440\u0435\u043d\u043d\u044b\u0445 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430.(\u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0442\u043e\u043f\u0430 \u0441 \u0441\u0430\u0439\u0442\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430)\u041a\u043e\u0433\u0434\u0430 \u044f \u0443\u0432\u0438\u0434\u0435\u043b \u043f\u0435\u0440\u0432\u044b\u0435 \u0440\u0435\u043a\u043e\u0440\u0434\u044b \u0441 bpb \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0435\u0449\u0451 1,21 \u2014 1,22, \u0442\u043e \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0438\u0441\u043f\u0443\u0433\u0430\u043b\u0441\u044f. \u041b\u044e\u0434\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438 \u043e\u0431\u044a\u0435\u043c\u043e\u043c \u0431\u043e\u043b\u0435\u0435 100 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u044f \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u0434\u0430\u0436\u0435 \u0431\u044b \u043d\u0435 \u0441\u043c\u043e\u0433\u043b\u0430 \u043f\u043e\u0448\u0435\u0432\u0435\u043b\u0438\u0442\u044c), \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0438 \u0436\u0435\u0441\u0442\u043e\u0447\u0430\u0439\u0448\u0435\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435, \u0438 \u0447\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435, \u0442\u0435\u043c \u0445\u0443\u0436\u0435. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u044f, \u0447\u0435\u0441\u0442\u043d\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u0438 \u043d\u0435 \u0441\u043b\u044b\u0448\u0430\u043b.\u0412\u043e\u0442 \u0441\u0430\u043c\u043c\u0430\u0440\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438, \u0436\u0435\u043b\u0430\u044e\u0449\u0438\u0435 \u043c\u043e\u0433\u0443\u0442 \u0438\u0437\u0443\u0447\u0438\u0442\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e:Test-Time Training (TTT) \u0438 \u0435\u0433\u043e \u043c\u0443\u0442\u0430\u0446\u0438\u0438: \u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u044f\u043c\u043e \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u043c\u043f\u0442\u0435. \u0423\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 Score-First TTT (\u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u043c, \u043f\u043e\u0442\u043e\u043c \u0443\u0447\u0438\u043c), Phased TTT (\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0444\u0430\u0437\u0430\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430), LoRA-TTT \u0438 \u044d\u043a\u0437\u043e\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0444\u0438\u043a\u0441\u044b \u0432\u0440\u043e\u0434\u0435 Warm-A (\u0442\u0435\u043f\u043b\u044b\u0439 \u0441\u0442\u0430\u0440\u0442 \u043c\u0430\u0442\u0440\u0438\u0446) \u0438\u043b\u0438 \u0437\u0430\u043c\u043e\u0440\u043e\u0437\u043a\u0443 Q\/V \u043c\u0430\u0442\u0440\u0438\u0446 \u0432\u043e \u0432\u0440\u0435\u043c\u044f TTT (No-Q\/V).\u0410\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u044f: AWQ-lite, GPTQ (\u0441 \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u043c\u0438 \u0431\u0430\u0442\u0447\u0430\u043c\u0438), int7 \u0434\u043b\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438 \u043f\u043e\u0433\u0440\u0443\u043f\u043f\u043e\u0432\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435 lrzip.\u041c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f: \u041e\u0442\u043a\u0430\u0437 \u043e\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e Attention \u0432 \u043f\u043e\u043b\u044c\u0437\u0443 SparseAttnGate, \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0441 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u043e\u0439 (VarLen Attention), \u0433\u0435\u0439\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u043e\u0432 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (Attention Output Gate) \u0438 \u043f\u043e\u0434\u0433\u043e\u043d\u043a\u0438 QK-Gain \u0434\u043b\u044f \u0441\u0442\u0430\u0431\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438 softmax-\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f.\u0420\u0430\u0431\u043e\u0442\u0430 \u0441 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430\u043c\u0438 \u0438 \u043b\u043e\u0433\u0438\u0442\u0430\u043c\u0438: \u0412\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 CaseOps (\u0431\u0438\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430 \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u0438 \u0431\u0430\u0439\u0442\u043e\u0432\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438) \u0438 AsymLogit (\u0430\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u043b\u043e\u0433\u0438\u0442\u044b).\u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0438 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u044f: PolarNS (\u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432 \u041d\u044c\u044e\u0442\u043e\u043d\u0430-\u0428\u0443\u043b\u044c\u0446\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0433\u043e LayerNorm), \u0444\u044c\u044e\u0437\u0434 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0441 \u043c\u044f\u0433\u043a\u0438\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u044b\u0431\u0440\u043e\u0441\u043e\u0432 (softcapped CE), \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435\u043c \u0432\u0435\u0441\u043e\u0432 (tapered WD \u0434\u043b\u044f Muon) \u0438 \u043a\u043b\u0438\u043f\u043f\u0438\u043d\u0433 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 MLP (MLPClip12).\u041d\u0430\u0434\u043e \u043e\u0442\u0434\u0430\u0442\u044c \u0434\u043e\u043b\u0436\u043d\u043e\u0435 OpenAi, \u043f\u043e\u043d\u0438\u043c\u0430\u044f, \u0447\u0442\u043e \u0432\u0435\u0441\u044c \u0442\u043e\u043f \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0431\u0438\u0442 \u0445\u0430\u0440\u0434\u043a\u043e\u0440\u043d\u044b\u043c\u0438 ml-\u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430\u043c\u0438, \u0436\u0438\u0432\u0443\u0449\u0438\u043c\u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0435\u0439, \u0431\u044b\u043b \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0441\u0442\u0435\u043a \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440. OpenAi \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0430 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u043a\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0445\u0443\u0436\u0435 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430, \u0438\u043b\u0438 \u043d\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u043f\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u043c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438, \u043d\u043e \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439. \u042f \u0431\u043e\u043b\u044c\u0448\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.\u2116Run (\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b)BPB \u0421\u043a\u043e\u0440\u0410\u0432\u0442\u043e\u0440\u0414\u0435\u0442\u0430\u043b\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u043211 Bit Quantization1.1239CiprianFlorin-Ifrim106 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0434\u043e 1 \u0431\u0438\u0442\u0430, \u043f\u043b\u044e\u0441 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0438 2 \u0447\u0430\u0441\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.2MDLM Text Diffusion1.1465agalimova\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1106. \u041c\u0430\u0441\u043a\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u0430\u044f \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (MDLM) \u0441 \u043e\u0446\u0435\u043d\u043a\u043e\u0439 \u0432 \u0441\u0442\u0438\u043b\u0435 ELBO \u0447\u0435\u0440\u0435\u0437 \u043f\u043e\u0433\u043b\u043e\u0449\u0430\u044e\u0449\u0443\u044e \u043c\u0430\u0441\u043a\u0443. \u041f\u0440\u043e\u0432\u0430\u043b\u0438\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u043d\u0430 \u0434\u0432\u0443\u0445 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u0435\u043b\u044f\u0445 H100 \u043a\u0430\u043a \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u0430\u044f \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c.3Hymba-8L + Sliding Attention at 32K1.1467mkenney2\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1245. \u0413\u0438\u0431\u0440\u0438\u0434\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 Mamba SSM \u0441\u043e \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u043c \u043e\u043a\u043d\u043e\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043d\u0430 32 \u0442\u044b\u0441\u044f\u0447\u0438 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0423\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u043f\u043e 3 \u0441\u0438\u0434\u0430\u043c, \u0440\u0430\u0437\u043c\u0435\u0440 \u043c\u0435\u043d\u0435\u0435 16 \u041c\u0411, \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u044f score-first TTT.4Mamba-3 Hybrid SSM + SP8192 + Legal TTT1.1473mradassaad\u041d\u0430 \u0431\u0430\u0437\u0435 PR 1644. 7-\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c Mamba-3: 5 \u0431\u043b\u043e\u043a\u043e\u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (SSM) \u0438 2 \u0441\u043b\u043e\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b SP8192, AR GPTQ, \u0447\u0430\u043d\u043a\u043e\u0432\u044b\u0439 score-first TTT \u0438 \u043e\u0446\u0435\u043d\u043a\u0430 \u0441 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (stateful-overlap eval).5Differential-Gated Attention1.1898ddavidgao\u041d\u0430 \u0431\u0430\u0437\u0435 PR 542. \u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f, \u043f\u0435\u0440\u0435\u0434\u0430\u044e\u0449\u0438\u0439 \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u043f\u043e\u043b\u0435\u0437\u043d\u0443\u044e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 (\u0430\u043a\u0446\u0435\u043d\u0442 \u043d\u0430 \u043d\u043e\u0432\u0438\u0437\u043d\u0443) \u0432 \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0445 \u0441\u043b\u043e\u044f\u0445. \u0412\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0437 \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438, \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0435\u0439 \u043e\u0442 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441\u0435\u0442\u0438.6Learned Adapters on Random Linear Maps1.1971pranavxiyer\u041d\u0430 \u0431\u0430\u0437\u0435 PR 2058. \u041f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u044b-\u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0441\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0441\u0438\u0434\u0430\u043c\u0438 \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u043c\u0438 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430\u043c\u0438 \u0432 \u0441\u0442\u0438\u043b\u0435 LoRA \u0440\u0430\u043d\u0433\u0430 160. 12 \u0441\u043b\u043e\u0435\u0432, \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044c MLP 3x, \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u0430\u044f \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u044f int6\/int8. \u041f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u043e \u043d\u0430 3 \u0441\u0438\u0434\u0430\u0445 \u0441 10-\u043c\u0438\u043d\u0443\u0442\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0430\u043c\u0438.7JEPA + Mamba2 LeWorldModel1.2064CiprianFlorin-Ifrim\u041d\u0430 \u0431\u0430\u0437\u0435 PR 903. \u0410\u043c\u0431\u0438\u0446\u0438\u043e\u0437\u043d\u0430\u044f \u0437\u0430\u044f\u0432\u043a\u0430, \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 SSM \u0438 JEPA \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (latent-prediction). \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u0441 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430\u043c\u0438 \u0434\u043e\u043b\u0433\u0438\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0438 10-\u043c\u0438\u043d\u0443\u0442\u043d\u044b\u043c\u0438 \u043b\u043e\u0433\u0430\u043c\u0438.(\u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0442\u043e\u043f\u0430 \u0441 \u0441\u0430\u0439\u0442\u0430 \u043a\u043e\u043d\u043a\u0443\u0440\u0441\u0430)\u0417\u0434\u0435\u0441\u044c \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 1,12, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0445\u0443\u0436\u0435 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u0433\u043e \u0442\u043e\u043f\u0430. \u0412\u043f\u0440\u043e\u0447\u0435\u043c, \u043f\u043e \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c\u0443 \u043e\u043f\u044b\u0442\u0443 \u0441\u043a\u0430\u0436\u0443, \u0437\u0434\u0435\u0441\u044c \u0432\u0438\u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440, \u0430 \u0440\u0430\u0437\u043d\u0438\u0446\u044b \u0432 \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u0445. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043f\u043b\u043e\u0445\u043e \u0438\u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0445 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u0445, \u0430 \u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0440\u043e\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b \u043d\u0438 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043d\u0438 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e.\u0421\u0430\u043c\u043c\u0430\u0440\u0438 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432:\u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u044b \u0422\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0443 (SSM \u0438 \u0413\u0438\u0431\u0440\u0438\u0434\u044b): \u0421\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u043e\u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u044e\u0442 \u0441 Mamba (State Space Models). \u041f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0435 \u0441\u0431\u043e\u0440\u043a\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, 5 \u0441\u043b\u043e\u0435\u0432 SSM + 2 \u0441\u043b\u043e\u044f Attention), \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0434\u043b\u0438\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 (\u0434\u043e 32\u041a \u0442\u043e\u043a\u0435\u043d\u043e\u0432), \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043a \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u0444\u043e\u043a\u0443\u0441\u0443 \u0447\u0435\u0440\u0435\u0437 \u0441\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0435\u0435 \u043e\u043a\u043d\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f.\u0422\u0435\u043a\u0441\u0442\u043e\u0432\u0430\u044f \u0414\u0438\u0444\u0444\u0443\u0437\u0438\u044f: \u041f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0443\u0441\u043f\u0435\u0445 \u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-481145","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/481145","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=481145"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/481145\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=481145"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=481145"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=481145"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}