{"id":486260,"date":"2026-07-05T17:59:24","date_gmt":"2026-07-05T17:59:24","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=486260"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=486260","title":{"rendered":"\u041a\u0430\u043a \u043c\u044b \u043d\u0430\u0443\u0447\u0438\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043d\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/336\/af2\/31e\/336af231ee088b07bac6e2eea15cd7c0.png\" alt=\"\u0420\u0438\u0441 0. \u0414\u0435\u043c\u043e-\u0447\u0430\u0442\" title=\"\u0420\u0438\u0441 0. \u0414\u0435\u043c\u043e-\u0447\u0430\u0442\" width=\"2331\" height=\"889\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/336\/af2\/31e\/336af231ee088b07bac6e2eea15cd7c0.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/336\/af2\/31e\/336af231ee088b07bac6e2eea15cd7c0.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0420\u0438\u0441 0. <a href=\"https:\/\/tsjb-qarachay-malqar-ai.hf.space\/\" rel=\"noopener noreferrer nofollow\">\u0414\u0435\u043c\u043e-\u0447\u0430\u0442<\/a><\/figcaption><\/div>\n<\/figure>\n<p><em>\u0414\u0430\u0432\u043d\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u043f\u0438\u0441\u0430\u043b \u0433\u0434\u0435-\u043b\u0438\u0431\u043e: \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u043d\u0430\u0448 \u043f\u0443\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u043a\u043e\u043c\u0443-\u043b\u0438\u0431\u043e \u043f\u043e\u043b\u0435\u0437\u0435\u043d, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0442\u0435\u043c, \u043a\u0442\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0438 \u043d\u0430 \u043c\u0430\u043b\u043e\u0440\u0435\u0441\u0443\u0440\u0441\u043d\u044b\u0445 \u044f\u0437\u044b\u043a\u0430\u0445.<\/em><\/p>\n<p>\u0411\u043e\u043b\u044c\u0448\u0430\u044f \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 &#8212; \u044d\u0442\u043e \u0443\u0441\u043b\u043e\u0432\u043d\u043e. \u041f\u043e \u0441\u0443\u0442\u0438, \u0432\u0437\u044f\u043b\u0438 <a href=\"https:\/\/huggingface.co\/Qwen\/Qwen3-4B-Instruct-2507\" rel=\"noopener noreferrer nofollow\">Qwen3-4B-Instruct-2507<\/a> \u0438 \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435 (\u0442\u044e\u0440\u043a\u0441\u043a\u0438\u0439, \u043f\u043e\u043b\u043e\u0432\u0435\u0446\u043a\u043e-\u043a\u044b\u043f\u0447\u0430\u043a\u0441\u043a\u0430\u044f \u0433\u0440\u0443\u043f\u043f\u0430). \u041f\u043e \u0434\u043e\u0440\u043e\u0433\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0434\u043b\u044f \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432, \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0441 \u043d\u0443\u043b\u044f, \u0438 \u043d\u0430\u0439\u0442\u0438 \u0431\u0430\u043b\u0430\u043d\u0441 \u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0441\u044b\u0440\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043d\u0435 \u0437\u0430\u0431\u044b\u0432\u0430\u043b\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439 (\u0430 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0433\u043b\u0430 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c). <\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043b\u0435\u0436\u0438\u0442 \u043d\u0430 HuggingFace: <a href=\"https:\/\/huggingface.co\/TSjB\/QM-4B\" rel=\"noopener noreferrer nofollow\">TSjB\/QM-4B<\/a>. \u0420\u0430\u0431\u043e\u0442\u0443 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0438 \u043d\u0430 \u043a\u043e\u043d\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0438 TurkLang 2026.<\/p>\n<h2>\u0417\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435<\/h2>\n<p>\u041a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (\u0432 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u043c \u041a\u0411) \u2014 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0435\u0433\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u044f\u0437\u044b\u043a \u0432 \u041a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0427\u0435\u0440\u043a\u0435\u0441\u0438\u0438 \u0438 \u041a\u0430\u0431\u0430\u0440\u0434\u0438\u043d\u043e-\u0411\u0430\u043b\u043a\u0430\u0440\u0438\u0438, \u043d\u0430 \u043d\u0451\u043c \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 300 \u0442\u044b\u0441\u044f\u0447 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u043d\u0430 \u0421\u0435\u0432\u0435\u0440\u043d\u043e\u043c \u041a\u0430\u0432\u043a\u0430\u0437\u0435 \u0438 \u043e\u043a\u043e\u043b\u043e 450 \u0442\u044b\u0441\u044f\u0447 \u0432 \u043c\u0438\u0440\u0435. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u044f\u0437\u044b\u043a \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u0440\u0443\u0441\u0441\u043a\u0438\u043c: \u043c\u043e\u043b\u043e\u0434\u0451\u0436\u044c \u0432\u0441\u0451 \u0447\u0430\u0449\u0435 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 \u043d\u0435\u0433\u043e, \u0438 \u042e\u041d\u0415\u0421\u041a\u041e \u043f\u0440\u0438\u0441\u0432\u043e\u0438\u043b\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c\u0443 \u0441\u0442\u0430\u0442\u0443\u0441 vulnerable (\u0443\u044f\u0437\u0432\u0438\u043c\u044b\u0439). <\/p>\n<p>\u0422\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0434\u0430\u0432\u043d\u043e Cluade \u0438 Gemini \u0441\u0442\u0430\u043b\u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u0438 \u043f\u0438\u0441\u0430\u0442\u044c \u043d\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c. \u041d\u043e \u043d\u0435\u0442 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 \u0438 \u0447\u0430\u0441\u0442\u0435\u043d\u044c\u043a\u043e \u043e\u043d\u0438 \u0432\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0438\u0437 \u0434\u0440\u0443\u0433\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 \u0441\u043b\u043e\u0432\u0430, \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0440\u043e\u0434\u043d\u043e\u0439 \u044f\u0437\u044b\u043a &#8212; \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. \u041d\u0430\u0448\u0430 \u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430\/\u043c\u0438\u0441\u0441\u0438\u044f &#8212; \u0440\u0430\u0437\u0432\u0438\u0432\u0430\u0442\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u044f\u0437\u044b\u043a\u0435 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438, \u0432 \u0442.\u0447. \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u044f\u0437\u044b\u043a\u043e\u043c \u0434\u043b\u044f \u0418\u0418 \u0441\u0442\u0430\u043b \u041a\u0411. \u0423 \u043d\u0430\u0441 \u0443\u0436\u0435 \u0431\u044b\u043b \u0437\u0430\u0434\u0435\u043b. \u0412 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0440\u0430\u0431\u043e\u0442\u0430\u0445 \u043c\u044b \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u043f\u0435\u0440\u0432\u044b\u0439 \u044d\u043b\u0435\u043a\u0442\u0440\u043e\u043d\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u0440\u043f\u0443\u0441 (289\u043a \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439 \u041a\u0411 \u0438 \u0440\u0443\u0441\u0441\u043a\u0438\u0439) (\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0442\u0430\u043b \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043e\u0441\u043d\u043e\u0432\u043e\u0439 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432 \u044f\u043d\u0434\u0435\u043a\u0441.\u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0435) \u0438 \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043b\u0438 <a href=\"https:\/\/huggingface.co\/TSjB\/NLLB-201-600M-QM-V2\" rel=\"noopener noreferrer nofollow\">\u043f\u0435\u0440\u0432\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043d\u0435\u0439\u0440\u043e\u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u2194 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u043d\u0430 \u0431\u0430\u0437\u0435 NLLB-200<\/a>. <\/p>\n<p>\u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0448\u0430\u0433 \u2014 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0443 \u044f\u0437\u044b\u043a\u0430 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u0430\u044f LLM, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u043d \u0431\u044b\u043b \u0431\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c, \u0430 \u043d\u0435 \u0432\u043e\u0441\u043f\u0440\u0438\u043d\u0438\u043c\u0430\u043b\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043f\u0440\u0438\u0437\u043c\u0443 \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u044e\u0449\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<hr\/>\n<h2>\u0414\u0430\u043d\u043d\u044b\u0435: 75 733 \u0437\u0430\u043f\u0438\u0441\u0438, 662 \u043c\u043b\u043d \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432    <\/h2>\n<p>\u041c\u043e\u043d\u043e\u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0431\u0440\u0430\u043d \u0438\u0437 18 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u0432 \u043f\u043e \u0441\u0435\u043c\u0438 \u0436\u0430\u043d\u0440\u0430\u043c. \u0422\u0440\u0438 \u043a\u0440\u0443\u043f\u043d\u0435\u0439\u0448\u0438\u0445 \u043f\u043e \u043e\u0431\u044a\u0451\u043c\u0443 \u2014 \u0433\u0430\u0437\u0435\u0442\u0430 \u00ab\u0417\u0430\u043c\u0430\u043d\u00bb (28,2%), \u0430\u043d\u0442\u043e\u043b\u043e\u0433\u0438\u044f \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u044b \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 (25,8%) \u0438 \u0441\u0431\u043e\u0440\u043d\u0438\u043a \u043f\u043e\u044d\u0437\u0438\u0438 (10,7%). \u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 \u0432 \u0441\u0443\u043c\u043c\u0435 (\u00ab\u0417\u0430\u043c\u0430\u043d\u00bb, \u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb, \u00ab\u041c\u0438\u043d\u0433\u0438 \u0422\u0430\u0443\u00bb) \u0434\u0430\u0451\u0442 45,4% \u2014 \u043e\u0446\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u0440\u0435\u0441\u0441\u044b \u0434\u043b\u044f \u044f\u0437\u044b\u043a\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e.  <\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>#<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\"><strong>\u0418\u0441\u0442\u043e\u0447\u043d\u0438\u043a  <\/strong><\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\"><strong>\u0416\u0430\u043d\u0440  <\/strong><\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\"><strong>\u0424\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432  <\/strong><\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>\u0421\u0438\u043c\u0432. (\u043c\u043b\u043d)  <\/strong><\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>%  <\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">1 <\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u0413\u0430\u0437\u0435\u0442\u0430 \u00ab\u0417\u0430\u043c\u0430\u043d\u00bb <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">13 190<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">125,8<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">28,2<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u0410\u043d\u0442\u043e\u043b\u043e\u0433\u0438\u044f \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u044b<\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041f\u0440\u043e\u0437\u0430<\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">13 506<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">114,8<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">25,8<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">3<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u0421\u0431\u043e\u0440\u043d\u0438\u043a \u043f\u043e\u044d\u0437\u0438\u0438  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041f\u043e\u044d\u0437\u0438\u044f  <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">5 853<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">47,7<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">10,7<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u0413\u0430\u0437\u0435\u0442\u0430 \u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">4 686<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">44,0<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">9,9<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\"> \u0416\u0443\u0440\u043d\u0430\u043b \u00ab\u041c\u0438\u043d\u0433\u0438 \u0422\u0430\u0443\u00bb  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">3 828<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">32,6<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7,3<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u0423\u0447\u0435\u0431\u043d\u0438\u043a\u0438  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435  <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">2 151<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">17,9<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4,0<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">\u041b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\u041d\u0430\u0443\u043a\u0430  <\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">1 317<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">11,7<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2,7<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">&#8230;<\/p>\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\">(\u0435\u0449\u0451 11 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u0432)  <\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">&#8230;<\/p>\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\">6 918<\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\">51,0<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">11,4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">\n<\/td>\n<td data-colwidth=\"164\" width=\"164\">\n<p align=\"left\"><strong>\u0418\u0442\u043e\u0433\u043e<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"126\" width=\"126\">\n<p align=\"left\">\n<\/td>\n<td data-colwidth=\"110\" width=\"110\">\n<p align=\"left\"><strong>51 449<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>445,5<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>100<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f83\/bfd\/d26\/f83bfdd2640857b74162006ab8452255.png\" alt=\" \u0420\u0438\u0441. 1. \u0421\u043e\u0441\u0442\u0430\u0432 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u043f\u043e \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u043c. \" title=\" \u0420\u0438\u0441. 1. \u0421\u043e\u0441\u0442\u0430\u0432 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u043f\u043e \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u043c. \" width=\"1372\" height=\"1008\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/f83\/bfd\/d26\/f83bfdd2640857b74162006ab8452255.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f83\/bfd\/d26\/f83bfdd2640857b74162006ab8452255.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption> \u0420\u0438\u0441. 1. \u0421\u043e\u0441\u0442\u0430\u0432 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u043f\u043e \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u043c. <\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u044b\u0440\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0447\u0438\u0441\u0442\u043a\u0443 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u0438 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0438, \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043d\u0430\u0440\u0435\u0437\u043a\u0443 \u043d\u0430 \u0447\u0430\u043d\u043a\u0438 \u043f\u043e 50\u20131200 \u0441\u043b\u043e\u0432 \u0441 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0432 200 \u0441\u043b\u043e\u0432, \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a-\u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 (\u0441\u0440\u0435\u0437\u0430\u043d\u0438\u0435 Wikipedia-\u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044e \u0433\u0430\u0437\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043d\u0442\u0430) \u0438 \u0434\u0435\u0434\u0443\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u044e \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u043c\u0443 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044e (\u0443\u0434\u0430\u043b\u0438\u043b\u0438 713 \u0434\u0443\u0431\u043b\u0435\u0439). \u0424\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 75 733 \u0437\u0430\u043f\u0438\u0441\u0438 \u0434\u0435\u043b\u044f\u0442\u0441\u044f 97,5% \/ 2,5% \u043d\u0430 train \u0438 eval \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c seed.<\/p>\n<h3>\u0414\u0438\u0430\u043b\u0435\u043a\u0442\u044b<\/h3>\n<p>\u0423 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u044b\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430, \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043f\u0440\u0435\u0436\u0434\u0435 \u0432\u0441\u0435\u0433\u043e \u043d\u0430 \u0444\u043e\u043d\u0435\u043c\u043d\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435:<\/p>\n<ol>\n<li>\n<p>\u0427\u043e\u043a\u0430\u044e\u0449\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u044b (\u043f\u0440\u0438\u043c\u0435\u0440:\u00a0<em>\u0447\u0430\u0447<\/em>\u00a0\u2014 \u00ab\u0432\u043e\u043b\u043e\u0441\u00bb):<\/p>\n<ol>\n<li>\n<p>\u0414\u0436\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439 (<em>\u0434\u0436\u043e\u043b<\/em>\u00a0\u2014 \u00ab\u0434\u043e\u0440\u043e\u0433\u0430\u00bb). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%B0%D1%80%D0%B0%D1%87%D0%B0%D0%B9\" rel=\"noopener noreferrer nofollow\">\u041a\u0430\u0440\u0430\u0447\u0430\u0439<\/a>.<\/p>\n<\/li>\n<li>\n<p>\u0414\u0436\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0431\u0430\u043a\u0441\u0430\u043d\u0441\u043a\u0438\u0439 (<em>\u0434\u0436\u043e\u043b<\/em>, \u0433\u0434\u0435\u00a0<em>\u0434\u0436<\/em>\u00a0\u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0441\u043c\u044f\u0433\u0447\u0451\u043d\u043d\u044b\u0439 \u0437\u0432\u0443\u043a, \u0447\u0435\u043c\u00a0<em>\u0434\u0436<\/em>). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%91%D0%B0%D0%BA%D1%81%D0%B0%D0%BD_(%D1%80%D0%B5%D0%BA%D0%B0)\" rel=\"noopener noreferrer nofollow\">\u0411\u0430\u043a\u0441\u0430\u043d<\/a>.<\/p>\n<\/li>\n<li>\n<p>\u0416\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0447\u0435\u0433\u0435\u043c\u0441\u043a\u0438\u0439 (<em>\u0436\u043e\u043b<\/em>) (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A7%D0%B5%D0%B3%D0%B5%D0%BC_(%D1%80%D0%B5%D0%BA%D0%B0)\" rel=\"noopener noreferrer nofollow\">\u0427\u0435\u0433\u0435\u043c<\/a>.<\/p>\n<\/li>\n<li>\n<p>\u0421\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0439 \u0445\u0443\u043b\u0430\u043c\u0441\u043a\u043e-\u0431\u0435\u0437\u0435\u043d\u0433\u0438\u0435\u0432\u0441\u043a\u0438\u0439 (\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u00a0<em>\u0436\u043e\u043b<\/em>\u00a0\u0438\u00a0<em>\u0437\u043e\u043b<\/em>) (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A7%D0%B5%D1%80%D0%B5%D0%BA_%D0%A5%D1%83%D0%BB%D0%B0%D0%BC%D1%81%D0%BA%D0%B8%D0%B9?action=edit&amp;redlink=1\" rel=\"noopener noreferrer nofollow\">\u0427\u0435\u0440\u0435\u043a \u0425\u0443\u043b\u0430\u043c\u0441\u043a\u0438\u0439<\/a>.<\/p>\n<\/li>\n<\/ol>\n<\/li>\n<li>\n<p>\u0426\u043e\u043a\u0430\u044e\u0449\u0435-\u0437\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (<em>\u0446\u0430\u0446<\/em>\u00a0\u0438\u00a0<em>\u0437\u043e\u043b<\/em>) (\u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A7%D0%B5%D1%80%D0%B5%D0%BA_%D0%91%D0%B0%D0%BB%D0%BA%D0%B0%D1%80%D1%81%D0%BA%D0%B8%D0%B9\" rel=\"noopener noreferrer nofollow\">\u0427\u0435\u0440\u0435\u043a \u0411\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439<\/a>.<\/p>\n<\/li>\n<\/ol>\n<p>\u0420\u0430\u0437\u043b\u0438\u0447\u0438\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0444\u043e\u043d\u0435\u043c\u043d\u044b\u0435 \u2014 \u043c\u043d\u043e\u0433\u0438\u0435 \u0441\u043b\u043e\u0432\u0430 \u043e\u0442\u043b\u0438\u0447\u0430\u044e\u0442\u0441\u044f \u0446\u0435\u043b\u0438\u043a\u043e\u043c: \u00ab\u0442\u044e\u043b\u00bb \/ \u00ab\u0442\u044e\u0439\u044e\u043b\u00bb (\u00ab\u043d\u0435\u0442\u00bb), \u00ab\u0431\u0443\u0441\u0430\u0433\u044a\u0430\u0442\u00bb \/ \u00ab\u0448\u0451\u043d\u0434\u044e\u00bb (\u00ab\u0441\u0435\u0439\u0447\u0430\u0441\u00bb), \u00ab\u0433\u0443\u0433\u0443\u0440\u0443\u043a\u043a\u0443\u00bb \/ \u00ab\u0445\u043e\u0440\u0430\u0437\u00bb (\u00ab\u043f\u0435\u0442\u0443\u0445\u00bb). \u0412 \u0441\u044b\u0440\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u044b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e, \u0438 \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 \u043e\u0434\u0438\u043d \u0438\u0437 \u043d\u0438\u0445, \u043a\u043e\u0440\u043f\u0443\u0441 \u043d\u0443\u0436\u043d\u043e \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u0422\u0443\u0442 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u043d\u0430\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c-\u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0435\u0440, \u043d\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u043e\u0435 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u2014 \u044d\u0442\u043e \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u0430\u044f \u0444\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u044f, \u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u043a\u0430 \u0441\u0442\u0430\u043b\u0430 \u0431\u044b \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u0430\u043c, \u0433\u0434\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0434\u0435\u0442\u0435\u0440\u043c\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438 <strong>rule-based \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440<\/strong>.<\/p>\n<h3>\u041c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440: \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 \u043f\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c  <\/h3>\n<p>\u041f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u0442 \u0441\u043b\u043e\u0432\u043e\u0444\u043e\u0440\u043c\u044b \u043c\u0435\u0436\u0434\u0443 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430\u043c\u0438, \u0443\u0432\u0430\u0436\u0430\u044f \u0430\u0433\u0433\u043b\u044e\u0442\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u044e. \u0414\u043b\u044f \u0441\u0430\u043c\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u0441\u0434\u0435\u043b\u0430\u043d \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u043f\u0430\u0440 (\u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0439 &#8212; \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442 &#8212; \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442), \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0432 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442.<\/p>\n<p>\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u0442\u0440\u0438 \u0441\u0442\u0430\u0434\u0438\u0438:<\/p>\n<p><strong>\u0421\u0442\u0430\u0434\u0438\u044f 1. \u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f.<\/strong> \u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u043b\u043e\u0432\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0434\u0438\u0430\u043b\u0435\u043a\u0442-\u043d\u0435\u0439\u0442\u0440\u0430\u043b\u044c\u043d\u043e\u0439 \u0444\u043e\u0440\u043c\u0435: \u0434\u0438\u0430\u043b\u0435\u043a\u0442-\u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u044b\u0435 \u0431\u0443\u043a\u0432\u044b \u0437\u0430\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u043c\u0432\u043e\u043b\u0430\u043c\u0438. \u00ab\u0434\u0436\u00bb\/\u00ab\u0436\u00bb \u2192 \u00abj\u00bb (\u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0441\u043b\u043e\u0432\u0430), \u00ab\u0431\u00bb\/\u00ab\u043f\u00bb \u2192 \u00abb\u00bb (\u0432 \u043a\u043e\u043d\u0446\u0435), \u00ab\u0443\u00bb\/\u00ab\u045e\u00bb \u2192 \u00abw\u00bb (\u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043f\u043e\u0437\u0438\u0446\u0438\u0438). \u0421\u043b\u043e\u0432\u0430\u0440\u044c \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 (~10 700 \u0437\u0430\u043f\u0438\u0441\u0435\u0439) \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0442\u0443 \u0436\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e \u2014 \u0442\u0430\u043a \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u043a\u0440\u043e\u0441\u0441-\u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u043e\u0435 \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435.<\/p>\n<p><strong>\u0421\u0442\u0430\u0434\u0438\u044f 2. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e.<\/strong> \u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0441\u043b\u043e\u0432\u0430 \u043c\u0430\u0442\u0447\u0430\u0442\u0441\u044f \u0441\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u0451\u043c \u043f\u043e \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0438 \u043d\u0430\u0438\u0434\u043b\u0438\u043d\u043d\u0435\u0439\u0448\u0435\u0433\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u00ab\u0434\u0436\u0430\u0448\u0447\u044b\u043a\u044a\u00bb (\u00ab\u043c\u0430\u043b\u044c\u0447\u0438\u043a\u00bb, \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435) \u043f\u043e\u0441\u043b\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u00abj\u0430\u0448\u0447\u044b\u043a\u044a\u00bb \u0438 \u043c\u0430\u0442\u0447\u0438\u0442\u0441\u044f \u0441\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u043d\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u044c\u044e \u00abj\u0430\u0448\u00bb (\u00ab\u043f\u0430\u0440\u0435\u043d\u044c\u00bb), \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u00ab\u0447\u044b\u043a\u044a\u00bb \u043a\u0430\u043a \u0441\u0443\u0444\u0444\u0438\u043a\u0441. \u041f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0443 50% \u0441\u043b\u043e\u0432 \u0432 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043d\u044b\u0439 \u043c\u0430\u0442\u0447, \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u043a\u0430\u043a \u0435\u0441\u0442\u044c.<\/p>\n<p><strong>\u0421\u0442\u0430\u0434\u0438\u044f 3. \u041c\u043e\u0440\u0444\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435.<\/strong> \u041f\u0440\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0438 \u043a\u043e\u0440\u0435\u043d\u044c \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u043e\u0440\u0435\u043d\u044c \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430, \u0430 \u0438\u0437\u0432\u043b\u0435\u0447\u0451\u043d\u043d\u044b\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442\u0441\u044f \u043f\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c:<\/p>\n<ol>\n<li>\n<p><strong>\u0421\u0438\u043d\u0433\u0430\u0440\u043c\u043e\u043d\u0438\u0437\u043c.<\/strong> \u0413\u043b\u0430\u0441\u043d\u044b\u0435 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u0430 \u043f\u043e\u0434\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e\u0434 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0433\u043b\u0430\u0441\u043d\u0443\u044e \u043d\u043e\u0432\u043e\u0433\u043e \u043a\u043e\u0440\u043d\u044f (\u043f\u0435\u0440\u0435\u0434\u043d\u0438\u0439\/\u0437\u0430\u0434\u043d\u0438\u0439 \u0440\u044f\u0434): \u0430\u2192\u0435, \u044b\u2192\u0438, \u0443\u2192\u044e, \u043e\u2192\u0451.  <\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u0441\u0441\u0438\u043c\u0438\u043b\u044f\u0446\u0438\u044f \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u044b\u0445.<\/strong> \u0414\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441 \u00ab-\u0433\u044a\u0430\u00bb \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u00ab-\u0445\u0430\u00bb \u043f\u043e\u0441\u043b\u0435 \u0433\u043b\u0443\u0445\u0438\u0445 {\u0448, \u0446, \u0442, \u0441, \u0449, \u0431, \u0447, \u043f}: \u00ab\u0431\u0430\u0431\u0443\u0448\u00bb + \u00ab\u0433\u044a\u0430\u00bb \u2192 \u00ab\u0431\u0430\u0431\u0443\u0448\u0445\u0430\u00bb.  <\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0437\u0432\u043e\u043d\u0447\u0435\u043d\u0438\u0435.<\/strong> \u041a\u043e\u043d\u0435\u0447\u043d\u044b\u0435 \u00ab\u043a\u00bb\/\u00ab\u043a\u044a\u00bb \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u044f\u0442 \u0432 \u00ab\u0433\u00bb\/\u00ab\u0433\u044a\u00bb \u043f\u0435\u0440\u0435\u0434 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u043e\u043c \u043d\u0430 \u0433\u043b\u0430\u0441\u043d\u044b\u0439: \u00ab\u0431\u0430\u0448\u043b\u044b\u043a\u044a\u00bb + \u00ab\u044b\u043d\u00bb \u2192 \u00ab\u0431\u0430\u0448\u043b\u044b\u0433\u044a\u044b\u043d\u00bb.  <\/p>\n<\/li>\n<li>\n<p><strong>\u042d\u043f\u0435\u043d\u0442\u0435\u0437\u0430 \u00ab\u0441\u00bb.<\/strong> \u041c\u0435\u0436\u0434\u0443 \u0433\u043b\u0430\u0441\u043d\u043e\u0439 \u043e\u0441\u043d\u043e\u0432\u044b \u0438 \u0433\u043b\u0430\u0441\u043d\u043e\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u0430 \u0432\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u00ab\u0441\u00bb: \u00ab\u0431\u0430\u0448\u0445\u0430\u00bb + \u00ab\u044b\u043d\u00bb \u2192 \u00ab\u0431\u0430\u0448\u0445\u0430\u0441\u044b\u043d\u00bb.  <\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u043e\u0434 \u043a\u043e\u043d\u0435\u0446 \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u0435 \u0441\u0438\u043c\u0432\u043e\u043b\u044b \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u0432 \u043e\u0440\u0444\u043e\u0433\u0440\u0430\u0444\u0438\u044e \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430 (\u00abj\u00bb \u2192 \u00ab\u0434\u0436\u00bb \u0434\u043b\u044f \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u043e\u0433\u043e, \u00ab\u0436\u00bb \u0434\u043b\u044f \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e, \u00ab\u0437\u00bb \u0434\u043b\u044f \u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e).  <\/p>\n<p>\u041f\u043e\u043b\u043d\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u043d\u0430 \u0436\u0438\u0432\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u2192 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439).<\/p>\n<blockquote>\n<p>\u0412\u0445\u043e\u0434:  \u0431\u0430\u043b\u0442\u0443\u0437\u0443\u0433\u044a\u0443\u0437  (\u00ab\u0432\u0430\u0448 \u0441\u0430\u0445\u0430\u0440\u00bb) <br \/>1. \u0417\u0430\u043c\u0435\u043d\u0430 \u043a\u043e\u0440\u043d\u044f \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e:   \u0431\u0430\u043b\u0442\u0443\u0437 \u2192 \u0448\u0435\u043a\u0435\u0440 <br \/>2. \u0410\u0444\u0444\u0438\u043a\u0441 \u2192 \u0444\u043e\u043d\u0435\u043c\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0430:     \u0443\u0433\u044a\u0443\u0437 \u2192 u-g-u-z <br \/>3. \u0421\u0438\u043d\u0433\u0430\u0440\u043c\u043e\u043d\u0438\u0437\u043c (\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044f\u044f \u0433\u043b\u0430\u0441\u043d\u0430\u044f \u00ab\u0435\u00bb, e-\u043a\u043b\u0430\u0441\u0441):  u-g-u-z \u2192 \u0438-\u0433-\u0438-\u0437 <br \/>4. \u0424\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0430\u0432\u043a\u0438:       <br \/>\u0412\u044b\u0445\u043e\u0434: \u0448\u0435\u043a\u0435\u0440\u0438\u0433\u0438\u0437<\/p>\n<\/blockquote>\n<p>\u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u043c\u044b \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043a\u043e\u0440\u043f\u0443\u0441: +10 000 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439, +7 998 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0445, +5 499 \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u0438 +1 500 \u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u2014 \u0432\u0441\u0435\u0433\u043e 24 997.<\/p>\n<p>\u0421\u043b\u043e\u0436\u0438\u0432 \u0441 \u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0437\u0430\u043f\u0438\u0441\u044f\u043c\u0438, \u043f\u043e \u0438\u0442\u043e\u0433\u0443 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438  75 733 \u0437\u0430\u043f\u0438\u0441\u0435\u0439.<\/p>\n<hr\/>\n<h2>\u0421\u0435\u043c\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0430 0.6B  <\/h2>\n<p>\u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0436\u0435\u0447\u044c A100 \u043d\u0430 4B-\u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u044b \u043f\u0440\u043e\u0433\u043d\u0430\u043b\u0438 \u043f\u0438\u043b\u043e\u0442\u043d\u0443\u044e \u0441\u0435\u0442\u043a\u0443 \u043d\u0430 <a href=\"https:\/\/huggingface.co\/Qwen\/Qwen3-0.6B\" rel=\"noopener noreferrer nofollow\">Qwen3-0.6B<\/a>: 6000 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u043d\u0430 \u044d\u043f\u043e\u0445\u0430, RTX 4060 8 \u0413\u0411, ~1,5\u20132,5 \u0447\u0430\u0441\u0430 \u043d\u0430 \u043f\u0440\u043e\u0433\u043e\u043d. \u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b\u0438 \u0442\u0440\u0438 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0438 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0438:<\/p>\n<ol>\n<li>\n<p>\u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440; <\/p>\n<\/li>\n<li>\n<p><em>add_tokens <\/em> \u2014 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u041a\u0411-\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043a \u0441\u0442\u0430\u0440\u043e\u043c\u0443 \u0447\u0435\u0440\u0435\u0437  <em>resize_token_embeddings<\/em>; <\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043d\u043e\u0432\u044b\u0439 (\u043a\u0430\u0441\u0442\u043e\u043c\u043d\u044b\u0439) 130K-\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 (\u043e \u043d\u0451\u043c \u0434\u0430\u043b\u044c\u0448\u0435) <\/p>\n<\/li>\n<\/ol>\n<p>\u00d7 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (QLoRA r=8 \u03b1=16; FT \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432; Full FT \u0432\u0441\u0435\u0445 \u0441\u043b\u043e\u0451\u0432)<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\"><strong>#<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\"><strong>\u041c\u0435\u0442\u043e\u0434<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0422\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Eval loss<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Perplexity<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">1<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">QLoRA<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,728<\/p>\n<\/td>\n<td>\n<p align=\"left\">15,30<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0425\u043e\u0440\u043e\u0448\u0435\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">QLoRA<\/p>\n<\/td>\n<td>\n<p align=\"left\">Add tokens<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,530<\/p>\n<\/td>\n<td>\n<p align=\"left\">12,55<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u0443\u0447\u0448\u0435\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">3<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">QLoRA<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u043e\u0432\u044b\u0439 130K  <\/p>\n<\/td>\n<td>\n<p align=\"left\">6,802<\/p>\n<\/td>\n<td>\n<p align=\"left\">899,73<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043b\u043e\u0445\u043e\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">FT (emb)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u043e\u0432\u044b\u0439 130K  <\/p>\n<\/td>\n<td>\n<p align=\"left\">7,950<\/p>\n<\/td>\n<td>\n<p align=\"left\">2836<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043b\u043e\u0445\u043e\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">Full FT<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,745<\/p>\n<\/td>\n<td>\n<p align=\"left\">15,56<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">Full FT<\/p>\n<\/td>\n<td>\n<p align=\"left\">Add tokens<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,752<\/p>\n<\/td>\n<td>\n<p align=\"left\">15,67<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7<\/p>\n<\/td>\n<td data-colwidth=\"113\" width=\"113\">\n<p align=\"left\">Full FT<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u043e\u0432\u044b\u0439 130K  <\/p>\n<\/td>\n<td>\n<p align=\"left\">7,783<\/p>\n<\/td>\n<td>\n<p align=\"left\">2399<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043b\u043e\u0445\u043e\u0435<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430\u044f \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0441 <em>add_tokens <\/em>\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043b\u0443\u0447\u0448\u0435 \u0441\u0435\u0431\u044f \u0432\u0435\u0434\u0451\u0442, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u043e\u0432\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0438 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u043c \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u0432 \u0440\u0430\u0439\u043e\u043d\u0435 \u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0438 (\u0447\u0442\u043e \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c).<\/p>\n<p>\u0412 \u0438\u0442\u043e\u0433\u0435, \u0435\u0441\u043b\u0438 \u043c\u0430\u043b\u043e \u0434\u0430\u043d\u043d\u044b\u0445 (\u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u043e\u0440\u0435\u0441\u0443\u0440\u0441\u043d\u044b\u0439 \u044f\u0437\u044b\u043a), \u0442\u043e \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u043c \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0438 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0437\u043d\u0430\u0435\u0442 \u0440\u043e\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0435 \u044f\u0437\u044b\u043a\u0438 \u0438 \u0441\u0445\u043e\u0436\u0430 \u043f\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u043f\u0438\u0441\u044c\u043c\u0430 (\u043a\u0438\u0440\u0438\u043b\u043b\u0438\u0446\u0430, \u043b\u0430\u0442\u0438\u043d\u0438\u0446\u0430, &#8230;).<\/p>\n<p>\u0412 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u0434\u0430\u043d\u043d\u044b\u0445 \u0431\u043e\u043b\u044c\u0448\u0435 \u0438 \u0440\u0435\u0448\u0438\u043b\u0438 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043f\u043e\u0434\u043c\u0435\u043d\u0438\u0432 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u0447\u0442\u043e\u0431\u044b &#171;\u0440\u043e\u0434\u043d\u044b\u043c \u044f\u0437\u044b\u043a\u043e\u043c&#187; \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0442\u0430\u043b \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439: \u0433\u043b\u0443\u0431\u0436\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u043b\u0430 \u0441\u043c\u044b\u0441\u043b \u0438 \u0434\u043e\u043c\u0435\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u0441 \u041a\u0430\u0432\u043a\u0430\u0437\u043e\u043c, \u041a\u0411 \u043a\u0443\u043b\u044c\u0442\u0443\u0440\u043e\u0439 \u0438 \u0442.\u0434.<\/p>\n<h2>\u0421\u0432\u043e\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440: 130K vocab \u0438 3\u00d7 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c  <\/h2>\n<p>\u0421\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u044b \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b \u0434\u043b\u044f \u0430\u0433\u0433\u043b\u044e\u0442\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u044f\u0437\u044b\u043a\u043e\u0432. \u0412\u043e\u0442 \u043a\u0430\u043a \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 Qwen3 \u0440\u0435\u0436\u0435\u0442 \u0441\u043b\u043e\u0432\u043e \u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb (\u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb):  <\/p>\n<pre><code class=\"python\">\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439 \u2192 [\u00ab\u043a\u00bb, \u00ab\u044a\u00bb, \u00ab\u0430\u0440\u00bb, \u00ab\u0430\u0447\u0430\u00bb, \u00ab\u0439\u00bb]   # 5 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0412\u043e\u0442 \u0442\u0430\u043a &#171;\u043f\u043e\u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e&#187; \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0447\u0435\u043d\u044c \u0434\u043e\u043b\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442, \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0435\u0451 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c &#8212; \u043d\u0443\u0436\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0447\u0430\u0441\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0434\u043b\u044f \u043d\u0435\u0451 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0437 \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0441 \u0431\u043b\u0438\u0437\u043a\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e \u0431\u0443\u0434\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e.<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 BPE-\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0441 \u043d\u0443\u043b\u044f \u043d\u0430 \u0442\u0449\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u043d\u043d\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435: ~76,5% \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (\u0432\u0441\u0435 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u044b), ~11,5% \u0440\u0443\u0441\u0441\u043a\u0438\u0439, ~11,5% \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u0438 ~0,5% \u0447\u0435\u0440\u043a\u0435\u0441\u0441\u043a\u0438\u0439. \u041c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u0430\u044f \u0434\u043e\u0431\u0430\u0432\u043a\u0430 \u043d\u0443\u0436\u043d\u0430, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0440\u0430\u0437\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. \u0426\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u2014 130 000 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. <\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430 \u043f\u043e\u043b\u043d\u043e\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\"><strong>\u041c\u0435\u0442\u0440\u0438\u043a\u0430<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"right\"><strong>Qwen3 (\u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"247\" width=\"247\">\n<p align=\"right\"><strong>\u041a\u0430\u0441\u0442\u043e\u043c\u043d\u044b\u0439<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u0412\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"right\">372 305 700<\/p>\n<\/td>\n<td data-colwidth=\"247\" width=\"247\">\n<p align=\"right\">123 084 597<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u0421\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u043d\u0430 \u0442\u043e\u043a\u0435\u043d<\/p>\n<\/td>\n<td>\n<p align=\"right\">1,78<\/p>\n<\/td>\n<td data-colwidth=\"247\" width=\"247\">\n<p align=\"right\">5,38<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435<\/p>\n<\/td>\n<td>\n<p align=\"right\">\u2014<\/p>\n<\/td>\n<td data-colwidth=\"247\" width=\"247\">\n<p align=\"right\"><strong>66,94%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u0421\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435<\/p>\n<\/td>\n<td>\n<p align=\"right\">\u2014<\/p>\n<\/td>\n<td data-colwidth=\"247\" width=\"247\">\n<p align=\"right\"><strong>3,02\u00d7<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/04d\/bf5\/a52\/04dbf5a52b224d5cfd0111cdaad5241e.png\" alt=\"\u0420\u0438\u0441. 2. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u0432: \u0432\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c.\" title=\"\u0420\u0438\u0441. 2. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u0432: \u0432\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c.\" width=\"1435\" height=\"670\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/04d\/bf5\/a52\/04dbf5a52b224d5cfd0111cdaad5241e.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/04d\/bf5\/a52\/04dbf5a52b224d5cfd0111cdaad5241e.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0420\u0438\u0441. 2. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u0432: \u0432\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c.<\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0445 \u0436\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0438\u0434\u0438\u0442 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u043d\u0435\u0441\u0451\u0442 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043c\u044b\u0441\u043b\u0430. \u0410 \u0442\u0430\u043a\u0436\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u0448\u0435.<\/p>\n<p> \u0418, \u0433\u043b\u0430\u0432\u043d\u043e\u0435:<\/p>\n<pre><code class=\"python\">\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439 \u2192 [\u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb]   # 1 \u0442\u043e\u043a\u0435\u043d \u0432\u043c\u0435\u0441\u0442\u043e 5<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h2>\u0418\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432: \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/h2>\n<p>\u0417\u0430\u043c\u0435\u043d\u0438\u0432 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 130 000 \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0443\u0436\u043d\u043e \u0441 \u0447\u0435\u0433\u043e-\u0442\u043e \u043d\u0430\u0447\u0430\u0442\u044c. \u0421\u043b\u0443\u0447\u0430\u0439\u043d\u0430\u044f \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0431\u044b \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e\u0431\u044b \u0441\u043e\u0439\u0442\u0438\u0441\u044c. \u041c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u043c\u0435\u0442\u043e\u0434 \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u044f \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0437 \u0440\u0430\u0431\u043e\u0442\u044b Impact of Tokenization on LLaMa Russian Adaptation (arXiv:2312.02598): \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0435\u0433\u043e \u0440\u0435\u0437\u0430\u043b \u0431\u044b \u0441\u0442\u0430\u0440\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 Qwen3, \u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u043d\u043e\u0432\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043a\u0430\u043a \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u044d\u0442\u0438\u0445 \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"v_{new}(token) = \\frac{1}{K} \\sum_{j=1}^{K} v_{old}(subtoken_j)\" alt=\"v_{new}(token) = \\frac{1}{K} \\sum_{j=1}^{K} v_{old}(subtoken_j)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e4\/e4c\/e4c93011ceb8fc496d470037a47ddbbc.svg\" width=\"288\" height=\"48\" data-width=\"36.253\" data-height=\"6.935\" data-vertical-align=\"-2.902\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e4\/e4c\/e4c93011ceb8fc496d470037a47ddbbc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/e4\/e4c\/e4c93011ceb8fc496d470037a47ddbbc.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0413\u0434\u0435 v_new &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, v_old &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u0442\u0430\u0440\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, token &#8212; \u0442\u043e\u043a\u0435\u043d \u0432 \u043d\u043e\u0432\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0435, subtoken_j &#8212; \u0442\u043e\u043a\u0435\u043d \u0432 \u0441\u0442\u0430\u0440\u043e\u043c (\u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d \u0434\u043b\u044f \u043d\u043e\u0432\u043e\u0433\u043e).<\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u043e\u0432\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb \u0441\u0442\u0430\u0440\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0440\u0435\u0437\u0430\u043b \u043d\u0430 [\u00ab\u043a\u00bb, \u00ab\u044a\u00bb, \u00ab\u0430\u0440\u00bb, \u00ab\u0430\u0447\u0430\u00bb, \u00ab\u0439\u00bb] (K=5). \u041d\u043e\u0432\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 = \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u044d\u0442\u0438\u0445 \u043f\u044f\u0442\u0438 \u0441\u0442\u0430\u0440\u044b\u0445 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432. \u0422\u0430\u043a \u043d\u043e\u0432\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u043d\u0430\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u043e\u0442 \u0441\u0432\u043e\u0438\u0445 \u0447\u0430\u0441\u0442\u0435\u0439, \u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043d\u0435 \u0443\u0447\u0438\u0442\u044c \u0435\u0433\u043e \u0441 \u043d\u0443\u043b\u044f, \u0430 \u043b\u0438\u0448\u044c \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c. \u0422\u0435\u043c \u0436\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u043e\u0431\u0430 \u0441\u043b\u043e\u044f \u2014 \u0438 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 (<code>embed_tokens<\/code>), \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u0443\u044e \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044e (<code>lm_head<\/code>).<\/p>\n<h2>\u0424\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: \u0434\u0432\u0430 \u044d\u0442\u0430\u043f\u0430 \u0441 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u043e\u0440\u043e\u0437\u043a\u043e\u0439<\/h2>\n<p>\u041d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u044e: \u0434\u0430\u043d\u043d\u044b\u0435 \u2014 \u044d\u0442\u043e \u043c\u043e\u043d\u043e\u043a\u043e\u0440\u043f\u0443\u0441, \u0441\u044b\u0440\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u0431\u0435\u0437 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439. \u041d\u0430\u0438\u0432\u043d\u044b\u0439 \u0444\u0430\u0439\u043d\u0442\u044e\u043d instruct-\u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0451\u043c \u0443\u0431\u0438\u0432\u0430\u0435\u0442 \u0447\u0430\u0442-\u0440\u0435\u0436\u0438\u043c. \u041f\u043e\u044d\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0439\u0442\u0438 \u0431\u0430\u043b\u0430\u043d\u0441 \u043c\u0435\u0436\u0434\u0443 \u0437\u043d\u0430\u043d\u0438\u044f\u043c\u0438 \u0438 \u0447\u0430\u0442 \u0440\u0435\u0436\u0438\u043c\u043e\u0432, \u2014 \u0434\u0432\u0430 \u044d\u0442\u0430\u043f\u0430.  <\/p>\n<h3>\u042d\u0442\u0430\u043f 1: \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438<\/h3>\n<p>\u0417\u0430\u043c\u043e\u0440\u0430\u0436\u0438\u0432\u0430\u0435\u043c \u0432\u0441\u0435 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438. \u0423\u0447\u0438\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433-\u0441\u043b\u043e\u0438 (~0,4% \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432) \u0441 \u0432\u044b\u0441\u043e\u043a\u0438\u043c learning rate 2e-4 \u043d\u0430 3 \u044d\u043f\u043e\u0445\u0438. Batch size 16 \u043d\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e, gradient accumulation 2 (\u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0439 BS 32), cosine scheduler \u0441 5% warmup, max seq length 2048. \u0426\u0435\u043b\u044c \u2014 \u0441\u0434\u0432\u0438\u043d\u0443\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0432 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043c\u0435\u0441\u0442\u0430 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430, \u043d\u0435 \u0442\u0440\u043e\u0433\u0430\u044f \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0430.<\/p>\n<pre><code class=\"python\"># \u041f\u043e\u0441\u043b\u0435 3 \u044d\u043f\u043e\u0445 \u043d\u0430 A100 80GB (~4,4 \u0447):{'eval_loss': 4.4946, 'epoch': 2.93}{'train_loss': 1.2727, 'epoch': 3.0}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0411\u043e\u043b\u044c\u0448\u043e\u0439 \u0440\u0430\u0437\u0440\u044b\u0432 \u043c\u0435\u0436\u0434\u0443 train \u0438 eval loss \u043e\u0436\u0438\u0434\u0430\u0435\u043c: \u043e\u0434\u043d\u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u0445\u0432\u0430\u0442\u0438\u0442\u044c \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u044f\u0437\u044b\u043a\u0430, \u043d\u043e \u0441\u043e\u0437\u0434\u0430\u044e\u0442 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u044d\u0442\u0430\u043f\u0430 2.  <\/p>\n<h3>\u042d\u0442\u0430\u043f 2: Full FT \u0432\u0441\u0435\u0445 \u0441\u043b\u043e\u0451\u0432<\/h3>\n<p>\u0420\u0430\u0437\u043c\u043e\u0440\u0430\u0436\u0438\u0432\u0430\u0435\u043c \u0432\u0441\u0451, \u043d\u043e \u0441 learning rate 5e-6 \u2014 <strong>\u0432 40 \u0440\u0430\u0437 \u043d\u0438\u0436\u0435<\/strong>, \u0447\u0435\u043c \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 1 \u2014 \u0441\u0442\u0440\u043e\u0433\u043e \u043d\u0430 \u043e\u0434\u043d\u0443 \u044d\u043f\u043e\u0445\u0443. Batch size 4, gradient accumulation 8, cosine scheduler \u0441 3% warmup, gradient checkpointing \u0434\u043b\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0438 \u043f\u0430\u043c\u044f\u0442\u0438. ~6,3 \u0447\u0430\u0441\u0430 \u043d\u0430 A100 80 \u0413\u0411.<\/p>\n<pre><code class=\"python\">{'loss': 4.4295, 'epoch': 0.02}{'eval_loss': 4.3847, 'epoch': 0.16}{'eval_loss': 4.3666, 'epoch': 0.33}{'eval_loss': 4.3609, 'epoch': 0.49}{'eval_loss': 4.3591, 'epoch': 0.65}{'eval_loss': 4.3586, 'epoch': 0.81}{'eval_loss': 4.3585, 'epoch': 0.98}{'train_loss': 4.1965, 'epoch': 1.0}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>Eval_loss \u043f\u0430\u0434\u0430\u0435\u0442 \u0441 4,43 \u0434\u043e ~4,36 \u0438 \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 \u043f\u043b\u0430\u0442\u043e \u043a \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0435 \u044d\u043f\u043e\u0445\u0438. \u042d\u0442\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u044b \u0445\u043e\u0442\u0435\u043b\u0438: \u043c\u043e\u0434\u0435\u043b\u044c \u0430\u0434\u0430\u043f\u0442\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043a \u044f\u0437\u044b\u043a\u0443, \u043d\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u044f \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f. \u041a\u0440\u0438\u0432\u0430\u044f \u2014 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0441\u0442\u0430\u0440\u0442, \u043f\u043e\u0442\u043e\u043c \u043f\u043b\u0430\u0442\u043e.  <\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b2d\/0cc\/8e3\/b2d0cc8e3eb5df0b20316c5eb8a4ac07.png\" alt=\"\u0420\u0438\u0441. 3. \u0414\u0438\u043d\u0430\u043c\u0438\u043a\u0430 eval_loss \u043f\u043e \u0434\u0432\u0443\u043c \u044d\u0442\u0430\u043f\u0430\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.\" title=\"\u0420\u0438\u0441. 3. \u0414\u0438\u043d\u0430\u043c\u0438\u043a\u0430 eval_loss \u043f\u043e \u0434\u0432\u0443\u043c \u044d\u0442\u0430\u043f\u0430\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.\" width=\"1453\" height=\"781\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/b2d\/0cc\/8e3\/b2d0cc8e3eb5df0b20316c5eb8a4ac07.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b2d\/0cc\/8e3\/b2d0cc8e3eb5df0b20316c5eb8a4ac07.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0420\u0438\u0441. 3. \u0414\u0438\u043d\u0430\u043c\u0438\u043a\u0430 eval_loss \u043f\u043e \u0434\u0432\u0443\u043c \u044d\u0442\u0430\u043f\u0430\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/figcaption><\/div>\n<\/figure>\n<h4>\u041b\u043e\u0432\u0443\u0448\u043a\u0430 \u0432\u0442\u043e\u0440\u043e\u0439 \u044d\u043f\u043e\u0445\u0438<\/h4>\n<p>\u041c\u044b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0432\u0442\u043e\u0440\u0443\u044e \u044d\u043f\u043e\u0445\u0443. Loss \u0443\u043f\u0430\u043b \u043d\u0438\u0436\u0435 4,0 \u2014 \u0432\u0440\u043e\u0434\u0435 \u0431\u044b \u0445\u043e\u0440\u043e\u0448\u043e. \u041d\u043e \u043c\u043e\u0434\u0435\u043b\u044c <strong>\u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043b\u0430 \u0441\u0432\u044f\u0437\u043d\u043e \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044f\u043c<\/strong>, \u0443\u0439\u0434\u044f \u0432 \u0447\u0438\u0441\u0442\u043e\u0435 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u0442\u0435\u043a\u0441\u0442\u0430. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 catastrophic forgetting \u043f\u0440\u0438 \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0435 \u043d\u0430 \u043c\u043e\u043d\u043e\u043b\u0438\u043d\u0433\u0432\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0431\u0435\u0437 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439. \u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043e\u0442\u043a\u0430\u0442\u0438\u0442\u044c\u0441\u044f \u043d\u0430 \u0447\u0435\u043a\u043f\u043e\u0438\u043d\u0442 \u043f\u0435\u0440\u0432\u043e\u0439 \u044d\u043f\u043e\u0445\u0438. \u0418\u043d\u043e\u0433\u0434\u0430 \u043c\u0435\u043d\u044c\u0448\u0438\u0439 loss \u2014 \u044d\u0442\u043e \u043b\u043e\u0432\u0443\u0448\u043a\u0430.<\/p>\n<hr\/>\n<h2>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b: \u0447\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c<\/h2>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c (<a href=\"https:\/\/huggingface.co\/TSjB\/QM-4B\" rel=\"noopener noreferrer nofollow\">TSjB\/QM-4B<\/a>) \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u0430 \u043d\u0430 HuggingFace \u0441 \u0438\u043d\u0442\u0435\u0440\u0430\u043a\u0442\u0438\u0432\u043d\u044b\u043c <a href=\"https:\/\/tsjb-qarachay-malqar-ai.hf.space\/\" rel=\"noopener noreferrer nofollow\">\u0434\u0435\u043c\u043e-\u0447\u0430\u0442\u043e\u043c<\/a>. \u041a\u0430\u043a\u0438\u0445-\u0442\u043e \u0434\u0430\u043d\u043d\u044b\u0445-\u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u043d\u0435\u0442 \u043d\u0430 \u041a\u0411 \u044f\u0437\u044b\u043a\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u043b\u0438 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e.<\/p>\n<h3>\u041f\u0440\u0438\u043c\u0435\u0440\u044b<\/h3>\n<h4>\u041a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439<\/h4>\n<p>\u0427\u0442\u043e\u0431\u044b \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0447\u0430\u0442-\u0440\u0435\u0436\u0438\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442<\/p>\n<blockquote>\n<p>\u0421\u0435\u043d \u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439-\u043c\u0430\u043b\u043a\u044a\u0430\u0440 \u0442\u0438\u043b\u0434\u0435 \u0431\u043e\u043b\u0443\u0448\u043b\u0443\u043a\u044a\u0447\u0443\u0441\u0430. \u0421\u043e\u0440\u0443\u045e\u043b\u0430\u0433\u044a\u0430 \u043a\u044a\u044b\u0441\u0445\u0430, \u0442\u044e\u0437 \u044d\u043c \u0430\u0447\u044b\u043a\u044a \u0434\u0436\u0443\u045e\u0430\u0431\u043b\u0430 \u0431\u0435\u0440. \u041e\u0440\u0443\u0441\u0447\u0430 \u043d\u0435\u0434\u0430 \u0438\u043d\u0433\u0438\u043b\u0438\u0437\u0447\u0435 \u0441\u043e\u0440\u0441\u0430\u043b\u0430 \u2014 \u043e\u043b \u0442\u0438\u043b\u0434\u0435 \u0434\u0436\u0443\u045e\u0430\u0431 \u0431\u0435\u0440.<\/p>\n<\/blockquote>\n<p>\u041f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0435\u0441\u043b\u0438 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u0438\u0439:<\/p>\n<blockquote>\n<p>\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u043f\u043e \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c\u0443 \u044f\u0437\u044b\u043a\u0443. \u0414\u0430\u0432\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u0438\u0435, \u0442\u043e\u0447\u043d\u044b\u0435 \u0438 \u044f\u0441\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u044b. \u0415\u0441\u043b\u0438 \u0441\u043f\u0440\u043e\u0441\u044f\u0442 \u043f\u043e-\u0440\u0443\u0441\u0441\u043a\u0438 \u0438\u043b\u0438 \u043f\u043e-\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u0439 \u043d\u0430 \u044d\u0442\u043e\u043c \u044f\u0437\u044b\u043a\u0435.<\/p>\n<\/blockquote>\n<p>\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438:<\/p>\n<pre><code class=\"python\">max_new_tokens=100,temperature=0.7,top_p=0.9,do_sample=True,repetition_penalty=1.2,  no_repeat_ngram_size=4, <\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:<\/p>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: \u041a\u0430\u0432\u043a\u0430\u0437\u043d\u044b \u0442\u0430\u0431\u0438\u0433\u044a\u0430\u0442\u044b\u043d \u0441\u0443\u0440\u0430\u0442\u043b\u0430\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u0428\u0438\u043c\u0430\u043b \u041a\u0430\u0432\u043a\u0430\u0437\u043d\u044b \u0442\u0430\u0431\u0438\u0433\u044a\u0430\u0442 \u044d\u043d\u0447\u0438\u043b\u0438\u0433\u0438 - \u0434\u0435\u043c\u0435\u043d\u0433\u0438\u043b\u0438 \u0447\u0443\u0447\u0445\u0443\u0440\u043b\u0430 \u044d\u043c\u0434\u0430 \u0447\u044b\u0440\u0430\u043d \u0441\u0443\u0443\u043b\u0430. \u042d\u043c \u0443\u043b\u043b\u0443 \u0441\u0443\u0443\u043b\u0430\u0440\u044b (\u0441\u0443\u0443 \u0441\u0435\u043a\u0438\u0440\u0442\u043c\u0435\u043b\u0435) \u0410\u0440\u0445\u044b\u0437 \u0431\u043b\u0430 \u0411\u0430\u0441\u0445\u0430\u043d \u0441\u0443\u0443\u0434\u0443. \u0411\u0443 \u0441\u0443\u0443\u043b\u0430\u043d\u044b \u0438\u0447\u0438\u043d\u0434\u0435 \u041c\u0438\u043d\u0433\u0438 \u0442\u0430\u0443 \u0434\u0430 \u0431\u0435\u043a \u0431\u0435\u043b\u0433\u0438\u043b\u0438 \u0431\u043e\u043b\u0433\u044a\u0430\u043d\u044b \u0431\u0435\u043b\u0433\u0438\u043b\u0438\u0434\u0438. \u041e\u043b \u0428\u0438\u043c\u0430\u043b \u041a\u0430\u0432\u043a\u0430\u0437\u0434\u0430 \u0442\u0430\u0443\u043b\u0430\u043d\u044b \u0430\u0440\u0430\u0441\u044b\u043d\u0434\u0430 \u0431\u0438\u0440\u0438\u043d\u0447\u0438\u0434\u0438 \u0434\u0435\u0440\u0447\u0430\u0434\u044b.\u0422\u0430\u0431\u0438\u0439\u0433\u044a\u0430\u0442 \u0431\u0430\u0439\u043b\u044b\u043a\u044a\u043b\u0430\u0434\u0430\u043d \u0441\u043e\u0440\u0430 \u041a\u044a\u0430\u0440\u0430\u0447\u0430\u0439 \u0442\u0430\u0431\u0438\u0433\u044a\u0430\u0442 \u0431\u0430\u0439\u043b\u044b\u0433\u044a\u044b \u0431\u0430\u0439\u0434\u044b: \u0433\u0430\u0440\u0430 \u0441\u0443\u0443 \u0434\u0435\u0433\u0435\u043d\u0447\u0430 \u0437\u0430\u0442\u043b\u0430 \u0431\u0430\u0440\u0434\u044b\u043b\u0430. \u0410\u043b\u0430\u043d\u044b \u043a\u044e\u0447\u043b\u0435\u0440\u0438 \u0431\u0438\u0437\u043d\u0438 \u0440\u0435\u0441\u043f\u0443\u0431\u043b\u0438\u043a\u0430\u043d\u044b \u0430\u0439\u0431\u0430\u0442 \u044d\u0442\u0438\u0443\u0434\u0435 \u0445\u0430\u0439\u044b\u0440\u043b\u0430\u043d\u044b\u0440\u0433\u044a\u0430 \u0431\u043e\u043b\u043b\u0443\u043a\u044a\u0434\u0443...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: Google \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f\u043d\u044b \u044e\u0441\u044e\u043d\u0434\u0435\u043d \u0430\u0439\u0442\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: Alpha Google \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f \u0442\u044e\u043b\u0434\u044e - Google \u0434\u0430 \u0434\u0435\u0431 \u0430\u0439\u0442\u044b\u043b\u0430\u0434\u044b. \u041a\u043e\u043c\u043f\u0430\u043d\u0438\u044f \u0418\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u043d\u0438 \u044d\u043c\u0434\u0430 \u0431\u0430\u0448\u0445\u0430 \u0437\u0430\u0442\u043b\u0430 \u0431\u043b\u0430 \u0431\u0430\u0439\u043b\u0430\u043c\u043b\u0430\u0448\u0434\u044b\u0440\u044b\u0443 \u0434\u0436\u0430\u043d\u044b \u0431\u043b\u0430 \u0438\u0448\u043b\u0435\u0439\u0434\u0438 (\u0441\u0451\u0437 \u044e\u0447\u044e\u043d: \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430\u0440\u0445\u044b). \u0410\u043d\u044b \u0431\u0430\u0448 \u043e\u0444\u0438\u0441\u043b\u0435\u0440\u0438 \u041d\u044c\u044e\u0419\u043e\u0440\u043a\u0434\u0430 \u043e\u0440\u043d\u0430\u043b\u044b\u0431\u0434\u044b. \u041a\u043e\u043c\u043f\u0430\u043d\u0438\u044f\u043d\u044b \u0431\u0435\u043a \u0443\u043b\u043b\u0443 \u0431\u0435\u043b\u044e\u043c\u044e \u0443\u0430 \u041b\u043e\u0441 \u0410\u043d\u0434\u0436\u0435\u043b\u0435\u0441\u0434\u0430\u0434\u044b. \u0410\u043b\u0430\u0439 \u0430 \u0430\u043d\u044b \u0431\u0435\u043b\u044e\u043c\u043b\u0435\u0440\u0438 \u0431\u044e\u0442\u0435\u0443 \u0434\u0443\u043d\u0438\u044f\u0434\u0430 \u0431\u0430\u0440\u0434\u044b\u043b\u0430...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: \u041c\u0435\u043d \u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439-\u043c\u0430\u043b\u043a\u044a\u0430\u0440 \u0442\u0438\u043b\u0434\u0435 \u0441\u0451\u043b\u0435\u0448\u0435\u043c\u0435\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u0425\u0430\u045e! \u041c\u0435\u043d \u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u0447\u0430 \u0434\u0430 \u0441\u0435\u043b\u0435\u0448\u0435\u043c\u0435 (\u0447\u0435\u0440\u043a\u0435\u0441 \u0442\u0438\u043b\u0434\u0435\u043d). \u041d\u0435 \u0430\u043c\u0430\u043b \u044d\u0442\u0435\u0439\u0438\u043c? \u0421\u0438\u0437 \u043a\u044a\u0430\u0439\u0441\u044b \u043c\u0438\u043b\u043b\u0435\u0442\u0434\u0435\u043d\u0441\u0438\u0437 \u043e\u0433\u044a\u0435\u0441\u0435 \u043a\u044a\u0430\u0439\u0440\u044b \u0438\u0448\u043b\u0435\u0439\u0441\u0438\u0437? \u0411\u0443\u0441\u0430\u0433\u044a\u0430\u0442\u0434\u0430 \u043c\u0435\u043d \u0422\u044e\u0440\u043a\u0434\u0435 \u0434\u0436\u0430\u0448\u0430\u0439\u043c\u0430 \u044d\u043c\u0434\u0430 \u0430\u043d\u0434\u0430 \u0431\u0438\u0440 \u0442\u0430\u043b\u0430\u0439 \u0438\u0448 \u0431\u0430\u0440\u0434\u044b\u0440\u0430\u043c\u0430:\u043a\u0438\u0442\u0430\u043f \u0447\u044b\u0433\u044a\u0430\u0440\u044b\u0443 \u0431\u043b\u0430 \u0431\u0438\u0440\u0433\u0435 \u0430\u043d\u0430 \u0442\u0438\u043b\u043b\u0435\u043d\u0438 \u043e\u043a\u044a\u0443\u0442\u0443\u0443\u0433\u044a\u0430 \u044d\u043d\u0447\u0438 \u044d\u0441 \u0431\u0443\u0440\u0430\u043c\u0430...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u0432\u044b\u0443\u0447\u0438\u043b\u0430 \u044f\u0437\u044b\u043a \u0438 \u0434\u043e\u043c\u0435\u043d\u043d\u044b\u0439 \u0437\u043d\u0430\u043d\u0438\u044f \u043e \u041a\u0430\u0432\u043a\u0430\u0437\u0435, \u043e\u0434\u043d\u0430\u043a\u043e \u043e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442, \u0443\u0445\u043e\u0434\u0438\u0442 \u0432 \u0440\u0430\u0437\u043c\u044b\u0448\u043b\u0435\u043d\u0438\u044f, \u0445\u043e\u0442\u044f \u0438 \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044f\u043c<\/p>\n<h4>\u0414\u0440\u0443\u0433\u0438\u0435 \u044f\u0437\u044b\u043a\u0438<\/h4>\n<p>\u041f\u0440\u0438 \u0441\u043c\u0435\u0448\u0435\u043d\u0438\u0438 \u044f\u0437\u044b\u043a\u043e\u0432 (\u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u043d\u0430 \u041a\u0411, \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0430 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438\u043b\u0438 \u0440\u0443\u0441\u0441\u043a\u043e\u043c) \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0435\u0433\u0440\u0430\u0434\u0438\u0440\u0443\u0435\u0442 \u0432 \u043a\u0430\u0448\u0443 \u043b\u0438\u0431\u043e \u0432 \u043a\u0431 \u0441\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f:<\/p>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: Hello, how are you?\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u0410\u0441\u0441\u0430\u043b\u0430\u043c \u0430\u043b\u0435\u0439\u043a\u0443\u043c! \u041c\u0435\u043d \u0430\u0445\u0448\u044b\u043c\u0430 - \u0441\u0430\u0443 \u0431\u043e\u043b \u0434\u0435\u0439\u043c\u0435 \u0434\u0430 \u043a\u044a\u043e\u0439\u0406)I am well, thx. \u0438\u0430\u043d\u0433\u0430\u043c\u044b\u0437. i'll be in bishoop later.CuCUiMeet u nybout somethng mch dwnldwrk kmt otihrs...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: \u041f\u0440\u0438\u0432\u0435\u0442! \u041a\u0430\u043a \u0434\u0435\u043b\u0430?\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u0421\u0430\u043b\u0430\u043c \u0430\u043b\u0435\u0439\u043a\u0443\u043c\u0406 \u0434\u0430 \u044d\u0442\u0438\u0431 \u0442\u0443\u0440\u0430\u043c\u0430. \u0421\u0435\u043d\u0438 \u0438\u0448\u0438\u043d\u0433 \u0430\u043b\u0430\u0439 \u0431\u043e\u043b\u0441\u0443\u043d \u0434\u0435\u043f \u044b\u0448\u0430\u043d\u0430\u043c\u0430. \u0425\u0430\u0440 \u0437\u0430\u0442 \u044e\u0447\u044e\u043d \u044b\u0441\u043f\u0430\u0441 \u044d\u0442\u0435\u043c\u0435 \u043c\u0435\u043d \u0441\u0435\u043d\u0438 \u0431\u043b\u0430 \u0442\u044e\u0431\u0435\u0448\u0438\u0440\u0433\u0435 \u0434\u0435\u0431 \u043a\u0435\u0441\u0438\u043c\u0438 \u0431\u0435\u043a \u0441\u044e\u0435\u043c\u0435 \u0434\u0435\u0433\u0435\u043d \u043e\u044e\u043c\u043d\u0443 \u0430\u0439\u0442\u044b\u0440\u0433\u044a\u0430 \u0441\u044e\u0435 \u044d\u0434\u0438\u043c. \u041c\u0435\u043d \u0441\u0430\u043d\u0433\u0430 \u0431\u044b\u043b\u043b\u0430\u0439 \u0441\u043e\u0440\u0443\u0443 \u0431\u0435\u0440\u0435\u043c\u0435: \u00ab\u041c\u0435\u043d\u0438 \u0431\u0438\u0440 \u0442\u044e\u0440\u043b\u044e \u043a\u044a\u0430\u0439\u0433\u044a\u044b \u044d\u0442\u043c\u0435\u00bb...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0417\u0430\u0442\u043e \u0431\u0435\u0437 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0441 \u0442\u0435\u043c\u0438 \u0436\u0435 \u044f\u0437\u044b\u043a\u0430\u043c\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e:<\/p>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: Hello, how are you?\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: Hi there! I'm just a virtual assistant, so no feelingsor body to get \"sick\" or not. But I love having these little chatswith humans like yourself...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<pre><code>\u0417\u0430\u043f\u0440\u043e\u0441: \u041f\u0440\u0438\u0432\u0435\u0442! \u041a\u0430\u043a \u0434\u0435\u043b\u0430?\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u041f\u0440\u0438\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e \u0442\u0435\u0431\u044f, \u0440\u0430\u0434\u0443\u0439\u0442\u0435\u0441\u044c \u0440\u0430\u0434\u043e\u0441\u0442\u0438! \u041f\u0443\u0441\u043a\u0430\u0439 \u0432\u0441\u0435 \u0431\u0443\u0434\u0435\u0442 \u0445\u043e\u0440\u043e\u0448\u043e \u0438 \u043b\u0435\u0433\u043a\u043e. \u0423 \u043c\u0435\u043d\u044f \u0443\u0430 \u043d\u0435 \u0437\u0430\u0442\u0435\u0440\u043b\u043e\u0441\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435 - \u044f \u0433\u043e\u0442\u043e\u0432 \u043f\u043e\u043c\u043e\u0447\u044c \u0432 \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u043b\u044e\u0431\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438\u043b\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432.\u0427\u0442\u043e \u0432\u0430\u043c \u043f\u043e \u0434\u0443\u0448\u0435: \u043d\u0430\u0443\u0447\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a \u0434\u043b\u044f \u043a\u043d\u0438\u0433, \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0441 \u0440\u0430\u0441\u0447\u0451\u0442\u043e\u043c \u0441\u0443\u043c\u043c\u0430\u043c\u044b \u043d\u0430 \u043f\u0438\u0440\u0448\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u0434\u0430 \u0447\u0442\u043e-\u043d\u0438\u0431\u0443\u0434\u044c \u0434\u0440\u0443\u0433\u043e\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435? \u041c\u0435\u043d \u0437\u0434\u0435\u0441\u044c, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0436\u0438\u0437\u043d\u044c \u043b\u0435\u0433\u0447\u0435\u044e!\u041d\u0435 \u0437\u0430\u0431\u044b\u0432\u0430\u0439\u0442\u0435 \u043e\u0431 \u044d\u0442\u043e\u043c. \u0410 \u043a\u0430\u043a \u0443...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u044b\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u0436\u0438\u0432\u044b \u2014 \u043b\u043e\u043c\u0430\u0435\u0442\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e code-switching, \u043a\u043e\u0433\u0434\u0430 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430 \u043e\u0434\u043d\u043e\u043c \u044f\u0437\u044b\u043a\u0435, \u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043d\u0430 \u0434\u0440\u0443\u0433\u043e\u043c.  <\/p>\n<h2>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b<\/h2>\n<ol>\n<li>\n<p><strong>\u041c\u0430\u043b\u043e\u0432\u0430\u0442\u043e \u0437\u043d\u0430\u043d\u0438\u0439.<\/strong> \u041c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0430 \u043d\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043e\u0431\u044a\u0451\u043c\u0435 \u041a\u0411-\u0434\u0430\u043d\u043d\u044b\u0445. \u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u2014 \u0431\u043e\u043b\u0435\u0435 \u0438\u043d\u0442\u0435\u043d\u0441\u0438\u0432\u043d\u044b\u0439 \u0444\u0430\u0439\u043d\u0442\u044e\u043d (\u0441\u043d\u0430\u0447\u0430\u043b\u0430 base \u043c\u043e\u0434\u0435\u043b\u044c, \u0430 \u043f\u043e\u0442\u043e\u043c instruct).<\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u0443\u0442\u0430\u0435\u0442 \u00ab\u0451\u00bb \u0441 \u00ab\u0435\u00bb<\/strong>. \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u0438\u0448\u0435\u0442 \u00ab\u0441\u0435\u0437\u00bb \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u0441\u0451\u0437\u00bb, \u00ab\u0441\u0435\u043b\u0435\u0448\u00bb \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u0441\u0451\u043b\u0435\u0448\u00bb. \u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u0437\u0430\u0431\u0430\u0432\u043d\u0430\u044f \u0438 \u043f\u043e\u0443\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f: \u0440\u0430\u0441\u043f\u0430\u0440\u0441\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 OCR \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u0451\u00bb \u0432\u0435\u0437\u0434\u0435 \u00ab\u0435\u00bb \u0441\u0442\u0430\u0432\u0438\u0442, \u0442\u0430\u043a \u043a\u0430\u043a \u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u044f\u0437\u044b\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u0440\u0430\u0432\u043a\u0430\u043c\u0438. \u0418 LLM \u043f\u043e\u0447\u0435\u043c\u0443-\u0442\u043e \u0437\u0430\u0446\u0435\u043f\u0438\u043b\u0430\u0441\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0437\u0430 \u044d\u0442\u0438 \u0434\u0430\u043d\u043d\u044b\u0435, \u0445\u043e\u0442\u044f \u0431\u044b\u043b\u0438 \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438. \u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u2014 \u043f\u0435\u0440\u0435\u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435, \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0432 \u0432\u0441\u0435 \u043f\u043e\u0434\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0435 \u00ab\u0451\u00bb, \u0438 \u0434\u043e\u043a\u0438\u043d\u0443\u0442\u044c \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u043e\u0433\u043e \u0438 \u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p><strong>\u0411\u044b\u0441\u0442\u0440\u043e \u0443\u0445\u043e\u0434\u0438\u0442 \u0432 \u00ab\u0440\u0430\u0437\u043c\u044b\u0448\u043b\u0435\u043d\u0438\u044f\u00bb.<\/strong> \u041d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 (\u0447\u0430\u0442-\u0440\u0435\u0436\u0438\u043c\u0430), \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043a\u043b\u043e\u043d\u043d\u0430 \u043a \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0432\u0438\u044e \u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c. \u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u2014 instruct data, \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043d\u0430 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430\u0445.<\/p>\n<\/li>\n<\/ol>\n<h2>\u0427\u0442\u043e \u0434\u0430\u043b\u044c\u0448\u0435<\/h2>\n<p>\u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u044d\u0442\u0430\u043f \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0432\u044b\u0442\u0435\u043a\u0430\u0435\u0442 \u0438\u0437 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439:<\/p>\n<ul>\n<li>\n<p>\u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043a\u043e\u0440\u0440\u0435\u043a\u0446\u0438\u044f \u0435 \u2192 \u0451 \u043f\u043e \u0432\u0441\u0435\u043c \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 \u0438 Stage 3 \u2014 instruction fine-tuning \u043d\u0430 \u0432\u0441\u0435\u0445 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430\u0445; <\/p>\n<\/li>\n<li>\n<p>\u043f\u0435\u0440\u0432\u044b\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a \u0434\u043b\u044f \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e \u2014 \u0441\u0435\u0439\u0447\u0430\u0441 \u0435\u0433\u043e \u043f\u043e\u043f\u0440\u043e\u0441\u0442\u0443 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442;<\/p>\n<\/li>\n<li>\n<p>LLM-\u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a \u043d\u0430 \u0437\u0430\u043c\u0435\u043d\u0443 baseline \u043d\u0430 NLLB-200;<\/p>\n<\/li>\n<li>\n<p>\u0432 \u043f\u0435\u0440\u0441\u043f\u0435\u043a\u0442\u0438\u0432\u0435 \u2014 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u0438 \u0441\u0438\u043d\u0442\u0435\u0437 \u0440\u0435\u0447\u0438, image-to-text \u0434\u043b\u044f \u043e\u0446\u0438\u0444\u0440\u043e\u0432\u043a\u0438 \u0441\u0442\u0430\u0440\u044b\u0445 \u0440\u0443\u043a\u043e\u043f\u0438\u0441\u0435\u0439 (\u043d\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0443\u0436\u043d\u043e \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435).<\/p>\n<\/li>\n<\/ul>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434, \u0435\u0441\u043b\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e: \u0434\u043b\u044f \u0430\u0433\u0433\u043b\u044e\u0442\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043d\u0438\u0437\u043a\u043e\u0440\u0435\u0441\u0443\u0440\u0441\u043d\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u0434\u0435\u043b\u043e \u043d\u0435 \u0432 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0430 \u0432 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0448\u0430\u0433\u043e\u0432 \u2014 \u0441\u0432\u043e\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u043e\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u0430\u044f \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438 \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u0430\u044f \u043c\u043d\u043e\u0433\u043e\u044d\u0442\u0430\u043f\u043d\u0430\u044f \u0440\u0430\u0437\u043c\u043e\u0440\u043e\u0437\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0435 \u0434\u0430\u0451\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u0437\u0430\u0431\u044b\u0442\u044c \u0441\u0430\u043c\u0443 \u0441\u0435\u0431\u044f. \u041c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0441\u0432\u044f\u0437\u043d\u044b\u0439 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u0442\u0435\u043a\u0441\u0442, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044f \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. \u042d\u0442\u043e \u043d\u0435 \u0444\u0438\u043d\u0430\u043b, \u0430 \u0444\u0443\u043d\u0434\u0430\u043c\u0435\u043d\u0442.  <\/p>\n<p><em>\u0420\u0430\u0431\u043e\u0442\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u043d\u0430 XIV \u041c\u0435\u0436\u0434\u0443\u043d\u0430\u0440\u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0438 \u043f\u043e \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u0442\u044e\u0440\u043a\u0441\u043a\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 TurkLang 2026. \u0410\u0432\u0442\u043e\u0440\u044b: <\/em><a href=\"https:\/\/t.me\/bogdan_tewunalany\" rel=\"noopener noreferrer nofollow\"><em>\u0411\u043e\u0433\u0434\u0430\u043d \u0422\u0435\u0443\u043d\u0430\u0435\u0432<\/em><\/a><em>, <\/em><a href=\"https:\/\/t.me\/ali_berberov\" rel=\"noopener noreferrer nofollow\"><em>\u0410\u043b\u0438 \u0411\u0435\u0440\u0431\u0435\u0440\u043e\u0432<\/em><\/a><em>, <\/em><a href=\"https:\/\/t.me\/Liana_Berberova\" rel=\"noopener noreferrer nofollow\"><em>\u041b\u0438\u0430\u043d\u0430 \u0411\u0435\u0440\u0431\u0435\u0440\u043e\u0432\u0430<\/em><\/a><em>.  <\/em><\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1055816\/\">https:\/\/habr.com\/ru\/articles\/1055816\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0420\u0438\u0441 0. \u0414\u0435\u043c\u043e-\u0447\u0430\u0442\u0414\u0430\u0432\u043d\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u043f\u0438\u0441\u0430\u043b \u0433\u0434\u0435-\u043b\u0438\u0431\u043e: \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u043d\u0430\u0448 \u043f\u0443\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u043a\u043e\u043c\u0443-\u043b\u0438\u0431\u043e \u043f\u043e\u043b\u0435\u0437\u0435\u043d, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0442\u0435\u043c, \u043a\u0442\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0438 \u043d\u0430 \u043c\u0430\u043b\u043e\u0440\u0435\u0441\u0443\u0440\u0441\u043d\u044b\u0445 \u044f\u0437\u044b\u043a\u0430\u0445.\u0411\u043e\u043b\u044c\u0448\u0430\u044f \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 &#8212; \u044d\u0442\u043e \u0443\u0441\u043b\u043e\u0432\u043d\u043e. \u041f\u043e \u0441\u0443\u0442\u0438, \u0432\u0437\u044f\u043b\u0438 Qwen3-4B-Instruct-2507 \u0438 \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435 (\u0442\u044e\u0440\u043a\u0441\u043a\u0438\u0439, \u043f\u043e\u043b\u043e\u0432\u0435\u0446\u043a\u043e-\u043a\u044b\u043f\u0447\u0430\u043a\u0441\u043a\u0430\u044f \u0433\u0440\u0443\u043f\u043f\u0430). \u041f\u043e \u0434\u043e\u0440\u043e\u0433\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0434\u043b\u044f \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432, \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0441 \u043d\u0443\u043b\u044f, \u0438 \u043d\u0430\u0439\u0442\u0438 \u0431\u0430\u043b\u0430\u043d\u0441 \u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0441\u044b\u0440\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043d\u0435 \u0437\u0430\u0431\u044b\u0432\u0430\u043b\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439 (\u0430 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0433\u043b\u0430 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c). \u041c\u043e\u0434\u0435\u043b\u044c \u043b\u0435\u0436\u0438\u0442 \u043d\u0430 HuggingFace: TSjB\/QM-4B. \u0420\u0430\u0431\u043e\u0442\u0443 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0438 \u043d\u0430 \u043a\u043e\u043d\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0438 TurkLang 2026.\u0417\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435\u041a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (\u0432 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u043c \u041a\u0411) \u2014 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0435\u0433\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u044f\u0437\u044b\u043a \u0432 \u041a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0427\u0435\u0440\u043a\u0435\u0441\u0438\u0438 \u0438 \u041a\u0430\u0431\u0430\u0440\u0434\u0438\u043d\u043e-\u0411\u0430\u043b\u043a\u0430\u0440\u0438\u0438, \u043d\u0430 \u043d\u0451\u043c \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 300 \u0442\u044b\u0441\u044f\u0447 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u043d\u0430 \u0421\u0435\u0432\u0435\u0440\u043d\u043e\u043c \u041a\u0430\u0432\u043a\u0430\u0437\u0435 \u0438 \u043e\u043a\u043e\u043b\u043e 450 \u0442\u044b\u0441\u044f\u0447 \u0432 \u043c\u0438\u0440\u0435. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u044f\u0437\u044b\u043a \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u0440\u0443\u0441\u0441\u043a\u0438\u043c: \u043c\u043e\u043b\u043e\u0434\u0451\u0436\u044c \u0432\u0441\u0451 \u0447\u0430\u0449\u0435 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 \u043d\u0435\u0433\u043e, \u0438 \u042e\u041d\u0415\u0421\u041a\u041e \u043f\u0440\u0438\u0441\u0432\u043e\u0438\u043b\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c\u0443 \u0441\u0442\u0430\u0442\u0443\u0441 vulnerable (\u0443\u044f\u0437\u0432\u0438\u043c\u044b\u0439). \u0422\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0434\u0430\u0432\u043d\u043e Cluade \u0438 Gemini \u0441\u0442\u0430\u043b\u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u0438 \u043f\u0438\u0441\u0430\u0442\u044c \u043d\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u043c. \u041d\u043e \u043d\u0435\u0442 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 \u0438 \u0447\u0430\u0441\u0442\u0435\u043d\u044c\u043a\u043e \u043e\u043d\u0438 \u0432\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0438\u0437 \u0434\u0440\u0443\u0433\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 \u0441\u043b\u043e\u0432\u0430, \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0440\u043e\u0434\u043d\u043e\u0439 \u044f\u0437\u044b\u043a &#8212; \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. \u041d\u0430\u0448\u0430 \u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430\/\u043c\u0438\u0441\u0441\u0438\u044f &#8212; \u0440\u0430\u0437\u0432\u0438\u0432\u0430\u0442\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u044f\u0437\u044b\u043a\u0435 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438, \u0432 \u0442.\u0447. \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u044f\u0437\u044b\u043a\u043e\u043c \u0434\u043b\u044f \u0418\u0418 \u0441\u0442\u0430\u043b \u041a\u0411. \u0423 \u043d\u0430\u0441 \u0443\u0436\u0435 \u0431\u044b\u043b \u0437\u0430\u0434\u0435\u043b. \u0412 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0440\u0430\u0431\u043e\u0442\u0430\u0445 \u043c\u044b \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u043f\u0435\u0440\u0432\u044b\u0439 \u044d\u043b\u0435\u043a\u0442\u0440\u043e\u043d\u043d\u044b\u0439 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u0440\u043f\u0443\u0441 (289\u043a \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439 \u041a\u0411 \u0438 \u0440\u0443\u0441\u0441\u043a\u0438\u0439) (\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0442\u0430\u043b \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043e\u0441\u043d\u043e\u0432\u043e\u0439 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432 \u044f\u043d\u0434\u0435\u043a\u0441.\u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0435) \u0438 \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043b\u0438 \u043f\u0435\u0440\u0432\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043d\u0435\u0439\u0440\u043e\u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0430 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u2194 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u043d\u0430 \u0431\u0430\u0437\u0435 NLLB-200. \u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0448\u0430\u0433 \u2014 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0443 \u044f\u0437\u044b\u043a\u0430 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u0430\u044f LLM, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u043d \u0431\u044b\u043b \u0431\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c, \u0430 \u043d\u0435 \u0432\u043e\u0441\u043f\u0440\u0438\u043d\u0438\u043c\u0430\u043b\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043f\u0440\u0438\u0437\u043c\u0443 \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u044e\u0449\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.\u0414\u0430\u043d\u043d\u044b\u0435: 75 733 \u0437\u0430\u043f\u0438\u0441\u0438, 662 \u043c\u043b\u043d \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432    \u041c\u043e\u043d\u043e\u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0431\u0440\u0430\u043d \u0438\u0437 18 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u0432 \u043f\u043e \u0441\u0435\u043c\u0438 \u0436\u0430\u043d\u0440\u0430\u043c. \u0422\u0440\u0438 \u043a\u0440\u0443\u043f\u043d\u0435\u0439\u0448\u0438\u0445 \u043f\u043e \u043e\u0431\u044a\u0451\u043c\u0443 \u2014 \u0433\u0430\u0437\u0435\u0442\u0430 \u00ab\u0417\u0430\u043c\u0430\u043d\u00bb (28,2%), \u0430\u043d\u0442\u043e\u043b\u043e\u0433\u0438\u044f \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u044b \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 (25,8%) \u0438 \u0441\u0431\u043e\u0440\u043d\u0438\u043a \u043f\u043e\u044d\u0437\u0438\u0438 (10,7%). \u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 \u0432 \u0441\u0443\u043c\u043c\u0435 (\u00ab\u0417\u0430\u043c\u0430\u043d\u00bb, \u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb, \u00ab\u041c\u0438\u043d\u0433\u0438 \u0422\u0430\u0443\u00bb) \u0434\u0430\u0451\u0442 45,4% \u2014 \u043e\u0446\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u0440\u0435\u0441\u0441\u044b \u0434\u043b\u044f \u044f\u0437\u044b\u043a\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e.  #\u0418\u0441\u0442\u043e\u0447\u043d\u0438\u043a  \u0416\u0430\u043d\u0440  \u0424\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432  \u0421\u0438\u043c\u0432. (\u043c\u043b\u043d)  %  1 \u0413\u0430\u0437\u0435\u0442\u0430 \u00ab\u0417\u0430\u043c\u0430\u043d\u00bb \u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 13 190125,828,22\u0410\u043d\u0442\u043e\u043b\u043e\u0433\u0438\u044f \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u044b\u041f\u0440\u043e\u0437\u043013 506114,825,83\u0421\u0431\u043e\u0440\u043d\u0438\u043a \u043f\u043e\u044d\u0437\u0438\u0438  \u041f\u043e\u044d\u0437\u0438\u044f  5 85347,710,74\u0413\u0430\u0437\u0435\u0442\u0430 \u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb  \u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 4 68644,09,95 \u0416\u0443\u0440\u043d\u0430\u043b \u00ab\u041c\u0438\u043d\u0433\u0438 \u0422\u0430\u0443\u00bb  \u041f\u0435\u0440\u0438\u043e\u0434\u0438\u043a\u0430 3 82832,67,36\u0423\u0447\u0435\u0431\u043d\u0438\u043a\u0438  \u041e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435  2 15117,94,07\u041b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435  \u041d\u0430\u0443\u043a\u0430  1 31711,72,7&#8230;(\u0435\u0449\u0451 11 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u0432)  &#8230;6 91851,011,4\u0418\u0442\u043e\u0433\u043e51 449445,5100 \u0420\u0438\u0441. 1. \u0421\u043e\u0441\u0442\u0430\u0432 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u043f\u043e \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u043c. \u0421\u044b\u0440\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0447\u0438\u0441\u0442\u043a\u0443 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u0438 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0438, \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043d\u0430\u0440\u0435\u0437\u043a\u0443 \u043d\u0430 \u0447\u0430\u043d\u043a\u0438 \u043f\u043e 50\u20131200 \u0441\u043b\u043e\u0432 \u0441 \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0432 200 \u0441\u043b\u043e\u0432, \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a-\u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 (\u0441\u0440\u0435\u0437\u0430\u043d\u0438\u0435 Wikipedia-\u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044e \u0433\u0430\u0437\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043d\u0442\u0430) \u0438 \u0434\u0435\u0434\u0443\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u044e \u043f\u043e \u0442\u043e\u0447\u043d\u043e\u043c\u0443 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044e (\u0443\u0434\u0430\u043b\u0438\u043b\u0438 713 \u0434\u0443\u0431\u043b\u0435\u0439). \u0424\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 75 733 \u0437\u0430\u043f\u0438\u0441\u0438 \u0434\u0435\u043b\u044f\u0442\u0441\u044f 97,5% \/ 2,5% \u043d\u0430 train \u0438 eval \u0441 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c seed.\u0414\u0438\u0430\u043b\u0435\u043a\u0442\u044b\u0423 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u044b\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430, \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043f\u0440\u0435\u0436\u0434\u0435 \u0432\u0441\u0435\u0433\u043e \u043d\u0430 \u0444\u043e\u043d\u0435\u043c\u043d\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435:\u0427\u043e\u043a\u0430\u044e\u0449\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u044b (\u043f\u0440\u0438\u043c\u0435\u0440:\u00a0\u0447\u0430\u0447\u00a0\u2014 \u00ab\u0432\u043e\u043b\u043e\u0441\u00bb):\u0414\u0436\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439 (\u0434\u0436\u043e\u043b\u00a0\u2014 \u00ab\u0434\u043e\u0440\u043e\u0433\u0430\u00bb). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014\u00a0\u041a\u0430\u0440\u0430\u0447\u0430\u0439.\u0414\u0436\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0431\u0430\u043a\u0441\u0430\u043d\u0441\u043a\u0438\u0439 (\u0434\u0436\u043e\u043b, \u0433\u0434\u0435\u00a0\u0434\u0436\u00a0\u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0441\u043c\u044f\u0433\u0447\u0451\u043d\u043d\u044b\u0439 \u0437\u0432\u0443\u043a, \u0447\u0435\u043c\u00a0\u0434\u0436). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0\u0411\u0430\u043a\u0441\u0430\u043d.\u0416\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0447\u0435\u0433\u0435\u043c\u0441\u043a\u0438\u0439 (\u0436\u043e\u043b) (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0\u0427\u0435\u0433\u0435\u043c.\u0421\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0439 \u0445\u0443\u043b\u0430\u043c\u0441\u043a\u043e-\u0431\u0435\u0437\u0435\u043d\u0433\u0438\u0435\u0432\u0441\u043a\u0438\u0439 (\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u00a0\u0436\u043e\u043b\u00a0\u0438\u00a0\u0437\u043e\u043b) (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0\u0427\u0435\u0440\u0435\u043a \u0425\u0443\u043b\u0430\u043c\u0441\u043a\u0438\u0439.\u0426\u043e\u043a\u0430\u044e\u0449\u0435-\u0437\u043e\u043a\u0430\u044e\u0449\u0438\u0439 \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (\u0446\u0430\u0446\u00a0\u0438\u00a0\u0437\u043e\u043b) (\u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439). \u0422\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u044f\u00a0\u2014 \u0434\u043e\u043b\u0438\u043d\u0430 \u0440\u0435\u043a\u0438\u00a0\u0427\u0435\u0440\u0435\u043a \u0411\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439.\u0420\u0430\u0437\u043b\u0438\u0447\u0438\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0444\u043e\u043d\u0435\u043c\u043d\u044b\u0435 \u2014 \u043c\u043d\u043e\u0433\u0438\u0435 \u0441\u043b\u043e\u0432\u0430 \u043e\u0442\u043b\u0438\u0447\u0430\u044e\u0442\u0441\u044f \u0446\u0435\u043b\u0438\u043a\u043e\u043c: \u00ab\u0442\u044e\u043b\u00bb \/ \u00ab\u0442\u044e\u0439\u044e\u043b\u00bb (\u00ab\u043d\u0435\u0442\u00bb), \u00ab\u0431\u0443\u0441\u0430\u0433\u044a\u0430\u0442\u00bb \/ \u00ab\u0448\u0451\u043d\u0434\u044e\u00bb (\u00ab\u0441\u0435\u0439\u0447\u0430\u0441\u00bb), \u00ab\u0433\u0443\u0433\u0443\u0440\u0443\u043a\u043a\u0443\u00bb \/ \u00ab\u0445\u043e\u0440\u0430\u0437\u00bb (\u00ab\u043f\u0435\u0442\u0443\u0445\u00bb). \u0412 \u0441\u044b\u0440\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u044b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e, \u0438 \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 \u043e\u0434\u0438\u043d \u0438\u0437 \u043d\u0438\u0445, \u043a\u043e\u0440\u043f\u0443\u0441 \u043d\u0443\u0436\u043d\u043e \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u0422\u0443\u0442 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u043d\u0430\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c-\u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0435\u0440, \u043d\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u043e\u0435 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u2014 \u044d\u0442\u043e \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u0430\u044f \u0444\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u044f, \u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u043a\u0430 \u0441\u0442\u0430\u043b\u0430 \u0431\u044b \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u0430\u043c, \u0433\u0434\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0434\u0435\u0442\u0435\u0440\u043c\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438 rule-based \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440.\u041c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440: \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 \u043f\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c  \u041f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u0442 \u0441\u043b\u043e\u0432\u043e\u0444\u043e\u0440\u043c\u044b \u043c\u0435\u0436\u0434\u0443 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430\u043c\u0438, \u0443\u0432\u0430\u0436\u0430\u044f \u0430\u0433\u0433\u043b\u044e\u0442\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u044e. \u0414\u043b\u044f \u0441\u0430\u043c\u043e\u0433\u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u0441\u0434\u0435\u043b\u0430\u043d \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u043f\u0430\u0440 (\u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0439 &#8212; \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442 &#8212; \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442), \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0432 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0439 \u0434\u0438\u0430\u043b\u0435\u043a\u0442.\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u0442\u0440\u0438 \u0441\u0442\u0430\u0434\u0438\u0438:\u0421\u0442\u0430\u0434\u0438\u044f 1. \u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f. \u041a\u0430\u0436\u0434\u043e\u0435 \u0441\u043b\u043e\u0432\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0434\u0438\u0430\u043b\u0435\u043a\u0442-\u043d\u0435\u0439\u0442\u0440\u0430\u043b\u044c\u043d\u043e\u0439 \u0444\u043e\u0440\u043c\u0435: \u0434\u0438\u0430\u043b\u0435\u043a\u0442-\u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u044b\u0435 \u0431\u0443\u043a\u0432\u044b \u0437\u0430\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u043c\u0438 \u0441\u0438\u043c\u0432\u043e\u043b\u0430\u043c\u0438. \u00ab\u0434\u0436\u00bb\/\u00ab\u0436\u00bb \u2192 \u00abj\u00bb (\u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0441\u043b\u043e\u0432\u0430), \u00ab\u0431\u00bb\/\u00ab\u043f\u00bb \u2192 \u00abb\u00bb (\u0432 \u043a\u043e\u043d\u0446\u0435), \u00ab\u0443\u00bb\/\u00ab\u045e\u00bb \u2192 \u00abw\u00bb (\u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043f\u043e\u0437\u0438\u0446\u0438\u0438). \u0421\u043b\u043e\u0432\u0430\u0440\u044c \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043e\u0432 (~10 700 \u0437\u0430\u043f\u0438\u0441\u0435\u0439) \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0442\u0443 \u0436\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e \u2014 \u0442\u0430\u043a \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u043a\u0440\u043e\u0441\u0441-\u0434\u0438\u0430\u043b\u0435\u043a\u0442\u043d\u043e\u0435 \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435.\u0421\u0442\u0430\u0434\u0438\u044f 2. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e. \u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0441\u043b\u043e\u0432\u0430 \u043c\u0430\u0442\u0447\u0430\u0442\u0441\u044f \u0441\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u0451\u043c \u043f\u043e \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0438 \u043d\u0430\u0438\u0434\u043b\u0438\u043d\u043d\u0435\u0439\u0448\u0435\u0433\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u00ab\u0434\u0436\u0430\u0448\u0447\u044b\u043a\u044a\u00bb (\u00ab\u043c\u0430\u043b\u044c\u0447\u0438\u043a\u00bb, \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435) \u043f\u043e\u0441\u043b\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u00abj\u0430\u0448\u0447\u044b\u043a\u044a\u00bb \u0438 \u043c\u0430\u0442\u0447\u0438\u0442\u0441\u044f \u0441\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u043d\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u044c\u044e \u00abj\u0430\u0448\u00bb (\u00ab\u043f\u0430\u0440\u0435\u043d\u044c\u00bb), \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u00ab\u0447\u044b\u043a\u044a\u00bb \u043a\u0430\u043a \u0441\u0443\u0444\u0444\u0438\u043a\u0441. \u041f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0443 50% \u0441\u043b\u043e\u0432 \u0432 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043d\u044b\u0439 \u043c\u0430\u0442\u0447, \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u043a\u0430\u043a \u0435\u0441\u0442\u044c.\u0421\u0442\u0430\u0434\u0438\u044f 3. \u041c\u043e\u0440\u0444\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435. \u041f\u0440\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0438 \u043a\u043e\u0440\u0435\u043d\u044c \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u043e\u0440\u0435\u043d\u044c \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430, \u0430 \u0438\u0437\u0432\u043b\u0435\u0447\u0451\u043d\u043d\u044b\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442\u0441\u044f \u043f\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c:\u0421\u0438\u043d\u0433\u0430\u0440\u043c\u043e\u043d\u0438\u0437\u043c. \u0413\u043b\u0430\u0441\u043d\u044b\u0435 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u0430 \u043f\u043e\u0434\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e\u0434 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0433\u043b\u0430\u0441\u043d\u0443\u044e \u043d\u043e\u0432\u043e\u0433\u043e \u043a\u043e\u0440\u043d\u044f (\u043f\u0435\u0440\u0435\u0434\u043d\u0438\u0439\/\u0437\u0430\u0434\u043d\u0438\u0439 \u0440\u044f\u0434): \u0430\u2192\u0435, \u044b\u2192\u0438, \u0443\u2192\u044e, \u043e\u2192\u0451.  \u0410\u0441\u0441\u0438\u043c\u0438\u043b\u044f\u0446\u0438\u044f \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u044b\u0445. \u0414\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441 \u00ab-\u0433\u044a\u0430\u00bb \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u00ab-\u0445\u0430\u00bb \u043f\u043e\u0441\u043b\u0435 \u0433\u043b\u0443\u0445\u0438\u0445 {\u0448, \u0446, \u0442, \u0441, \u0449, \u0431, \u0447, \u043f}: \u00ab\u0431\u0430\u0431\u0443\u0448\u00bb + \u00ab\u0433\u044a\u0430\u00bb \u2192 \u00ab\u0431\u0430\u0431\u0443\u0448\u0445\u0430\u00bb.  \u041e\u0437\u0432\u043e\u043d\u0447\u0435\u043d\u0438\u0435. \u041a\u043e\u043d\u0435\u0447\u043d\u044b\u0435 \u00ab\u043a\u00bb\/\u00ab\u043a\u044a\u00bb \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u044f\u0442 \u0432 \u00ab\u0433\u00bb\/\u00ab\u0433\u044a\u00bb \u043f\u0435\u0440\u0435\u0434 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u043e\u043c \u043d\u0430 \u0433\u043b\u0430\u0441\u043d\u044b\u0439: \u00ab\u0431\u0430\u0448\u043b\u044b\u043a\u044a\u00bb + \u00ab\u044b\u043d\u00bb \u2192 \u00ab\u0431\u0430\u0448\u043b\u044b\u0433\u044a\u044b\u043d\u00bb.  \u042d\u043f\u0435\u043d\u0442\u0435\u0437\u0430 \u00ab\u0441\u00bb. \u041c\u0435\u0436\u0434\u0443 \u0433\u043b\u0430\u0441\u043d\u043e\u0439 \u043e\u0441\u043d\u043e\u0432\u044b \u0438 \u0433\u043b\u0430\u0441\u043d\u043e\u0439 \u0441\u0443\u0444\u0444\u0438\u043a\u0441\u0430 \u0432\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u00ab\u0441\u00bb: \u00ab\u0431\u0430\u0448\u0445\u0430\u00bb + \u00ab\u044b\u043d\u00bb \u2192 \u00ab\u0431\u0430\u0448\u0445\u0430\u0441\u044b\u043d\u00bb.  \u041f\u043e\u0434 \u043a\u043e\u043d\u0435\u0446 \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u0435 \u0441\u0438\u043c\u0432\u043e\u043b\u044b \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u0432 \u043e\u0440\u0444\u043e\u0433\u0440\u0430\u0444\u0438\u044e \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u0430 (\u00abj\u00bb \u2192 \u00ab\u0434\u0436\u00bb \u0434\u043b\u044f \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u043e\u0433\u043e, \u00ab\u0436\u00bb \u0434\u043b\u044f \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e, \u00ab\u0437\u00bb \u0434\u043b\u044f \u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u043e\u0433\u043e).  \u041f\u043e\u043b\u043d\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u043d\u0430 \u0436\u0438\u0432\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 (\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 \u2192 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0439).\u0412\u0445\u043e\u0434:  \u0431\u0430\u043b\u0442\u0443\u0437\u0443\u0433\u044a\u0443\u0437  (\u00ab\u0432\u0430\u0448 \u0441\u0430\u0445\u0430\u0440\u00bb) 1. \u0417\u0430\u043c\u0435\u043d\u0430 \u043a\u043e\u0440\u043d\u044f \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e:   \u0431\u0430\u043b\u0442\u0443\u0437 \u2192 \u0448\u0435\u043a\u0435\u0440 2. \u0410\u0444\u0444\u0438\u043a\u0441 \u2192 \u0444\u043e\u043d\u0435\u043c\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0430:     \u0443\u0433\u044a\u0443\u0437 \u2192 u-g-u-z 3. \u0421\u0438\u043d\u0433\u0430\u0440\u043c\u043e\u043d\u0438\u0437\u043c (\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044f\u044f \u0433\u043b\u0430\u0441\u043d\u0430\u044f \u00ab\u0435\u00bb, e-\u043a\u043b\u0430\u0441\u0441):  u-g-u-z \u2192 \u0438-\u0433-\u0438-\u0437 4. \u0424\u043e\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0430\u0432\u043a\u0438:       \u0412\u044b\u0445\u043e\u0434: \u0448\u0435\u043a\u0435\u0440\u0438\u0433\u0438\u0437\u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u043c\u044b \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043a\u043e\u0440\u043f\u0443\u0441: +10 000 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u043d\u044b\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439, +7 998 \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u0441\u043a\u0438\u0445, +5 499 \u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u0438 +1 500 \u043c\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0445 \u2014 \u0432\u0441\u0435\u0433\u043e 24 997.\u0421\u043b\u043e\u0436\u0438\u0432 \u0441 \u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0437\u0430\u043f\u0438\u0441\u044f\u043c\u0438, \u043f\u043e \u0438\u0442\u043e\u0433\u0443 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438  75 733 \u0437\u0430\u043f\u0438\u0441\u0435\u0439.\u0421\u0435\u043c\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0430 0.6B  \u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0436\u0435\u0447\u044c A100 \u043d\u0430 4B-\u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u044b \u043f\u0440\u043e\u0433\u043d\u0430\u043b\u0438 \u043f\u0438\u043b\u043e\u0442\u043d\u0443\u044e \u0441\u0435\u0442\u043a\u0443 \u043d\u0430 Qwen3-0.6B: 6000 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u043d\u0430 \u044d\u043f\u043e\u0445\u0430, RTX 4060 8 \u0413\u0411, ~1,5\u20132,5 \u0447\u0430\u0441\u0430 \u043d\u0430 \u043f\u0440\u043e\u0433\u043e\u043d. \u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b\u0438 \u0442\u0440\u0438 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0438 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0438:\u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440; add_tokens  \u2014 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u041a\u0411-\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043a \u0441\u0442\u0430\u0440\u043e\u043c\u0443 \u0447\u0435\u0440\u0435\u0437  resize_token_embeddings; \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043d\u043e\u0432\u044b\u0439 (\u043a\u0430\u0441\u0442\u043e\u043c\u043d\u044b\u0439) 130K-\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 (\u043e \u043d\u0451\u043c \u0434\u0430\u043b\u044c\u0448\u0435) \u00d7 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (QLoRA r=8 \u03b1=16; FT \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432; Full FT \u0432\u0441\u0435\u0445 \u0441\u043b\u043e\u0451\u0432)#\u041c\u0435\u0442\u043e\u0434\u0422\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440Eval lossPerplexity\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e1QLoRA\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b2,72815,30\u0425\u043e\u0440\u043e\u0448\u0435\u04352QLoRAAdd tokens2,53012,55\u041b\u0443\u0447\u0448\u0435\u04353QLoRA\u041d\u043e\u0432\u044b\u0439 130K  6,802899,73\u041f\u043b\u043e\u0445\u043e\u04354FT (emb)\u041d\u043e\u0432\u044b\u0439 130K  7,9502836\u041f\u043b\u043e\u0445\u043e\u04355Full FT\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b2,74515,56\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u04356Full FTAdd tokens2,75215,67\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u04357Full FT\u041d\u043e\u0432\u044b\u0439 130K  7,7832399\u041f\u043b\u043e\u0445\u043e\u0435\u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430\u044f \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0441 add_tokens \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043b\u0443\u0447\u0448\u0435 \u0441\u0435\u0431\u044f \u0432\u0435\u0434\u0451\u0442, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u043e\u0432\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0438 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u043c \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u0432 \u0440\u0430\u0439\u043e\u043d\u0435 \u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0438 (\u0447\u0442\u043e \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c).\u0412 \u0438\u0442\u043e\u0433\u0435, \u0435\u0441\u043b\u0438 \u043c\u0430\u043b\u043e \u0434\u0430\u043d\u043d\u044b\u0445 (\u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u043e\u0440\u0435\u0441\u0443\u0440\u0441\u043d\u044b\u0439 \u044f\u0437\u044b\u043a), \u0442\u043e \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u043c \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0438 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0437\u043d\u0430\u0435\u0442 \u0440\u043e\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0435 \u044f\u0437\u044b\u043a\u0438 \u0438 \u0441\u0445\u043e\u0436\u0430 \u043f\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u043f\u0438\u0441\u044c\u043c\u0430 (\u043a\u0438\u0440\u0438\u043b\u043b\u0438\u0446\u0430, \u043b\u0430\u0442\u0438\u043d\u0438\u0446\u0430, &#8230;).\u0412 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u0434\u0430\u043d\u043d\u044b\u0445 \u0431\u043e\u043b\u044c\u0448\u0435 \u0438 \u0440\u0435\u0448\u0438\u043b\u0438 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043f\u043e\u0434\u043c\u0435\u043d\u0438\u0432 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u0447\u0442\u043e\u0431\u044b &#171;\u0440\u043e\u0434\u043d\u044b\u043c \u044f\u0437\u044b\u043a\u043e\u043c&#187; \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0442\u0430\u043b \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439: \u0433\u043b\u0443\u0431\u0436\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u043b\u0430 \u0441\u043c\u044b\u0441\u043b \u0438 \u0434\u043e\u043c\u0435\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u0441 \u041a\u0430\u0432\u043a\u0430\u0437\u043e\u043c, \u041a\u0411 \u043a\u0443\u043b\u044c\u0442\u0443\u0440\u043e\u0439 \u0438 \u0442.\u0434.\u0421\u0432\u043e\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440: 130K vocab \u0438 3\u00d7 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c  \u0421\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u044b \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b \u0434\u043b\u044f \u0430\u0433\u0433\u043b\u044e\u0442\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u044f\u0437\u044b\u043a\u043e\u0432. \u0412\u043e\u0442 \u043a\u0430\u043a \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 Qwen3 \u0440\u0435\u0436\u0435\u0442 \u0441\u043b\u043e\u0432\u043e \u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb (\u00ab\u041a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb):  \u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439 \u2192 [\u00ab\u043a\u00bb, \u00ab\u044a\u00bb, \u00ab\u0430\u0440\u00bb, \u00ab\u0430\u0447\u0430\u00bb, \u00ab\u0439\u00bb]   # 5 \u0442\u043e\u043a\u0435\u043d\u043e\u0432\u0412\u043e\u0442 \u0442\u0430\u043a &#171;\u043f\u043e\u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e&#187; \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0447\u0435\u043d\u044c \u0434\u043e\u043b\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442, \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0435\u0451 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c &#8212; \u043d\u0443\u0436\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0447\u0430\u0441\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0434\u043b\u044f \u043d\u0435\u0451 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0437 \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0441 \u0431\u043b\u0438\u0437\u043a\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e \u0431\u0443\u0434\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e.\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 BPE-\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0441 \u043d\u0443\u043b\u044f \u043d\u0430 \u0442\u0449\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u043d\u043d\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435: ~76,5% \u043a\u0430\u0440\u0430\u0447\u0430\u0435\u0432\u043e-\u0431\u0430\u043b\u043a\u0430\u0440\u0441\u043a\u0438\u0439 (\u0432\u0441\u0435 \u0434\u0438\u0430\u043b\u0435\u043a\u0442\u044b), ~11,5% \u0440\u0443\u0441\u0441\u043a\u0438\u0439, ~11,5% \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u0438 ~0,5% \u0447\u0435\u0440\u043a\u0435\u0441\u0441\u043a\u0438\u0439. \u041c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u0430\u044f \u0434\u043e\u0431\u0430\u0432\u043a\u0430 \u043d\u0443\u0436\u043d\u0430, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0440\u0430\u0437\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. \u0426\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u2014 130 000 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430 \u043f\u043e\u043b\u043d\u043e\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435:\u041c\u0435\u0442\u0440\u0438\u043a\u0430Qwen3 (\u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b)\u041a\u0430\u0441\u0442\u043e\u043c\u043d\u044b\u0439\u0412\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432372 305 700123 084 597\u0421\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u043d\u0430 \u0442\u043e\u043a\u0435\u043d1,785,38\u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435\u201466,94%\u0421\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435\u20143,02\u00d7\u0420\u0438\u0441. 2. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u043e\u0432: \u0432\u0441\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c.\u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430 \u0442\u0435\u0445 \u0436\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0438\u0434\u0438\u0442 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u043d\u0435\u0441\u0451\u0442 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043c\u044b\u0441\u043b\u0430. \u0410 \u0442\u0430\u043a\u0436\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u0448\u0435. \u0418, \u0433\u043b\u0430\u0432\u043d\u043e\u0435:\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439 \u2192 [\u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb]   # 1 \u0442\u043e\u043a\u0435\u043d \u0432\u043c\u0435\u0441\u0442\u043e 5\u0418\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432: \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432\u0417\u0430\u043c\u0435\u043d\u0438\u0432 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 130 000 \u043d\u043e\u0432\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0443\u0436\u043d\u043e \u0441 \u0447\u0435\u0433\u043e-\u0442\u043e \u043d\u0430\u0447\u0430\u0442\u044c. \u0421\u043b\u0443\u0447\u0430\u0439\u043d\u0430\u044f \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0430 \u0431\u044b \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e\u0431\u044b \u0441\u043e\u0439\u0442\u0438\u0441\u044c. \u041c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u043c\u0435\u0442\u043e\u0434 \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u044f \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0437 \u0440\u0430\u0431\u043e\u0442\u044b Impact of Tokenization on LLaMa Russian Adaptation (arXiv:2312.02598): \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0435\u0433\u043e \u0440\u0435\u0437\u0430\u043b \u0431\u044b \u0441\u0442\u0430\u0440\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 Qwen3, \u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u043d\u043e\u0432\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043a\u0430\u043a \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u044d\u0442\u0438\u0445 \u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u0413\u0434\u0435 v_new &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u043e\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, v_old &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u0442\u0430\u0440\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, token &#8212; \u0442\u043e\u043a\u0435\u043d \u0432 \u043d\u043e\u0432\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0435, subtoken_j &#8212; \u0442\u043e\u043a\u0435\u043d \u0432 \u0441\u0442\u0430\u0440\u043e\u043c (\u043f\u043e\u0434\u0442\u043e\u043a\u0435\u043d \u0434\u043b\u044f \u043d\u043e\u0432\u043e\u0433\u043e).\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u043e\u0432\u044b\u0439 \u0442\u043e\u043a\u0435\u043d \u00ab\u043a\u044a\u0430\u0440\u0430\u0447\u0430\u0439\u00bb \u0441\u0442\u0430\u0440\u044b\u0439 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0440\u0435\u0437\u0430\u043b \u043d\u0430 [\u00ab\u043a\u00bb, \u00ab\u044a\u00bb, \u00ab\u0430\u0440\u00bb, \u00ab\u0430\u0447\u0430\u00bb, \u00ab\u0439\u00bb] (K=5). \u041d\u043e\u0432\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 = \u0441\u0440\u0435\u0434\u043d\u0435\u0435 &#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-486260","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/486260","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=486260"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/486260\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=486260"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=486260"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=486260"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}