{"id":488154,"date":"2026-07-22T09:21:27","date_gmt":"2026-07-22T09:21:27","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=488154"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=488154","title":{"rendered":"\u0410\u0433\u0435\u043d\u0442\u044b, \u0438\u043b\u0438 \u041f\u0443\u0442\u0435\u0448\u0435\u0441\u0442\u0432\u0438\u0435 \u043a LLM \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0410\u0433\u0435\u043d\u0442\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u043e\u0431\u0441\u0443\u0436\u0434\u0430\u044e\u0442 \u0432\u0441\u0435 \u043f\u043e\u0434\u0440\u044f\u0434. \u041c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438, \u043f\u043e\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f MCP-\u0441\u0435\u0440\u0432\u0435\u0440\u044b, \u043e\u0431\u043b\u0430\u043a\u0430 \u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u00ab\u0430\u0433\u0435\u043d\u0442\u0430 \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438\u00bb. \u041d\u043e \u0432 \u0446\u0435\u043d\u0442\u0440\u0435 \u043b\u044e\u0431\u043e\u0439 \u0442\u0430\u043a\u043e\u0439 \u0441\u0445\u0435\u043c\u044b \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0434\u043d\u0430 \u0438 \u0442\u0430 \u0436\u0435 \u0432\u0435\u0449\u044c \u2014 <strong>LLM<\/strong>: \u043e\u043d\u0430 \u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0438 \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u0443\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0448\u0430\u0433. \u0410 \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c \u043a \u0430\u0433\u0435\u043d\u0442\u0443 \u0438 \u0441\u0430\u043c\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u2014 \u0435\u0449\u0451 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0451\u0432.<\/p>\n<p>\u0421\u0430\u043c\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430; \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043d\u0430\u0440\u0430\u0441\u0442\u0430\u0435\u0442 \u043b\u0443\u043a\u043e\u0432\u0438\u0446\u0430 \u043e\u0431\u0451\u0440\u0442\u043e\u043a \u2014 \u043e \u043d\u0438\u0445 \u0438 \u0440\u0435\u0447\u044c. \u0415\u0441\u043b\u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0430\u0433\u0435\u043d\u0442\u0430 \u043d\u0435 \u0438\u0437 \u0433\u043e\u0442\u043e\u0432\u043e\u0433\u043e \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0442\u043e\u0440\u0430, \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043b\u043e\u0433\u0438\u043a\u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043d\u0430\u0439\u0442\u0438 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b: \u043f\u043e\u043b\u043e\u043c\u043a\u0438 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u043d\u0430 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0443\u0440\u043e\u0432\u043d\u0435 \u0440\u044f\u0434\u043e\u043c. \u042f \u043f\u0440\u0438\u0448\u0451\u043b \u043a \u0430\u0433\u0435\u043d\u0442\u0430\u043c \u0438\u0437 ML: \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u043d\u043e\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 \u043f\u043e\u044f\u0432\u043b\u044f\u043b\u0441\u044f \u043f\u043e\u0432\u0435\u0440\u0445 \u0443\u0436\u0435 \u0437\u043d\u0430\u043a\u043e\u043c\u043e\u0433\u043e \u2014 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0430\u043b\u044c\u0448\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e \u043e\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u0440\u0443\u0436\u0443. \u0418\u0434\u0435\u044f \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u0438\u0448\u043b\u0430 \u043f\u043e\u0441\u043b\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0433\u043e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430 \u0431\u0430\u0433\u0430 \u0441 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439: \u0437\u0430\u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0437\u0430\u043c\u0435\u0442\u043a\u0438 \u0432 \u043e\u0434\u0438\u043d \u043e\u0431\u0437\u043e\u0440, \u0447\u0442\u043e\u0431\u044b \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0440\u0430\u0437 \u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0449\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0442\u044c.<\/p>\n<hr\/>\n<h3>\u041a\u0430\u043a LLM \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u0432\u044b\u0434\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430<\/h3>\n<p><strong>Large Language Model<\/strong> \u2014 \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c. \u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u0447\u0430\u0442-\u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 Transformer (\u0441\u0442\u0430\u0442\u044c\u044f <em>Attention Is All You Need<\/em>, Google, 2017) \u0432 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0435 <strong>decoder-only<\/strong>: \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0441\u0435\u0442\u044c \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0430 \u0443\u0436\u0435 \u0438\u043c\u0435\u044e\u0449\u0443\u044e\u0441\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442, \u043a\u0430\u043a\u043e\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c.<\/p>\n<p>\u041d\u0430 \u044d\u0442\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0442 JSON \u0438 \u043d\u0435\u0442 \u00ab\u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439\u00bb. \u041d\u0435\u0442 \u0434\u0430\u0436\u0435 \u0442\u0435\u043a\u0441\u0442\u0430 \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u043a: \u0435\u0441\u0442\u044c <strong>\u0442\u043e\u043a\u0435\u043d\u044b<\/strong> \u2014 \u0446\u0435\u043b\u043e\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438\u0437 <strong>\u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/strong> \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0421\u043b\u043e\u0432\u0430\u0440\u044c \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u043d\u0430 \u0440\u0430\u043d\u043d\u0435\u043c \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f; \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043d \u0441\u0432\u043e\u0439. \u041c\u0435\u043d\u044f\u0442\u044c \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u0443 \u0443\u0436\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043d\u043e\u0439 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0435\u0440\u0435\u0441\u0431\u043e\u0440\u043a\u0438 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u2014 \u0434\u043b\u044f \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u044d\u0442\u043e \u0437\u0430 \u0441\u043a\u043e\u0431\u043a\u0430\u043c\u0438.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043e\u043e\u0431\u0449\u0435 \u0443\u0432\u0438\u0434\u0435\u043b\u0430 \u0432\u0430\u0448 \u0437\u0430\u043f\u0440\u043e\u0441, \u0442\u0435\u043a\u0441\u0442 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0447\u0435\u0440\u0435\u0437 <strong>\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440<\/strong>: \u0441\u0442\u0440\u043e\u043a\u0430 \u2192 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c id (\u043f\u0440\u043e\u0441\u0442\u043e \u0446\u0435\u043b\u044b\u0435 \u0447\u0438\u0441\u043b\u0430) \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041d\u0430 \u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043f\u0430\u0434\u0430\u044e\u0442 \u044d\u0442\u0438 \u0447\u0438\u0441\u043b\u0430. \u041e\u0434\u043d\u043e <strong>\u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438<\/strong> (<code>forward<\/code>) \u043f\u043e \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0434\u0430\u0451\u0442 <strong>\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439<\/strong> \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e id \u0438\u0437 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u043b\u043e\u0432\u0430\u0440\u044f. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 <code>temperature<\/code> \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u0442\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u00ab\u043f\u043b\u043e\u0441\u043a\u043e\u00bb \u0438\u043b\u0438 \u00ab\u043e\u0441\u0442\u0440\u043e\u00bb \u044d\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u0434 \u0432\u044b\u0431\u043e\u0440\u043e\u043c. \u0418\u0437 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u044e\u0442 \u043e\u0434\u0438\u043d \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 token id, \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u0435\u0433\u043e \u043a \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438 \u0441\u043d\u043e\u0432\u0430 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u0438 \u0442\u0430\u043a \u0434\u043e \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430 \u043a\u043e\u043d\u0446\u0430 (<strong>EOS<\/strong>) \u0438\u043b\u0438 \u043b\u0438\u043c\u0438\u0442\u0430 \u0434\u043b\u0438\u043d\u044b. \u0422\u0430\u043a \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u043b\u043d\u0430\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043d\u043e\u0432\u044b\u0445 token id \u043e\u0442\u0432\u0435\u0442\u0430. \u0414\u0430\u043b\u044c\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f <strong>\u0434\u0435\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440<\/strong>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u0436\u0435 \u0438\u0437 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/e21\/37a\/6a8\/e2137a6a83a1fc7cd429019d1af32e70.png\" alt=\"\u041e\u0434\u043d\u043e \u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435: \u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u2192 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u2192 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/e21\/37a\/6a8\/e2137a6a83a1fc7cd429019d1af32e70.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/e21\/37a\/6a8\/e2137a6a83a1fc7cd429019d1af32e70.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041e\u0434\u043d\u043e \u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435: \u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u2192 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u2192 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430<\/figcaption><\/div>\n<\/figure>\n<p>\u0411\u0435\u0437 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439 \u0442\u0430\u043a\u043e\u0439 \u0446\u0438\u043a\u043b \u0434\u043e\u0440\u043e\u0433\u043e\u0439: \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043d\u0430\u0438\u0432\u043d\u043e \u0441\u043d\u043e\u0432\u0430 \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0442\u044c \u0432\u0441\u044e \u0443\u0436\u0435 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u0443\u044e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 runtime \u043f\u043e\u0447\u0442\u0438 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442 <strong>KV-\u043a\u044d\u0448<\/strong>. \u0412 attention \u0443 \u043f\u043e\u0437\u0438\u0446\u0438\u0439 \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 Q, K, V; \u043a\u043b\u044e\u0447\u0438 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0432\u0438\u0434\u0435\u043d\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u0448\u0430\u0433\u0430\u043c\u0438 decode \u043d\u0435 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u2014 \u0438\u0445 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0442. \u041d\u0430 \u0448\u0430\u0433\u0435 \u0441\u0447\u0438\u0442\u0430\u044e\u0442 \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u043d\u043e\u0432\u044b\u0439 \u0442\u043e\u043a\u0435\u043d, \u0430 \u043a \u043f\u0440\u043e\u0448\u043b\u044b\u043c \u043e\u0431\u0440\u0430\u0449\u0430\u044e\u0442\u0441\u044f \u0438\u0437 \u043a\u044d\u0448\u0430. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u2014 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e <strong>\u043e\u0434\u043d\u043e\u0433\u043e<\/strong> \u043e\u0442\u0432\u0435\u0442\u0430; \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u044b \u0435\u0449\u0451 \u0443\u043c\u0435\u044e\u0442 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c KV \u043e\u0431\u0449\u0435\u0433\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u043c\u0435\u0436\u0434\u0443 \u0445\u043e\u0434\u0430\u043c\u0438 \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u2014 \u044d\u0442\u043e \u0443\u0436\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u043e\u043f\u0446\u0438\u044f, \u043d\u0435 \u0441\u0430\u043c \u0444\u0430\u043a\u0442 \u00ab\u0435\u0441\u0442\u044c KV-\u043a\u044d\u0448\u00bb.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u043e\u0431\u043b\u0430\u043a\u0435, \u043e\u0431\u044b\u0447\u043d\u043e \u043f\u043b\u0430\u0442\u044f\u0442 \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0438 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435, \u0430 \u043d\u0435 \u0437\u0430 \u0440\u0430\u0437\u043c\u0435\u0440 \u0442\u0435\u043a\u0441\u0442\u0430. \u0421\u0447\u0438\u0442\u0430\u044e\u0442 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u044b \u0442\u0430\u043a, \u043a\u0430\u043a \u0438\u0445 \u0432\u0438\u0434\u0438\u0442 <strong>\u043c\u043e\u0434\u0435\u043b\u044c<\/strong> \u043f\u043e\u0441\u043b\u0435 chat template \u2014 \u043d\u0435 \u00ab\u043a\u0440\u0430\u0441\u043e\u0442\u0443\u00bb JSON \u0432 API. \u041e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0441\u043c\u044b\u0441\u043b \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0447\u0430\u0441\u0442\u043e \u0434\u0430\u0451\u0442 <strong>\u0440\u0430\u0437\u043d\u043e\u0435<\/strong> \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432: \u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u043c \u0441\u043b\u043e\u0432\u0430\u0440\u0451\u043c \u043a\u0438\u0440\u0438\u043b\u043b\u0438\u0446\u0430 \u0434\u0440\u043e\u0431\u0438\u0442\u0441\u044f \u043c\u0435\u043b\u044c\u0447\u0435 \u2014 \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0441\u043b\u043e\u0432\u043e. \u041d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u0436\u0435 \u0431\u0435\u0437 \u043e\u043f\u043b\u0430\u0442\u044b \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b \u044d\u0442\u043e \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0441\u044a\u0435\u0434\u0430\u0435\u0442 \u043b\u0438\u043c\u0438\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c. \u0418\u043d\u043e\u0433\u0434\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043f\u043e-\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044e \u0432 2\u20133 \u0440\u0430\u0437\u0430 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0412\u0441\u0435 \u044d\u0442\u0438 \u0448\u0430\u0433\u0438 \u2014 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f, \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433, KV-\u043a\u044d\u0448, \u0446\u0438\u043a\u043b \u0441 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439 \u043f\u043e EOS \u2014 \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u0435 \u043f\u0438\u0448\u0443\u0442 \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u0435\u0440\u0432\u0438\u0441\u0435: \u0433\u043e\u0442\u043e\u0432\u044b\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0438 runtime \u0431\u0435\u0440\u0443\u0442 \u043b\u043e\u0433\u0438\u043a\u0443 \u043d\u0430 \u0441\u0435\u0431\u044f \u0438 \u0434\u0430\u044e\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 <strong>\u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0432\u0445\u043e\u0434 \u2192 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434<\/strong>. \u041d\u043e \u0442\u0443\u0442 \u0436\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0434\u0440\u0443\u0433\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: \u044d\u0442\u043e\u0442 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0436\u0434\u0443\u0442 \u0432 <strong>\u0440\u0430\u0437\u043d\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435<\/strong>.<\/p>\n<hr\/>\n<h3>\u0420\u0430\u0437\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0436\u0434\u0443\u0442 \u0440\u0430\u0437\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/h3>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e LLM \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c <strong>\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d<\/strong>, \u043d\u043e \u0434\u0430\u043b\u044c\u0448\u0435 \u0438\u0434\u0443\u0442 \u044d\u0442\u0430\u043f\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f: \u0434\u0438\u0430\u043b\u043e\u0433\u0438, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f (<code>reasoning<\/code>), \u0432\u044b\u0437\u043e\u0432\u044b \u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0438 \u0442.\u0434. \u0414\u043b\u044f \u0447\u0430\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043d\u0430 \u0434\u0438\u0430\u043b\u043e\u0433\u0430\u0445 \u0441 \u0440\u043e\u043b\u044f\u043c\u0438; \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0443\u0432\u0438\u0434\u0435\u043b\u0430 system \/ user \/ assistant, \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0431\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u044e\u0442 \u0432 <strong>\u0441\u043b\u0443\u0436\u0435\u0431\u043d\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443<\/strong>. \u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430 <strong>\u0440\u0430\u0437\u043d\u0430\u044f \u0443 \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432<\/strong>: \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0441\u043c\u044b\u0441\u043b \u00absystem + \u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u00bb \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438.<\/p>\n<p>\u0412\u043e\u0442, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, ChatML \u0432 \u0434\u0443\u0445\u0435 <strong>Qwen<\/strong> (\u0438 \u0440\u044f\u0434\u0430 OpenAI-\u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0445 \u0448\u0430\u0431\u043b\u043e\u043d\u043e\u0432). \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u2014 <strong>\u043f\u043e\u043b\u043d\u044b\u0439 \u0434\u0438\u0430\u043b\u043e\u0433<\/strong>, \u043a\u0430\u043a \u043c\u044b \u0435\u0433\u043e \u0447\u0438\u0442\u0430\u0435\u043c \u0433\u043b\u0430\u0437\u0430\u043c\u0438: system, \u0432\u043e\u043f\u0440\u043e\u0441 \u0438 \u0443\u0436\u0435 \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430.<\/p>\n<pre><code>&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant\u041a\u0430\u0436\u0434\u044b\u0439 \u0431\u0443\u0434\u043d\u0438\u0439 \u0434\u0435\u043d\u044c \u0432 09:00.&lt;|im_end|&gt;<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u044c Runtime \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 <strong>prompt<\/strong> \u2014 \u0432\u0441\u0451 \u0434\u043e \u0442\u043e\u0447\u043a\u0438, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u2014 \u0438 \u043f\u0440\u043e\u0441\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c <strong>\u0434\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c<\/strong> \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u043c, \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0442\u0438\u0442\u0441\u044f \u043a\u043e\u043d\u0435\u0446 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 (\u0438\u043b\u0438 \u043b\u0438\u043c\u0438\u0442 \u0434\u043b\u0438\u043d\u044b).<\/p>\n<p>\u0412\u0432\u043e\u0434 (prompt):<\/p>\n<pre><code>&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u0442\u0441\u044f \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435:<\/p>\n<pre><code>\u041a\u0430\u0436\u0434\u044b\u0439 \u0431\u0443\u0434\u043d\u0438\u0439 \u0434\u0435\u043d\u044c \u0432 09:00.&lt;|im_end|&gt;<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u0442\u043e \u0436\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0446\u0432\u0435\u0442\u043e\u043c (\u0441\u0438\u043d\u0438\u0439 \u2014 \u0432\u0432\u043e\u0434, \u043e\u0440\u0430\u043d\u0436\u0435\u0432\u044b\u0439 \u2014 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435):<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/471\/7f9\/4a4\/4717f94a472f57e526fbf173c8dac8f4.png\" alt=\"ChatML: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/471\/7f9\/4a4\/4717f94a472f57e526fbf173c8dac8f4.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/471\/7f9\/4a4\/4717f94a472f57e526fbf173c8dac8f4.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>ChatML: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion<\/figcaption><\/div>\n<\/figure>\n<p>\u0418\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u043e\u0439 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0440\u0435\u0436\u0435\u0442 \u0432 \u0442\u043e\u043a\u0435\u043d\u044b, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u043e \u043d\u0435\u0439 \u0441\u0447\u0438\u0442\u0430\u044e\u0442 <strong>prompt_tokens<\/strong> \/ \u043b\u0438\u043c\u0438\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0414\u0430\u043b\u044c\u0448\u0435 \u0432\u043e\u043a\u0440\u0443\u0433 \u044d\u0442\u043e\u0433\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043b\u044e\u0431\u043e\u0439 \u0434\u0440\u0443\u0433\u043e\u0439 JSON \u0444\u043e\u0440\u043c\u0430\u0442, \u043d\u043e \u0431\u0438\u043b\u043b\u0438\u043d\u0433 \u0438 \u0434\u043b\u0438\u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043e\u0442\u043d\u043e\u0441\u044f\u0442\u0441\u044f \u043d\u0435 \u043a \u00ab\u043a\u0440\u0430\u0441\u043e\u0442\u0435 JSON\u00bb, \u0430 \u043a \u0442\u043e\u043c\u0443 \u0442\u0435\u043a\u0441\u0442\u0443 (\u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430\u043c), \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f <strong>\u043f\u043e\u0441\u043b\u0435<\/strong> chat template. \u0414\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c\u0438 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043d\u0430 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 JSON-\u0437\u0430\u043f\u0440\u043e\u0441 \u043c\u043e\u0433\u0443\u0442 \u0441\u044a\u0435\u0441\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0423 \u0448\u0430\u0431\u043b\u043e\u043d\u0430 \u0431\u044b\u0432\u0430\u044e\u0442 \u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438. \u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 reasoning  (\u0447\u0430\u0441\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432 Qwen-Thinking \u0438 \u043f\u043e\u0445\u043e\u0436\u0438\u0435), \u0442\u043e \u0432 prompt \u0432\u0448\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0431\u043b\u043e\u043a \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439: \u043f\u043e\u0441\u043b\u0435 <code>&lt;|im_start|&gt;assistant<\/code> \u0441\u0440\u0430\u0437\u0443 \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 <code>&lt;think&gt;<\/code>. \u041c\u043e\u0434\u0435\u043b\u044c \u0442\u043e\u0433\u0434\u0430 \u043d\u0435 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u00ab\u0441 \u043f\u0443\u0441\u0442\u043e\u0433\u043e \u043c\u0435\u0441\u0442\u0430\u00bb, \u0430 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0443\u0436\u0435 \u0432\u043d\u0443\u0442\u0440\u0438 thinking. \u0412 completion \u043e\u0431\u044b\u0447\u043d\u043e \u0438\u0434\u0443\u0442 \u0441\u0430\u043c\u0438 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 <code>&lt;\/think&gt;<\/code> \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043c \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/6b6\/7ae\/6d0\/6b67ae6d0c86880f64bbcfd1f6086329.png\" alt=\"Thinking-\u043c\u043e\u0434\u0435\u043b\u044c: prompt \u0438 completion \u043e\u0434\u043d\u0438\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u043c\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/6b6\/7ae\/6d0\/6b67ae6d0c86880f64bbcfd1f6086329.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/6b6\/7ae\/6d0\/6b67ae6d0c86880f64bbcfd1f6086329.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Thinking-\u043c\u043e\u0434\u0435\u043b\u044c: prompt \u0438 completion \u043e\u0434\u043d\u0438\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u043c<\/figcaption><\/div>\n<\/figure>\n<p><strong>Thinking \/ reasoning \u043d\u0430 \u044d\u0442\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u2014 \u0442\u043e\u0436\u0435 \u0442\u0435\u043a\u0441\u0442 (\u0442\u043e\u043a\u0435\u043d\u044b).<\/strong> \u041c\u043e\u0434\u0435\u043b\u044c \u0432 \u043e\u0434\u043d\u043e\u043c \u0430\u0432\u0442\u043e\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u044b \u00ab\u0447\u0435\u0440\u043d\u043e\u0432\u0438\u043a\u0430\u00bb, \u043f\u043e\u0442\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u044b \u043e\u0442\u0432\u0435\u0442\u0430. \u042d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0432 \u0442\u043e\u0439 \u0436\u0435 completion-\u0441\u0442\u0440\u043e\u043a\u0435. \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c thinking \u0438 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442, \u0441\u043f\u0440\u044f\u0442\u0430\u0442\u044c \u043c\u044b\u0441\u043b\u0438 \u043e\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0438\u0445 \u0432 \u0441\u044b\u0440\u043e\u043c \u0432\u0438\u0434\u0435 \u2014 \u0443\u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430 \u0442\u043e\u0433\u043e, \u043a\u0442\u043e \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u0432\u044b\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u043b\u044c\u0448\u0435; \u0441\u0430\u043c\u0430 \u0441\u0435\u0442\u044c \u043e\u0442\u0434\u0430\u0451\u0442 \u043e\u0434\u043d\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u0442\u0438\u043f\u0438\u0447\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u043d\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 reasoning-\u043c\u043e\u0434\u0435\u043b\u044f\u0445. \u041b\u0438\u043c\u0438\u0442 \u0434\u043b\u0438\u043d\u044b \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 (<code>max_tokens<\/code> \u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0438) \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0431\u0449\u0438\u0439 \u043d\u0430 \u0432\u0435\u0441\u044c \u0432\u044b\u0445\u043e\u0434: \u0438 \u043d\u0430 \u0431\u043b\u043e\u043a \u0432\u043d\u0443\u0442\u0440\u0438 <code>&lt;think&gt;\u2026&lt;\/think&gt;<\/code>, \u0438 \u043d\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442. \u041c\u043e\u0434\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u0434\u043e\u043b\u0433\u043e \u00ab\u0434\u0443\u043c\u0430\u0442\u044c\u00bb, \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0435\u0441\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0430 thinking (\u0438\u043d\u043e\u0433\u0434\u0430 \u0435\u0449\u0451 \u0438 \u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0442\u044c\u0441\u044f \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u0445) \u0438 \u043e\u0431\u043e\u0440\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u043e \u0434\u043b\u0438\u043d\u0435, \u0442\u0430\u043a \u0438 \u043d\u0435 \u0434\u043e\u043f\u0438\u0441\u0430\u0432 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435 <code>&lt;\/think&gt;<\/code>. \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u0442\u0440\u0430\u043d\u043d\u043e: \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0448\u043b\u0430 \u0434\u043e\u043b\u0433\u043e, \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u044b\u0448\u043b\u043e \u043c\u043d\u043e\u0433\u043e, \u0430 \u201c\u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e\u201d \u043e\u0442\u0432\u0435\u0442\u0430 \u043f\u043e\u0441\u043b\u0435 thinking \u043d\u0435\u0442 \u0438\u043b\u0438 \u043e\u043d \u043e\u0431\u0440\u0435\u0437\u0430\u043d. \u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c: \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043e\u0442\u0432\u0435\u0442  \u0446\u0435\u043b\u0438\u043a\u043e\u043c; <strong>\u043f\u043e\u0434\u043d\u044f\u0442\u044c<\/strong> \u043e\u0431\u0449\u0438\u0439 \u043b\u0438\u043c\u0438\u0442 \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c \u043f\u043e\u0434 thinking; \u0434\u043b\u044f \u043f\u0440\u043e\u0441\u0442\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 <strong>\u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c<\/strong> reasoning (instruct-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u043b\u0438 \u0444\u043b\u0430\u0433 \u0432\u0440\u043e\u0434\u0435 <code>enable_thinking=false<\/code> \u0443 \u0448\u0430\u0431\u043b\u043e\u043d\u0430); \u043b\u0438\u0431\u043e, \u0435\u0441\u043b\u0438 runtime \u0443\u043c\u0435\u0435\u0442, \u0437\u0430\u0434\u0430\u0442\u044c <strong>\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0430 thinking<\/strong> \u2014 \u044d\u0442\u043e \u0447\u0430\u0441\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b runtime, \u0430 \u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u043e \u0438\u0441\u0447\u0435\u0440\u043f\u0430\u043d\u0438\u0438 \u043b\u0438\u043c\u0438\u0442\u0430 \u043d\u0430 reasoning runtime \u0436\u0435\u0441\u0442\u043a\u043e \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0435\u0440\u0432\u0430\u0442\u044c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0434\u043e\u043f\u0438\u0441\u0430\u0442\u044c <code>&lt;\/think&gt;<\/code> \u0438 \u0434\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u0435\u0441\u0442\u043e \u043d\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442.<\/p>\n<p>\u0414\u043b\u044f \u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0430 \u2014 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u043c\u044b\u0441\u043b\u0430: <strong>Llama 3<\/strong> (\u0443\u043f\u0440\u043e\u0449\u0451\u043d\u043d\u043e). \u0421\u043d\u043e\u0432\u0430 \u0441\u0438\u043d\u0438\u0439 \u2014 prompt, \u043e\u0440\u0430\u043d\u0436\u0435\u0432\u044b\u0439 \u2014 completion:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/1d8\/196\/14d\/1d819614de7aff9ef81e045a59b18d11.png\" alt=\"Llama 3: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/1d8\/196\/14d\/1d819614de7aff9ef81e045a59b18d11.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/1d8\/196\/14d\/1d819614de7aff9ef81e045a59b18d11.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Llama 3: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion<\/figcaption><\/div>\n<\/figure>\n<p>\u0417\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e: \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0434\u0438\u0430\u043b\u043e\u0433 \u0434\u043b\u044f Qwen, Llama \u0438 reasoning-\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443. \u041d\u0443\u0436\u0435\u043d <strong>\u0435\u0434\u0438\u043d\u044b\u0439<\/strong> \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u043f\u0438\u0441\u0430\u0442\u044c \u00absystem \/ user \/ assistant\u00bb, \u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0432 \u0442\u0435\u043a\u0441\u0442 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043e\u0442\u0434\u0430\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u0443 \u043f\u0440\u0438 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<hr\/>\n<h3>\u0415\u0434\u0438\u043d\u044b\u0439 JSON \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u0438 Jinja chat template<\/h3>\n<p>\u0422\u0430\u043a \u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c. \u0414\u0438\u0430\u043b\u043e\u0433 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e \u2014 \u0441\u043f\u0438\u0441\u043e\u043a \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u0441 \u0440\u043e\u043b\u044f\u043c\u0438 \u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u043c. \u041c\u0430\u0441\u0441\u043e\u0432\u043e \u044d\u0442\u0443 \u0444\u043e\u0440\u043c\u0443 \u0437\u0430\u043a\u0440\u0435\u043f\u0438\u043b <strong>Chat Completions<\/strong> OpenAI (\u043d\u0430\u0447\u0430\u043b\u043e 2023; \u0434\u043e \u043d\u0435\u0433\u043e \u0447\u0430\u0449\u0435 \u0431\u044b\u043b\u0430 \u043e\u0434\u043d\u0430 \u0441\u044b\u0440\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 <code>prompt<\/code>). \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u0434\u043b\u044f \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u044d\u0442\u043e \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0439 JSON \u0432\u0440\u043e\u0434\u0435:<\/p>\n<pre><code class=\"json\">{  \"messages\": [    {\"role\": \"system\", \"content\": \"\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.\"},    {\"role\": \"user\", \"content\": \"\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?\"}  ]}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0435\u0441\u0442 \u043d\u0435 \u044d\u0442\u043e\u0442 JSON, \u0430 <strong>prompt-\u0441\u0442\u0440\u043e\u043a\u0443<\/strong> \u0441\u043e \u0441\u0432\u043e\u0438\u043c\u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430\u043c\u0438 \u2014 \u0442\u0443, \u0447\u0442\u043e \u043c\u044b \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b\u0438 \u0432\u044b\u0448\u0435. \u0421\u0432\u044f\u0437\u043a\u0430 \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 \u2014 <strong>chat template<\/strong>: \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0448\u0430\u0431\u043b\u043e\u043d \u043d\u0430 <strong>Jinja<\/strong>, \u043b\u0435\u0436\u0430\u0449\u0438\u0439 \u0440\u044f\u0434\u043e\u043c \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e (\u0432 \u043a\u043e\u043d\u0444\u0438\u0433\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, \u0432 metadata GGUF \u0438 \u0442.\u043f.). \u041d\u0430 \u0432\u0445\u043e\u0434 \u2014 <code>messages[]<\/code>, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434 \u2014 \u0442\u0435\u043a\u0441\u0442 \u0440\u043e\u0432\u043d\u043e \u0432 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0435 <strong>\u044d\u0442\u043e\u0439<\/strong> \u043c\u043e\u0434\u0435\u043b\u0438 (ChatML, Llama 3, \u0441 <code>&lt;think&gt;<\/code> \u0438\u043b\u0438 \u0431\u0435\u0437).<\/p>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0443\u0436\u0435 \u0437\u043d\u0430\u043a\u043e\u043c\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 ChatML (\u0441 <code>im_start<\/code>). \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"https:\/\/huggingface.co\/teknium\/OpenHermes-2.5-Mistral-7B\" rel=\"noopener noreferrer nofollow\">OpenHermes-2.5-Mistral-7B<\/a>: \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e <code>.jinja<\/code> \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u043d\u0435\u0442, \u043f\u043e\u043b\u0435 <code>chat_template<\/code> \u043b\u0435\u0436\u0438\u0442 \u0432\u043d\u0443\u0442\u0440\u0438 <a href=\"https:\/\/huggingface.co\/teknium\/OpenHermes-2.5-Mistral-7B\/blob\/main\/tokenizer_config.json\" rel=\"noopener noreferrer nofollow\"><code>tokenizer_config.json<\/code><\/a>. \u041f\u043e \u0441\u0443\u0442\u0438 \u044d\u0442\u043e \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u0446\u0438\u043a\u043b \u043f\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c (<code>\\n<\/code> \u0432 \u043a\u0430\u0432\u044b\u0447\u043a\u0430\u0445 \u2014 \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432 \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0439 prompt-\u0441\u0442\u0440\u043e\u043a\u0435):<\/p>\n<pre><code>{% for message in messages %}{{ '&lt;|im_start|&gt;' + message['role'] + '\\n' + message['content'] + '&lt;|im_end|&gt;' + '\\n' }}{% endfor %}{% if add_generation_prompt %}{{ '&lt;|im_start|&gt;assistant\\n' }}{% endif %}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u0435\u0433\u043e \u043a JSON \u0432\u044b\u0448\u0435 \u0438 \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u043c \u0448\u0430\u0431\u043b\u043e\u043d \u0434\u043e\u043f\u0438\u0441\u0430\u0442\u044c \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0435 \u0445\u043e\u0434\u0430 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430 (\u043d\u0438\u0436\u043d\u0438\u0439 <code>if<\/code> \u0432 Jinja) \u2014 \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0442\u0443 \u0436\u0435 ChatML-\u0441\u0442\u0440\u043e\u043a\u0443, \u0447\u0442\u043e \u0440\u0430\u043d\u044c\u0448\u0435 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b\u0438 \u043a\u0430\u043a prompt:<\/p>\n<pre><code>&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0423 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 Jinja \u0443\u0436\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435: reasoning, \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 <strong>tools<\/strong> \u2014 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u0435\u0442\u043a\u0438 \u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0428\u0430\u0431\u043b\u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b \u0438 \u0447\u0430\u0441\u0442\u043e \u0432\u044b\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u0430\u0439\u043b, \u043d\u043e \u0438\u0434\u0435\u044f \u0442\u0430 \u0436\u0435: <code>messages[]<\/code> \u2192 \u0442\u0435\u043a\u0441\u0442 <strong>\u044d\u0442\u043e\u0439<\/strong> \u043c\u043e\u0434\u0435\u043b\u0438. \u0423 <a href=\"https:\/\/huggingface.co\/Qwen\/Qwen3.5-9B\" rel=\"noopener noreferrer nofollow\">Qwen\/Qwen3.5-9B<\/a> \u044d\u0442\u043e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"https:\/\/huggingface.co\/Qwen\/Qwen3.5-9B\/blob\/main\/chat_template.jinja\" rel=\"noopener noreferrer nofollow\"><code>chat_template.jinja<\/code><\/a> \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 7\u20138 \u041a\u0411.<\/p>\n<p>\u0415\u0449\u0451 \u043d\u044e\u0430\u043d\u0441, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043b\u0435\u0433\u043a\u043e \u0443\u043f\u0443\u0441\u0442\u0438\u0442\u044c, \u0435\u0441\u043b\u0438 \u0441 LLM \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0435\u0440\u0435\u0437 \u0432\u044b\u0441\u043e\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u0439 JSON API. \u0412 \u0443\u0447\u0435\u0431\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u043e\u0431\u044b\u0447\u043d\u043e \u0432 \u0434\u0438\u0430\u043b\u043e\u0433\u0435 \u043a\u043e\u043f\u0438\u0442\u0441\u044f \u0432\u0441\u0451, \u0447\u0442\u043e \u0441\u043a\u0430\u0437\u0430\u043b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c, \u0438 \u0432\u0441\u0451, \u0447\u0442\u043e \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430 \u043c\u043e\u0434\u0435\u043b\u044c. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0447\u0430\u0441\u0442\u044c \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 <strong>\u043d\u0435 \u0434\u043e\u0439\u0442\u0438<\/strong> \u0434\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u0435\u0451 \u0432\u044b\u043a\u0438\u043d\u0435\u0442 chat template (\u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 Jinja). \u0423 Qwen, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u044b\u0445 \u0445\u043e\u0434\u043e\u0432 \u0447\u0430\u0441\u0442\u043e \u0443\u0431\u0438\u0440\u0430\u044e\u0442 \u0431\u043b\u043e\u043a\u0438 reasoning (<code>&lt;think&gt;\u2026&lt;\/think&gt;<\/code>), \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u0432\u0438\u0434\u0438\u043c\u044b\u0439 \u043e\u0442\u0432\u0435\u0442; \u0443 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u0432\u043e\u044f \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0430 (\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 thinking, \u043e\u0431\u0440\u0435\u0437\u043a\u0430 \u0441 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 \u0442.\u043f.). \u041a\u043e\u043b\u043b\u0435\u0433\u0438 \u043a\u0430\u043a-\u0442\u043e \u0438\u0441\u043a\u0430\u043b\u0438 \u00ab\u0431\u0430\u0433\u00bb: \u043f\u0440\u0438 \u043d\u043e\u0432\u044b\u0445 \u0440\u0435\u043f\u043b\u0438\u043a\u0430\u0445 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043e\u0434\u043d\u043e\u0433\u043e \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u0447\u0438\u0441\u043b\u043e <strong>\u0432\u0445\u043e\u0434\u043d\u044b\u0445<\/strong> \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u043d\u043e\u0433\u0434\u0430 \u043f\u0430\u0434\u0430\u043b\u043e, \u0430 \u043d\u0435 \u0440\u043e\u0441\u043b\u043e. \u041c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0443\u0448\u043b\u043e \u043d\u0430 \u043b\u043e\u0433\u0438 \u2014 \u0430 \u043e\u0442\u0432\u0435\u0442 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u044b\u043c: \u043d\u0430 \u043f\u0435\u0440\u0432\u044b\u0445 \u0448\u0430\u0433\u0430\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u043f\u043e\u0437\u0436\u0435 Jinja \u0438\u0445 \u0432 prompt \u043d\u0435 \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043b, \u0438 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0445\u043e\u0434\u0430\u0445 \u0432 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0445\u043e\u0434\u0438\u043b\u043e \u043c\u0435\u043d\u044c\u0448\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0435\u043c \u043d\u0430 \u043f\u0435\u0440\u0432\u044b\u0445.<\/p>\n<p>\u041e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u2014 \u0438\u0437 \u0442\u0435\u043a\u0441\u0442\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 \u0441\u043d\u043e\u0432\u0430 \u0441\u043e\u0431\u0440\u0430\u0442\u044c JSON \u2014 \u0443\u0436\u0435 \u043f\u0440\u043e\u0449\u0435: \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043e\u0431\u0451\u0440\u0442\u043a\u0430, \u043a\u0443\u0434\u0430 \u043a\u043b\u0430\u0434\u0443\u0442 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 (\u043f\u043e\u043b\u044f \u0432\u0440\u043e\u0434\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430 \u0438 \u0447\u0430\u0441\u0442\u043e \u0435\u0449\u0451 \u043f\u043e\u043b\u0435\u0437\u043d\u0443\u044e \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0443 \u043e\u0442 runtime: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0438 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u0438 \u0442.\u043f.).<\/p>\n<p>\u041e\u0431\u043d\u043e\u0432\u0438\u043c \u0441\u0445\u0435\u043c\u0443 \u0446\u0438\u043a\u043b\u0430: \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0438 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u043e\u0439 <strong>JSON \u2194 \u0442\u0435\u043a\u0441\u0442<\/strong> (chat template \u0442\u0443\u0434\u0430, \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e).<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/f30\/a99\/47b\/f30a9947b92dd49e2fb0b507cce21ac9.png\" alt=\"\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2194 JSON \u2194 \u0442\u0435\u043a\u0441\u0442 \u2194 \u0446\u0438\u043a\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/f30\/a99\/47b\/f30a9947b92dd49e2fb0b507cce21ac9.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/f30\/a99\/47b\/f30a9947b92dd49e2fb0b507cce21ac9.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2194 JSON \u2194 \u0442\u0435\u043a\u0441\u0442 \u2194 \u0446\u0438\u043a\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u0412 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u0440\u0443\u043a\u0430\u043c\u0438 \u044d\u0442\u043e \u043d\u0435 \u0432\u044b\u0437\u044b\u0432\u0430\u044e\u0442: \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0438 runtime \u0434\u0435\u043b\u0430\u044e\u0442 \u0438 \u0448\u0430\u0431\u043b\u043e\u043d, \u0438 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0443 \u043e\u0442\u0432\u0435\u0442\u0430 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0441\u043e\u043a\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u043e\u043c. \u0421\u043c\u0435\u043d\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u043f\u043e\u0434\u0445\u0432\u0430\u0442\u0438\u0442\u0441\u044f \u0434\u0440\u0443\u0433\u043e\u0439 \u0448\u0430\u0431\u043b\u043e\u043d; JSON \u0441 \u0440\u043e\u043b\u044f\u043c\u0438 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043c\u043e\u0436\u043d\u043e \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0442\u0435\u043c \u0436\u0435.<\/p>\n<p>\u0418\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u043c\u0430\u0440\u043a\u0430 \u043d\u0430 \u043f\u043e\u0442\u043e\u043c: \u043a\u043e\u0433\u0434\u0430 \u0442\u043e\u0442 \u0436\u0435 JSON \u043d\u0430\u0447\u043d\u0443\u0442 \u0433\u043e\u043d\u044f\u0442\u044c \u043f\u043e HTTP, \u0435\u0433\u043e \u0447\u0430\u0441\u0442\u043e \u043d\u0430\u0437\u043e\u0432\u0443\u0442 \u00abOpenAI-compatible\u00bb \u2014 \u043e\u0431\u044b\u0447\u043d\u043e \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u0432 \u0432\u0438\u0434\u0443 \u043a\u0430\u043a \u0440\u0430\u0437 \u044d\u0442\u0430 \u0444\u043e\u0440\u043c\u0430 <code>messages[]<\/code>, \u0430 \u043d\u0435 \u00ab\u0432\u0435\u0441\u044c \u043f\u0440\u043e\u0434\u0443\u043a\u0442 OpenAI\u00bb. \u041a \u0441\u0435\u0442\u0438 \u0438 \u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442\u0430\u043c \u0432\u0435\u0440\u043d\u0451\u043c\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e.<\/p>\n<p>\u0422\u0435\u043e\u0440\u0438\u044e \u043f\u0443\u0442\u0438 \u2014 \u0442\u043e\u043a\u0435\u043d\u044b, \u0446\u0438\u043a\u043b, \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430, <code>messages[]<\/code>, Jinja \u2014 \u043c\u044b \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043b\u0438. \u0414\u0430\u043b\u044c\u0448\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, <strong>\u043a\u0430\u043a \u044d\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u043e \u043b\u0435\u0436\u0438\u0442 \u043d\u0430 \u0434\u0438\u0441\u043a\u0435<\/strong>: \u0432\u0435\u0441\u0430, \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, chat template \u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u044b; \u0437\u0430\u0442\u0435\u043c \u2014 \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u0430\u044f \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u0432 GGUF \u0438 runtime \u0432\u0440\u043e\u0434\u0435 llama.cpp (\u0438 \u0444\u043e\u0440\u043a\u043e\u0432), \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043f\u0438\u0441\u0430\u0442\u044c \u0432\u0435\u0441\u044c \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0441\u0430\u043c\u043e\u043c\u0443.<\/p>\n<hr\/>\n<h3>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u043b\u0435\u0436\u0438\u0442 \u043d\u0430 \u0434\u0438\u0441\u043a\u0435: SafeTensors \u0438 \u0441\u043e\u0441\u0435\u0434\u043d\u0438\u0435 JSON<\/h3>\n<p>\u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u0432\u0435\u0441\u0430 \u043d\u0430 Hugging Face \u043e\u0431\u044b\u0447\u043d\u043e \u0440\u0430\u0437\u0434\u0430\u044e\u0442 <strong>\u043f\u0430\u043f\u043a\u043e\u0439<\/strong>:<\/p>\n<ul>\n<li>\n<p>\u0432\u0435\u0441\u0430 \u0432 <strong>SafeTensors<\/strong> (<code>.safetensors<\/code>, \u0438\u043d\u043e\u0433\u0434\u0430 \u0448\u0430\u0440\u0434\u044b \u0438 <code>*.index.json<\/code>);<\/p>\n<\/li>\n<li>\n<p><code>config.json<\/code> \u2014 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p>\u0444\u0430\u0439\u043b\u044b \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430 (<code>tokenizer.json<\/code>, vocab\/merges \u0438 \u0442.\u043f.);<\/p>\n<\/li>\n<li>\n<p>\u0447\u0430\u0441\u0442\u043e \u0448\u0430\u0431\u043b\u043e\u043d \u0447\u0430\u0442\u0430 (Jinja <code>chat_template<\/code> \u0432 tokenizer config \/ \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u0444\u0430\u0439\u043b\u0435);<\/p>\n<\/li>\n<li>\n<p>\u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u044b \u0432\u0440\u043e\u0434\u0435 EOS.<\/p>\n<\/li>\n<\/ul>\n<p>\u0418\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e\u0442 \u043d\u0430\u0431\u043e\u0440 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u0430\u043a\u0440\u044b\u0442\u044c \u043f\u0443\u0442\u044c \u0432\u044b\u0448\u0435: \u0432\u0437\u044f\u0442\u044c \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 <code>messages[]<\/code> \u2192 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c <strong>Jinja chat template<\/strong> \u2192 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c prompt-\u0441\u0442\u0440\u043e\u043a\u0443 \u0434\u043b\u044f <strong>\u044d\u0442\u043e\u0439<\/strong> \u043c\u043e\u0434\u0435\u043b\u0438 \u2192 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u043b\u043e\u0432\u0430\u0440\u0451\u043c \u043c\u043e\u0434\u0435\u043b\u0438 \u2192 \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c inference \u0441 KV-\u043a\u044d\u0448\u0435\u043c \u2192 detokenize \u2192 \u043f\u0440\u0438 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c \u0441\u044b\u0440\u043e\u0439 \u0432\u044b\u0445\u043e\u0434 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043e\u0442\u0434\u0435\u043b\u0438\u0442\u044c thinking) \u0438 \u0441\u043d\u043e\u0432\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043e\u0442\u0432\u0435\u0442 \u043a\u0430\u043a \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430.<\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"https:\/\/huggingface.co\/Qwen\/Qwen3.5-9B\/tree\/main\" rel=\"noopener noreferrer nofollow\">Qwen\/Qwen3.5-9B<\/a> \u2014 \u043d\u0430 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0435 Files \u043a\u0430\u043a \u0440\u0430\u0437 \u0442\u0430\u043a\u0430\u044f \u043f\u0430\u043f\u043a\u0430: \u0448\u0430\u0440\u0434\u044b SafeTensors, \u0438\u043d\u0434\u0435\u043a\u0441, \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 <code>chat_template.jinja<\/code>:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/d0a\/cea\/8b7\/d0acea8b736e1110a410030415bccb71.png\" alt=\"\u0424\u0430\u0439\u043b\u044b \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f Qwen3.5-9B \u043d\u0430 Hugging Face\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/d0a\/cea\/8b7\/d0acea8b736e1110a410030415bccb71.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/d0a\/cea\/8b7\/d0acea8b736e1110a410030415bccb71.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0424\u0430\u0439\u043b\u044b \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f Qwen3.5-9B \u043d\u0430 Hugging Face<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0438 (\u0441\u0445\u0435\u043c\u0430\u0442\u0438\u0447\u043d\u043e, \u043f\u043e \u0441\u043a\u0440\u0438\u043d\u0443 \u0432\u044b\u0448\u0435):<\/p>\n<pre><code>Qwen3.5-9B\/  config.json                      \u2190 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043c\u043e\u0434\u0435\u043b\u0438  chat_template.jinja              \u2190 Jinja: messages[] \u2192 prompt-\u0441\u0442\u0440\u043e\u043a\u0430  model-00001-of-00004.safetensors \u2190 \u0448\u0430\u0440\u0434\u044b \u0432\u0435\u0441\u043e\u0432 (SafeTensors)  model-00002-of-00004.safetensors  model-00003-of-00004.safetensors  model-00004-of-00004.safetensors  model.safetensors.index.json     \u2190 \u043a\u0430\u0440\u0442\u0430: \u043a\u0430\u043a\u043e\u0439 \u0442\u0435\u043d\u0437\u043e\u0440 \u0432 \u043a\u0430\u043a\u043e\u043c \u0448\u0430\u0440\u0434\u0435  tokenizer.json                   \u2190 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 (\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0444\u0430\u0439\u043b)  tokenizer_config.json            \u2190 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u044b  vocab.json                       \u2190 \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u0442\u043e\u043a\u0435\u043d\u043e\u0432  merges.txt                       \u2190 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0441\u043a\u043b\u0435\u0439\u043a\u0438 BPE  preprocessor_config.json         \u2190 \u043f\u0440\u0435\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a (\u0443 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 multimodal)  video_preprocessor_config.json   \u2190 \u043f\u0440\u0435\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433 \u0432\u0438\u0434\u0435\u043e<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u043e\u043b\u043d\u044b\u0435 \u0432\u0435\u0441\u0430 \u0432 FP16\/BF16 \u0434\u043b\u044f \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0430 \u0447\u0430\u0441\u0442\u043e \u0442\u044f\u0436\u0435\u043b\u044b. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043b\u044f offline-\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u0435\u043b\u0430\u044e\u0442 <strong>\u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044e<\/strong> (\u043c\u0435\u043d\u044c\u0448\u0435 \u0431\u0438\u0442 \u043d\u0430 \u0432\u0435\u0441\u0430 \u2192 \u043c\u0435\u043d\u044c\u0448\u0435 \u0444\u0430\u0439\u043b \u0438 \u043f\u0430\u043c\u044f\u0442\u044c, \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u0443\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430) \u0438 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u044e\u0442 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442, \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c\u0443 \u0434\u0432\u0438\u0436\u043a\u0443.<\/p>\n<hr\/>\n<h3>GGUF: \u043a\u0432\u0430\u043d\u0442 \u0438 \u0432\u0441\u0451 \u043d\u0443\u0436\u043d\u043e\u0435 \u0432 \u043e\u0434\u043d\u043e\u043c (\u0438\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445) \u0444\u0430\u0439\u043b\u0430\u0445<\/h3>\n<p>\u0421\u0435\u0439\u0447\u0430\u0441 \u043e\u0434\u0438\u043d \u0438\u0437 \u0441\u0430\u043c\u044b\u0445 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e inference \u2014 <strong>GGUF<\/strong>. \u0418\u0434\u0435\u044f: \u0432\u0437\u044f\u0442\u044c \u0432\u0435\u0441\u0430 (\u0447\u0430\u0441\u0442\u043e \u0443\u0436\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u044b\u0435, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 Q4_K_M), \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, chat template \u0438 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0435 \u2014 \u0438 \u0441\u043b\u043e\u0436\u0438\u0442\u044c \u0432 \u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440. \u0418\u043d\u043e\u0433\u0434\u0430 \u044d\u0442\u043e \u043e\u0434\u0438\u043d <code>.gguf<\/code>, \u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0448\u0430\u0440\u0434\u043e\u0432, \u043d\u043e \u0434\u043b\u044f \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0438 \u00ab\u0441\u043a\u0430\u0447\u0430\u043b \u0444\u0430\u0439\u043b \u2014 \u0441\u043a\u043e\u0440\u043c\u0438\u043b \u0440\u0430\u043d\u0442\u0430\u0439\u043c\u0443\u00bb \u044d\u0442\u043e\u0433\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e.<\/p>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 \u0432 GGUF \u2014 <a href=\"https:\/\/huggingface.co\/lmstudio-community\/Qwen3.5-9B-GGUF\/tree\/main\" rel=\"noopener noreferrer nofollow\">lmstudio-community\/Qwen3.5-9B-GGUF<\/a>: \u0432\u043c\u0435\u0441\u0442\u043e \u0440\u043e\u0441\u0441\u044b\u043f\u0438 SafeTensors \u2014 \u0433\u043e\u0442\u043e\u0432\u044b\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u044b\u0435 <code>.gguf<\/code> (\u0447\u0430\u0441\u0442\u043e \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443 \u0444\u0430\u0439\u043b\u0443 \u043d\u0430 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043a\u0432\u0430\u043d\u0442\u0430):<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/4fd\/27c\/6ef\/4fd27c6ef79f0d4752670a5ac010cf1c.png\" alt=\"GGUF-\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 Qwen3.5-9B \u043d\u0430 Hugging Face\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/4fd\/27c\/6ef\/4fd27c6ef79f0d4752670a5ac010cf1c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/4fd\/27c\/6ef\/4fd27c6ef79f0d4752670a5ac010cf1c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>GGUF-\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 Qwen3.5-9B \u043d\u0430 Hugging Face<\/figcaption><\/div>\n<\/figure>\n<pre><code>Qwen3.5-9B-GGUF\/  Qwen3.5-9B-Q4_K_M.gguf     \u2190 \u043a\u0432\u0430\u043d\u0442 Q4_K_M: \u0431\u0430\u043b\u0430\u043d\u0441 \u0440\u0430\u0437\u043c\u0435\u0440 \/ \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e (\u0447\u0430\u0441\u0442\u043e \u0431\u0435\u0440\u0443\u0442 \u0434\u043b\u044f \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0430)  Qwen3.5-9B-Q6_K.gguf       \u2190 \u043a\u0432\u0430\u043d\u0442 Q6_K: \u0442\u044f\u0436\u0435\u043b\u0435\u0435 \u0438 \u043e\u0431\u044b\u0447\u043d\u043e \u0447\u0443\u0442\u044c \u0442\u043e\u0447\u043d\u0435\u0435  Qwen3.5-9B-Q8_0.gguf       \u2190 \u043a\u0432\u0430\u043d\u0442 Q8_0: \u0435\u0449\u0451 \u0431\u043e\u043b\u044c\u0448\u0435 \u0438 \u0431\u043b\u0438\u0436\u0435 \u043a \u043f\u043e\u043b\u043d\u044b\u043c \u0432\u0435\u0441\u0430\u043c  mmproj-Qwen3.5-9B-BF16.gguf \u2190 multimodal projector (\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438\/\u0432\u0438\u0434\u0435\u043e); \u043a \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u043c\u0443 GGUF \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u044e\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0412 metadata \u0442\u0430\u043a\u043e\u0433\u043e <code>.gguf<\/code> \u043a\u0430\u043a \u0440\u0430\u0437 \u043b\u0435\u0436\u0438\u0442 \u0442\u043e, \u0447\u0442\u043e \u0440\u0430\u043d\u044c\u0448\u0435 \u0431\u044b\u043b\u043e \u0440\u0430\u0437\u043c\u0430\u0437\u0430\u043d\u043e \u043f\u043e JSON \u0440\u044f\u0434\u043e\u043c \u0441 SafeTensors: \u043a\u0430\u043a \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u043a\u0430\u043a \u0438\u0437 <code>messages[]<\/code> \u0441\u043e\u0431\u0440\u0430\u0442\u044c prompt. \u0414\u0432\u0438\u0436\u043e\u043a \u0447\u0438\u0442\u0430\u0435\u0442 \u0444\u0430\u0439\u043b \u2014 \u0438 \u0437\u043d\u0430\u0435\u0442, <strong>\u043a\u0430\u043a\u043e\u0439<\/strong> \u0442\u0435\u043a\u0441\u0442 \u0436\u0434\u0430\u0442\u044c \u044d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<p>\u041a\u0440\u043e\u043c\u0435 GGUF \u0435\u0441\u0442\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0444\u043e\u0440\u043c\u0430\u0442\u044b \u2014 \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 <strong>MLX<\/strong> \u043f\u043e\u0434 Apple Silicon: \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0430 \u0431\u043b\u0438\u0436\u0435 \u043a \u043f\u0430\u043f\u043a\u0435 SafeTensors, \u0447\u0435\u043c \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0443, \u0438 \u0441\u0432\u043e\u0439 \u0441\u0442\u0435\u043a \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a. \u041b\u043e\u0433\u0438\u043a\u0430 \u0442\u0430 \u0436\u0435: \u0443\u0434\u043e\u0431\u043d\u043e \u0445\u0440\u0430\u043d\u0438\u0442\u044c (\u0447\u0430\u0441\u0442\u043e \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u044b\u0435) \u0432\u0435\u0441\u0430 \u0438 \u0433\u043e\u043d\u044f\u0442\u044c \u0438\u0445 \u0441\u0432\u043e\u0438\u043c runtime. \u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0434\u0430\u043b\u044c\u0448\u0435 \u043e\u043f\u0438\u0440\u0430\u0435\u043c\u0441\u044f \u043d\u0430 GGUF + llama.cpp \u043a\u0430\u043a \u043d\u0430 \u0441\u0430\u043c\u044b\u0439 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u0441\u0432\u044f\u0437\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440; \u0432 MLX \u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0438 \u0443\u0433\u043b\u0443\u0431\u043b\u044f\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0435\u043c.<\/p>\n<hr\/>\n<h3>llama.cpp: \u0447\u0438\u0442\u0430\u0442\u044c GGUF \u0438 \u043d\u0435 \u043f\u0438\u0441\u0430\u0442\u044c \u0446\u0438\u043a\u043b \u0432\u0440\u0443\u0447\u043d\u0443\u044e<\/h3>\n<p><a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\" rel=\"noopener noreferrer nofollow\">llama.cpp<\/a> \u2014 \u0432 \u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c C\/C++ \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 inference (<code>libllama<\/code>): \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GGUF, \u0442\u043e\u043a\u0435\u043d\u044b, decode, KV-\u043a\u044d\u0448, \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0441\u043b\u043e\u0451\u0432 \u043d\u0430 CPU \/ GPU \/ Metal (Apple Silicon). \u0412 \u0442\u043e\u043c \u0436\u0435 \u043c\u0438\u0440\u0435 \u0432\u043e\u043a\u0440\u0443\u0433 \u043d\u0435\u0451:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u0430\u0447\u0435\u043c<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">C++ \/ <code>libllama<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0441\u0442\u0440\u043e\u0438\u0442\u044c inference \u043f\u0440\u044f\u043c\u043e \u0432 \u0441\u0432\u043e\u0451 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>llama-cli<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u044b\u0441\u0442\u0440\u043e \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0430, \u0431\u0435\u0437 \u0441\u0432\u043e\u0435\u0433\u043e \u043a\u043e\u0434\u0430 \u0438 \u0431\u0435\u0437 HTTP<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>llama-cpp-python<\/code> \u0438 \u0434\u0440. bindings<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0422\u043e\u0442 \u0436\u0435 \u0434\u0432\u0438\u0436\u043e\u043a \u0438\u0437 Python in-process<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>llama-server<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">HTTP-\u0444\u0430\u0441\u0430\u0434: \u0434\u0440\u0443\u0433\u043e\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0448\u043b\u0451\u0442 JSON, \u043a\u0430\u043a \u043d\u0430 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 API<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">UI \u0432\u0440\u043e\u0434\u0435 LM Studio \/ Ollama<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0430\u0441\u0442\u043e \u0442\u043e\u0442 \u0436\u0435 \u043a\u043b\u0430\u0441\u0441 \u0438\u0434\u0435\u0439: \u0444\u0430\u0439\u043b \u043c\u043e\u0434\u0435\u043b\u0438 + \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 API, \u0447\u0442\u043e\u0431\u044b \u0431\u044b\u0442\u044c \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u043c \u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/49f\/88b\/63f\/49f88b63fbaad871a55a66e61c61583c.png\" alt=\"GGUF \u2192 llama.cpp \u2192 Python \/ C++ \/ CLI \/ HTTP\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/49f\/88b\/63f\/49f88b63fbaad871a55a66e61c61583c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/49f\/88b\/63f\/49f88b63fbaad871a55a66e61c61583c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>GGUF \u2192 llama.cpp \u2192 Python \/ C++ \/ CLI \/ HTTP<\/figcaption><\/div>\n<\/figure>\n<p>\u041d\u0438\u0436\u0435 \u2014 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0441\u043c\u044b\u0441\u043b \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0447\u0435\u0440\u0435\u0437 Python, CLI \u0438 HTTP.<\/p>\n<h4>Python-\u043e\u0431\u0451\u0440\u0442\u043a\u0430<\/h4>\n<pre><code class=\"python\">from llama_cpp import Llama  # Python-\u043e\u0431\u0451\u0440\u0442\u043a\u0430 \u043d\u0430\u0434 libllamallm = Llama(    model_path=\"Qwen3-8B-Q4_K_M.gguf\",  # \u043f\u0443\u0442\u044c \u043a GGUF (\u0432\u0435\u0441\u0430 + template + \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440)    n_ctx=8192,  # \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0432 \u0442\u043e\u043a\u0435\u043d\u0430\u0445 (prompt + \u043e\u0442\u0432\u0435\u0442)    n_gpu_layers=-1,  # \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0451\u0432 \u043d\u0430 GPU\/Metal; -1 = \u0432\u0441\u0435, \u0435\u0441\u043b\u0438 \u0441\u0431\u043e\u0440\u043a\u0430 \u0443\u043c\u0435\u0435\u0442)out = llm.create_chat_completion(    messages=[  # \u0442\u043e\u0442 \u0436\u0435 messages[], \u0447\u0442\u043e \u0438 \u0432 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u043c JSON        {\"role\": \"system\", \"content\": \"\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.\"},        {\"role\": \"user\", \"content\": \"\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?\"},    ],    temperature=0.2,  # \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u00ab\u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u00bb \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d    max_tokens=512,  # \u043b\u0438\u043c\u0438\u0442 \u0434\u043b\u0438\u043d\u044b completion (\u0432\u043a\u043b\u044e\u0447\u0430\u044f thinking, \u0435\u0441\u043b\u0438 \u043e\u043d \u0435\u0441\u0442\u044c))print(out[\"choices\"][0][\"message\"][\"content\"])  # \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u2014 \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0439 JSON (Chat Completions). \u0412\u043d\u0443\u0442\u0440\u0438 \u2014 template \u0438\u0437 GGUF, \u0442\u043e\u043a\u0435\u043d\u044b, \u0446\u0438\u043a\u043b, KV-\u043a\u044d\u0448.<\/p>\n<h4>CLI<\/h4>\n<p>\u0414\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0431\u0435\u0437 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e CLI (\u0444\u043b\u0430\u0433\u0438 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043e\u0442 \u0432\u0435\u0440\u0441\u0438\u0438 <code>llama-cli<\/code>; \u0441\u043c\u044b\u0441\u043b \u0442\u043e\u0442 \u0436\u0435 \u2014 \u0444\u0430\u0439\u043b + prompt \u0438\u043b\u0438 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0447\u0430\u0442):<\/p>\n<pre><code class=\"bash\">llama-cli \\  -m Qwen3-8B-Q4_K_M.gguf \\  -sys \"\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.\" \\  -p '\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?' \\  -n 256<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0422\u0430\u043a \u0443\u0434\u043e\u0431\u043d\u043e \u0443\u0431\u0435\u0434\u0438\u0442\u044c\u0441\u044f, \u0447\u0442\u043e \u043a\u0432\u0430\u043d\u0442, \u0448\u0430\u0431\u043b\u043e\u043d \u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u044b \u0432\u043e\u043e\u0431\u0449\u0435 \u0436\u0438\u0432\u044b\u0435, \u0434\u043e \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u0438 \u0432 \u0431\u043e\u0442\u0430.<\/p>\n<h4>HTTP (llama-server)<\/h4>\n<p>\u041f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442\u0435 \u0441\u0435\u0440\u0432\u0435\u0440 \u0438 \u0431\u044c\u0451\u0442\u0435 \u0432 OpenAI-\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 endpoint \u2014 \u0442\u0435\u043c \u0436\u0435 JSON, \u0447\u0442\u043e \u0432\u044b\u0448\u0435:<\/p>\n<pre><code class=\"bash\">llama-server -m Qwen3-8B-Q4_K_M.gguf --port 8080<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<pre><code class=\"bash\">curl http:\/\/127.0.0.1:8080\/v1\/chat\/completions \\  -H \"Content-Type: application\/json\" \\  -d '{    \"model\": \"local\",    \"messages\": [      {\"role\": \"system\", \"content\": \"\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.\"},      {\"role\": \"user\", \"content\": \"\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?\"}    ]  }'<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u043b\u044e\u0431\u043e\u043c \u044f\u0437\u044b\u043a\u0435 \u0442\u0435\u043f\u0435\u0440\u044c \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u0441 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0442\u0430\u043a \u0436\u0435, \u043a\u0430\u043a \u0441 \u043e\u0431\u043b\u0430\u043a\u043e\u043c: \u0441\u043c\u0435\u043d\u0438\u043b\u0438 <code>base_url<\/code> \u2014 \u0441\u043c\u0435\u043d\u0438\u043b\u0438 backend. \u041e\u0431\u043b\u0430\u0447\u043d\u044b\u0435 LLM \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0442\u043e\u0436\u0435 HTTP; \u0432\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u0438\u0434\u0438\u0442\u0435 GGUF \u0438 KV-\u043a\u044d\u0448.<\/p>\n<p>\u0421\u0445\u0435\u043c\u0430 \u043f\u0443\u0442\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c \u2014 \u0442\u043e\u0442 \u0436\u0435 \u0446\u0438\u043a\u043b, \u0447\u0442\u043e \u0441 JSON \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0435, \u043f\u043b\u044e\u0441 \u044f\u0432\u043d\u043e: \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0443\u0436\u0435 \u0445\u043e\u0434\u0438\u0442 \u043f\u043e <strong>HTTP<\/strong> \u0441 JSON-\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 (\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 <code>llama-server<\/code> \u0438\u043b\u0438 \u043e\u0431\u043b\u0430\u043a\u043e \u2014 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043e\u0434\u0438\u043d \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442). \u041c\u0435\u0436\u0434\u0443 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0438 JSON\u2194\u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0441\u0445\u0435\u043c\u0435 \u2014 <strong>\u0441\u043b\u043e\u0439 \u0432\u0435\u0431-\u0441\u0435\u0440\u0432\u0435\u0440\u0430<\/strong>; \u0438\u0434\u0435\u044f \u0443 \u0432\u0441\u0435\u0445 \u043e\u0434\u043d\u0430, \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u043e \u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/cc6\/927\/6a3\/cc69276a3b52fb3c576b101ff71274b5.png\" alt=\"\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2192 HTTP \u2192 JSON \u2194 \u0442\u0435\u043a\u0441\u0442 \u2192 \u0446\u0438\u043a\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/cc6\/927\/6a3\/cc69276a3b52fb3c576b101ff71274b5.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/cc6\/927\/6a3\/cc69276a3b52fb3c576b101ff71274b5.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2192 HTTP \u2192 JSON \u2194 \u0442\u0435\u043a\u0441\u0442 \u2192 \u0446\u0438\u043a\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e <code>llama-server<\/code> \u0435\u0441\u0442\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435: \u0447\u0430\u0441\u0442\u044c \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 llama.cpp (\u0438\u043b\u0438 \u0444\u043e\u0440\u043a\u0435), \u0447\u0430\u0441\u0442\u044c \u0433\u043e\u043d\u044f\u0435\u0442 \u043f\u043e\u0445\u043e\u0436\u0443\u044e \u043b\u043e\u0433\u0438\u043a\u0443 \u0441\u0432\u043e\u0438\u043c \u0434\u0432\u0438\u0436\u043a\u043e\u043c. \u0418\u0437 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445:<\/p>\n<ul>\n<li>\n<p><strong>LM Studio<\/strong> \u2014 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0441 UI: \u043c\u043e\u0436\u043d\u043e \u043b\u0435\u0433\u043a\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0441\u043f\u0438\u0441\u043a\u043e\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0441 \u043d\u0438\u043c\u0438 \u0438\u043d\u0442\u0435\u0440\u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0447\u0430\u0442, \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043b\u043e\u0433\u0438. \u0414\u043b\u044f GGUF \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043d\u0430 llama.cpp; \u043d\u0430 Apple Silicon \u0443\u043c\u0435\u0435\u0442 \u0438 <strong>MLX<\/strong>. \u0422\u043e\u0442 \u0436\u0435 UI \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u0438 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 OpenAI\/Antropic \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 HTTP-\u0441\u0435\u0440\u0432\u0435\u0440 \u2014 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0434\u043b\u044f \u0432\u0430\u0448\u0435\u0433\u043e \u043a\u043e\u0434\u0430 \u044d\u0442\u043e \u0441\u043d\u043e\u0432\u0430 <code>base_url<\/code>.<\/p>\n<\/li>\n<li>\n<p><strong>Ollama<\/strong> \u2014 \u0431\u043b\u0438\u0436\u0435 \u043a \u00ab\u0434\u0435\u043c\u043e\u043d\u0443 \u0432 \u0444\u043e\u043d\u0435\u00bb: \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043a\u0430\u0447\u0430\u043b\u0438 \/ \u0443\u043a\u0430\u0437\u0430\u043b\u0438 \u2014 \u0438 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c HTTP API \u0432 \u0434\u0443\u0445\u0435 Chat Completions, \u0447\u0430\u0441\u0442\u043e \u0431\u0435\u0437 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0432\u043e\u0437\u043d\u0438 \u0441 <code>llama-server<\/code>.<\/p>\n<\/li>\n<li>\n<p><strong>vLLM<\/strong> \u2014 \u0443\u0436\u0435 \u043f\u0440\u043e \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0438 \u043f\u0440\u043e\u0434: \u0432\u044b\u0441\u043e\u043a\u0438\u0439 throughput, \u0431\u0430\u0442\u0447\u0438\u043d\u0433 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u043e\u0431\u044b\u0447\u043d\u043e \u0432\u0435\u0441\u0430 \u0432 \u0434\u0443\u0445\u0435 Hugging Face \/ SafeTensors, \u0430 \u043d\u0435 \u00ab\u043e\u0434\u0438\u043d GGUF \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u00bb. \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u0442\u043e\u0436\u0435 \u0447\u0430\u0441\u0442\u043e \u043e\u0442\u0434\u0430\u044e\u0442 OpenAI-\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 HTTP.<\/p>\n<\/li>\n<\/ul>\n<p>\u0427\u0442\u043e-\u0442\u043e \u0443\u0434\u043e\u0431\u043d\u043e \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u0447\u0442\u043e-\u0442\u043e \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d\u043e \u043d\u0430 \u0444\u0435\u0440\u043c\u0443 GPU; \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0439 JSON-\u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442, \u0438 \u043e\u043d \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u043d \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0442\u044c \u0441 \u0442\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432 \u0438\u0442\u043e\u0433\u0435 \u0443\u0439\u0434\u0451\u0442 \u0432 \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<hr\/>\n<h3>\u041e\u0442 LLM \u043a \u0430\u0433\u0435\u043d\u0442\u0443: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 tools, \u043f\u043e\u0442\u043e\u043c \u0446\u0438\u043a\u043b<\/h3>\n<p>\u0414\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u0443 \u043d\u0430\u0441 \u0431\u044b\u043b \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0447\u0430\u0442: \u0432\u043e\u043f\u0440\u043e\u0441 \u2192 \u043e\u0442\u0432\u0435\u0442 \u2192 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u0432 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u0434\u0438\u0430\u043b\u043e\u0433\u0430. \u041e\u0442\u0432\u0435\u0442 \u043e\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0440\u0435\u043f\u043b\u0438\u043a\u0443, \u043d\u043e \u0438 \u043d\u0430 \u0432\u0441\u044e \u0438\u0441\u0442\u043e\u0440\u0438\u044e (\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442). \u042d\u0442\u043e \u0432\u0441\u0451 \u0435\u0449\u0451 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0447\u0430\u0442 \u0441 LLM: \u0434\u043e \u0430\u0433\u0435\u043d\u0442\u0430 \u0447\u0430\u0441\u0442\u043e \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043e\u0434\u043d\u043e\u0433\u043e \u0448\u0430\u0433\u0430 \u2014 \u0438 \u043e\u043d \u043d\u0435 \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u0432 runtime \u0432\u043e\u043a\u0440\u0443\u0433 \u043d\u0435\u0451. \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442\u043e\u043c; \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e \u0432 \u044d\u0442\u043e\u043c \u0442\u0435\u043a\u0441\u0442\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442, \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0435\u0451 \u0443\u0447\u0438\u043b\u0438.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u043d\u0430 \u0447\u0442\u043e-\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0432\u043e \u0432\u043d\u0435\u0448\u043d\u0435\u043c \u043c\u0438\u0440\u0435, \u0435\u0439 \u043d\u0443\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0438\u0442\u044c, <em>\u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e<\/em> \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u043b\u0430\u0442\u044c. \u0422\u043e\u0433\u0434\u0430 \u0432 \u043e\u0442\u0432\u0435\u0442\u0435 \u043e\u043d\u0430 \u044f\u0432\u043d\u043e \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u0442 \u043d\u0443\u0436\u043d\u043e\u0435 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u2014 \u043a\u043e\u0433\u0434\u0430 \u0441\u043e\u0447\u0442\u0451\u0442 \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u044b\u043c. \u0421\u0430\u043c\u0430 \u043e\u043d\u0430 \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0438\u0448\u0435\u0442 \u0442\u0435\u043a\u0441\u0442; \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441 \u0438\u043b\u0438 \u043d\u0435\u0442 \u0440\u0435\u0448\u0430\u0435\u0442\u0435 \u0432\u044b, \u0441\u0432\u043e\u0438\u043c \u043a\u043e\u0434\u043e\u043c \u0438\u043b\u0438 \u0447\u0443\u0436\u043e\u0439 \u043e\u0431\u0451\u0440\u0442\u043a\u043e\u0439.<\/p>\n<p>\u041d\u0430 \u043f\u0430\u043b\u044c\u0446\u0430\u0445 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u0451\u043d\u043d\u043e\u0441\u0442\u044c \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0442\u0430\u043a\u0430\u044f: \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u0433\u043e\u0432\u043e\u0440\u0438\u043c \u0435\u0439, \u0447\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u043e \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0410 \u2014 \u043d\u0430\u043f\u0438\u0448\u0438 \u0432 \u043e\u0442\u0432\u0435\u0442\u0435 \u00ab\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0410\u00bb; \u043a\u043e\u0433\u0434\u0430 \u0411 \u2014 \u00ab\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0411\u00bb. \u041c\u043e\u0434\u0435\u043b\u044c \u043a\u0430\u043a \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u043b\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u043b\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u0442\u0430\u043a \u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442; \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0444\u043e\u0440\u043c\u0430\u0442. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0443 \u043d\u0435\u0451 \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u0432\u044b\u0437\u044b\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b (<code>tool use<\/code> \/ <code>function calling<\/code>) \u2014 \u044d\u0442\u043e\u043c\u0443 \u0435\u0451 \u0443\u0447\u0438\u043b\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0438\u043b\u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438.<\/p>\n<p>\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440. \u041e\u0431\u044b\u0447\u043d\u0430\u044f Python-\u0444\u0443\u043d\u043a\u0446\u0438\u044f: \u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0442 \u00ab\u0447\u0430\u0441\u043e\u0432\u00bb, \u0443 runtime \u2014 \u0435\u0441\u0442\u044c:<\/p>\n<pre><code class=\"python\">from datetime import datetime, timezonedef get_current_time() -&gt; str:    \"\"\"\u0422\u0435\u043a\u0443\u0449\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0432 UTC, ISO-8601.\"\"\"    return datetime.now(timezone.utc).isoformat()<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0412 \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u043a \u043c\u043e\u0434\u0435\u043b\u0438 (Chat Completions \u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0438) \u043c\u044b \u043d\u0435 \u00ab\u0432\u0448\u0438\u0432\u0430\u0435\u043c\u00bb \u043a\u043e\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0432 \u0432\u0435\u0441\u0430 \u2014 \u043c\u044b <strong>\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u043c<\/strong> tool \u0432 JSON \u0440\u044f\u0434\u043e\u043c \u0441 <code>messages<\/code>: \u0438\u043c\u044f, \u0437\u0430\u0447\u0435\u043c \u043d\u0443\u0436\u0435\u043d, \u043a\u0430\u043a\u0438\u0435 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u044b (JSON Schema). \u0414\u043b\u044f \u043d\u0430\u0448\u0435\u0433\u043e \u0441\u043b\u0443\u0447\u0430\u044f \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043d\u0435\u0442:<\/p>\n<p>\u0417\u0430\u043f\u0440\u043e\u0441 \u043a \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u0438 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u0442\u044c runtime \u0432\u044b\u0437\u0432\u0430\u0442\u044c <code>get_current_time<\/code>:<\/p>\n<pre><code class=\"json\">{  \"model\": \"local\",  \"messages\": [    {\"role\": \"user\", \"content\": \"\u041a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0435\u0439\u0447\u0430\u0441 \u0447\u0430\u0441 \u043f\u043e UTC?\"}  ],  \"tools\": [    {      \"type\": \"function\",      \"function\": {        \"name\": \"get_current_time\",        \"description\": \"\u0412\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0442\u0435\u043a\u0443\u0449\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0432 UTC \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 ISO-8601.\",        \"parameters\": {          \"type\": \"object\",          \"properties\": {},          \"additionalProperties\": false        }      }    }  ]}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u043d\u0435 \u0433\u043e\u0442\u043e\u0432\u043e\u0439 \u0444\u0440\u0430\u0437\u043e\u0439 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443, \u0430 <strong>\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c \u043d\u0430 \u0432\u044b\u0437\u043e\u0432<\/strong> \u2014 \u0432 \u0442\u043e\u043c \u0436\u0435 JSON-\u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442\u0435 \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a (<code>tool_calls<\/code>):<\/p>\n<pre><code class=\"json\">{  \"role\": \"assistant\",  \"content\": null,  \"tool_calls\": [    {      \"id\": \"call_1\",      \"type\": \"function\",      \"function\": {        \"name\": \"get_current_time\",        \"arguments\": \"{}\"      }    }  ]}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>Runtime \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c \u0438 LLM \u0432\u0438\u0434\u0438\u0442, \u0447\u0442\u043e \u044d\u0442\u043e \u043d\u0435 \u043e\u0442\u0432\u0435\u0442 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443, \u0430 <code>tool_calls<\/code>: \u0438\u043c\u044f <code>get_current_time<\/code> \u0438 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u044b (\u0435\u0441\u043b\u0438 \u0435\u0441\u0442\u044c). \u041e\u043d \u0441\u0430\u043c \u0432\u044b\u0437\u044b\u0432\u0430\u0435\u0442 <code>get_current_time()<\/code>, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0441\u0442\u0440\u043e\u043a\u0443 \u0432\u0440\u043e\u0434\u0435 <code>2026-07-20T11:32:00+00:00<\/code> \u0438 \u043a\u043b\u0430\u0434\u0451\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435\u043c \u0441 <code>role=tool<\/code>. \u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u0436\u0435 \u0432\u0438\u0434\u0438\u0442 \u0444\u0430\u043a\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u043e\u0431\u044b\u0447\u043d\u044b\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u2014 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e\u0442 \u043e\u0442\u0432\u0435\u0442 runtime \u043e\u0442\u0434\u0430\u0451\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e. Tools \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0435 \u00ab\u0432\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0447\u0438\u0445\u00bb: \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u0435 <code>1+1<\/code> \u2014 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0442\u0432\u0435\u0442\u0438\u0442 \u0441\u0430\u043c\u0430, \u0431\u0435\u0437 <code>get_current_time<\/code>, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0432 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0438 \u0441\u043a\u0430\u0437\u0430\u043d\u043e, \u0437\u0430\u0447\u0435\u043c tool \u043d\u0443\u0436\u0435\u043d. \u0410 \u0435\u0441\u043b\u0438 \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c, \u043a\u0430\u043a\u043e\u0439 \u0437\u0430\u0432\u0442\u0440\u0430 \u0434\u0435\u043d\u044c, \u043e\u043d\u0430 \u043c\u043e\u0436\u0435\u0442 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0438\u0442\u044c \u0442\u0435\u043a\u0443\u0449\u0435\u0435 \u0432\u0440\u0435\u043c\u044f, \u043f\u0440\u0438\u0431\u0430\u0432\u0438\u0442\u044c \u0434\u0435\u043d\u044c \u0443\u0436\u0435 \u00ab\u0432 \u0443\u043c\u0435\u00bb \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043c \u043e\u0442\u0434\u0430\u0442\u044c \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0443.<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 tools \u043c\u043e\u0436\u043d\u043e \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u0447\u0442\u043e \u0443\u0433\u043e\u0434\u043d\u043e: \u0443\u0437\u043d\u0430\u0442\u044c \u0432\u0440\u0435\u043c\u044f, \u043f\u043e\u0438\u0441\u043a\u0430\u0442\u044c \u0432 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0435, \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u0437\u0430\u044f\u0432\u043a\u0443 \u0432 CRM \u0438\u043b\u0438 \u0445\u043e\u0442\u044c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439 \u0438\u0437 \u00ab\u0422\u0435\u0440\u043c\u0438\u043d\u0430\u0442\u043e\u0440\u0430\u00bb. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u2014 \u0447\u0442\u043e\u0431\u044b \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 runtime \u0431\u044b\u043b\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f. LLM \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e, <em>\u043a\u0430\u043a<\/em> \u044d\u0442\u043e \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u043e \u0432\u043d\u0443\u0442\u0440\u0438: \u0441\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u0442\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u2014 \u0437\u043d\u0430\u0447\u0438\u0442, \u043a\u043e\u0433\u0434\u0430 \u043e\u043d\u0430 \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u0442, \u043a\u0442\u043e-\u0442\u043e \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u044d\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442.<\/p>\n<p>\u041e\u0434\u0438\u043d \u043a\u043b\u0430\u0441\u0441 tools \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0435\u0442 <strong>\u0441\u043b\u0430\u0431\u043e\u0441\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0438<\/strong> \u043d\u0430 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u0433\u0434\u0435 \u0434\u0435\u0442\u0435\u0440\u043c\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043f\u0440\u043e\u0441\u0442, \u0430 \u0440\u0430\u0431\u043e\u0442\u0430 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043b\u0435\u0433\u043a\u043e \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f: \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u043a\u0430, \u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0430\u0446\u0438\u044f \u0434\u0430\u0442 \u0438 \u0442\u0430\u0439\u043c\u0437\u043e\u043d, \u043f\u0430\u0440\u0441\u0438\u043d\u0433 cron, \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0435\u0434\u0438\u043d\u0438\u0446. \u0414\u043b\u044f \u043a\u043e\u0434\u0430 \u044d\u0442\u043e \u043f\u0430\u0440\u0430 \u0441\u0442\u0440\u043e\u043a; \u0434\u043b\u044f LLM \u2014 \u00ab\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e\u00bb \u0438 \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0430\u0446\u0438\u0438. \u0427\u0435\u043c \u0441\u043b\u0430\u0431\u0435\u0435 \u043c\u043e\u0434\u0435\u043b\u044c, \u0442\u0435\u043c \u0447\u0430\u0449\u0435 \u043d\u0443\u0436\u043d\u044b \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u0438\u0435 tools: \u0441\u0438\u043b\u044c\u043d\u0430\u044f \u0435\u0449\u0451 \u043c\u043e\u0436\u0435\u0442 \u00ab\u0432\u044b\u0442\u044f\u043d\u0443\u0442\u044c\u00bb \u0443\u0441\u0442\u043d\u043e, \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u2014 \u0443\u0436\u0435 \u043d\u0435\u0442.<\/p>\n<p>\u041d\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e tools \u2014 \u0434\u043e\u0441\u0442\u0443\u043f \u043a <strong>\u0432\u043d\u0435\u0448\u043d\u0435\u043c\u0443 \u043c\u0438\u0440\u0443<\/strong>, \u043a\u0443\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0430\u043c\u0430 \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u044c\u0441\u044f: \u0442\u0435\u043a\u0443\u0449\u0435\u0435 \u0432\u0440\u0435\u043c\u044f, \u043f\u043e\u0438\u0441\u043a \u043f\u043e \u0431\u0430\u0437\u0435, Jira, \u0431\u0440\u0430\u0443\u0437\u0435\u0440, HTTP \u043a \u0432\u0430\u0448\u0435\u043c\u0443 API. \u0411\u0435\u0437 tool \u0437\u0434\u0435\u0441\u044c \u043d\u0435 \u043e\u0431\u043e\u0439\u0442\u0438\u0441\u044c \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e \u0432\u0435\u0441\u043e\u0432.<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0442\u043e\u043b\u044c\u043a\u043e <strong>\u043f\u0440\u043e\u0441\u0438\u0442<\/strong> \u0432\u044b\u0437\u043e\u0432: \u043f\u0438\u0448\u0435\u0442 \u0438\u043c\u044f tool \u0438 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u044b. \u0421\u0430\u043c\u0430 \u043d\u0438\u043a\u0443\u0434\u0430 \u043d\u0435 \u0445\u043e\u0434\u0438\u0442 \u2014 \u0432\u0435\u0441\u0430\u043c \u043d\u0435\u043a\u0443\u0434\u0430 \u043e\u0442\u043a\u0440\u044b\u0442\u044c \u0441\u043e\u043a\u0435\u0442 \u0438 \u043d\u0435\u0447\u0435\u043c \u0434\u0435\u0440\u043d\u0443\u0442\u044c Jira. \u0412\u043e\u043a\u0440\u0443\u0433 LLM \u043d\u0443\u0436\u043d\u0430 <strong>\u043e\u0431\u0451\u0440\u0442\u043a\u0430<\/strong> (\u0441\u0432\u043e\u0439 runtime \u0438\u043b\u0438 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a): \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435 tools, \u043f\u043e\u0441\u043b\u0430\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441, \u043f\u0440\u0438 <code>tool_calls<\/code> \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u044c \u0438\u0445 (\u0438\u043b\u0438 \u043f\u0440\u043e\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c), \u0434\u043e\u043f\u0438\u0441\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u0438 \u0441\u043d\u043e\u0432\u0430 \u0432\u044b\u0437\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c; \u0431\u0435\u0437 \u0432\u044b\u0437\u043e\u0432\u0430 \u2014 \u043e\u0442\u0434\u0430\u0442\u044c \u043e\u0442\u0432\u0435\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e.<\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u0446\u0438\u043a\u043b \u0437\u0430\u043c\u044b\u043a\u0430\u0435\u0442\u0441\u044f \u0432 \u00ab\u043f\u043e\u0434\u0443\u043c\u0430\u043b \u2192 tool \u2192 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u2192 \u0441\u043d\u043e\u0432\u0430 \u043f\u043e\u0434\u0443\u043c\u0430\u043b\u00bb, \u044d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u043e\u0434\u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f, \u0430 <strong>\u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u0430\u0433\u0435\u043d\u0442<\/strong>. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0438\u043c\u044f \u0441\u0445\u0435\u043c\u044b \u2014 <strong>ReAct<\/strong> (Reason + Act).<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/fe5\/37f\/270\/fe537f2701145b5cc7b91e0e696826ae.png\" alt=\"ReAct \/ agentic loop: \u0438\u0441\u0442\u043e\u0440\u0438\u044f, LLM, tools\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/fe5\/37f\/270\/fe537f2701145b5cc7b91e0e696826ae.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/fe5\/37f\/270\/fe537f2701145b5cc7b91e0e696826ae.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>ReAct \/ agentic loop: \u0438\u0441\u0442\u043e\u0440\u0438\u044f, LLM, tools<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u0438\u0441\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 tool \u0441 \u043d\u0443\u043b\u044f \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u043e: \u043c\u043d\u043e\u0433\u0438\u0435 \u0443\u0436\u0435 \u0433\u043e\u0442\u043e\u0432\u044b, \u0438\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f. \u0427\u0442\u043e\u0431\u044b \u043f\u0440\u043e\u0449\u0435 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c tools, \u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c \u0438\u0445, \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u0430\u0432\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u044e \u0438 \u0442.\u043f., \u0435\u0441\u0442\u044c <strong>MCP<\/strong> (Model Context Protocol). \u042d\u0442\u043e \u0441\u043f\u043e\u0441\u043e\u0431 <strong>\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c<\/strong> \u043d\u0430\u0431\u043e\u0440 tools \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0432 \u043f\u043e\u043d\u044f\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0435: \u0441\u043f\u0438\u0441\u043e\u043a \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u0441\u0445\u0435\u043c\u044b \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u0432\u044b\u0437\u043e\u0432. \u041c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c \u0441\u0447\u0451\u0442\u0435 \u0432\u0430\u0436\u043d\u044b \u0441\u0430\u043c\u0438 tools; MCP \u2014 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u0438 \u0442\u0440\u0430\u043d\u0441\u043f\u043e\u0440\u0442, \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0434\u043b\u044f \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043a \u0440\u0430\u0437\u043d\u044b\u043c \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c \u0438 \u043e\u0431\u043b\u0430\u043a\u0430\u043c.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/1a7\/05f\/069\/1a705f06949bdcc7b25b1aef8500e643.png\" alt=\"MCP-\u0441\u0435\u0440\u0432\u0435\u0440 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u0442 tools; \u0430\u0433\u0435\u043d\u0442\u044b \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f \u043a \u0441\u0435\u0440\u0432\u0435\u0440\u0443\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/1a7\/05f\/069\/1a705f06949bdcc7b25b1aef8500e643.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/1a7\/05f\/069\/1a705f06949bdcc7b25b1aef8500e643.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>MCP-\u0441\u0435\u0440\u0432\u0435\u0440 \u0443\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u0442 tools; \u0430\u0433\u0435\u043d\u0442\u044b \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f \u043a \u0441\u0435\u0440\u0432\u0435\u0440\u0443<\/figcaption><\/div>\n<\/figure>\n<h3>\u041e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f, \u0433\u0434\u0435 \u044d\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c<\/h3>\n<p>\u0426\u0438\u043a\u043b \u043c\u043e\u0436\u043d\u043e \u043a\u0440\u0443\u0442\u0438\u0442\u044c \u0443 \u0441\u0435\u0431\u044f (\u0441\u0432\u043e\u0439 \u043a\u043e\u0434 \u0438\u043b\u0438 LangChain \/ LangGraph \u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0438) \u043b\u0438\u0431\u043e \u043e\u0442\u0434\u0430\u0442\u044c \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0430, \u0443 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0435\u0441\u0442\u044c \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a \u0434\u043b\u044f AI-\u0430\u0433\u0435\u043d\u0442\u043e\u0432: \u0432 \u043a\u043e\u043d\u0441\u043e\u043b\u0438 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u044c, \u043f\u0438\u0448\u0435\u0442\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 prompt, \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0435 MCP \u2014 \u0430 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u0447\u043a\u0430 \u0432\u0445\u043e\u0434\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0434\u0435\u0440\u0433\u0430\u0435\u0442\u0435 \u0438\u0437 \u0441\u0432\u043e\u0435\u0433\u043e \u043a\u043e\u0434\u0430 (\u0445\u0443\u043a\u0438 Telegram, CRM, \u043b\u044e\u0431\u043e\u0439 \u0432\u0430\u0448 \u0441\u0435\u0440\u0432\u0438\u0441). \u0428\u043b\u0451\u0442\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u0430\u0433\u0435\u043d\u0442\u0443, \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0435 \u0435\u0433\u043e \u043e\u0442\u0432\u0435\u0442 \u2014 \u0434\u043b\u044f \u043d\u0435\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u043c\u043e\u0433\u043b\u0430 \u0434\u0435\u0440\u043d\u0443\u0442\u044c \u043d\u0443\u0436\u043d\u044b\u0435 tools \u0447\u0435\u0440\u0435\u0437 MCP. \u042d\u0442\u043e \u0431\u0430\u0437\u043e\u0432\u044b\u0439 AI-\u0430\u0433\u0435\u043d\u0442; \u0434\u0430\u043b\u044c\u0448\u0435 \u2014 \u0432\u0435\u0442\u043a\u0438, \u0446\u0435\u043f\u043e\u0447\u043a\u0438, \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0448\u0430\u0433\u0430\u0445.<\/p>\n<p>\u0423 \u0442\u0430\u043a\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430 \u0447\u0430\u0441\u0442\u043e <strong>\u0441\u0432\u043e\u0439<\/strong> API: \u0432 \u043a\u043e\u043d\u0441\u043e\u043b\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0438 tools, \u0430 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0432\u044b\u0437\u044b\u0432\u0430\u0435\u0442\u0435 \u0443\u0436\u0435 \u043d\u0435 \u00ab\u0433\u043e\u043b\u0443\u044e\u00bb LLM, \u0430 \u0430\u0433\u0435\u043d\u0442\u0430 \u043f\u043e API \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0430. \u041d\u0430 \u0440\u044b\u043d\u043a\u0435 \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u044e\u0442 \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443 \u2014 \u043d\u0438\u0436\u0435 \u0434\u0432\u0430 \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043d\u0435 \u043a\u0430\u043a \u0440\u0435\u043a\u043b\u0430\u043c\u0430 \u0432\u0435\u043d\u0434\u043e\u0440\u043e\u0432, \u0430 \u043a\u0430\u043a \u0440\u0430\u0437\u043d\u044b\u0435 <em>\u043c\u043e\u0434\u0435\u043b\u0438<\/em> \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0446\u0438\u043a\u043b\u0430.<\/p>\n<p><strong>\u041f\u043e\u0434\u0445\u043e\u0434 1.<\/strong> \u041f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 runtime \u0430\u0433\u0435\u043d\u0442\u0430 \u0443 \u0441\u0435\u0431\u044f (\u0447\u0430\u0441\u0442\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b), tools\/MCP \u00ab\u043f\u0440\u0438\u0448\u0438\u0442\u044b\u00bb \u043a \u0430\u0433\u0435\u043d\u0442\u0443, \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u2014 \u0441\u0432\u043e\u0439 \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442 \u0432\u044b\u0437\u043e\u0432\u0430. \u041f\u0440\u0438\u043c\u0435\u0440 \u2014 <strong>Evolution AI Agents<\/strong> \u0443 Cloud.ru.<\/p>\n<p>\u0411\u0430\u0437\u043e\u0432\u044b\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439 \u2014 <strong>\u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0430\u0433\u0435\u043d\u0442<\/strong> (<a href=\"https:\/\/cloud.ru\/docs\/ai-agents\/ug\/topics\/guides__create-agent\" rel=\"noopener noreferrer nofollow\">\u0441\u043e\u0437\u0434\u0430\u0442\u044c \u0430\u0433\u0435\u043d\u0442\u0430<\/a>): \u0432 UI \u2014 \u043c\u043e\u0434\u0435\u043b\u044c, \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 prompt, \u043e\u0434\u0438\u043d \u0438\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e MCP. \u041a\u043e\u0434 \u0446\u0438\u043a\u043b\u0430 \u043f\u0438\u0441\u0430\u0442\u044c \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u2014 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 runtime \u043d\u0430 Docker \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e (\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b, \u043f\u0440\u0438 \u0436\u0435\u043b\u0430\u043d\u0438\u0438 serverless). Tools \u043a \u0430\u0433\u0435\u043d\u0442\u0443 \u0443\u0436\u0435 \u00ab\u043f\u0440\u0438\u0448\u0438\u0442\u044b\u00bb; \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f URL \u0432\u0438\u0434\u0430 <code>https:\/\/\u2026-agent.ai-agent.inference.cloud.ru<\/code>.<\/p>\n<p>\u0418\u0437 \u0441\u0432\u043e\u0435\u0433\u043e \u043a\u043e\u0434\u0430 (\u0431\u043e\u0442, CRM, \u0441\u0435\u0440\u0432\u0438\u0441) \u0445\u043e\u0434\u0438\u0442\u0435 \u0432 \u044d\u0442\u043e\u0442 URL \u043f\u043e <strong>A2A<\/strong> \u2014 JSON-RPC 2.0, \u043c\u0435\u0442\u043e\u0434 <code>message\/send<\/code> (<a href=\"https:\/\/cloud.ru\/docs\/ai-agents\/ug\/topics\/concepts__protocols-a2a\" rel=\"noopener noreferrer nofollow\">\u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 A2A<\/a>). \u0428\u043b\u0451\u0442\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0435 \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u043e\u0442\u0432\u0435\u0442; ReAct \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 Cloud.ru. \u0422\u043e\u043a\u0435\u043d \u2014 <code>Authorization: Bearer \u2026<\/code> (<a href=\"https:\/\/cloud.ru\/docs\/ai-agents\/ug\/topics\/api-ref__authentication\" rel=\"noopener noreferrer nofollow\">\u0430\u0443\u0442\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f<\/a>); \u043d\u0443\u0436\u043d\u0430 \u0440\u043e\u043b\u044c <code>ai-agents.agents.invoker<\/code>. \u0421\u043d\u0438\u043f\u043f\u0435\u0442\u044b \u2014 \u043a\u043d\u043e\u043f\u043a\u0430 <strong>\u00ab\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u00bb<\/strong> \u0432 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 \u0430\u0433\u0435\u043d\u0442\u0430; \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432 \u2014 <a href=\"https:\/\/github.com\/cloud-ru\/evo-ai-agents-labs\" rel=\"noopener noreferrer nofollow\">evo-ai-agents-labs<\/a>.<\/p>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u043a \u0442\u0430\u043a\u043e\u043c\u0443 \u0430\u0433\u0435\u043d\u0442\u0443:<\/p>\n<pre><code class=\"json\">{  \"jsonrpc\": \"2.0\",  \"id\": \"1\",  \"method\": \"message\/send\",  \"params\": {    \"message\": {      \"messageId\": \"550e8400-e29b-41d4-a716-446655440000\",      \"role\": \"user\",      \"parts\": [        {\"kind\": \"text\", \"text\": \"\u041a\u0430\u043a\u0430\u044f \u0441\u0442\u0430\u0432\u043a\u0430 \u043f\u043e \u0432\u043a\u043b\u0430\u0434\u0443 \u043d\u0430 12 \u043c\u0435\u0441\u044f\u0446\u0435\u0432?\"}      ]    }  }}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041e\u0442\u0432\u0435\u0442 \u2014 JSON-RPC \u0441 <code>result<\/code>: \u043e\u0431\u044b\u0447\u043d\u043e \u0437\u0430\u0434\u0430\u0447\u0430 (<code>kind: \"task\"<\/code>) \u0441\u043e \u0441\u0442\u0430\u0442\u0443\u0441\u043e\u043c \u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0432 <code>artifacts[].parts<\/code> (\u0438\u043d\u043e\u0433\u0434\u0430 \u0441\u0440\u0430\u0437\u0443 \u0432 <code>message.parts<\/code>):<\/p>\n<pre><code class=\"json\">{  \"jsonrpc\": \"2.0\",  \"id\": \"1\",  \"result\": {    \"kind\": \"task\",    \"id\": \"task-\u2026\",    \"status\": {\"state\": \"completed\"},    \"artifacts\": [      {        \"artifactId\": \"\u2026\",        \"parts\": [          {\"kind\": \"text\", \"text\": \"\u041f\u043e \u0432\u043a\u043b\u0430\u0434\u0443 \u043d\u0430 12 \u043c\u0435\u0441\u044f\u0446\u0435\u0432 \u0441\u0442\u0430\u0432\u043a\u0430 \u2026\"}        ]      }    ]  }}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041d\u0430 \u0441\u0445\u0435\u043c\u0435 \u0441\u043b\u043e\u0451\u0432 \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a: \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0445\u043e\u0434\u0438\u0442 \u0443\u0436\u0435 \u043d\u0435 \u0432 \u00ab\u0433\u043e\u043b\u044b\u0439\u00bb HTTP \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u0432 <strong>HTTP \u0430\u0433\u0435\u043d\u0442\u0430<\/strong>; \u0430\u0433\u0435\u043d\u0442 \u0432\u043d\u0443\u0442\u0440\u0438 \u0445\u043e\u0434\u0438\u0442 \u0432 HTTP \u043c\u043e\u0434\u0435\u043b\u0438 (\u0438 \u043f\u0440\u0438 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438 \u043a\u0440\u0443\u0442\u0438\u0442 \u0446\u0438\u043a\u043b <strong>tools\/MCP<\/strong>), \u0434\u0430\u043b\u044c\u0448\u0435 \u2014 \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0435 JSON\u2194\u0442\u0435\u043a\u0441\u0442 \u0438 \u0442\u043e\u043a\u0435\u043d\u044b:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/3c2\/9ec\/4b4\/3c29ec4b4187439d4e641728ab4c5dfe.png\" alt=\"\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2192 HTTP \u0430\u0433\u0435\u043d\u0442\u0430 \u2192 HTTP \u043c\u043e\u0434\u0435\u043b\u0438 \u2192 JSON \u2192 \u0442\u043e\u043a\u0435\u043d\u044b\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/\/post_images\/3c2\/9ec\/4b4\/3c29ec4b4187439d4e641728ab4c5dfe.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/\/post_images\/3c2\/9ec\/4b4\/3c29ec4b4187439d4e641728ab4c5dfe.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u2192 HTTP \u0430\u0433\u0435\u043d\u0442\u0430 \u2192 HTTP \u043c\u043e\u0434\u0435\u043b\u0438 \u2192 JSON \u2192 \u0442\u043e\u043a\u0435\u043d\u044b<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u043b\u043e\u0436\u043d\u0435\u0435 \u0442\u043e\u0433\u043e \u0436\u0435 \u043f\u0440\u043e\u0441\u0442\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430: \u0441\u0432\u043e\u0439 Docker-\u043e\u0431\u0440\u0430\u0437 (LangChain, Google ADK \u0438 \u0442.\u043f.), \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e MCP, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u0430\u0433\u0435\u043d\u0442\u044b \/ A2A \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438, \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u0442\u0440\u0438\u0433\u0433\u0435\u0440\u044b (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 Telegram \u0431\u0435\u0437 \u0441\u0432\u043e\u0435\u0433\u043e HTTP-\u043a\u043b\u0438\u0435\u043d\u0442\u0430). \u0418\u0434\u0435\u044f \u0442\u0430 \u0436\u0435 \u2014 runtime \u0432\u043e\u043a\u0440\u0443\u0433 \u043c\u043e\u0434\u0435\u043b\u0438; \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u043d\u043e\u0441\u0438\u0442\u0435 \u0432 \u0441\u0432\u043e\u0439 \u043a\u043e\u0434. \u0412\u0430\u0436\u043d\u043e \u043f\u043e \u0434\u0435\u043d\u044c\u0433\u0430\u043c: \u043a\u0440\u043e\u043c\u0435 \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 Cloud.ru \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0442\u0430\u0440\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u044e\u0442\u0441\u044f <strong>\u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0430\u0433\u0435\u043d\u0442\u0430 \u0438 MCP<\/strong> (vCPU\/RAM \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432, \u043f\u043e\u043a\u0430 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u044b \u0436\u0438\u0432\u044b; \u043f\u0440\u0438 <code>min = 0<\/code> \u0432 \u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u043d\u0435 \u043f\u043b\u0430\u0442\u0438\u0442\u0435) \u2014 \u0441\u043c. <a href=\"https:\/\/cloud.ru\/docs\/ai-agents\/ug\/topics\/pricing\" rel=\"noopener noreferrer nofollow\">\u0442\u0430\u0440\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e AI Agents<\/a>.<\/p>\n<p><strong>\u041f\u043e\u0434\u0445\u043e\u0434 2.<\/strong> \u0426\u0438\u043a\u043b \u0438 \u0447\u0430\u0441\u0442\u044c tools \u0436\u0438\u0432\u0443\u0442 \u0431\u043b\u0438\u0436\u0435 \u043a <strong>managed API \u043c\u043e\u0434\u0435\u043b\u0438<\/strong> (\u0447\u0430\u0441\u0442\u043e Responses): \u0432\u044b \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0431\u044c\u0451\u0442\u0435 \u0432 HTTP, \u043d\u043e server-side tools \/ remote MCP \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u0435\u0440\u0432\u0438\u0441, \u0431\u0435\u0437 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u00ab\u0430\u0433\u0435\u043d\u0442\u043d\u043e\u0433\u043e\u00bb Docker \u0443 \u0432\u0430\u0441. \u0422\u0430\u043a, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u043f\u0443\u0442\u044c OpenAI \u0438 Yandex Cloud (AI Studio).<\/p>\n<p>\u0414\u043b\u044f \u043d\u043e\u0432\u044b\u0445 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u0439 OpenAI \u043f\u0440\u043e\u0434\u0432\u0438\u0433\u0430\u0435\u0442 <strong>Responses API<\/strong>; \u0435\u0433\u043e \u0436\u0435 \u043f\u043e\u0434\u0445\u0432\u0430\u0442\u044b\u0432\u0430\u044e\u0442 \u0447\u0430\u0441\u0442\u044c \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u043e\u0432 \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u044b. Tools \u043e\u0431\u044a\u044f\u0432\u043b\u044f\u0435\u0442\u0435 \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435, \u043d\u043e <strong>hosted \/ built-in<\/strong> \u0441\u0435\u0440\u0432\u0438\u0441 \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u044c \u0441\u0430\u043c (\u043a\u0443\u0441\u043e\u043a ReAct + \u0441\u043b\u0435\u0434\u044b \u0432\u044b\u0437\u043e\u0432\u043e\u0432). \u0421\u0432\u043e\u0439 <code>function<\/code> \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0435 \u0432\u044b. \u041a\u043e\u043d\u0442\u0440\u0430\u043a\u0442 \u0435\u0449\u0451 \u0443\u043c\u0435\u0435\u0442 \u0441\u0441\u044b\u043b\u0430\u0442\u044c\u0441\u044f \u043d\u0430 id \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u043e\u043b\u043d\u043e\u0439 \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u043f\u043e HTTP \u2014 \u0442\u0440\u0430\u0444\u0438\u043a \u043c\u0435\u043d\u044c\u0448\u0435, \u0441\u0432\u043e\u044e \u043a\u043e\u043f\u0438\u044e \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u0447\u0430\u0441\u0442\u043e \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0445\u0440\u0430\u043d\u044f\u0442.<\/p>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440 \u0443 Yandex (AI Studio): \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 <code>web_search<\/code> \u0438 \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0439 MCP (<a href=\"https:\/\/github.com\/yandex-ai-studio\/yandex-ai-studio-api-examples\/blob\/main\/responses\/web_tool.py\" rel=\"noopener noreferrer nofollow\">web_tool<\/a>, <a href=\"https:\/\/github.com\/yandex-ai-studio\/yandex-ai-studio-api-examples\/blob\/main\/responses\/mcp_always_approve.py\" rel=\"noopener noreferrer nofollow\">mcp_always_approve<\/a>):<\/p>\n<pre><code class=\"python\">client = openai.OpenAI(    api_key=YANDEX_CLOUD_API_KEY,    project=YANDEX_CLOUD_FOLDER,    base_url=\"https:\/\/ai.api.cloud.yandex.net\/v1\",)response = client.responses.create(    model=f\"gpt:\/\/{YANDEX_CLOUD_FOLDER}\/{YANDEX_CLOUD_MODEL}\",    tools=[        {            \"type\": \"web_search\",  # \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 tool \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u0430        },        {            \"type\": \"mcp\",  # \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0439 MCP; \u0446\u0438\u043a\u043b \u0432\u044b\u0437\u043e\u0432\u043e\u0432 \u0442\u043e\u0436\u0435 \u043d\u0430 backend            \"server_label\": \"kontur\",            \"server_description\": \"\u0412\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u043e \u0418\u041d\u041d\",            \"server_url\": \"...\",  # URL MCP-\u0441\u0435\u0440\u0432\u0435\u0440\u0430            \"require_approval\": \"never\",        },    ],    input=\"\u0427\u0435\u0439 \u0418\u041d\u041d \u2026 \u0438 \u0447\u0442\u043e \u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438 \u043f\u0438\u0448\u0443\u0442 \u0432 \u0441\u0432\u0435\u0436\u0438\u0445 \u043d\u043e\u0432\u043e\u0441\u0442\u044f\u0445?\",)print(response.output_text)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u0440\u043e MCP Hub \u2014 \u0432 <a href=\"https:\/\/yandex.cloud\/ru\/docs\/ai-studio\/concepts\/mcp-hub\/\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 AI Studio<\/a>; \u043a\u0430\u043a Responses \u0438 MCP \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0432 \u0430\u0433\u0435\u043d\u0442\u043d\u044b\u0439 \u0446\u0438\u043a\u043b \u2014 \u0432 <a href=\"https:\/\/yandex.cloud\/ru\/blog\/mcp-yandex-ai-studio-ai-agents-automation\" rel=\"noopener noreferrer nofollow\">\u043e\u0431\u0437\u043e\u0440\u0435 Yandex Cloud<\/a>.<\/p>\n<p>\u0418\u0434\u0435\u044f \u043d\u0430 \u043f\u0430\u043b\u044c\u0446\u0430\u0445: \u0432 <code>tools<\/code> \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0435 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 (\u0438\u0437 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438) \u0438\/\u0438\u043b\u0438 MCP \u2014 \u0438 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 ReAct-\u0446\u0438\u043a\u043b \u0434\u043b\u044f \u044d\u0442\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043f\u0435\u0440\u0435\u0435\u0437\u0436\u0430\u0435\u0442 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0430. \u0412\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0443\u0436\u0435 \u043d\u0435 \u00ab\u0433\u043e\u043b\u0443\u044e LLM\u00bb, \u0430 <strong>\u0431\u0430\u0437\u043e\u0432\u043e\u0433\u043e ReAct-\u0430\u0433\u0435\u043d\u0442\u0430<\/strong>. \u041d\u0443\u0436\u0435\u043d \u043d\u043e\u0432\u044b\u0439 \u043d\u0430\u0432\u044b\u043a \u2014 \u043e\u0444\u043e\u0440\u043c\u0438\u0442\u0435 tool, \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435 \u0432 MCP, \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u0442\u0435 \u043a \u043c\u043e\u0434\u0435\u043b\u0438; \u0430\u0433\u0435\u043d\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0438\u043c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u044b\u0432\u0430\u043d\u0438\u044f \u0432\u0441\u0435\u0439 \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0430\u0446\u0438\u0438.<\/p>\n<p>\u0418\u0437 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0433\u043e \u2014 \u0432 Responses \u043c\u043e\u0436\u043d\u043e \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0435 (built-in \/ MCP), \u0438 \u0441\u0432\u043e\u0438 tools (<code>type: function<\/code> \u0438 \u0442.\u043f.): \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0435 \u043a\u0440\u0443\u0442\u0438\u0442 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440, \u0441\u0432\u043e\u0438 \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0435 \u0432\u044b \u0432 runtime. \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e \u0438\u0445 \u0441\u043e\u0447\u0435\u0442\u0430\u044e\u0442 \u0432 \u043e\u0434\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u2014 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 (OpenAI-\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u044c \u2260 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0438 \u0443 \u0432\u0441\u0435\u0445). \u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438: \u0442\u043e, \u0447\u0442\u043e \u0433\u043e\u0442\u043e\u0432\u044b \u043e\u0442\u0434\u0430\u0442\u044c \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0443 (\u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 RAG \/ File Search, Web Search, remote MCP\u2026), \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0435 \u0435\u043c\u0443; \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u2014 \u0441\u0432\u043e\u0438\u043c tool\u2019\u043e\u043c \u0438\u043b\u0438 \u0441\u0432\u043e\u0438\u043c MCP. \u0417\u0430 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0435 tools \u0447\u0430\u0441\u0442\u043e \u043f\u043b\u0430\u0442\u0438\u0442\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e (\u0438\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u0442\u043e\u043a\u0435\u043d\u044b \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432) \u2014 \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u043f\u0440\u0430\u0439\u0441 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e tool.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0443\u0436\u0435 \u0434\u0440\u0443\u0433\u0438\u0435 \u044d\u0442\u0430\u0436\u0438: \u0441\u0443\u0431\u0430\u0433\u0435\u043d\u0442\u044b, \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0438\u043b\u0438 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 workflow, \u043e\u0431\u0449\u0438\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u044b, human-in-the-loop. \u041d\u043e ReAct-\u0430\u0433\u0435\u043d\u0442 \u0441 tools \u2014 \u0431\u0430\u0437\u0430. \u0411\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0441\u0445\u0435\u043c\u044b \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u0430\u0434\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e\u0432\u0435\u0440\u0445: \u0433\u0440\u0430\u0444, \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0438, \u043f\u0430\u043c\u044f\u0442\u044c, \u043e\u0431\u0449\u0438\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b \u2014 \u0430 \u0432 \u0443\u0437\u043b\u0430\u0445 \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u00ab\u043c\u043e\u0434\u0435\u043b\u044c + \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b\u00bb.<\/p>\n<hr\/>\n<h3>\u0427\u0442\u043e \u0437\u0430\u043f\u043e\u043c\u043d\u0438\u0442\u044c<\/h3>\n<p>\u0412\u0441\u0451, \u043e \u0447\u0451\u043c \u0448\u043b\u0430 \u0440\u0435\u0447\u044c, \u2014 \u043e\u0434\u043d\u0430 \u0446\u0435\u043f\u043e\u0447\u043a\u0430 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043e\u0431\u0451\u0440\u0442\u043a\u0430\u043c\u0438. \u041d\u0430 \u0434\u043d\u0435 \u2014 <strong>\u0442\u043e\u043a\u0435\u043d\u044b<\/strong> \u0438 \u0446\u0438\u043a\u043b \u00ab\u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u2192 \u0432\u044b\u0431\u0440\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 id \u0442\u043e\u043a\u0435\u043d\u0430 \u2192 \u0441\u043d\u043e\u0432\u0430\u00bb, \u043f\u043b\u044e\u0441 KV-\u043a\u044d\u0448, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u0437\u0440\u044f. \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0442 JSON \u0438 \u043d\u0435\u0442 \u00ab\u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439\u00bb: \u0435\u0441\u0442\u044c id \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u0437 <strong>\u0435\u0451<\/strong> \u0441\u043b\u043e\u0432\u0430\u0440\u044f. \u0422\u0435\u043a\u0441\u0442, \u0437\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043b\u0430\u0442\u0438\u0442\u0435, \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u2014 \u0442\u043e\u0442, \u0447\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f <strong>\u043f\u043e\u0441\u043b\u0435<\/strong> chat template, \u0430 \u043d\u0435 \u043a\u0440\u0430\u0441\u0438\u0432\u044b\u0439 <code>messages[]<\/code> \u0432 curl.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u043b\u043e\u0438 \u043d\u0430\u0441\u043b\u0430\u0438\u0432\u0430\u044e\u0442\u0441\u044f, \u043d\u043e \u043d\u0438 \u043e\u0434\u0438\u043d \u043d\u0435 \u043e\u0442\u043c\u0435\u043d\u044f\u0435\u0442 \u043d\u0438\u0436\u043d\u0438\u0439:<\/p>\n<ol>\n<li>\n<p><strong>\u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430<\/strong> \u2014 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432\u0430 \u0436\u0434\u0443\u0442 \u0440\u0430\u0437\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442 (ChatML, Llama\u2026); thinking \u2014 \u0442\u0435 \u0436\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u0443\u0441\u043e\u043a \u0441\u0442\u0440\u043e\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>\u041a\u043e\u043d\u0442\u0440\u0430\u043a\u0442<\/strong> \u2014 Chat Completions \u0438 JSON \u0443\u0434\u043e\u0431\u043d\u044b \u043b\u044e\u0434\u044f\u043c \u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c; Jinja (\u0438\u043b\u0438 \u0430\u043d\u0430\u043b\u043e\u0433) \u0438 parser \u0441\u0432\u044f\u0437\u044b\u0432\u0430\u044e\u0442 \u0438\u0445 \u0441 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e.<\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0438\u0441\u043a \u0438 runtime<\/strong> \u2014 SafeTensors + \u043a\u043e\u043d\u0444\u0438\u0433\u0438 \u0438\u043b\u0438 GGUF; llama.cpp \u0438 \u043e\u0431\u0451\u0440\u0442\u043a\u0438 \u043f\u0440\u044f\u0447\u0443\u0442 tokenize\/decode \u0438 \u043e\u0442\u0434\u0430\u044e\u0442 Python \/ CLI \/ HTTP. \u0421\u043c\u0435\u043d\u0438\u043b\u0438 <code>base_url<\/code> \u2014 \u0441\u043c\u0435\u043d\u0438\u043b\u0438 backend, \u043f\u0443\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445 \u0442\u043e\u0442 \u0436\u0435.<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u0433\u0435\u043d\u0442<\/strong> \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u0441 \u00ab\u0443\u043c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438\u00bb, \u0430 \u0441 <strong>\u0446\u0438\u043a\u043b\u0430 \u0432\u043e\u043a\u0440\u0443\u0433<\/strong> \u043d\u0435\u0451: \u043e\u0431\u044a\u044f\u0432\u0438\u043b\u0438 tools \u2192 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u043b\u0430 \u0432\u044b\u0437\u043e\u0432 \u2192 runtime \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u043b \u2192 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u2192 \u0441\u043d\u043e\u0432\u0430. MCP \u2014 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 tools, \u043d\u0435 \u043d\u043e\u0432\u044b\u0439 \u0432\u0438\u0434 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430.<\/p>\n<\/li>\n<li>\n<p><strong>\u0413\u0434\u0435 \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f \u0446\u0438\u043a\u043b<\/strong> \u2014 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e:<\/p>\n<ul>\n<li>\n<p>\u0443 \u0432\u0430\u0441 \u0432 \u043a\u043e\u0434\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0432 <strong>\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430\u0445<\/strong>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 (\u043a\u0430\u043a \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0430\u0433\u0435\u043d\u0442 Cloud.ru: Docker \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0438\u043b\u0438 \u0441\u0432\u043e\u0439 \u043e\u0431\u0440\u0430\u0437; \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0447\u0430\u0441\u0442\u043e API \u0432 \u0434\u0443\u0445\u0435 A2A);<\/p>\n<\/li>\n<li>\n<p>\u0432 managed runtime \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0430, \u0434\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u044b \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0434\u043e\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u0435\u0442\u0435\u0441\u044c, \u0447\u0435\u0440\u0435\u0437 Responses API (OpenAI \/ Yandex Cloud).<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441, \u0433\u0438\u0431\u043a\u043e\u0441\u0442\u044c \u0438 \u0442\u043e, \u0447\u0435\u043c \u043d\u0430\u0434\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0441\u0430\u043c\u0438\u043c; <strong>\u0444\u0438\u0437\u0438\u043a\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/strong> \u2014 \u043d\u0435\u0442.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1061750\/\">https:\/\/habr.com\/ru\/articles\/1061750\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0410\u0433\u0435\u043d\u0442\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u043e\u0431\u0441\u0443\u0436\u0434\u0430\u044e\u0442 \u0432\u0441\u0435 \u043f\u043e\u0434\u0440\u044f\u0434. \u041c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438, \u043f\u043e\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f MCP-\u0441\u0435\u0440\u0432\u0435\u0440\u044b, \u043e\u0431\u043b\u0430\u043a\u0430 \u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u00ab\u0430\u0433\u0435\u043d\u0442\u0430 \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438\u00bb. \u041d\u043e \u0432 \u0446\u0435\u043d\u0442\u0440\u0435 \u043b\u044e\u0431\u043e\u0439 \u0442\u0430\u043a\u043e\u0439 \u0441\u0445\u0435\u043c\u044b \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0434\u043d\u0430 \u0438 \u0442\u0430 \u0436\u0435 \u0432\u0435\u0449\u044c \u2014 LLM: \u043e\u043d\u0430 \u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0438 \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u0443\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0448\u0430\u0433. \u0410 \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c \u043a \u0430\u0433\u0435\u043d\u0442\u0443 \u0438 \u0441\u0430\u043c\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u2014 \u0435\u0449\u0451 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u043e\u0451\u0432.\u0421\u0430\u043c\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430; \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u043d\u0430\u0440\u0430\u0441\u0442\u0430\u0435\u0442 \u043b\u0443\u043a\u043e\u0432\u0438\u0446\u0430 \u043e\u0431\u0451\u0440\u0442\u043e\u043a \u2014 \u043e \u043d\u0438\u0445 \u0438 \u0440\u0435\u0447\u044c. \u0415\u0441\u043b\u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0430\u0433\u0435\u043d\u0442\u0430 \u043d\u0435 \u0438\u0437 \u0433\u043e\u0442\u043e\u0432\u043e\u0433\u043e \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u043a\u0442\u043e\u0440\u0430, \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043b\u043e\u0433\u0438\u043a\u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043d\u0430\u0439\u0442\u0438 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b: \u043f\u043e\u043b\u043e\u043c\u043a\u0438 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u043d\u0430 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0443\u0440\u043e\u0432\u043d\u0435 \u0440\u044f\u0434\u043e\u043c. \u042f \u043f\u0440\u0438\u0448\u0451\u043b \u043a \u0430\u0433\u0435\u043d\u0442\u0430\u043c \u0438\u0437 ML: \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u043d\u043e\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 \u043f\u043e\u044f\u0432\u043b\u044f\u043b\u0441\u044f \u043f\u043e\u0432\u0435\u0440\u0445 \u0443\u0436\u0435 \u0437\u043d\u0430\u043a\u043e\u043c\u043e\u0433\u043e \u2014 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0430\u043b\u044c\u0448\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e \u043e\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u0440\u0443\u0436\u0443. \u0418\u0434\u0435\u044f \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u0438\u0448\u043b\u0430 \u043f\u043e\u0441\u043b\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0433\u043e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430 \u0431\u0430\u0433\u0430 \u0441 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439: \u0437\u0430\u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0437\u0430\u043c\u0435\u0442\u043a\u0438 \u0432 \u043e\u0434\u0438\u043d \u043e\u0431\u0437\u043e\u0440, \u0447\u0442\u043e\u0431\u044b \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0440\u0430\u0437 \u0431\u044b\u043b\u043e \u043f\u0440\u043e\u0449\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0442\u044c.\u041a\u0430\u043a LLM \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438 \u0432\u044b\u0434\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430Large Language Model \u2014 \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c. \u0421\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u0447\u0430\u0442-\u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 Transformer (\u0441\u0442\u0430\u0442\u044c\u044f Attention Is All You Need, Google, 2017) \u0432 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0435 decoder-only: \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0441\u0435\u0442\u044c \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0430 \u0443\u0436\u0435 \u0438\u043c\u0435\u044e\u0449\u0443\u044e\u0441\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442, \u043a\u0430\u043a\u043e\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c.\u041d\u0430 \u044d\u0442\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0442 JSON \u0438 \u043d\u0435\u0442 \u00ab\u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439\u00bb. \u041d\u0435\u0442 \u0434\u0430\u0436\u0435 \u0442\u0435\u043a\u0441\u0442\u0430 \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u043a: \u0435\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u044b \u2014 \u0446\u0435\u043b\u043e\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438\u0437 \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0421\u043b\u043e\u0432\u0430\u0440\u044c \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u043d\u0430 \u0440\u0430\u043d\u043d\u0435\u043c \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f; \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043d \u0441\u0432\u043e\u0439. \u041c\u0435\u043d\u044f\u0442\u044c \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u0443 \u0443\u0436\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043d\u043e\u0439 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0435\u0440\u0435\u0441\u0431\u043e\u0440\u043a\u0438 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u2014 \u0434\u043b\u044f \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u044d\u0442\u043e \u0437\u0430 \u0441\u043a\u043e\u0431\u043a\u0430\u043c\u0438.\u0427\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043e\u043e\u0431\u0449\u0435 \u0443\u0432\u0438\u0434\u0435\u043b\u0430 \u0432\u0430\u0448 \u0437\u0430\u043f\u0440\u043e\u0441, \u0442\u0435\u043a\u0441\u0442 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0447\u0435\u0440\u0435\u0437 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440: \u0441\u0442\u0440\u043e\u043a\u0430 \u2192 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c id (\u043f\u0440\u043e\u0441\u0442\u043e \u0446\u0435\u043b\u044b\u0435 \u0447\u0438\u0441\u043b\u0430) \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044e \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041d\u0430 \u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043f\u0430\u0434\u0430\u044e\u0442 \u044d\u0442\u0438 \u0447\u0438\u0441\u043b\u0430. \u041e\u0434\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (forward) \u043f\u043e \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0434\u0430\u0451\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e id \u0438\u0437 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u043b\u043e\u0432\u0430\u0440\u044f. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 temperature \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u0442\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u00ab\u043f\u043b\u043e\u0441\u043a\u043e\u00bb \u0438\u043b\u0438 \u00ab\u043e\u0441\u0442\u0440\u043e\u00bb \u044d\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u0434 \u0432\u044b\u0431\u043e\u0440\u043e\u043c. \u0418\u0437 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u044e\u0442 \u043e\u0434\u0438\u043d \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 token id, \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u0435\u0433\u043e \u043a \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438 \u0441\u043d\u043e\u0432\u0430 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u0438 \u0442\u0430\u043a \u0434\u043e \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430 \u043a\u043e\u043d\u0446\u0430 (EOS) \u0438\u043b\u0438 \u043b\u0438\u043c\u0438\u0442\u0430 \u0434\u043b\u0438\u043d\u044b. \u0422\u0430\u043a \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u043b\u043d\u0430\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043d\u043e\u0432\u044b\u0445 token id \u043e\u0442\u0432\u0435\u0442\u0430. \u0414\u0430\u043b\u044c\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0434\u0435\u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u0436\u0435 \u0438\u0437 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430:\u041e\u0434\u043d\u043e \u041f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435: \u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u2192 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u2192 \u0442\u0435\u043a\u0441\u0442 \u043e\u0442\u0432\u0435\u0442\u0430\u0411\u0435\u0437 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0439 \u0442\u0430\u043a\u043e\u0439 \u0446\u0438\u043a\u043b \u0434\u043e\u0440\u043e\u0433\u043e\u0439: \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043d\u0430\u0438\u0432\u043d\u043e \u0441\u043d\u043e\u0432\u0430 \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0442\u044c \u0432\u0441\u044e \u0443\u0436\u0435 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u043d\u0443\u044e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 runtime \u043f\u043e\u0447\u0442\u0438 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442 KV-\u043a\u044d\u0448. \u0412 attention \u0443 \u043f\u043e\u0437\u0438\u0446\u0438\u0439 \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438 Q, K, V; \u043a\u043b\u044e\u0447\u0438 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0432\u0438\u0434\u0435\u043d\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u0448\u0430\u0433\u0430\u043c\u0438 decode \u043d\u0435 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u2014 \u0438\u0445 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u044e\u0442. \u041d\u0430 \u0448\u0430\u0433\u0435 \u0441\u0447\u0438\u0442\u0430\u044e\u0442 \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u043d\u043e\u0432\u044b\u0439 \u0442\u043e\u043a\u0435\u043d, \u0430 \u043a \u043f\u0440\u043e\u0448\u043b\u044b\u043c \u043e\u0431\u0440\u0430\u0449\u0430\u044e\u0442\u0441\u044f \u0438\u0437 \u043a\u044d\u0448\u0430. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u2014 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u043e\u0434\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430; \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u044b \u0435\u0449\u0451 \u0443\u043c\u0435\u044e\u0442 \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c KV \u043e\u0431\u0449\u0435\u0433\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u043c\u0435\u0436\u0434\u0443 \u0445\u043e\u0434\u0430\u043c\u0438 \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u2014 \u044d\u0442\u043e \u0443\u0436\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u043e\u043f\u0446\u0438\u044f, \u043d\u0435 \u0441\u0430\u043c \u0444\u0430\u043a\u0442 \u00ab\u0435\u0441\u0442\u044c KV-\u043a\u044d\u0448\u00bb.\u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u043e\u0431\u043b\u0430\u043a\u0435, \u043e\u0431\u044b\u0447\u043d\u043e \u043f\u043b\u0430\u0442\u044f\u0442 \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0438 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435, \u0430 \u043d\u0435 \u0437\u0430 \u0440\u0430\u0437\u043c\u0435\u0440 \u0442\u0435\u043a\u0441\u0442\u0430. \u0421\u0447\u0438\u0442\u0430\u044e\u0442 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u044b \u0442\u0430\u043a, \u043a\u0430\u043a \u0438\u0445 \u0432\u0438\u0434\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0441\u043b\u0435 chat template \u2014 \u043d\u0435 \u00ab\u043a\u0440\u0430\u0441\u043e\u0442\u0443\u00bb JSON \u0432 API. \u041e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0441\u043c\u044b\u0441\u043b \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0447\u0430\u0441\u0442\u043e \u0434\u0430\u0451\u0442 \u0440\u0430\u0437\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432: \u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u043c \u0441\u043b\u043e\u0432\u0430\u0440\u0451\u043c \u043a\u0438\u0440\u0438\u043b\u043b\u0438\u0446\u0430 \u0434\u0440\u043e\u0431\u0438\u0442\u0441\u044f \u043c\u0435\u043b\u044c\u0447\u0435 \u2014 \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0441\u043b\u043e\u0432\u043e. \u041d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u0436\u0435 \u0431\u0435\u0437 \u043e\u043f\u043b\u0430\u0442\u044b \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b \u044d\u0442\u043e \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0441\u044a\u0435\u0434\u0430\u0435\u0442 \u043b\u0438\u043c\u0438\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c. \u0418\u043d\u043e\u0433\u0434\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043f\u043e-\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044e \u0432 2\u20133 \u0440\u0430\u0437\u0430 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u0412\u0441\u0435 \u044d\u0442\u0438 \u0448\u0430\u0433\u0438 \u2014 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f, \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433, KV-\u043a\u044d\u0448, \u0446\u0438\u043a\u043b \u0441 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439 \u043f\u043e EOS \u2014 \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u0435 \u043f\u0438\u0448\u0443\u0442 \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u0435\u0440\u0432\u0438\u0441\u0435: \u0433\u043e\u0442\u043e\u0432\u044b\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0438 runtime \u0431\u0435\u0440\u0443\u0442 \u043b\u043e\u0433\u0438\u043a\u0443 \u043d\u0430 \u0441\u0435\u0431\u044f \u0438 \u0434\u0430\u044e\u0442 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0432\u0445\u043e\u0434 \u2192 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434. \u041d\u043e \u0442\u0443\u0442 \u0436\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0434\u0440\u0443\u0433\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: \u044d\u0442\u043e\u0442 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0436\u0434\u0443\u0442 \u0432 \u0440\u0430\u0437\u043d\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435.\u0420\u0430\u0437\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0436\u0434\u0443\u0442 \u0440\u0430\u0437\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e LLM \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d, \u043d\u043e \u0434\u0430\u043b\u044c\u0448\u0435 \u0438\u0434\u0443\u0442 \u044d\u0442\u0430\u043f\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f: \u0434\u0438\u0430\u043b\u043e\u0433\u0438, \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f (reasoning), \u0432\u044b\u0437\u043e\u0432\u044b \u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0438 \u0442.\u0434. \u0414\u043b\u044f \u0447\u0430\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043d\u0430 \u0434\u0438\u0430\u043b\u043e\u0433\u0430\u0445 \u0441 \u0440\u043e\u043b\u044f\u043c\u0438; \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0443\u0432\u0438\u0434\u0435\u043b\u0430 system \/ user \/ assistant, \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0431\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u044e\u0442 \u0432 \u0441\u043b\u0443\u0436\u0435\u0431\u043d\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443. \u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0440\u0430\u0437\u043d\u0430\u044f \u0443 \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432: \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0441\u043c\u044b\u0441\u043b \u00absystem + \u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u00bb \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438.\u0412\u043e\u0442, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, ChatML \u0432 \u0434\u0443\u0445\u0435 Qwen (\u0438 \u0440\u044f\u0434\u0430 OpenAI-\u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0445 \u0448\u0430\u0431\u043b\u043e\u043d\u043e\u0432). \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u2014 \u043f\u043e\u043b\u043d\u044b\u0439 \u0434\u0438\u0430\u043b\u043e\u0433, \u043a\u0430\u043a \u043c\u044b \u0435\u0433\u043e \u0447\u0438\u0442\u0430\u0435\u043c \u0433\u043b\u0430\u0437\u0430\u043c\u0438: system, \u0432\u043e\u043f\u0440\u043e\u0441 \u0438 \u0443\u0436\u0435 \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430.&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant\u041a\u0430\u0436\u0434\u044b\u0439 \u0431\u0443\u0434\u043d\u0438\u0439 \u0434\u0435\u043d\u044c \u0432 09:00.&lt;|im_end|&gt;\u041d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u044c Runtime \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 prompt \u2014 \u0432\u0441\u0451 \u0434\u043e \u0442\u043e\u0447\u043a\u0438, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u2014 \u0438 \u043f\u0440\u043e\u0441\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435 \u0442\u043e\u043a\u0435\u043d \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u043c, \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u0441\u0442\u0440\u0435\u0442\u0438\u0442\u0441\u044f \u043a\u043e\u043d\u0435\u0446 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 (\u0438\u043b\u0438 \u043b\u0438\u043c\u0438\u0442 \u0434\u043b\u0438\u043d\u044b).\u0412\u0432\u043e\u0434 (prompt):&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u0442\u0441\u044f \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435:\u041a\u0430\u0436\u0434\u044b\u0439 \u0431\u0443\u0434\u043d\u0438\u0439 \u0434\u0435\u043d\u044c \u0432 09:00.&lt;|im_end|&gt;\u041d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u0442\u043e \u0436\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0446\u0432\u0435\u0442\u043e\u043c (\u0441\u0438\u043d\u0438\u0439 \u2014 \u0432\u0432\u043e\u0434, \u043e\u0440\u0430\u043d\u0436\u0435\u0432\u044b\u0439 \u2014 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435):ChatML: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion\u0418\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u043e\u0439 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440 \u0440\u0435\u0436\u0435\u0442 \u0432 \u0442\u043e\u043a\u0435\u043d\u044b, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u043e \u043d\u0435\u0439 \u0441\u0447\u0438\u0442\u0430\u044e\u0442 prompt_tokens \/ \u043b\u0438\u043c\u0438\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0414\u0430\u043b\u044c\u0448\u0435 \u0432\u043e\u043a\u0440\u0443\u0433 \u044d\u0442\u043e\u0433\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043b\u044e\u0431\u043e\u0439 \u0434\u0440\u0443\u0433\u043e\u0439 JSON \u0444\u043e\u0440\u043c\u0430\u0442, \u043d\u043e \u0431\u0438\u043b\u043b\u0438\u043d\u0433 \u0438 \u0434\u043b\u0438\u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043e\u0442\u043d\u043e\u0441\u044f\u0442\u0441\u044f \u043d\u0435 \u043a \u00ab\u043a\u0440\u0430\u0441\u043e\u0442\u0435 JSON\u00bb, \u0430 \u043a \u0442\u043e\u043c\u0443 \u0442\u0435\u043a\u0441\u0442\u0443 (\u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430\u043c), \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435 chat template. \u0414\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c\u0438 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043d\u0430 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 JSON-\u0437\u0430\u043f\u0440\u043e\u0441 \u043c\u043e\u0433\u0443\u0442 \u0441\u044a\u0435\u0441\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u0423 \u0448\u0430\u0431\u043b\u043e\u043d\u0430 \u0431\u044b\u0432\u0430\u044e\u0442 \u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438. \u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 reasoning  (\u0447\u0430\u0441\u0442\u044c \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432 Qwen-Thinking \u0438 \u043f\u043e\u0445\u043e\u0436\u0438\u0435), \u0442\u043e \u0432 prompt \u0432\u0448\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0431\u043b\u043e\u043a \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439: \u043f\u043e\u0441\u043b\u0435 &lt;|im_start|&gt;assistant \u0441\u0440\u0430\u0437\u0443 \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 &lt;think&gt;. \u041c\u043e\u0434\u0435\u043b\u044c \u0442\u043e\u0433\u0434\u0430 \u043d\u0435 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u00ab\u0441 \u043f\u0443\u0441\u0442\u043e\u0433\u043e \u043c\u0435\u0441\u0442\u0430\u00bb, \u0430 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0443\u0436\u0435 \u0432\u043d\u0443\u0442\u0440\u0438 thinking. \u0412 completion \u043e\u0431\u044b\u0447\u043d\u043e \u0438\u0434\u0443\u0442 \u0441\u0430\u043c\u0438 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 &lt;\/think&gt; \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043c \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442:Thinking-\u043c\u043e\u0434\u0435\u043b\u044c: prompt \u0438 completion \u043e\u0434\u043d\u0438\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u043cThinking \/ reasoning \u043d\u0430 \u044d\u0442\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u2014 \u0442\u043e\u0436\u0435 \u0442\u0435\u043a\u0441\u0442 (\u0442\u043e\u043a\u0435\u043d\u044b). \u041c\u043e\u0434\u0435\u043b\u044c \u0432 \u043e\u0434\u043d\u043e\u043c \u0430\u0432\u0442\u043e\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u044b \u00ab\u0447\u0435\u0440\u043d\u043e\u0432\u0438\u043a\u0430\u00bb, \u043f\u043e\u0442\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u044b \u043e\u0442\u0432\u0435\u0442\u0430. \u042d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0432 \u0442\u043e\u0439 \u0436\u0435 completion-\u0441\u0442\u0440\u043e\u043a\u0435. \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c thinking \u0438 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442, \u0441\u043f\u0440\u044f\u0442\u0430\u0442\u044c \u043c\u044b\u0441\u043b\u0438 \u043e\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438\u043b\u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0438\u0445 \u0432 \u0441\u044b\u0440\u043e\u043c \u0432\u0438\u0434\u0435 \u2014 \u0443\u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0430 \u0442\u043e\u0433\u043e, \u043a\u0442\u043e \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u0432\u044b\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u043b\u044c\u0448\u0435; \u0441\u0430\u043c\u0430 \u0441\u0435\u0442\u044c \u043e\u0442\u0434\u0430\u0451\u0442 \u043e\u0434\u043d\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u043e\u0432.\u041e\u0442\u0441\u044e\u0434\u0430 \u0442\u0438\u043f\u0438\u0447\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u043d\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 reasoning-\u043c\u043e\u0434\u0435\u043b\u044f\u0445. \u041b\u0438\u043c\u0438\u0442 \u0434\u043b\u0438\u043d\u044b \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 (max_tokens \u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0438) \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0431\u0449\u0438\u0439 \u043d\u0430 \u0432\u0435\u0441\u044c \u0432\u044b\u0445\u043e\u0434: \u0438 \u043d\u0430 \u0431\u043b\u043e\u043a \u0432\u043d\u0443\u0442\u0440\u0438 &lt;think&gt;\u2026&lt;\/think&gt;, \u0438 \u043d\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442. \u041c\u043e\u0434\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u0434\u043e\u043b\u0433\u043e \u00ab\u0434\u0443\u043c\u0430\u0442\u044c\u00bb, \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0435\u0441\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0430 thinking (\u0438\u043d\u043e\u0433\u0434\u0430 \u0435\u0449\u0451 \u0438 \u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0442\u044c\u0441\u044f \u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u0445) \u0438 \u043e\u0431\u043e\u0440\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u043e \u0434\u043b\u0438\u043d\u0435, \u0442\u0430\u043a \u0438 \u043d\u0435 \u0434\u043e\u043f\u0438\u0441\u0430\u0432 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435 &lt;\/think&gt;. \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u0442\u0440\u0430\u043d\u043d\u043e: \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0448\u043b\u0430 \u0434\u043e\u043b\u0433\u043e, \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u044b\u0448\u043b\u043e \u043c\u043d\u043e\u0433\u043e, \u0430 \u201c\u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e\u201d \u043e\u0442\u0432\u0435\u0442\u0430 \u043f\u043e\u0441\u043b\u0435 thinking \u043d\u0435\u0442 \u0438\u043b\u0438 \u043e\u043d \u043e\u0431\u0440\u0435\u0437\u0430\u043d. \u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c: \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043e\u0442\u0432\u0435\u0442  \u0446\u0435\u043b\u0438\u043a\u043e\u043c; \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043e\u0431\u0449\u0438\u0439 \u043b\u0438\u043c\u0438\u0442 \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c \u043f\u043e\u0434 thinking; \u0434\u043b\u044f \u043f\u0440\u043e\u0441\u0442\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c reasoning (instruct-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u043b\u0438 \u0444\u043b\u0430\u0433 \u0432\u0440\u043e\u0434\u0435 enable_thinking=false \u0443 \u0448\u0430\u0431\u043b\u043e\u043d\u0430); \u043b\u0438\u0431\u043e, \u0435\u0441\u043b\u0438 runtime \u0443\u043c\u0435\u0435\u0442, \u0437\u0430\u0434\u0430\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0430 thinking \u2014 \u044d\u0442\u043e \u0447\u0430\u0441\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b runtime, \u0430 \u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u043e \u0438\u0441\u0447\u0435\u0440\u043f\u0430\u043d\u0438\u0438 \u043b\u0438\u043c\u0438\u0442\u0430 \u043d\u0430 reasoning runtime \u0436\u0435\u0441\u0442\u043a\u043e \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0435\u0440\u0432\u0430\u0442\u044c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u0434\u043e\u043f\u0438\u0441\u0430\u0442\u044c &lt;\/think&gt; \u0438 \u0434\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u0435\u0441\u0442\u043e \u043d\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442.\u0414\u043b\u044f \u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0430 \u2014 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u0434\u0440\u0443\u0433\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u043c\u044b\u0441\u043b\u0430: Llama 3 (\u0443\u043f\u0440\u043e\u0449\u0451\u043d\u043d\u043e). \u0421\u043d\u043e\u0432\u0430 \u0441\u0438\u043d\u0438\u0439 \u2014 prompt, \u043e\u0440\u0430\u043d\u0436\u0435\u0432\u044b\u0439 \u2014 completion:Llama 3: prompt \u043f\u0440\u043e\u0442\u0438\u0432 completion\u0417\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e: \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0434\u0438\u0430\u043b\u043e\u0433 \u0434\u043b\u044f Qwen, Llama \u0438 reasoning-\u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443. \u041d\u0443\u0436\u0435\u043d \u0435\u0434\u0438\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u043f\u0438\u0441\u0430\u0442\u044c \u00absystem \/ user \/ assistant\u00bb, \u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0432 \u0442\u0435\u043a\u0441\u0442 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u043e\u0442\u0434\u0430\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u0443 \u043f\u0440\u0438 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438.\u0415\u0434\u0438\u043d\u044b\u0439 JSON \u0434\u0438\u0430\u043b\u043e\u0433\u0430 \u0438 Jinja chat template\u0422\u0430\u043a \u0438 \u0441\u043b\u043e\u0436\u0438\u043b\u043e\u0441\u044c. \u0414\u0438\u0430\u043b\u043e\u0433 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e \u2014 \u0441\u043f\u0438\u0441\u043e\u043a \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u0441 \u0440\u043e\u043b\u044f\u043c\u0438 \u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u043c. \u041c\u0430\u0441\u0441\u043e\u0432\u043e \u044d\u0442\u0443 \u0444\u043e\u0440\u043c\u0443 \u0437\u0430\u043a\u0440\u0435\u043f\u0438\u043b Chat Completions OpenAI (\u043d\u0430\u0447\u0430\u043b\u043e 2023; \u0434\u043e \u043d\u0435\u0433\u043e \u0447\u0430\u0449\u0435 \u0431\u044b\u043b\u0430 \u043e\u0434\u043d\u0430 \u0441\u044b\u0440\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 prompt). \u0421\u043d\u0430\u0440\u0443\u0436\u0438 \u0434\u043b\u044f \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u044d\u0442\u043e \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0439 JSON \u0432\u0440\u043e\u0434\u0435:{  &#171;messages&#187;: [    {&#171;role&#187;: &#171;system&#187;, &#171;content&#187;: &#171;\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&#187;},    {&#171;role&#187;: &#171;user&#187;, &#171;content&#187;: &#171;\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&#187;}  ]}\u041c\u043e\u0434\u0435\u043b\u044c \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0435\u0441\u0442 \u043d\u0435 \u044d\u0442\u043e\u0442 JSON, \u0430 prompt-\u0441\u0442\u0440\u043e\u043a\u0443 \u0441\u043e \u0441\u0432\u043e\u0438\u043c\u0438 \u0441\u043f\u0435\u0446\u0442\u043e\u043a\u0435\u043d\u0430\u043c\u0438 \u2014 \u0442\u0443, \u0447\u0442\u043e \u043c\u044b \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b\u0438 \u0432\u044b\u0448\u0435. \u0421\u0432\u044f\u0437\u043a\u0430 \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 \u2014 chat template: \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0448\u0430\u0431\u043b\u043e\u043d \u043d\u0430 Jinja, \u043b\u0435\u0436\u0430\u0449\u0438\u0439 \u0440\u044f\u0434\u043e\u043c \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e (\u0432 \u043a\u043e\u043d\u0444\u0438\u0433\u0435 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0442\u043e\u0440\u0430, \u0432 metadata GGUF \u0438 \u0442.\u043f.). \u041d\u0430 \u0432\u0445\u043e\u0434 \u2014 messages[], \u043d\u0430 \u0432\u044b\u0445\u043e\u0434 \u2014 \u0442\u0435\u043a\u0441\u0442 \u0440\u043e\u0432\u043d\u043e \u0432 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0435 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 (ChatML, Llama 3, \u0441 &lt;think&gt; \u0438\u043b\u0438 \u0431\u0435\u0437).\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0448\u0430\u0431\u043b\u043e\u043d \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0443\u0436\u0435 \u0437\u043d\u0430\u043a\u043e\u043c\u043e\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 ChatML (\u0441 im_start). \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, OpenHermes-2.5-Mistral-7B: \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e .jinja \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u043d\u0435\u0442, \u043f\u043e\u043b\u0435 chat_template \u043b\u0435\u0436\u0438\u0442 \u0432\u043d\u0443\u0442\u0440\u0438 tokenizer_config.json. \u041f\u043e \u0441\u0443\u0442\u0438 \u044d\u0442\u043e \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u0446\u0438\u043a\u043b \u043f\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c (\\n \u0432 \u043a\u0430\u0432\u044b\u0447\u043a\u0430\u0445 \u2014 \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432 \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0439 prompt-\u0441\u0442\u0440\u043e\u043a\u0435):{% for message in messages %}{{ &#8216;&lt;|im_start|&gt;&#8217; + message[&#8216;role&#8217;] + &#8216;\\n&#8217; + message[&#8216;content&#8217;] + &#8216;&lt;|im_end|&gt;&#8217; + &#8216;\\n&#8217; }}{% endfor %}{% if add_generation_prompt %}{{ &#8216;&lt;|im_start|&gt;assistant\\n&#8217; }}{% endif %}\u041f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u0435\u0433\u043e \u043a JSON \u0432\u044b\u0448\u0435 \u0438 \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u043c \u0448\u0430\u0431\u043b\u043e\u043d \u0434\u043e\u043f\u0438\u0441\u0430\u0442\u044c \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0435 \u0445\u043e\u0434\u0430 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430 (\u043d\u0438\u0436\u043d\u0438\u0439 if \u0432 Jinja) \u2014 \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0442\u0443 \u0436\u0435 ChatML-\u0441\u0442\u0440\u043e\u043a\u0443, \u0447\u0442\u043e \u0440\u0430\u043d\u044c\u0448\u0435 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b\u0438 \u043a\u0430\u043a prompt:&lt;|im_start|&gt;system\u0422\u044b \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430. \u041e\u0442\u0432\u0435\u0447\u0430\u0439 \u043a\u0440\u0430\u0442\u043a\u043e.&lt;|im_end|&gt;&lt;|im_start|&gt;user\u0427\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 cron `0 9 * * 1-5`?&lt;|im_end|&gt;&lt;|im_start|&gt;assistant\u0423 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 Jinja \u0443\u0436\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435: reasoning, \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 tools \u2014 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u0435\u0442\u043a\u0438 \u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0428\u0430\u0431\u043b\u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b \u0438 \u0447\u0430\u0441\u0442\u043e \u0432\u044b\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u0430\u0439\u043b, \u043d\u043e \u0438\u0434\u0435\u044f \u0442\u0430 \u0436\u0435: messages[] \u2192 \u0442\u0435\u043a\u0441\u0442 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0423 Qwen\/Qwen3.5-9B \u044d\u0442\u043e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, chat_template.jinja \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-488154","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488154","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=488154"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488154\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=488154"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=488154"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=488154"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}