{"id":497916,"date":"2026-10-08T16:44:10","date_gmt":"2026-10-08T13:44:10","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=497916"},"modified":"2026-10-08T16:44:10","modified_gmt":"2026-10-08T13:44:10","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=497916","title":{"rendered":"FRIDA Decisions: \u0431\u044b\u0441\u0442\u0440\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>FRIDA Decisions \u2014 \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u043c\u044b\u0448\u043b\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430. \u041e\u043d\u0430 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430, \u0441\u0442\u0430\u0432\u0438\u0442 \u043e\u0446\u0435\u043d\u043a\u0443 \u043f\u043e \u0448\u043a\u0430\u043b\u0435, \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u00ab\u0434\u0430\u00bb \u0438\u043b\u0438 \u00ab\u043d\u0435\u0442\u00bb \u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u0437\u0430 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430, \u0431\u0435\u0437 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0437\u0430 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0430 RTX 5060 Ti. \u0415\u0451 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432\u0435\u0437\u0434\u0435, \u0433\u0434\u0435 \u0441\u0435\u0439\u0447\u0430\u0441 LLM \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u043e\u043c \u0438\u043b\u0438 \u0441\u0443\u0434\u044c\u0451\u0439: \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u044f, \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0434\u043b\u044f RAG. \u041d\u0430 \u043d\u0430\u0448\u0435\u043c \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0435 razvilka \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,893 \u2014 \u043d\u0430\u0440\u0430\u0432\u043d\u0435 \u0441 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u043c API TypeSafe Jev (0,897) \u0438 \u0441 LLM Qwen3.5-35B-A3B, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432 40 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435.<\/p>\n<p>\u041a\u043e\u0440\u043e\u0442\u043a\u043e, \u0447\u0442\u043e \u0432\u043d\u0443\u0442\u0440\u0438:<\/p>\n<ul>\n<li>\n<p><strong>\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c.<\/strong> 28-34 \u043c\u0441 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 RTX 5060 Ti. \u041a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u0439 API \u043f\u043e <a href=\"https:\/\/github.com\/themsquared\/jev-benchmark\">\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c \u0437\u0430\u043c\u0435\u0440\u0430\u043c<\/a> \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 430 \u043c\u0441 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0441\u0435\u0442\u044c\u044e.<\/p>\n<\/li>\n<li>\n<p><strong>\u0426\u0435\u043d\u0430.<\/strong> \u041f\u043e\u0447\u0442\u0438 \u0432 20 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u043e\u0433\u043e API \u0432 \u043f\u0435\u0440\u0435\u0441\u0447\u0451\u0442\u0435 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 \u0430\u0440\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.<\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u043e\u0442\u043d\u0438 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u0432 \u043e\u0434\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435.<\/strong> \u0412\u0441\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u043e\u0442\u0432\u0435\u0442\u0430 \u0438\u0434\u0443\u0442 \u0432 \u043e\u0434\u043d\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c, \u0442\u0435\u043a\u0441\u0442 \u043a\u043e\u0434\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0440\u0430\u0437. \u041f\u0440\u0438 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u0441 \u0442\u0440\u0435\u043c\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u044d\u0442\u043e \u0432 6 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0435\u043c \u043f\u0440\u0438 \u043d\u0430\u0438\u0432\u043d\u043e\u0439 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0435, \u0430 \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u0438\u0437 243 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0437\u0430 0,44 \u0441 \u0432\u043c\u0435\u0441\u0442\u043e 4,65 \u0441.<\/p>\n<\/li>\n<li>\n<p><strong>\u041e\u0442\u043a\u0440\u044b\u0442\u043e\u0441\u0442\u044c.<\/strong> \u0412\u0435\u0441\u0430 \u0438 \u043a\u043e\u0434 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043f\u043e\u0434 MIT, \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka (\u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0432\u043e\u044f \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u044f), ONNX-\u0432\u0435\u0440\u0441\u0438\u044f \u0434\u043b\u044f CPU, \u0437\u0430\u043f\u0443\u0441\u043a \u043d\u0430 \u041c\u0430\u043a\u0435 \u0447\u0435\u0440\u0435\u0437 MLX, vLLM-\u0441\u0435\u0440\u0432\u0435\u0440.<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u0431\u044a\u044f\u0441\u043d\u0438\u043c, \u043a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c, \u0438 \u043f\u043e\u043a\u0430\u0436\u0435\u043c, \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0435\u0451 \u0443 \u0441\u0435\u0431\u044f.<\/p>\n<h2>\u0417\u0430\u0447\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442?<\/h2>\n<p>\u0412 \u043b\u044e\u0431\u043e\u043c LLM-\u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0435 \u0435\u0441\u0442\u044c \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043c\u0435\u043b\u043a\u0438\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u044e\u0442 \u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435:<\/p>\n<ul>\n<li>\n<p><strong>LLM-\u0440\u043e\u0443\u0442\u0438\u043d\u0433:<\/strong> \u043a\u0430\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0438\u043d\u0434\u0435\u043a\u0441\u0443 \u0438\u043b\u0438 \u0430\u0433\u0435\u043d\u0442\u0443 \u043e\u0442\u0434\u0430\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441.<\/p>\n<\/li>\n<li>\n<p><strong>Guardrails:<\/strong> \u0442\u043e\u043a\u0441\u0438\u0447\u043d\u043e, \u043f\u043e\u0445\u043e\u0436\u0435 \u043b\u0438 \u043d\u0430 \u043c\u043e\u0448\u0435\u043d\u043d\u0438\u0447\u0435\u0441\u0442\u0432\u043e, \u043d\u0430\u0440\u0443\u0448\u0430\u0435\u0442 \u043b\u0438 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0443.<\/p>\n<\/li>\n<li>\n<p><strong>\u0412\u044b\u0431\u043e\u0440 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430 (tool calling):<\/strong> \u043a\u0430\u043a\u0443\u044e \u0438\u0437 \u0441\u043e\u0442\u043d\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0432\u044b\u0437\u0432\u0430\u0442\u044c.<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u0430\u0437\u0431\u043e\u0440 \u0442\u0438\u043a\u0435\u0442\u0430:<\/strong> \u0442\u0435\u043c\u0430, \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u044c, \u0442\u043e\u043d \u2014 \u0432\u0441\u0451 \u0441\u0440\u0430\u0437\u0443.<\/p>\n<\/li>\n<li>\n<p><strong>RAG:<\/strong> \u0435\u0441\u0442\u044c \u043b\u0438 \u043e\u0442\u0432\u0435\u0442 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435, \u043a\u0430\u043a\u0438\u0435 \u043f\u0430\u0441\u0441\u0430\u0436\u0438 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b (\u0440\u0435\u0440\u0430\u043d\u043a\u0438\u043d\u0433).<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u0431\u044b\u0447\u043d\u043e \u0442\u0430\u043a\u0438\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043e\u0442\u0434\u0430\u044e\u0442 LLM: \u043f\u0440\u043e\u043c\u043f\u0442, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0440\u0430\u0437\u0431\u043e\u0440 JSON. \u042d\u0442\u043e \u0434\u043e\u0440\u043e\u0433\u043e \u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e, \u0438 \u043f\u043e\u0434 \u0442\u0430\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f (decision models): \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0442\u0435\u043a\u0441\u0442 \u0438 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043f\u0438\u0441\u043e\u043a \u0438\u0437 N \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u2014 \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0432\u0441\u0435\u0445 N. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u0439 API TypeSafe Jev: \u043f\u043e <a href=\"https:\/\/theframenews.org\/en\/typesafe-jev-faster-cheaper-llm-alternative\/\">\u043e\u0446\u0435\u043d\u043a\u0430\u043c \u0441\u0430\u043c\u043e\u0439 TypeSafe<\/a>, \u0432 \u0442\u0430\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u043e\u043d \u0432 40-200 \u0440\u0430\u0437 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 400 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u0444\u0440\u043e\u043d\u0442\u0438\u0440\u043d\u044b\u0445 LLM. TypeSafe \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u00ab\u0421\u0438\u0441\u0442\u0435\u043c\u043e\u0439 1\u00bb \u043f\u043e \u041a\u0430\u043d\u0435\u043c\u0430\u043d\u0443: \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0431\u0435\u0437 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439, \u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0439 \u00ab\u0421\u0438\u0441\u0442\u0435\u043c\u044b 2\u00bb \u0443 LLM, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0430\u0435\u0442 \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442.<\/p>\n<p>\u041d\u043e \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0438\u0441 \u2014 \u044d\u0442\u043e \u0432\u043d\u0435\u0448\u043d\u0438\u0439 API: \u0441\u0435\u0442\u0435\u0432\u0430\u044f \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430, \u043e\u043f\u043b\u0430\u0442\u0430 \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b, \u043b\u0438\u043c\u0438\u0442\u044b \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u0430\u043d\u043d\u044b\u0435, \u0443\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u043d\u0430\u0440\u0443\u0436\u0443. \u041c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0442\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u0432\u044b\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 \u0434\u043e\u0441\u0442\u0443\u043f, \u0435\u0451 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0443 \u0441\u0435\u0431\u044f. \u041c\u043e\u0434\u0435\u043b\u0438 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 2 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0430 \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u043e\u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u043d\u0430 CPU: int8-\u0432\u0435\u0440\u0441\u0438\u044f \u0432 ONNX \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 0,9 \u0441 \u043d\u0430 \u0448\u0435\u0441\u0442\u0438 \u043f\u043e\u0442\u043e\u043a\u0430\u0445.<\/p>\n<h2>\u041a\u0430\u043a \u044d\u0442\u043e \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u043e?<\/h2>\n<p>\u041d\u0430 \u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 (state) \u0438 \u043e\u0434\u0438\u043d \u0438\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u043a \u043d\u0435\u043c\u0443. \u041a\u0430\u0436\u0434\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0442\u0438\u043f\u043e\u0432:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th data-colwidth=\"82\" width=\"82\">\n<p>\u0422\u0438\u043f<\/p>\n<\/th>\n<th data-colwidth=\"338\" width=\"338\">\n<p>\u0427\u0442\u043e \u0441\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0435\u0442<\/p>\n<\/th>\n<th>\n<p>\u0427\u0442\u043e \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">choice<\/p>\n<\/td>\n<td data-colwidth=\"338\" width=\"338\">\n<p align=\"left\">\u041a\u0430\u043a\u043e\u0439 \u0438\u0437 K \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u0432\u0435\u0440\u0435\u043d?<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041a\u043b\u044e\u0447 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u043e \u0432\u0441\u0435\u043c.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">score<\/p>\n<\/td>\n<td data-colwidth=\"338\" width=\"338\">\n<p align=\"left\">\u0413\u0434\u0435 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u043e\u0432\u043e\u0439 \u0448\u043a\u0430\u043b\u0435?<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0438\u0441\u043b\u043e \u043e\u0442 0 \u0434\u043e K\u22121.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">noul<\/p>\n<\/td>\n<td data-colwidth=\"338\" width=\"338\">\n<p align=\"left\">\u0412\u0435\u0440\u043d\u043e \u043b\u0438 \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435?<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u00ab\u0434\u0430\u00bb (\u043f\u043e\u043b\u0435 noul).<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">ranking<\/p>\n<\/td>\n<td data-colwidth=\"338\" width=\"338\">\n<p align=\"left\">\u041a\u0430\u043a \u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0438\u0442\u044c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443?<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0438 \u043c\u0430\u0440\u0436\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u0438\u043f\u043e\u0432, \u0432\u043a\u043b\u044e\u0447\u0430\u044f noul \u0434\u043b\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u00ab\u0434\u0430\u00bb \u0438 \u00ab\u043d\u0435\u0442\u00bb, \u0432\u0437\u044f\u0442\u044b \u0438\u0437 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0430 Jev, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0432 \u0435\u0433\u043e \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0442 \u0438 \u043d\u0430\u043c.<\/p>\n<p>\u0421\u043f\u0438\u0441\u043e\u043a \u043c\u0435\u0442\u043e\u043a \u0438 \u0438\u0445 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u043f\u0435\u0440\u0435\u0434\u0430\u044e\u0442\u0441\u044f \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043f\u0440\u044f\u043c\u043e \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435. \u041d\u043e\u0432\u0430\u044f \u0442\u0430\u043a\u0441\u043e\u043d\u043e\u043c\u0438\u044f \u2014 \u044d\u0442\u043e \u043d\u043e\u0432\u044b\u0439 JSON, \u0430 \u043d\u0435 \u043d\u043e\u0432\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435:<\/p>\n<pre><code class=\"json\">{\"state\": \"\u0417\u0434\u0440\u0430\u0432\u0441\u0442\u0432\u0443\u0439\u0442\u0435, \u0443 \u043c\u0435\u043d\u044f \u043d\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a\u043e\u0434 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0447\u0430\u0441.\", \"questions\": { \u00a0 \"urgency5\": {\"type\": \"score\",\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"instructions\": \"\u041e\u0446\u0435\u043d\u0438 \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f.\",\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"criteria\": [\"\u041e\u0447\u0435\u043d\u044c \u043d\u0438\u0437\u043a\u0430\u044f: \u0432\u043e\u043f\u0440\u043e\u0441 \u043c\u043e\u0436\u043d\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u0432 \u043b\u044e\u0431\u043e\u0435 \u0432\u0440\u0435\u043c\u044f\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"\u041d\u0438\u0437\u043a\u0430\u044f: \u043d\u0435\u0443\u0434\u043e\u0431\u0441\u0442\u0432\u043e, \u043d\u043e \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"\u0421\u0440\u0435\u0434\u043d\u044f\u044f: \u0447\u0442\u043e-\u0442\u043e \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u0435\u0441\u0442\u044c \u043e\u0431\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u0443\u0442\u044c\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"\u0412\u044b\u0441\u043e\u043a\u0430\u044f: \u043a\u043b\u0438\u0435\u043d\u0442 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u043c\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"\u041a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f: \u0443\u0433\u0440\u043e\u0437\u0430 \u0434\u0435\u043d\u044c\u0433\u0430\u043c \u0438\u043b\u0438 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u0430\u043a\u043a\u0430\u0443\u043d\u0442\u0430\"]}, \u00a0 \"spam\": {\"type\": \"noul\",\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"instructions\": \"\u042f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438 \u044d\u0442\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u0441\u043f\u0430\u043c\u043e\u043c?\",\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"criteria\": {\"true\": \"\u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043f\u0430\u043c\u043e\u043c: \u0440\u0435\u043a\u043b\u0430\u043c\u0430, \u0447\u0443\u0436\u0438\u0435 \u0441\u0441\u044b\u043b\u043a\u0438, \u043f\u0440\u043e\u0441\u044c\u0431\u0430 \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0434\u0435\u043d\u044c\u0433\u0438 \u0438\u043b\u0438 \u0441\u043e\u043e\u0431\u0449\u0438\u0442\u044c \u043a\u043e\u0434\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"false\": \"\u0432\u043e\u043f\u0440\u043e\u0441 \u0438\u043b\u0438 \u0436\u0430\u043b\u043e\u0431\u0430 \u043f\u043e \u043d\u0430\u0448\u0435\u043c\u0443 \u0441\u0435\u0440\u0432\u0438\u0441\u0443\"}}}}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper\"><\/span><\/a><\/div><\/pre>\n<p>\u041e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 (\u043f\u043e\u043b\u0435 answers; \u0447\u0430\u0441\u0442\u044c \u043f\u043e\u043b\u0435\u0439 \u043e\u043f\u0443\u0449\u0435\u043d\u0430, \u0447\u0438\u0441\u043b\u0430 \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u044b \u0434\u043e \u0442\u0440\u0451\u0445 \u0437\u043d\u0430\u043a\u043e\u0432):<\/p>\n<pre><code class=\"json\">{\"urgency5\": {\"type\": \"score\", \"score\": 2.73,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"probabilities\": {\"0\": 0.007, \"1\": 0.007, \"2\": 0.271, \"3\": 0.685, \"4\": 0.03}}, \"spam\": {\"type\": \"noul\", \"noul\": 0.06}}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u0421\u0430\u043c\u044b\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u2014 \u00ab\u0412\u044b\u0441\u043e\u043a\u0430\u044f\u00bb (0,69), score \u2014 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0448\u043a\u0430\u043b\u0435. \u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0441\u043f\u0430\u043c\u0430 0,06.<\/p>\n<p>\u0412 \u043e\u0441\u043d\u043e\u0432\u0435 \u043d\u0430\u0448\u0435\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f <a href=\"https:\/\/huggingface.co\/ai-forever\/FRIDA\">FRIDA<\/a>, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433-\u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0443\u0436\u0435 <a href=\"https:\/\/habr.com\/ru\/companies\/sberdevices\/articles\/909924\/\">\u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438 \u043d\u0430 \u0425\u0430\u0431\u0440\u0435<\/a>. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e \u044d\u0442\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043e\u0442 FRED-T5 (24 \u0441\u043b\u043e\u044f, 823 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432). \u0414\u043b\u044f FRIDA Decisions \u043c\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u0435\u0451 \u0438\u0437 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u0432 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u043a\u043e\u0434\u0435\u0440: \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0438 \u0432\u044b\u0434\u0430\u0451\u0442 \u043d\u0430 \u043d\u0435\u0433\u043e \u043e\u0434\u043d\u043e \u0447\u0438\u0441\u043b\u043e. \u042d\u0442\u043e \u043a\u0430\u043a \u0443 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440\u043e\u0432, \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0442\u043a\u0438 \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0431\u043e\u0440 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0431\u0435\u0437 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0414\u0435\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0435\u0442, \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043d\u043e\u043b\u044c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0442\u0432\u0435\u0442 \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0434\u0438\u043d \u0438\u0437 \u043e\u0431\u044a\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432\u0438\u0434\u043d\u0430 \u0441\u0440\u0430\u0437\u0443.<\/p>\n<h2>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e: \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka<\/h2>\n<p>\u0414\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u043c\u044b \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u0441\u0432\u043e\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a <strong>razvilka<\/strong> \u0438 \u043f\u0443\u0431\u043b\u0438\u043a\u0443\u0435\u043c \u0435\u0433\u043e \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e: 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0432 15 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u0432\u0441\u0435 \u0447\u0435\u0442\u044b\u0440\u0435 \u0442\u0438\u043f\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432, \u0442\u0435\u043a\u0441\u0442\u044b \u0438 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0438\u0437 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0440\u0443\u0441\u0441\u043a\u0438\u0445 \u043a\u043e\u0440\u043f\u0443\u0441\u043e\u0432. \u042d\u0442\u0443 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u0434\u0432\u0435 \u0444\u0440\u043e\u043d\u0442\u0438\u0440\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0441\u043f\u043e\u0440\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0443\u0434\u0430\u043b\u0435\u043d\u044b \u0446\u0435\u043b\u0438\u043a\u043e\u043c. \u041b\u0435\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u043f\u043e \u043e\u0431\u0449\u0438\u043c \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0441\u043b\u043e\u0432\u0430\u043c, \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0430 \u043d\u0451\u043c 0,333, \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u2014 0,257. \u0421\u043a\u0440\u0438\u043f\u0442 \u043f\u043e\u0434\u0441\u0447\u0451\u0442\u0430 \u0438 <a href=\"https:\/\/colab.research.google.com\/github\/ai-forever\/FRIDA-Decisions\/blob\/main\/benchmarks\/razvilka\/run_razvilka.ipynb\">\u0442\u0435\u0442\u0440\u0430\u0434\u043a\u0430<\/a>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u0442 \u043d\u0430 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0435 \u043b\u044e\u0431\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043b\u0435\u0436\u0430\u0442 \u0432 <a href=\"https:\/\/github.com\/ai-forever\/FRIDA-Decisions\/tree\/main\/benchmarks\/razvilka\">\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438<\/a>.<\/p>\n<p><strong>\u041d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u043e\u0433\u043e API.<\/strong> \u0414\u043b\u044f \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u0430 \u043c\u044b \u043f\u0440\u043e\u0433\u043d\u0430\u043b\u0438 \u0442\u043e\u0442 \u0436\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a \u0447\u0435\u0440\u0435\u0437 TypeSafe Jev: 659 \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0438\u0437 735 \u043f\u0440\u043e\u0442\u0438\u0432 \u043d\u0430\u0448\u0438\u0445 656, \u0442\u043e \u0435\u0441\u0442\u044c 0,897 \u0438 0,893 (\u0443 \u043d\u0430\u0441 state \u0434\u043e 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432). \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0442\u0440\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u0430 (\u043f\u0430\u0440\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u041c\u0430\u043a\u043d\u0435\u043c\u0430\u0440\u0430, p = 0,84), \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u0445 \u00ab\u0434\u0430\/\u043d\u0435\u0442\u00bb \u0441\u0447\u0451\u0442 \u0440\u043e\u0432\u043d\u044b\u0439, 122 \u043f\u0440\u043e\u0442\u0438\u0432 122.<\/p>\n<p><strong>\u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u043e\u0433\u043e \u0436\u0435 \u043a\u043b\u0430\u0441\u0441\u0430.<\/strong> \u0411\u043b\u0438\u0436\u0435 \u0432\u0441\u0435\u0445 decider-2b, \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f \u0440\u0435\u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u044f Jev \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c 1,9B, \u0432\u0434\u0432\u043e\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0430\u0448\u0435\u0439: 0,833, \u043c\u044b \u0432\u043f\u0435\u0440\u0435\u0434\u0438 \u043d\u0430 44 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 (p &lt; 0,001). \u042d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440\u044b \u0434\u043e 1 \u043c\u043b\u0440\u0434 \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u043e\u0442\u0441\u0442\u0430\u044e\u0442 \u043d\u0430 32-40 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u044b\u0445 \u043f\u0443\u043d\u043a\u0442\u043e\u0432. \u041f\u0440\u043e\u0442\u0438\u0432 GLiNER \u0438 laya \u043c\u044b \u0447\u0430\u0449\u0435 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u043c, \u0447\u0435\u043c \u043f\u0440\u043e\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u043c, \u0432 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 15 \u0437\u0430\u0434\u0430\u0447 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430, \u043f\u0440\u043e\u0442\u0438\u0432 KaLM-Reranker \u2014 \u0432\u043e \u0432\u0441\u0435\u0445, \u043a\u0440\u043e\u043c\u0435 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u0433\u0434\u0435 \u0438\u0434\u0451\u043c \u0432\u0440\u043e\u0432\u0435\u043d\u044c.<\/p>\n<p><strong>\u041c\u0430\u043b\u044b\u0435 LLM \u043a\u0430\u043a \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b.<\/strong> \u041c\u044b \u0441\u043f\u0440\u043e\u0441\u0438\u043b\u0438 \u0434\u0432\u0435 MoE-\u043c\u043e\u0434\u0435\u043b\u0438 \u0441 3-4 \u043c\u043b\u0440\u0434 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0431\u0435\u0437 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 (\u0443 GPT-OSS \u043e\u043d\u0438 \u043d\u0435 \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435): \u0442\u0435 \u0436\u0435 \u0442\u0435\u043a\u0441\u0442, \u0432\u043e\u043f\u0440\u043e\u0441 \u0438 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0432 \u043f\u0440\u043e\u043c\u043f\u0442\u0435, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043a\u043b\u044e\u0447 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432 JSON. Qwen3.5-35B-A3B \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,897, \u0438 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0441 \u043d\u0430\u043c\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u0430 (p = 0,84): \u043e\u043d\u0438 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438, \u043c\u044b \u2014 \u0432 \u0432\u044b\u0431\u043e\u0440\u0435 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430. \u041d\u043e \u044d\u0442\u043e 35 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043e\u043a\u043e\u043b\u043e 70 \u0413\u0411 \u0432\u0435\u0441\u043e\u0432 \u0432 bf16, \u0447\u0435\u0440\u0435\u0437 API \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u043e\u043a\u043e\u043b\u043e $0,06 \u0437\u0430 1000 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 TypeSafe, \u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043f\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430\u043c Qwen \u043e\u0442\u0434\u0430\u0451\u0442 \u043e\u0434\u0438\u043d \u043e\u0442\u0432\u0435\u0442 \u0441\u0442\u0440\u043e\u043a\u043e\u0439. GPT-OSS-20b \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,856, \u043c\u044b \u0432\u043f\u0435\u0440\u0435\u0434\u0438 \u043d\u0430 27 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 (p = 0,02).<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/83\/4e\/52\/834e5212679b61768e0364a1c8990ef3.png\" alt=\"Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u0430\u0436\u0434\u0430\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0445\u043e\u0434\u0430, \u043f\u043e\u0434\u0441\u0447\u0451\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439\" title=\"Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u0430\u0436\u0434\u0430\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0445\u043e\u0434\u0430, \u043f\u043e\u0434\u0441\u0447\u0451\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439\" width=\"1344\" height=\"820\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/83\/4e\/52\/834e5212679b61768e0364a1c8990ef3.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/83\/4e\/52\/834e5212679b61768e0364a1c8990ef3.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u0430\u0436\u0434\u0430\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0445\u043e\u0434\u0430, \u043f\u043e\u0434\u0441\u0447\u0451\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e \u0442\u0438\u043f\u0430\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0441\u0435\u0433\u043e choice: \u0432\u044b\u0431\u043e\u0440 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430 \u043c\u0435\u0442\u043e\u043a, \u0442\u043e \u0435\u0441\u0442\u044c \u0440\u043e\u0443\u0442\u0438\u043d\u0433, \u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 \u0438 \u0438\u043d\u0442\u0435\u043d\u0442\u044b: 457 \u0432\u0435\u0440\u043d\u044b\u0445 \u0438\u0437 500 (0,914).<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/69\/f2\/25\/69f225f33ce09fd9bb4a3256a535d6ec.png\" alt=\"Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, 15 \u0437\u0430\u0434\u0430\u0447 \u0441\u0432\u0435\u0434\u0435\u043d\u044b \u0432 \u043f\u044f\u0442\u044c \u0433\u0440\u0443\u043f\u043f, \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443\" title=\"Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, 15 \u0437\u0430\u0434\u0430\u0447 \u0441\u0432\u0435\u0434\u0435\u043d\u044b \u0432 \u043f\u044f\u0442\u044c \u0433\u0440\u0443\u043f\u043f, \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443\" width=\"1344\" height=\"668\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/69\/f2\/25\/69f225f33ce09fd9bb4a3256a535d6ec.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/69\/f2\/25\/69f225f33ce09fd9bb4a3256a535d6ec.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, 15 \u0437\u0430\u0434\u0430\u0447 \u0441\u0432\u0435\u0434\u0435\u043d\u044b \u0432 \u043f\u044f\u0442\u044c \u0433\u0440\u0443\u043f\u043f, \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u043f\u0440\u0430\u0432\u0430 \u2014 \u0434\u043e\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0433\u0440\u0443\u043f\u043f\u044b, \u0433\u0434\u0435 \u043c\u044b \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0438 \u0432\u0435\u0440\u043d\u043e, \u0430 \u0434\u0440\u0443\u0433\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0448\u0438\u0431\u043b\u0430\u0441\u044c, \u0441\u043b\u0435\u0432\u0430 \u2014 \u043d\u0430\u043e\u0431\u043e\u0440\u043e\u0442. \u0412 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0434\u043b\u044f RAG \u043c\u044b \u043f\u0440\u0430\u0432\u044b, \u0430 GLiNER \u0438 laya \u043e\u0448\u0438\u0431\u0430\u044e\u0442\u0441\u044f \u0432 58-68% \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432. \u0423 KaLM-Reranker \u0441\u0430\u043c \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u0437\u0434\u0435\u0441\u044c \u0438\u0434\u0451\u0442 \u0441 \u043d\u0430\u043c\u0438 \u0432\u0440\u043e\u0432\u0435\u043d\u044c, \u0437\u0430\u0442\u043e \u0432 \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438 \u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438 \u043e\u0442\u0441\u0442\u0430\u0451\u0442 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0441\u0435\u0445.<\/p>\n<h2>\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438 \u0446\u0435\u043d\u0430<\/h2>\n<p>\u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 (\u0442\u0435\u043a\u0441\u0442 \u043e\u043a\u043e\u043b\u043e 400 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u0440\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430) \u043d\u0430 RTX 5060 Ti \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 34 \u043c\u0441, \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c \u2014 28 \u043c\u0441. \u042d\u0442\u043e \u043c\u0435\u0434\u0438\u0430\u043d\u0430 30 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430 \u0432 \u0441\u0432\u043e\u0451\u043c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435, \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0438 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u043e\u0439, \u043d\u043e \u0431\u0435\u0437 \u0441\u0435\u0442\u0438. \u041f\u0438\u043a\u043e\u0432\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f PyTorch \u0437\u0430 \u0432\u0435\u0441\u044c \u043f\u0440\u043e\u0433\u043e\u043d \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430, \u2014 1,8 \u0413\u0411 \u043f\u043b\u044e\u0441 CUDA-\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0442\u0430\u043a \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043b\u044e\u0431\u0443\u044e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u0438\u0433\u0440\u043e\u0432\u0443\u044e \u043a\u0430\u0440\u0442\u0443. \u0423 TypeSafe Jev \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b <a href=\"https:\/\/github.com\/priorbench\/jev\">PriorBench<\/a> \u0438 <a href=\"https:\/\/github.com\/themsquared\/jev-benchmark\">jev-benchmark<\/a> \u0434\u0430\u044e\u0442 \u043e\u043a\u043e\u043b\u043e 430 \u043c\u0441 \u0447\u0435\u0440\u0435\u0437 OpenRouter \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0441\u0435\u0442\u044c\u044e (\u0443 jev-benchmark p50 422 \u043c\u0441, p95 542 \u043c\u0441). \u0415\u0441\u043b\u0438 \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u0443 \u0441\u0435\u0431\u044f vLLM-\u0441\u0435\u0440\u0432\u0435\u0440 \u0438 \u0445\u043e\u0434\u0438\u0442\u044c \u0432 \u043d\u0435\u0433\u043e \u043f\u043e HTTP, \u0442\u043e \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043c\u0430\u0448\u0438\u043d\u0435 \u043e\u0442\u0432\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 40-44 \u043c\u0441.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th data-colwidth=\"166\" width=\"166\">\n<p>\u041a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c<\/p>\n<\/th>\n<th data-colwidth=\"168\" width=\"168\">\n<p>\u0416\u0435\u043b\u0435\u0437\u043e<\/p>\n<\/th>\n<th data-colwidth=\"283\" width=\"283\">\n<p>\u0417\u0430\u043f\u0440\u043e\u0441: \u0442\u0435\u043a\u0441\u0442 ~400 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u0440\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430<\/p>\n<\/th>\n<th data-colwidth=\"94\" width=\"94\">\n<p>razvilka<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td data-colwidth=\"166\" width=\"166\">\n<p align=\"left\">PyTorch, bf16<\/p>\n<\/td>\n<td data-colwidth=\"168\" width=\"168\">\n<p align=\"left\">RTX 5060 Ti<\/p>\n<\/td>\n<td data-colwidth=\"283\" width=\"283\">\n<p align=\"left\">34 \u043c\u0441<\/p>\n<\/td>\n<td data-colwidth=\"94\" width=\"94\">\n<p align=\"left\">0,893<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"166\" width=\"166\">\n<p align=\"left\">vLLM-\u0441\u0435\u0440\u0432\u0435\u0440, bf16, \u043f\u043e HTTP<\/p>\n<\/td>\n<td data-colwidth=\"168\" width=\"168\">\n<p align=\"left\">RTX 5060 Ti<\/p>\n<\/td>\n<td data-colwidth=\"283\" width=\"283\">\n<p align=\"left\">44 \u043c\u0441; \u043e\u043a\u043e\u043b\u043e 60 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441 \u043f\u0440\u0438 8 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445<\/p>\n<\/td>\n<td data-colwidth=\"94\" width=\"94\">\n<p align=\"left\">0,890<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"166\" width=\"166\">\n<p align=\"left\">MLX, bf16<\/p>\n<\/td>\n<td data-colwidth=\"168\" width=\"168\">\n<p align=\"left\">Apple M4 Pro<\/p>\n<\/td>\n<td data-colwidth=\"283\" width=\"283\">\n<p align=\"left\">139 \u043c\u0441<\/p>\n<\/td>\n<td data-colwidth=\"94\" width=\"94\">\n<p align=\"left\">0,891<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"166\" width=\"166\">\n<p align=\"left\">ONNX int8<\/p>\n<\/td>\n<td data-colwidth=\"168\" width=\"168\">\n<p align=\"left\">CPU Ryzen 5 7500F, 6 \u043f\u043e\u0442\u043e\u043a\u043e\u0432<\/p>\n<\/td>\n<td data-colwidth=\"283\" width=\"283\">\n<p align=\"left\">0,88 \u0441<\/p>\n<\/td>\n<td data-colwidth=\"94\" width=\"94\">\n<p align=\"left\">0,891<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"166\" width=\"166\">\n<p align=\"left\">PyTorch, fp32<\/p>\n<\/td>\n<td data-colwidth=\"168\" width=\"168\">\n<p align=\"left\">CPU Ryzen 5 7500F, 6 \u043f\u043e\u0442\u043e\u043a\u043e\u0432<\/p>\n<\/td>\n<td data-colwidth=\"283\" width=\"283\">\n<p align=\"left\">2,3 \u0441<\/p>\n<\/td>\n<td data-colwidth=\"94\" width=\"94\">\n<p align=\"left\">\u2014<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c vLLM \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0430 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 razvilka (\u043e\u043a\u043e\u043b\u043e 260 \u0442\u043e\u043a\u0435\u043d\u043e\u0432). CPU \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0438 \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0435 \u0432 384 \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u0441 \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439. \u0411\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e\u0439 T4 \u0432 Colab \u0442\u043e\u0436\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442: \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u0438\u0437 243 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043d\u0435\u0439 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 \u0441\u0435\u043a\u0443\u043d\u0434\u0443.<\/p>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e \u0434\u043b\u0438\u043d\u0435 \u0432\u0445\u043e\u0434\u0430. \u041c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0434\u043e 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043f\u0430\u043a\u0435\u0442 \u043e\u0431\u0440\u0435\u0437\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u0434\u043e 384. \u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043f\u043e\u0437\u0438\u0446\u0438\u044f\u043c T5 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u0430\u0442\u044c \u0438 \u0431\u043e\u043b\u044c\u0448\u0435, \u043d\u043e \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0436\u0435\u0442 \u043f\u0430\u0434\u0430\u0442\u044c. \u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u043d\u0430\u0434\u0451\u0436\u043d\u0435\u0435 \u0440\u0435\u0437\u0430\u0442\u044c \u043d\u0430 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u044b \u0438 \u0441\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0442\u044c \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443. \u0412 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0440\u0435\u043b\u0438\u0437\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e, \u043e\u0431\u0435\u0449\u0430\u0435\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c!<\/p>\n<p><strong>\u0426\u0435\u043d\u0430 \u0437\u0430 1000 \u0442\u0430\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432<\/strong>:<\/p>\n<ul>\n<li>\n<p>TypeSafe Jev \u0431\u0435\u0440\u0451\u0442 $0,042 \u0437\u0430 \u043c\u0438\u043b\u043b\u0438\u043e\u043d \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0417\u0430\u043f\u0440\u043e\u0441 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0432 384 \u0442\u043e\u043a\u0435\u043d\u0430 \u0438 \u0442\u0440\u0435\u043c\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043e\u043d \u0432\u044b\u0441\u0442\u0430\u0432\u0438\u043b \u0432 \u0441\u0447\u0451\u0442 \u043a\u0430\u043a 1277 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u043e \u0435\u0441\u0442\u044c <strong>\u043e\u043a\u043e\u043b\u043e $0,054<\/strong>.<\/p>\n<\/li>\n<li>\n<p>\u0422\u0430 \u0436\u0435 \u043a\u0430\u0440\u0442\u0430 \u0432 \u0430\u0440\u0435\u043d\u0434\u0443 \u0443 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0445 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u043e\u0432 \u0441\u0442\u043e\u0438\u0442 \u043e\u0442 26 \u20bd \u0432 \u0447\u0430\u0441 (<a href=\"https:\/\/cloudcompute.ru\/prices\">\u043f\u0440\u0438\u043c\u0435\u0440 \u0442\u0430\u0440\u0438\u0444\u0430<\/a>, \u043d\u0430 1 \u043e\u043a\u0442\u044f\u0431\u0440\u044f 2026), \u0442\u043e \u0435\u0441\u0442\u044c <strong>\u043e\u043a\u043e\u043b\u043e 0,25 \u20bd, \u0438\u043b\u0438 $0,003<\/strong> \u043f\u043e \u043a\u0443\u0440\u0441\u0443 85 \u20bd \u0437\u0430 \u0434\u043e\u043b\u043b\u0430\u0440.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0432 20 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u043d\u0430 \u0430\u0440\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0432 \u0420\u0424 \u043a\u0430\u0440\u0442\u0435, \u0431\u0435\u0437 \u043b\u0438\u043c\u0438\u0442\u043e\u0432 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u044b, \u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0443\u0445\u043e\u0434\u044f\u0442 \u0441 \u043c\u0430\u0448\u0438\u043d\u044b. \u042d\u0442\u043e \u0446\u0435\u043d\u0430 \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435: \u0430\u0440\u0435\u043d\u0434\u0430 \u0441\u0442\u043e\u0438\u0442 \u043e\u043a\u043e\u043b\u043e 620 \u20bd (~$7) \u0432 \u0441\u0443\u0442\u043a\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0432\u043e\u044f \u043a\u0430\u0440\u0442\u0430 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 API \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441\u043e 135 \u0442\u044b\u0441\u044f\u0447 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0441\u0443\u0442\u043a\u0438. vLLM-\u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0430\u0440\u0442\u0435 \u043e\u043a\u043e\u043b\u043e 60 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u0442\u0430\u043a \u0447\u0442\u043e \u0441 \u043d\u0438\u043c \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0446\u0435\u043d\u0435 \u0435\u0449\u0451 \u0431\u043e\u043b\u044c\u0448\u0435.<\/p>\n<h2>\u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c<\/h2>\n<h3>\u0423\u043f\u0430\u043a\u043e\u0432\u043a\u0430: \u0442\u0435\u043a\u0441\u0442 \u043a\u043e\u0434\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0440\u0430\u0437 \u043d\u0430 \u0432\u0441\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b<\/h3>\n<p>\u041d\u0430\u0438\u0432\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043f\u0440\u043e K \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u2014 \u0441\u043e\u0431\u0440\u0430\u0442\u044c K \u043f\u0430\u0440 \u00ab\u0442\u0435\u043a\u0441\u0442 + \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00bb \u0438 \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u0443\u044e. \u0422\u043e\u0433\u0434\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442 \u043e\u043f\u043b\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f K \u0440\u0430\u0437, \u0438 \u0446\u0435\u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0440\u0430\u0441\u0442\u0451\u0442 \u043a\u0430\u043a \u0434\u043b\u0438\u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0430, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u0430\u044f \u043d\u0430 \u0447\u0438\u0441\u043b\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432.<\/p>\n<p>\u041c\u044b \u043a\u043b\u0430\u0434\u0451\u043c \u0432\u0441\u0451 \u0432 \u043e\u0434\u043d\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c: [\u0442\u0435\u043a\u0441\u0442] [\u0432\u043e\u043f\u0440\u043e\u0441 1] [\u0432\u0430\u0440\u0438\u0430\u043d\u0442 1] [\u0432\u0430\u0440\u0438\u0430\u043d\u0442 2] \u2026 [\u0432\u043e\u043f\u0440\u043e\u0441 2] \u2026. \u0422\u0440\u0451\u0445\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u0430\u044f \u0431\u043b\u043e\u0447\u043d\u0430\u044f \u043c\u0430\u0441\u043a\u0430 \u0434\u0435\u043b\u0430\u0435\u0442 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0432\u0438\u0434\u0435\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043a\u0441\u0442, \u0441\u0432\u043e\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u0438 \u0441\u0435\u0431\u044f, \u0430 \u043f\u043e\u0437\u0438\u0446\u0438\u0438 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u043b\u0438\u0441\u044c \u0441\u0440\u0430\u0437\u0443 \u043f\u043e\u0441\u043b\u0435 \u0435\u0433\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u0430, \u043a\u0430\u043a \u0435\u0441\u043b\u0438 \u0431\u044b \u043e\u043d \u0431\u044b\u043b \u0442\u0430\u043c \u043e\u0434\u0438\u043d.<\/p>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u0448\u0430\u0433 \u2014 \u043a\u0435\u0448 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f. \u0422\u0435\u043a\u0441\u0442 \u043d\u0438\u043a\u043e\u0433\u043e, \u043a\u0440\u043e\u043c\u0435 \u0441\u0435\u0431\u044f, \u043d\u0435 \u0432\u0438\u0434\u0438\u0442, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0433\u043e \u043a\u043b\u044e\u0447\u0438 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435 \u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432. \u041c\u044b \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u043c \u0442\u0435\u043a\u0441\u0442 \u043e\u0434\u0438\u043d \u0440\u0430\u0437, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u043c K\/V, \u0438 \u0434\u0430\u043b\u044c\u0448\u0435 \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u043a\u043e\u0434\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0445 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b. \u0415\u0441\u043b\u0438 \u043f\u0435\u0440\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043f\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0443 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0438 \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043b\u0441\u044f \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0440\u043e\u043a, \u0442\u043e K\/V \u0442\u0435\u043a\u0441\u0442\u0430 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0432 \u043a\u0435\u0448\u0435, \u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043f\u0440\u043e \u0442\u043e\u0442 \u0436\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442 \u0442\u0435\u043a\u0441\u0442 \u0443\u0436\u0435 \u043d\u0435 \u043a\u043e\u0434\u0438\u0440\u0443\u0435\u0442: \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0435 \u043d\u0430 326 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0441 13 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430\u043c\u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 25 \u043c\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 240 \u043c\u0441 \u043f\u0440\u0438 \u043d\u0430\u0438\u0432\u043d\u043e\u0439 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0435. \u0423 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0442\u0430\u043a\u043e\u0439 \u043a\u0435\u0448 \u0435\u0441\u0442\u044c \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043a\u0430\u0443\u0437\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u0430\u0441\u043a\u0435, \u0430 \u0432 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0435 \u0432\u0441\u0435 \u0442\u043e\u043a\u0435\u043d\u044b \u0432\u0438\u0434\u044f\u0442 \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430, \u0438 \u0442\u0430\u043a \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u044b\u0439\u0434\u0435\u0442. \u0414\u043b\u044f \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0441\u0432\u043e\u044e \u0441\u0445\u0435\u043c\u0443 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u043a\u0435\u0448 \u043a\u0430\u043a \u0443 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430, \u043d\u0435 \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u044f\u0441\u044c \u043e\u0442 \u0434\u0432\u0443\u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430; \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043f\u0440\u043e \u043d\u0435\u0451 \u2014 \u0432 <a href=\"https:\/\/habr.com\/ru\/companies\/sberdevices\/articles\/812221\/\">\u043d\u0430\u0448\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043f\u0440\u043e \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0421\u0430\u043b\u044e\u0442\u0430<\/a>.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/62\/3f\/76\/623f76c435671bef19b6868de3c142f4.png\" alt=\"\u041d\u0430\u0438\u0432\u043d\u0430\u044f \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0430, \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430, \u043a\u0435\u0448 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f\" title=\"\u041d\u0430\u0438\u0432\u043d\u0430\u044f \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0430, \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430, \u043a\u0435\u0448 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f\" width=\"1344\" height=\"670\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/62\/3f\/76\/623f76c435671bef19b6868de3c142f4.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/62\/3f\/76\/623f76c435671bef19b6868de3c142f4.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041d\u0430\u0438\u0432\u043d\u0430\u044f \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0430, \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430, \u043a\u0435\u0448 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f<\/figcaption><\/div>\n<\/figure>\n<p>\u0427\u0435\u043c \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u0442\u0435\u043a\u0441\u0442 \u0438 \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u0435\u0440\u044b\u0445 \u043f\u043e\u043b\u043e\u0441 \u0432 \u0431\u043b\u043e\u043a\u0435 \u00ab\u041d\u0430\u0438\u0432\u043d\u043e\u00bb \u0438 \u0442\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u044b\u0438\u0433\u0440\u044b\u0448.<\/p>\n<h4>\u0413\u0434\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0441\u0435\u0433\u043e?<\/h4>\n<p>\u0417\u0430\u043c\u0435\u0440 \u043d\u0430 RTX 5060 Ti, bf16. \u041d\u0430\u0438\u0432\u043d\u0430\u044f \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0430: \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c, \u043f\u043e \u043e\u0434\u043d\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430, \u043f\u0430\u0447\u043a\u0430\u043c\u0438 \u043f\u043e 8; \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043e\u0431\u0435\u0438\u0445 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043e\u043a \u0441\u043e\u0432\u043f\u0430\u043b\u0438. \u041f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u043f\u043e \u0442\u043e\u043a\u0435\u043d\u0430\u043c: \u043d\u0430 \u043a\u0430\u0436\u0434\u0443\u044e \u0441\u0442\u0440\u043e\u043a\u0443 \u0435\u0441\u0442\u044c \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043d\u0430\u043a\u043b\u0430\u0434\u043d\u044b\u0435 \u0440\u0430\u0441\u0445\u043e\u0434\u044b.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th data-colwidth=\"160\" width=\"160\">\n<p><sup>\u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0439<\/sup><\/p>\n<\/th>\n<th data-colwidth=\"83\" width=\"83\">\n<p><sup>\u0422\u0435\u043a\u0441\u0442, \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/sup><\/p>\n<\/th>\n<th data-colwidth=\"108\" width=\"108\">\n<p><sup>\u041a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432<\/sup><\/p>\n<\/th>\n<th>\n<p><sup>\u0422\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u0438\u0432\u043d\u043e\/\u0441 \u043a\u0435\u0448\u0435\u043c<\/sup><\/p>\n<\/th>\n<th data-colwidth=\"78\" width=\"78\">\n<p><sup>\u0412\u0440\u0435\u043c\u044f \u043d\u0430\u0438\u0432\u043d\u043e<\/sup><\/p>\n<\/th>\n<th data-colwidth=\"83\" width=\"83\">\n<p><sup>\u0412\u0440\u0435\u043c\u044f \u0441 \u043a\u0435\u0448\u0435\u043c<\/sup><\/p>\n<\/th>\n<th data-colwidth=\"97\" width=\"97\">\n<p><sup>\u0412\u044b\u0438\u0433\u0440\u044b\u0448<\/sup><\/p>\n<\/th>\n<\/tr>\n<tr>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\"><sup>\u0412\u044b\u0431\u043e\u0440 \u0438\u043d\u0442\u0435\u043d\u0442\u0430 \u0438\u0437 \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0430 \u0431\u043e\u0442\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>331<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"108\" width=\"108\">\n<p align=\"left\"><sup>243 \u0438\u043d\u0442\u0435\u043d\u0442\u0430<\/sup><\/p>\n<\/td>\n<td>\n<p align=\"left\"><sup>97 685\/4 871<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\"><sup>4,65 \u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>0,44 \u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"97\" width=\"97\">\n<p align=\"left\"><sup>\u00d711<\/sup><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\"><sup>\u041f\u043e\u043b\u043d\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u043f\u0438\u0441\u044c\u043c\u0430 \u0432 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>302<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"108\" width=\"108\">\n<p align=\"left\"><sup>16 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432, 65 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432<\/sup><\/p>\n<\/td>\n<td>\n<p align=\"left\"><sup>23 487\/1 853<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\"><sup>1,10 \u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>0,18 \u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"97\" width=\"97\">\n<p align=\"left\"><sup>\u00d76<\/sup><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"160\" width=\"160\">\n<p align=\"left\"><sup>\u041f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0443<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>326<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"108\" width=\"108\">\n<p align=\"left\"><sup>13<\/sup><\/p>\n<\/td>\n<td>\n<p align=\"left\"><sup>5 081\/277<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"78\" width=\"78\">\n<p align=\"left\"><sup>0,24 \u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"83\" width=\"83\">\n<p align=\"left\"><sup>25 \u043c\u0441<\/sup><\/p>\n<\/td>\n<td data-colwidth=\"97\" width=\"97\">\n<p align=\"left\"><sup>\u00d79<\/sup><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0412 \u0438\u0442\u043e\u0433\u0435 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0440\u0430\u0441\u0442\u0451\u0442 \u043d\u0435 \u043a\u0430\u043a \u00ab\u0442\u0435\u043a\u0441\u0442 \u00d7 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b\u00bb, \u0430 \u043a\u0430\u043a \u00ab\u0442\u0435\u043a\u0441\u0442 + \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b\u00bb. \u0418\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u043d\u044b\u043c \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u0438\u0437 \u0441\u043e\u0442\u0435\u043d \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438\u043b\u0438 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0443.<\/p>\n<h3>\u0414\u0430\u043d\u043d\u044b\u0435 \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435<\/h3>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0430 \u043d\u0430 1,42 \u043c\u043b\u043d \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 (1,5 \u043c\u043b\u043d \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432) \u043f\u043e 151 \u0432\u0438\u0434\u0443 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432. \u041e\u043a\u043e\u043b\u043e 71% \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c, 29% \u043d\u0430 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c. \u0412 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u044d\u0442\u043e \u0434\u0430\u043d\u043d\u044b\u0435 \u0441 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0439 \u0438\u043b\u0438 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u043e\u0439; \u043f\u043e \u043d\u0430\u0448\u0435\u0439 \u043e\u0446\u0435\u043d\u043a\u0435, \u043e\u043a\u043e\u043b\u043e \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u0438 \u2014 \u0441 LLM-\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0435\u0439 \u0438\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u043e\u0439. \u0424\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043f\u0435\u0440\u0435\u0444\u0440\u0430\u0437\u0430\u043c\u0438, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043d\u0438\u043c\u0430\u043b\u0430 \u0441\u043c\u044b\u0441\u043b \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0438, \u0430 \u043d\u0435 \u0437\u0430\u0443\u0447\u0435\u043d\u043d\u0443\u044e \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0443.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/95\/69\/0e\/95690e62d12666573d58e72038630c1d.png\" alt=\"\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438: \u0434\u043e\u043b\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0442\u043e\u0447\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0438\u0434\u043e\u0432 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432\" title=\"\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438: \u0434\u043e\u043b\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0442\u043e\u0447\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0438\u0434\u043e\u0432 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432\" width=\"1344\" height=\"636\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/95\/69\/0e\/95690e62d12666573d58e72038630c1d.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/95\/69\/0e\/95690e62d12666573d58e72038630c1d.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438: \u0434\u043e\u043b\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0442\u043e\u0447\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0438\u0434\u043e\u0432 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u041e\u0431\u0443\u0447\u0430\u043b\u0438 \u043d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u0430\u0445 \u0434\u043b\u044f DL, \u043d\u043e \u043f\u043e \u043e\u0431\u044a\u0451\u043c\u0443 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 50 \u0447\u0430\u0441\u043e\u0432 \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 RTX 5060 Ti. LoRA \u0440\u0430\u043d\u0433\u0430 16 \u043d\u0430 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044f\u0445 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f q, k, v, o \u0432\u043e \u0432\u0441\u0435\u0445 24 \u0441\u043b\u043e\u044f\u0445 \u043f\u043b\u044e\u0441 \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u0430\u044f \u0433\u043e\u043b\u043e\u0432\u0430: 4,7 \u043c\u043b\u043d \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438\u0437 823 \u043c\u043b\u043d; \u0432 \u0440\u0435\u043b\u0438\u0437\u0435 LoRA \u0432\u043b\u0438\u0442\u0430 \u0432 \u0432\u0435\u0441\u0430.<\/p>\n<h4>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0447\u0438\u0442\u0441\u044f?<\/h4>\n<p>\u041a\u0430\u0436\u0434\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u0440\u0430\u0437\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0432 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0434\u0430\u0451\u0442 \u043e\u0434\u043d\u043e \u0447\u0438\u0441\u043b\u043e. \u0422\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0442\u0435\u043c\u0435 \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0432 \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0435:<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/01\/ca\/33\/01ca3332cb8ed8863a6583a8528137c4.png\" alt=\"\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043d\u0435 \u0432\u044b\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438\" title=\"\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043d\u0435 \u0432\u044b\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438\" width=\"1344\" height=\"754\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/01\/ca\/33\/01ca3332cb8ed8863a6583a8528137c4.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/01\/ca\/33\/01ca3332cb8ed8863a6583a8528137c4.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043d\u0435 \u0432\u044b\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u0413\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u0435\u0436\u0434\u0443 \u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c \u0438 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430\u043c\u0438 \u0437\u0430\u0434\u0430\u0451\u0442 \u0431\u043b\u043e\u0447\u043d\u0430\u044f \u043c\u0430\u0441\u043a\u0430 \u0438\u0437 \u0440\u0430\u0437\u0434\u0435\u043b\u0430 \u043f\u0440\u043e \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0443. \u041a \u0432\u043e\u043f\u0440\u043e\u0441\u0443 \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u0440\u043e\u0442\u043a\u0430\u044f \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044f, \u0441\u0432\u043e\u044f \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u0438\u043f\u0430, \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0447\u0438\u043b\u0438 \u0440\u043e\u0432\u043d\u043e \u0441 \u043d\u0435\u0439. \u041a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u044b \u043f\u043e \u0442\u0438\u043f\u0430\u043c \u0442\u0430\u043a\u0438\u0435:<\/p>\n<ul>\n<li>\n<p>choice \u2014 \u00ab\u043a\u043b\u044e\u0447: \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043c\u0435\u0442\u043a\u0438\u00bb;<\/p>\n<\/li>\n<li>\n<p>score \u2014 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0443\u0440\u043e\u0432\u043d\u044f \u0448\u043a\u0430\u043b\u044b;<\/p>\n<\/li>\n<li>\n<p>noul \u2014 \u0434\u0432\u0430 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430, \u00ab\u0434\u0430\u00bb \u0438 \u00ab\u043d\u0435\u0442\u00bb: \u0441\u0432\u043e\u0438 \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0438 \u0438\u0437 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0438\u043b\u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435;<\/p>\n<\/li>\n<li>\n<p>ranking \u2014 \u0441\u0430\u043c \u043f\u0430\u0441\u0441\u0430\u0436.<\/p>\n<\/li>\n<\/ul>\n<p>\u0427\u0438\u0441\u043b\u043e z \u0434\u043b\u044f \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u0434\u0430\u0451\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u0433\u043e\u043b\u043e\u0432\u0430 \u043f\u043e\u0432\u0435\u0440\u0445 \u0432\u044b\u0445\u043e\u0434\u043e\u0432 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 \u0435\u0433\u043e \u0443\u0447\u0430\u0441\u0442\u043a\u0435 \u0441\u0442\u0440\u043e\u043a\u0438: \u0432 \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0435 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u0438 \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u0432\u043e\u0439 \u0443\u0447\u0430\u0441\u0442\u043e\u043a.<\/p>\n<p>\u041d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0447\u043b\u0435\u043d \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u0438 \u043e\u043d \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442 \u0442\u043e, \u043a\u0430\u043a \u043e\u0442\u0432\u0435\u0442 \u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435:<\/p>\n<ul>\n<li>\n<p><strong>choice \u0438 score<\/strong>: softmax \u043f\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u0430, <em><img decoding=\"async\" class=\"formula inline\" source=\"p_i = exp(z_i) \/ \u03a3 exp(z_j)\" alt=\"p_i = exp(z_i) \/ \u03a3 exp(z_j)\" src=\"https:\/\/habrastorage.org\/extt\/c1\/3a\/70\/c13a70d964f83c77f72640bd80ff25ea.svg\" width=\"183\" height=\"20\" data-width=\"22.033\" data-height=\"2.363\" data-vertical-align=\"-0.666\" style=\"width: 22.033ex; height: 2.363ex; vertical-align: -0.666ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/c1\/3a\/70\/c13a70d964f83c77f72640bd80ff25ea.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/c1\/3a\/70\/c13a70d964f83c77f72640bd80ff25ea.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/em>, \u0438 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u043a \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u043c\u0443, <img decoding=\"async\" class=\"formula inline\" source=\"L = \u2212ln (p_{\\text{\u0432\u0435\u0440\u043d\u044b\u0439}})\" alt=\"L = \u2212ln (p_{\\text{\u0432\u0435\u0440\u043d\u044b\u0439}})\" src=\"https:\/\/habrastorage.org\/extt\/41\/85\/91\/41859101bb4d8ca30831fee216820b01.svg\" width=\"143\" height=\"20\" data-width=\"17.195\" data-height=\"2.417\" data-vertical-align=\"-0.72\" style=\"width: 17.195ex; height: 2.417ex; vertical-align: -0.72ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/41\/85\/91\/41859101bb4d8ca30831fee216820b01.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/41\/85\/91\/41859101bb4d8ca30831fee216820b01.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 choice \u2014 \u0441\u0430\u043c\u044b\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442, score \u2014 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\u03a3 i\u00b7p_i\" alt=\"\u03a3 i\u00b7p_i\" src=\"https:\/\/habrastorage.org\/extt\/c0\/5a\/2b\/c05a2ba148ab3f04962bd7140c80a66d.svg\" width=\"51\" height=\"16\" data-width=\"6.116\" data-height=\"1.984\" data-vertical-align=\"-0.439\" style=\"width: 6.116ex; height: 1.984ex; vertical-align: -0.439ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/c0\/5a\/2b\/c05a2ba148ab3f04962bd7140c80a66d.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/c0\/5a\/2b\/c05a2ba148ab3f04962bd7140c80a66d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<li>\n<p><strong>ranking<\/strong>: \u0442\u043e\u0442 \u0436\u0435 softmax, \u043d\u043e \u0435\u0441\u043b\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0445 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e, \u0442\u043e \u0446\u0435\u043b\u044c \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 \u043f\u043e\u0440\u043e\u0432\u043d\u0443: <img decoding=\"async\" class=\"formula inline\" source=\"L = \u2212(1\/|G|) \u03a3 ln (p_g)\" alt=\"L = \u2212(1\/|G|) \u03a3 ln (p_g)\" src=\"https:\/\/habrastorage.org\/extt\/e9\/81\/cb\/e981cb41ec8a7463923c092798c5e398.svg\" width=\"175\" height=\"20\" data-width=\"21.081\" data-height=\"2.364\" data-vertical-align=\"-0.667\" style=\"width: 21.081ex; height: 2.364ex; vertical-align: -0.667ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/e9\/81\/cb\/e981cb41ec8a7463923c092798c5e398.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/e9\/81\/cb\/e981cb41ec8a7463923c092798c5e398.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041f\u043e \u0444\u043e\u0440\u043c\u0435 \u044d\u0442\u043e listwise softmax; \u0441 \u043e\u0434\u043d\u0438\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u043c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u043c \u043e\u043d \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 InfoNCE.<\/p>\n<\/li>\n<li>\n<p><strong>noul<\/strong>: \u0434\u0432\u0430 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0434\u0440\u0443\u0433 \u0441 \u0434\u0440\u0443\u0433\u043e\u043c, <img decoding=\"async\" class=\"formula inline\" source=\"p_{\\text{\u0434\u0430}} = \u03c3(z_{\\text{\u0434\u0430}} \u2212 z_{\\text{\u043d\u0435\u0442}})\" alt=\"p_{\\text{\u0434\u0430}} = \u03c3(z_{\\text{\u0434\u0430}} \u2212 z_{\\text{\u043d\u0435\u0442}})\" src=\"https:\/\/habrastorage.org\/extt\/ab\/3e\/70\/ab3e704a2d916873e072ed25fce06cc1.svg\" width=\"161\" height=\"20\" data-width=\"19.359\" data-height=\"2.417\" data-vertical-align=\"-0.72\" style=\"width: 19.359ex; height: 2.417ex; vertical-align: -0.72ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/ab\/3e\/70\/ab3e704a2d916873e072ed25fce06cc1.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/ab\/3e\/70\/ab3e704a2d916873e072ed25fce06cc1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"L = \u2212ln (p_{\\text{\u0434\u0430}})\" alt=\"L = \u2212ln (p_{\\text{\u0434\u0430}})\" src=\"https:\/\/habrastorage.org\/extt\/24\/b2\/ba\/24b2badac8aee7abcc9bbef04f6b7633.svg\" width=\"111\" height=\"20\" data-width=\"13.355\" data-height=\"2.417\" data-vertical-align=\"-0.72\" style=\"width: 13.355ex; height: 2.417ex; vertical-align: -0.72ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/24\/b2\/ba\/24b2badac8aee7abcc9bbef04f6b7633.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/24\/b2\/ba\/24b2badac8aee7abcc9bbef04f6b7633.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0435\u0441\u043b\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u00ab\u0434\u0430\u00bb, \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"L = \u2212ln(1 \u2212 p_{\\text{\u0434\u0430}})\" alt=\"L = \u2212ln(1 \u2212 p_{\\text{\u0434\u0430}})\" src=\"https:\/\/habrastorage.org\/extt\/04\/fa\/5d\/04fa5da98319eff2fe83bce5431868c9.svg\" width=\"143\" height=\"20\" data-width=\"17.252\" data-height=\"2.417\" data-vertical-align=\"-0.72\" style=\"width: 17.252ex; height: 2.417ex; vertical-align: -0.72ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/04\/fa\/5d\/04fa5da98319eff2fe83bce5431868c9.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/04\/fa\/5d\/04fa5da98319eff2fe83bce5431868c9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0435\u0441\u043b\u0438 \u00ab\u043d\u0435\u0442\u00bb.<\/p>\n<\/li>\n<\/ul>\n<p>\u0424\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u0431\u0430\u0442\u0447\u0430 \u2014 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e \u0432\u0441\u0435\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c \u0432 \u043d\u0451\u043c. \u0423\u0447\u0438\u043c \u0432 \u0442\u043e\u0439 \u0436\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0435, \u0447\u0442\u043e \u0438 \u043d\u0430 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435, \u0442\u0430\u043a \u0447\u0442\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u044b \u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0435 \u0432\u0438\u0434\u044f\u0442 \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/08\/f5\/be\/08f5beb6fb38589b90610b8cfe4f45b1.png\" alt=\"\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0437\u0430\u0434\u0430\u043d\u044b \u043d\u0430\u043c\u0438\" title=\"\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0437\u0430\u0434\u0430\u043d\u044b \u043d\u0430\u043c\u0438\" width=\"1344\" height=\"876\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/08\/f5\/be\/08f5beb6fb38589b90610b8cfe4f45b1.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/08\/f5\/be\/08f5beb6fb38589b90610b8cfe4f45b1.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0427\u0438\u0441\u043b\u0430 z \u0438 p \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435, \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b \u0437\u0430\u0434\u0430\u043d\u044b \u043d\u0430\u043c\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0430\u0432\u0430 \u0432\u043e \u0432\u0441\u0435\u0445 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u0445, \u043d\u043e \u0443\u0432\u0435\u0440\u0435\u043d\u0430 \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443, \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u044d\u0442\u043e \u043e\u0442\u0440\u0430\u0436\u0430\u0435\u0442: \u043e\u0442 0,290 \u0437\u0430 \u0442\u0435\u043c\u0443 \u0434\u043e 0,592 \u0437\u0430 \u0432\u044b\u0431\u043e\u0440 \u0441\u0442\u0430\u0442\u044c\u0438, \u0433\u0434\u0435 \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0439 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442 \u043d\u0430\u0431\u0440\u0430\u043b 0,335. \u0423\u0432\u0435\u0440\u0435\u043d\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u0441\u0442\u043e\u0438\u0442 \u0434\u043e\u0440\u043e\u0436\u0435: \u0435\u0441\u043b\u0438 \u0431\u044b \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u043c \u043e\u0442\u0432\u0435\u0442\u043e\u043c \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0432\u043e\u0437\u0432\u0440\u0430\u0442\u0435 \u0431\u044b\u043b\u043e \u00ab\u043d\u0435\u0442\u00bb, \u0442\u043e\u0442 \u0436\u0435 \u0432\u044b\u0445\u043e\u0434 \u043e\u0431\u043e\u0448\u0451\u043b\u0441\u044f \u0431\u044b \u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\u2212ln(1 \u2212 0,690) = 1,17\" alt=\"\u2212ln(1 \u2212 0,690) = 1,17\" src=\"https:\/\/habrastorage.org\/extt\/9c\/16\/bb\/9c16bb9dcb523c822a528752cb4f5884.svg\" width=\"186\" height=\"19\" data-width=\"22.397\" data-height=\"2.262\" data-vertical-align=\"-0.566\" style=\"width: 22.397ex; height: 2.262ex; vertical-align: -0.566ex\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/extt\/9c\/16\/bb\/9c16bb9dcb523c822a528752cb4f5884.svg 780w,&#10;       https:\/\/habrastorage.org\/extt\/9c\/16\/bb\/9c16bb9dcb523c822a528752cb4f5884.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0431\u043e\u043b\u044c\u0448\u0435 \u0447\u0435\u043c \u0432\u0442\u0440\u043e\u0435.<\/p>\n<h2>\u041a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c?<\/h2>\n<p>\u041f\u0430\u043a\u0435\u0442 \u0441\u0442\u0430\u0432\u0438\u0442\u0441\u044f \u0438\u0437 GitHub, \u0432\u0435\u0441\u0430 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441 Hugging Face \u043f\u0440\u0438 \u043f\u0435\u0440\u0432\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435:<\/p>\n<pre><code class=\"python\"># PyTorch, GPU \u0438\u043b\u0438 CPUpip install \"frida-decisions[torch] @ git+https:\/\/github.com\/ai-forever\/FRIDA-Decisions@v0.4.0\"# int8 ONNX \u0434\u043b\u044f CPU, \u0431\u0435\u0437 torchpip install \"frida-decisions[onnx] @ git+https:\/\/github.com\/ai-forever\/FRIDA-Decisions@v0.4.0\"# MLX \u0434\u043b\u044f Apple Silicon, \u0431\u0435\u0437 torchpip install \"frida-decisions[mlx] @ git+https:\/\/github.com\/ai-forever\/FRIDA-Decisions@v0.4.0\"# vLLM-\u0441\u0435\u0440\u0432\u0435\u0440 (Linux, GPU)pip install \"frida-decisions[vllm] @ git+https:\/\/github.com\/ai-forever\/FRIDA-Decisions@v0.4.0\"from frida_decisions import Judgejudge = Judge.from_pretrained(\"ai-forever\/FRIDA-Decisions\")\u00a0 # GPU, \u0435\u0441\u043b\u0438 \u0435\u0441\u0442\u044c, \u0438\u043d\u0430\u0447\u0435 CPUrequest = {\u00a0 \u00a0 \"state\": \"\u0417\u0434\u0440\u0430\u0432\u0441\u0442\u0432\u0443\u0439\u0442\u0435, \u0443 \u043c\u0435\u043d\u044f \u043d\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a\u043e\u0434 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0447\u0430\u0441.\",\u00a0 \u00a0 \"questions\": {\u00a0 \u00a0 \u00a0 \u00a0 \"topic\": {\"type\": \"choice\", \"instructions\": \"\u041a \u043a\u0430\u043a\u043e\u0439 \u0442\u0435\u043c\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0435?\",\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"criteria\": {\"login\": \"\u0432\u0445\u043e\u0434 \u0432 \u0430\u043a\u043a\u0430\u0443\u043d\u0442, \u043a\u043e\u0434\u044b, \u043f\u0430\u0440\u043e\u043b\u0438\", \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \"payment\": \"\u043e\u043f\u043b\u0430\u0442\u0430, \u0441\u043f\u0438\u0441\u0430\u043d\u0438\u044f, \u0432\u043e\u0437\u0432\u0440\u0430\u0442\u044b\"}},\u00a0 \u00a0 \u00a0 \u00a0 \"spam\": {\"type\": \"noul\", \"instructions\": \"\u042f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438 \u044d\u0442\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u0441\u043f\u0430\u043c\u043e\u043c?\"},\u00a0 \u00a0 },}answers = judge(request)[\"answers\"]print(answers[\"topic\"][\"choice\"], answers[\"spam\"][\"noul\"])<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u0412\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430:<\/p>\n<ul>\n<li>\n<p><strong>PyTorch:<\/strong> \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043f\u0443\u0442\u044c, \u0441 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u043e\u0439 \u0438 \u043a\u0435\u0448\u0435\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>ONNX Runtime:<\/strong> \u0434\u043b\u044f CPU, \u0431\u0435\u0437 torch. \u0423\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u0437\u0434\u0435\u0441\u044c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u0430\u0441\u043a\u0430 \u0438 \u043f\u043e\u0437\u0438\u0446\u0438\u0438 \u043f\u043e\u0434\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0432\u0445\u043e\u0434 \u0433\u0440\u0430\u0444\u0430, \u0430 int8-\u0432\u0435\u0440\u0441\u0438\u044f \u043a\u0432\u0430\u043d\u0442\u0443\u0435\u0442 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0442\u043e\u043a\u0435\u043d\u0443 \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 2,5 \u0440\u0430\u0437\u0430 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 PyTorch \u0432 fp32.<\/p>\n<\/li>\n<li>\n<p><strong>vLLM:<\/strong> \u0441\u0435\u0440\u0432\u0435\u0440 \u0434\u043b\u044f \u043c\u043d\u043e\u0433\u0438\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0441\u0440\u0430\u0437\u0443 (Linux, GPU). \u041e\u043d \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0432 \u0431\u0430\u0442\u0447\u0438 \u0438 \u0434\u0435\u0440\u0436\u0438\u0442 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u0432 \u043a\u0435\u0448\u0435 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432, \u0442\u0430\u043a \u0447\u0442\u043e \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u043a \u0442\u0435\u043a\u0441\u0442\u0443 \u0441\u0442\u043e\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u0432\u043e\u0438\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0415\u0441\u0442\u044c \u0438 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0431\u0435\u0437 \u0441\u0435\u0440\u0432\u0435\u0440\u0430: VllmJudge \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u0434\u0432\u0438\u0436\u043e\u043a vLLM \u0432\u043d\u0443\u0442\u0440\u0438 \u0432\u0430\u0448\u0435\u0439 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b. \u041a\u043e\u043c\u0430\u043d\u0434\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u2014 \u0432 <a href=\"https:\/\/huggingface.co\/ai-forever\/FRIDA-Decisions#vllm-server\">\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 \u043c\u043e\u0434\u0435\u043b\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><strong>MLX \u043d\u0430 Apple Silicon:<\/strong> MlxJudge \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 GPU \u041c\u0430\u043a\u0430 \u0431\u0435\u0437 torch, \u0441 \u0442\u043e\u0439 \u0436\u0435 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u043e\u0439 \u0438 \u043a\u0435\u0448\u0435\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f; \u0432 fp32 \u043e\u043d \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u0435 \u0436\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u0447\u0442\u043e \u0438 PyTorch, \u043d\u0430 \u0432\u0441\u0435\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 razvilka. \u042d\u0442\u043e\u0442 \u0431\u044d\u043a\u0435\u043d\u0434 \u043f\u0440\u0438\u0441\u043b\u0430\u043b \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c \u043d\u0430 \u0441\u043b\u0438\u044f\u043d\u0438\u0435 <a href=\"https:\/\/github.com\/akolotov\">@akolotov<\/a>, \u0441\u043f\u0430\u0441\u0438\u0431\u043e!<\/p>\n<\/li>\n<li>\n<p><strong>Colab:<\/strong> <a href=\"https:\/\/colab.research.google.com\/github\/ai-forever\/FRIDA-Decisions\/blob\/main\/notebooks\/quickstart.ipynb\">\u0442\u0435\u0442\u0440\u0430\u0434\u043a\u0430<\/a> \u0441 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439, \u043f\u0435\u0440\u0432\u044b\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c, \u0432\u0441\u0435\u043c\u0438 \u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u0442\u0438\u043f\u0430\u043c\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432, \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u043e\u043c \u0438\u0437 243 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0432 \u043e\u0434\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u0438 int8 ONNX \u043d\u0430 CPU. \u0425\u0432\u0430\u0442\u0430\u0435\u0442 \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e\u0439 T4: \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u043d\u0430 \u043d\u0435\u0439 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 \u0441\u0435\u043a\u0443\u043d\u0434\u0443.<\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0435\u043c\u043e \u043d\u0430 Hugging Face Spaces:<\/strong> <a href=\"https:\/\/huggingface.co\/spaces\/ai-forever\/FRIDA-Decisions\">\u0433\u043e\u0442\u043e\u0432\u044b\u0435 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438<\/a> \u2014 \u0432\u044b\u0431\u043e\u0440 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, guardrails, \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f, \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0440\u0430\u0437\u0431\u043e\u0440 \u0442\u0438\u043a\u0435\u0442\u0430, \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u2014 \u0438 \u0441\u0432\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441. \u0414\u0435\u043c\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 CPU \u0441 int8-\u0432\u0435\u0440\u0441\u0438\u0435\u0439.<\/p>\n<\/li>\n<\/ul>\n<h2>\u0418\u0442\u043e\u0433<\/h2>\n<p>\u0420\u0435\u0448\u0435\u043d\u0438\u044f \u00ab\u0432\u044b\u0431\u0435\u0440\u0438 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430\u00bb, \u00ab\u043f\u043e\u0441\u0442\u0430\u0432\u044c \u043e\u0446\u0435\u043d\u043a\u0443\u00bb, \u00ab\u0434\u0430 \u0438\u043b\u0438 \u043d\u0435\u0442\u00bb \u0438 \u00ab\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0438\u00bb \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u044e\u0442 \u043d\u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u043d\u0438 \u0432\u043d\u0435\u0448\u043d\u0435\u0433\u043e API: \u0434\u043b\u044f LLM-\u0440\u043e\u0443\u0442\u0438\u043d\u0433\u0430, guardrails, \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0438\u043d\u0433\u0430 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u043e\u0439 decision model. \u041d\u0430\u0448 \u043e\u043f\u044b\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0442\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u043e\u0436\u043d\u043e \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u043d\u0430 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0435 \u0431\u0435\u0437 \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0431\u044e\u0434\u0436\u0435\u0442\u0430: \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u043e\u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0440\u044f\u0434\u043e\u043c \u0441 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u043c \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u043c \u043f\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443, \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0447\u0435\u043c API \u0447\u0435\u0440\u0435\u0437 \u0441\u0435\u0442\u044c, \u0430 \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043a\u0430\u0440\u0442\u044b \u043e\u0431\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0432 20 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435. \u041f\u043e\u043f\u0440\u043e\u0431\u0443\u0439\u0442\u0435 \u0435\u0451 \u043d\u0430 \u0441\u0432\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0432 <a href=\"https:\/\/huggingface.co\/spaces\/ai-forever\/FRIDA-Decisions\">\u0434\u0435\u043c\u043e<\/a> \u0438\u043b\u0438 \u0432 <a href=\"https:\/\/colab.research.google.com\/github\/ai-forever\/FRIDA-Decisions\/blob\/main\/notebooks\/quickstart.ipynb\">Colab<\/a>.<\/p>\n<p>\u0421\u0441\u044b\u043b\u043a\u0438:<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/ai-forever\/FRIDA-Decisions\">\u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 Hugging Face<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/datasets\/artemsnegirev\/razvilka\">\u0411\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/spaces\/ai-forever\/FRIDA-Decisions\">\u0414\u0435\u043c\u043e \u043d\u0430 Spaces<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/ai-forever\/FRIDA-Decisions\">\u041a\u043e\u0434 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043d\u0430 GitHub<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/colab.research.google.com\/github\/ai-forever\/FRIDA-Decisions\/blob\/main\/notebooks\/quickstart.ipynb\">\u0422\u0435\u0442\u0440\u0430\u0434\u043a\u0430 Colab: \u043f\u0435\u0440\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/colab.research.google.com\/github\/ai-forever\/FRIDA-Decisions\/blob\/main\/benchmarks\/razvilka\/run_razvilka.ipynb\">\u0422\u0435\u0442\u0440\u0430\u0434\u043a\u0430 Colab: \u043f\u0440\u043e\u0433\u043e\u043d razvilka<\/a><\/p>\n<\/li>\n<\/ul>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1092056\/\">https:\/\/habr.com\/ru\/articles\/1092056\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>FRIDA Decisions \u2014 \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u043c\u044b\u0448\u043b\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430. \u041e\u043d\u0430 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430, \u0441\u0442\u0430\u0432\u0438\u0442 \u043e\u0446\u0435\u043d\u043a\u0443 \u043f\u043e \u0448\u043a\u0430\u043b\u0435, \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u00ab\u0434\u0430\u00bb \u0438\u043b\u0438 \u00ab\u043d\u0435\u0442\u00bb \u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u0437\u0430 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0445\u043e\u0434 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430, \u0431\u0435\u0437 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0437\u0430 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043c\u0438\u043b\u043b\u0438\u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0430 RTX 5060 Ti. \u0415\u0451 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432\u0435\u0437\u0434\u0435, \u0433\u0434\u0435 \u0441\u0435\u0439\u0447\u0430\u0441 LLM \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u043e\u043c \u0438\u043b\u0438 \u0441\u0443\u0434\u044c\u0451\u0439: \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u0439, \u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u044f, \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0434\u043b\u044f RAG. \u041d\u0430 \u043d\u0430\u0448\u0435\u043c \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0435 razvilka \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,893 \u2014 \u043d\u0430\u0440\u0430\u0432\u043d\u0435 \u0441 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u043c API TypeSafe Jev (0,897) \u0438 \u0441 LLM Qwen3.5-35B-A3B, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432 40 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435.\u041a\u043e\u0440\u043e\u0442\u043a\u043e, \u0447\u0442\u043e \u0432\u043d\u0443\u0442\u0440\u0438:\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c. 28-34 \u043c\u0441 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 RTX 5060 Ti. \u041a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u0439 API \u043f\u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c \u0437\u0430\u043c\u0435\u0440\u0430\u043c \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 430 \u043c\u0441 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0441\u0435\u0442\u044c\u044e.\u0426\u0435\u043d\u0430. \u041f\u043e\u0447\u0442\u0438 \u0432 20 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u043e\u0433\u043e API \u0432 \u043f\u0435\u0440\u0435\u0441\u0447\u0451\u0442\u0435 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0430 \u0430\u0440\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.\u0421\u043e\u0442\u043d\u0438 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u0432 \u043e\u0434\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435. \u0412\u0441\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u043e\u0442\u0432\u0435\u0442\u0430 \u0438\u0434\u0443\u0442 \u0432 \u043e\u0434\u043d\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c, \u0442\u0435\u043a\u0441\u0442 \u043a\u043e\u0434\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0440\u0430\u0437. \u041f\u0440\u0438 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435 \u0441 \u0442\u0440\u0435\u043c\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u044d\u0442\u043e \u0432 6 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0435\u043c \u043f\u0440\u0438 \u043d\u0430\u0438\u0432\u043d\u043e\u0439 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u043a\u0435, \u0430 \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u0438\u0437 243 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0437\u0430 0,44 \u0441 \u0432\u043c\u0435\u0441\u0442\u043e 4,65 \u0441.\u041e\u0442\u043a\u0440\u044b\u0442\u043e\u0441\u0442\u044c. \u0412\u0435\u0441\u0430 \u0438 \u043a\u043e\u0434 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043f\u043e\u0434 MIT, \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka (\u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0432\u043e\u044f \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u044f), ONNX-\u0432\u0435\u0440\u0441\u0438\u044f \u0434\u043b\u044f CPU, \u0437\u0430\u043f\u0443\u0441\u043a \u043d\u0430 \u041c\u0430\u043a\u0435 \u0447\u0435\u0440\u0435\u0437 MLX, vLLM-\u0441\u0435\u0440\u0432\u0435\u0440.\u041e\u0431\u044a\u044f\u0441\u043d\u0438\u043c, \u043a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c, \u0438 \u043f\u043e\u043a\u0430\u0436\u0435\u043c, \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0435\u0451 \u0443 \u0441\u0435\u0431\u044f.\u0417\u0430\u0447\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442?\u0412 \u043b\u044e\u0431\u043e\u043c LLM-\u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0435 \u0435\u0441\u0442\u044c \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u043c\u0435\u043b\u043a\u0438\u0445 \u0440\u0435\u0448\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u044e\u0442 \u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435:LLM-\u0440\u043e\u0443\u0442\u0438\u043d\u0433: \u043a\u0430\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0438\u043d\u0434\u0435\u043a\u0441\u0443 \u0438\u043b\u0438 \u0430\u0433\u0435\u043d\u0442\u0443 \u043e\u0442\u0434\u0430\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441.Guardrails: \u0442\u043e\u043a\u0441\u0438\u0447\u043d\u043e, \u043f\u043e\u0445\u043e\u0436\u0435 \u043b\u0438 \u043d\u0430 \u043c\u043e\u0448\u0435\u043d\u043d\u0438\u0447\u0435\u0441\u0442\u0432\u043e, \u043d\u0430\u0440\u0443\u0448\u0430\u0435\u0442 \u043b\u0438 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0443.\u0412\u044b\u0431\u043e\u0440 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430 (tool calling): \u043a\u0430\u043a\u0443\u044e \u0438\u0437 \u0441\u043e\u0442\u043d\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0432\u044b\u0437\u0432\u0430\u0442\u044c.\u0420\u0430\u0437\u0431\u043e\u0440 \u0442\u0438\u043a\u0435\u0442\u0430: \u0442\u0435\u043c\u0430, \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u044c, \u0442\u043e\u043d \u2014 \u0432\u0441\u0451 \u0441\u0440\u0430\u0437\u0443.RAG: \u0435\u0441\u0442\u044c \u043b\u0438 \u043e\u0442\u0432\u0435\u0442 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435, \u043a\u0430\u043a\u0438\u0435 \u043f\u0430\u0441\u0441\u0430\u0436\u0438 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b (\u0440\u0435\u0440\u0430\u043d\u043a\u0438\u043d\u0433).\u041e\u0431\u044b\u0447\u043d\u043e \u0442\u0430\u043a\u0438\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043e\u0442\u0434\u0430\u044e\u0442 LLM: \u043f\u0440\u043e\u043c\u043f\u0442, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0440\u0430\u0437\u0431\u043e\u0440 JSON. \u042d\u0442\u043e \u0434\u043e\u0440\u043e\u0433\u043e \u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e, \u0438 \u043f\u043e\u0434 \u0442\u0430\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f (decision models): \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 \u0442\u0435\u043a\u0441\u0442 \u0438 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043f\u0438\u0441\u043e\u043a \u0438\u0437 N \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u2014 \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0432\u0441\u0435\u0445 N. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u0438\u0439 API TypeSafe Jev: \u043f\u043e \u043e\u0446\u0435\u043d\u043a\u0430\u043c \u0441\u0430\u043c\u043e\u0439 TypeSafe, \u0432 \u0442\u0430\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u043e\u043d \u0432 40-200 \u0440\u0430\u0437 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 400 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u0444\u0440\u043e\u043d\u0442\u0438\u0440\u043d\u044b\u0445 LLM. TypeSafe \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u00ab\u0421\u0438\u0441\u0442\u0435\u043c\u043e\u0439 1\u00bb \u043f\u043e \u041a\u0430\u043d\u0435\u043c\u0430\u043d\u0443: \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0431\u0435\u0437 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439, \u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0439 \u00ab\u0421\u0438\u0441\u0442\u0435\u043c\u044b 2\u00bb \u0443 LLM, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0430\u0435\u0442 \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442.\u041d\u043e \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0438\u0441 \u2014 \u044d\u0442\u043e \u0432\u043d\u0435\u0448\u043d\u0438\u0439 API: \u0441\u0435\u0442\u0435\u0432\u0430\u044f \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0430, \u043e\u043f\u043b\u0430\u0442\u0430 \u0437\u0430 \u0442\u043e\u043a\u0435\u043d\u044b, \u043b\u0438\u043c\u0438\u0442\u044b \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u0430\u043d\u043d\u044b\u0435, \u0443\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u043d\u0430\u0440\u0443\u0436\u0443. \u041c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0442\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u0432\u044b\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 \u0434\u043e\u0441\u0442\u0443\u043f, \u0435\u0451 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0443 \u0441\u0435\u0431\u044f. \u041c\u043e\u0434\u0435\u043b\u0438 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 2 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0430 \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u043e\u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u043d\u0430 CPU: int8-\u0432\u0435\u0440\u0441\u0438\u044f \u0432 ONNX \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 0,9 \u0441 \u043d\u0430 \u0448\u0435\u0441\u0442\u0438 \u043f\u043e\u0442\u043e\u043a\u0430\u0445.\u041a\u0430\u043a \u044d\u0442\u043e \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u043e?\u041d\u0430 \u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 (state) \u0438 \u043e\u0434\u0438\u043d \u0438\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u043a \u043d\u0435\u043c\u0443. \u041a\u0430\u0436\u0434\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0442\u0438\u043f\u043e\u0432:\u0422\u0438\u043f\u0427\u0442\u043e \u0441\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0435\u0442\u0427\u0442\u043e \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442choice\u041a\u0430\u043a\u043e\u0439 \u0438\u0437 K \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u0432\u0435\u0440\u0435\u043d?\u041a\u043b\u044e\u0447 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u043e \u0432\u0441\u0435\u043c.score\u0413\u0434\u0435 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u043e\u0432\u043e\u0439 \u0448\u043a\u0430\u043b\u0435?\u0427\u0438\u0441\u043b\u043e \u043e\u0442 0 \u0434\u043e K\u22121.noul\u0412\u0435\u0440\u043d\u043e \u043b\u0438 \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435?\u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u00ab\u0434\u0430\u00bb (\u043f\u043e\u043b\u0435 noul).ranking\u041a\u0430\u043a \u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0438\u0442\u044c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443?\u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0438 \u043c\u0430\u0440\u0436\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e.\u041d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u0438\u043f\u043e\u0432, \u0432\u043a\u043b\u044e\u0447\u0430\u044f noul \u0434\u043b\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u00ab\u0434\u0430\u00bb \u0438 \u00ab\u043d\u0435\u0442\u00bb, \u0432\u0437\u044f\u0442\u044b \u0438\u0437 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0430 Jev, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0432 \u0435\u0433\u043e \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0442 \u0438 \u043d\u0430\u043c.\u0421\u043f\u0438\u0441\u043e\u043a \u043c\u0435\u0442\u043e\u043a \u0438 \u0438\u0445 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u043f\u0435\u0440\u0435\u0434\u0430\u044e\u0442\u0441\u044f \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u043f\u0440\u044f\u043c\u043e \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435. \u041d\u043e\u0432\u0430\u044f \u0442\u0430\u043a\u0441\u043e\u043d\u043e\u043c\u0438\u044f \u2014 \u044d\u0442\u043e \u043d\u043e\u0432\u044b\u0439 JSON, \u0430 \u043d\u0435 \u043d\u043e\u0432\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435:{&#171;state&#187;: &#171;\u0417\u0434\u0440\u0430\u0432\u0441\u0442\u0432\u0443\u0439\u0442\u0435, \u0443 \u043c\u0435\u043d\u044f \u043d\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a\u043e\u0434 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0447\u0430\u0441.&#187;, &#171;questions&#187;: { \u00a0 &#171;urgency5&#187;: {&#171;type&#187;: &#171;score&#187;,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;instructions&#187;: &#171;\u041e\u0446\u0435\u043d\u0438 \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f.&#187;,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;criteria&#187;: [&#171;\u041e\u0447\u0435\u043d\u044c \u043d\u0438\u0437\u043a\u0430\u044f: \u0432\u043e\u043f\u0440\u043e\u0441 \u043c\u043e\u0436\u043d\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u0432 \u043b\u044e\u0431\u043e\u0435 \u0432\u0440\u0435\u043c\u044f&#187;, \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;\u041d\u0438\u0437\u043a\u0430\u044f: \u043d\u0435\u0443\u0434\u043e\u0431\u0441\u0442\u0432\u043e, \u043d\u043e \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442&#187;, \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;\u0421\u0440\u0435\u0434\u043d\u044f\u044f: \u0447\u0442\u043e-\u0442\u043e \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u0435\u0441\u0442\u044c \u043e\u0431\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u0443\u0442\u044c&#187;, \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;\u0412\u044b\u0441\u043e\u043a\u0430\u044f: \u043a\u043b\u0438\u0435\u043d\u0442 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u043c&#187;, \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;\u041a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f: \u0443\u0433\u0440\u043e\u0437\u0430 \u0434\u0435\u043d\u044c\u0433\u0430\u043c \u0438\u043b\u0438 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u0430\u043a\u043a\u0430\u0443\u043d\u0442\u0430&#187;]}, \u00a0 &#171;spam&#187;: {&#171;type&#187;: &#171;noul&#187;,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;instructions&#187;: &#171;\u042f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438 \u044d\u0442\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u0441\u043f\u0430\u043c\u043e\u043c?&#187;,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;criteria&#187;: {&#171;true&#187;: &#171;\u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043f\u0430\u043c\u043e\u043c: \u0440\u0435\u043a\u043b\u0430\u043c\u0430, \u0447\u0443\u0436\u0438\u0435 \u0441\u0441\u044b\u043b\u043a\u0438, \u043f\u0440\u043e\u0441\u044c\u0431\u0430 \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0434\u0435\u043d\u044c\u0433\u0438 \u0438\u043b\u0438 \u0441\u043e\u043e\u0431\u0449\u0438\u0442\u044c \u043a\u043e\u0434&#187;, \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;false&#187;: &#171;\u0432\u043e\u043f\u0440\u043e\u0441 \u0438\u043b\u0438 \u0436\u0430\u043b\u043e\u0431\u0430 \u043f\u043e \u043d\u0430\u0448\u0435\u043c\u0443 \u0441\u0435\u0440\u0432\u0438\u0441\u0443&#187;}}}}\u041e\u0442\u0432\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 (\u043f\u043e\u043b\u0435 answers; \u0447\u0430\u0441\u0442\u044c \u043f\u043e\u043b\u0435\u0439 \u043e\u043f\u0443\u0449\u0435\u043d\u0430, \u0447\u0438\u0441\u043b\u0430 \u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u044b \u0434\u043e \u0442\u0440\u0451\u0445 \u0437\u043d\u0430\u043a\u043e\u0432):{&#171;urgency5&#187;: {&#171;type&#187;: &#171;score&#187;, &#171;score&#187;: 2.73,\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 &#171;probabilities&#187;: {&#171;0&#187;: 0.007, &#171;1&#187;: 0.007, &#171;2&#187;: 0.271, &#171;3&#187;: 0.685, &#171;4&#187;: 0.03}}, &#171;spam&#187;: {&#171;type&#187;: &#171;noul&#187;, &#171;noul&#187;: 0.06}}\u0421\u0430\u043c\u044b\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u0441\u0440\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u2014 \u00ab\u0412\u044b\u0441\u043e\u043a\u0430\u044f\u00bb (0,69), score \u2014 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0448\u043a\u0430\u043b\u0435. \u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0441\u043f\u0430\u043c\u0430 0,06.\u0412 \u043e\u0441\u043d\u043e\u0432\u0435 \u043d\u0430\u0448\u0435\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f FRIDA, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433-\u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0443\u0436\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438 \u043d\u0430 \u0425\u0430\u0431\u0440\u0435. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e \u044d\u0442\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043e\u0442 FRED-T5 (24 \u0441\u043b\u043e\u044f, 823 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432). \u0414\u043b\u044f FRIDA Decisions \u043c\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u0435\u0451 \u0438\u0437 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u0432 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u043a\u043e\u0434\u0435\u0440: \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430 \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u0442\u0435\u043a\u0441\u0442\u0430 \u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0438 \u0432\u044b\u0434\u0430\u0451\u0442 \u043d\u0430 \u043d\u0435\u0433\u043e \u043e\u0434\u043d\u043e \u0447\u0438\u0441\u043b\u043e. \u042d\u0442\u043e \u043a\u0430\u043a \u0443 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440\u043e\u0432, \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0435\u0442\u043a\u0438 \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u0437\u0430\u043f\u0440\u043e\u0441\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0431\u043e\u0440 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0431\u0435\u0437 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0414\u0435\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0435\u0442, \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043d\u043e\u043b\u044c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0442\u0432\u0435\u0442 \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0434\u0438\u043d \u0438\u0437 \u043e\u0431\u044a\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432\u0438\u0434\u043d\u0430 \u0441\u0440\u0430\u0437\u0443.\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e: \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka\u0414\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u043c\u044b \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u0441\u0432\u043e\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a razvilka \u0438 \u043f\u0443\u0431\u043b\u0438\u043a\u0443\u0435\u043c \u0435\u0433\u043e \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e: 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0432 15 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u0432\u0441\u0435 \u0447\u0435\u0442\u044b\u0440\u0435 \u0442\u0438\u043f\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432, \u0442\u0435\u043a\u0441\u0442\u044b \u0438 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0438\u0437 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0440\u0443\u0441\u0441\u043a\u0438\u0445 \u043a\u043e\u0440\u043f\u0443\u0441\u043e\u0432. \u042d\u0442\u0443 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u0434\u0432\u0435 \u0444\u0440\u043e\u043d\u0442\u0438\u0440\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0441\u043f\u043e\u0440\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0443\u0434\u0430\u043b\u0435\u043d\u044b \u0446\u0435\u043b\u0438\u043a\u043e\u043c. \u041b\u0435\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u043f\u043e \u043e\u0431\u0449\u0438\u043c \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0441\u043b\u043e\u0432\u0430\u043c, \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0430 \u043d\u0451\u043c 0,333, \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u2014 0,257. \u0421\u043a\u0440\u0438\u043f\u0442 \u043f\u043e\u0434\u0441\u0447\u0451\u0442\u0430 \u0438 \u0442\u0435\u0442\u0440\u0430\u0434\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u0442 \u043d\u0430 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0435 \u043b\u044e\u0431\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043b\u0435\u0436\u0430\u0442 \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438.\u041d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043a\u043e\u043c\u043c\u0435\u0440\u0447\u0435\u0441\u043a\u043e\u0433\u043e API. \u0414\u043b\u044f \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u0430 \u043c\u044b \u043f\u0440\u043e\u0433\u043d\u0430\u043b\u0438 \u0442\u043e\u0442 \u0436\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a \u0447\u0435\u0440\u0435\u0437 TypeSafe Jev: 659 \u0432\u0435\u0440\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u0438\u0437 735 \u043f\u0440\u043e\u0442\u0438\u0432 \u043d\u0430\u0448\u0438\u0445 656, \u0442\u043e \u0435\u0441\u0442\u044c 0,897 \u0438 0,893 (\u0443 \u043d\u0430\u0441 state \u0434\u043e 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432). \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0442\u0440\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u0430 (\u043f\u0430\u0440\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u041c\u0430\u043a\u043d\u0435\u043c\u0430\u0440\u0430, p = 0,84), \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u0445 \u00ab\u0434\u0430\/\u043d\u0435\u0442\u00bb \u0441\u0447\u0451\u0442 \u0440\u043e\u0432\u043d\u044b\u0439, 122 \u043f\u0440\u043e\u0442\u0438\u0432 122.\u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u043e\u0433\u043e \u0436\u0435 \u043a\u043b\u0430\u0441\u0441\u0430. \u0411\u043b\u0438\u0436\u0435 \u0432\u0441\u0435\u0445 decider-2b, \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f \u0440\u0435\u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u044f Jev \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c 1,9B, \u0432\u0434\u0432\u043e\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0430\u0448\u0435\u0439: 0,833, \u043c\u044b \u0432\u043f\u0435\u0440\u0435\u0434\u0438 \u043d\u0430 44 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 (p &lt; 0,001). \u042d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440\u044b \u0434\u043e 1 \u043c\u043b\u0440\u0434 \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u043e\u0442\u0441\u0442\u0430\u044e\u0442 \u043d\u0430 32-40 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u044b\u0445 \u043f\u0443\u043d\u043a\u0442\u043e\u0432. \u041f\u0440\u043e\u0442\u0438\u0432 GLiNER \u0438 laya \u043c\u044b \u0447\u0430\u0449\u0435 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u043c, \u0447\u0435\u043c \u043f\u0440\u043e\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u043c, \u0432 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 15 \u0437\u0430\u0434\u0430\u0447 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430, \u043f\u0440\u043e\u0442\u0438\u0432 KaLM-Reranker \u2014 \u0432\u043e \u0432\u0441\u0435\u0445, \u043a\u0440\u043e\u043c\u0435 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u0433\u0434\u0435 \u0438\u0434\u0451\u043c \u0432\u0440\u043e\u0432\u0435\u043d\u044c.\u041c\u0430\u043b\u044b\u0435 LLM \u043a\u0430\u043a \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b. \u041c\u044b \u0441\u043f\u0440\u043e\u0441\u0438\u043b\u0438 \u0434\u0432\u0435 MoE-\u043c\u043e\u0434\u0435\u043b\u0438 \u0441 3-4 \u043c\u043b\u0440\u0434 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0431\u0435\u0437 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0439 (\u0443 GPT-OSS \u043e\u043d\u0438 \u043d\u0435 \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435): \u0442\u0435 \u0436\u0435 \u0442\u0435\u043a\u0441\u0442, \u0432\u043e\u043f\u0440\u043e\u0441 \u0438 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0432 \u043f\u0440\u043e\u043c\u043f\u0442\u0435, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043a\u043b\u044e\u0447 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432 JSON. Qwen3.5-35B-A3B \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,897, \u0438 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0441 \u043d\u0430\u043c\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u0430 (p = 0,84): \u043e\u043d\u0438 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438, \u043c\u044b \u2014 \u0432 \u0432\u044b\u0431\u043e\u0440\u0435 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430. \u041d\u043e \u044d\u0442\u043e 35 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043e\u043a\u043e\u043b\u043e 70 \u0413\u0411 \u0432\u0435\u0441\u043e\u0432 \u0432 bf16, \u0447\u0435\u0440\u0435\u0437 API \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u043e\u043a\u043e\u043b\u043e $0,06 \u0437\u0430 1000 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 TypeSafe, \u0430 \u0432\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043f\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430\u043c Qwen \u043e\u0442\u0434\u0430\u0451\u0442 \u043e\u0434\u0438\u043d \u043e\u0442\u0432\u0435\u0442 \u0441\u0442\u0440\u043e\u043a\u043e\u0439. GPT-OSS-20b \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 0,856, \u043c\u044b \u0432\u043f\u0435\u0440\u0435\u0434\u0438 \u043d\u0430 27 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 (p = 0,02).Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u0430\u0436\u0434\u0430\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0445\u043e\u0434\u0430, \u043f\u043e\u0434\u0441\u0447\u0451\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439\u041f\u043e \u0442\u0438\u043f\u0430\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0441\u0435\u0433\u043e choice: \u0432\u044b\u0431\u043e\u0440 \u0438\u0437 \u0441\u043f\u0438\u0441\u043a\u0430 \u043c\u0435\u0442\u043e\u043a, \u0442\u043e \u0435\u0441\u0442\u044c \u0440\u043e\u0443\u0442\u0438\u043d\u0433, \u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 \u0438 \u0438\u043d\u0442\u0435\u043d\u0442\u044b: 457 \u0432\u0435\u0440\u043d\u044b\u0445 \u0438\u0437 500 (0,914).Razvilka, 735 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, 15 \u0437\u0430\u0434\u0430\u0447 \u0441\u0432\u0435\u0434\u0435\u043d\u044b \u0432 \u043f\u044f\u0442\u044c \u0433\u0440\u0443\u043f\u043f, \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443\u0421\u043f\u0440\u0430\u0432\u0430 \u2014 \u0434\u043e\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0433\u0440\u0443\u043f\u043f\u044b, \u0433\u0434\u0435 \u043c\u044b \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0438 \u0432\u0435\u0440\u043d\u043e, \u0430 \u0434\u0440\u0443\u0433\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0448\u0438\u0431\u043b\u0430\u0441\u044c, \u0441\u043b\u0435\u0432\u0430 \u2014 \u043d\u0430\u043e\u0431\u043e\u0440\u043e\u0442. \u0412 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0434\u043b\u044f RAG \u043c\u044b \u043f\u0440\u0430\u0432\u044b, \u0430 GLiNER \u0438 laya \u043e\u0448\u0438\u0431\u0430\u044e\u0442\u0441\u044f \u0432 58-68% \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432. \u0423 KaLM-Reranker \u0441\u0430\u043c \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u0437\u0434\u0435\u0441\u044c \u0438\u0434\u0451\u0442 \u0441 \u043d\u0430\u043c\u0438 \u0432\u0440\u043e\u0432\u0435\u043d\u044c, \u0437\u0430\u0442\u043e \u0432 \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438 \u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438 \u043e\u0442\u0441\u0442\u0430\u0451\u0442 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0441\u0435\u0445.\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438 \u0446\u0435\u043d\u0430\u0422\u0438\u043f\u0438\u0447\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 (\u0442\u0435\u043a\u0441\u0442 \u043e\u043a\u043e\u043b\u043e 400 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u0440\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430) \u043d\u0430 RTX 5060 Ti \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 34 \u043c\u0441, \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c \u2014 28 \u043c\u0441. \u042d\u0442\u043e \u043c\u0435\u0434\u0438\u0430\u043d\u0430 30 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430 \u0432 \u0441\u0432\u043e\u0451\u043c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435, \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0438 \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u043e\u0439, \u043d\u043e \u0431\u0435\u0437 \u0441\u0435\u0442\u0438. \u041f\u0438\u043a\u043e\u0432\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c, \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f PyTorch \u0437\u0430 \u0432\u0435\u0441\u044c \u043f\u0440\u043e\u0433\u043e\u043d \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430, \u2014 1,8 \u0413\u0411 \u043f\u043b\u044e\u0441 CUDA-\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0442\u0430\u043a \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043b\u044e\u0431\u0443\u044e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u0438\u0433\u0440\u043e\u0432\u0443\u044e \u043a\u0430\u0440\u0442\u0443. \u0423 TypeSafe Jev \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b PriorBench \u0438 jev-benchmark \u0434\u0430\u044e\u0442 \u043e\u043a\u043e\u043b\u043e 430 \u043c\u0441 \u0447\u0435\u0440\u0435\u0437 OpenRouter \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u0441\u0435\u0442\u044c\u044e (\u0443 jev-benchmark p50 422 \u043c\u0441, p95 542 \u043c\u0441). \u0415\u0441\u043b\u0438 \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u0443 \u0441\u0435\u0431\u044f vLLM-\u0441\u0435\u0440\u0432\u0435\u0440 \u0438 \u0445\u043e\u0434\u0438\u0442\u044c \u0432 \u043d\u0435\u0433\u043e \u043f\u043e HTTP, \u0442\u043e \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043c\u0430\u0448\u0438\u043d\u0435 \u043e\u0442\u0432\u0435\u0442 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 40-44 \u043c\u0441.\u041a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c\u0416\u0435\u043b\u0435\u0437\u043e\u0417\u0430\u043f\u0440\u043e\u0441: \u0442\u0435\u043a\u0441\u0442 ~400 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u0440\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u0430razvilkaPyTorch, bf16RTX 5060 Ti34 \u043c\u04410,893vLLM-\u0441\u0435\u0440\u0432\u0435\u0440, bf16, \u043f\u043e HTTPRTX 5060 Ti44 \u043c\u0441; \u043e\u043a\u043e\u043b\u043e 60 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441 \u043f\u0440\u0438 8 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u04450,890MLX, bf16Apple M4 Pro139 \u043c\u04410,891ONNX int8CPU Ryzen 5 7500F, 6 \u043f\u043e\u0442\u043e\u043a\u043e\u04320,88 \u04410,891PyTorch, fp32CPU Ryzen 5 7500F, 6 \u043f\u043e\u0442\u043e\u043a\u043e\u04322,3 \u0441\u2014\u041f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c vLLM \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0430 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 razvilka (\u043e\u043a\u043e\u043b\u043e 260 \u0442\u043e\u043a\u0435\u043d\u043e\u0432). CPU \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0438 \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0435 \u0432 384 \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u0441 \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439. \u0411\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e\u0439 T4 \u0432 Colab \u0442\u043e\u0436\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442: \u043a\u0430\u0442\u0430\u043b\u043e\u0433 \u0438\u0437 243 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043d\u0435\u0439 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0437\u0430 \u0441\u0435\u043a\u0443\u043d\u0434\u0443.\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e \u0434\u043b\u0438\u043d\u0435 \u0432\u0445\u043e\u0434\u0430. \u041c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0434\u043e 512 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043f\u0430\u043a\u0435\u0442 \u043e\u0431\u0440\u0435\u0437\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u0434\u043e 384. \u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043f\u043e\u0437\u0438\u0446\u0438\u044f\u043c T5 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u0430\u0442\u044c \u0438 \u0431\u043e\u043b\u044c\u0448\u0435, \u043d\u043e \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0436\u0435\u0442 \u043f\u0430\u0434\u0430\u0442\u044c. \u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u043d\u0430\u0434\u0451\u0436\u043d\u0435\u0435 \u0440\u0435\u0437\u0430\u0442\u044c \u043d\u0430 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u044b \u0438 \u0441\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0442\u044c \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443. \u0412 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0440\u0435\u043b\u0438\u0437\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e, \u043e\u0431\u0435\u0449\u0430\u0435\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c!\u0426\u0435\u043d\u0430 \u0437\u0430 1000 \u0442\u0430\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432:TypeSafe Jev \u0431\u0435\u0440\u0451\u0442 $0,042 \u0437\u0430 \u043c\u0438\u043b\u043b\u0438\u043e\u043d \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0417\u0430\u043f\u0440\u043e\u0441 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0432 384 \u0442\u043e\u043a\u0435\u043d\u0430 \u0438 \u0442\u0440\u0435\u043c\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043e\u043d \u0432\u044b\u0441\u0442\u0430\u0432\u0438\u043b \u0432 \u0441\u0447\u0451\u0442 \u043a\u0430\u043a 1277 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0442\u043e \u0435\u0441\u0442\u044c \u043e\u043a\u043e\u043b\u043e $0,054.\u0422\u0430 \u0436\u0435 \u043a\u0430\u0440\u0442\u0430 \u0432 \u0430\u0440\u0435\u043d\u0434\u0443 \u0443 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0438\u0445 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u043e\u0432 \u0441\u0442\u043e\u0438\u0442 \u043e\u0442 26 \u20bd \u0432 \u0447\u0430\u0441 (\u043f\u0440\u0438\u043c\u0435\u0440 \u0442\u0430\u0440\u0438\u0444\u0430, \u043d\u0430 1 \u043e\u043a\u0442\u044f\u0431\u0440\u044f 2026), \u0442\u043e \u0435\u0441\u0442\u044c \u043e\u043a\u043e\u043b\u043e 0,25 \u20bd, \u0438\u043b\u0438 $0,003 \u043f\u043e \u043a\u0443\u0440\u0441\u0443 85 \u20bd \u0437\u0430 \u0434\u043e\u043b\u043b\u0430\u0440.\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0432 20 \u0440\u0430\u0437 \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u043d\u0430 \u0430\u0440\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0432 \u0420\u0424 \u043a\u0430\u0440\u0442\u0435, \u0431\u0435\u0437 \u043b\u0438\u043c\u0438\u0442\u043e\u0432 \u043d\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u044b, \u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0443\u0445\u043e\u0434\u044f\u0442 \u0441 \u043c\u0430\u0448\u0438\u043d\u044b. \u042d\u0442\u043e \u0446\u0435\u043d\u0430 \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435: \u0430\u0440\u0435\u043d\u0434\u0430 \u0441\u0442\u043e\u0438\u0442 \u043e\u043a\u043e\u043b\u043e 620 \u20bd (~$7) \u0432 \u0441\u0443\u0442\u043a\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0432\u043e\u044f \u043a\u0430\u0440\u0442\u0430 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 API \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441\u043e 135 \u0442\u044b\u0441\u044f\u0447 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0441\u0443\u0442\u043a\u0438. vLLM-\u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0430\u0440\u0442\u0435 \u043e\u043a\u043e\u043b\u043e 60 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u0442\u0430\u043a \u0447\u0442\u043e \u0441 \u043d\u0438\u043c&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-497916","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/497916","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=497916"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/497916\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=497916"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=497916"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=497916"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}