{"id":502424,"date":"2026-11-10T10:56:07","date_gmt":"2026-11-10T07:56:07","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=502424"},"modified":"2026-11-10T10:56:07","modified_gmt":"2026-11-10T07:56:07","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=502424","title":{"rendered":"\u041f\u0430\u043a\u0435\u0442\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a LLM: \u043e\u0447\u0435\u0440\u0435\u0434\u044c, \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043e\u0448\u0438\u0431\u043e\u043a"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0432\u0430\u0448\u0435\u043c\u0443 LLM-\u0441\u0435\u0440\u0432\u0438\u0441\u0443 \u043d\u0443\u0436\u043d\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c, 50 000 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u043e\u0432 \u0438\u043b\u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u0432. \u041c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u0442\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u2014 \u043f\u043e\u0441\u044b\u043b\u0430\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a LLM. \u041d\u043e \u0442\u0430\u043a\u043e\u0439 \u043f\u0443\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0438 \u0432 \u0434\u0435\u043d\u044c\u0433\u0438, \u0438 \u0432 \u043b\u0438\u043c\u0438\u0442\u044b. \u0418 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0441 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438 \u0440\u0430\u0441\u0442\u0443\u0442 \u0432 \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u0440\u043e\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u043e\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.<\/p>\n<p>\u0412\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u043c \u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 Batch API \u2014 \u043e\u043d\u0430 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043d\u0435 \u0432\u0447\u0435\u0440\u0430, \u043d\u043e \u0441\u0442\u0430\u043b\u0430 \u043e\u0442\u0440\u0430\u0441\u043b\u0435\u0432\u044b\u043c \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043e\u043c \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0431\u0430\u0442\u0447\u0435\u0439, \u0433\u0440\u0443\u043f\u043f \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. OpenAI, Anthropic \u0438 Google \u0434\u0430\u044e\u0442 \u0430\u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u0443\u044e \u043f\u0430\u043a\u0435\u0442\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0441\u043e \u0441\u043a\u0438\u0434\u043a\u043e\u0439 \u0438 \u043e\u043a\u043d\u043e\u043c \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0434\u043e 24 \u0447\u0430\u0441\u043e\u0432. \u0422\u043e \u0431\u0438\u0448\u044c \u0432\u044b \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0435 \u0432\u0441\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0432 \u043e\u0434\u0438\u043d \u0444\u0430\u0439\u043b, \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0435 \u0435\u0433\u043e \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0443 \u0438 \u0436\u0434\u0451\u0442\u0435.<\/p>\n<p>\u041d\u043e \u044d\u0442\u043e \u043d\u0435 \u0430\u0431\u0443\u0437 \u043d\u0430 \u0434\u0435\u0448\u0451\u0432\u044b\u0439 API. \u041f\u043b\u0430\u0442\u0438\u0442\u0435, \u0434\u0430, \u043c\u0435\u043d\u044c\u0448\u0435, \u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0432\u043c\u0435\u0441\u0442\u043e \u043c\u0433\u043d\u043e\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0432\u0435\u0440\u043d\u0443\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u0443\u0442\u043e\u043a. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441 \u044d\u0442\u0438\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u2014 \u043f\u0443\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430, \u043e\u0448\u0438\u0431\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0431\u0430\u0442\u0447\u0430.<\/p>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u0438\u0437 \u0447\u0435\u0433\u043e \u044d\u0442\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442, \u043a\u0430\u043a \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0434\u0435\u043d\u044c\u0433\u0438 \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u043e\u0448\u0438\u0431\u043a\u0438 \u0432 \u0431\u0430\u0442\u0447\u0435 \u2014 \u0437\u043d\u0430\u0447\u0438\u0442 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u043a\u043b\u0430\u0441\u0441\u044b \u043e\u0448\u0438\u0431\u043e\u043a.<\/p>\n<hr\/>\n<p>\u0421\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0439 API \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u043f\u0440\u043e\u0441\u0442\u043e: \u0441\u0442\u043e\u0438\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441 \u2014 \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043e\u0442\u0432\u0435\u0442. \u041f\u043e\u043a\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0434\u0435\u0441\u044f\u0442\u043e\u043a \u0438\u043b\u0438 \u0441\u043e\u0442\u043d\u044f, \u0432\u0441\u0451 \u0445\u043e\u0440\u043e\u0448\u043e. \u041d\u043e \u0447\u0435\u043c \u0431\u043b\u0438\u0436\u0435 \u043a \u0442\u044b\u0441\u044f\u0447\u0430\u043c, \u0442\u0435\u043c \u0447\u0430\u0449\u0435 \u0432\u044b \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0435\u0441\u044c \u0432 TPM \u0438 RPM, \u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u043e\u0442\u0432\u0430\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0434\u0435\u043b\u043e \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0411\u0430\u0442\u0447 \u0438\u0434\u0451\u0442 \u043f\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c\u0443 \u043f\u0443\u043b\u0443 \u043b\u0438\u043c\u0438\u0442\u043e\u0432, \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c 50 \u0442\u044b\u0441\u044f\u0447 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0434\u043d\u0438\u043c \u0444\u0430\u0439\u043b\u043e\u043c, \u043d\u0435 \u0432\u044b\u0435\u0434\u0430\u044f \u0441\u0435\u0431\u0435 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u0443\u044e \u043a\u0432\u043e\u0442\u0443. \u041f\u0440\u0430\u0432\u0434\u0430, \u0443 \u044d\u0442\u043e\u0433\u043e \u043f\u0443\u043b\u0430 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0439 \u043f\u043e\u0442\u043e\u043b\u043e\u043a, \u0432 \u0432\u0438\u0434\u0435 \u0442\u043e\u0433\u043e \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442 \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u043b\u0438\u043c\u0438\u0442 enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432, API \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 <code>token_limit_exceeded<\/code> \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0436\u043e\u0431\u0443.<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438 \u043d\u0443\u0436\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438, \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0435\u0448\u0438\u0442\u044c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 expired-\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u0432 \u0431\u0430\u0442\u0447\u0435, \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0438\u0445 \u0438\u043b\u0438 \u043d\u0435\u0442.<\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u043d\u0435 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0441 \u043d\u0443\u043b\u044f \u2014 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u044e JSONL, \u0441\u0435\u043c\u0430\u0444\u043e\u0440 \u043d\u0430 enqueued-\u0442\u043e\u043a\u0435\u043d\u044b, \u0440\u0430\u0437\u0431\u043e\u0440 <code>errored<\/code> \u0438 <code>expired<\/code>, \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u0443\u044e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0443 \u2014 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 OpenAI-\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0435 \u0448\u043b\u044e\u0437\u044b. <a href=\"https:\/\/bothub.chat\/?invitedBy=zx7xIePYIOcWHhTfgg6-O\">Bothub<\/a>, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u0442 \u0436\u0435 JSONL \u0438 \u0442\u0435 \u0436\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u0430\u043a\u0435\u0442\u0430. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u0430 \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 OpenAI Batch API. \u042d\u043d\u0434\u043f\u043e\u0438\u043d\u0442 \u2014 <code>https:\/\/openai.bothub.chat\/v1<\/code>, \u043e\u043f\u043b\u0430\u0442\u0430 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u043a\u0430\u0440\u0442\u043e\u0439, \u0431\u0435\u0437 VPN. \u041f\u043e <a href=\"https:\/\/bothub.chat\/?invitedBy=zx7xIePYIOcWHhTfgg6-O\">\u0440\u0435\u0444\u0435\u0440\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0441\u044b\u043b\u043a\u0435<\/a> \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e 300 000 CAPS, \u0442\u0430\u043a \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0442\u0440\u043e\u0433\u0430\u0442\u044c \u0431\u0430\u0442\u0447 \u043d\u0430 \u0441\u0432\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043f\u0438\u0441\u0430\u0442\u044c \u0441\u0432\u043e\u0439 \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u0435\u043c\u0430\u0444\u043e\u0440. \u0417\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u2014 45% \u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f\u0445.<\/p>\n<h3>\u041a\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c<\/h3>\n<p>\u041a\u043e\u0433\u0434\u0430 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0448\u044c \u043f\u0430\u043a\u0435\u0442 \u0432 Batch API, \u043f\u043e\u043d\u0430\u0447\u0430\u043b\u0443 \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0434\u0430\u043b\u044c\u0448\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u044c \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0438 \u0436\u0434\u0430\u0442\u044c \u043f\u0438\u0441\u044c\u043c\u0430. \u041d\u0443, \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b \u0444\u0430\u0439\u043b, \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440 \u0441\u0430\u043c \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u0442\u0441\u044f. \u041d\u043e, \u0443\u0432\u044b, \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u0447\u0443\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u0435\u0435, \u0435\u0441\u043b\u0438 \u043d\u0435 \u0443\u043c\u0435\u0442\u044c, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438 \u043f\u043e\u0442\u0435\u0440\u044f\u0442\u044c \u0434\u0435\u043d\u044c\u0433\u0438 \u0438\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c.<\/p>\n<p>\u041f\u0435\u0440\u0432\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u0441\u0430\u043c \u043f\u0430\u043a\u0435\u0442, \u0434\u0436\u043e\u0431\u0430. \u0412\u044b \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0435 \u0444\u0430\u0439\u043b, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0441 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u043c <code>custom_id<\/code>, \u0438 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0435 \u0435\u0433\u043e \u0447\u0435\u0440\u0435\u0437 Files API. <code>purpose<\/code> \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c <code>\"batch\"<\/code>. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u043d\u0435 \u0432 \u0442\u043e\u043c \u043f\u043e\u0440\u044f\u0434\u043a\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b\u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u044b. <code>custom_id<\/code> \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0442\u0441\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0432\u043e\u0434.<\/p>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u043f\u0443\u043b enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0412\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u043e\u0435 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0435, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043b\u0438\u043c\u0438\u0442 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u043f\u043e \u0444\u0430\u0439\u043b\u0430\u043c, \u0430 \u043f\u043e \u043e\u0431\u0449\u0435\u043c\u0443 \u043e\u0431\u044a\u0451\u043c\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043e \u0432\u0441\u0435\u0445 \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043f\u0430\u043a\u0435\u0442\u0430\u0445 \u0441\u0440\u0430\u0437\u0443. \u0423 OpenAI \u044d\u0442\u043e tier-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u2014 \u0447\u0435\u043c \u0432\u044b\u0448\u0435 tier, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e. \u0415\u0441\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442 \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u044d\u0442\u043e\u0442 \u043f\u043e\u0442\u043e\u043b\u043e\u043a, API \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 <code>token_limit_exceeded<\/code> \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0436\u043e\u0431\u0443.<\/p>\n<p>\u0422\u0440\u0435\u0442\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u043e\u043a\u043d\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f. 24 \u0447\u0430\u0441\u0430 \u044d\u0442\u043e SLA, \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435, \u0430 \u043d\u0435 \u043e\u0446\u0435\u043d\u043a\u0430. \u0412\u043d\u0443\u0442\u0440\u0438 \u043e\u043a\u043d\u0430 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440 \u0441\u0430\u043c \u0440\u0435\u0448\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043f\u0430\u043a\u0435\u0442, \u0438 \u043e\u0431\u044b\u0447\u043d\u043e \u044d\u0442\u043e 2\u20136 \u0447\u0430\u0441\u043e\u0432, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0431\u0430\u0442\u0447\u0438 \u0441\u0442\u0430\u0440\u0430\u044e\u0442\u0441\u044f \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u043e\u043a\u043d\u043e \u043d\u0438\u0437\u043a\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 GPU. Anthropic, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0438\u0448\u0435\u0442, \u0447\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f \u043c\u0435\u043d\u044c\u0448\u0435 \u0447\u0435\u043c \u0437\u0430 \u0447\u0430\u0441, \u043d\u043e \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0440\u043e\u043a \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e 24.<\/p>\n<p>\u0423 OpenAI \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043e\u0442\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f, \u043d\u043e \u0437\u0430 \u0443\u0436\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0434\u0435\u043d\u044c\u0433\u0438 \u0441\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>\u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b JSONL, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0440\u0430\u0437\u0443 \u0434\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0437\u0430\u0434\u0430\u0447\u0430\u043c\u0438 \u2014 \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0445\u043e\u043a\u043a\u0443:<\/p>\n<pre><code class=\"json\">{\"custom_id\": \"task-translate-001\", \"method\": \"POST\", \"url\": \"\/v1\/chat\/completions\", \"body\": {\"model\": \"claude-opus-4.6\", \"messages\": [{\"role\": \"system\", \"content\": \"\u041f\u0435\u0440\u0435\u0432\u0435\u0434\u0438 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0444\u0440\u0430\u043d\u0446\u0443\u0437\u0441\u043a\u0438\u0439 \u044f\u0437\u044b\u043a.\"}, {\"role\": \"user\", \"content\": \"\u041f\u0440\u0438\u0432\u0435\u0442, \u043a\u0430\u043a \u0434\u0435\u043b\u0430?\"}], \"max_tokens\": 100}}{\"custom_id\": \"task-generate-003\", \"method\": \"POST\", \"url\": \"\/v1\/chat\/completions\", \"body\": {\"model\": \"claude-opus-4.6\", \"messages\": [{\"role\": \"user\", \"content\": \"\u041d\u0430\u043f\u0438\u0448\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0435 \u0445\u043e\u043a\u043a\u0443 \u043f\u0440\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438.\"}], \"max_tokens\": 50}}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper\"><\/span><\/a><\/div><\/pre>\n<p>\u0424\u043e\u0440\u043c\u0430\u0442 \u043f\u0440\u043e\u0441\u0442\u043e\u0439: <code>custom_id<\/code>, <code>method<\/code>, <code>url<\/code> \u0438 <code>body<\/code> \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0438 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c\u0438. \u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u043e\u0447\u0442\u0438 \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043a Chat Completions, \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432 \u0441\u0442\u0440\u043e\u043a\u0443. \u0412\u043e\u0442 \u043a\u0430\u043a \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0432 Python, \u0435\u0441\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 SDK OpenAI \u0441 <code>baseURL<\/code> \u043d\u0430 Bothub:<\/p>\n<pre><code class=\"python\">from openai import OpenAIclient = OpenAI(    api_key='\u0412\u0410\u0428_API_\u041a\u041b\u042e\u0427_BOTHUB',    base_url='https:\/\/openai.bothub.chat\/v1')file = client.files.create(    file=open(\"my_tasks.jsonl\", \"rb\"),    purpose=\"batch\")print(file.id)  # \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u0435 \u044d\u0442\u043e\u0442 ID<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u042d\u0442\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434, \u0447\u0442\u043e \u0438 \u0434\u043b\u044f OpenAI Batch API, \u2014 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 Bothub \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u0430 \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 SDK \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0441\u0430\u043c batch:<\/p>\n<pre><code class=\"python\">batch = client.batches.create(    input_file_id=file.id,    endpoint=\"\/v1\/chat\/completions\",    completion_window=\"24h\")<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p><code>completion_window<\/code> \u043f\u043e\u043a\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 <code>\"24h\"<\/code>, \u0434\u0440\u0443\u0433\u0438\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u043d\u0435\u0442. \u041f\u043e\u0441\u043b\u0435 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u043b\u043b\u0438\u043d\u0433 \u2014 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0434\u0451\u0440\u0433\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0443\u0441, \u043f\u043e\u043a\u0430 <code>status<\/code> \u043d\u0435 \u0441\u0442\u0430\u043d\u0435\u0442 <code>completed<\/code> \u0438\u043b\u0438 <code>failed<\/code>. \u0414\u043b\u044f \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u0434\u043e 1000 \u0441\u0442\u0440\u043e\u043a \u043e\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437 \u0432 30 \u0441\u0435\u043a\u0443\u043d\u0434, \u0434\u043b\u044f \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u2014 \u0440\u0430\u0437 \u0432 2\u20135 \u043c\u0438\u043d\u0443\u0442. \u0415\u0441\u043b\u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0441\u0442\u0430\u0442\u0443\u0441 \u043a\u0430\u0436\u0434\u044b\u0435 \u043f\u044f\u0442\u044c \u0441\u0435\u043a\u0443\u043d\u0434, \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u043c\u0430\u0442\u044c 429 \u043d\u0430 \u0441\u0430\u043c polling, \u0438 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u043a\u0430\u043a \u00ab\u043f\u0430\u043a\u0435\u0442 \u0435\u0449\u0451 \u043d\u0435 \u0433\u043e\u0442\u043e\u0432\u00bb, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0443\u043f\u0451\u0440\u043b\u0438\u0441\u044c \u0432 rate limit \u043d\u0430 \u0447\u0442\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0441\u0430\u043c\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u043f\u0440\u043e \u0442\u0440\u0435\u0442\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c, \u043e\u043a\u043d\u043e. \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u043f\u0430\u043a\u0435\u0442 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f, \u0432\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0435 output-\u0444\u0430\u0439\u043b, \u0438 \u0432 \u043d\u0451\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u0432\u0441\u0451. \u0427\u0430\u0441\u0442\u044c \u0441\u0442\u0440\u043e\u043a \u0431\u0443\u0434\u0435\u0442 \u0441 <code>result.type = \"succeeded\"<\/code>, \u0447\u0430\u0441\u0442\u044c \u0441 <code>\"errored\"<\/code>, \u0447\u0430\u0441\u0442\u044c \u0441 <code>\"expired\"<\/code>. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043f\u0440\u043e\u0441\u0442\u043e \u0447\u0438\u0442\u0430\u0435\u0442 <code>content<\/code> \u0438\u0437 \u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0438 \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0432 \u0431\u0430\u0437\u0443, \u0441\u0442\u0440\u043e\u043a\u0438 \u0441 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438 \u043c\u043e\u043b\u0447\u0430 \u0432\u044b\u043f\u0430\u0434\u0443\u0442.<\/p>\n<p>\u0420\u0435\u0448\u0438\u0442\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a:<\/p>\n<pre><code class=\"python\">results = client.files.content(batch.output_file_id)for line in results.text.strip().split(\"\\n\"):    row = json.loads(line)    custom_id = row[\"custom_id\"]    if row[\"result\"][\"type\"] == \"succeeded\":        content = row[\"result\"][\"message\"][\"content\"]        save(custom_id, content)    elif row[\"result\"][\"type\"] == \"errored\":        # \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u043c \u043e\u0448\u0438\u0431\u043a\u0443 \u0438 \u0440\u0435\u0448\u0430\u0435\u043c, \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0438\u043b\u0438 \u0447\u0438\u043d\u0438\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441        handle_error(custom_id, row[\"result\"][\"error\"])    elif row[\"result\"][\"type\"] == \"expired\":        # \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0435 \u0443\u0441\u043f\u0435\u043b \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c\u0441\u044f \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442        retry_later(custom_id, row[\"body\"])<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p><code>custom_id<\/code> \u0437\u0434\u0435\u0441\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u0430\u043a \u043f\u0435\u0440\u0432\u0438\u0447\u043d\u044b\u0439 \u043a\u043b\u044e\u0447: \u043f\u043e \u043d\u0435\u043c\u0443 \u0432\u044b \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0447\u0438\u043d\u0438\u0442\u044c \u0438\u043b\u0438 \u043f\u0435\u0440\u0435\u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c.<\/p>\n<p>\u0414\u043b\u044f \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0445 \u0440\u0430\u0441\u0445\u043e\u0434\u043e\u0432 \u043f\u043e \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0444\u043b\u0430\u0433 <code>include_usage=true<\/code> \u0432 \u0441\u0442\u0440\u043e\u043a\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430:<\/p>\n<pre><code class=\"python\">batch = client.batches.retrieve(\"\u0410\u0419\u0414\u0418_\u0411\u0410\u0422\u0427\u0410\")print(\"\u0422\u0435\u043a\u0443\u0449\u0438\u0439 \u0441\u0442\u0430\u0442\u0443\u0441:\", batch.status)if batch.status == \"completed\":    print(\"ID \u0433\u043e\u0442\u043e\u0432\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430:\", batch.output_file_id)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u0410 \u0447\u0442\u043e\u0431\u044b \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u0444\u0430\u0439\u043b\u0430 \u0438\u0437 \u043f\u043e\u043b\u044f output_file_id, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442.<\/p>\n<pre><code class=\"python\">import requestsdef get_result():    response = requests.get(        \"https:\/\/openai.bothub.chat\/v1\/files\/\u0410\u0419\u0414\u0418_\u0424\u0410\u0419\u041b\u0410\",        headers={\"Authorization\": \"Bearer \u0412\u0410\u0428_API_\u041a\u041b\u042e\u0427_BOTHUB\"}    )    link = response.text    print(link)get_result()<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u041c\u043e\u0436\u043d\u043e \u043e\u0442\u043c\u0435\u043d\u0438\u0442\u044c \u0431\u0430\u0442\u0447 \u0447\u0435\u0440\u0435\u0437 \u0444\u0443\u043d\u043a\u0446\u0438\u044e <code>client.batches.cancel(\"\u0410\u0419\u0414\u0418_\u0411\u0410\u0422\u0427\u0410\")<\/code>, \u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0441\u043f\u0438\u0441\u043e\u043a \u0432\u0441\u0435\u0445 \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u2014 \u0447\u0435\u0440\u0435\u0437 \u0444\u0443\u043d\u043a\u0446\u0438\u044e <code>batches = client.batches.list(limit=20)<\/code>.<\/p>\n<h3>\u041e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043e\u0448\u0438\u0431\u043e\u043a<\/h3>\n<p>\u0412 \u0441\u043b\u0443\u0447\u0430\u0435 \u0431\u0430\u0442\u0447\u0435\u0439 \u043b\u0443\u0447\u0448\u0435 \u0441\u0440\u0430\u0437\u0443 \u0437\u0430\u0434\u0443\u043c\u0430\u0442\u044c\u0441\u044f \u043e\u0431 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u0448\u0438\u0431\u043e\u043a, \u0442\u0443\u0442 \u043e\u043d\u0430 \u0440\u0430\u0437\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.<\/p>\n<h4>\u041e\u0448\u0438\u0431\u043a\u0438 \u0434\u043e \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043f\u0430\u043a\u0435\u0442\u0430<\/h4>\n<p>\u041f\u0430\u043a\u0435\u0442 \u043d\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0438\u043b\u0438 \u0441\u0440\u0430\u0437\u0443 \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 <code>failed<\/code>. \u041f\u0440\u0438\u0447\u0438\u043d\u044b \u0441\u043a\u0443\u0447\u043d\u044b\u0435 \u2014 \u043b\u0438\u0448\u043d\u044f\u044f \u0437\u0430\u043f\u044f\u0442\u0430\u044f \u0432 JSONL, \u043d\u0435\u044d\u043a\u0440\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441\u0438\u043c\u0432\u043e\u043b, \u0437\u0430\u0431\u044b\u0442\u044b\u0439 <code>custom_id<\/code>, \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0439 <code>endpoint<\/code>, \u0444\u0430\u0439\u043b \u0431\u043e\u043b\u044c\u0448\u0435 \u043b\u0438\u043c\u0438\u0442\u0430. \u0423 Anthropic, \u043a\u0441\u0442\u0430\u0442\u0438, \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0433\u043e \u043f\u0430\u043a\u0435\u0442\u0430 \u2014 \u0442\u043e \u0431\u0438\u0448\u044c \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c 100 \u0442\u044b\u0441\u044f\u0447 \u0441\u0442\u0440\u043e\u043a, \u043f\u0440\u043e\u0436\u0434\u0430\u0442\u044c \u0447\u0430\u0441 \u0438 \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e \u0432 \u0442\u0440\u0451\u0445 \u0438\u0437 \u043d\u0438\u0445 \u043a\u0440\u0438\u0432\u043e\u0439 <code>max_tokens<\/code>. \u0423 OpenAI \u0444\u043e\u0440\u043c\u0430\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u0434\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430.<\/p>\n<p>\u041d\u0443\u0436\u043d\u043e \u0432\u0430\u043b\u0438\u0434\u0438\u0440\u043e\u0432\u0430\u0442\u044c JSONL \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0434\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u042d\u0442\u043e \u0434\u0435\u0448\u0435\u0432\u043b\u0435, \u0447\u0435\u043c \u043b\u043e\u0432\u0438\u0442\u044c <code>failed<\/code> \u0447\u0435\u0440\u0435\u0437 API. \u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u2014 \u0440\u0430\u0441\u043f\u0430\u0440\u0441\u0438\u0442\u044c \u043a\u0430\u0436\u0434\u0443\u044e \u0441\u0442\u0440\u043e\u043a\u0443, \u0443\u0431\u0435\u0434\u0438\u0442\u044c\u0441\u044f, \u0447\u0442\u043e <code>custom_id<\/code> \u0443\u043d\u0438\u043a\u0430\u043b\u0435\u043d \u0438 \u043d\u0435 \u043f\u0443\u0441\u0442\u043e\u0439, \u0430 <code>body<\/code> \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 <code>model<\/code> \u0438 <code>messages<\/code>.<\/p>\n<pre><code class=\"python\">import jsonseen = set()with open(\"my_tasks.jsonl\") as f:    for i, line in enumerate(f, 1):        row = json.loads(line)  # \u0443\u043f\u0430\u0434\u0451\u0442 \u043d\u0430 \u043a\u0440\u0438\u0432\u043e\u043c JSON \u2014 \u0438 \u0445\u043e\u0440\u043e\u0448\u043e        cid = row.get(\"custom_id\")        if not cid or cid in seen:            raise ValueError(f\"\u0441\u0442\u0440\u043e\u043a\u0430 {i}: \u043f\u0443\u0441\u0442\u043e\u0439 \u0438\u043b\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 custom_id\")        seen.add(cid)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u041c\u043e\u0436\u043d\u043e \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f Pydantic-\u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0434\u043b\u044f \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438 DTO.<\/p>\n<h4>\u041e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u0438<\/h4>\n<p>\u041f\u0430\u043a\u0435\u0442 \u043d\u0435 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u0438\u043b\u0438 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e, <code>token_limit_exceeded<\/code>. \u0412\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b\u0438 \u043d\u043e\u0432\u0443\u044e \u0434\u0436\u043e\u0431\u0443, \u0430 \u043e\u043d \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u043f\u043e\u0442\u043e\u043b\u043e\u043a enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 API \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0435\u0433\u043e \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c.<\/p>\n<p>\u0421\u0447\u0438\u0442\u0430\u0442\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438. \u0415\u0441\u043b\u0438 \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u2014 \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043f\u0430\u043a\u0435\u0442\u044b \u0432 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0438\u043b\u0438 \u0436\u0434\u0430\u0442\u044c, \u043f\u043e\u043a\u0430 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0435.<\/p>\n<pre><code class=\"python\">import timedef submit_with_backoff(client, file_id, max_attempts=5):    delay = 30    for attempt in range(max_attempts):        try:            return client.batches.create(                input_file_id=file_id,                endpoint=\"\/v1\/chat\/completions\",                completion_window=\"24h\"            )        except Exception as e:            if \"token_limit_exceeded\" not in str(e):                raise            if attempt == max_attempts - 1:                raise            time.sleep(delay)            delay *= 2  # 30 \u2192 60 \u2192 120 \u2192 ...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<h4>\u041e\u0448\u0438\u0431\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043f\u0430\u043a\u0435\u0442\u0430<\/h4>\n<p>\u0421\u0430\u043c\u0430\u044f \u043a\u043e\u0432\u0430\u0440\u043d\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f. \u041f\u0430\u043a\u0435\u0442 <code>completed<\/code>, \u0432\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0435 output, \u0430 \u0442\u0430\u043c \u0447\u0430\u0441\u0442\u044c \u0441\u0442\u0440\u043e\u043a \u0441 <code>result.type = \"succeeded\"<\/code>, \u0447\u0430\u0441\u0442\u044c \u0441 <code>\"errored\"<\/code>, \u0447\u0430\u0441\u0442\u044c \u0441 <code>\"expired\"<\/code>. \u0423 Anthropic \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438 <code>errored<\/code>, <code>canceled<\/code> \u0438 <code>expired<\/code> \u0432 <code>request_counts<\/code> \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043d\u043e\u043b\u044c, \u043f\u043e\u043a\u0430 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0441\u0435\u0433\u043e \u043f\u0430\u043a\u0435\u0442\u0430 \u043d\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u0442\u0441\u044f \u2014 \u0442\u043e \u0431\u0438\u0448\u044c \u0434\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432\u044b \u043d\u0435 \u0443\u0437\u043d\u0430\u0435\u0442\u0435, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u043b\u043e\u0441\u044c.<\/p>\n<p>\u0423 OpenAI \u043e\u0448\u0438\u0431\u043a\u0438 \u043f\u0438\u0448\u0443\u0442\u0441\u044f \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 error-\u0444\u0430\u0439\u043b, \u0443 Anthropic \u2014 \u0432 \u0442\u043e\u0442 \u0436\u0435 results_url, \u043d\u043e \u0441 <code>type: \"errored\"<\/code> \u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u043c \u043e\u0448\u0438\u0431\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438.<\/p>\n<p>\u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0430\u0440\u0441\u0438\u0442\u044c \u043a\u0430\u0436\u0434\u0443\u044e (\u0438\u043b\u0438 \u043d\u0435 \u043a\u0430\u0436\u0434\u0443\u044e, \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u0431\u044b\u0432\u0430\u0442\u044c \u043f\u0440\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e) \u0441\u0442\u0440\u043e\u043a\u0443 \u0438 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u043f\u043e \u0442\u0440\u0451\u043c \u043a\u043e\u0440\u0437\u0438\u043d\u0430\u043c. <code>invalid_request<\/code> \u2014 \u0447\u0438\u043d\u0438\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441 \u0438 \u043f\u0435\u0440\u0435\u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0435\u0433\u043e; <code>server error<\/code> \u2014 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0441 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439; <code>expired<\/code> \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043a\u043d\u043e \u0443\u0436\u0435 \u0437\u0430\u043a\u0440\u044b\u0442\u043e. \u0418 \u043d\u0435 \u043f\u0435\u0440\u0435\u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0432\u0435\u0441\u044c \u043f\u0430\u043a\u0435\u0442 \u0438\u0437-\u0437\u0430 \u0442\u0440\u0451\u0445 \u0443\u043f\u0430\u0432\u0448\u0438\u0445 \u0441\u0442\u0440\u043e\u043a: \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0435 \u0432\u044b \u0443\u0436\u0435 \u043e\u043f\u043b\u0430\u0442\u0438\u043b\u0438.<\/p>\n<pre><code class=\"python\">import jsondef triage_results(raw_text):    done, retry, fix = [], [], []    for line in raw_text.strip().split(\"\\n\"):        row = json.loads(line)        cid = row[\"custom_id\"]        rtype = row[\"result\"][\"type\"]        if rtype == \"succeeded\":            done.append((cid, row[\"result\"][\"message\"][\"content\"]))        elif rtype == \"errored\":            err_type = row[\"result\"][\"error\"][\"type\"]            if err_type == \"invalid_request_error\":                fix.append((cid, row[\"result\"][\"error\"]))            else:  # rate_limit, timeout, api_error \u0438 \u043f\u0440\u043e\u0447\u0435\u0435                retry.append(cid)        elif rtype == \"expired\":            retry.append(cid)    return done, retry, fix<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p><code>custom_id<\/code> \u0437\u0434\u0435\u0441\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u0430\u043a \u043f\u0435\u0440\u0432\u0438\u0447\u043d\u044b\u0439 \u043a\u043b\u044e\u0447.<\/p>\n<h4>\u041e\u0448\u0438\u0431\u043a\u0438 \u043e\u043f\u0440\u043e\u0441\u0430 \u0441\u0442\u0430\u0442\u0443\u0441\u0430<\/h4>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u043b\u043e\u0432\u0443\u0448\u043a\u0430, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0432 \u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b\u0430\u0445 \u043c\u043e\u043b\u0447\u0430\u0442. \u0415\u0441\u043b\u0438 \u0434\u0451\u0440\u0433\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0443\u0441 \u043f\u0430\u043a\u0435\u0442\u0430 \u043a\u0430\u0436\u0434\u044b\u0435 \u043f\u044f\u0442\u044c \u0441\u0435\u043a\u0443\u043d\u0434, \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u043c\u0430\u0442\u044c 429 \u2014 \u0438 \u043d\u0430\u0438\u0432\u043d\u044b\u0439 retry-\u0446\u0438\u043a\u043b \u0440\u0435\u0448\u0438\u0442, \u0447\u0442\u043e \u00ab\u043f\u0430\u043a\u0435\u0442 \u0435\u0449\u0451 \u043d\u0435 \u0433\u043e\u0442\u043e\u0432\u00bb, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u044b \u0443\u043f\u0451\u0440\u043b\u0438\u0441\u044c \u0432 rate limit \u043d\u0430 \u0441\u0430\u043c polling. \u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e, \u043b\u0435\u0447\u0438\u0442\u0441\u044f \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443.<\/p>\n<p>\u0422\u0443\u0442 \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u0432\u043e\u0434\u0438\u0442\u044c \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 backoff \u043d\u0430 polling. \u0414\u043b\u044f \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u0434\u043e 1000 \u0441\u0442\u0440\u043e\u043a \u0440\u0430\u0437\u0443\u043c\u043d\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c \u0441 30 \u0441\u0435\u043a\u0443\u043d\u0434, \u0434\u043b\u044f \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u2014 \u0441 2\u20135 \u043c\u0438\u043d\u0443\u0442. \u0418 \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u0442\u044c <code>created_at<\/code> \u043f\u0430\u043a\u0435\u0442\u0430, \u043a\u043e\u043b\u0438 \u043e\u043d \u0432\u0438\u0441\u0438\u0442 \u0434\u043e\u043b\u044c\u0448\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0447\u0430\u0441\u043e\u0432, \u0441\u0442\u043e\u0438\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u043d\u0435 \u0437\u0430\u0441\u0442\u0440\u044f\u043b \u043b\u0438 \u043e\u043d \u0432 <code>validating<\/code>.<\/p>\n<h3>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h3>\n<p>\u0411\u0430\u0442\u0447 \u2014 \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442. \u0412\u044b \u043f\u043b\u0430\u0442\u0438\u0442\u0435 \u043c\u0435\u043d\u044c\u0448\u0435, \u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u043d\u0435 \u043c\u0433\u043d\u043e\u0432\u0435\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442, \u0430 \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0432\u0435\u0440\u043d\u0443\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u0443\u0442\u043e\u043a. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441 \u044d\u0442\u0438\u043c \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043e\u0431\u044f\u0437\u0430\u043d\u043d\u043e\u0441\u0442\u044c \u0441\u0430\u043c\u043e\u043c\u0443 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0442\u044c, \u0447\u0442\u043e \u0432\u0435\u0440\u043d\u0443\u043b\u043e\u0441\u044c: <code>succeeded<\/code>, <code>errored<\/code> \u0438\u043b\u0438 <code>expired<\/code>. \u0421\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0439 API \u0442\u0430\u043a\u043e\u0439 \u043e\u0431\u044f\u0437\u0430\u043d\u043d\u043e\u0441\u0442\u0438 \u043d\u0435 \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u2014 \u0442\u0430\u043c \u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u0438\u0434\u043d\u0430 \u0441\u0440\u0430\u0437\u0443.<\/p>\n<p>\u041e\u0447\u0435\u0440\u0435\u0434\u044c \u2014 \u044d\u0442\u043e \u0440\u0435\u0441\u0443\u0440\u0441 \u0441 \u043b\u0438\u043c\u0438\u0442\u043e\u043c. Enqueued-\u0442\u043e\u043a\u0435\u043d\u044b, \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043f\u0430\u043a\u0435\u0442\u043e\u0432, \u043e\u043a\u043d\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u2014 \u0432\u0435\u0449\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0443\u0436\u043d\u043e \u0438\u0437\u0443\u0447\u0438\u0442\u044c \u0437\u0430\u0440\u0430\u043d\u0435\u0435.<\/p>\n<p>50% \u0441\u043a\u0438\u0434\u043a\u0438 \u2014 \u044d\u0442\u043e \u043f\u043e\u0442\u043e\u043b\u043e\u043a. \u041d\u0430\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0446\u0438\u0444\u0440\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0443\u0448\u043b\u043e \u0432 <code>expired<\/code>, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u044b \u043f\u0435\u0440\u0435\u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b\u0438 \u0438 \u0431\u044b\u043b \u043b\u0438 \u043a\u0435\u0448 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430. \u0412 \u0445\u043e\u0440\u043e\u0448\u0435\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u0433\u043b\u0443\u0431\u0436\u0435, \u0447\u0435\u043c 50%, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e cached-input \u0442\u043e\u0436\u0435 \u0434\u0435\u0448\u0435\u0432\u0435\u0435\u0442. \u0412 \u043f\u043b\u043e\u0445\u043e\u043c \u2014 \u0432\u044b \u043f\u043b\u0430\u0442\u0438\u0442\u0435 \u0434\u0432\u0430\u0436\u0434\u044b \u0437\u0430 \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435 \u0436\u0435 \u0441\u0442\u0440\u043e\u043a\u0438.<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1105806\/\">https:\/\/habr.com\/ru\/articles\/1105806\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0432\u0430\u0448\u0435\u043c\u0443 LLM-\u0441\u0435\u0440\u0432\u0438\u0441\u0443 \u043d\u0443\u0436\u043d\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c, 50 000 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u043e\u0432 \u0438\u043b\u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u0432. \u041c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u0442\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0439 \u043f\u0443\u0442\u044c \u2014 \u043f\u043e\u0441\u044b\u043b\u0430\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043a LLM. \u041d\u043e \u0442\u0430\u043a\u043e\u0439 \u043f\u0443\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0438 \u0432 \u0434\u0435\u043d\u044c\u0433\u0438, \u0438 \u0432 \u043b\u0438\u043c\u0438\u0442\u044b. \u0418 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0441 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438 \u0440\u0430\u0441\u0442\u0443\u0442 \u0432 \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043f\u0440\u043e\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u043e\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.\u0412\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u043c \u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 Batch API \u2014 \u043e\u043d\u0430 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043d\u0435 \u0432\u0447\u0435\u0440\u0430, \u043d\u043e \u0441\u0442\u0430\u043b\u0430 \u043e\u0442\u0440\u0430\u0441\u043b\u0435\u0432\u044b\u043c \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043e\u043c \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0431\u0430\u0442\u0447\u0435\u0439, \u0433\u0440\u0443\u043f\u043f \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. OpenAI, Anthropic \u0438 Google \u0434\u0430\u044e\u0442 \u0430\u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u0443\u044e \u043f\u0430\u043a\u0435\u0442\u043d\u0443\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0441\u043e \u0441\u043a\u0438\u0434\u043a\u043e\u0439 \u0438 \u043e\u043a\u043d\u043e\u043c \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0434\u043e 24 \u0447\u0430\u0441\u043e\u0432. \u0422\u043e \u0431\u0438\u0448\u044c \u0432\u044b \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u0442\u0435 \u0432\u0441\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0432 \u043e\u0434\u0438\u043d \u0444\u0430\u0439\u043b, \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0435 \u0435\u0433\u043e \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u0443 \u0438 \u0436\u0434\u0451\u0442\u0435.\u041d\u043e \u044d\u0442\u043e \u043d\u0435 \u0430\u0431\u0443\u0437 \u043d\u0430 \u0434\u0435\u0448\u0451\u0432\u044b\u0439 API. \u041f\u043b\u0430\u0442\u0438\u0442\u0435, \u0434\u0430, \u043c\u0435\u043d\u044c\u0448\u0435, \u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0432\u043c\u0435\u0441\u0442\u043e \u043c\u0433\u043d\u043e\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0432\u0435\u0440\u043d\u0443\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u0443\u0442\u043e\u043a. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441 \u044d\u0442\u0438\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u2014 \u043f\u0443\u043b \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430, \u043e\u0448\u0438\u0431\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0431\u0430\u0442\u0447\u0430.\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u0438\u0437 \u0447\u0435\u0433\u043e \u044d\u0442\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442, \u043a\u0430\u043a \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0434\u0435\u043d\u044c\u0433\u0438 \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u043e\u0448\u0438\u0431\u043a\u0438 \u0432 \u0431\u0430\u0442\u0447\u0435 \u2014 \u0437\u043d\u0430\u0447\u0438\u0442 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u043a\u043b\u0430\u0441\u0441\u044b \u043e\u0448\u0438\u0431\u043e\u043a.\u0421\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0439 API \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u043f\u0440\u043e\u0441\u0442\u043e: \u0441\u0442\u043e\u0438\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441 \u2014 \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043e\u0442\u0432\u0435\u0442. \u041f\u043e\u043a\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0434\u0435\u0441\u044f\u0442\u043e\u043a \u0438\u043b\u0438 \u0441\u043e\u0442\u043d\u044f, \u0432\u0441\u0451 \u0445\u043e\u0440\u043e\u0448\u043e. \u041d\u043e \u0447\u0435\u043c \u0431\u043b\u0438\u0436\u0435 \u043a \u0442\u044b\u0441\u044f\u0447\u0430\u043c, \u0442\u0435\u043c \u0447\u0430\u0449\u0435 \u0432\u044b \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0435\u0441\u044c \u0432 TPM \u0438 RPM, \u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u043e\u0442\u0432\u0430\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0434\u0435\u043b\u043e \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0411\u0430\u0442\u0447 \u0438\u0434\u0451\u0442 \u043f\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c\u0443 \u043f\u0443\u043b\u0443 \u043b\u0438\u043c\u0438\u0442\u043e\u0432, \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c 50 \u0442\u044b\u0441\u044f\u0447 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0434\u043d\u0438\u043c \u0444\u0430\u0439\u043b\u043e\u043c, \u043d\u0435 \u0432\u044b\u0435\u0434\u0430\u044f \u0441\u0435\u0431\u0435 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u0443\u044e \u043a\u0432\u043e\u0442\u0443. \u041f\u0440\u0430\u0432\u0434\u0430, \u0443 \u044d\u0442\u043e\u0433\u043e \u043f\u0443\u043b\u0430 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0439 \u043f\u043e\u0442\u043e\u043b\u043e\u043a, \u0432 \u0432\u0438\u0434\u0435 \u0442\u043e\u0433\u043e \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442 \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u043b\u0438\u043c\u0438\u0442 enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432, API \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 token_limit_exceeded \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0436\u043e\u0431\u0443.\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438 \u043d\u0443\u0436\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438, \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0435\u0448\u0438\u0442\u044c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 expired-\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u0432 \u0431\u0430\u0442\u0447\u0435, \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0438\u0445 \u0438\u043b\u0438 \u043d\u0435\u0442.\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u043d\u0435 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0441 \u043d\u0443\u043b\u044f \u2014 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u044e JSONL, \u0441\u0435\u043c\u0430\u0444\u043e\u0440 \u043d\u0430 enqueued-\u0442\u043e\u043a\u0435\u043d\u044b, \u0440\u0430\u0437\u0431\u043e\u0440 errored \u0438 expired, \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u0443\u044e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0443 \u2014 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 OpenAI-\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0435 \u0448\u043b\u044e\u0437\u044b. Bothub, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u0442 \u0436\u0435 JSONL \u0438 \u0442\u0435 \u0436\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u0430\u043a\u0435\u0442\u0430. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u0430 \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 OpenAI Batch API. \u042d\u043d\u0434\u043f\u043e\u0438\u043d\u0442 \u2014 https:\/\/openai.bothub.chat\/v1, \u043e\u043f\u043b\u0430\u0442\u0430 \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u043a\u0430\u0440\u0442\u043e\u0439, \u0431\u0435\u0437 VPN. \u041f\u043e \u0440\u0435\u0444\u0435\u0440\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0441\u044b\u043b\u043a\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e 300 000 CAPS, \u0442\u0430\u043a \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0442\u0440\u043e\u0433\u0430\u0442\u044c \u0431\u0430\u0442\u0447 \u043d\u0430 \u0441\u0432\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0435\u0449\u0451 \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043f\u0438\u0441\u0430\u0442\u044c \u0441\u0432\u043e\u0439 \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u0435\u043c\u0430\u0444\u043e\u0440. \u0417\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u2014 45% \u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f\u0445.\u041a\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c\u041a\u043e\u0433\u0434\u0430 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0448\u044c \u043f\u0430\u043a\u0435\u0442 \u0432 Batch API, \u043f\u043e\u043d\u0430\u0447\u0430\u043b\u0443 \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0434\u0430\u043b\u044c\u0448\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u044c \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0438 \u0436\u0434\u0430\u0442\u044c \u043f\u0438\u0441\u044c\u043c\u0430. \u041d\u0443, \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b \u0444\u0430\u0439\u043b, \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440 \u0441\u0430\u043c \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u0442\u0441\u044f. \u041d\u043e, \u0443\u0432\u044b, \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u0430 \u0447\u0443\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u0435\u0435, \u0435\u0441\u043b\u0438 \u043d\u0435 \u0443\u043c\u0435\u0442\u044c, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438 \u043f\u043e\u0442\u0435\u0440\u044f\u0442\u044c \u0434\u0435\u043d\u044c\u0433\u0438 \u0438\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c.\u041f\u0435\u0440\u0432\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u0441\u0430\u043c \u043f\u0430\u043a\u0435\u0442, \u0434\u0436\u043e\u0431\u0430. \u0412\u044b \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0435 \u0444\u0430\u0439\u043b, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0441 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u043c custom_id, \u0438 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0435 \u0435\u0433\u043e \u0447\u0435\u0440\u0435\u0437 Files API. purpose \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c &#171;batch&#187;. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u043d\u0435 \u0432 \u0442\u043e\u043c \u043f\u043e\u0440\u044f\u0434\u043a\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b\u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u044b. custom_id \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0442\u0441\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0432\u043e\u0434.\u0412\u0442\u043e\u0440\u043e\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u043f\u0443\u043b enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0412\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u043e\u0435 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0435, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043b\u0438\u043c\u0438\u0442 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u043f\u043e \u0444\u0430\u0439\u043b\u0430\u043c, \u0430 \u043f\u043e \u043e\u0431\u0449\u0435\u043c\u0443 \u043e\u0431\u044a\u0451\u043c\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u043e \u0432\u0441\u0435\u0445 \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0445 \u043f\u0430\u043a\u0435\u0442\u0430\u0445 \u0441\u0440\u0430\u0437\u0443. \u0423 OpenAI \u044d\u0442\u043e tier-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u2014 \u0447\u0435\u043c \u0432\u044b\u0448\u0435 tier, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0432 \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e. \u0415\u0441\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442 \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u044d\u0442\u043e\u0442 \u043f\u043e\u0442\u043e\u043b\u043e\u043a, API \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 token_limit_exceeded \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0436\u043e\u0431\u0443.\u0422\u0440\u0435\u0442\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u2014 \u043e\u043a\u043d\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f. 24 \u0447\u0430\u0441\u0430 \u044d\u0442\u043e SLA, \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435, \u0430 \u043d\u0435 \u043e\u0446\u0435\u043d\u043a\u0430. \u0412\u043d\u0443\u0442\u0440\u0438 \u043e\u043a\u043d\u0430 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440 \u0441\u0430\u043c \u0440\u0435\u0448\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043f\u0430\u043a\u0435\u0442, \u0438 \u043e\u0431\u044b\u0447\u043d\u043e \u044d\u0442\u043e 2\u20136 \u0447\u0430\u0441\u043e\u0432, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0431\u0430\u0442\u0447\u0438 \u0441\u0442\u0430\u0440\u0430\u044e\u0442\u0441\u044f \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u043e\u043a\u043d\u043e \u043d\u0438\u0437\u043a\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 GPU. Anthropic, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0438\u0448\u0435\u0442, \u0447\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f \u043c\u0435\u043d\u044c\u0448\u0435 \u0447\u0435\u043c \u0437\u0430 \u0447\u0430\u0441, \u043d\u043e \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0440\u043e\u043a \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e 24.\u0423 OpenAI \u043d\u0435\u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043e\u0442\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f, \u043d\u043e \u0437\u0430 \u0443\u0436\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0434\u0435\u043d\u044c\u0433\u0438 \u0441\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442\u0441\u044f.\u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b JSONL, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0440\u0430\u0437\u0443 \u0434\u0432\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0437\u0430\u0434\u0430\u0447\u0430\u043c\u0438 \u2014 \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0445\u043e\u043a\u043a\u0443:{&#171;custom_id&#187;: &#171;task-translate-001&#187;, &#171;method&#187;: &#171;POST&#187;, &#171;url&#187;: &#171;\/v1\/chat\/completions&#187;, &#171;body&#187;: {&#171;model&#187;: &#171;claude-opus-4.6&#187;, &#171;messages&#187;: [{&#171;role&#187;: &#171;system&#187;, &#171;content&#187;: &#171;\u041f\u0435\u0440\u0435\u0432\u0435\u0434\u0438 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430 \u0444\u0440\u0430\u043d\u0446\u0443\u0437\u0441\u043a\u0438\u0439 \u044f\u0437\u044b\u043a.&#187;}, {&#171;role&#187;: &#171;user&#187;, &#171;content&#187;: &#171;\u041f\u0440\u0438\u0432\u0435\u0442, \u043a\u0430\u043a \u0434\u0435\u043b\u0430?&#187;}], &#171;max_tokens&#187;: 100}}{&#171;custom_id&#187;: &#171;task-generate-003&#187;, &#171;method&#187;: &#171;POST&#187;, &#171;url&#187;: &#171;\/v1\/chat\/completions&#187;, &#171;body&#187;: {&#171;model&#187;: &#171;claude-opus-4.6&#187;, &#171;messages&#187;: [{&#171;role&#187;: &#171;user&#187;, &#171;content&#187;: &#171;\u041d\u0430\u043f\u0438\u0448\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0435 \u0445\u043e\u043a\u043a\u0443 \u043f\u0440\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438.&#187;}], &#171;max_tokens&#187;: 50}}\u0424\u043e\u0440\u043c\u0430\u0442 \u043f\u0440\u043e\u0441\u0442\u043e\u0439: custom_id, method, url \u0438 body \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0438 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c\u0438. \u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u043e\u0447\u0442\u0438 \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043a Chat Completions, \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432 \u0441\u0442\u0440\u043e\u043a\u0443. \u0412\u043e\u0442 \u043a\u0430\u043a \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0432 Python, \u0435\u0441\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 SDK OpenAI \u0441 baseURL \u043d\u0430 Bothub:from openai import OpenAIclient = OpenAI(    api_key=&#8217;\u0412\u0410\u0428_API_\u041a\u041b\u042e\u0427_BOTHUB&#8217;,    base_url=&#8217;https:\/\/openai.bothub.chat\/v1&#8242;)file = client.files.create(    file=open(&#171;my_tasks.jsonl&#187;, &#171;rb&#187;),    purpose=&#187;batch&#187;)print(file.id)  # \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u0435 \u044d\u0442\u043e\u0442 ID\u042d\u0442\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434, \u0447\u0442\u043e \u0438 \u0434\u043b\u044f OpenAI Batch API, \u2014 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 Bothub \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u0430 \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 SDK \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0441\u0430\u043c batch:batch = client.batches.create(    input_file_id=file.id,    endpoint=&#187;\/v1\/chat\/completions&#187;,    completion_window=&#187;24h&#187;)completion_window \u043f\u043e\u043a\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 &#171;24h&#187;, \u0434\u0440\u0443\u0433\u0438\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u043d\u0435\u0442. \u041f\u043e\u0441\u043b\u0435 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u043b\u043b\u0438\u043d\u0433 \u2014 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0434\u0451\u0440\u0433\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0443\u0441, \u043f\u043e\u043a\u0430 status \u043d\u0435 \u0441\u0442\u0430\u043d\u0435\u0442 completed \u0438\u043b\u0438 failed. \u0414\u043b\u044f \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u0434\u043e 1000 \u0441\u0442\u0440\u043e\u043a \u043e\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437 \u0432 30 \u0441\u0435\u043a\u0443\u043d\u0434, \u0434\u043b\u044f \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u2014 \u0440\u0430\u0437 \u0432 2\u20135 \u043c\u0438\u043d\u0443\u0442. \u0415\u0441\u043b\u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0441\u0442\u0430\u0442\u0443\u0441 \u043a\u0430\u0436\u0434\u044b\u0435 \u043f\u044f\u0442\u044c \u0441\u0435\u043a\u0443\u043d\u0434, \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u043c\u0430\u0442\u044c 429 \u043d\u0430 \u0441\u0430\u043c polling, \u0438 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u043a\u0430\u043a \u00ab\u043f\u0430\u043a\u0435\u0442 \u0435\u0449\u0451 \u043d\u0435 \u0433\u043e\u0442\u043e\u0432\u00bb, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0443\u043f\u0451\u0440\u043b\u0438\u0441\u044c \u0432 rate limit \u043d\u0430 \u0447\u0442\u0435\u043d\u0438\u0435.\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0441\u0430\u043c\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u043f\u0440\u043e \u0442\u0440\u0435\u0442\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c, \u043e\u043a\u043d\u043e. \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u043f\u0430\u043a\u0435\u0442 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f, \u0432\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0435 output-\u0444\u0430\u0439\u043b, \u0438 \u0432 \u043d\u0451\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u0432\u0441\u0451. \u0427\u0430\u0441\u0442\u044c \u0441\u0442\u0440\u043e\u043a \u0431\u0443\u0434\u0435\u0442 \u0441 result.type = &#171;succeeded&#187;, \u0447\u0430\u0441\u0442\u044c \u0441 &#171;errored&#187;, \u0447\u0430\u0441\u0442\u044c \u0441 &#171;expired&#187;. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043f\u0440\u043e\u0441\u0442\u043e \u0447\u0438\u0442\u0430\u0435\u0442 content \u0438\u0437 \u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0438 \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442 \u0432 \u0431\u0430\u0437\u0443, \u0441\u0442\u0440\u043e\u043a\u0438 \u0441 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438 \u043c\u043e\u043b\u0447\u0430 \u0432\u044b\u043f\u0430\u0434\u0443\u0442.\u0420\u0435\u0448\u0438\u0442\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a:results = client.files.content(batch.output_file_id)for line in results.text.strip().split(&#171;\\n&#187;):    row = json.loads(line)    custom_id = row[&#171;custom_id&#187;]    if row[&#171;result&#187;][&#171;type&#187;] == &#171;succeeded&#187;:        content = row[&#171;result&#187;][&#171;message&#187;][&#171;content&#187;]        save(custom_id, content)    elif row[&#171;result&#187;][&#171;type&#187;] == &#171;errored&#187;:        # \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u043c \u043e\u0448\u0438\u0431\u043a\u0443 \u0438 \u0440\u0435\u0448\u0430\u0435\u043c, \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0438\u043b\u0438 \u0447\u0438\u043d\u0438\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441        handle_error(custom_id, row[&#171;result&#187;][&#171;error&#187;])    elif row[&#171;result&#187;][&#171;type&#187;] == &#171;expired&#187;:        # \u0437\u0430\u043f\u0440\u043e\u0441 \u043d\u0435 \u0443\u0441\u043f\u0435\u043b \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c\u0441\u044f \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043d\u043e\u0432\u044b\u0439 \u043f\u0430\u043a\u0435\u0442        retry_later(custom_id, row[&#171;body&#187;])custom_id \u0437\u0434\u0435\u0441\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u0430\u043a \u043f\u0435\u0440\u0432\u0438\u0447\u043d\u044b\u0439 \u043a\u043b\u044e\u0447: \u043f\u043e \u043d\u0435\u043c\u0443 \u0432\u044b \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u0447\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0447\u0438\u043d\u0438\u0442\u044c \u0438\u043b\u0438 \u043f\u0435\u0440\u0435\u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c.\u0414\u043b\u044f \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0445 \u0440\u0430\u0441\u0445\u043e\u0434\u043e\u0432 \u043f\u043e \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0444\u043b\u0430\u0433 include_usage=true \u0432 \u0441\u0442\u0440\u043e\u043a\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430:batch = client.batches.retrieve(&#171;\u0410\u0419\u0414\u0418_\u0411\u0410\u0422\u0427\u0410&#187;)print(&#171;\u0422\u0435\u043a\u0443\u0449\u0438\u0439 \u0441\u0442\u0430\u0442\u0443\u0441:&#187;, batch.status)if batch.status == &#171;completed&#187;:    print(&#171;ID \u0433\u043e\u0442\u043e\u0432\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430:&#187;, batch.output_file_id)\u0410 \u0447\u0442\u043e\u0431\u044b \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u0444\u0430\u0439\u043b\u0430 \u0438\u0437 \u043f\u043e\u043b\u044f output_file_id, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442.import requestsdef get_result():    response = requests.get(        &#171;https:\/\/openai.bothub.chat\/v1\/files\/\u0410\u0419\u0414\u0418_\u0424\u0410\u0419\u041b\u0410&#187;,        headers={&#171;Authorization&#187;: &#171;Bearer \u0412\u0410\u0428_API_\u041a\u041b\u042e\u0427_BOTHUB&#187;}    )    link = response.text    print(link)get_result()\u041c\u043e\u0436\u043d\u043e \u043e\u0442\u043c\u0435\u043d\u0438\u0442\u044c \u0431\u0430\u0442\u0447 \u0447\u0435\u0440\u0435\u0437 \u0444\u0443\u043d\u043a\u0446\u0438\u044e client.batches.cancel(&#171;\u0410\u0419\u0414\u0418_\u0411\u0410\u0422\u0427\u0410&#187;), \u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0441\u043f\u0438\u0441\u043e\u043a \u0432\u0441\u0435\u0445 \u043f\u0430\u043a\u0435\u0442\u043e\u0432 \u2014 \u0447\u0435\u0440\u0435\u0437 \u0444\u0443\u043d\u043a\u0446\u0438\u044e batches = client.batches.list(limit=20).\u041e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043e\u0448\u0438\u0431\u043e\u043a\u0412 \u0441\u043b\u0443\u0447\u0430\u0435 \u0431\u0430\u0442\u0447\u0435\u0439 \u043b\u0443\u0447\u0448\u0435 \u0441\u0440\u0430\u0437\u0443 \u0437\u0430\u0434\u0443\u043c\u0430\u0442\u044c\u0441\u044f \u043e\u0431 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u043e\u0448\u0438\u0431\u043e\u043a, \u0442\u0443\u0442 \u043e\u043d\u0430 \u0440\u0430\u0437\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432.\u041e\u0448\u0438\u0431\u043a\u0438 \u0434\u043e \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043f\u0430\u043a\u0435\u0442\u0430\u041f\u0430\u043a\u0435\u0442 \u043d\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u0442\u0441\u044f \u0438\u043b\u0438 \u0441\u0440\u0430\u0437\u0443 \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 failed. \u041f\u0440\u0438\u0447\u0438\u043d\u044b \u0441\u043a\u0443\u0447\u043d\u044b\u0435 \u2014 \u043b\u0438\u0448\u043d\u044f\u044f \u0437\u0430\u043f\u044f\u0442\u0430\u044f \u0432 JSONL, \u043d\u0435\u044d\u043a\u0440\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441\u0438\u043c\u0432\u043e\u043b, \u0437\u0430\u0431\u044b\u0442\u044b\u0439 custom_id, \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0439 endpoint, \u0444\u0430\u0439\u043b \u0431\u043e\u043b\u044c\u0448\u0435 \u043b\u0438\u043c\u0438\u0442\u0430. \u0423 Anthropic, \u043a\u0441\u0442\u0430\u0442\u0438, \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0433\u043e \u043f\u0430\u043a\u0435\u0442\u0430 \u2014 \u0442\u043e \u0431\u0438\u0448\u044c \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u0442\u044c 100 \u0442\u044b\u0441\u044f\u0447 \u0441\u0442\u0440\u043e\u043a, \u043f\u0440\u043e\u0436\u0434\u0430\u0442\u044c \u0447\u0430\u0441 \u0438 \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e \u0432 \u0442\u0440\u0451\u0445 \u0438\u0437 \u043d\u0438\u0445 \u043a\u0440\u0438\u0432\u043e\u0439 max_tokens. \u0423 OpenAI \u0444\u043e\u0440\u043c\u0430\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u0434\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430.\u041d\u0443\u0436\u043d\u043e \u0432\u0430\u043b\u0438\u0434\u0438\u0440\u043e\u0432\u0430\u0442\u044c JSONL \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0434\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u042d\u0442\u043e \u0434\u0435\u0448\u0435\u0432\u043b\u0435, \u0447\u0435\u043c \u043b\u043e\u0432\u0438\u0442\u044c failed \u0447\u0435\u0440\u0435\u0437 API. \u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u2014 \u0440\u0430\u0441\u043f\u0430\u0440\u0441\u0438\u0442\u044c \u043a\u0430\u0436\u0434\u0443\u044e \u0441\u0442\u0440\u043e\u043a\u0443, \u0443\u0431\u0435\u0434\u0438\u0442\u044c\u0441\u044f, \u0447\u0442\u043e custom_id \u0443\u043d\u0438\u043a\u0430\u043b\u0435\u043d \u0438 \u043d\u0435 \u043f\u0443\u0441\u0442\u043e\u0439, \u0430 body \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 model \u0438 messages.import jsonseen = set()with open(&#171;my_tasks.jsonl&#187;) as f:    for i, line in enumerate(f, 1):        row = json.loads(line)  # \u0443\u043f\u0430\u0434\u0451\u0442 \u043d\u0430 \u043a\u0440\u0438\u0432\u043e\u043c JSON \u2014 \u0438 \u0445\u043e\u0440\u043e\u0448\u043e        cid = row.get(&#171;custom_id&#187;)        if not cid or cid in seen:            raise ValueError(f&#187;\u0441\u0442\u0440\u043e\u043a\u0430 {i}: \u043f\u0443\u0441\u0442\u043e\u0439 \u0438\u043b\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 custom_id&#187;)        seen.add(cid)\u041c\u043e\u0436\u043d\u043e \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f Pydantic-\u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0434\u043b\u044f \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438 DTO.\u041e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043e\u0447\u0435\u0440\u0435\u0434\u0438\u041f\u0430\u043a\u0435\u0442 \u043d\u0435 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u0438\u043b\u0438 \u0441\u0442\u0430\u0440\u0442\u0443\u0435\u0442 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e, token_limit_exceeded. \u0412\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b\u0438 \u043d\u043e\u0432\u0443\u044e \u0434\u0436\u043e\u0431\u0443, \u0430 \u043e\u043d \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044e \u0437\u0430 \u043f\u043e\u0442\u043e\u043b\u043e\u043a enqueued-\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 API \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0435\u0433\u043e \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c.\u0421\u0447\u0438\u0442\u0430\u0442\u044c \u0431\u044e\u0434\u0436\u0435\u0442 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0434\u043e \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438. \u0415\u0441\u043b\u0438 \u0431\u044e\u0434\u0436\u0435\u0442 \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u2014 \u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043f\u0430\u043a\u0435\u0442\u044b \u0432 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u043d\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0438\u043b\u0438 \u0436\u0434\u0430\u0442\u044c, \u043f\u043e\u043a\u0430 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0435.import timedef submit_with_backoff(client, file_id, max_attempts=5):    delay = 30    for attempt in range(max_attempts):        try:            return client.batches.create(                input_file_id=file_id,                endpoint=&#187;\/v1\/chat\/completions&#187;,                completion_window=&#187;24h&#187;            )        except Exception as e:            if &#171;token_limit_exceeded&#187; not in str(e):                raise            if attempt == max_attempts &#8212; 1:                raise            time.sleep(delay)            delay *= 2  # 30 \u2192 60 \u2192 120 \u2192 &#8230;\u041e\u0448\u0438\u0431\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043f\u0430\u043a\u0435\u0442\u0430\u0421\u0430\u043c\u0430\u044f \u043a\u043e\u0432\u0430\u0440\u043d\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f. \u041f\u0430\u043a\u0435\u0442 completed, \u0432\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0435 output, \u0430 \u0442\u0430\u043c \u0447\u0430\u0441\u0442\u044c \u0441\u0442\u0440\u043e\u043a \u0441 result.type = &#171;succeeded&#187;, \u0447\u0430\u0441\u0442\u044c \u0441 &#171;errored&#187;, \u0447\u0430\u0441\u0442\u044c \u0441 &#171;expired&#187;. \u0423 Anthropic \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438 errored, canceled \u0438 expired \u0432 request_counts \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043d\u043e\u043b\u044c, \u043f\u043e\u043a\u0430 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0441\u0435\u0433\u043e \u043f\u0430\u043a\u0435\u0442\u0430 \u043d\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u0442\u0441\u044f \u2014 \u0442\u043e \u0431\u0438\u0448\u044c \u0434\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 \u0432\u044b \u043d\u0435 \u0443\u0437\u043d\u0430\u0435\u0442\u0435, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u043b\u043e\u0441\u044c.\u0423 OpenAI \u043e\u0448\u0438\u0431\u043a\u0438 \u043f\u0438\u0448\u0443\u0442\u0441\u044f \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 error-\u0444\u0430\u0439\u043b, \u0443 Anthropic \u2014 \u0432 \u0442\u043e\u0442 \u0436\u0435&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-502424","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/502424","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=502424"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/502424\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=502424"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=502424"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=502424"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}