{"id":460984,"date":"2025-05-26T09:03:33","date_gmt":"2025-05-26T09:03:33","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=460984"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=460984","title":{"rendered":"Test Driven Development: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0442\u0435\u0441\u0442\u044b, \u043f\u043e\u0442\u043e\u043c \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f<\/span>"},"content":{"rendered":"
<\/div>\n
\n
\n
\n
\n

Test Driven Development \u0432\u00a0\u043f\u0440\u043e\u0441\u0442\u043e\u043c \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0438 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0442\u0435\u0441\u0442\u043e\u0432 \u043f\u0435\u0440\u0435\u0434 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u043c \u043a\u043e\u0434\u0430, \u043d\u043e\u00a0\u043a\u0430\u0436\u0434\u044b\u0439, \u043a\u0442\u043e \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u043e\u0432\u0430\u043b \u0435\u0433\u043e \u043f\u043e\u2011\u043d\u0430\u0441\u0442\u043e\u044f\u0449\u0435\u043c\u0443, \u0437\u043d\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u044d\u0442\u043e \u043f\u043e\u043d\u044f\u0442\u0438\u0435 \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u0448\u0438\u0440\u0435.<\/p>\n

\u041d\u0430\u043b\u0438\u0447\u0438\u0435 \u0442\u0435\u0441\u0442\u043e\u0432 \u043f\u0435\u0440\u0435\u0434 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0437\u0430\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0432\u0430\u0441 \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u0443\u043c\u0430\u0442\u044c \u043e\u00a0\u0442\u043e\u043c, \u0447\u0442\u043e\u00a0\u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043e\u0436\u0438\u0434\u0430\u0435\u0442\u0441\u044f, \u0430 \u00ab\u043a\u0430\u043a\u00bb \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043f\u043e\u0437\u0436\u0435, \u0438 \u00ab\u043a\u0430\u043a\u00bb\u00a0\u2014 \u044d\u0442\u043e \u0434\u0435\u0442\u0430\u043b\u044c \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0440\u0435\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u043d\u0433\u0430.<\/p>\n

\u0412\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435, \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u0439 \u043d\u0430\u00a0\u043e\u0441\u043d\u043e\u0432\u0435 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 Rog\u00e9rio Chaves \u00abThe complete guide for TDD with LLMs\u00bb<\/a> \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (LLM) \u0434\u043b\u044f\u00a0Test Driven Development. <\/p>\n

\u0425\u043e\u0440\u043e\u0448\u043e \u0438 \u043f\u043b\u043e\u0445\u043e \u0441\u0440\u0430\u0437\u0443<\/h2>\n

\u041c\u043e\u0434\u0435\u043b\u0438 LLM \u043e\u0442\u043b\u0438\u0447\u043d\u043e \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0441\u00a0\u0442\u0435\u043c, \u0447\u0442\u043e\u00a0\u0432\u044b \u043f\u0440\u043e\u0441\u0438\u0442\u0435 \u0438\u0445 \u0441\u0434\u0435\u043b\u0430\u0442\u044c… \u043d\u043e\u00a0\u0442\u0430\u043a\u0436\u0435 \u0432\u0440\u043e\u0434\u0435 \u043a\u0430\u043a\u00a0\u0438 \u043d\u0435\u00a0\u0434\u0435\u043b\u0430\u044e\u0442. \u0412\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0443 \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u043e\u0442\u00a0\u0432\u0430\u0441 \u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 LLM \u0434\u0435\u043b\u0430\u0435\u0442 \u0442\u043e, \u0447\u0442\u043e\u00a0\u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435, \u0432\u00a0\u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435\u00a0\u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0435. \u0420\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0430\u044f \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u043b\u0435\u0433\u043a\u043e \u0441\u043b\u043e\u043c\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438\u00a0\u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438, \u043d\u043e\u00a0\u043e\u0442\u0447\u0430\u0441\u0442\u0438 \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u00a0\u0438\u043d\u043e\u0433\u0434\u0430 \u0432\u044b \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442\u0435 \u0432\u0441\u0435\u0445 \u0434\u0435\u0442\u0430\u043b\u0435\u0439 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a\u00a0\u043e\u043d\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0441\u0435\u0431\u044f \u0432\u0435\u0441\u0442\u0438, \u0432\u044b \u0437\u0430\u043c\u0435\u0447\u0430\u0435\u0442\u0435 \u0442\u043e\u043b\u044c\u043a\u043e, \u043a\u043e\u0433\u0434\u0430 \u0432\u044b\u0432\u043e\u0434 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u00a0\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, TDD \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0438 \u043f\u043b\u043e\u0445\u043e \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u00a0\u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f\u00a0\u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043b\u0443\u0447\u0448\u0438\u0445 LLM\u2011\u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0439.<\/p>\n

\u0414\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0441\u00a0\u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u0444\u0438\u043b\u043e\u0441\u043e\u0444\u0438\u0438, \u0435\u0441\u043b\u0438\u00a0\u0431\u044b \u0432\u043c\u0435\u0441\u0442\u043e \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438 \u0432\u044b \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438, \u0447\u0442\u043e\u00a0\u043e\u0436\u0438\u0434\u0430\u0435\u0442\u0435 \u043e\u0442\u00a0\u0432\u044b\u0432\u043e\u0434\u0430, \u0442\u043e\u0433\u0434\u0430 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0430 \u043c\u043e\u0433\u043b\u0430\u00a0\u0431\u044b \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0443\u0436\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439, \u0438 \u0432\u044b \u043c\u043e\u0433\u043b\u0438\u00a0\u0431\u044b \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0443 \u0438\u043b\u0438\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0437\u0436\u0435, \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0443\u0431\u0435\u0434\u0438\u0432\u0448\u0438\u0441\u044c, \u0447\u0442\u043e\u00a0\u0432\u0441\u0435 \u043f\u043e\u2011\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u0430\u043a, \u043a\u0430\u043a\u00a0\u043e\u0436\u0438\u0434\u0430\u043b\u043e\u0441\u044c.<\/p>\n

\u0414\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u043b\u043e\u0445\u043e, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043e\u0431\u044b\u0447\u043d\u043e TDD \u043b\u0443\u0447\u0448\u0435 \u0441\u043e\u0447\u0435\u0442\u0430\u0435\u0442\u0441\u044f \u0441\u00a0\u044e\u043d\u0438\u0442\u2011\u0442\u0435\u0441\u0442\u0430\u043c\u0438, \u043d\u043e\u00a0LLM \u043d\u0435\u00a0\u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0442 \u0434\u043b\u044f\u00a0\u044e\u043d\u0438\u0442\u2011\u0442\u0435\u0441\u0442\u043e\u0432, \u0438\u0445 \u043d\u0435\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u0430\u044f \u043f\u0440\u0438\u0440\u043e\u0434\u0430 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u043e\u043d\u0438 \u043c\u043e\u0433\u0443\u0442 \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e, \u0438 \u043d\u0443\u0436\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0447\u0442\u043e\u0431\u044b \u0443\u0431\u0435\u0434\u0438\u0442\u044c\u0441\u044f, \u0447\u0442\u043e\u00a0\u043e\u043d\u0438 \u0432\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442.<\/p>\n

\u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0431\u0430\u0433\u043e\u0432 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0442\u0435\u0441\u0442\u043e\u0432. \u042e\u043d\u0438\u0442 \u0442\u0435\u0441\u0442\u044b \u0434\u0435\u0448\u0435\u0432\u043b\u0435 \u0432\u0441\u0435\u0433\u043e \u0438 \u0441\u00a0\u0438\u0445 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0431\u0430\u0433\u043e\u0432, \u0430\u00a0\u0432\u043e\u0442 \u043e\u0448\u0438\u0431\u043a\u0438, \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u043c\u0438 \u043e\u0431\u043e\u0439\u0434\u0443\u0442\u0441\u044f \u043d\u0430\u043c \u0434\u043e\u0440\u043e\u0436\u0435 \u0432\u0441\u0435\u0433\u043e.<\/p>\n

<\/figure>\n

\u0412\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 TDD \u0434\u043b\u044f LLM \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e pytest<\/h2>\n

\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0441\u043b\u0443\u0447\u0430\u0439. \u041c\u044b \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0431\u043e\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0432\u00a0\u0442\u0432\u0438\u0442\u0442\u0435\u0440 \u0440\u0435\u0446\u0435\u043f\u0442\u044b, \u043f\u0440\u0438\u0447\u0435\u043c \u0442\u0432\u0438\u0442 \u0434\u043e\u043b\u0436\u0435\u043d\u00a0\u0431\u044b\u0442\u044c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u043c, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u043d\u0430\u0448 \u043f\u0435\u0440\u0432\u044b\u0439 \u0442\u0435\u0441\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0440\u043e\u0441\u0442:<\/p>\n

import pytest  from app import recipe_bot @pytest.mark.asyncio  async def test_fits_a_tweet(entry, model): \u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0 input=\"Generate me a recipe for a quick breakfast with bacon\", \u00a0\u00a0\u00a0\u00a0\u00a0 model=\"gpt-3.5-turbo\" \u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u041c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c pytest \u0434\u043b\u044f\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0442\u0435\u0441\u0442\u043e\u0432, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 pytest\u2011asyncio \u0434\u043b\u044f\u00a0\u0430\u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0442\u0435\u0441\u0442\u043e\u0432, \u0447\u0442\u043e\u00a0\u0431\u0443\u0434\u0435\u0442 \u0432\u0430\u0436\u043d\u043e \u0447\u0443\u0442\u044c \u043f\u043e\u0437\u0436\u0435.<\/p>\n
\u0421\u0435\u0439\u0447\u0430\u0441 \u043d\u0430\u0448 \u0442\u0435\u0441\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0440\u043e\u0441\u0442: \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0434\u043b\u0438\u043d\u0443 \u043f\u0435\u0440\u0435\u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445. \u0422\u0435\u043f\u0435\u0440\u044c, \u0441\u043e\u0433\u043b\u0430\u0441\u043d\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u0443 TDD, \u043c\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u0442\u0435\u0441\u0442 (\u0431\u0435\u0437 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438), \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e\u00a0\u043e\u043d \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u043b\u0441\u044f (\u0435\u0441\u043b\u0438 \u043e\u043d \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u043b\u0441\u044f, \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e\u2011\u0442\u043e \u043d\u0435\u00a0\u0442\u0430\u043a!), \u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u043c \u043a\u00a0\u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438:<\/p>\n
import litellm from litellm import ModelResponse  async def generate_tweet(input: str, model: str = \"gpt-3.5-turbo\") -> str: \u00a0\u00a0\u00a0 response: ModelResponse = await litellm.acompletion( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=model, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 messages=[ \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"role\": \"system\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"content\": \"You are a recipe tweet generator, generate recipes using a max of 140 characters.\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 }, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 {\"role\": \"user\", \"content\": input}, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 ], \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 temperature=0.0, \u00a0\u00a0\u00a0 )\u00a0 # type: ignore  \u00a0\u00a0\u00a0 return response.choices[0].message.content\u00a0 # type: ignore \u00a0<\/code><\/pre>\n
\u041c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0443 litellm, \u043a\u0430\u043a\u00a0\u0437\u0430\u043c\u0435\u043d\u0443 \u0434\u043b\u044f\u00a0OpenAI, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043d\u0430\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 LLM, \u043f\u0440\u043e\u0441\u0442\u043e \u043c\u0435\u043d\u044f\u044f \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442 \u043c\u043e\u0434\u0435\u043b\u0438. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u0430\u044f, \u043f\u043e\u043d\u044f\u0442\u043d\u0430\u044f \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0430 \u0438 \u0432\u0441\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c. \u041c\u044b \u0441\u043d\u043e\u0432\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u0442\u0435\u0441\u0442:<\/p>\n
> pytest  ============================================================================ FAILURES ============================================================================= ________________________________________________________________________ test_fits_a_tweet ________________________________________________________________________      @pytest.mark.asyncio     async def test_fits_a_tweet():         recipe = await recipe_bot.generate_tweet(             input=\"Generate me a recipe for a quick breakfast with bacon\",             model=\"gpt-3.5-turbo\",         )  >       assert len(recipe) <= 140 E       AssertionError: assert 144 <= 140 E        +  where 144 = len('Crispy Bacon Breakfast Tacos: Cook bacon until crispy, scramble eggs, fill tortillas with eggs, bacon, cheese, and salsa. Enjoy! #breakfasttacos')<\/code><\/pre>\n
\u041e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u00a0LLM \u0443\u0436\u0430\u0441\u043d\u043e \u0443\u043c\u0435\u044e\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0432\u044b \u0437\u0430\u0434\u0430\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u0447\u0435\u0442\u043a\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u0432\u00a0\u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0435, \u043e\u043d\u0430 \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u0437\u0430\u00a0\u0440\u0430\u043c\u043a\u0438 140\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432. \u0422\u0435\u043f\u0435\u0440\u044c, \u043a\u043e\u0433\u0434\u0430 \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438, \u0441\u0442\u0430\u043b\u043e \u043f\u0440\u043e\u0449\u0435 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438 \u0438 \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u00a0\u043b\u0438 \u044d\u0442\u043e:<\/p>\n
- \"content\": \"You are a recipe tweet generator, generate recipes using a max of 140 characters.\",  + \"content\": \"You are a recipe tweet generator, generate recipes using a max of 140 characters, just the ingredients, no yapping.\",<\/code><\/pre>\n
\u0412\u044b\u043f\u043e\u043b\u043d\u0438\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443:<\/p>\n
> pytest  tests\/test_recipe_bot.py .                                                                                                                                  [100%]  ======================================================================== 1 passed in 1.77s ========================================================================<\/code><\/pre>\n
\u0422\u0435\u0441\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d \u0443\u0441\u043f\u0435\u0448\u043d\u043e, \u043d\u043e\u00a0\u0432\u0441\u0435\u0433\u0434\u0430\u00a0\u043b\u0438 \u043e\u043d \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432\u0435\u0440\u043d\u043e? \u0417\u0434\u0435\u0441\u044c \u0435\u0441\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c, \u043e\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u0434\u0430\u043b\u0435\u0435.<\/p>\n
\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u21161: \u043d\u0435\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u044b\u0435 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435<\/h2>\n
\u041f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u043b\u044e\u0431\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u043d\u043e\u00a0\u043d\u0430\u0448\u0430 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0430 \u043d\u0435\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e \u0432\u043e\u00a0\u0432\u0441\u0435\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445. \u041d\u0430\u043b\u0438\u0447\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u0440\u0438\u0434\u0430\u0435\u0442 \u043d\u0430\u043c \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438, \u043d\u043e\u00a0\u0432\u00a0\u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u043b\u0443\u0447\u0448\u0438\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u044d\u0442\u043e \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432. \u0414\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u044e pytest:<\/p>\n
import pandas as pd  entries = pd.DataFrame( \u00a0\u00a0\u00a0 { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"input\": [ \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a quick breakfast with bacon\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a lunch using lentils\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a vegetarian dessert\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a super complicated recipe for a dinner with a lot of ingredients\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 ], \u00a0\u00a0\u00a0 } )  \u00a0  @pytest.mark.asyncio @pytest.mark.parametrize(\"entry\", entries.itertuples()) async def test_fits_a_tweet(entry): \u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=\"gpt-3.5-turbo\", \u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u0422\u0435\u043f\u0435\u0440\u044c \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043d\u0435\u00a0\u043e\u0434\u0438\u043d \u043f\u0440\u0438\u043c\u0435\u0440, \u0430\u00a0\u0447\u0435\u0442\u044b\u0440\u0435, \u0438 \u0437\u0430\u043c\u0435\u0442\u044c\u0442\u0435, \u0447\u0442\u043e\u00a0\u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u043c \u0438\u0437\u00a0\u043d\u0438\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f\u00a0\u0431\u044b\u0442\u044c \u0443\u043c\u043d\u0438\u043a\u043e\u043c, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u0448 \u0431\u043e\u0442 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432 \u043a\u00a0\u044d\u0442\u043e\u043c\u0443!<\/p>\n
> pytest  tests\/test_recipe_bot.py .                                                                                                                                  [100%]  ======================================================================== 4 passed in 7.10s ========================================================================<\/code><\/pre>\n
\u0414\u0430, \u044d\u0442\u043e \u0442\u0430\u043a! \u041e\u0442\u043b\u0438\u0447\u043d\u043e, \u044d\u0442\u043e \u0434\u0430\u0435\u0442 \u043d\u0430\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438. \u0417\u0430\u043c\u0435\u0442\u044c\u0442\u0435, \u0447\u0442\u043e\u00a0\u0432\u00a0\u0432\u044b\u0432\u043e\u0434\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e 4\u00a0\u0442\u0435\u0441\u0442\u0430 \u043f\u0440\u043e\u0439\u0434\u0435\u043d\u044b, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 parametrize \u0441\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u0430\u043c\u0438 \u0432\u0445\u043e\u0434\u043e\u0432 \u043e\u0434\u0438\u043d \u0442\u0435\u0441\u0442 \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u0441\u044f \u0432\u00a0\u0447\u0435\u0442\u044b\u0440\u0435.<\/p>\n
\u041f\u0440\u0438\u043c\u0435\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u00a0\u043f\u0440\u0438\u00a0\u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0434\u0440\u0443\u0433\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:<\/p>\n
============================================================================ FAILURES ============================================================================= FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry3-gpt-3.5-turbo] - AssertionError: assert 141 <= 140 ============================================================= 1 failed, 3 passed, 1 warning in 7.12s =============================================================<\/code><\/pre>\n
\u041f\u043e\u0447\u0442\u0438! \u041d\u0430\u00a0\u043e\u0434\u0438\u043d\u00a0\u043b\u0438\u0448\u043d\u0438\u0439 \u0441\u0438\u043c\u0432\u043e\u043b! \u041d\u043e\u00a0\u043a\u0430\u043a\u00a0\u0442\u0430\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c? \u0422\u0435\u0441\u0442\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0442\u043e\u00a0\u043f\u0440\u043e\u0448\u043b\u0438 \u0432\u00a0\u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0432\u0441\u0435 \u0442\u0430\u043a \u043f\u0440\u043e\u0441\u0442\u043e, \u0442\u043e\u0447\u043d\u0435\u0435 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e.<\/p>\n
\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u21162: \u0437\u044b\u0431\u043a\u043e\u0441\u0442\u044c<\/h2>\n
\u042d\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0434\u043b\u044f\u00a0LLM, \u0434\u0440\u044f\u0431\u043b\u043e\u0441\u0442\u044c (\u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442) \u043f\u0440\u0438\u0441\u0443\u0449\u0430 LLM \u0432\u00a0\u0433\u043e\u0440\u0430\u0437\u0434\u043e \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438, \u0447\u0435\u043c \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u043e\u043c\u0443 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e\u043c\u0443 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0435\u043d\u0438\u044e. \u041a\u00a0\u0441\u0447\u0430\u0441\u0442\u044c\u044e, \u0435\u0441\u0442\u044c \u0435\u0449\u0435 \u043e\u0434\u043d\u0430 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u043c \u043f\u043e\u043c\u043e\u0447\u044c, \u0438 \u0435\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0442\u043e\u0436\u0435 \u0432\u0440\u043e\u0434\u0435 \u043a\u0430\u043a\u00a0\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e\u00a0\u2014 Flaky! Flaky \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043d\u0430\u043c \u043f\u043e\u043c\u0435\u0442\u0438\u0442\u044c \u0442\u0435\u0441\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u0435\u043d \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437, \u043f\u043e\u043a\u0430 \u043e\u043d \u043d\u0435\u00a0\u0441\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442:<\/p>\n
\u00a0 @pytest.mark.asyncio + @pytest.mark.flaky(max_runs=3) \u00a0 @pytest.mark.parametrize(\"entry\", entries.itertuples())  \u00a0 async def test_fits_a_tweet(entry): \u00a0\u00a0\u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=\"gpt-3.5-turbo\", \u00a0\u00a0\u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0\u00a0\u00a0 assert len(recipe) <= 140\u00a0<\/code><\/pre>\n
\u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u044d\u0442\u043e\u043c\u0443 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044e \u043c\u044b \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u043c \u043a\u0430\u0436\u0434\u043e\u043c\u0443 LLM \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u043f\u043e\u043f\u044b\u0442\u043a\u0443 3\u00a0\u0440\u0430\u0437\u0430 \u0434\u043e\u00a0\u0432\u044b\u043d\u0435\u0441\u0435\u043d\u0438\u044f \u0432\u0435\u0440\u0434\u0438\u043a\u0442\u0430, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044f 3\u00a0\u043f\u043e\u043f\u044b\u0442\u043a\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b, \u0438 \u0442\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a\u00a0\u0432\u0441\u0435 \u043f\u0440\u043e\u0439\u0434\u0435\u0442:<\/p>\n
> pytest  tests\/test_recipe_bot.py ....                                                                                                                                [100%] ================================================================== 4 passed, 1 warning in 6.80s ===================================================================<\/code><\/pre>\n
\u041e\u0442\u043b\u0438\u0447\u043d\u043e! \u0412\u0441\u0435 \u043f\u0440\u043e\u0448\u043b\u043e! \u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e\u00a0\u0435\u0449\u0435 \u043f\u0430\u0440\u0430 \u043f\u043e\u043f\u044b\u0442\u043e\u043a\u00a0\u2014 \u0438 \u043d\u0430\u0448 \u0431\u043e\u0442 \u0441\u043c\u043e\u0436\u0435\u0442 \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u0443\u043b\u043e\u0436\u0438\u0442\u044c\u0441\u044f \u0432 140\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432. \u041d\u043e\u00a0\u0447\u0442\u043e\u00a0\u043c\u044b \u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0445\u043e\u0442\u0438\u043c \u0441\u043a\u0430\u0437\u0430\u0442\u044c? \u0418\u043d\u043e\u0433\u0434\u0430 \u0442\u0435\u0441\u0442 \u043f\u0440\u043e\u0432\u0430\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u0430\u00a0\u0438\u043d\u043e\u0433\u0434\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 (\u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, 33% \u0441\u043b\u0443\u0447\u0430\u0435\u0432), \u043d\u043e, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u0432\u00a0\u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0438\u0432\u0435 \u0432\u044b \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u0442\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u043f\u043e\u043f\u044b\u0442\u043a\u0438 \u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437, \u0438 \u0432\u044b \u0434\u0430\u0436\u0435 \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u0442\u0435 \u0437\u043d\u0430\u0442\u044c, \u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u00a0\u043b\u0438 \u0442\u043e, \u0447\u0442\u043e\u00a0\u0432\u044b \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0438, \u0438\u043b\u0438\u00a0\u043d\u0435\u0442, \u0447\u0442\u043e\u0431\u044b \u0432\u044b \u043c\u043e\u0433\u043b\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u043f\u043e\u043f\u044b\u0442\u043a\u0443, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0448 \u0442\u0435\u0441\u0442 \u043d\u0435\u00a0\u0434\u0430\u0435\u0442 \u043d\u0430\u043c \u0442\u0430\u043a\u043e\u0439 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u0438 (\u0442\u043e\u043b\u044c\u043a\u043e 33%).<\/p>\n
\u041e\u0436\u0438\u0434\u0430\u0442\u044c 100% \u0437\u0434\u0435\u0441\u044c \u043d\u0435\u00a0\u0441\u0442\u043e\u0438\u0442. LLM \u043f\u043e\u00a0\u0441\u0432\u043e\u0435\u0439 \u043f\u0440\u0438\u0440\u043e\u0434\u0435 \u043d\u0435\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b, \u043d\u043e\u00a0\u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0432\u043c\u0435\u0441\u0442\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u0435\u0440\u0445\u043d\u0435\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0438 \u043d\u0438\u0436\u043d\u044e\u044e. \u0422\u043e \u0435\u0441\u0442\u044c, \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u0438\u043c\u0435\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0432\u00a0\u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0438\u0432\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u043c\u044b \u043e\u0436\u0438\u0434\u0430\u0435\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e\u00a0\u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u0432 67% \u0441\u043b\u0443\u0447\u0430\u0435\u0432. \u041c\u044b \u043c\u043e\u0436\u0435\u043c \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u0430 min_passes:<\/p>\n
 @pytest.mark.asyncio - @pytest.mark.flaky(max_runs=3) + @pytest.mark.flaky(max_runs=3, min_passes=2)  \u00a0 @pytest.mark.parametrize(\"entry\", entries.itertuples()) \u00a0 async def test_fits_a_tweet(entry): \u00a0\u00a0\u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=\"gpt-3.5-turbo\", \u00a0\u00a0\u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u0422\u0435\u043f\u0435\u0440\u044c \u0432\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u0435, \u0447\u0442\u043e\u00a0\u043e\u043d \u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c 3\u00a0\u0440\u0430\u0437\u0430, \u043d\u043e\u00a0\u0434\u043e\u043b\u0436\u0435\u043d \u043f\u0440\u043e\u0439\u0442\u0438 \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u0432 2\u00a0\u0438\u0437\u00a0\u043d\u0438\u0445, ~67% \u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041d\u043e\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442\u00a0\u043b\u0438 \u044d\u0442\u043e, \u0447\u0442\u043e\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u0430\u0448\u0438\u0445 \u044e\u043d\u0438\u0442\u2011\u0442\u0435\u0441\u0442\u043e\u0432 \u0442\u0435\u043f\u0435\u0440\u044c \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u0447\u0442\u043e\u00a0\u044d\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0435\u0441\u043b\u0438 \u0447\u0442\u043e\u2011\u0442\u043e \u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0435\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442? \u042d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u043d\u043e\u0433\u0438\u0445 \u043b\u044e\u0434\u0435\u0439 \u0447\u0443\u0432\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0441\u0435\u0431\u044f \u043d\u0435\u043b\u043e\u0432\u043a\u043e, \u043e\u0434\u043d\u0430\u043a\u043e \u043c\u044b \u043d\u0430\u0445\u043e\u0434\u0438\u043c\u0441\u044f \u0432\u00a0\u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u043e\u043c \u043c\u0438\u0440\u0435, \u043f\u043e\u043c\u043d\u0438\u0442\u0435, \u0447\u0442\u043e, \u0435\u0441\u043b\u0438 \u0432\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043b\u0438, \u0447\u0442\u043e\u00a0\u043f\u043e\u00a0\u0432\u0430\u0448\u0438\u043c \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f\u043c, \u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0432\u0430\u0448\u0438\u0445 \u0442\u0435\u0441\u0442\u043e\u0432 \u0443\u0436\u0435 \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u043b\u0443\u0447\u0448\u0435, \u0447\u0435\u043c \u0442\u043e\u0442, \u0441\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u043b\u0438, \u043d\u0430\u0445\u043e\u0434\u044f\u0441\u044c \u0432\u00a0\u043f\u043e\u043b\u043d\u043e\u0439 \u043d\u0435\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0442\u0435\u043f\u0435\u0440\u044c, \u043f\u043e\u00a0\u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0432\u043e\u043f\u0440\u043e\u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u0446\u0438\u0444\u0440, \u043f\u043e\u00a0\u043c\u0435\u0440\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a\u00a0\u0432\u044b \u0438\u0442\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0435\u0441\u044c \u0438 \u0443\u043b\u0443\u0447\u0448\u0430\u0435\u0442\u0435 \u0441\u0432\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435.<\/p>\n
\u0410\u00a0\u0447\u0442\u043e, \u0435\u0441\u043b\u0438 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0434\u0440\u0443\u0433\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c? \u0411\u043e\u043b\u0435\u0435 \u0443\u043c\u043d\u0443\u044e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, gpt-4o? \u0415\u0441\u043b\u0438 \u043e\u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0gpt-3.5-turbo, \u0442\u043e \u044d\u0442\u043e \u0434\u043e\u043b\u0436\u043d\u043e\u00a0\u0431\u044b\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e, \u0432\u0435\u0440\u043d\u043e? \u0410\u00a0\u043a\u0430\u043a\u00a0\u043d\u0430\u0441\u0447\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u00a0\u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c \u043a\u043e\u0434\u043e\u043c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 llama3? \u0412\u00a0\u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432, \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438 \u0432\u0435\u0434\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442\u044c? \u041d\u0435\u0442?<\/p>\n
\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u2116 3: \u041f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043e\u043a<\/h2>\n
\u042d\u0442\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0434\u043b\u044f\u00a0LLM, \u0440\u0435\u0448\u0438\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043c\u043e\u0447\u044c \u044e\u043d\u0438\u0442\u2011\u0442\u0435\u0441\u0442\u044b: \u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043c\u0435\u043d\u044f\u0435\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0435 \u0438\u0445, \u0432\u0430\u0448\u0438 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438 \u043c\u043e\u0433\u0443\u0442 \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c. \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c parametrize \u0438 litellm, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043b\u0435\u0433\u043a\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043d\u0430\u0448\u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043d\u0430\u00a0\u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c, \u043a\u0430\u043a\u00a0\u043e\u043d\u0438 \u0441\u0435\u0431\u044f \u0432\u0435\u0434\u0443\u0442:<\/p>\n
from itertools import product  models = [\"gpt-3.5-turbo\", \"gpt-4o\", \"groq\/llama3-70b-8192\"]  @pytest.mark.asyncio @pytest.mark.flaky(max_runs=3, min_passes=2) @pytest.mark.parametrize(\"entry, model\", product(entries.itertuples(), models))  async def test_fits_a_tweet(entry, model): \u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=model, \u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u044b \u0441\u043e\u043f\u0440\u044f\u0433\u0430\u0435\u043c \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0441\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0445\u043e\u0442\u0438\u043c \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b:<\/p>\n
> pytest  tests\/test_recipe_bot.py ........F.FF                                                                                                                       [100%]  ============================================================================ FAILURES ============================================================================= FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry8-groq\/llama3-70b-8192] - assert 151 <= 140 FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry10-gpt-4o] - AssertionError: assert 148 <= 140 FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry11-groq\/llama3-70b-8192] - assert 320 <= 140 ============================================================= 3 failed, 9 passed, 1 warning in 45.21s ============================================================<\/code><\/pre>\n
\u0412\u0438\u0434\u043d\u043e, \u0447\u0442\u043e\u00a0GPT-4\u00a0\u0438 Llama3\u00a0\u043d\u0435\u00a0\u0441\u043f\u0440\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u0441\u00a0\u044d\u0442\u0438\u043c \u0442\u0435\u0441\u0442\u043e\u043c, \u043f\u0440\u0438\u0447\u0435\u043c \u043e\u0431\u0430 \u043d\u0435\u00a0\u0441\u043f\u0440\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u0441\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u043c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f. \u041d\u043e\u00a0\u043f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u043c\u044b \u043f\u043e\u0439\u0434\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435, \u0432\u044b \u0437\u0430\u043c\u0435\u0442\u0438\u043b\u0438, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0443\u0448\u043b\u043e \u043d\u0430\u00a0\u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043d\u0430\u0448\u0438\u0445 \u0442\u0435\u0441\u0442\u043e\u0432? \u041c\u044b \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u043b\u0438 45\u00a0\u0441\u0435\u043a\u0443\u043d\u0434, \u0438 \u044d\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0435\u0440\u0432\u044b\u0439 \u0442\u0435\u0441\u0442, \u0430\u00a0\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0431\u043e\u0440\u0443, \u043a\u043e\u0433\u0434\u0430 \u043f\u0440\u043e\u0435\u043a\u0442 \u0432\u044b\u0440\u0430\u0441\u0442\u0435\u0442.<\/p>\n
\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u2116 4: LLM \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u0435<\/h2>\n
\u0414\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 groq \u0431\u0435\u0437\u0443\u043c\u043d\u043e\u00a0\u0431\u044b\u0441\u0442\u0440, \u043e\u043d \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0430\u00a0\u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u043a\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u044b \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c, \u043d\u043e\u00a0\u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u00a0\u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u0442\u0438 LLM \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u043d\u0435\u00a0\u043d\u0430\u00a0\u043d\u0430\u0448\u0435\u0439 \u043c\u0430\u0448\u0438\u043d\u0435, \u0430\u00a0\u0447\u0435\u0440\u0435\u0437 API, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u00a0\u0442\u043e\u043c, \u0447\u0442\u043e\u00a0\u043e\u043d\u0438 \u0432\u044b\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0430\u00a0\u043d\u0435\u00a0\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e.<\/p>\n
\u041a\u00a0\u0441\u0447\u0430\u0441\u0442\u044c\u044e, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c pytest\u2011asyncio\u2011cooperative (\u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0442\u043a\u0443 https:\/\/github.com\/willemt\/pytest\u2011asyncio\u2011cooperative\/pull\/66<\/a>, \u0435\u0441\u043b\u0438 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0441\u00a0\u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u043c\u0438 \u043f\u043e\u043f\u044b\u0442\u043a\u0430\u043c\u0438). \u042d\u0442\u0430 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0442\u0435\u0441\u0442\u0430\u043c pytest \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c\u0441\u044f \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e:<\/p>\n
- @pytest.mark.asyncio + @pytest.mark.asyncio_cooperative \u00a0 @pytest.mark.parametrize(\"entry, model\", product(entries.itertuples(), models))  \u00a0 async def test_fits_a_tweet(entry, model): \u00a0\u00a0\u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=model, \u00a0\u00a0\u00a0\u00a0\u00a0 )  \u00a0\u00a0\u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u0422\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u043e\u0431\u0435\u0436\u0438\u043c\u0441\u044f \u0435\u0449\u0435 \u0440\u0430\u0437:<\/p>\n
> pytest  ============================================================================ FAILURES ============================================================================= FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry9-gpt-3.5-turbo] - AssertionError: assert 141 <= 140 FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry11-groq\/llama3-70b-8192] - assert 308 <= 140 FAILED tests\/test_recipe_bot.py::test_fits_a_tweet[entry10-gpt-4o] - AssertionError: assert 148 <= 140 ============================================================= 4 failed, 8 passed, 1 warning in 27.88s ==============================================================<\/code><\/pre>\n
\u0422\u0435\u0441\u0442\u044b, \u043f\u043e\u2011\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043d\u0435\u00a0\u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f, \u043d\u043e\u00a0\u0442\u0435\u043f\u0435\u0440\u044c \u044d\u0442\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 27\u00a0\u0441, \u0447\u0442\u043e\u00a0\u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043b\u0443\u0447\u0448\u0435, \u043d\u043e\u00a0\u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0438\u0437\u2011\u0437\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u044f\u0442 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e. \u0415\u0441\u043b\u0438 \u043c\u044b \u0443\u0431\u0435\u0440\u0435\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u043f\u043e\u043f\u044b\u0442\u043a\u0438, \u0432\u0441\u0435 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c\u0441\u044f \u0437\u0430 2\u00a0\u0441.<\/p>\n
\u0411\u044b\u0441\u0442\u0440\u044b\u0439 \u0446\u0438\u043a\u043b \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u0441\u0432\u044f\u0437\u0438 \u043e\u0447\u0435\u043d\u044c \u0432\u0430\u0436\u0435\u043d \u0434\u043b\u044f\u00a0\u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0432\u0430\u043c\u00a0\u0431\u044b\u043b\u043e \u0443\u0434\u043e\u0431\u043d\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c \u0438 \u0438\u0442\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u043d\u0430\u0448\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435.<\/p>\n
\u041e\u0442\u043b\u0438\u0447\u043d\u043e, \u0442\u0435\u043f\u0435\u0440\u044c, \u043a\u043e\u0433\u0434\u0430 \u0443\u00a0\u043d\u0430\u0441 \u0432\u0441\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a\u00a0\u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0435. \u041c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043f\u044b\u0442\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0443 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0445\u043e\u0440\u043e\u0448\u043e \u0432\u043e\u00a0\u0432\u0441\u0435\u0445 \u0442\u0440\u0435\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043d\u043e, \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0432\u0430\u043c \u043d\u0435\u00a0\u043d\u0443\u0436\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0435, \u0434\u0430\u0436\u0435 \u0441\u00a0\u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u043c\u0438 \u043f\u043e\u043f\u044b\u0442\u043a\u0430\u043c\u0438. \u0412\u0441\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u0433\u0440\u0430\u043d\u0438\u0446, \u0435\u0441\u043b\u0438 \u0443\u00a0\u0432\u0430\u0441 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u0435\u0438\u0437\u0431\u0435\u0436\u043d\u043e \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438\u00a0\u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438 \u043d\u0435\u00a0\u0431\u0443\u0434\u0443\u0442 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c.<\/p>\n
\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u21165: \u041f\u043e\u0440\u043e\u0433 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f<\/h2>\n
\u0422\u0430\u043a\u00a0\u0436\u0435, \u043a\u0430\u043a\u00a0\u043c\u044b \u0434\u0435\u043b\u0430\u043b\u0438 \u0440\u0430\u043d\u0435\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u043f\u043e\u043f\u044b\u0442\u043a\u0438 \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u0435\u0441\u0442\u0430 \u0438 \u0443\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u043b\u0438 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a, \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0430\u0448 LLM \u043d\u0435\u00a0\u0441\u043c\u043e\u0436\u0435\u0442 \u0440\u0435\u0448\u0438\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e, \u0441\u043a\u043e\u043b\u044c\u043a\u043e\u00a0\u0431\u044b \u0440\u0430\u0437 \u0432\u044b \u043d\u0438 \u043f\u044b\u0442\u0430\u043b\u0438\u0441\u044c, \u043e\u0434\u043d\u0430\u043a\u043e \u044d\u0442\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e\u00a0\u043e\u043d \u0431\u0435\u0441\u043f\u043e\u043b\u0435\u0437\u0435\u043d: \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0438\u0437\u00a0\u0432\u0430\u0448\u0435\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 80% \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043b\u0443\u0447\u0448\u0435, \u0447\u0435\u043c \u0432 50% \u0441\u043b\u0443\u0447\u0430\u0435\u0432, \u0438 \u043e\u043f\u044f\u0442\u044c\u00a0\u0436\u0435, \u0432\u044b \u0447\u0435\u0442\u043a\u043e \u043e\u0441\u043e\u0437\u043d\u0430\u0435\u0442\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0441\u0432\u043e\u0438\u0445 \u0442\u0435\u0441\u0442\u043e\u0432, \u0430\u00a0\u043d\u0435\u00a0\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0435\u0441\u044c \u0432\u00a0\u043d\u0435\u0432\u0435\u0434\u0435\u043d\u0438\u0438.<\/p>\n
\u0412\u00a0\u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043c\u043e\u0436\u0435\u0442\u00a0\u0431\u044b\u0442\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u00a0GPT-4\u00a0\u0438\u043b\u0438\u00a0Llama3\u00a0\u043d\u0435\u00a0\u0441\u043f\u0440\u0430\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0441\u00a0\u043e\u0434\u043d\u043e\u0439 \u0438\u0437\u00a0\u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u0441\u043b\u0435 \u0442\u0440\u0435\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a, \u043c\u044b \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u044d\u0442\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c. \u0417\u043d\u0430\u0447\u0438\u0442, \u043d\u0430\u043c \u043d\u0443\u0436\u0435\u043d \u043e\u0431\u0449\u0438\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f. \u0414\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043c\u044b \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u043e\u0439 langevals, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438 \u0434\u043b\u044f\u00a0LLM, \u043d\u043e\u00a0\u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0430\u043d\u043d\u043e\u0442\u0430\u0446\u0438\u044e pass_rate \u0434\u043b\u044f\u00a0pytest:<\/p>\n
 entries = pd.DataFrame( \u00a0\u00a0\u00a0\u00a0\u00a0 { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"input\": [ \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a quick breakfast with bacon\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a lunch using lentils\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a recipe for a vegetarian dessert\", -\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"Generate me a super complicated recipe for a dinner with a lot of ingredients\", \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 ], \u00a0\u00a0\u00a0\u00a0\u00a0 } \u00a0 )  \u00a0  \u00a0 @pytest.mark.asyncio_cooperative \u00a0 @pytest.mark.flaky(max_runs=3, min_passes=2) + @pytest.mark.pass_rate(0.8) \u00a0 @pytest.mark.parametrize(\"entry, model\", product(entries.itertuples(), models)) \u00a0 async def test_fits_a_tweet(entry, model): \u00a0\u00a0\u00a0\u00a0\u00a0 recipe = await recipe_bot.generate_tweet( \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 input=entry.input, \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 model=model, \u00a0\u00a0\u00a0\u00a0\u00a0 )   \u00a0\u00a0\u00a0\u00a0\u00a0 assert len(recipe) <= 140<\/code><\/pre>\n
\u0421\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u044d\u0442\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430 \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043c, \u0447\u0442\u043e\u00a0\u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0445 \u043f\u043e\u043f\u044b\u0442\u043e\u043a, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043c\u044b \u043e\u0436\u0438\u0434\u0430\u0435\u043c, \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 80%, \u043c\u044b \u043d\u0435\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 20% \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u044b\u0445, \u0435\u0441\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0438\u0437\u00a0\u043d\u0438\u0445 (80%) \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435 140\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432. <\/p>\n
\u0423\u0434\u0430\u043b\u0438\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440, \u043e\u043d \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043b \u0434\u0440\u0443\u0433\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0435\u0433\u043e \u043f\u043e\u0437\u0436\u0435, \u043f\u043e\u0441\u043b\u0435 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u043d\u0430\u0448\u0435\u0439 \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0438.<\/p>\n
> pytest  ======================================================================= test session starts =======================================================================  x.xx......  ============================================================ 8 passed, 3 xfailed, 1 warning in 20.42s ============================================================<\/code><\/pre>\n
\u041e\u0442\u043b\u0438\u0447\u043d\u043e! \u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u0448 \u043d\u0430\u0431\u043e\u0440 \u0442\u0435\u0441\u0442\u043e\u0432 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442, \u0445\u043e\u0442\u044f \u043d\u0435\u00a0\u0432\u0441\u0435 \u0442\u0435\u0441\u0442\u044b \u043f\u0440\u043e\u0448\u043b\u0438 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e. \u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 3\u00a0xfailed. \u0422\u0435\u0441\u0442\u044b \u043d\u0435\u00a0\u043f\u0440\u043e\u0448\u043b\u0438, \u043d\u043e\u00a0\u0431\u044b\u043b\u0438 \u00ab\u043f\u0440\u043e\u0449\u0435\u043d\u044b\u00bb,\u00a0\u043b\u0438\u0431\u043e \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043e\u043d\u0438\u00a0\u0431\u044b\u043b\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043d\u044b \u0438 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438,\u00a0\u043b\u0438\u0431\u043e \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043e\u043d\u0438 \u043d\u0430\u0445\u043e\u0434\u044f\u0442\u0441\u044f \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u043d\u043e\u0440\u043c\u044b \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f.<\/p>\n
\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h2>\n
\u0422\u0435\u043f\u0435\u0440\u044c \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0432\u0441\u0435 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u0434\u043b\u044f\u00a0\u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0442\u0435\u0441\u0442\u043e\u0432 \u0434\u043b\u044f\u00a0LLM, \u0438 \u0434\u043b\u044f\u00a0\u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0430\u0448\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0438 \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u044f\u0441\u043d\u0435\u0435. \u041c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u0430\u0448\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043c\u043e\u0433\u043b\u0430 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0442\u044c \u043d\u0430\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0445 \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u0439 \u0432\u00a0\u0437\u0430\u0434\u0430\u043d\u043d\u043e\u043c \u043d\u0430\u043c\u0438 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0435 \u0438 \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0448\u0438\u0445 \u0442\u0435\u0441\u0442\u043e\u0432.<\/p>\n\n
\u0415\u0441\u043b\u0438 \u0432\u0430\u043c \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e \u0443\u0433\u043b\u0443\u0431\u0438\u0442\u044c\u0441\u044f \u0432\u00a0\u0442\u0435\u043c\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u044e\u0442 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043e\u0440\u0438\u044e, \u043d\u043e\u00a0\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u043a\u00a0\u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u00a0LLM, \u0432\u043e\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0443\u0440\u043e\u043a\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0433\u0443\u0442\u00a0\u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u044b:<\/p>\n