{"id":434248,"date":"2024-10-03T09:00:21","date_gmt":"2024-10-03T09:00:21","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=434248"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=434248","title":{"rendered":"<span>VLM \u0432 \u041d\u0435\u0439\u0440\u043e: \u043a\u0430\u043a \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0434\u043b\u044f \u043f\u043e\u0438\u0441\u043a\u0430 \u043f\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f68\/e35\/298\/f68e35298894ab6832f1a92a1a3b918b.png\" width=\"1648\" height=\"922\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f68\/e35\/298\/f68e35298894ab6832f1a92a1a3b918b.png\"\/><\/figure>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0443\u00a0\u041f\u043e\u0438\u0441\u043a\u0430 \u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043e\u0442\u0432\u0435\u0442\u044b \u041d\u0435\u0439\u0440\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0441\u0440\u0430\u0437\u0443 \u0432\u00a0\u043f\u043e\u0438\u0441\u043a\u043e\u0432\u044b\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u0445\u00a0\u2014 \u0434\u043b\u044f\u00a0\u0442\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u0433\u0434\u0435 \u044d\u0442\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u0440\u0435\u043c\u044f. \u041d\u043e\u00a0\u0432\u00a0\u0440\u0430\u043c\u043a\u0430\u0445 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u0434\u0440\u0443\u0433\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f: \u041d\u0435\u0439\u0440\u043e \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u0439\u0442\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u00a0\u041f\u043e\u0438\u0441\u043a\u0435 \u043f\u043e\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c \u0438 \u0432\u00a0\u0423\u043c\u043d\u043e\u0439 \u043a\u0430\u043c\u0435\u0440\u0435\u00a0\u2014 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u043e\u0432\u043e\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u042f\u043d\u0434\u0435\u043a\u0441\u0430. \u041f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u043e \u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435, \u043d\u043e\u00a0\u0438 \u0437\u0430\u0434\u0430\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u043e\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0435\u0451 \u0434\u0435\u0442\u0430\u043b\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0433\u0443\u043b\u044f\u044f \u043f\u043e\u00a0\u043c\u0443\u0437\u0435\u044e, \u043c\u043e\u0436\u043d\u043e \u0441\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0430\u0442\u044e\u0440\u043c\u043e\u0440\u0442 \u0433\u043e\u043b\u043b\u0430\u043d\u0434\u0441\u043a\u043e\u0433\u043e \u0436\u0438\u0432\u043e\u043f\u0438\u0441\u0446\u0430 \u0438 \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u0442\u043e\u0442 \u0438\u043b\u0438\u00a0\u0438\u043d\u043e\u0439 \u043f\u0440\u0435\u0434\u043c\u0435\u0442 \u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u0435.<\/p>\n<p>\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0420\u043e\u043c\u0430\u043d \u0418\u0441\u0430\u0447\u0435\u043d\u043a\u043e, \u044f \u0440\u0430\u0431\u043e\u0442\u0430\u044e \u0432\u00a0\u043a\u043e\u043c\u0430\u043d\u0434\u0435 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f \u042f\u043d\u0434\u0435\u043a\u0441\u0430. \u0412\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443, \u0447\u0442\u043e\u00a0\u0442\u0430\u043a\u043e\u0435 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u2011\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (Visual Language Models,\u00a0VLM), \u043a\u0430\u043a\u00a0\u0443\u00a0\u043d\u0430\u0441 \u0432\u00a0\u042f\u043d\u0434\u0435\u043a\u0441\u0435 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u043e\u0432\u0430\u043d \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0438\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043a\u0430\u043a\u0430\u044f \u0443\u00a0\u043d\u0438\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430. \u0412\u044b \u0443\u0437\u043d\u0430\u0435\u0442\u0435, \u043a\u0430\u043a\u00a0\u041d\u0435\u0439\u0440\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438 \u0438 \u0442\u0435\u043a\u0441\u0442\u0430\u043c\u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0438 \u0447\u0442\u043e\u00a0\u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c \u0441\u00a0\u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435\u043c VLM.<\/p>\n<h2>\u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 VLM<\/h2>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u043d\u0438\u043a\u043e\u0433\u043e \u0443\u0436\u0435 \u043d\u0435\u00a0\u0443\u0434\u0438\u0432\u0438\u0448\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c\u0438 \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0441\u00a0\u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u0430\u043c\u0438 (\u0430 \u0442\u043e \u0438 \u0441\u043e\u0442\u043d\u044f\u043c\u0438 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432) \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. State\u2011of\u2011the\u2011art \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u0440\u0435\u0448\u0430\u0442\u044c \u043d\u0435\u0442\u0440\u0438\u0432\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438. \u041f\u0440\u043e\u0433\u0440\u0435\u0441\u0441 \u0432\u00a0\u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 NLP \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0433\u043e\u0434\u044b \u043f\u043e\u0440\u0430\u0436\u0430\u0435\u0442 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435.<\/p>\n<p>\u041e\u0434\u0438\u043d \u0438\u0437\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u0444\u043e\u043a\u0443\u0441\u043e\u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f LLM \u0441\u0435\u0433\u043e\u0434\u043d\u044f\u00a0\u2014 \u044d\u0442\u043e \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0445 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u043c\u0438, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043f\u0440\u0438\u0439\u0442\u0438 \u043a\u00a0\u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u043c omni\u2011\u043c\u043e\u0434\u0435\u043b\u044f\u043c. \u0422\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043c\u0438\u043c\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435\u00a0\u2014 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, \u0432\u0438\u0434\u0435\u043e, \u0437\u0432\u0443\u043a. \u0412\u0435\u0440\u0445\u043d\u0435\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u043e \u043f\u0440\u043e\u00a0\u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u043f\u0440\u043e \u00ab\u0447\u0451\u0440\u043d\u044b\u0435 \u044f\u0449\u0438\u043a\u0438\u00bb, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0442 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u0434\u0430\u043d\u043d\u044b\u0435 \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439 \u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u0434\u0430\u0432\u0430\u0442\u044c \u0438\u0445 \u043d\u0430\u00a0\u0432\u044b\u0445\u043e\u0434\u0435.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5f3\/9bc\/3db\/5f39bc3db70935348dd3212efd5c7b4b.png\" width=\"1600\" height=\"858\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5f3\/9bc\/3db\/5f39bc3db70935348dd3212efd5c7b4b.png\"\/><\/figure>\n<p>\u0417\u0430\u0447\u0435\u043c\u00a0\u0436\u0435 \u043d\u0443\u0436\u043d\u044b \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438? \u0412\u043e\u2011\u043f\u0435\u0440\u0432\u044b\u0445, \u044d\u0442\u043e \u0441\u0443\u043f\u0435\u0440 \u043e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a\u00a0\u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0433\u043e\u0434\u044b \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0442\u044c \u0442\u0440\u0435\u043d\u0434 \u043d\u0430\u00a0\u0442\u043e, \u0447\u0442\u043e\u00a0\u043e\u0431\u0449\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u043f\u043e\u0431\u0435\u0436\u0434\u0430\u044e\u0442 \u0447\u0430\u0441\u0442\u043d\u044b\u0435. \u0411\u043e\u043b\u044c\u0448\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u0440\u0435\u0448\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u044b\u0439 \u0441\u043f\u0435\u043a\u0442\u0440 \u0437\u0430\u0434\u0430\u0447, \u0434\u043b\u044f\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0434\u0435\u043b\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f. \u0412\u043e\u2011\u0432\u0442\u043e\u0440\u044b\u0445, \u0442\u0430\u043a\u0438\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u00a0\u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u043e\u0442\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u043d\u0430\u043c \u0434\u043b\u044f\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u044d\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u0442. \u043a. \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0435\u0447\u043d\u043e. \u0412\u2011\u0442\u0440\u0435\u0442\u044c\u0438\u0445, \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0432\u0435\u0440\u0430 \u0432\u00a0\u0442\u043e, \u0447\u0442\u043e\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a\u00a0\u0440\u043e\u0441\u0442\u0443 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u00a0\u0442\u0435\u0440\u043c\u0438\u043d\u0430\u0445 \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 \u00ab\u0447\u0451\u0440\u043d\u043e\u0433\u043e \u044f\u0449\u0438\u043a\u0430\u00bb \u043c\u044b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u043c\u0441\u044f \u0447\u0430\u0441\u0442\u043d\u044b\u043c \u0441\u043b\u0443\u0447\u0430\u0435\u043c, \u0433\u0434\u0435 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043a\u0441\u0442 (\u0431\u0443\u0434\u0435\u043c \u043d\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0438\u043d\u0441\u0442\u0440\u0430\u043a\u0442\u043e\u043c), \u0430\u00a0\u043d\u0430\u00a0\u0432\u044b\u0445\u043e\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043a\u0441\u0442 (\u0438\u043b\u0438\u00a0\u0436\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u0432\u0435\u0442). \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0441\u0445\u0435\u043c\u0430 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c2c\/73a\/767\/c2c73a767bce5649afae53c6031dfd99.png\" width=\"1600\" height=\"567\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c2c\/73a\/767\/c2c73a767bce5649afae53c6031dfd99.png\"\/><\/figure>\n<p>\u0422\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043c\u044b \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0433\u0434\u0435 \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0442\u0430\u043a\u0436\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u0442\u0441\u044f \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0440\u043e\u0441\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430\u00a0\u2014 \u0430\u00a0\u0438\u043c\u0435\u043d\u043d\u043e <a href=\"https:\/\/habr.com\/ru\/companies\/yandex\/articles\/839580\/\"><u>\u0432\u00a0\u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445 text\u2011to\u2011image \u0438 text\u2011to\u2011video<\/u><\/a>. \u041c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u00a0\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u043c\u0438 (\u0442\u043e \u0435\u0441\u0442\u044c \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043d\u0442 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f).<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u0442\u0435\u043c \u043a\u0430\u043a\u00a0\u043c\u044b \u043f\u043e\u0433\u0440\u0443\u0437\u0438\u043c\u0441\u044f \u0432\u00a0\u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441\u0430, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0434\u0443\u043c\u0430\u0435\u043c, \u0430\u00a0\u043a\u0430\u043a\u0438\u0435 \u0432\u043e\u043e\u0431\u0449\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c. \u0412\u043e\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/4d8\/1aa\/f25\/4d81aaf2594c19c2990585ac26086457.png\" width=\"1600\" height=\"1359\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4d8\/1aa\/f25\/4d81aaf2594c19c2990585ac26086457.png\"\/><\/figure>\n<p>\u0412\u00a0\u0446\u0435\u043b\u043e\u043c \u0441\u043f\u0435\u043a\u0442\u0440 \u0437\u0430\u0434\u0430\u0447 \u043e\u0447\u0435\u043d\u044c \u0448\u0438\u0440\u043e\u043a\u0438\u0439, \u0430\u00a0\u0441\u0430\u043c\u0438 \u0437\u0430\u0434\u0430\u0447\u0438 \u043e\u0447\u0435\u043d\u044c \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u044b. <\/p>\n<p>\u041c\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e\u00a0VLM\u00a0\u2014 \u044d\u0442\u043e \u043d\u043e\u0432\u0430\u044f \u0441\u0442\u0430\u0434\u0438\u044f \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f. \u0422\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e <a href=\"https:\/\/arxiv.org\/abs\/2405.18415\"><u>\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f<\/u><\/a> (\u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f, \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u044f, \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0438\u00a0\u0442.\u00a0\u0434.) \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0430\u0445 zero\u2011shot \u0438 one\u2011shot. \u0418 \u043f\u0443\u0441\u0442\u044c \u0441\u0435\u0439\u0447\u0430\u0441 VLM \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u044b\u0441\u043e\u043a\u043e\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u00a0\u0432\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0442\u0430\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u0430\u044f.<\/p>\n<h3>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 VLM<\/h3>\n<p>\u0418\u0442\u0430\u043a, \u0438\u0437\u00a0\u0447\u0435\u0433\u043e\u00a0\u0436\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 VLM. \u0421\u0435\u0439\u0447\u0430\u0441 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0442\u0430\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u043e\u0441\u0442\u043e\u044f\u0442 \u0438\u0437\u00a0\u0442\u0440\u0451\u0445 \u0431\u043b\u043e\u043a\u043e\u0432:<\/p>\n<ol>\n<li>\n<p>LLM\u00a0\u2014 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (\u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435\u00a0\u2014 YandexGPT), \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442 \u043d\u0438 \u043f\u0440\u043e\u00a0\u043a\u0430\u043a\u0438\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u00a0\u2014 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (CNN \u0438\u043b\u0438\u00a0ViT), \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442 \u043d\u0438 \u043f\u0440\u043e\u00a0\u043a\u0430\u043a\u0438\u0435 \u0442\u0435\u043a\u0441\u0442\u044b.<\/p>\n<\/li>\n<li>\n<p>Adapter\u00a0\u2014 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f, \u043a\u0430\u043a\u00a0\u043a\u043e\u0442 \u041b\u0435\u043e\u043f\u043e\u043b\u044c\u0434, \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b LLM \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0436\u0438\u043b\u0438 \u0434\u0440\u0443\u0436\u043d\u043e.<\/p>\n<\/li>\n<\/ol>\n<p>\u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0441\u0430\u043c \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0441\u0442: <\/p>\n<ul>\n<li>\n<p>\u043f\u043e\u0434\u0430\u0451\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u0432\u00a0\u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u0443\u0435\u043c \u0432\u044b\u0445\u043e\u0434 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u0432\u00a0LLM (\u043f\u0440\u043e \u0442\u043e, \u043a\u0430\u043a\u00a0\u0438\u043c\u0435\u043d\u043d\u043e \u043c\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u043c, \u043e\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0438\u0436\u0435 \u043f\u043e\u0434\u00a0\u043a\u0430\u0442\u043e\u043c);<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043c\u0438\u043c\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, \u043c\u044b \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441\u00a0\u044d\u0442\u0438\u043c \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043e\u0434\u0430\u0451\u043c \u0438\u0445 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 LLM.<\/p>\n<\/li>\n<\/ul>\n<details class=\"spoiler\">\n<summary>\u041f\u0430\u0440\u0430 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b<\/summary>\n<div class=\"spoiler__content\">\n<p>\u0421\u0430\u043c\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0439 \u0431\u043b\u043e\u043a\u00a0\u2014 \u043c\u043e\u0434\u0435\u043b\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430. \u041e\u043d\u0438\u00a0\u0431\u044b\u0432\u0430\u044e\u0442 \u0434\u0432\u0443\u0445 \u0432\u0438\u0434\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p>cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>Prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2301.12597\"><u>BLIP-2<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2304.08485\"><u>LLaVa<\/u><\/a>. \u0423\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u043e\u043d\u0438 \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u043e: \u0431\u0435\u0440\u0451\u043c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 (\u0432\u0435\u043a\u0442\u043e\u0440, \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432, \u0442\u0435\u043d\u0437\u043e\u0440\u00a0\u2014 \u0432\u0441\u0451 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u0442\u0438\u043f\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b) \u0438 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 (\u0442\u043e\u043a\u0435\u043d\u043e\u0432), \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0430\u0451\u043c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 LLM. \u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e MLP\u2011\u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0430 \u0441\u00a0\u043f\u0430\u0440\u043e\u0439 \u0441\u043b\u043e\u0451\u0432\u00a0\u2014 \u0434\u0430\u0436\u0435 \u0442\u0430\u043a\u043e\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0430\u0434\u0430\u043f\u0442\u0435\u0440 \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0435\u0431\u044f \u043d\u0430\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435.<\/p>\n<p>Cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u0447\u0443\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u0435\u0435. \u041e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0432\u00a0\u043d\u0435\u0434\u0430\u0432\u043d\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u043f\u0440\u043e <a href=\"https:\/\/arxiv.org\/abs\/2407.21783\"><u>Llama 3.2<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2409.11402\"><u>NVLM<\/u><\/a>. \u041e\u043d\u0438 \u043f\u044b\u0442\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0435\u0433\u043e \u043f\u043e\u0434\u0430\u0442\u044c \u0432\u00a0cross\u2011attention\u2011\u0431\u043b\u043e\u043a LLM \u0432\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u0430\u0442\u0440\u0438\u0446 key \/ value. \u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u0438\u0445 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u043e\u0432 \u043c\u043e\u0433\u0443\u0442 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0442\u044c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0442\u0438\u043f\u0430 <a href=\"https:\/\/arxiv.org\/abs\/2204.14198\"><u>perceiver resampler<\/u><\/a> \u0438\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2301.12597\"><u>Q\u2011former<\/u><\/a>.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d46\/b7e\/0d4\/d46b7e0d4af4d6b3baff538d210e90af.png\" width=\"1600\" height=\"1149\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d46\/b7e\/0d4\/d46b7e0d4af4d6b3baff538d210e90af.png\"\/><\/figure>\n<p>\u0423\u00a0\u043e\u0431\u043e\u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0438 \u043f\u043b\u044e\u0441\u044b \u0438 \u043c\u0438\u043d\u0443\u0441\u044b. \u041d\u0430\u00a0\u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u043e\u0432 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f <a href=\"https:\/\/arxiv.org\/abs\/2409.11402\"><u>\u0434\u043e\u0441\u0442\u0438\u0447\u044c \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/u><\/a>, \u043d\u043e\u00a0\u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043e\u043d\u0438 \u0441\u044a\u0435\u0434\u0430\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u043c\u0443\u044e \u0434\u043e\u043b\u044e \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 LLM. Cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u043d\u0435\u00a0\u0441\u044a\u0435\u0434\u0430\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 LLM, \u043d\u043e\u00a0\u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0434\u043b\u044f\u00a0\u0445\u043e\u0440\u043e\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0443\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440 \u0441\u00a0\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<\/p>\n<\/div>\n<\/details>\n<h3>\u041f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f VLM<\/h3>\n<p>\u0418\u0442\u0430\u043a, \u0441\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043b\u0438\u0441\u044c. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0439\u043c\u0451\u043c, \u0430\u00a0\u043a\u0430\u043a\u00a0\u043d\u0430\u043c \u044d\u0442\u043e \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u0435 \u0447\u0443\u0434\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c. VLM \u043d\u0435\u00a0\u0443\u0447\u0430\u0442\u0441\u044f \u0441\u00a0\u043d\u0443\u043b\u044f (\u043c\u044b \u0434\u0443\u043c\u0430\u0435\u043c, \u044d\u0442\u043e \u043f\u043e\u043a\u0430 \u0447\u0442\u043e). \u0417\u0430\u00a0\u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0443 \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 LLM \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u044d\u0442\u0438 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0435\u043c \u043d\u0430\u0448\u0443 VLM \u043d\u0430\u00a0\u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u2011\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u043c \u0434\u043e\u043c\u0435\u043d\u0435.<\/p>\n<p>\u042d\u0442\u043e \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u044d\u0442\u0430\u043f\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>pretraining;<\/p>\n<\/li>\n<li>\n<p>alignment: SFT + RL (\u043e\u043f\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e).<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ec3\/95b\/b61\/ec395bb61c9cae9b70bf6fd4f063c013.png\" width=\"1600\" height=\"596\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec3\/95b\/b61\/ec395bb61c9cae9b70bf6fd4f063c013.png\"\/><\/figure>\n<p>\u0414\u0443\u043c\u0430\u044e, \u0447\u0442\u043e\u00a0\u043c\u043d\u043e\u0433\u0438\u043c \u044d\u0442\u0438 \u044d\u0442\u0430\u043f\u044b \u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u044e\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u0430\u043c\u043e\u0439 LLM. \u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0438\u0434\u0435\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u043d\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u0438 \u043a\u00a0\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u00a0\u0434\u0435\u043b\u0430\u044e\u0442 \u0441\u00a0LLM. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u043a\u0440\u0430\u0442\u0446\u0435 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u044d\u0442\u0438 \u044d\u0442\u0430\u043f\u044b.<\/p>\n<h4>VLM pretraining<\/h4>\n<p>\u041d\u0430\u00a0\u044d\u0442\u043e\u043c \u044d\u0442\u0430\u043f\u0435 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0434\u0432\u0443\u0445 \u0446\u0435\u043b\u0435\u0439:<\/p>\n<ul>\n<li>\n<p>\u0441\u0432\u044f\u0437\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u0443\u044e \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u0443\u044e \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 (\u043d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e\u00a0\u0443\u00a0\u043d\u0430\u0441 \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0441\u0442\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u044b \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u043b\u0438 \u0440\u0430\u043d\u044c\u0448\u0435);<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u0432\u00a0\u043d\u0430\u0448\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u043d\u0430\u043d\u0438\u044f \u043e\u00a0\u043c\u0438\u0440\u0435 (\u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u0445 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u0441\u0432\u043e\u0435\u0439 \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0438\u00a0\u2014 \u043a\u0430\u043a\u00a0\u043c\u0438\u043d\u0438\u043c\u0443\u043c OCR\u2011\u043d\u0430\u0432\u044b\u043a\u0438).<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0434\u0435\u0441\u044c \u0435\u0441\u0442\u044c \u0442\u0440\u0438 \u0432\u0438\u0434\u0430 \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 VLM:<\/p>\n<ul>\n<li>\n<p>interleaved pretrain. \u042d\u0442\u043e \u0430\u043d\u0430\u043b\u043e\u0433 LLM pretrain \u0441\u0442\u0430\u0434\u0438\u0438, \u0433\u0434\u0435 \u043c\u044b \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u00a0next\u2011token prediction \u0437\u0430\u0434\u0430\u0447\u0443, \u043f\u043e\u0434\u0430\u0432\u0430\u044f \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u0432\u0435\u0431\u2011\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b. \u0417\u0434\u0435\u0441\u044c\u00a0\u0436\u0435 \u0432\u00a0VLM pretrain \u0441\u0442\u0430\u0434\u0438\u0438 \u043c\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u0435\u0431\u2011\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438 \u0438 \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442. \u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043e\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043e\u043d\u0430 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0\u0442\u0435\u043a\u0441\u0442, \u043d\u043e\u00a0\u0438 \u043d\u0430\u00a0\u0442\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0441\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u044b \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0435. \u0422\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043c\u043d\u043e\u0433\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e\u0442 \u0432\u0438\u0434 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043b\u0435\u0433\u043a\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u041e\u0434\u043d\u0430\u043a\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0442\u0443\u0442 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043d\u0438\u0437\u043a\u043e\u0435: \u043a\u0430\u043a\u00a0\u0438\u043c\u0435\u043d\u043d\u043e \u0435\u0433\u043e \u043f\u043e\u0432\u044b\u0448\u0430\u0442\u044c\u00a0\u2014 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0438 \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>image\u2011text pairs pretrain. \u0417\u0434\u0435\u0441\u044c \u043c\u044b \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u00a0\u043e\u0434\u043d\u0443 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443\u00a0\u2014 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f (image captioning). \u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u043c \u043d\u0443\u0436\u0435\u043d \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043a\u043e\u0440\u043f\u0443\u0441 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0441\u00a0\u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u043c \u043a\u00a0\u043d\u0438\u043c \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u043c. \u0422\u0430\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u0430, \u0442\u0430\u043a \u043a\u0430\u043a\u00a0\u0442\u0430\u043a\u0438\u0445 \u043a\u043e\u0440\u043f\u0443\u0441\u043e\u0432 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043c\u043d\u043e\u0433\u043e\u00a0\u2014 \u043e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (text\u2011to\u2011image \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f, image\u2011to\u2011text retrieval).<\/p>\n<\/li>\n<li>\n<p>instruct\u2011based pretrain. \u041d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0432\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443, \u043d\u043e\u00a0\u0438 \u0442\u0435\u043a\u0441\u0442. \u041f\u043e\u0447\u0435\u043c\u0443\u00a0\u0431\u044b \u0441\u0440\u0430\u0437\u0443 \u0442\u0430\u043a \u0438 \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c? \u0412\u00a0\u044d\u0442\u043e\u043c \u0442\u0438\u043f\u0435 \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430 \u0442\u0430\u043a \u0438 \u0434\u0435\u043b\u0430\u044e\u0442: \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 (\u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0435\u00a0\u0441\u0430\u043c\u043e\u0433\u043e \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430) \u0434\u0430\u043d\u043d\u044b\u0445 \u0432\u00a0\u0432\u0438\u0434\u0435 \u0442\u0440\u043e\u0435\u043a \u00ab\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u2011\u0438\u043d\u0441\u0442\u0440\u0430\u043a\u0442\u2011\u043e\u0442\u0432\u0435\u0442\u00bb.<\/p>\n<\/li>\n<\/ul>\n<p>\u0410\u00a0\u043a\u0430\u043a\u043e\u0439\u00a0\u0436\u0435 \u043e\u0431\u044a\u0451\u043c \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f, \u0447\u0442\u043e\u0431\u044b \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0431\u0443\u0447\u0438\u0442\u044c VLM\u2011\u043c\u043e\u0434\u0435\u043b\u044c? \u042d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441. \u041d\u0430\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043e\u0431\u044a\u0451\u043c \u0434\u0430\u043d\u043d\u044b\u0445 \u0432\u0430\u0440\u044c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0442\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u0441\u0435\u043c\u043f\u043b\u043e\u0432 \u0434\u043e\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 (\u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u043d\u0435\u00a0\u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432!). <\/p>\n<p>\u0423\u00a0\u0441\u0435\u0431\u044f \u0432\u00a0\u042f\u043d\u0434\u0435\u043a\u0441\u0435 \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c instruct\u2011based pretrain \u0441\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u0430\u043c\u0438 \u0441\u0435\u043c\u043f\u043b\u043e\u0432. \u041d\u043e\u00a0\u043e\u0447\u0435\u043d\u044c \u0432\u0435\u0440\u0438\u043c \u0432\u00a0interleaved pretrain \u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u044d\u0442\u0438\u043c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435\u043c.<\/p>\n<details class=\"spoiler\">\n<summary>\u0417\u0434\u0435\u0441\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0442\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8f7\/f6a\/f7a\/8f7f6af7ad9d45cd0e004253529e93fd.png\" width=\"1600\" height=\"1338\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8f7\/f6a\/f7a\/8f7f6af7ad9d45cd0e004253529e93fd.png\"\/><\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/577\/3e0\/b40\/5773e0b400661ec34694b40c4da591b9.png\" width=\"1600\" height=\"945\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/577\/3e0\/b40\/5773e0b400661ec34694b40c4da591b9.png\"\/><\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/dcf\/0ce\/feb\/dcf0cefeb18e942c6b46fca061259370.png\" width=\"1600\" height=\"1405\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dcf\/0ce\/feb\/dcf0cefeb18e942c6b46fca061259370.png\"\/><\/figure>\n<\/p>\n<\/div>\n<\/details>\n<h4>VLM alignment<\/h4>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a\u00a0\u043c\u044b \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u0438 \u0441\u0442\u0430\u0434\u0438\u044e \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430, \u0441\u0430\u043c\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a\u00a0\u0441\u0442\u0430\u0434\u0438\u0438 alignment. \u041e\u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437\u00a0SFT\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 RL. \u0423\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0434\u0438\u044f SFT, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u044f \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u044e\u0441\u044c \u043d\u0430\u00a0\u043d\u0435\u0439. \u041e\u0434\u043d\u0430\u043a\u043e \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u044f\u0445 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 <a href=\"https:\/\/arxiv.org\/abs\/2405.17220\"><u>\u044d\u0442\u043e\u0439<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2407.21783\"><u>\u044d\u0442\u043e\u0439<\/u><\/a>) \u0432\u0441\u0451 \u0447\u0430\u0449\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0442\u0430\u0434\u0438\u044f RL \u043f\u043e\u0432\u0435\u0440\u0445 VLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0442\u0435\u00a0\u0436\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u0447\u0442\u043e\u00a0\u0438 \u0434\u043b\u044f\u00a0LLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 (DPO \u0438 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0441\u00a0\u043f\u043e\u0434\u043c\u0435\u043d\u043e\u0439 \u043f\u0435\u0440\u0432\u043e\u0439 \u0431\u0443\u043a\u0432\u044b \u0432\u00a0\u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0438 \u043c\u0435\u0442\u043e\u0434\u0430).<\/p>\n<p>\u0418\u0442\u0430\u043a, \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0SFT. \u0421\u0442\u0440\u043e\u0433\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u044d\u0442\u0430 \u0441\u0442\u0430\u0434\u0438\u044f \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430\u00a0instruct\u2011based pretrain. \u041d\u043e\u00a0\u0437\u0434\u0435\u0441\u044c \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u00a0\u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430, \u0441\u00a0\u0445\u043e\u0440\u043e\u0448\u0438\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0438 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043e\u0439 \u043e\u0442\u0432\u0435\u0442\u0430, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u0441\u00a0\u0445\u043e\u0440\u043e\u0448\u0438\u043c\u0438 reasoning\u2011\u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438 (\u0442\u043e \u0435\u0441\u0442\u044c \u0441\u00a0\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435, \u043d\u043e\u00a0\u0438 \u0441\u00a0\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u0435\u043b\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435\u2011\u0442\u043e \u0432\u044b\u0432\u043e\u0434\u044b \u043f\u0440\u043e\u00a0\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435). \u0410\u00a0\u0435\u0449\u0451 \u0432\u00a0\u0438\u0434\u0435\u0430\u043b\u0435 \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0435\u0441\u0442\u044c \u0432\u00a0\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 text\u2011only, \u0433\u0434\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u0442. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u044e\u0434\u0430\u00a0\u0436\u0435 \u043c\u044b \u0437\u0430\u043c\u0435\u0448\u0438\u0432\u0430\u0435\u043c \u0438 text\u2011only \u0434\u0430\u043d\u043d\u044b\u0435 \u0432\u044b\u0441\u043e\u043a\u043e\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430.<\/p>\n<p>\u0412\u00a0\u0438\u0442\u043e\u0433\u0435 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438\u00a0\u2014 \u043e\u0442\u00a0\u0441\u043e\u0442\u0435\u043d \u0442\u044b\u0441\u044f\u0447 \u0434\u043e\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432. \u0412\u00a0\u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u0442\u043e \u0441\u043e\u0442\u043d\u0438 \u0442\u044b\u0441\u044f\u0447 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432.<\/p>\n<h3>\u041a\u0430\u043a \u0437\u0430\u043c\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\u00a0<\/h3>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0\u0442\u043e, \u043a\u0430\u043a\u00a0\u0436\u0435 \u0437\u0430\u043c\u0435\u0440\u044f\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e VLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041c\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u043c \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>\u0437\u0430\u043c\u0435\u0440\u044f\u0435\u043c \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043d\u0430\u00a0\u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u2011\u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e Side\u2011by\u2011Side (SbS) \u043e\u0446\u0435\u043d\u043a\u0438, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044f \u0430\u0441\u0435\u0441\u0441\u043e\u0440\u0443 \u0434\u0432\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u0438, \u0447\u0442\u043e\u0431\u044b \u043e\u043d \u0432\u044b\u0431\u0440\u0430\u043b \u043b\u0443\u0447\u0448\u0438\u0439 \u0438\u0437\u00a0\u043d\u0438\u0445.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0435\u0440\u0432\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435\u2011\u0442\u043e \u0441\u0443\u0440\u0440\u043e\u0433\u0430\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, accuracy \u0432\u00a0\u0437\u0430\u0434\u0430\u0447\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438) \u043d\u0430\u00a0\u0443\u0437\u043a\u0438\u0445 \u0441\u0440\u0435\u0437\u0430\u0445, \u043d\u043e\u00a0\u0442\u0430\u043a \u043a\u0430\u043a\u00a0\u0442\u0430\u043a\u0438\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u0432\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0435, \u043e\u043d\u0438 \u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u0438\u0445 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0430, \u043d\u043e\u00a0\u0441\u0430\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0430 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043c\u043d\u043e\u0433\u043e \u043e\u0448\u0438\u0431\u043e\u043a \u0432\u00a0\u0434\u0430\u043d\u043d\u044b\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0442\u0430\u043a\u0438\u043c \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u043c \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u043c \u043d\u0435\u043b\u044c\u0437\u044f.<\/p>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043c\u043e\u0434\u0435\u043b\u0438, \u043d\u043e\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043a\u0440\u043e\u043f\u043e\u0442\u043b\u0438\u0432\u043e\u0439 (\u0438 \u0434\u043e\u0440\u043e\u0433\u043e\u0439) \u0440\u0443\u0447\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0430\u0441\u0435\u0441\u0441\u043e\u0440\u0430\u043c\u0438. <\/p>\n<p>\u041d\u0430\u0448\u0430 \u043c\u043e\u0434\u0435\u043b\u044c\u00a0\u2014 \u0431\u0438\u043b\u0438\u043d\u0433\u0432\u0430\u043b\u044c\u043d\u0430\u044f, \u0442\u043e \u0435\u0441\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c, \u0442\u0430\u043a \u0438 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0430\u0445. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043d\u0430\u043c \u0437\u0430\u043c\u0435\u0440\u044f\u0442\u044c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0435 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u044b\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c SbS\u2011\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u043e\u0431\u00a0SbS. \u041c\u044b \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0434\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u044d\u0442\u043e\u043c\u0443 \u043c\u0435\u0442\u043e\u0434\u0443 \u0438 \u043c\u043d\u043e\u0433\u043e \u0432\u00a0\u043d\u0435\u0433\u043e \u0438\u043d\u0432\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c. \u0412\u043e\u0442 \u0447\u0442\u043e\u00a0\u043c\u044b \u043f\u0440\u043e\u0441\u0438\u043c \u0437\u0430\u043c\u0435\u0440\u044f\u0442\u044c \u0430\u0441\u0435\u0441\u0441\u043e\u0440\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>\u0433\u0440\u0430\u043c\u043e\u0442\u043d\u043e\u0441\u0442\u044c,<\/p>\n<\/li>\n<li>\n<p>\u0442\u0440\u0443\u0434\u043d\u043e\u0447\u0438\u0442\u0430\u0435\u043c\u043e\u0441\u0442\u044c,<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043b\u043d\u043e\u0442\u0443 \u043e\u0442\u0432\u0435\u0442\u0430,<\/p>\n<\/li>\n<li>\n<p>\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 \u0438\u043d\u0441\u0442\u0440\u0430\u043a\u0442\u0443,<\/p>\n<\/li>\n<li>\n<p>\u043e\u0448\u0438\u0431\u043a\u0438 (\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0438 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435),<\/p>\n<\/li>\n<li>\n<p>\u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0430\u0446\u0438\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u044b \u0441\u0442\u0430\u0440\u0430\u0435\u043c\u0441\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u043e\u043b\u043d\u043e\u0435 \u0438 \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u043d\u0430\u0432\u044b\u043a\u043e\u0432 \u043d\u0430\u0448\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0441\u0440\u0435\u0437\u043e\u0432 \u043d\u0430\u0448\u0435\u0439 SbS-\u043a\u043e\u0440\u0437\u0438\u043d\u043a\u0438.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/81a\/979\/2e6\/81a9792e6279b76e7efe6a0e061434b7.png\" width=\"1600\" height=\"815\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/81a\/979\/2e6\/81a9792e6279b76e7efe6a0e061434b7.png\"\/><\/figure>\n<h2>VLM \u0432 \u041d\u0435\u0439\u0440\u043e<\/h2>\n<p>\u0412\u044b\u0448\u0435 \u043c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043e\u00a0\u0442\u043e\u043c, \u0447\u0442\u043e\u00a0\u0442\u0430\u043a\u043e\u0435 \u0431\u0430\u0437\u043e\u0432\u0430\u044f \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044f VLM, \u043a\u0430\u043a\u00a0\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0438 \u0437\u0430\u043c\u0435\u0440\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c. \u0410\u00a0\u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c, \u0437\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u0432\u0441\u0451 \u043d\u0443\u0436\u043d\u043e. \u0422\u0443\u0442 \u0440\u0435\u0447\u044c \u043f\u043e\u0439\u0434\u0451\u0442 \u043f\u0440\u043e\u00a0\u041d\u0435\u0439\u0440\u043e. <\/p>\n<h3>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430<\/h3>\n<p>\u0415\u0449\u0451 \u0432\u0435\u0441\u043d\u043e\u0439 \u043c\u044b \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438 \u0432\u00a0\u041d\u0435\u0439\u0440\u043e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c, \u0430\u00a0\u0438\u043c\u0435\u043d\u043d\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0437\u0430\u0434\u0430\u0432\u0430\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u043d\u043e\u00a0\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u043e\u0439. \u041d\u043e\u00a0\u0434\u043e\u00a0\u043d\u0435\u0434\u0430\u0432\u043d\u0438\u0445 \u043f\u043e\u0440 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u0434\u00a0\u043a\u0430\u043f\u043e\u0442\u043e\u043c \u041d\u0435\u0439\u0440\u043e, \u043d\u0435\u00a0\u0431\u044b\u043b\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u043c\u0438. \u0412\u043e\u0442 \u0442\u0430\u043a \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u0440\u0430\u043d\u044c\u0448\u0435.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/347\/094\/88f\/34709488fd21b61f46c7be6adeda7143.png\" width=\"1600\" height=\"1094\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/347\/094\/88f\/34709488fd21b61f46c7be6adeda7143.png\"\/><\/figure>\n<p>\u041f\u043e\u043d\u0438\u043c\u0430\u044e, \u0447\u0442\u043e\u00a0\u0441\u0445\u0435\u043c\u0430 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0432\u0437\u0440\u044b\u0432\u0430\u0435\u0442 \u043c\u043e\u0437\u0433, \u043d\u043e\u00a0\u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u0441\u0451 \u043d\u0435\u00a0\u0442\u0430\u043a \u0441\u043b\u043e\u0436\u043d\u043e. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0434\u0435\u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0440\u0443\u0435\u043c \u0435\u0451 \u043d\u0430\u00a0\u043f\u0443\u043d\u043a\u0442\u044b.<\/p>\n<ol>\n<li>\n<p>\u041f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u0440\u0438\u0441\u044b\u043b\u0430\u043b \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439 \u0437\u0430\u043f\u0440\u043e\u0441.<\/p>\n<\/li>\n<li>\n<p>\u041c\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u0432\u00a0\u043d\u0430\u0448 \u0441\u0435\u0440\u0432\u0438\u0441 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u043b \u043d\u0430\u043c \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043f\u0440\u043e\u00a0\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 (\u0442\u0435\u0433\u0438, \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442, \u043e\u0431\u044a\u0435\u043a\u0442\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442).<\/p>\n<\/li>\n<li>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0432\u0441\u044e \u044d\u0442\u0443 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0438 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u043c\u044b \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440\u0430 (\u0437\u0430\u0444\u0430\u0439\u043d\u0442\u044c\u044e\u043d\u0435\u043d\u043d\u0430\u044f LLM) \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441.<\/p>\n<\/li>\n<li>\n<p>\u0421\u043e \u0441\u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u043c \u043c\u044b \u0448\u043b\u0438 \u0432\u00a0\u041f\u043e\u0438\u0441\u043a \u0438 \u0434\u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0438 \u043d\u0443\u0436\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b (\u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u044b\u0434\u0435\u0440\u0436\u043a\u0438 \u0438\u0437\u00a0\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u043f\u043e\u0434\u00a0\u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c \u0438\u043d\u0444\u043e\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u044b).<\/p>\n<\/li>\n<li>\n<p>\u041d\u0443 \u0438 \u043d\u0430\u043a\u043e\u043d\u0435\u0446, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0432\u0441\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e (\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0438\u0437\u00a0\u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430, \u043f\u0435\u0440\u0435\u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0438 \u0438\u043d\u0444\u043e\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u044b), \u043c\u044b \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430 (\u0437\u0430\u0444\u0430\u0439\u043d\u0442\u044c\u044e\u043d\u0435\u043d\u043d\u0430\u044f LLM).<\/p>\n<\/li>\n<\/ol>\n<p>\u041a\u0430\u043a\u00a0\u043c\u044b \u0432\u0438\u0434\u0438\u043c, \u0432\u00a0\u044d\u0442\u043e\u0439 \u0441\u0445\u0435\u043c\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0435 LLM (\u0443\u043d\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438) \u0438 \u043d\u0430\u0448 \u0441\u0435\u0440\u0432\u0438\u0441 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430. \u042d\u0442\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u043d\u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u0441\u0440\u0435\u0437\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u043d\u043e\u00a0\u0443\u00a0\u043d\u0435\u0433\u043e\u00a0\u0431\u044b\u043b \u0440\u044f\u0434 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439. <\/p>\n<p>\u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043b\u043e\u043c\u0430\u043b \u0441\u0442\u0430\u0440\u0443\u044e \u0441\u0445\u0435\u043c\u0443 (\u043f\u0443\u0441\u0442\u044c \u0438 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0443\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439).<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fa9\/939\/dc1\/fa9939dc196c260e72d1040883b817e1.png\" width=\"1600\" height=\"660\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fa9\/939\/dc1\/fa9939dc196c260e72d1040883b817e1.png\"\/><\/figure>\n<p>\u0422\u0443\u0442 \u043c\u044b \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e\u00a0\u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0432\u044b\u0445\u043e\u0434 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430, \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442, \u043e\u00a0\u0447\u0451\u043c \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0441\u043f\u0440\u043e\u0441\u0438\u043b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c. \u0412\u00a0\u0438\u0442\u043e\u0433\u0435 LLM\u2011\u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442 \u043f\u0440\u043e\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0439 \u043f\u043e\u0438\u0441\u043a\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u043f\u043e\u043b\u0443\u0447\u0438\u0432 \u0442\u0435\u0433\u0438 \u043f\u0440\u043e\u00a0\u043c\u043e\u043f\u0441\u0430 \u0438 \u044f\u0431\u043b\u043e\u043a\u043e \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u0432\u044b\u0440\u0430\u0441\u0442\u0438\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u0440\u0430\u0441\u0448\u0438\u0440\u0438\u0442\u044c \u043a\u043b\u0430\u0441\u0441 \u0440\u0435\u0448\u0430\u0435\u043c\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u043c\u044b \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438 \u0432\u00a0\u0438\u0441\u0445\u043e\u0434\u043d\u0443\u044e \u0441\u0445\u0435\u043c\u0443 VLM. \u0410\u00a0\u0438\u043c\u0435\u043d\u043d\u043e, \u043c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0434\u0432\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438:<\/p>\n<ol>\n<li>\n<p>\u041c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0432\u043c\u0435\u0441\u0442\u043e LLM\u2011\u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440\u0430 VLM\u2011\u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043c\u044b \u0441\u0442\u0430\u043b\u0438 \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440\u0443 \u043f\u043e\u043c\u0438\u043c\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0438\u0441\u043a\u0430 \u0435\u0449\u0451 \u0438 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0414\u043e\u0431\u0430\u0432\u0438\u043b\u0438 \u0432\u00a0\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c VLM\u2011captioner. \u042d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443, \u0438 \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u044d\u0442\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0432\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u043d\u0444\u043e\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0443\u0442 \u043c\u043e\u0436\u0435\u0442 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441: \u043f\u043e\u0447\u0435\u043c\u0443\u00a0\u0431\u044b \u043d\u0435\u00a0\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0441\u0430\u043c \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 VLM\u2011based? \u0418\u0434\u0435\u044f \u0445\u043e\u0440\u043e\u0448\u0430\u044f, \u043d\u043e\u00a0\u0435\u0441\u0442\u044c \u043d\u044e\u0430\u043d\u0441. \u041c\u044b \u043d\u0430\u0441\u043b\u0435\u0434\u0443\u0435\u043c\u0441\u044f \u043f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430 \u043e\u0442\u00a0\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u041d\u0435\u0439\u0440\u043e, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0447\u0430\u0441\u0442\u043e \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0441\u044f. \u0418 \u0447\u0442\u043e\u0431\u044b \u043c\u044b \u043c\u043e\u0433\u043b\u0438 \u0447\u0430\u0449\u0435 \u0438 \u043f\u0440\u043e\u0449\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c \u0432\u0435\u0441\u044c \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d, \u043d\u0430\u043c \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0449\u0435 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0432\u00a0\u0441\u0445\u0435\u043c\u0443 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 VLM\u2011\u0431\u043b\u043e\u043a. \u041d\u0443 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u0430\u043a\u0430\u044f \u0441\u0445\u0435\u043c\u0430 \u043d\u0438\u0447\u0443\u0442\u044c \u043d\u0435\u00a0\u0445\u0443\u0436\u0435.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a6d\/5f3\/b23\/a6d5f3b2393a9fe187c54e5acf5ded53.png\" width=\"1600\" height=\"1258\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a6d\/5f3\/b23\/a6d5f3b2393a9fe187c54e5acf5ded53.png\"\/><\/figure>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 VLM\u2011\u0440\u0435\u0444\u0440\u0430\u0437\u0435\u0440\u0430 \u0438 VLM\u2011captioner\u00a0\u2014 \u044d\u0442\u043e \u0434\u0432\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438. \u0414\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043c\u044b \u0431\u0440\u0430\u043b\u0438 \u043d\u0430\u0448\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0430\u0437\u043e\u0432\u043e\u0439 VLM, \u043e\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u0432\u044b\u0448\u0435, \u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u043b\u0438 \u0435\u0451 \u043d\u0430\u00a0\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438.<\/p>\n<p>\u0414\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437\u00a0\u044d\u0442\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u043e \u0441\u0431\u043e\u0440\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0432\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0435\u0441\u044f\u0442\u043a\u043e\u0432 \u0442\u044b\u0441\u044f\u0447 \u0441\u0435\u043c\u043f\u043b\u043e\u0432. \u041a\u0440\u043e\u043c\u0435 \u044d\u0442\u043e\u0433\u043e, \u043d\u0430\u043c \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0434\u043e\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043d\u0430\u0448\u0443 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u0435\u0441\u044c \u044d\u0442\u043e\u0442 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u043c.<\/p>\n<h3>\u0417\u0430\u043c\u0435\u0440\u044b \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/h3>\n<p>\u041d\u0443 \u0438 \u0442\u0443\u0442 \u0443\u00a0\u0447\u0438\u0442\u0430\u0442\u0435\u043b\u044f \u0434\u043e\u043b\u0436\u0435\u043d \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441: \u0441\u0442\u0430\u043b\u043e\u00a0\u043b\u0438 \u043b\u0443\u0447\u0448\u0435 \u043f\u043e\u0441\u043b\u0435 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f VLM \u0432\u00a0\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u041d\u0435\u0439\u0440\u043e? \u0418 \u043d\u0430\u0448 \u043e\u0442\u0432\u0435\u0442: \u0434\u0430, \u043f\u0440\u0438\u0447\u0451\u043c \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u0437\u0430\u043c\u0435\u0440\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0440\u0430\u0431\u043e\u0442\u044b \u043d\u043e\u0432\u043e\u0433\u043e \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430 \u041d\u0435\u0439\u0440\u043e \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u043b\u0438 SbS\u2011\u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043b\u0438 \u043d\u0430\u0448\u0443 \u043f\u0440\u043e\u0448\u043b\u0443\u044e LLM\u2011\u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u0441\u00a0\u043d\u043e\u0432\u043e\u0439 VLM\u2011\u0441\u0438\u0441\u0442\u0435\u043c\u043e\u0439. \u042d\u0442\u043e\u0442 \u0437\u0430\u043c\u0435\u0440 \u043f\u043e\u0445\u043e\u0436 \u043d\u0430\u00a0\u0437\u0430\u043c\u0435\u0440 \u0431\u0430\u0437\u043e\u0432\u043e\u0439 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438, \u043e\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u044f \u043f\u0438\u0441\u0430\u043b \u0432\u044b\u0448\u0435, \u043e\u0434\u043d\u0430\u043a\u043e \u0437\u0434\u0435\u0441\u044c \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0434\u0440\u0443\u0433\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\u00a0\u2014 \u043e\u043d\u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u044b \u0432\u00a0\u043f\u043e\u0438\u0441\u043a\u043e\u0432\u044b\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439.<\/p>\n<p>\u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u043e\u0432 \u0432\u00a0\u0434\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u0440\u0437\u0438\u043d\u043a\u0435.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a8c\/de5\/39e\/a8cde539e8af5efd7cd1f31ab04de726.png\" width=\"1600\" height=\"815\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a8c\/de5\/39e\/a8cde539e8af5efd7cd1f31ab04de726.png\"\/><\/figure>\n<p>\u041d\u0430\u0448 \u043e\u0444\u043b\u0430\u0439\u043d\u043e\u0432\u044b\u0439 SbS\u2011\u0437\u0430\u043c\u0435\u0440 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u043c\u044b \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b\u044c\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0432\u044b\u0440\u0430\u0441\u0442\u0438\u043b\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430. VLM\u2011\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043e\u0442\u0432\u0435\u0442\u0430, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u043f\u043e\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u0431\u043e\u0301\u043b\u044c\u0448\u0435\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0435\u0432 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/769\/ffd\/523\/769ffd523f96f81073f3a8a6876dbeaa.png\" width=\"1600\" height=\"407\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/769\/ffd\/523\/769ffd523f96f81073f3a8a6876dbeaa.png\"\/><\/figure>\n<p>\u0411\u043e\u043b\u0435\u0435 \u0442\u043e\u0433\u043e, \u043c\u044b \u043d\u0435\u00a0\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u043b\u0438\u0441\u044c \u043e\u0444\u043b\u0430\u0439\u043d\u2011\u0437\u0430\u043c\u0435\u0440\u043e\u043c. \u041d\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043e\u0432\u0430\u043b\u043e, \u0437\u0430\u043c\u0435\u0442\u044f\u0442\u00a0\u043b\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u043d\u0430\u00a0\u043d\u0430\u0448 \u0432\u0437\u0433\u043b\u044f\u0434, \u043c\u0435\u043d\u044f\u044e\u0442 \u0432\u043e\u0441\u043f\u0440\u0438\u044f\u0442\u0438\u0435 \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u044b \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b\u0438 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 LLM\u2011\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430 \u041d\u0435\u0439\u0440\u043e \u043f\u0440\u043e\u0442\u0438\u0432 VLM\u2011\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430. \u041f\u043e\u00a0\u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c \u043c\u044b \u0432\u0438\u0434\u0438\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f:<\/p>\n<ul>\n<li>\n<p>\u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u043e\u0439 \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u043d\u0430 17%;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0441\u0435\u0441\u0441\u0438\u0439 (\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0442\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f) \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u043d\u0430 4,5%.<\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u0430\u043a \u0447\u0442\u043e\u00a0\u0442\u0435\u043f\u0435\u0440\u044c \u0443\u00a0\u0432\u0430\u0441 \u0441\u0430\u043c\u0438\u0445 \u0435\u0441\u0442\u044c \u0448\u0430\u043d\u0441 \u0437\u0430\u043a\u0438\u043d\u0443\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u0432\u00a0\u041d\u0435\u0439\u0440\u043e \u0438 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/78e\/cfd\/b17\/78ecfdb17b0188f7c1d1dd15a1b0292d.png\" width=\"1682\" height=\"1065\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/78e\/cfd\/b17\/78ecfdb17b0188f7c1d1dd15a1b0292d.png\"\/><\/figure>\n<hr\/>\n<p>\u041d\u0430\u00a0\u043d\u0430\u0448 \u0432\u0437\u0433\u043b\u044f\u0434, VLM\u00a0\u2014 \u044d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0441\u0442\u0430\u0434\u0438\u044f \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f. \u0423\u0436\u0435 \u0441\u0435\u0439\u0447\u0430\u0441 VLM \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c \u043c\u043d\u043e\u0433\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u00ab\u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438\u00bb, \u0430\u00a0\u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0442\u044c state\u2011of\u2011the\u2011art\u2011\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430.<\/p>\n<p>\u041e\u0446\u0435\u043d\u0438\u0442\u044c VLM \u0432\u00a0\u0440\u0430\u0431\u043e\u0442\u0435 \u0443\u0436\u0435 \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u043e\u0436\u0435\u0442 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u041f\u043e\u0438\u0441\u043a\u0430 \u043f\u043e\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c \u0438 \u0423\u043c\u043d\u043e\u0439 \u043a\u0430\u043c\u0435\u0440\u044b \u042f\u043d\u0434\u0435\u043a\u0441\u0430. \u041c\u044b, \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u00a0\u0436\u0435, \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u043c \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044e \u0438 \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u044b. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0434\u044b \u0432\u0430\u0448\u0438\u043c \u043e\u0442\u0437\u044b\u0432\u0430\u043c \u0438 \u0438\u0434\u0435\u044f\u043c.<\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u043d\u0430\u0448\u0430 \u043a\u043e\u043c\u0430\u043d\u0434\u0430 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f \u0432\u0435\u0434\u0451\u0442 <a href=\"https:\/\/t.me\/timeforcv\">\u043a\u0430\u043d\u0430\u043b<\/a> \u0432\u00a0Telegram, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043c\u044b \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u043c \u0441\u0432\u0435\u0436\u0438\u0435 \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u0434\u0435\u043b\u0438\u043c\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u043c\u0438 \u0441\u043b\u0443\u0447\u0430\u044f\u043c\u0438 \u0438\u0437\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0438. \u0417\u0430\u0445\u043e\u0434\u0438\u0442\u0435 \u0432\u00a0\u0433\u043e\u0441\u0442\u0438, \u0435\u0441\u043b\u0438 \u0442\u043e\u0436\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442\u0435\u0441\u044c CV.<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/847706\/\"> https:\/\/habr.com\/ru\/articles\/847706\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><\/figure>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0443\u00a0\u041f\u043e\u0438\u0441\u043a\u0430 \u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043e\u0442\u0432\u0435\u0442\u044b \u041d\u0435\u0439\u0440\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0441\u0440\u0430\u0437\u0443 \u0432\u00a0\u043f\u043e\u0438\u0441\u043a\u043e\u0432\u044b\u0445 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u0445\u00a0\u2014 \u0434\u043b\u044f\u00a0\u0442\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u0433\u0434\u0435 \u044d\u0442\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u0440\u0435\u043c\u044f. \u041d\u043e\u00a0\u0432\u00a0\u0440\u0430\u043c\u043a\u0430\u0445 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u0434\u0440\u0443\u0433\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f: \u041d\u0435\u0439\u0440\u043e \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u0439\u0442\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u0432\u00a0\u041f\u043e\u0438\u0441\u043a\u0435 \u043f\u043e\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c \u0438 \u0432\u00a0\u0423\u043c\u043d\u043e\u0439 \u043a\u0430\u043c\u0435\u0440\u0435\u00a0\u2014 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u043e\u0432\u043e\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u042f\u043d\u0434\u0435\u043a\u0441\u0430. \u041f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u043e \u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435, \u043d\u043e\u00a0\u0438 \u0437\u0430\u0434\u0430\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u043e\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0435\u0451 \u0434\u0435\u0442\u0430\u043b\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0433\u0443\u043b\u044f\u044f \u043f\u043e\u00a0\u043c\u0443\u0437\u0435\u044e, \u043c\u043e\u0436\u043d\u043e \u0441\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0430\u0442\u044e\u0440\u043c\u043e\u0440\u0442 \u0433\u043e\u043b\u043b\u0430\u043d\u0434\u0441\u043a\u043e\u0433\u043e \u0436\u0438\u0432\u043e\u043f\u0438\u0441\u0446\u0430 \u0438 \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u0442\u043e\u0442 \u0438\u043b\u0438\u00a0\u0438\u043d\u043e\u0439 \u043f\u0440\u0435\u0434\u043c\u0435\u0442 \u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u0435.<\/p>\n<p>\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0420\u043e\u043c\u0430\u043d \u0418\u0441\u0430\u0447\u0435\u043d\u043a\u043e, \u044f \u0440\u0430\u0431\u043e\u0442\u0430\u044e \u0432\u00a0\u043a\u043e\u043c\u0430\u043d\u0434\u0435 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f \u042f\u043d\u0434\u0435\u043a\u0441\u0430. \u0412\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443, \u0447\u0442\u043e\u00a0\u0442\u0430\u043a\u043e\u0435 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u2011\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (Visual Language Models,\u00a0VLM), \u043a\u0430\u043a\u00a0\u0443\u00a0\u043d\u0430\u0441 \u0432\u00a0\u042f\u043d\u0434\u0435\u043a\u0441\u0435 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u043e\u0432\u0430\u043d \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0438\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043a\u0430\u043a\u0430\u044f \u0443\u00a0\u043d\u0438\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430. \u0412\u044b \u0443\u0437\u043d\u0430\u0435\u0442\u0435, \u043a\u0430\u043a\u00a0\u041d\u0435\u0439\u0440\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438 \u0438 \u0442\u0435\u043a\u0441\u0442\u0430\u043c\u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0438 \u0447\u0442\u043e\u00a0\u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c \u0441\u00a0\u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435\u043c VLM.<\/p>\n<h2>\u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 VLM<\/h2>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u043d\u0438\u043a\u043e\u0433\u043e \u0443\u0436\u0435 \u043d\u0435\u00a0\u0443\u0434\u0438\u0432\u0438\u0448\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c\u0438 \u044f\u0437\u044b\u043a\u043e\u0432\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u0441\u00a0\u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u0430\u043c\u0438 (\u0430 \u0442\u043e \u0438 \u0441\u043e\u0442\u043d\u044f\u043c\u0438 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432) \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. State\u2011of\u2011the\u2011art \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u0440\u0435\u0448\u0430\u0442\u044c \u043d\u0435\u0442\u0440\u0438\u0432\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438. \u041f\u0440\u043e\u0433\u0440\u0435\u0441\u0441 \u0432\u00a0\u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 NLP \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0433\u043e\u0434\u044b \u043f\u043e\u0440\u0430\u0436\u0430\u0435\u0442 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435.<\/p>\n<p>\u041e\u0434\u0438\u043d \u0438\u0437\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u0444\u043e\u043a\u0443\u0441\u043e\u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f LLM \u0441\u0435\u0433\u043e\u0434\u043d\u044f\u00a0\u2014 \u044d\u0442\u043e \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0445 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u043c\u0438, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043f\u0440\u0438\u0439\u0442\u0438 \u043a\u00a0\u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u043c omni\u2011\u043c\u043e\u0434\u0435\u043b\u044f\u043c. \u0422\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043c\u0438\u043c\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435\u00a0\u2014 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, \u0432\u0438\u0434\u0435\u043e, \u0437\u0432\u0443\u043a. \u0412\u0435\u0440\u0445\u043d\u0435\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u043e \u043f\u0440\u043e\u00a0\u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u043f\u0440\u043e \u00ab\u0447\u0451\u0440\u043d\u044b\u0435 \u044f\u0449\u0438\u043a\u0438\u00bb, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u044e\u0442 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u0434\u0430\u043d\u043d\u044b\u0435 \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439 \u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u0434\u0430\u0432\u0430\u0442\u044c \u0438\u0445 \u043d\u0430\u00a0\u0432\u044b\u0445\u043e\u0434\u0435.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u0417\u0430\u0447\u0435\u043c\u00a0\u0436\u0435 \u043d\u0443\u0436\u043d\u044b \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438? \u0412\u043e\u2011\u043f\u0435\u0440\u0432\u044b\u0445, \u044d\u0442\u043e \u0441\u0443\u043f\u0435\u0440 \u043e\u0431\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a\u00a0\u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0433\u043e\u0434\u044b \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0442\u044c \u0442\u0440\u0435\u043d\u0434 \u043d\u0430\u00a0\u0442\u043e, \u0447\u0442\u043e\u00a0\u043e\u0431\u0449\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u043f\u043e\u0431\u0435\u0436\u0434\u0430\u044e\u0442 \u0447\u0430\u0441\u0442\u043d\u044b\u0435. \u0411\u043e\u043b\u044c\u0448\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b \u0440\u0435\u0448\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u044b\u0439 \u0441\u043f\u0435\u043a\u0442\u0440 \u0437\u0430\u0434\u0430\u0447, \u0434\u043b\u044f\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0434\u0435\u043b\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f. \u0412\u043e\u2011\u0432\u0442\u043e\u0440\u044b\u0445, \u0442\u0430\u043a\u0438\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u00a0\u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u043e\u0442\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u043d\u0430\u043c \u0434\u043b\u044f\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u044d\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u0442. \u043a. \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0435\u0447\u043d\u043e. \u0412\u2011\u0442\u0440\u0435\u0442\u044c\u0438\u0445, \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0432\u0435\u0440\u0430 \u0432\u00a0\u0442\u043e, \u0447\u0442\u043e\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a\u00a0\u0440\u043e\u0441\u0442\u0443 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u00a0\u0442\u0435\u0440\u043c\u0438\u043d\u0430\u0445 \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 \u00ab\u0447\u0451\u0440\u043d\u043e\u0433\u043e \u044f\u0449\u0438\u043a\u0430\u00bb \u043c\u044b \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u043c\u0441\u044f \u0447\u0430\u0441\u0442\u043d\u044b\u043c \u0441\u043b\u0443\u0447\u0430\u0435\u043c, \u0433\u0434\u0435 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u0438 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043a\u0441\u0442 (\u0431\u0443\u0434\u0435\u043c \u043d\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0438\u043d\u0441\u0442\u0440\u0430\u043a\u0442\u043e\u043c), \u0430\u00a0\u043d\u0430\u00a0\u0432\u044b\u0445\u043e\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043a\u0441\u0442 (\u0438\u043b\u0438\u00a0\u0436\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u0432\u0435\u0442). \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0441\u0445\u0435\u043c\u0430 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u0422\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043c\u044b \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0433\u0434\u0435 \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0442\u0430\u043a\u0436\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u0442\u0441\u044f \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0440\u043e\u0441\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430\u00a0\u2014 \u0430\u00a0\u0438\u043c\u0435\u043d\u043d\u043e <a href=\"https:\/\/habr.com\/ru\/companies\/yandex\/articles\/839580\/\"><u>\u0432\u00a0\u0434\u0438\u0444\u0444\u0443\u0437\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445 text\u2011to\u2011image \u0438 text\u2011to\u2011video<\/u><\/a>. \u041c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u00a0\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u043c\u0438 (\u0442\u043e \u0435\u0441\u0442\u044c \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043d\u0442 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f).<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u0442\u0435\u043c \u043a\u0430\u043a\u00a0\u043c\u044b \u043f\u043e\u0433\u0440\u0443\u0437\u0438\u043c\u0441\u044f \u0432\u00a0\u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441\u0430, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0434\u0443\u043c\u0430\u0435\u043c, \u0430\u00a0\u043a\u0430\u043a\u0438\u0435 \u0432\u043e\u043e\u0431\u0449\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c. \u0412\u043e\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u0412\u00a0\u0446\u0435\u043b\u043e\u043c \u0441\u043f\u0435\u043a\u0442\u0440 \u0437\u0430\u0434\u0430\u0447 \u043e\u0447\u0435\u043d\u044c \u0448\u0438\u0440\u043e\u043a\u0438\u0439, \u0430\u00a0\u0441\u0430\u043c\u0438 \u0437\u0430\u0434\u0430\u0447\u0438 \u043e\u0447\u0435\u043d\u044c \u0440\u0430\u0437\u043d\u043e\u0440\u043e\u0434\u043d\u044b. <\/p>\n<p>\u041c\u044b \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e\u00a0VLM\u00a0\u2014 \u044d\u0442\u043e \u043d\u043e\u0432\u0430\u044f \u0441\u0442\u0430\u0434\u0438\u044f \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f. \u0422\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0440\u0435\u0448\u0430\u0442\u044c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e <a href=\"https:\/\/arxiv.org\/abs\/2405.18415\"><u>\u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f<\/u><\/a> (\u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f, \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u044f, \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0438\u00a0\u0442.\u00a0\u0434.) \u0432\u00a0\u0440\u0435\u0436\u0438\u043c\u0430\u0445 zero\u2011shot \u0438 one\u2011shot. \u0418 \u043f\u0443\u0441\u0442\u044c \u0441\u0435\u0439\u0447\u0430\u0441 VLM \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u044b\u0441\u043e\u043a\u043e\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u00a0\u0432\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0442\u0430\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u0430\u044f.<\/p>\n<h3>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 VLM<\/h3>\n<p>\u0418\u0442\u0430\u043a, \u0438\u0437\u00a0\u0447\u0435\u0433\u043e\u00a0\u0436\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 VLM. \u0421\u0435\u0439\u0447\u0430\u0441 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0442\u0430\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u043e\u0441\u0442\u043e\u044f\u0442 \u0438\u0437\u00a0\u0442\u0440\u0451\u0445 \u0431\u043b\u043e\u043a\u043e\u0432:<\/p>\n<ol>\n<li>\n<p>LLM\u00a0\u2014 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (\u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435\u00a0\u2014 YandexGPT), \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442 \u043d\u0438 \u043f\u0440\u043e\u00a0\u043a\u0430\u043a\u0438\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u00a0\u2014 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (CNN \u0438\u043b\u0438\u00a0ViT), \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u0442 \u043d\u0438 \u043f\u0440\u043e\u00a0\u043a\u0430\u043a\u0438\u0435 \u0442\u0435\u043a\u0441\u0442\u044b.<\/p>\n<\/li>\n<li>\n<p>Adapter\u00a0\u2014 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f, \u043a\u0430\u043a\u00a0\u043a\u043e\u0442 \u041b\u0435\u043e\u043f\u043e\u043b\u044c\u0434, \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b LLM \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0436\u0438\u043b\u0438 \u0434\u0440\u0443\u0436\u043d\u043e.<\/p>\n<\/li>\n<\/ol>\n<p>\u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0441\u0430\u043c \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0441\u0442: <\/p>\n<ul>\n<li>\n<p>\u043f\u043e\u0434\u0430\u0451\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u0432\u00a0\u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u0443\u0435\u043c \u0432\u044b\u0445\u043e\u0434 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u0432\u00a0LLM (\u043f\u0440\u043e \u0442\u043e, \u043a\u0430\u043a\u00a0\u0438\u043c\u0435\u043d\u043d\u043e \u043c\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u043c, \u043e\u043f\u0438\u0441\u0430\u043d\u043e \u043d\u0438\u0436\u0435 \u043f\u043e\u0434\u00a0\u043a\u0430\u0442\u043e\u043c);<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u043c\u0438\u043c\u043e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, \u043c\u044b \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441\u00a0\u044d\u0442\u0438\u043c \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 \u043f\u043e\u0434\u0430\u0451\u043c \u0438\u0445 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 LLM.<\/p>\n<\/li>\n<\/ul>\n<details class=\"spoiler\">\n<summary>\u041f\u0430\u0440\u0430 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b<\/summary>\n<div class=\"spoiler__content\">\n<p>\u0421\u0430\u043c\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0439 \u0431\u043b\u043e\u043a\u00a0\u2014 \u043c\u043e\u0434\u0435\u043b\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430. \u041e\u043d\u0438\u00a0\u0431\u044b\u0432\u0430\u044e\u0442 \u0434\u0432\u0443\u0445 \u0432\u0438\u0434\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p>cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>Prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2301.12597\"><u>BLIP-2<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2304.08485\"><u>LLaVa<\/u><\/a>. \u0423\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u043e\u043d\u0438 \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u043e: \u0431\u0435\u0440\u0451\u043c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 (\u0432\u0435\u043a\u0442\u043e\u0440, \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432, \u0442\u0435\u043d\u0437\u043e\u0440\u00a0\u2014 \u0432\u0441\u0451 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u0442\u0438\u043f\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b) \u0438 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u0432\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 (\u0442\u043e\u043a\u0435\u043d\u043e\u0432), \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0430\u0451\u043c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 LLM. \u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e MLP\u2011\u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0430 \u0441\u00a0\u043f\u0430\u0440\u043e\u0439 \u0441\u043b\u043e\u0451\u0432\u00a0\u2014 \u0434\u0430\u0436\u0435 \u0442\u0430\u043a\u043e\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0430\u0434\u0430\u043f\u0442\u0435\u0440 \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0435\u0431\u044f \u043d\u0430\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435.<\/p>\n<p>Cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u0443\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u0447\u0443\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u0435\u0435. \u041e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0432\u00a0\u043d\u0435\u0434\u0430\u0432\u043d\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u043f\u0440\u043e <a href=\"https:\/\/arxiv.org\/abs\/2407.21783\"><u>Llama 3.2<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2409.11402\"><u>NVLM<\/u><\/a>. \u041e\u043d\u0438 \u043f\u044b\u0442\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0445\u043e\u0434 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0435\u0433\u043e \u043f\u043e\u0434\u0430\u0442\u044c \u0432\u00a0cross\u2011attention\u2011\u0431\u043b\u043e\u043a LLM \u0432\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u0430\u0442\u0440\u0438\u0446 key \/ value. \u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u0438\u0445 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u043e\u0432 \u043c\u043e\u0433\u0443\u0442 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0442\u044c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0442\u0438\u043f\u0430 <a href=\"https:\/\/arxiv.org\/abs\/2204.14198\"><u>perceiver resampler<\/u><\/a> \u0438\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2301.12597\"><u>Q\u2011former<\/u><\/a>.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u0423\u00a0\u043e\u0431\u043e\u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0438 \u043f\u043b\u044e\u0441\u044b \u0438 \u043c\u0438\u043d\u0443\u0441\u044b. \u041d\u0430\u00a0\u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e prompt\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u043e\u0432 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f <a href=\"https:\/\/arxiv.org\/abs\/2409.11402\"><u>\u0434\u043e\u0441\u0442\u0438\u0447\u044c \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/u><\/a>, \u043d\u043e\u00a0\u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043e\u043d\u0438 \u0441\u044a\u0435\u0434\u0430\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u043c\u0443\u044e \u0434\u043e\u043b\u044e \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 LLM. Cross\u2011attention\u2011based \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u044b \u043d\u0435\u00a0\u0441\u044a\u0435\u0434\u0430\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 LLM, \u043d\u043e\u00a0\u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0434\u043b\u044f\u00a0\u0445\u043e\u0440\u043e\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0443\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440 \u0441\u00a0\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<\/p>\n<\/div>\n<\/details>\n<h3>\u041f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f VLM<\/h3>\n<p>\u0418\u0442\u0430\u043a, \u0441\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043b\u0438\u0441\u044c. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0439\u043c\u0451\u043c, \u0430\u00a0\u043a\u0430\u043a\u00a0\u043d\u0430\u043c \u044d\u0442\u043e \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u0435 \u0447\u0443\u0434\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c. VLM \u043d\u0435\u00a0\u0443\u0447\u0430\u0442\u0441\u044f \u0441\u00a0\u043d\u0443\u043b\u044f (\u043c\u044b \u0434\u0443\u043c\u0430\u0435\u043c, \u044d\u0442\u043e \u043f\u043e\u043a\u0430 \u0447\u0442\u043e). \u0417\u0430\u00a0\u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0443 \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 LLM \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u044d\u0442\u0438 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u044b \u0434\u043e\u043e\u0431\u0443\u0447\u0430\u0435\u043c \u043d\u0430\u0448\u0443 VLM \u043d\u0430\u00a0\u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u2011\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u043c \u0434\u043e\u043c\u0435\u043d\u0435.<\/p>\n<p>\u042d\u0442\u043e \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u044d\u0442\u0430\u043f\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>pretraining;<\/p>\n<\/li>\n<li>\n<p>alignment: SFT + RL (\u043e\u043f\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e).<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width\"><\/figure>\n<p>\u0414\u0443\u043c\u0430\u044e, \u0447\u0442\u043e\u00a0\u043c\u043d\u043e\u0433\u0438\u043c \u044d\u0442\u0438 \u044d\u0442\u0430\u043f\u044b \u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u044e\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u0430\u043c\u043e\u0439 LLM. \u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0438\u0434\u0435\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u043d\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u0438 \u043a\u00a0\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u00a0\u0434\u0435\u043b\u0430\u044e\u0442 \u0441\u00a0LLM. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u043a\u0440\u0430\u0442\u0446\u0435 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u044d\u0442\u0438 \u044d\u0442\u0430\u043f\u044b.<\/p>\n<h4>VLM pretraining<\/h4>\n<p>\u041d\u0430\u00a0\u044d\u0442\u043e\u043c \u044d\u0442\u0430\u043f\u0435 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0434\u0432\u0443\u0445 \u0446\u0435\u043b\u0435\u0439:<\/p>\n<ul>\n<li>\n<p>\u0441\u0432\u044f\u0437\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u0443\u044e \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u0443\u044e \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 (\u043d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e\u00a0\u0443\u00a0\u043d\u0430\u0441 \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0441\u0442\u044c \u0430\u0434\u0430\u043f\u0442\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u044b \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u043b\u0438 \u0440\u0430\u043d\u044c\u0448\u0435);<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u0432\u00a0\u043d\u0430\u0448\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u043d\u0430\u043d\u0438\u044f \u043e\u00a0\u043c\u0438\u0440\u0435 (\u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u0445 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u0441\u0432\u043e\u0435\u0439 \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0438\u00a0\u2014 \u043a\u0430\u043a\u00a0\u043c\u0438\u043d\u0438\u043c\u0443\u043c OCR\u2011\u043d\u0430\u0432\u044b\u043a\u0438).<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0434\u0435\u0441\u044c \u0435\u0441\u0442\u044c \u0442\u0440\u0438 \u0432\u0438\u0434\u0430 \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 VLM:<\/p>\n<ul>\n<li>\n<p>interleaved pretrain. \u042d\u0442\u043e \u0430\u043d\u0430\u043b\u043e\u0433 LLM pretrain \u0441\u0442\u0430\u0434\u0438\u0438, \u0433\u0434\u0435 \u043c\u044b \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u00a0next\u2011token prediction \u0437\u0430\u0434\u0430\u0447\u0443, \u043f\u043e\u0434\u0430\u0432\u0430\u044f \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u0432\u0435\u0431\u2011\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b. \u0417\u0434\u0435\u0441\u044c\u00a0\u0436\u0435 \u0432\u00a0VLM pretrain \u0441\u0442\u0430\u0434\u0438\u0438 \u043c\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u0435\u0431\u2011\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0441\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438 \u0438 \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442. \u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043e\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043e\u043d\u0430 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0\u0442\u0435\u043a\u0441\u0442, \u043d\u043e\u00a0\u0438 \u043d\u0430\u00a0\u0442\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0441\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u044b \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0435. \u0422\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043c\u043d\u043e\u0433\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e\u0442 \u0432\u0438\u0434 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043b\u0435\u0433\u043a\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u041e\u0434\u043d\u0430\u043a\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0442\u0443\u0442 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043d\u0438\u0437\u043a\u043e\u0435: \u043a\u0430\u043a\u00a0\u0438\u043c\u0435\u043d\u043d\u043e \u0435\u0433\u043e \u043f\u043e\u0432\u044b\u0448\u0430\u0442\u044c\u00a0\u2014 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0438 \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430.<\/p>\n<\/li>\n<li>\n<p>image\u2011text pairs pretrain. \u0417\u0434\u0435\u0441\u044c \u043c\u044b \u0443\u0447\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u00a0\u043e\u0434\u043d\u0443 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443\u00a0\u2014 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f (image captioning). \u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u043c \u043d\u0443\u0436\u0435\u043d \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043a\u043e\u0440\u043f\u0443\u0441 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0441\u00a0\u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u043c \u043a\u00a0\u043d\u0438\u043c \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u043c. \u0422\u0430\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u0430, \u0442\u0430\u043a \u043a\u0430\u043a\u00a0\u0442\u0430\u043a\u0438\u0445 \u043a\u043e\u0440\u043f\u0443\u0441\u043e\u0432 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043c\u043d\u043e\u0433\u043e\u00a0\u2014 \u043e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (text\u2011to\u2011image \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f, image\u2011to\u2011text retrieval).<\/p>\n<\/li>\n<li>\n<p>instruct\u2011based pretrain. \u041d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0432\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443, \u043d\u043e\u00a0\u0438 \u0442\u0435\u043a\u0441\u0442. \u041f\u043e\u0447\u0435\u043c\u0443\u00a0\u0431\u044b \u0441\u0440\u0430\u0437\u0443 \u0442\u0430\u043a \u0438 \u043d\u0435\u00a0\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c? \u0412\u00a0\u044d\u0442\u043e\u043c \u0442\u0438\u043f\u0435 \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430 \u0442\u0430\u043a \u0438 \u0434\u0435\u043b\u0430\u044e\u0442: \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 (\u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0435\u00a0\u0441\u0430\u043c\u043e\u0433\u043e \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430) \u0434\u0430\u043d\u043d\u044b\u0445 \u0432\u00a0\u0432\u0438\u0434\u0435 \u0442\u0440\u043e\u0435\u043a \u00ab\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u2011\u0438\u043d\u0441\u0442\u0440\u0430\u043a\u0442\u2011\u043e\u0442\u0432\u0435\u0442\u00bb.<\/p>\n<\/li>\n<\/ul>\n<p>\u0410\u00a0\u043a\u0430\u043a\u043e\u0439\u00a0\u0436\u0435 \u043e\u0431\u044a\u0451\u043c \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f, \u0447\u0442\u043e\u0431\u044b \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0431\u0443\u0447\u0438\u0442\u044c VLM\u2011\u043c\u043e\u0434\u0435\u043b\u044c? \u042d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441. \u041d\u0430\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043e\u0431\u044a\u0451\u043c \u0434\u0430\u043d\u043d\u044b\u0445 \u0432\u0430\u0440\u044c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0442\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u0441\u0435\u043c\u043f\u043b\u043e\u0432 \u0434\u043e\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 (\u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u043d\u0435\u00a0\u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432!). <\/p>\n<p>\u0423\u00a0\u0441\u0435\u0431\u044f \u0432\u00a0\u042f\u043d\u0434\u0435\u043a\u0441\u0435 \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c instruct\u2011based pretrain \u0441\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u0430\u043c\u0438 \u0441\u0435\u043c\u043f\u043b\u043e\u0432. \u041d\u043e\u00a0\u043e\u0447\u0435\u043d\u044c \u0432\u0435\u0440\u0438\u043c \u0432\u00a0interleaved pretrain \u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u044d\u0442\u0438\u043c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435\u043c.<\/p>\n<details class=\"spoiler\">\n<summary>\u0417\u0434\u0435\u0441\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0442\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><\/figure>\n<figure class=\"full-width\"><\/figure>\n<figure class=\"full-width\"><\/figure>\n<\/p>\n<\/div>\n<\/details>\n<h4>VLM alignment<\/h4>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a\u00a0\u043c\u044b \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u0438 \u0441\u0442\u0430\u0434\u0438\u044e \u043f\u0440\u0435\u0442\u0440\u0435\u0439\u043d\u0430, \u0441\u0430\u043c\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a\u00a0\u0441\u0442\u0430\u0434\u0438\u0438 alignment. \u041e\u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437\u00a0SFT\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 RL. \u0423\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0434\u0438\u044f SFT, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u044f \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u044e\u0441\u044c \u043d\u0430\u00a0\u043d\u0435\u0439. \u041e\u0434\u043d\u0430\u043a\u043e \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u044f\u0445 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 <a href=\"https:\/\/arxiv.org\/abs\/2405.17220\"><u>\u044d\u0442\u043e\u0439<\/u><\/a> \u0438 <a href=\"https:\/\/arxiv.org\/abs\/2407.21783\"><u>\u044d\u0442\u043e\u0439<\/u><\/a>) \u0432\u0441\u0451 \u0447\u0430\u0449\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0442\u0430\u0434\u0438\u044f RL \u043f\u043e\u0432\u0435\u0440\u0445 VLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0442\u0435\u00a0\u0436\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u0447\u0442\u043e\u00a0\u0438 \u0434\u043b\u044f\u00a0LLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 (DPO \u0438 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0441\u00a0\u043f\u043e\u0434\u043c\u0435\u043d\u043e\u0439 \u043f\u0435\u0440\u0432\u043e\u0439 \u0431\u0443\u043a\u0432\u044b \u0432\u00a0\u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0438 \u043c\u0435\u0442\u043e\u0434\u0430).<\/p>\n<p>\u0418\u0442\u0430\u043a, \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0SFT. \u0421\u0442\u0440\u043e\u0433\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u044d\u0442\u0430 \u0441\u0442\u0430\u0434\u0438\u044f \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430\u00a0instruct\u2011based pretrain. \u041d\u043e\u00a0\u0437\u0434\u0435\u0441\u044c \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u00a0\u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430, \u0441\u00a0\u0445\u043e\u0440\u043e\u0448\u0438\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0438 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043e\u0439 \u043e\u0442\u0432\u0435\u0442\u0430, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u0441\u00a0\u0445\u043e\u0440\u043e\u0448\u0438\u043c\u0438 reasoning\u2011\u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438 (\u0442\u043e \u0435\u0441\u0442\u044c \u0441\u00a0\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u043d\u0430\u00a0\u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435, \u043d\u043e\u00a0\u0438 \u0441\u00a0\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u0435\u043b\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435\u2011\u0442\u043e \u0432\u044b\u0432\u043e\u0434\u044b \u043f\u0440\u043e\u00a0\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435). \u0410\u00a0\u0435\u0449\u0451 \u0432\u00a0\u0438\u0434\u0435\u0430\u043b\u0435 \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0435\u0441\u0442\u044c \u0432\u00a0\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445 text\u2011only, \u0433\u0434\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043d\u0435\u00a0\u0431\u0443\u0434\u0435\u0442. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u044e\u0434\u0430\u00a0\u0436\u0435 \u043c\u044b \u0437\u0430\u043c\u0435\u0448\u0438\u0432\u0430\u0435\u043c \u0438 text\u2011only \u0434\u0430\u043d\u043d\u044b\u0435 \u0432\u044b\u0441\u043e\u043a\u043e\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430.<\/p>\n<p>\u0412\u00a0\u0438\u0442\u043e\u0433\u0435 \u0442\u0438\u043f\u0438\u0447\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438\u00a0\u2014 \u043e\u0442\u00a0\u0441\u043e\u0442\u0435\u043d \u0442\u044b\u0441\u044f\u0447 \u0434\u043e\u00a0\u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432. \u0412\u00a0\u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u0442\u043e \u0441\u043e\u0442\u043d\u0438 \u0442\u044b\u0441\u044f\u0447 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432.<\/p>\n<h3>\u041a\u0430\u043a \u0437\u0430\u043c\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\u00a0<\/h3>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e\u00a0\u0442\u043e, \u043a\u0430\u043a\u00a0\u0436\u0435 \u0437\u0430\u043c\u0435\u0440\u044f\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e VLM\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041c\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u043c \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0432\u0443\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432:<\/p>\n<ul>\n<li>\n<p>\u0437\u0430\u043c\u0435\u0440\u044f\u0435\u043c \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043d\u0430\u00a0\u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u2011\u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e Side\u2011by\u2011Side (SbS) \u043e\u0446\u0435\u043d\u043a\u0438, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044f \u0430\u0441\u0435\u0441\u0441\u043e\u0440\u0443 \u0434\u0432\u0430 \u043e\u0442\u0432\u0435\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u0438, \u0447\u0442\u043e\u0431\u044b \u043e\u043d \u0432\u044b\u0431\u0440\u0430\u043b \u043b\u0443\u0447\u0448\u0438\u0439 \u0438\u0437\u00a0\u043d\u0438\u0445.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0435\u0440\u0432\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435\u2011\u0442\u043e \u0441\u0443\u0440\u0440\u043e\u0433\u0430\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, accuracy \u0432\u00a0\u0437\u0430\u0434\u0430\u0447\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438) \u043d\u0430\u00a0\u0443\u0437\u043a\u0438\u0445 \u0441\u0440\u0435\u0437\u0430\u0445, \u043d\u043e\u00a0\u0442\u0430\u043a \u043a\u0430\u043a\u00a0\u0442\u0430\u043a\u0438\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u0432\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0435, \u043e\u043d\u0438 \u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041a\u043e\u043d\u0435\u0447\u043d\u043e, \u0438\u0445 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0432\u0435\u0441\u0442\u0438 \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0430, \u043d\u043e\u00a0\u0441\u0430\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0430 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043c\u043d\u043e\u0433\u043e \u043e\u0448\u0438\u0431\u043e\u043a \u0432\u00a0\u0434\u0430\u043d\u043d\u044b\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0442\u0430\u043a\u0438\u043c \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u043c \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u043c \u043d\u0435\u043b\u044c\u0437\u044f.<\/p>\n<p>\u0412\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 <\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-434248","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/434248","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=434248"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/434248\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=434248"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=434248"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=434248"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}