{"id":414417,"date":"2024-06-29T23:44:48","date_gmt":"2024-06-29T23:44:48","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=414417"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=414417","title":{"rendered":"<span>\u041d\u044b\u0440\u044f\u0435\u043c \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c \u0432 \u043c\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445. \u0422\u0443\u0442\u043e\u0440\u0438\u0430\u043b \u043f\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0443 \u0434\u043b\u044f \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u043e\u0432<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438\u0432\u0435\u0442. \u042f \u0418\u0433\u043e\u0440\u044c \u0411\u0443\u044f\u043d\u043e\u0432, \u0441\u0442\u0430\u0440\u0448\u0438\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a \u0433\u0440\u0443\u043f\u043f\u044b \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 MTS AI. \u042f \u043b\u044e\u0431\u043b\u044e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0438 \u0432\u0441\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u043c\u043e\u0433\u0430\u044e\u0442 \u0438\u0445 \u0434\u0435\u043b\u0430\u0442\u044c \u0431\u044b\u0441\u0442\u0440\u043e \u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e. \u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u043e \u0442\u043e\u043c, <a href=\"https:\/\/habr.com\/ru\/company\/mts_ai\/blog\/670782\/\">\u043a\u0430\u043a \u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438\u0437 \u0412\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u0438<\/a>. \u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0445\u043e\u0447\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u0432\u0430\u043c \u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435 &#8212; \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0435 \u0434\u043b\u044f \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 (data programming). \u041f\u043e\u0437\u043d\u0430\u043a\u043e\u043c\u0438\u043b\u0441\u044f \u044f \u0441 \u043d\u0438\u043c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u043d\u0430\u0437\u0430\u0434, \u0438 \u043c\u0435\u043d\u044f \u043f\u043e\u0440\u0430\u0437\u0438\u043b \u044d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0440\u0430\u0437\u043d\u044b\u0445 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a \u0438 \u0430\u043f\u0440\u0438\u043e\u0440\u043d\u044b\u0445 \u0437\u043d\u0430\u043d\u0438\u0439 \u0434\u043b\u044f \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u043e\u0432. \u041f\u0440\u043e\u0435\u043a\u0442 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u0430\u043b \u0432 \u0421\u0442\u044d\u043d\u0444\u043e\u0440\u0434\u0435 \u043a\u0430\u043a \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u043f\u043e\u043c\u043e\u0449\u0438 \u0432 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0435 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u043e\u0432 \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 information extraction, \u0430 \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u0434\u0435\u043b\u0430\u044e\u0442 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0443 \u0434\u043b\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u043d\u0435\u0448\u043d\u0438\u043c\u0438 \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0430\u043c\u0438.<\/p>\n<p>\u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0440\u0435\u043c\u044f \u043d\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u043a\u0430\u043a\u043e\u0439-\u043b\u0438\u0431\u043e \u0438\u0434\u0435\u0438, \u043a\u043e\u0433\u0434\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u0430\u043b\u043e \u0438\u043b\u0438 \u0438\u0445 \u043d\u0435\u0442 \u0441\u043e\u0432\u0441\u0435\u043c, \u0438\u043b\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u043a\u0430\u043a \u044d\u0442\u043e \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0432 \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u043e\u0433\u043e \u0447\u0430\u0442-\u0431\u043e\u0442\u0430, \u043f\u0440\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u043c\u043e\u0436\u043d\u043e <a href=\"https:\/\/habr.com\/ru\/company\/mts_ai\/blog\/670144\/\">\u0437\u0434\u0435\u0441\u044c<\/a>.<\/p>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u044f \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u0438\u043b \u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0436\u0435\u0442, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043a\u0440\u0430\u0442\u043a\u043e \u043e\u0431\u044a\u044f\u0441\u043d\u044e \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0430\u0441\u043f\u0435\u043a\u0442\u044b \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<details class=\"spoiler\">\n<summary>\u041d\u0435\u043c\u043d\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0440\u0435\u043a\u043b\u0430\u043c\u044b<\/summary>\n<div class=\"spoiler__content\">\n<p>\u042f \u0440\u0435\u0448\u0438\u043b \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u043a\u0430\u043d\u0430\u043b \u0432 <a href=\"https:\/\/t.me\/+QQzy71hITLZkOTgy\">\u0442\u0435\u043b\u0435\u0433\u0435<\/a>. \u0411\u0443\u0434\u0443 \u0442\u0430\u043c \u043f\u043e\u0441\u0442\u0438\u0442\u044c \u0432\u044b\u0436\u0438\u043c\u043a\u0438 \u0438\u0437 \u0441\u0442\u0430\u0442\u0435\u0439 (\u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0442\u043e\u0433\u0434\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u0442\u0441\u044f), \u043c\u044b\u0441\u043b\u0438, \u0447\u0430\u0441\u0442\u0438 \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439 \u0438 \u0430\u043d\u043e\u043d\u0441\u044b \u0441\u0430\u043c\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439. <\/p>\n<\/div>\n<\/details>\n<h2>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u043e\u043d\u044f\u0442\u0438\u044f<\/h2>\n<p>\u0410\u0440\u0441\u0435\u043d\u0430\u043b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0432 \u0441\u0435\u0431\u044f \u0442\u0440\u0438 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430:<\/p>\n<ul>\n<li>\n<p>\u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0434\u043b\u044f \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u044e\u0449\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0434\u043b\u044f \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0440\u0435\u0437\u0430\u044e\u0449\u0438\u0435 (slicing) \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0432\u044b\u0434\u0435\u043b\u044f\u044e\u0449\u0438\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b \u0434\u043b\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439.\u00a0<\/p>\n<\/li>\n<\/ul>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u043c\u044b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u043b\u0438\u0448\u044c \u043d\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445. \u0412 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 (labeling functions) \u0437\u0430\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043a\u0430\u043a\u0443\u044e-\u043b\u0438\u0431\u043e \u043c\u0435\u0442\u043a\u0443 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443 \u0438\u0437 \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445.\u00a0<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0441\u043d\u043e\u0432\u044b \u0434\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f:<\/p>\n<ul>\n<li>\n<p>\u0432\u043d\u0435\u0448\u043d\u0438\u0435 \u0431\u0430\u0437\u044b \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a WordNet \u0438\u043b\u0438 WikiBase (distant supervision);<\/p>\n<\/li>\n<li>\n<p>\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u043a\u0440\u0430\u0443\u0434\u0441\u043e\u0440\u0441-\u0440\u0430\u0437\u043c\u0435\u0442\u0447\u0438\u043a\u0438;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0438 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b, \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0438 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0438\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043b\u043e\u0432\u0430\u0440\u0438;<\/p>\n<\/li>\n<li>\n<p>\u0434\u0440\u0443\u0433\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0430\u0436\u043d\u043e, \u0447\u0442\u043e \u044d\u0442\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u0442\u043e\u0447\u043d\u044b\u043c\u0438 \u0438\u043b\u0438 \u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u043c\u0438. \u0413\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u044f\u0432\u043b\u044f\u044e\u0449\u0430\u044f\u0441\u044f \u0441\u0435\u0440\u0434\u0446\u0435\u043c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f, \u043f\u043e\u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0443\u0447\u0435\u0441\u0442\u044c \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043a\u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u0414\u043b\u044f \u0441\u043f\u0440\u0430\u0432\u043a\u0438, \u043f\u043e\u0434\u0445\u043e\u0434, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0438\u0439 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0441 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438, \u0442.\u0435. \u0441 \u0448\u0443\u043c\u043e\u043c, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c \u0441\u043e \u0441\u043b\u0430\u0431\u044b\u043c \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0435\u043c (weak supervision).<\/p>\n<h2>\u041e\u0431\u0449\u0438\u0439 \u043f\u043b\u0430\u043d \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c<\/h2>\n<p>\u041e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044f\u0441\u044c \u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0435 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u0438 \u0441\u0432\u043e\u0435\u043c \u043e\u043f\u044b\u0442\u0435, \u044f \u043f\u0440\u0438\u0448\u0435\u043b \u043a \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c\u0443 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0443 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439:<\/p>\n<ol>\n<li>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 dev-\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430.\u00a0<\/p>\n<p>\u041d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0440\u0430\u0437\u043c\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u043b\u044e\u0434\u044c\u043c\u0438. \u041e\u043d \u043d\u0443\u0436\u0435\u043d \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u0438 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438.\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0410\u043d\u0430\u043b\u0438\u0437 \u0434\u0430\u043d\u043d\u044b\u0445.\u00a0<\/p>\n<p>\u041d\u0430 \u044d\u0442\u043e\u043c \u044d\u0442\u0430\u043f\u0435 \u0432\u0435\u0434\u0435\u0442\u0441\u044f \u043f\u043e\u0438\u0441\u043a \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u044e\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0449\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u044b.<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u043c\u044b \u043e\u0431\u043b\u0430\u0447\u0430\u0435\u043c \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u0435 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044e.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0446\u0435\u043d\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043f\u043e dev-\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443.\u00a0<\/p>\n<p>\u042d\u0442\u043e \u0432\u0430\u0436\u043d\u044b\u0439 \u044d\u0442\u0430\u043f, \u0433\u0434\u0435 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u0417\u0434\u0435\u0441\u044c \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u043d\u0438 \u0442\u043e\u0447\u043d\u044b, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u043c\u043e\u0433\u0443\u0442 \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f \u0438 \u0435\u0441\u0442\u044c \u043b\u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0410\u043d\u0430\u043b\u0438\u0437 \u043e\u0448\u0438\u0431\u043e\u043a.<\/p>\n<p>\u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044f \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0438\u0441\u0442\u0438\u043d\u043d\u0443\u044e \u043c\u0435\u0442\u043a\u0443 \u0438 \u043c\u0435\u0442\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u0447\u043b\u0435\u043d\u0438\u0442\u044c \u0435\u0449\u0435 \u043e\u0434\u0438\u043d \u043f\u0440\u0438\u0437\u043d\u0430\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0435 \u0431\u044b\u043b \u0437\u0430\u043c\u0435\u0442\u0435\u043d \u0440\u0430\u043d\u0435\u0435, \u0438 \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0434\u043b\u044f \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u043f\u043e\u043a\u0440\u044b\u0442\u0438\u044f \u0438\u043b\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>\u0412\u043e\u0437\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u043a \u0448\u0430\u0433\u0443 2 (\u043e\u043f\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e).\u00a0<\/p>\n<p>\u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043c\u043e\u0433\u0443\u0442 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u0438 \u0438\u0434\u0435\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<p>\u041f\u0440\u0438\u043c\u0435\u043d\u044f\u044f \u0432\u0441\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043a \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\Lambda\" alt=\"\\Lambda\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8c1\/b7e\/991\/8c1b7e9918ef127db06f8be90f930536.svg\" width=\"13\" height=\"17\"\/>, \u0433\u0434\u0435 \u0441\u0442\u0440\u043e\u043a\u0430 &#8212; \u044d\u0442\u043e \u043e\u0431\u044a\u0435\u043a\u0442 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u0430 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 &#8212; \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f. \u0412 \u044f\u0447\u0435\u0439\u043a\u0430\u0445 \u0436\u0435 \u0441\u0442\u043e\u0438\u0442 \u0432\u044b\u0432\u043e\u0434 \u043a\u0430\u0436\u0434\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041d\u0430 \u0435\u0435 \u043e\u0441\u043d\u043e\u0432\u0435, \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0443\u043c\u043e\u043f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 \u043f\u043e\u0442\u0435\u0440\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u0438\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442 \u0432\u0435\u0441\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0445 \u0446\u0435\u043b\u0435\u0432\u044b\u0445 \u043c\u0435\u0442\u043e\u043a.<\/p>\n<p>\u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043c\u0435\u0442\u043a\u0438 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043a \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p>\u0417\u0430\u043a\u043b\u044e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u0442\u0430\u043f \u2014 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u0436\u0435 \u043b\u044e\u0431\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0430\u043c \u043d\u0443\u0436\u043d\u0430.<\/p>\n<\/li>\n<\/ol>\n<p>\u0414\u043b\u044f \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e\u0441\u0442\u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e \u0437\u0434\u0435\u0441\u044c \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u044e \u0441 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u043e \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u0435\u043c \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 information extraction \u0438\u0437 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 <a href=\"https:\/\/arxiv.org\/pdf\/1711.10160.pdf\">\u0441\u0442\u0430\u0442\u044c\u0438<\/a>.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bf5\/9a6\/1b6\/bf59a61b66ed90036ead953466e617b4.png\" width=\"1593\" height=\"474\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bf5\/9a6\/1b6\/bf59a61b66ed90036ead953466e617b4.png\"\/><\/figure>\n<h2>\u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u044b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f<\/h2>\n<p>\u041e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0442\u043e\u0439 \u0432\u044b\u0448\u0435. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0435\u0435 \u043a\u0430\u043a \u0444\u0430\u043a\u0442\u043e\u0440\u043d\u044b\u0439 \u0433\u0440\u0430\u0444, \u0438\u043b\u0438 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c. \u0414\u043b\u044f \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0448\u0438\u0431\u043e\u043a \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u0441\u043e\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041f\u043e\u043c\u0438\u043c\u043e \u044d\u0442\u043e\u0433\u043e, \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 <em>\u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u044f<\/em> \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0442\u0430\u043a\u0438\u0445 \u043a\u0430\u043a, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e. \u042d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u0430\u0442\u0440\u0438\u0446\u044b <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\Lambda\" alt=\"\\Lambda\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fcf\/dd6\/989\/fcfdd69894a877f62ab050c937308b7f.svg\" width=\"13\" height=\"17\"\/>. <\/p>\n<p>\u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043c\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u0438\u043f\u043e\u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u043c\u0435\u0436\u0434\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a &#171;\u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c&#187;, \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0438 \u043f\u043e\u043f\u0430\u0440\u043d\u0430\u044f \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0442\u043c\u0435\u0447\u0430\u044e\u0442, \u0447\u0442\u043e \u044d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0432 \u0440\u0430\u0437\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445.  <\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\phi_{i,j}^{Lab}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}\\neq\\emptyset}\" alt=\"\\phi_{i,j}^{Lab}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}\\neq\\emptyset}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0ed\/151\/be6\/0ed151be6bc42fb1a3ab0762053a8cd3.svg\" width=\"193\" height=\"28\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\phi_{i,j}^{Acc}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}=y_i}\" alt=\"\\phi_{i,j}^{Acc}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}=y_i}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f7c\/560\/cce\/f7c560ccec1fedfebd2e3a7fb5ebf2f8.svg\" width=\"199\" height=\"28\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\phi_{i,j,k}^{Corr}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}=\\Lambda_{i,k}}, (j,k) \\in C\" alt=\"\\phi_{i,j,k}^{Corr}(\\Lambda , Y) = \\textbf{1}{\\Lambda_{i,j}=\\Lambda_{i,k}}, (j,k) \\in C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e9c\/fcc\/ac0\/e9cfccac0632564f5275e23a0bc11677.svg\" width=\"311\" height=\"29\"\/><\/p>\n<p>\u042d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0444\u0430\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0432 \u0433\u0440\u0430\u0444\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0422\u043e\u0433\u0434\u0430 \u043f\u0443\u0441\u0442\u044c \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"x_i\" alt=\"x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9cb\/c66\/0a3\/9cbc660a34895f4fcf08067491602e1f.svg\" width=\"18\" height=\"15\"\/> \u0431\u0443\u0434\u0435\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d \u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u044d\u0442\u0438\u0445 \u0444\u0430\u043a\u0442\u043e\u0440\u043e\u0432 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\phi_i(\\Lambda, Y)\" alt=\"\\phi_i(\\Lambda, Y)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6b6\/c6d\/3ff\/6b6c6d3ffeb4a2903fad944ad715a130.svg\" width=\"71\" height=\"22\"\/>\u00a0 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"j=1,...,n\" alt=\"j=1,...,n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0c3\/048\/cc0\/0c3048cc0eb7f4d308749a49dee78380.svg\" width=\"100\" height=\"21\"\/> \u0438 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0439 \u0438\u0437 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"C\" alt=\"C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec6\/57a\/7a7\/ec657a7a732b5ed96c5eff23cda4f41b.svg\" width=\"15\" height=\"17\"\/>. \u042d\u0442\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u0440\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041f\u0443\u0441\u0442\u044c <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w \\in R^{2n+|C|}\" alt=\"w \\in R^{2n+|C|}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d42\/007\/0b0\/d420070b08a2363e31ab6044ca1ef25c.svg\" width=\"99\" height=\"22\"\/> &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u043a<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"p_w(\\Lambda,Y)=Z^{-1}\\exp(\\sum^m_{i=1}w^T\\phi_i(\\Lambda, y_i))\" alt=\"p_w(\\Lambda,Y)=Z^{-1}\\exp(\\sum^m_{i=1}w^T\\phi_i(\\Lambda, y_i))\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/110\/425\/99c\/11042599c0166ddbe396db5855a2ca1d.svg\" width=\"314\" height=\"57\"\/><\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u044d\u0442\u0443 \u043c\u043e\u0434\u0435\u043b\u044c <strong>\u0431\u0435\u0437<\/strong> \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u043c \u043c\u0435\u0442\u043a\u0430\u043c, \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043c\u0430\u0440\u0433\u0438\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f, \u0437\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0443 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\Lambda\" alt=\"\\Lambda\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/12d\/1a4\/d7a\/12d1a4d7a3e0d1ef4518d54ce2d3e740.svg\" width=\"14\" height=\"18\"\/><\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\hat{w}=argmin_w-log\\sum_Y p_w(\\Lambda, Y)\" alt=\"\\hat{w}=argmin_w-log\\sum_Y p_w(\\Lambda, Y)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/068\/8f9\/77f\/0688f977f83254ed143e9e9ca97d86ae.svg\" width=\"275\" height=\"45\"\/><\/p>\n<p>\u041e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0438 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e SGD \u0441 \u0441\u0435\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0413\u0438\u0431\u0431\u0441\u0430. \u0412 \u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\hat{Y}=p_w(Y|\\Lambda)\" alt=\"\\hat{Y}=p_w(Y|\\Lambda)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cd0\/3f0\/54a\/cd03f054ad55b9cb6bc37ffc19dba9d4.svg\" width=\"112\" height=\"26\"\/> &#8212; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0438\u0434\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"h_\\theta(x)\" alt=\"h_\\theta(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99b\/5a1\/990\/99b5a1990b9a7a3c614fc2544f318cc4.svg\" width=\"46\" height=\"22\"\/> \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0448\u0443\u043c\u043e\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\hat{\\theta}=argmin_\\theta\\sum^m_{m=1}\\mathop{\\mathbb{E}}_{y\\sim\\hat{Y}}[l(h_\\theta(x_i), y)]\" alt=\"\\hat{\\theta}=argmin_\\theta\\sum^m_{m=1}\\mathop{\\mathbb{E}}_{y\\sim\\hat{Y}}[l(h_\\theta(x_i), y)]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f75\/4bf\/bbd\/f754bfbbdaf1f3d922a1b14696b78107.svg\" width=\"274\" height=\"57\"\/><\/p>\n<p>\u0422\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442: \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0439 \u043d\u0430 \u0442\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0431\u044b \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u043e, \u0442.\u0435. \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430. \u042d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0432\u0430\u0436\u043d\u043e\u0435 \u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044e\u0442 \u0434\u0432\u0435 \u0434\u0438\u043b\u0435\u043c\u043c\u044b \u2014 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0435\u0435 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b.\u00a0<\/p>\n<p>\u041f\u0435\u0440\u0432\u0430\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0442\u0430\u043a. \u0415\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043c\u0430\u043b\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0438\u043b\u0438 \u043e\u043d\u0438 \u0447\u0430\u0441\u0442\u043e &#171;\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442&#187;, \u0442\u043e \u043e\u043d\u0438 \u0434\u0430\u0436\u0435 \u043f\u0440\u0438 \u0432\u0437\u0432\u0435\u0448\u0438\u0432\u0430\u043d\u0438\u0438 \u043d\u0435 \u0431\u0443\u0434\u0443\u0442 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e\u043c. \u0421 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u043c\u0435\u0442\u043e\u043a \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e\u043c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u0435\u043d. \u0413\u0434\u0435 \u043d\u0430\u0439\u0442\u0438 \u0433\u0440\u0430\u043d\u044c, \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0435 \u0437\u0430\u043c\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u044d\u0442\u043e \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435? \u0422\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c\u044e \u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434 \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043d\u0430\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u043a\u043e\u043b\u043e 15 \u0448\u0442\u0443\u043a.<\/p>\n<p>\u0412\u0442\u043e\u0440\u0430\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u043e: \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b, \u0442.\u0435. \u043f\u0440\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0443\u0447\u0442\u0435\u043d\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439 \u0438\u0437 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"C\" alt=\"C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7b6\/665\/bc0\/7b6665bc0d68b11547dea7733d2e5229.svg\" width=\"15\" height=\"17\"\/>, \u0440\u0430\u0441\u0442\u0435\u0442 \u0432\u0440\u0435\u043c\u044f \u0435\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0410\u0432\u0442\u043e\u0440\u044b \u043d\u0430 \u0434\u0432\u0435 \u0441 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u043e\u0439 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b \u0440\u0430\u0441\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442, \u043a\u0430\u043a \u043e\u043d\u0438 \u0432\u0441\u0435 \u044d\u0442\u043e \u0440\u0435\u0448\u0430\u044e\u0442, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u0434\u0435\u0441\u044c \u044f \u043f\u0440\u0438\u0432\u0435\u0434\u0443 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0431\u043e\u0431\u0449\u0451\u043d\u043d\u044b\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043d\u0430\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0412 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0441\u0432\u043e\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439 \u0430\u0432\u0442\u043e\u0440\u044b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0432\u044b\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u043d\u0438\u044f \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"C\" alt=\"C\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/12e\/187\/fec\/12e187fec181ed26057eec47d28be659.svg\" width=\"15\" height=\"17\"\/> \u043c\u0435\u0436\u0434\u0443 \u0444\u0430\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0432 \u0433\u0440\u0430\u0444\u0435. \u042d\u0442\u043e\u0442 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c, \u043e\u0434\u043d\u0430\u043a\u043e, \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\epsilon\" alt=\"\\epsilon\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/077\/4de\/22c\/0774de22c34d2f3a9ef9c0c52b6ca222.svg\" width=\"8\" height=\"12\"\/>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439. \u041c\u043e\u0436\u043d\u043e \u0442\u0430\u043a\u0436\u0435 \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u0441\u0442\u0430\u0435\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0432\u044b\u0431\u0440\u0430\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438. \u042d\u043c\u043f\u0438\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u0438, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 &#171;\u043b\u043e\u043a\u0442\u0435\u0432\u0430\u044f \u0442\u043e\u0447\u043a\u0430&#187;, \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439, \u0430 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0438. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u044d\u0442\u0430 \u0442\u043e\u0447\u043a\u0430 \u0438 \u0435\u0441\u0442\u044c \u0442\u043e \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0443\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c, \u043a\u0430\u043a \u043e\u043d\u0438 \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u044e\u0442. \u0417\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u043e\u0442\u0441\u044b\u043b\u0430\u044e \u043a \u0441\u0442\u0430\u0442\u044c\u0435.<\/p>\n<h2>\u041f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u043c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u044f \u043f\u043e\u043a\u0430\u0436\u0443, \u043a\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c. \u0423 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u043e\u0432 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438 \u044f \u0440\u0435\u0448\u0438\u043b \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0438 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0434\u043b\u044f \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0441\u0430\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u043e\u0432, \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0439 \u0438\u0437 \u043e\u0442\u0437\u044b\u0432\u043e\u0432 \u043d\u0430 AliExpress. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442, \u043c\u044b \u0441\u043c\u043e\u0436\u0435\u043c \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043e\u0442 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435, \u044f \u043e\u0431\u044a\u044f\u0441\u043d\u044e \u043f\u043e \u0448\u0430\u0433\u0430\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u043e \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u0435\u043c, \u043e\u043f\u0438\u0440\u0430\u044f\u0441\u044c \u043d\u0430 \u043f\u043b\u0430\u043d, \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0439 \u0432\u044b\u0448\u0435.\u00a0<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0432\u0441\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438.<\/p>\n<pre><code class=\"python\">import warnings warnings.simplefilter(action='ignore', category=FutureWarning)  import pandas as pd from snorkel.labeling import labeling_function from pymystem3 import Mystem  pd.options.mode.chained_assignment = None import seaborn as sns import nltk import re from dostoevsky.models import FastTextSocialNetworkModel from dostoevsky.tokenization import RegexTokenizer<\/code><\/pre>\n<p>\u041d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0441\u0435\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u0438\u043c\u0435\u0435\u0442 \u0442\u0440\u0438 \u043c\u0435\u0442\u043a\u0438, \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043a\u0430\u0442\u044c \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0435 \u0438 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0438. \u0417\u0430\u0432\u0435\u0434\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435. \u041f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f ABSTAIN \u043d\u0443\u0436\u043d\u0430 \u0434\u043b\u044f \u0441\u043b\u0443\u0447\u0430\u044f, \u043a\u043e\u0433\u0434\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u043d\u0435\u0441\u0442\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043e \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043a \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n<pre><code class=\"python\">ABSTAIN = -1 NEGATIVE = 0 POSITIVE = 1<\/code><\/pre>\n<p>\u0418\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u043e\u043b\u043e\u043d\u043a\u0438 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c\u0438 \u043c\u0435\u0442\u043a\u0430\u043c\u0438. \u041c\u044b \u0442\u0430\u043a\u0436\u0435 \u043c\u043e\u0436\u0435\u043c \u0432\u0438\u0434\u0435\u0442\u044c, \u0447\u0442\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u043d.<\/p>\n<pre><code class=\"python\">df = pd.read_csv(\"\/media\/astromis\/Data\/Datasets and corpuses\/rureviews\/women-clothing-accessories.3-class.balanced.csv\", sep=\"\\t\") df.columns = [\"text\", \"label\"] df.label.value_counts()<\/code><\/pre>\n<pre><code>   negative    30000    neautral    30000    positive    30000    Name: label, dtype: int64<\/code><\/pre>\n<pre><code class=\"python\">df = df[df.label.isin([\"negative\", \"positive\"])] df.label = df.label.replace({\"negative\": 0, \"positive\": 1})<\/code><\/pre>\n<p>\u041f\u0435\u0440\u0435\u043c\u0435\u0448\u0430\u0435\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438 \u0432\u044b\u0434\u0435\u043b\u0438\u043c \u0442\u0440\u0438 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0438:<\/p>\n<ul>\n<li>\n<p>dev &#8212; \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0430, \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0438\u0437\u0443\u0447\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438. \u0412 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u044d\u0442\u0443 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c \u0432\u0440\u0443\u0447\u043d\u0443\u044e. \u041f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u044f\u0442\u044c \u043e\u0442 2 \u0434\u043e 4 \u0447\u0430\u0441\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p>train &#8212; \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u044f. \u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0435\u043c \u043b\u0443\u0447\u0448\u0435 \u0431\u0443\u0434\u0435\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u0435\u0442\u043e\u043a.<\/p>\n<\/li>\n<li>\n<p>test &#8212; \u0442\u0435\u0441\u0442\u043e\u0432\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0443 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043e\u0442 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u0441 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u043e\u0439.<\/p>\n<\/li>\n<\/ul>\n<pre><code class=\"python\">df = df.sample(frac=1.0)  dev = df.iloc[:300] train = df.iloc[300:10300] test = df.iloc[3300:3800]  dev.label.value_counts()<\/code><\/pre>\n<pre><code>   1    156    0    144    Name: label, dtype: int64<\/code><\/pre>\n<h2>\u0410\u043d\u0430\u043b\u0438\u0437 \u0434\u0430\u043d\u043d\u044b\u0445<\/h2>\n<p>\u0418 \u0432\u043e\u0442 \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u044b \u0434\u043e\u0431\u0440\u0430\u043b\u0438\u0441\u044c \u0434\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0440\u0430\u0431\u043e\u0442\u044b. \u041e\u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043d\u0430\u0446\u0435\u043b\u0435\u043d\u0430 \u043d\u0430 \u043f\u043e\u0438\u0441\u043a \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a \u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439, \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0437\u0443\u044e\u0449\u0438\u0445 \u043a\u043b\u0430\u0441\u0441\u044b. \u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u0441\u0430\u043c\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u043e\u0433\u043e \u2014 \u0441\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<pre><code class=\"python\">dev[\"token_len\"] = dev.text.apply(lambda x: len(x.split(\" \"))) sns.displot(data=dev, x=\"token_len\", hue=\"label\")<\/code><\/pre>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d05\/1e8\/e6e\/d051e8e6ea69305a72179c713973d3ea.png\" width=\"400\" height=\"352\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d05\/1e8\/e6e\/d051e8e6ea69305a72179c713973d3ea.png\"\/><\/figure>\n<p>\u041c\u043e\u0436\u043d\u043e \u0432\u0438\u0434\u0435\u0442\u044c, \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u044f \u0432 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f\u0445 \u2014 \u00a0\u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0438 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0435\u043c \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0435. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0434\u0430\u043b\u044c\u0448\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0447\u0430\u0441\u0442\u0435\u0439 \u0440\u0435\u0447\u0438, \u0440\u0430\u0437 \u0443\u0436 \u043c\u044b \u0437\u0430\u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043f\u0440\u043e \u0442\u043e\u043a\u0435\u043d\u044b. \u0427\u0442\u043e\u0431\u044b \u043d\u0435 \u0443\u0441\u043b\u043e\u0436\u043d\u044f\u0442\u044c, \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u0438\u043c\u0435\u043d\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c, \u0438\u043c\u0435\u043d\u0438 \u043f\u0440\u0438\u043b\u0430\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u0438 \u0433\u043b\u0430\u0433\u043e\u043b\u0435. \u041d\u0435 \u0437\u0430\u0431\u0443\u0434\u0435\u043c \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u043d\u0430 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0441\u0435\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0435\u0434\u0438\u043d\u0438\u0446\u0435 \u0442\u0435\u043a\u0441\u0442\u0430.<\/p>\n<pre><code class=\"python\">def get_postags(text):    tokens = nltk.word_tokenize(text)    return \" \".join([x[1] for x in nltk.pos_tag(tokens, lang=\"rus\")])     def pos_count_add(df_):    df_['pos'] = df_.text.apply(lambda x: get_postags(x))    df_[\"adjective_count\"] = df_.pos.apply(lambda x: len(re.findall(r\"A[ $]|A=[\\w]+\", x)))    df_[\"noun_count\"] = df_.pos.apply(lambda x: x.count(\"S\"))    df_[\"verb_count\"] = df_.pos.apply(lambda x: len(re.findall(r\"V[$ ]\", x)))    df_[\"adjective_count\"] = df_[\"adjective_count\"] \/ df_[\"token_len\"]    df_[\"noun_count\"] = df_[\"noun_count\"] \/ df_[\"token_len\"]    df_[\"verb_count\"] = df_[\"verb_count\"] \/ df_[\"token_len\"]    return df_     dev = pos_count_add(dev)  sns.displot(data=dev, x=\"noun_count\", hue=\"label\", kind=\"kde\")<\/code><\/pre>\n<figure class=\"bordered full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fad\/5f7\/6a8\/fad5f76a8d00673c158c54563ff119d3.png\" width=\"556\" height=\"489\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fad\/5f7\/6a8\/fad5f76a8d00673c158c54563ff119d3.png\"\/><\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/44e\/7e1\/cfa\/44e7e1cfa253731f55bd639179f54358.png\" width=\"556\" height=\"489\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/44e\/7e1\/cfa\/44e7e1cfa253731f55bd639179f54358.png\"\/><\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/30d\/22f\/df5\/30d22fdf50c688e8b15b4115a7a1dc16.png\" width=\"556\" height=\"489\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/30d\/22f\/df5\/30d22fdf50c688e8b15b4115a7a1dc16.png\"\/><\/figure>\n<p>\u041f\u043e\u0436\u0430\u043b\u0443\u0439, \u0441\u0430\u043c\u043e\u0439 \u0437\u0430\u043c\u0435\u0442\u043d\u043e\u0439 \u0440\u0430\u0437\u043d\u0438\u0446\u0435\u0439 \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u043f\u0440\u0438\u043b\u0430\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c, \u0430 \u0438\u043c\u0435\u043d\u043d\u043e \u0432 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u0438\u0445 \u044f\u0432\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435, \u043f\u0440\u0438\u0447\u0435\u043c \u043f\u043e\u0440\u043e\u0433\u043e\u043c \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 0.2.<\/p>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0447\u0430\u0441\u0442\u0435\u0439 \u0440\u0435\u0447\u0438, \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u0438 \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c \u043a\u0430\u043a\u0438\u0435-\u0442\u043e \u043b\u0435\u043a\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438. \u0415\u0441\u043b\u0438 \u0432\u044b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u043f\u043e \u043a\u043b\u0430\u0441\u0441\u0430\u043c, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0432 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f\u0445 \u0441\u043b\u043e\u0432\u0430 \u0438 \u044d\u043c\u043e\u0446\u0438\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0442\u0441\u044f.\u00a0<\/p>\n<pre><code class=\"python\">print(dev[dev.label == \"positive\"].text.to_list()) # text print(dev[dev.label == \"negative\"].text.to_list()) #text<\/code><\/pre>\n<pre><code class=\"python\">def compare(word, df):    print(\"neg: \", ' '.join(df[df.label == 0].text.to_list()).count(word))    print(\"pos: \",' '.join(df[df.label == 1].text.to_list()).count(word))    compare(\"\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\", dev)  #   neg:  8 #   pos:  13  compare(\"!\", dev)  #    neg:  161 #    pos:  154  compare(\"\u043d\u0435\", dev)  #   neg:  267 #   pos:  172  compare(\"\u043f\u0430\u0441\u0438\u0431\", dev)  #   neg:  5 #   pos:  34<\/code><\/pre>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0447\u0430\u0441\u0442\u043e \u043f\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044e\u0442:<\/p>\n<ul>\n<li>\n<p>\u0441\u043b\u043e\u0432\u043e \u0441\u043f\u0430\u0441\u0438\u0431\u043e;<\/p>\n<\/li>\n<li>\n<p>\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u044e;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043c\u0430\u0439\u043b\u0438\u043a-\u0441\u043a\u043e\u0431\u043a\u0430 )\u00a0<\/p>\n<\/li>\n<\/ul>\n<p>\u0432 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c:<\/p>\n<ul>\n<li>\n<p>\u0447\u0430\u0441\u0442\u043e\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0447\u0430\u0441\u0442\u0438\u0446\u044b &#171;\u043d\u0435&#187;;<\/p>\n<\/li>\n<li>\n<p>\u201c\u0433\u0440\u0443\u0441\u0442\u043d\u044b\u0439 \u0441\u043c\u0430\u0439\u043b\u0438\u043a-\u0441\u043a\u043e\u0431\u043a\u0443 (<\/p>\n<\/li>\n<\/ul>\n<h2>\u041f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u0432\u043d\u0435\u0448\u043d\u0438\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u044b<\/h2>\n<p>\u041d\u0443 \u0430 \u0442\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043c \u0430\u043d\u0430\u043b\u0438\u0437 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043e\u0431\u0440\u0430\u0442\u0438\u043c\u0441\u044f \u043a \u0434\u0440\u0443\u0433\u0438\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0433\u0443\u0442 \u043d\u0430\u043c \u043f\u043e\u043c\u043e\u0447\u044c. \u0414\u043b\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0441\u043b\u043e\u0432 \u0432\u043d\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0438\u043d\u043e\u0433\u0434\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0441\u043b\u043e\u0432\u0430\u0440\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0441\u043b\u043e\u0432\u0443 \u043f\u0440\u0438\u043f\u0438\u0441\u0430\u043d \u0441\u0435\u043d\u0442\u0438\u043c\u0435\u043d\u0442.\u00a0 \u0414\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u044f \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0441\u043b\u043e\u0432\u0430\u0440\u044c \u043f\u0440\u043e\u0435\u043a\u0442\u0430 &#171;\u041a\u0430\u0440\u0442\u0430 \u0441\u043b\u043e\u0432&#187;.\u00a0<\/p>\n<p>\u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043e\u043d \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<pre><code class=\"python\">emo_dict = pd.read_csv(\"kartaslov\/dataset\/emo_dict\/kartaslovsent.csv\", sep=\";\") emo_dict.head()<\/code><\/pre>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\">term<\/p>\n<\/td>\n<td>\n<p align=\"left\">tag<\/p>\n<\/td>\n<td>\n<p align=\"left\">value<\/p>\n<\/td>\n<td>\n<p align=\"left\">pstv<\/p>\n<\/td>\n<td>\n<p align=\"left\">ngtv<\/p>\n<\/td>\n<td>\n<p align=\"left\">neut<\/p>\n<\/td>\n<td>\n<p align=\"left\">dunno<\/p>\n<\/td>\n<td>\n<p align=\"left\">pstvNgtvDisagreementRatio<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">0<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0431\u0430\u0436\u0443\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">NEUT<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.08<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.185<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.037<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.580<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.198<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">1<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0431\u0431\u0430\u0442\u0441\u0442\u0432\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">NEUT<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.192<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.038<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.578<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.192<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">2<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0431\u0431\u0440\u0435\u0432\u0438\u0430\u0442\u0443\u0440\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">NEUT<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.08<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.196<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.000<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.630<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.174<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">3<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0431\u0437\u0430\u0446<\/p>\n<\/td>\n<td>\n<p align=\"left\">NEUT<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.00<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.137<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.000<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.706<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.157<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0431\u0438\u0441\u0441\u0438\u043d\u0435\u0446<\/p>\n<\/td>\n<td>\n<p align=\"left\">NEUT<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.28<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.151<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.113<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.245<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.491<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u044d\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043d \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0441\u0435\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u0430 \u0432 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0435 [-1;1]. \u042d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0434\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0442\u043e\u0447\u043d\u0443\u044e \u043e\u0446\u0435\u043d\u043a\u0443 \u0441\u043b\u043e\u0432\u0443. \u041e\u0434\u043d\u0430\u043a\u043e \u043c\u044b \u043f\u043e\u0439\u0434\u0435\u043c \u043f\u043e \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u043d\u043e\u043c\u0443 \u043f\u0443\u0442\u0438, \u043e\u0431\u0440\u0430\u0449\u0430\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0442\u0435\u0433\u0438.\u00a0\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f, \u043a\u0441\u0442\u0430\u0442\u0438, \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0430 \u0432 <a href=\"https:\/\/github.com\/dkulagin\/kartaslov\">\u0433\u0438\u0442\u0445\u0430\u0431\u0435<\/a> \u043f\u0440\u043e\u0435\u043a\u0442\u0430.<\/p>\n<p>\u0412\u043e\u0437\u044c\u043c\u0435\u043c \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0441\u043b\u043e\u0432\u0430 \u0438 \u0438\u0445 \u0442\u0435\u0433\u0438, \u0437\u0430\u0442\u0435\u043c \u043d\u0430\u043f\u0438\u0448\u0435\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e.\u00a0<\/p>\n<p>\u041e\u043d\u0430 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: pymystem3 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u0442 \u043c\u043e\u0440\u0444\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0430\u0437\u0431\u043e\u0440 \u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442 \u0447\u0430\u0441\u0442\u0438 \u0440\u0435\u0447\u0438. \u041e\u043d\u0430 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0432\u0441\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0438 \u043f\u0440\u0438\u043b\u0430\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0438\u0437 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f. \u0417\u0430\u0442\u0435\u043c \u043f\u043e\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u043c\u044b \u0441\u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u0443\u0435\u043c \u043f\u043e \u043f\u0440\u043e\u0441\u0442\u043e\u043c\u0443 \u043f\u0440\u0430\u0432\u0438\u043b\u0443 \u2014 \u0441\u043b\u043e\u0436\u0438\u043c \u043f\u043e\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u0438 \u043f\u043e \u0432\u0441\u0435\u043c \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u043c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0438 \u043f\u0440\u0438\u043b\u0430\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c.<\/p>\n<p>\u0417\u0432\u0443\u0447\u0438\u0442 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u043c\u0443\u0434\u0440\u0435\u043d\u043e, \u043d\u043e \u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u2014 \u043c\u0435\u0442\u043e\u0434 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442. \u041f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u044d\u0442\u043e \u043d\u0430 \u043d\u0430\u0448\u0435\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435.\u00a0<\/p>\n<pre><code class=\"python\">emo_dict = emo_dict[[\"term\", \"tag\"]] stemmer = Mystem() def estimate_sentiment_by_vocab(word):    analized_text = stemmer.analyze(word)    filtered_sent = []    for word in analized_text:        if \"analysis\" not in word.keys():            continue        if len(word[\"analysis\"]) == 0:            continue        word = word[\"analysis\"][0]        gr = word[\"gr\"]        if \"PART=\" in gr or len(re.findall(r\"A[ $]|A=[\\w]+\", gr)) > 0 or \"ADV\" in gr:            filtered_sent.append(word[\"lex\"])        else:            continue    emotion = 0    for w in filtered_sent:        if \"NGTV\" in emo_dict[emo_dict.term == w].tag.to_list():            emotion -= 1        elif \"PSTV\" in emo_dict[emo_dict.term == w].tag.to_list():            emotion += 1        else:            continue    return emotion  dev[\"dict_emo\"] = dev.text.apply(lambda x: estimate_sentiment_by_vocab(x)) sns.displot(data=dev, x=\"dict_emo\", hue=\"label\", kind=\"kde\")<\/code><\/pre>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8fb\/550\/044\/8fb5500449b5d7556bbf85944fe7f408.png\" width=\"556\" height=\"489\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8fb\/550\/044\/8fb5500449b5d7556bbf85944fe7f408.png\"\/><\/figure>\n<p>\u0418\u0437 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u044b\u0432\u043e\u0434, \u0447\u0442\u043e \u044d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434 \u043d\u0435 \u0442\u043e\u0447\u043d\u043e, \u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 &#8212; \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u0438 \u0441\u043e\u0433\u043b\u0430\u0441\u0443\u044e\u0442\u0441\u044f \u0441 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u043e\u0439, \u043f\u0440\u0438\u0447\u0435\u043c \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u044c, \u0442\u0435\u043c \u0442\u043e\u0447\u043d\u0435\u0435. \u0422\u0435\u043c \u043d\u0435 \u043c\u0435\u043d\u0435\u0435, \u043c\u044b \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u043e\u0432 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043e\u0446\u0435\u043d\u0435\u043d\u0430, \u043a\u0430\u043a \u043d\u0435\u0439\u0442\u0440\u0430\u043b\u044c\u043d\u044b\u0435.<\/p>\n<h2>\u041f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u0438<\/h2>\n<p>\u0414\u0440\u0443\u0433\u0438\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u043c \u043f\u0440\u0438 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043c\u043e\u0433\u0443\u0442 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0442\u044c \u0440\u0430\u043d\u0435\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438\u00a0, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u044b\u043b\u0438 \u043d\u0430\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u0434\u043e\u043c\u0435\u043d\u0430\u0445. \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u0442\u043b\u0438\u0447\u0430\u044e\u0442\u0441\u044f, \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0430\u043c\u0430 \u043f\u043e \u0441\u0435\u0431\u0435 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043d\u0435 \u0442\u0430\u043a \u0445\u043e\u0440\u043e\u0448\u043e, \u043a\u0430\u043a \u043d\u0430 \u0446\u0435\u043b\u0435\u0432\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0431\u0443\u0434\u0435\u0442.<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0442\u0430\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u044b \u0432\u043e\u0437\u044c\u043c\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0442\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438\u0437 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 <a href=\"https:\/\/github.com\/bureaucratic-labs\/dostoevsky\">\u201c\u0414\u043e\u0441\u0442\u043e\u0435\u0432\u0441\u043a\u0438\u0439\u201d<\/a>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0431\u044b\u043b\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0430 \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0441\u043e\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439.<\/p>\n<pre><code class=\"python\">tokenizer = RegexTokenizer() model = FastTextSocialNetworkModel(tokenizer=tokenizer)  def get_sentiments(text:list):    for x in text:        if not isinstance( x, str):            print(x)       results = model.predict(text, k=1)    label = []    score = []    for x, y in list([list(x.items())[0] for x in results]):        label.append(x)        score.append(y)    return label, score  sent_label, sent_score = get_sentiments(dev.text.tolist()) dev[\"sentiment\"] = sent_label dev[\"score\"] = sent_score dev[\"sentiment\"] = dev[\"sentiment\"].replace({\"neutral\": 2, \"positive\":1, \"negative\":0, \"skip\": 4, \"speech\": 5})<\/code><\/pre>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0440\u0430\u0432\u043d\u0438\u043c, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u044d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043d\u0430\u0448\u0438\u0445 \u043e\u0442\u0437\u044b\u0432\u0430\u0445 \u0441 AliExpress. \u0422\u0430\u043a \u043a\u0430\u043a \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0432\u0435 \u043c\u0435\u0442\u043a\u0438, \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u043c \u0442\u043e, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u043b\u0430, \u043a\u0430\u043a \u043d\u0435\u0439\u0442\u0440\u0430\u043b\u044c\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442. \u0412\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u0430 \u0434\u043b\u044f \u0432\u043d\u0435\u0434\u043e\u043c\u0435\u043d\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u043e \u0434\u0435\u0440\u0436\u0438\u043c \u0432 \u0433\u043e\u043b\u043e\u0432\u0435, \u0447\u0442\u043e \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 \u043e\u043d\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043b\u0430, \u043a\u0430\u043a \u043d\u0435\u0439\u0442\u0440\u0430\u043b\u044c\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<pre><code class=\"python\">print(len(dev[dev.sentiment != 2])) #    141 from sklearn.metrics import accuracy_score  accuracy_score(dev[dev.sentiment != 2].label, dev[dev.sentiment != 2].sentiment) #    0.7021276595744681<\/code><\/pre>\n<h2>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0438 \u043e\u0446\u0435\u043d\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439<\/h2>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e \u043a\u0430\u043a \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u043b\u0438 \u0430\u043d\u0430\u043b\u0438\u0437 \u0438 \u043f\u043e\u0434\u0433\u0440\u0443\u0437\u0438\u043b\u0438 \u0432\u0441\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0438\u0441\u0442\u0443\u043f\u0438\u0442\u044c \u043a \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u0443\u043f\u0435\u0440\u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u0437\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0432\u0441\u0435 \u0432\u0430\u0448\u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u0432 \u0432\u0438\u0434\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0438 \u043b\u0430\u043a\u043e\u043d\u0438\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u043e\u0434\u043d\u043e\u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u043c, \u0442.\u0435. \u043f\u0440\u043e\u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u0442\u044c \u0437\u0430 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043a\u043b\u0430\u0441\u0441 \u0438\u043b\u0438 \u0432\u043e\u0437\u0434\u0435\u0440\u0436\u0430\u0442\u044c\u0441\u044f (ABSTAIN).<\/p>\n<p>\u0414\u043e\u043b\u0436\u0435\u043d \u0435\u0449\u0435 \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u044f \u0441\u0445\u0438\u0442\u0440\u0438\u043b, \u0437\u0430\u043f\u0438\u0441\u0430\u0432 \u0432\u0441\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0432 DataFrame, \u043d\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u044c \u0443\u043c\u0435\u0435\u0442 \u0434\u0435\u043b\u0430\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0439 \u043f\u0440\u0435\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433 \u0442\u0435\u043c\u0438 \u0436\u0435 \u0430\u043d\u0430\u043b\u0438\u0437\u0430\u0442\u043e\u0440\u0430\u043c\u0438 \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u0430\u043c \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0441\u0432\u043e\u0439. \u0412\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043e\u0431 \u044d\u0442\u043e\u043c \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438.<\/p>\n<pre><code class=\"python\">from snorkel.labeling import labeling_function  @labeling_function() def contains_not(x):    return NEGATIVE if \"\u043d\u0435\" in x.text.lower() else ABSTAIN  @labeling_function() def check_emo_dict(x):    if x.dict_emo > 0:        return POSITIVE    elif x.dict_emo &lt; 0:        return NEGATIVE    else:        return ABSTAIN  @labeling_function() def sentiment_model(x):    if x.sentiment == 1:        return POSITIVE    elif x.sentiment == 0:        return NEGATIVE    else:        return ABSTAIN  @labeling_function() def check_adjective_count(x):    return POSITIVE if x.adjective_count > 0.2 else ABSTAIN  @labeling_function() def contains_pasib(x):    return POSITIVE if \"\u043f\u0430\u0441\u0438\u0431\" in x.text.lower() else ABSTAIN  @labeling_function() def contains_recomend(x):    return POSITIVE if \"\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\" in x.text.lower() else ABSTAIN  @labeling_function() def contains_r_paranth(x):    return NEGATIVE if re.search(r\"[\\(]+\", x.text) != None else ABSTAIN  @labeling_function() def contains_l_paranth(x):    return POSITIVE if re.search(r\"[\\)]+\", x.text) != None else ABSTAIN <\/code><\/pre>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c \u0432\u0441\u0435 \u043d\u0430\u0448\u0438 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0438 \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0438\u0445 \u0440\u0430\u0431\u043e\u0442\u0443. \u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 dev \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0448\u0438\u0445 \u043f\u0440\u0430\u0432\u0438\u043b, \u0445\u043e\u0442\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0432 dev \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435, \u0441\u0442\u0440\u043e\u0433\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u0430.<\/p>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438, \u0432\u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u043d\u0430\u043b\u0438\u0447\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u043c\u044b \u0432\u0438\u0434\u0438\u043c:<\/p>\n<ul>\n<li>\n<p>\u043f\u043e\u043a\u0440\u044b\u0442\u0438\u0435 &#8212; \u043d\u0430 \u043a\u0430\u043a\u043e\u043c \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0435 \u0442\u0435\u043a\u0441\u0442\u043e\u0432 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u0434\u0430\u043d\u043d\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u0442.\u0435. \u0434\u0430\u043b\u043e \u043c\u0435\u0442\u043a\u0443 \u043e\u0442\u043b\u0438\u0447\u043d\u0443\u044e \u043e\u0442 ABSTAIN;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u0438\u0435 &#8212; \u043d\u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u0441\u043e\u0433\u043b\u0430\u0441\u0443\u0435\u0442\u0441\u044f \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u044b &#8212; \u043d\u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u0440\u0430\u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438.\u00a0<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0432\u0430\u0440\u0438\u0430\u043d\u0442 &#171;\u0432\u043e\u0437\u0434\u0435\u0440\u0436\u0430\u0442\u044c\u0441\u044f&#187;, \u0442\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0434\u0432\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f.<\/p>\n<pre><code class=\"python\">from snorkel.labeling import PandasLFApplier  lfs = [contains_not,       check_emo_dict,       sentiment_model,       check_adjective_count,       contains_pasib,       contains_r_paranth,       contains_l_paranth,       contains_recomend      ]  applier = PandasLFApplier(lfs=lfs) L_dev = applier.apply(df=dev)  from snorkel.labeling import LFAnalysis LFAnalysis(L=L_dev, lfs=lfs).lf_summary(Y=dev.label.to_numpy()) <\/code><\/pre>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">Name<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">j<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">Polarity<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">Coverage<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">Overlaps<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">Conflicts<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">Correct<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">Incorrect<\/p>\n<\/td>\n<td>\n<p align=\"left\">Emp. Acc.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">contains_not<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">0<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[0]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.706667<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.463333<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.326667<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">123<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">89<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.580189<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">check_emo_dict<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">1<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[0, 1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.320000<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.300000<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.193333<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">75<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">21<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.781250<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">sentiment_model<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">2<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[0, 1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.396667<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.356667<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.200000<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">99<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">20<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.831933<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">check_adjective_count<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">3<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.120000<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.106667<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.046667<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">26<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.722222<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">contains_pasib<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">4<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.130000<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.116667<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.073333<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">34<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.871795<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">contains_r_paranth<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">5<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[0]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.096667<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.096667<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.070000<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">15<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">14<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.517241<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">contains_l_paranth<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.110000<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.103333<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.090000<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">27<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">6<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.818182<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"177\" width=\"177\">\n<p align=\"left\">contains_recomend<\/p>\n<\/td>\n<td data-colwidth=\"50\" width=\"50\">\n<p align=\"left\">7<\/p>\n<\/td>\n<td data-colwidth=\"66\" width=\"66\">\n<p align=\"left\">[1]<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.083333<\/p>\n<\/td>\n<td data-colwidth=\"82\" width=\"82\">\n<p align=\"left\">0.080000<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">0.066667<\/p>\n<\/td>\n<td data-colwidth=\"68\" width=\"68\">\n<p align=\"left\">15<\/p>\n<\/td>\n<td data-colwidth=\"81\" width=\"81\">\n<p align=\"left\">10<\/p>\n<\/td>\n<td>\n<p>0.600000<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h2>\u0410\u043d\u0430\u043b\u0438\u0437 \u043e\u0448\u0438\u0431\u043e\u043a<\/h2>\n<p>\u042f \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e \u043a\u0440\u0430\u0442\u043a\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c\u0441\u044f \u043d\u0430 \u0430\u043d\u0430\u043b\u0438\u0437\u0435 \u043e\u0448\u0438\u0431\u043e\u043a, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0441\u043a\u043e\u0440\u0435\u0435 \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u0441\u0430\u043c\u043e\u043c\u0443 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u043c\u0443. \u0421\u0443\u0442\u044c \u044d\u0442\u043e\u0433\u043e \u044d\u0442\u0430\u043f\u0430 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432\u044b \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u043d\u0430 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0432\u044b\u0448\u0435 \u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442\u0435, \u043a\u0430\u043a\u0438\u0435 \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u044b \u043f\u0440\u0430\u0432\u0438\u043b \u0432\u043e\u0437\u043d\u0438\u043a\u043b\u0438 \u0438\u043b\u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u043d\u0435 \u043e\u043f\u0440\u0430\u0432\u0434\u0430\u043b\u043e \u0432\u0430\u0448\u0438\u0445 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0439. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0432 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435 \u0435\u0441\u0442\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0439 \u043c\u0435\u0442\u043e\u0434. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u0443\u0432\u0438\u0434\u0435\u0442\u044c, \u0433\u0434\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e contains_not \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e, \u0442.\u0435. \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u043e \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441, \u0438 \u0433\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u201c\u0414\u043e\u0441\u0442\u043e\u0435\u0432\u0441\u043a\u043e\u0433\u043e\u201d \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441. \u0421\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c<\/p>\n<pre><code class=\"python\">from snorkel.analysis import get_label_buckets  buckets = get_label_buckets(L_dev[:, 0], L_dev[:, 2]) dev.iloc[buckets[(NEGATIVE, POSITIVE)]].sample(10, random_state=1).text.to_list()<\/code><\/pre>\n<details class=\"spoiler\">\n<summary>\u0412\u044b\u0432\u043e\u0434<\/summary>\n<div class=\"spoiler__content\">\n<p>\u00a0[&#8216;\u041a\u043e\u043c\u0431\u0438\u043d\u0435\u0437\u043e\u043d \u043a\u043b\u0430\u0441\u0441\u043d\u044b\u0439. \u043c\u0430\u043b\u043e\u043c\u0435\u0440\u0438\u0442 \u043d\u0430 \u0441\u0432\u043e\u0439 44-46 \u0437\u0430\u043a\u0430\u0437\u0430\u043b\u0430 L \u0432 \u0441\u0430\u043c\u044b\u0439 \u0440\u0430\u0437. \u0437\u0430 \u0442\u0430\u043a\u0438\u0435 \u0434\u0435\u043d\u044c\u0433\u0438 \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u043a\u043e\u043c\u0431\u0438\u043d\u0435\u0437\u043e\u043d. \u0441\u043e\u0432\u0435\u0442\u0443\u044e)))&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u0428\u0430\u043f\u043a\u0430 \u043e\u0447\u0435\u043d\u044c \u043a\u043b\u0430\u0441\u0441\u043d\u0430\u044f,\u043f\u0440\u0438\u0448\u043b\u0430 \u043e\u0447\u0435\u043d\u044c \u0431\u044b\u0441\u0442\u0440\u043e,\u043f\u043e\u043c\u043f\u043e\u043d \u043f\u044b\u0448\u043d\u044b\u0439 \u043d\u0435 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439,\u043c\u0430\u0442\u0435\u0440\u044c\u044f\u043b \u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439-\u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u0442\u043e\u043d\u043a\u043e\u0432\u0430\u0442\u0430\u044f \u0434\u043b\u044f \u0421\u0438\u0431\u0438\u0440\u0438, \u043d\u0443 \u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043a\u0442\u043e \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442 \u0445\u043e\u043b\u043e\u0434\u0430.\u041f\u043e\u043c\u043f\u043e\u043d \u043d\u0430 \u043a\u043b\u0435\u043f\u043a\u0435 \u043c\u043e\u0436\u043d\u043e \u0441\u043d\u044f\u0442\u044c \u0438 \u043f\u043e\u0441\u0442\u0438\u0440\u0430\u0442\u044c! \u0421\u043f\u0430\u0441\u0438\u0431\u043e \u043f\u0440\u043e\u0434\u0430\u0432\u0446\u0443))) \u0417\u0430 \u0442\u0430\u043a\u0438\u0435 \u0434\u0435\u043d\u044c\u0433\u0438 \u043e\u0447\u0435\u043d\u044c \u0437\u0434\u043e\u0440\u043e\u0432\u043e!&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u041d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u0432\u0435\u0449\u044c \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u043d\u0435 \u043f\u043b\u043e\u0445\u043e. \u0420\u0435\u0430\u043b\u044c\u043d\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a \u0441\u0435\u0431\u0435. \u041a\u0430\u043a \u0431\u0435\u0437\u0432\u043a\u0443\u0441\u043d\u044b\u0439 \u0431\u0430\u043b\u0430\u0445\u043e\u043d. \u0422\u0430\u043a\u043e\u0439 \u0444\u0430\u0441\u043e\u043d \u043c\u043e\u0436\u043d\u043e \u0441\u0448\u0438\u0442\u044c \u0438\u0437 \u0431\u0435\u0437 \u0432\u044b\u043a\u0440\u043e\u0439\u043a\u0438. \u041e\u0447\u0435\u043d\u044c \u043e\u0433\u043e\u0440\u0447\u0435\u043d\u0430. \u041f\u0435\u0440\u0432\u044b\u0439 \u0440\u0430\u0437 \u0442\u0430\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c. \u041c\u0430\u0442\u0435\u0440\u0438\u0430\u043b 100% \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u043a\u0430. \u041a \u0442\u0435\u043b\u0443 \u043b\u0438\u043f\u043d\u0435\u0442 \u043e\u0447\u0435\u043d\u044c \u043d\u0435 \u043f\u0440\u0438\u044f\u0442\u043d\u043e.&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u0421\u0430\u0440\u0430\u0444\u0430\u043d \u0431\u0435\u0437 \u043c\u043e\u043b\u043d\u0438\u0438 \u043d\u0430 \u0441\u043f\u0438\u043d\u0435, \u0447\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u043e. \u0422\u043a\u0430\u043d\u044c \u043f\u0440\u0438\u044f\u0442\u043d\u0430\u044f \u0438 \u0441\u0438\u0434\u0438\u0442 \u0445\u043e\u0440\u043e\u0448\u043e. \u0417\u0430\u0443\u0436\u0435\u043d \u043a\u043d\u0438\u0437\u0443, \u043f\u043e\u0445\u043e\u0436 \u043d\u0430 \u0433\u0440\u0435\u0447\u0435\u0441\u043a\u0438\u0439 \u0445\u0438\u0442\u043e\u043d\u044e&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u043c\u044f\u0433\u043a\u0438\u0439,\u0445\u043e\u0440\u043e\u0448\u043e \u0442\u044f\u043d\u0435\u0442\u0441\u044f. \u0434\u043b\u044f \u0434\u043e\u043c\u0430 \u0438 \u043f\u043e\u0432\u0441\u0435\u0434\u043d\u0435\u0432\u043d\u043e\u0439 \u043d\u043e\u0441\u043a\u0438 \u043e\u0442\u043b\u0438\u0447\u043d\u043e.\u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043e\u0431\u044a\u0435\u043c\u0430 \u043f\u043e\u0434 \u0433\u0440\u0443\u0434\u044c\u044e 88,\u0437\u0430\u043a\u0430\u0437\u0430\u043b\u0430 90\u0412,\u043d\u043e \u0434\u0443\u043c\u0430\u044e \u0447\u0442\u043e \u043d\u0430\u0434\u043e \u0431\u044b\u043b\u043e 85,\u043e\u043d \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u0442\u044f\u043d\u0435\u0442\u0441\u044f,\u0431\u044b\u043b\u043e \u0431\u044b \u043b\u0443\u0447\u0448\u0435&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u042d\u0442\u043e \u043b\u0443\u0447\u0448\u0435\u0435 \u043f\u043b\u0430\u0442\u044c\u0435 \u0438\u0437 \u0432\u0441\u0435\u0445 \u0437\u0430\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0445 \u0440\u0430\u043d\u0435\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0442\u0438\u043f\u0430! \u041c\u044f\u0433\u043a\u043e\u0435, \u0431\u0435\u0437\u0443\u043c\u043d\u043e \u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0435 \u043a \u0442\u0435\u043b\u0443. \u0421\u0438\u0434\u0438\u0442 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e!&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u041d\u043e\u0441\u043a\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u0443\u043f\u0435\u0440!!!\u0431\u0430\u043d\u0442 \u043e\u0447\u0435\u043d\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435, \u044f \u0434\u0430\u0436\u0435 \u043d\u0435 \u043e\u0436\u0438\u0434\u0430\u043b\u0430, \u0447\u0442\u043e \u043d\u0430 \u0441\u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0441\u0435 \u0431\u0443\u0434\u0435\u0442 \u0437\u0434\u043e\u0440\u043e\u0432\u043e!!! \u0422\u043e\u0432\u0430\u0440 \u043d\u0435 \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u043b\u0441\u044f, \u043d\u043e \u0414\u043e \u0410\u043b\u0442\u0430\u0439\u0441\u043a\u043e\u0433\u043e \u043a\u0440\u0430\u044f \u0448\u0435\u043b \u0432\u0441\u0435\u0433\u043e \u043c\u0435\u0441\u044f\u0446!!! \u041e\u0433\u0440\u043e\u043c\u043d\u043e\u0435 \u0441\u043f\u0430\u0441\u0438\u0431\u043e \u043f\u0440\u043e\u0434\u0430\u0432\u0446\u0443! \u041f\u043e\u0439\u0434\u0443 \u0437\u0430\u043a\u0430\u0436\u0443 \u0435\u0449\u0451 \u043f\u0430\u0440\u043e\u0447\u043a\u0443 \u0442\u0430\u043a\u0438\u0445 \u043d\u043e\u0441\u043a\u043e\u0432)&#8217;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u041e\u0447\u0435\u043d\u044c \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\u043c, \u043e\u0434\u043d\u0430\u043a\u043e \u0432 \u043f\u043b\u0435\u0447\u0430\u0445 \u0447\u0443\u0442\u044c \u0443\u0437\u043a\u043e\u0432\u0430\u0442\u043e, \u043d\u043e \u043d\u043e\u0441\u0438\u0442\u044c \u043c\u043e\u0436\u043d\u043e \u0432\u043f\u043e\u043b\u043d\u0435 \u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u043e &#8216;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u041e\u0447\u0435\u043d\u044c \u0441\u0442\u0440\u0430\u043d\u043d\u043e.\u0433\u043e\u0434 \u043d\u0430\u0437\u0430\u0434 \u0431\u0440\u0430\u043b\u0430 \u0441\u0435\u0431\u0435 \u0442\u0430\u043a\u0443\u044e \u0448\u0430\u043f\u043a\u0443 ,\u0447\u0451\u0440\u043d\u0443\u044e .\u043e\u0447\u0435\u043d\u044c \u043c\u043d\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f .\u0441\u0435\u0439\u0447\u0430\u0441 \u0437\u0430\u043a\u0430\u0437\u0430\u043b\u0430 \u0441\u0435\u0440\u0443\u044e \u0441\u044b\u043d\u0443 ,\u043f\u0440\u0438\u0448\u043b\u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f ,\u0441\u043e\u0432\u0441\u0435\u043c \u0434\u0440\u0443\u0433\u0430\u044f .\u044f \u043d\u0435 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u0430 &#8216;,<\/p>\n<p>\u00a0\u00a0\u00a0\u00a0&#8216;\u041a\u043e\u0444\u0442\u043e\u0447\u043a\u0430 \u0442\u043e\u043d\u043a\u0430\u044f . \u041a\u043e\u0440\u043e\u0442\u043a\u0430\u044f \u0434\u043e \u043f\u0443\u043f\u043a\u0430. S \u0440\u0430\u0437\u043c\u0435\u0440 \u043f\u043e\u0434\u043e\u0448\u0435\u043b \u043d\u0430 \u043e\u0431\u0445\u0432\u0430\u0442\u00a0 \u0433\u0440\u0443\u0434\u0438 86.\u00a0 \\r\\n\u041d\u0435 \u0442\u0430\u043a\u0430\u044f \u0443\u0436 \u0438 \u043a\u043b\u0430\u0441\u0441\u043d\u0430\u044f \u0432\u0435\u0449\u044c&#8217;]<\/p>\n<\/div>\n<\/details>\n<p>\u0421\u043f\u0435\u0440\u0432\u0430 \u0437\u0430\u043c\u0435\u0447\u0430\u0435\u043c, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c (\u0438\u043b\u0438 \u0434\u0430\u0436\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430) \u0432\u0441\u0435-\u0442\u0430\u043a\u0438 \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f. \u0421 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u0442\u0430\u043c \u0433\u0434\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0435-\u0442\u0430\u043a\u0438 \u043f\u0440\u0430\u0432\u0430, \u043c\u044b \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0447\u0430\u0441\u0442\u0438\u0446\u0430 &#171;\u043d\u0435&#187; \u0441\u0442\u043e\u0438\u0442 \u0440\u044f\u0434\u043e\u043c \u0441 \u0433\u043b\u0430\u0433\u043e\u043b\u043e\u043c, \u0447\u0442\u043e \u0432\u043c\u0435\u0441\u0442\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0437\u0443\u0435\u0442 \u0445\u043e\u0440\u043e\u0448\u0435\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0442\u043e\u0432\u0430\u0440\u0430. \u041a\u0430\u043a \u0431\u044b \u0432\u044b \u043c\u043e\u0434\u0435\u0440\u043d\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u044d\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e?<\/p>\n<h2>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 <\/h2>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u0441\u0442\u0430\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c \u043d\u0430\u0448\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u043a \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0434\u0430\u043d\u043d\u044b\u043c \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u0432 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0447\u0430\u0441\u0442\u0438. \u041e\u043d\u0430 \u043f\u043e\u0434\u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c\u0438 \u0438 \u0432\u044b\u043d\u0435\u0441\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0443\u044e \u043c\u0435\u0442\u043a\u0443. \u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0435 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u043d\u0438 \u043e\u0434\u043d\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e \u0438 \u0434\u043b\u044f \u043f\u0440\u043e\u0441\u0442\u043e\u0442\u044b \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438 \u0432 \u043f\u043e\u043b\u044f\u0440\u043d\u044b\u0435 0 \u0438 1.  <\/p>\n<pre><code class=\"python\"># \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0430\u043f\u0440\u0438\u043e\u0440\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u043a train \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443 train[\"token_len\"] = train.text.apply(lambda x: len(x.split(\" \"))) print(\"Adding pos tags\") train = pos_count_add(train) print(\"Add dict emo\") train[\"dict_emo\"] = train.text.apply(lambda x: estimate_sentiment_by_vocab(x)) print(\"Add sentiment\") sent_label, sent_score = get_sentiments(train.text.tolist()) train[\"sentiment\"] = sent_label train[\"score\"] = sent_score train[\"sentiment\"] = train[\"sentiment\"].replace({\"neutral\": 2, \"positive\":1, \"negative\":0, \"skip\": 4, \"speech\": 5})  # \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 L_train = applier.apply(df=train)  # \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c from snorkel.labeling.model import LabelModel  label_model = LabelModel(cardinality=2, verbose=True) label_model.fit(L_train=L_train, n_epochs=500, log_freq=100, seed=123) probs_train = label_model.predict_proba(L_train)  # \u0444\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u043c from snorkel.labeling import filter_unlabeled_dataframe  df_train_filtered, probs_train_filtered = filter_unlabeled_dataframe(    X=train, y=probs_train, L=L_train  len(df_train_filtered) #   9161  # \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438 \u0432 \u043f\u043e\u043b\u044f\u0440\u043d\u044b\u0435 from snorkel.utils import probs_to_preds  preds_train_filtered = probs_to_preds(probs=probs_train_filtered)  <\/code><\/pre>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0443\u044e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u0441 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0439, \u043e\u0431\u0443\u0447\u0438\u043c \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044e \u043d\u0430 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0445 \u043c\u0435\u0442\u043a\u0430\u0445 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 \u0438 \u043d\u0430 \u043c\u0435\u0442\u043a\u0430\u0445, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u043e\u0442 \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u044f. \u0417\u0430\u043c\u0435\u0440\u044f\u0442\u044c\u0441\u044f \u0431\u0443\u0434\u0435\u043c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u044b \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u0438\u043b\u0438 \u0432 \u0441\u0430\u043c\u043e\u043c \u043d\u0430\u0447\u0430\u043b\u0435. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043e\u0431\u044b\u0447\u043d\u044b\u0439 CountVectorizer.<\/p>\n<pre><code class=\"python\">from sklearn.feature_extraction.text import CountVectorizer from sklearn.linear_model import LogisticRegression  vectorizer = CountVectorizer() X_train = vectorizer.fit_transform(df_train_filtered.text.tolist()) X_test = vectorizer.transform(test.text.tolist())  sklearn_model = LogisticRegression(C=1, solver=\"liblinear\") sklearn_model.fit(X=X_train, y=preds_train_filtered)  print(f\"Test Accuracy: {sklearn_model.score(X=X_test, y=test.label) * 100:.1f}%\") #    Test Accuracy: 80.6%  sklearn_model = LogisticRegression(C=1, solver=\"liblinear\") sklearn_model.fit(X=X_train, y=train.loc[df_train_filtered.index].label)  print(f\"Test Accuracy: {sklearn_model.score(X=X_test, y=test.label) * 100:.1f}%\") #    Test Accuracy: 98.4%<\/code><\/pre>\n<p>\u0418\u0442\u043e\u0433\u043e, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 80 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438. \u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u0435 \u043e\u0441\u043e\u0431\u043e \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u044e\u0449\u0435 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0432 98 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043e\u0432. \u041e\u0434\u043d\u0430\u043a\u043e \u044f \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 80 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043e\u0432 ( \u043d\u0435 \u0444\u043e\u043d\u0442\u0430\u043d, \u043d\u043e \u0434\u043e\u0441\u0442\u043e\u0439\u043d\u043e) \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0430\u0441\u044c \u0437\u0430 \u0434\u0435\u043d\u044c \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u043e\u0434\u043d\u043e\u0433\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430. \u0414\u0430\u043b\u044c\u0448\u0435 \u0435\u0435 \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0435\u0434\u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0443\u0436\u0435 \u0434\u043b\u044f \u0430\u043d\u043d\u043e\u0442\u0430\u0442\u043e\u0440\u043e\u0432, \u043b\u0438\u0431\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u044f \u0448\u0443\u043c\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u044f \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u0432 <a href=\"https:\/\/habr.com\/ru\/company\/ru_mts\/blog\/571606\/\">\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435<\/a>.<\/p>\n<p>\u0417\u0430 \u043a\u0430\u0434\u0440\u043e\u043c \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u0441 \u043e\u0431\u044a\u0435\u043c\u043e\u043c \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438. \u0412\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0441\u0430\u043c\u0438 \u0435\u0435 \u043f\u043e\u043c\u0435\u043d\u044f\u0442\u044c, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043a\u0430\u043a \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043e\u0442 \u0435\u0435 \u043e\u0431\u044a\u0435\u043c\u0430.<\/p>\n<h2>\u041a\u0430\u043a \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0432 MTS AI  <\/h2>\n<p>\u041a\u0430\u043a \u044f \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u043b \u0432 \u043d\u0430\u0447\u0430\u043b\u0435, \u0443 \u043d\u0430\u0441 \u0432 MTS AI \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043d\u0430\u0434 \u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u043c \u0447\u0430\u0442-\u0431\u043e\u0442\u043e\u043c. \u042f \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043b \u043e\u0431 \u043e\u043f\u044b\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u043f\u0440\u043e\u0435\u043a\u0442 \u0443\u0436\u0435 \u0437\u0430\u043a\u0440\u044b\u043b\u0441\u044f. \u042f \u0432\u0437\u044f\u043b \u043d\u0430 \u0441\u0435\u0431\u044f \u0441\u043c\u0435\u043b\u043e\u0441\u0442\u044c \u043d\u0430\u0439\u0442\u0438 \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0432\u0448\u0438\u0435\u0441\u044f \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0438 \u0438 \u0441\u0432\u044f\u0437\u0430\u043b\u0441\u044f \u0441 \u0431\u044b\u0432\u0448\u0435\u0439 \u043a\u043e\u043b\u043b\u0435\u0433\u043e\u0439, \u0447\u0442\u043e\u0431\u044b \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u044c \u0443 \u043d\u0435\u0435 \u043e\u0431 \u043e\u043f\u044b\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u0437\u0430\u043f\u0435\u0447\u0430\u0442\u043b\u0435\u0442\u044c \u0435\u0433\u043e.<\/p>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043b\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u0432 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u0438 \u0438\u0437 74 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043e\u0431\u0449\u0435\u0435 \u0447\u0438\u0441\u043b\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b\u043e 10 \u0442\u044b\u0441\u044f\u0447, \u0442\u0430\u043a\u043e\u0439 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 NER. \u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u043a\u043e\u043d\u0435\u0447\u043d\u043e, \u0434\u043b\u044f \u0442\u0430\u043a\u043e\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442. \u0420\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u044b &#8212; \u044d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430, \u0432 MTS AI \u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043e\u0442\u0434\u0435\u043b, \u0434\u0440\u0443\u0433\u043e\u0435 \u0434\u0435\u043b\u043e, \u0447\u0442\u043e \u043a\u0430\u043a-\u0442\u043e \u043d\u0435 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u043e\u0442\u0434\u0430\u0432\u0430\u0442\u044c \u0432 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0443 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043c\u043e\u0436\u0435\u0442 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0431\u044b\u0442\u044c. \u041f\u043e\u044d\u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u0431\u044b \u043a\u0430\u043a-\u0442\u043e \u0438\u0441\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u044d\u0442\u043e, \u043c\u043e\u044f \u0431\u044b\u0432\u0448\u0430\u044f \u043a\u043e\u043b\u043b\u0435\u0433\u0430, \u043f\u0440\u0438\u0434\u0443\u043c\u0430\u043b\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u043c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u044e. \u041d\u0430\u0441\u0442\u044f \u0422\u0430\u0431\u0430\u043b\u0438\u043d\u0430, \u043a\u0441\u0442\u0430\u0442\u0438, \u043f\u0440\u0438\u0432\u0435\u0442, \u0435\u0441\u043b\u0438 \u0447\u0438\u0442\u0430\u0435\u0448\u044c!<\/p>\n<p>\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u043c\u0438 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0441\u043b\u0443\u0436\u0430\u0442 \u0442\u0435\u043a\u0441\u0442\u044b \u0441 \u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u0445 \u0444\u043e\u0440\u0443\u043c\u043e\u0432 \u0438 \u0438\u0437 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u043e\u0432 \u043e\u0441\u043c\u043e\u0442\u0440\u043e\u0432. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u044b \u043f\u043e \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u044f\u043c \u0438\u0437 \u043a\u043b\u0430\u0441\u0441\u0430 &#171;\u0434\u0438\u0430\u0440\u0435\u044f&#187;. \u041d\u0435 \u0441\u0430\u043c\u044b\u0439 \u043b\u0438\u0446\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441, \u0437\u0430\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c.\u00a0 \u0412\u043e\u0437\u044c\u043c\u0435\u043c \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043a\u0443 \u0438\u043b\u0438 \u0438\u0445 \u043d\u0430\u0431\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u044c. \u0412 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043b\u043e\u0432\u043e \u0434\u0438\u0430\u0440\u0435\u044f.<\/p>\n<p>\u041f\u0440\u043e\u0445\u043e\u0434\u0438\u043c \u043f\u043e \u0432\u0441\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u0430\u043c \u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c \u0442\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u0441\u0442\u0440\u0435\u0442\u0438\u043b\u043e\u0441\u044c \u044d\u0442\u043e \u0441\u043b\u043e\u0432\u043e. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u2014 \u00a0\u0442\u0435\u043a\u0441\u0442\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0445\u043e\u0434\u0438\u0442 \u044d\u0442\u0430 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043a\u0430. \u041d\u0438\u0436\u0435 \u0432\u0438\u0434\u043d\u044b \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0442\u0430\u043a\u0438\u0445 \u0442\u0435\u043a\u0441\u0442\u043e\u0432<\/p>\n<details class=\"spoiler\">\n<summary>\u041d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/summary>\n<div class=\"spoiler__content\">\n<p>\u0432\u044b\u0441\u044b\u043f\u0430\u043d\u0438\u044f \u043d\u0430 \u043d\u043e\u0433\u0430\u0445, \u0447\u0435\u0440\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0437\u0430\u043f\u043e\u0440\u043e\u0432 \u0438 \u0434\u0438\u0430\u0440\u0435\u0438.<\/p>\n<p>\u043d\u0430 \u043e\u0431\u0449\u0443\u044e \u0441\u043b\u0430\u0431\u043e\u0441\u0442\u044c, \u043e\u0437\u043d\u043e\u0431, \u0442\u043e\u0448\u043d\u043e\u0442\u0443, \u0434\u0438\u0430\u0440\u0435\u044e \u0434\u043e 4 \u0440 \u0432 \u0441\u0443\u0442\u043a\u0438.<\/p>\n<p>\u043d\u0430 \u0431\u043e\u043b\u0438 \u0432 \u0436\u0438\u0432\u043e\u0442\u0435, \u0442\u043e\u0448\u043d\u043e\u0442\u0443 \u0438 \u0440\u0432\u043e\u0442\u0443, \u0434\u0438\u0430\u0440\u0435\u044f, \u0442\u0430\u043a\u0436\u0435 \u043e\u0431\u0449\u0443\u044e \u0441\u043b\u0430\u0431\u043e\u0441\u0442\u044c.<\/p>\n<\/div>\n<\/details>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f:<\/p>\n<ul>\n<li>\n<p>\u00a0\u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u0432\u044b\u0434\u0435\u043b\u0438\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0441\u043b\u0435\u0432\u0430 \u0438 \u0441\u043f\u0440\u0430\u0432\u0430;\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u043c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c fastText, \u0447\u0435\u0439 \u0432\u044b\u0431\u043e\u0440 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u043b\u0438\u0447\u0438\u0435\u043c \u043e\u0433\u0440\u043e\u043c\u043d\u043e\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043e\u043f\u0435\u0447\u0430\u0442\u043e\u043a \u0432 \u0442\u0435\u043a\u0441\u0442\u0430\u0445;<\/p>\n<\/li>\n<li>\n<p>\u0432\u0435\u043a\u0442\u043e\u0440\u0438\u0437\u0443\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u043e \u0441\u043b\u043e\u0432\u043e\u043c,\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u043c \u0435\u0433\u043e \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430, \u0430 \u0437\u0430\u0442\u0435\u043c \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u043c \u043f\u043e \u0432\u0441\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u0430\u043c.\u00a0<\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u043e\u043f\u043e\u0440\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 &#171;\u0434\u0438\u0430\u0440\u0435\u044f&#187;.\u00a0<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0431\u044b\u043b \u043f\u043e\u043b\u0443\u0447\u0435\u043d \u043e\u043f\u043e\u0440\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440, \u043c\u043e\u0436\u043d\u043e \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0443\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e, \u043b\u043e\u0433\u0438\u043a\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0442\u044c\u0441\u044f \u0432 \u0432\u0435\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u0438 \u0435\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0432 \u043d\u043e\u0432\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445, \u0430 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u0441 \u043e\u043f\u043e\u0440\u043d\u044b\u043c. \u0415\u0441\u043b\u0438 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0440\u043e\u0433\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u044d\u043c\u043f\u0438\u0440\u0438\u0447\u0435\u0441\u043a\u0438, \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u0438\u0433\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0439\u0434\u0435\u043d\u0430. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u0435 \u0438 \u0435\u0432\u043a\u043b\u0438\u0434\u043e\u0432\u043e, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044e \u041f\u0438\u0440\u0441\u043e\u043d\u0430.<\/p>\n<p>\u0412\u043e\u0442 \u043d\u0430 \u043a\u0430\u043a\u0438\u0445 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u044d\u0442\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 (\u043e\u0440\u0444\u043e\u0433\u0440\u0430\u0444\u0438\u044f \u0438 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044f \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u044b):<\/p>\n<details class=\"spoiler\">\n<summary>\u041d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/summary>\n<div class=\"spoiler__content\">\n<p>\u0442\u044f\u0436\u0435\u0441\u0442\u044c \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043f\u0440\u0430\u0432\u043e\u0433\u043e \u043f\u043e\u0434\u0440\u0435\u0431\u0435\u0440\u044c\u044f, \u0432\u0437\u0434\u0443\u0442\u0438\u0435 \u0436\u0438\u0432\u043e\u0442\u0430, \u043f\u043e\u0432\u044b\u0448\u0435\u043d\u043d\u043e\u0435 \u0433\u0430\u0437\u043e\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435, \u043f\u043e\u0441\u043b\u0430\u0431\u043b\u0435\u043d\u0438\u0435 \u0441\u0442\u0443\u043b\u0430 \u0434\u043e 2-\u0445 \u0440\u0430\u0437 \u0437\u0430 \u0441\u0443\u0442\u043a\u0438 \u0447\u0430\u0449\u0435 \u0432 \u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0435\u0435 \u0432\u0440\u0435\u043c\u044f,\\n\u0433\u043e\u043b\u043e\u0432\u043d\u044b\u0435 \u0431\u043e\u043b\u0438 \u0432 \u0432\u0438\u0441\u043e\u0447\u043d\u043e-\u0442\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043e\u0431\u043b\u0430\u0441\u0442\u044f\u0445 \u0442\u0443\u043f\u043e\u0433\u043e \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440.\\n\u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u044a\u0435\u043c\u044b \u0410\u0414 \u0434\u043e 160\/120 \u043c\u043c \u0440\u0442.\u0441\u0442.<\/p>\n<p>\u043d\u0430 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u0435 \u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0439 \u0431\u043e\u043b\u0438 \u0432 \u043f\u0440\u0430\u0432\u043e\u0439 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0435 \u043b\u0431\u0430 \u043f\u0443\u043b\u044c\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0433\u043e \u0445-\u0440\u0430 \u0422\u043e\u0448\u043d\u043e\u0442\u044b , \u0440\u0432\u043e\u0442\u044b \u043d\u0435\u0442 \u0422- \u043d\u043e\u0440\u043c\u0430 , \u0410\u0414 \u043d\u0435 \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u0442\u0441\u044f \u0423\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u0435 3\u0439 \u0434\u0435\u043d\u044c \u041d\u0430\u043a\u0430\u043d\u0443\u043d\u0435 &#8212; \u043f\u0440\u044b\u0436\u043a\u0438 \u043d\u0430 \u0431\u0430\u0442\u0443\u0442\u0435 \u041e\u0442\u043c\u0435\u0447\u0430\u0435\u0442 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u043e\u0432\u0435\u043d\u0438\u0435 \u0433\u043e\u043b\u043e\u0432\u043d\u044b\u0445 \u0431\u043e\u043b\u0435\u0439 \u0432 \u043e\u0434\u043d\u043e\u043c \u0438 \u0442\u043e\u043c \u0436\u0435 \u043c\u0435\u0441\u0442\u0435 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445 5 \u0442\u0438 \u043b\u0435\u0442<\/p>\n<\/div>\n<\/details>\n<p>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u043d\u0430\u0438\u0432\u043d\u043e\u0435 \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0445\u0443\u0436\u0435. \u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u044d\u0442\u043e \u0441\u0432\u044f\u0437\u0430\u043d\u043e \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e \u0432 \u0432\u0435\u043a\u0442\u043e\u0440 \u043f\u043e\u043f\u0430\u0434\u0430\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u0438. \u0418\u0437 \u044d\u0442\u043e\u0433\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442, \u0442\u0430\u043a\u0436\u0435, \u0447\u0442\u043e \u0434\u043b\u0438\u043d\u0443 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0442\u043e\u0436\u0435 \u043d\u0430\u0434\u043e \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u044d\u043c\u043f\u0438\u0440\u0438\u0447\u0435\u0441\u043a\u0438.<\/p>\n<h2>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h2>\n<p>\u0420\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u2014\u00a0 \u044d\u0442\u043e \u0441\u0430\u043c\u0430\u044f \u0432\u0430\u0436\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u043b\u044e\u0431\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u043f\u043e \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u043c\u0443 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e \u0438 \u0447\u0430\u0441\u0442\u043e \u0435\u0435 \u043d\u0435 \u0442\u0430\u043a \u043b\u0435\u0433\u043a\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c. \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u044c \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043f\u0443\u0442\u0435\u043c \u043f\u0435\u0440\u0435\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 \u0438 \u0437\u043d\u0430\u043d\u0438\u0439, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044f \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0441\u0440\u0430\u0437\u0443 \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u043e\u0442\u043e\u0442\u0438\u043f\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043f\u043e\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0430 \u0434\u043e\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0434\u043e \u0443\u043c\u0430. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u0447\u0442\u043e \u043a\u0442\u043e-\u0442\u043e \u0438\u0437 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0432\u0448\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044e \u0441\u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u0440\u0435\u043c\u044f \u043d\u0430 \u043d\u043e\u0432\u043e\u043c \u043f\u0440\u043e\u0435\u043a\u0442\u0435.<\/p>\n<p>\u0412 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445 \u0434\u0435\u043b\u0438\u0442\u0435\u0441\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c\u0438 \u0441\u0432\u043e\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c, \u0437\u0430\u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u2014 \u044f \u0431\u0443\u0434\u0443 \u0440\u0430\u0434 \u043d\u0430 \u043d\u0438\u0445 \u043e\u0442\u0432\u0435\u0442\u0438\u0442\u044c.\u00a0<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/673786\/\"> https:\/\/habr.com\/ru\/articles\/673786\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438\u0432\u0435\u0442. \u042f \u0418\u0433\u043e\u0440\u044c \u0411\u0443\u044f\u043d\u043e\u0432, \u0441\u0442\u0430\u0440\u0448\u0438\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a \u0433\u0440\u0443\u043f\u043f\u044b \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 MTS AI. \u042f \u043b\u044e\u0431\u043b\u044e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0438 \u0432\u0441\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u043c\u043e\u0433\u0430\u044e\u0442 \u0438\u0445 \u0434\u0435\u043b\u0430\u0442\u044c \u0431\u044b\u0441\u0442\u0440\u043e \u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e. \u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u043e \u0442\u043e\u043c, <a href=\"https:\/\/habr.com\/ru\/company\/mts_ai\/blog\/670782\/\">\u043a\u0430\u043a \u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438\u0437 \u0412\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u0438<\/a>. \u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0445\u043e\u0447\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u0432\u0430\u043c \u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435 &#8212; \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0435 \u0434\u043b\u044f \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 (data programming). \u041f\u043e\u0437\u043d\u0430\u043a\u043e\u043c\u0438\u043b\u0441\u044f \u044f \u0441 \u043d\u0438\u043c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u043d\u0430\u0437\u0430\u0434, \u0438 \u043c\u0435\u043d\u044f \u043f\u043e\u0440\u0430\u0437\u0438\u043b \u044d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0440\u0430\u0437\u043d\u044b\u0445 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a \u0438 \u0430\u043f\u0440\u0438\u043e\u0440\u043d\u044b\u0445 \u0437\u043d\u0430\u043d\u0438\u0439 \u0434\u043b\u044f \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u043e\u0432. \u041f\u0440\u043e\u0435\u043a\u0442 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u0430\u043b \u0432 \u0421\u0442\u044d\u043d\u0444\u043e\u0440\u0434\u0435 \u043a\u0430\u043a \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u043f\u043e\u043c\u043e\u0449\u0438 \u0432 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0435 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u043e\u0432 \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 information extraction, \u0430 \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u0434\u0435\u043b\u0430\u044e\u0442 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0443 \u0434\u043b\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u043d\u0435\u0448\u043d\u0438\u043c\u0438 \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0430\u043c\u0438.<\/p>\n<p>\u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u043c\u043e\u0436\u0435\u0442 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u0432\u0440\u0435\u043c\u044f \u043d\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u043a\u0430\u043a\u043e\u0439-\u043b\u0438\u0431\u043e \u0438\u0434\u0435\u0438, \u043a\u043e\u0433\u0434\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u0430\u043b\u043e \u0438\u043b\u0438 \u0438\u0445 \u043d\u0435\u0442 \u0441\u043e\u0432\u0441\u0435\u043c, \u0438\u043b\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u043a\u0430\u043a \u044d\u0442\u043e \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0432 \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u043e\u0433\u043e \u0447\u0430\u0442-\u0431\u043e\u0442\u0430, \u043f\u0440\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u043c\u043e\u0436\u043d\u043e <a href=\"https:\/\/habr.com\/ru\/company\/mts_ai\/blog\/670144\/\">\u0437\u0434\u0435\u0441\u044c<\/a>.<\/p>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u044f \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u0438\u043b \u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043f\u043e\u043a\u0430\u0436\u0435\u0442, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043a\u0440\u0430\u0442\u043a\u043e \u043e\u0431\u044a\u044f\u0441\u043d\u044e \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0430\u0441\u043f\u0435\u043a\u0442\u044b \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<details class=\"spoiler\">\n<summary>\u041d\u0435\u043c\u043d\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0440\u0435\u043a\u043b\u0430\u043c\u044b<\/summary>\n<div class=\"spoiler__content\">\n<p>\u042f \u0440\u0435\u0448\u0438\u043b \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u043a\u0430\u043d\u0430\u043b \u0432 <a href=\"https:\/\/t.me\/+QQzy71hITLZkOTgy\">\u0442\u0435\u043b\u0435\u0433\u0435<\/a>. \u0411\u0443\u0434\u0443 \u0442\u0430\u043c \u043f\u043e\u0441\u0442\u0438\u0442\u044c \u0432\u044b\u0436\u0438\u043c\u043a\u0438 \u0438\u0437 \u0441\u0442\u0430\u0442\u0435\u0439 (\u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0442\u043e\u0433\u0434\u0430 \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u0442\u0441\u044f), \u043c\u044b\u0441\u043b\u0438, \u0447\u0430\u0441\u0442\u0438 \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439 \u0438 \u0430\u043d\u043e\u043d\u0441\u044b \u0441\u0430\u043c\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439. <\/p>\n<\/div>\n<\/details>\n<h2>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u043e\u043d\u044f\u0442\u0438\u044f<\/h2>\n<p>\u0410\u0440\u0441\u0435\u043d\u0430\u043b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0432 \u0441\u0435\u0431\u044f \u0442\u0440\u0438 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430:<\/p>\n<ul>\n<li>\n<p>\u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0434\u043b\u044f \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u044e\u0449\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0434\u043b\u044f \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0440\u0435\u0437\u0430\u044e\u0449\u0438\u0435 (slicing) \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0432\u044b\u0434\u0435\u043b\u044f\u044e\u0449\u0438\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u044b \u0434\u043b\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439.\u00a0<\/p>\n<\/li>\n<\/ul>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u043c\u044b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u043b\u0438\u0448\u044c \u043d\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445. \u0412 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 (labeling functions) \u0437\u0430\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043a\u0430\u043a\u0443\u044e-\u043b\u0438\u0431\u043e \u043c\u0435\u0442\u043a\u0443 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u0443 \u0438\u0437 \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445.\u00a0<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0441\u043d\u043e\u0432\u044b \u0434\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f:<\/p>\n<ul>\n<li>\n<p>\u0432\u043d\u0435\u0448\u043d\u0438\u0435 \u0431\u0430\u0437\u044b \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a WordNet \u0438\u043b\u0438 WikiBase (distant supervision);<\/p>\n<\/li>\n<li>\n<p>\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u043a\u0440\u0430\u0443\u0434\u0441\u043e\u0440\u0441-\u0440\u0430\u0437\u043c\u0435\u0442\u0447\u0438\u043a\u0438;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0438 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b, \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u043e\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u0430\u0432\u0438\u043b\u0430 \u0438 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0438\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043b\u043e\u0432\u0430\u0440\u0438;<\/p>\n<\/li>\n<li>\n<p>\u0434\u0440\u0443\u0433\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0430\u0436\u043d\u043e, \u0447\u0442\u043e \u044d\u0442\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u0442\u043e\u0447\u043d\u044b\u043c\u0438 \u0438\u043b\u0438 \u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u043c\u0438. \u0413\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u044f\u0432\u043b\u044f\u044e\u0449\u0430\u044f\u0441\u044f \u0441\u0435\u0440\u0434\u0446\u0435\u043c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f, \u043f\u043e\u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0443\u0447\u0435\u0441\u0442\u044c \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043a\u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u0414\u043b\u044f \u0441\u043f\u0440\u0430\u0432\u043a\u0438, \u043f\u043e\u0434\u0445\u043e\u0434, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0438\u0439 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0441 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438, \u0442.\u0435. \u0441 \u0448\u0443\u043c\u043e\u043c, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c \u0441\u043e \u0441\u043b\u0430\u0431\u044b\u043c \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0435\u043c (weak supervision).<\/p>\n<h2>\u041e\u0431\u0449\u0438\u0439 \u043f\u043b\u0430\u043d \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u043e \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u0435\u043c<\/h2>\n<p>\u041e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044f\u0441\u044c \u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0435 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u0438 \u0441\u0432\u043e\u0435\u043c \u043e\u043f\u044b\u0442\u0435, \u044f \u043f\u0440\u0438\u0448\u0435\u043b \u043a \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c\u0443 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0443 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439:<\/p>\n<ol>\n<li>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 dev-\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430.\u00a0<\/p>\n<p>\u041d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0440\u0430\u0437\u043c\u0435\u0447\u0430\u0435\u0442\u0441\u044f \u043b\u044e\u0434\u044c\u043c\u0438. \u041e\u043d \u043d\u0443\u0436\u0435\u043d \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u0438 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438.\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0410\u043d\u0430\u043b\u0438\u0437 \u0434\u0430\u043d\u043d\u044b\u0445.\u00a0<\/p>\n<p>\u041d\u0430 \u044d\u0442\u043e\u043c \u044d\u0442\u0430\u043f\u0435 \u0432\u0435\u0434\u0435\u0442\u0441\u044f \u043f\u043e\u0438\u0441\u043a \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u044e\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0449\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u044b.<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u043c\u044b \u043e\u0431\u043b\u0430\u0447\u0430\u0435\u043c \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0438 \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u0435 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044e.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0446\u0435\u043d\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043f\u043e dev-\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443.\u00a0<\/p>\n<p>\u042d\u0442\u043e \u0432\u0430\u0436\u043d\u044b\u0439 \u044d\u0442\u0430\u043f, \u0433\u0434\u0435 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u0417\u0434\u0435\u0441\u044c \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u043d\u0438 \u0442\u043e\u0447\u043d\u044b, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u043c\u043e\u0433\u0443\u0442 \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f \u0438 \u0435\u0441\u0442\u044c \u043b\u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p>\u0410\u043d\u0430\u043b\u0438\u0437 \u043e\u0448\u0438\u0431\u043e\u043a.<\/p>\n<p>\u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044f \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0438\u0441\u0442\u0438\u043d\u043d\u0443\u044e \u043c\u0435\u0442\u043a\u0443 \u0438 \u043c\u0435\u0442\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u0447\u043b\u0435\u043d\u0438\u0442\u044c \u0435\u0449\u0435 \u043e\u0434\u0438\u043d \u043f\u0440\u0438\u0437\u043d\u0430\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0435 \u0431\u044b\u043b \u0437\u0430\u043c\u0435\u0442\u0435\u043d \u0440\u0430\u043d\u0435\u0435, \u0438 \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0434\u043b\u044f \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u043f\u043e\u043a\u0440\u044b\u0442\u0438\u044f \u0438\u043b\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>\u0412\u043e\u0437\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u043a \u0448\u0430\u0433\u0443 2 (\u043e\u043f\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e).\u00a0<\/p>\n<p>\u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043c\u043e\u0433\u0443\u0442 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u0438 \u0438\u0434\u0435\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<p>\u041f\u0440\u0438\u043c\u0435\u043d\u044f\u044f \u0432\u0441\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043a \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 , \u0433\u0434\u0435 \u0441\u0442\u0440\u043e\u043a\u0430 &#8212; \u044d\u0442\u043e \u043e\u0431\u044a\u0435\u043a\u0442 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u0430 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 &#8212; \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0430\u044f \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f. \u0412 \u044f\u0447\u0435\u0439\u043a\u0430\u0445 \u0436\u0435 \u0441\u0442\u043e\u0438\u0442 \u0432\u044b\u0432\u043e\u0434 \u043a\u0430\u0436\u0434\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041d\u0430 \u0435\u0435 \u043e\u0441\u043d\u043e\u0432\u0435, \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u0448\u0443\u043c\u043e\u043f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 \u043f\u043e\u0442\u0435\u0440\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u0438\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442 \u0432\u0435\u0441\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0445 \u0446\u0435\u043b\u0435\u0432\u044b\u0445 \u043c\u0435\u0442\u043e\u043a.<\/p>\n<p>\u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043c\u0435\u0442\u043a\u0438 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043a \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n<\/li>\n<li>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p>\u0417\u0430\u043a\u043b\u044e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u0442\u0430\u043f \u2014 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u0436\u0435 \u043b\u044e\u0431\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0430\u043c \u043d\u0443\u0436\u043d\u0430.<\/p>\n<\/li>\n<\/ol>\n<p>\u0414\u043b\u044f \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e\u0441\u0442\u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e \u0437\u0434\u0435\u0441\u044c \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u044e \u0441 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u043e \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u0435\u043c \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 information extraction \u0438\u0437 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 <a href=\"https:\/\/arxiv.org\/pdf\/1711.10160.pdf\">\u0441\u0442\u0430\u0442\u044c\u0438<\/a>.<\/p>\n<figure class=\"full-width\"><\/figure>\n<h2>\u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u044b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f<\/h2>\n<p>\u041e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0442\u043e\u0439 \u0432\u044b\u0448\u0435. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0435\u0435 \u043a\u0430\u043a \u0444\u0430\u043a\u0442\u043e\u0440\u043d\u044b\u0439 \u0433\u0440\u0430\u0444, \u0438\u043b\u0438 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c. \u0414\u043b\u044f \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0448\u0438\u0431\u043e\u043a \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u0441\u043e\u0432\u0435\u0440\u0448\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041f\u043e\u043c\u0438\u043c\u043e \u044d\u0442\u043e\u0433\u043e, \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 <em>\u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u044f<\/em> \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0442\u0430\u043a\u0438\u0445 \u043a\u0430\u043a, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e. \u042d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u0430\u0442\u0440\u0438\u0446\u044b . <\/p>\n<p>\u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043c\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u0438\u043f\u043e\u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u043c\u0435\u0436\u0434\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a &#171;\u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c&#187;, \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0438 \u043f\u043e\u043f\u0430\u0440\u043d\u0430\u044f \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0442\u043c\u0435\u0447\u0430\u044e\u0442, \u0447\u0442\u043e \u044d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0432 \u0440\u0430\u0437\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u0445.  <\/p>\n<p>\u042d\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0444\u0430\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0432 \u0433\u0440\u0430\u0444\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0422\u043e\u0433\u0434\u0430 \u043f\u0443\u0441\u0442\u044c \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430  \u0431\u0443\u0434\u0435\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d \u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u044d\u0442\u0438\u0445 \u0444\u0430\u043a\u0442\u043e\u0440\u043e\u0432 \u00a0 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439  \u0438 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0439 \u0438\u0437 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 . \u042d\u0442\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u0440\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0439. \u041f\u0443\u0441\u0442\u044c  &#8212; \u0432\u0435\u043a\u0442\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u043a<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u044d\u0442\u0443 \u043c\u043e\u0434\u0435\u043b\u044c <strong>\u0431\u0435\u0437<\/strong> \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u043c \u043c\u0435\u0442\u043a\u0430\u043c, \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u043c\u0430\u0440\u0433\u0438\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f, \u0437\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0443 <\/p>\n<p>\u041e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0438 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e SGD \u0441 \u0441\u0435\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0413\u0438\u0431\u0431\u0441\u0430. \u0412 \u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c  &#8212; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0438\u0434\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438  \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0448\u0443\u043c\u043e\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p>\u0422\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442: \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0439 \u043d\u0430 \u0442\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0431\u044b \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u043e, \u0442.\u0435. \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0447\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430. \u042d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0432\u0430\u0436\u043d\u043e\u0435 \u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044e\u0442 \u0434\u0432\u0435 \u0434\u0438\u043b\u0435\u043c\u043c\u044b \u2014 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0435\u0435 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b.\u00a0<\/p>\n<p>\u041f\u0435\u0440\u0432\u0430\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0442\u0430\u043a. \u0415\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043c\u0430\u043b\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u0438\u043b\u0438 \u043e\u043d\u0438 \u0447\u0430\u0441\u0442\u043e &#171;\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442&#187;, \u0442\u043e \u043e\u043d\u0438 \u0434\u0430\u0436\u0435 \u043f\u0440\u0438 \u0432\u0437\u0432\u0435\u0448\u0438\u0432\u0430\u043d\u0438\u0438 \u043d\u0435 \u0431\u0443\u0434\u0443\u0442 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e\u043c. \u0421 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u043c\u0435\u0442\u043e\u043a \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e\u043c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u0435\u043d. \u0413\u0434\u0435 \u043d\u0430\u0439\u0442\u0438 \u0433\u0440\u0430\u043d\u044c, \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043d\u0435 \u0437\u0430\u043c\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u044d\u0442\u043e \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435? \u0422\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c\u044e \u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434 \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u043d\u0430\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u043a\u043e\u043b\u043e 15 \u0448\u0442\u0443\u043a.<\/p>\n<p>\u0412\u0442\u043e\u0440\u0430\u044f \u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u043e: \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b, \u0442.\u0435. \u043f\u0440\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0443\u0447\u0442\u0435\u043d\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439 \u0438\u0437 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 , \u0440\u0430\u0441\u0442\u0435\u0442 \u0432\u0440\u0435\u043c\u044f \u0435\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0410\u0432\u0442\u043e\u0440\u044b \u043d\u0430 \u0434\u0432\u0435 \u0441 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u043e\u0439 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b \u0440\u0430\u0441\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442, \u043a\u0430\u043a \u043e\u043d\u0438 \u0432\u0441\u0435 \u044d\u0442\u043e \u0440\u0435\u0448\u0430\u044e\u0442, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u0434\u0435\u0441\u044c \u044f \u043f\u0440\u0438\u0432\u0435\u0434\u0443 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0431\u043e\u0431\u0449\u0451\u043d\u043d\u044b\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043d\u0430\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0412 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0441\u0432\u043e\u0438\u0445 \u0441\u0442\u0430\u0442\u0435\u0439 \u0430\u0432\u0442\u043e\u0440\u044b \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0432\u044b\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u043d\u0438\u044f \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0435\u0439  \u043c\u0435\u0436\u0434\u0443 \u0444\u0430\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0432 \u0433\u0440\u0430\u0444\u0435. \u042d\u0442\u043e\u0442 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c, \u043e\u0434\u043d\u0430\u043a\u043e, \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c , \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439. \u041c\u043e\u0436\u043d\u043e \u0442\u0430\u043a\u0436\u0435 \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u0441\u0442\u0430\u0435\u0442 \u0432\u043e\u043f\u0440\u043e\u0441 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0432\u044b\u0431\u0440\u0430\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438. \u042d\u043c\u043f\u0438\u0440\u0438\u0447\u0435\u0441\u043a\u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u0438, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 &#171;\u043b\u043e\u043a\u0442\u0435\u0432\u0430\u044f \u0442\u043e\u0447\u043a\u0430&#187;, \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0435\u0439, \u0430 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0438. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u044d\u0442\u0430 \u0442\u043e\u0447\u043a\u0430 \u0438 \u0435\u0441\u0442\u044c \u0442\u043e \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0443\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c, \u043a\u0430\u043a \u043e\u043d\u0438 \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u044e\u0442. \u0417\u0430 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u043e\u0442\u0441\u044b\u043b\u0430\u044e \u043a \u0441\u0442\u0430\u0442\u044c\u0435.<\/p>\n<h2>\u041f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u043c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u044f \u043f\u043e\u043a\u0430\u0436\u0443, \u043a\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044c. \u0423 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u043e\u0432 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438 \u044f \u0440\u0435\u0448\u0438\u043b \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0438 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0434\u043b\u044f \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0441\u0430\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u043e\u0432, \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0439 \u0438\u0437 \u043e\u0442\u0437\u044b\u0432\u043e\u0432 \u043d\u0430 AliExpress. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0433\u043e\u0442\u043e\u0432\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442, \u043c\u044b \u0441\u043c\u043e\u0436\u0435\u043c \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043e\u0442 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435, \u044f \u043e\u0431\u044a\u044f\u0441\u043d\u044e \u043f\u043e \u0448\u0430\u0433\u0430\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u043e \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u0435\u043c, \u043e\u043f\u0438\u0440\u0430\u044f\u0441\u044c \u043d\u0430 \u043f\u043b\u0430\u043d, \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0439 \u0432\u044b\u0448\u0435.\u00a0<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0432\u0441\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438.<\/p>\n<pre><code class=\"python\">import warnings warnings.simplefilter(action='ignore', category=FutureWarning)  import pandas as pd from snorkel.labeling import labeling_function from pymystem3 import Mystem  pd.options.mode.chained_assignment = None import seaborn as sns import nltk import re from dostoevsky.models import FastTextSocialNetworkModel from dostoevsky.tokenization import RegexTokenizer<\/code><\/pre>\n<p>\u041d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u0442\u0440\u0430\u0434\u0438\u0446\u0438\u043e\u043d\u043d\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0441\u0435\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u0438\u043c\u0435\u0435\u0442 \u0442\u0440\u0438 \u043c\u0435\u0442\u043a\u0438, \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043a\u0430\u0442\u044c \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0435 \u0438 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0438. \u0417\u0430\u0432\u0435\u0434\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435. \u041f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f ABSTAIN \u043d\u0443\u0436\u043d\u0430 \u0434\u043b\u044f \u0441\u043b\u0443\u0447\u0430\u044f, \u043a\u043e\u0433\u0434\u0430 \u0440\u0430\u0437\u043c\u0435\u0442\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u043d\u0435\u0441\u0442\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043e \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043a \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n<pre><code class=\"python\">ABSTAIN = -1 NEGATIVE = 0 POSITIVE = 1<\/code><\/pre>\n<p>\u0418\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u043e\u043b\u043e\u043d\u043a\u0438 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c \u0438 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c\u0438 \u043c\u0435\u0442\u043a\u0430\u043c\u0438. \u041c\u044b \u0442\u0430\u043a\u0436\u0435 \u043c\u043e\u0436\u0435\u043c \u0432\u0438\u0434\u0435\u0442\u044c, \u0447\u0442\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u043d.<\/p>\n<pre><code class=\"python\">df = pd.read_csv(\"\/media\/astromis\/Data\/Datasets and corpuses\/rureviews\/women-clothing-accessories.3-class.balanced.csv\", sep=\"\\t\") df.columns = [\"text\", \"label\"] df.label.value_counts()<\/code><\/pre>\n<pre><code>   negative    30000    neautral    30000    positive    30000    Name: label, dtype: int64<\/code><\/pre>\n<pre><code class=\"python\">df = df[df.label.isin([\"negative\", \"positive\"])] df.label = df.label.replace({\"negative\": 0, \"positive\": 1})<\/code><\/pre>\n<p>\u041f\u0435\u0440\u0435\u043c\u0435\u0448\u0430\u0435\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0438 \u0432\u044b\u0434\u0435\u043b\u0438\u043c \u0442\u0440\u0438 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0438:<\/p>\n<ul>\n<li>\n<p>dev &#8212; \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0430, \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0438\u0437\u0443\u0447\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a\u0438. \u0412 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u044d\u0442\u0443 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0442\u0438\u0442\u044c \u0432\u0440\u0443\u0447\u043d\u0443\u044e. \u041f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u044f\u0442\u044c \u043e\u0442 2 \u0434\u043e 4 \u0447\u0430\u0441\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p>train &#8212; \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0421\u043d\u043e\u043a\u0440\u0435\u043b\u044f. \u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u0430\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u0435\u043c \u043b\u0443\u0447\u0448\u0435 \u0431\u0443\u0434\u0435\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u0435\u0442\u043e\u043a.<\/p>\n<\/li>\n<li>\n<p>test &#8212; \u0442\u0435\u0441\u0442\u043e\u0432\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0443 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u043e\u0442 \u0421\u043d\u043e\u0440\u043a\u0435\u043b\u044f \u0441 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u043e\u0439.<\/p>\n<\/li>\n<\/ul>\n<pre><code class=\"python\">df = df.sample(frac=1.0)  dev = df.iloc[:300] train = df.iloc[300:10300] test = df.iloc[3300:3800]  dev.label.value_counts()<\/code><\/pre>\n<pre><code>   1    156    0<\/code><\/pre>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-414417","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/414417","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=414417"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/414417\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=414417"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=414417"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=414417"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}