{"id":367934,"date":"2024-05-21T03:31:48","date_gmt":"2024-05-21T03:31:48","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=367934"},"modified":"-0001-11-30T00:00:00","modified_gmt":"2024-05-21T03:31:48","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=367934","title":{"rendered":"<span>\u0428\u043f\u0430\u0440\u0433\u0430\u043b\u043a\u0430 \u043f\u043e \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u043c<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0426\u0435\u043b\u044c \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 &#8212; \u043f\u043e\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e \u0447\u0442\u043e-\u0442\u043e \u043d\u043e\u0432\u043e\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u0430 \u043c\u0430\u0440\u043a\u0435\u0442\u043f\u043b\u0435\u0439\u0441\u0430\u0445, \u0432 \u043c\u0443\u0437\u044b\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0438\u043b\u0438 \u0432\u0438\u0434\u0435\u043e-\u0441\u0442\u0440\u0438\u043c\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u0445.\u00a0<\/p>\n<p>\u041d\u0430 \u0434\u0435\u043b\u0435 \u0432\u044b \u0432\u0441\u0435\u0433\u0434\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u0435 \u0441 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u0435\u0439 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec6\/178\/3fa\/ec61783fa175cc1e51441ed11e586af2.svg\" width=\"15\" height=\"17\"\/>\u00a0<\/strong>(<strong>user-item matrix<\/strong>), \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u0442\u043e\u044f\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 (<strong>users<\/strong>), \u0430 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0441\u0442\u043e\u043b\u0431\u0446\u0443 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0442\u043e\u0432\u0430\u0440 (<strong>items<\/strong>). \u041d\u0430 \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 \u0437\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 (<strong>feedback<\/strong>).\u00a0<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7bb\/623\/904\/7bb623904e721fe27f6db5ee99b2b899.png\" width=\"1112\" height=\"411\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7bb\/623\/904\/7bb623904e721fe27f6db5ee99b2b899.png\"\/><\/figure>\n<p><strong>Feedback<\/strong>\u00a0\u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c \u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c<strong>:\u00a0<\/strong><\/p>\n<ul>\n<li>\n<p>\u044f\u0432\u043d\u044b\u043c (<strong>explicit<\/strong>): \u043e\u0446\u0435\u043d\u043a\u0438, \u043b\u0430\u0439\u043a\u0438; <\/p>\n<\/li>\n<li>\n<p>\u043d\u0435\u044f\u0432\u043d\u044b\u043c (<strong>implicit<\/strong>): \u043a\u043b\u0438\u043a\u0438, \u0441\u043a\u0438\u043f\u044b;<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c, \u043d\u0435\u0442 \u043a\u0430\u043a\u043e\u0433\u043e-\u0442\u043e \u0441\u0442\u0440\u043e\u0433\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u044f\u0432\u043d\u044b\u043c \u0438 \u043d\u0435\u044f\u0432\u043d\u044b\u043c \u0444\u0438\u0434\u0431\u0435\u043a\u043e\u043c. \u0427\u0430\u0441\u0442\u043e, \u043f\u0440\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u0437\u0430\u0434\u0430\u0447 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u0430 \u043d\u0435\u043a\u0430\u044f\u00a0<strong>\u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0432 \u0444\u0438\u0434\u0431\u0435\u043a\u0435<\/strong>.\u00a0<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c, \u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443:<\/p>\n<ol>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u044b\u0439<\/strong>\u00a0\u043d\u0430\u0431\u043e\u0440 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u00a0<strong>\u043f\u0440\u043e\u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043b<\/strong>\u00a0(\u0441\u043f\u0438\u0441\u043e\u043a \u043f\u0440\u043e\u043b\u0430\u0439\u043a\u0430\u043d\u043d\u044b\u0445 \u0442\u0440\u0435\u043a\u043e\u0432)<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u044b\u0439<\/strong>\u00a0\u043d\u0430\u0431\u043e\u0440 \u0442\u043e\u0432\u0430\u0440\u043e\u0432\u00a0<strong>\u0441 \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438<\/strong>\u00a0(\u043e\u0446\u0435\u043d\u043a\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c \u0444\u0438\u043b\u044c\u043c\u043e\u0432, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u0430\u043b \u0442\u0440\u0435\u043a)<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c<\/strong>\u00a0\u0430\u0439\u0442\u0435\u043c\u043e\u0432\u00a0<strong>\u0441 \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438<\/strong><\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c<\/strong>\u00a0\u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong>\u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430<\/strong><\/p>\n<\/li>\n<\/ol>\n<p>\u041d\u0438\u0436\u0435 \u0431\u0443\u0434\u0443\u0442 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b:<\/p>\n<ol>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=1.%20%D0%9A%D0%BE%D0%BB%D0%BB%D0%B0%D0%B1%D0%BE%D1%80%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D0%B0%D1%8F%20%D1%84%D0%B8%D0%BB%D1%8C%D1%82%D1%80%D0%B0%D1%86%D0%B8%D1%8F\" rel=\"noopener noreferrer nofollow\">\u041a\u043e\u043b\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044f (collaborative filtering, CF); <\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=2.%20%D0%9C%D0%B0%D1%82%D1%80%D0%B8%D1%87%D0%BD%D1%8B%D0%B5%20%D1%84%D0%B0%D0%BA%D1%82%D0%BE%D1%80%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D0%B8\" rel=\"noopener noreferrer nofollow\">\u041c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438 (matrix factorization, MF), SVD-\u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435; <\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=3.%20%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D0%B5%D0%B2%D1%8B%D0%B5%20%D0%BF%D0%BE%D0%B4%D1%85%D0%BE%D0%B4%D1%8B\" rel=\"noopener noreferrer nofollow\">\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b<\/a>: <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=SLIM%3A%20Sparse%20Linear%20Methods%20for%20Top%2DN%20Recommender%20Systems\" rel=\"noopener noreferrer nofollow\">SLIM: Sparse Linear Methods for Top-N Recommender Systems<\/a>; <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=Factorization%20Machines%20(FM)\" rel=\"noopener noreferrer nofollow\">Factorization Machines (FM)<\/a>; <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=%D0%BA%D0%B0%D0%BA%20%D0%B2%20FM.-,Two%2Dtower%20network,-%D0%98%D0%B7%D0%BD%D0%B0%D1%87%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D1%8D%D1%82%D0%BE%20%D0%B2%D1%81%D0%B5\" rel=\"noopener noreferrer nofollow\">Two-tower network<\/a>; <\/p>\n<\/li>\n<\/ol>\n<hr\/>\n<h3>1. \u041a\u043e\u043b\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044f<\/h3>\n<p>\u0420\u0430\u0437\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u00a0<strong>Item2Item (<\/strong>\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438) \u0438<strong>\u00a0User2User (<\/strong>\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u043c\u0438) \u043f\u043e\u0434\u0445\u043e\u0434\u044b.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/33d\/bdc\/74d\/33dbdc74d4ef91462dbfbaca42321ee4.png\" width=\"880\" height=\"293\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/33d\/bdc\/74d\/33dbdc74d4ef91462dbfbaca42321ee4.png\"\/><\/figure>\n<p>\u041d\u0438\u0436\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0434\u043b\u044f Item2Item, \u043d\u043e, \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u043e \u0437\u0430\u043c\u0435\u043d \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445, \u043e\u043d\u0438 \u0432\u0435\u0440\u043d\u044b \u0434\u043b\u044f User2User.<\/p>\n<p>\u041f\u0443\u0441\u0442\u044c\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"S\" alt=\"S\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f96\/0e5\/280\/f960e528073697d55bce6c52b62ec5e3.svg\" width=\"12\" height=\"17\"\/>\u00a0<\/strong>\u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0435\u0439, \u043d\u0430 \u0441\u0442\u043e\u043b\u0431\u0446\u0430\u0445 \u0438 \u0441\u0442\u0440\u043e\u043a\u0430\u0445 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u0430\u043d\u044b Item-\u044b. \u041d\u0430 \u0433\u043b\u0430\u0432\u043d\u043e\u0439 \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u0438 \u0431\u0443\u0434\u0435\u0442 \u0441\u0442\u043e\u044f\u0442\u044c \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u044c, \u0442\u0430\u043a \u043a\u0430\u043a \u0442\u0430\u043c \u0441\u0442\u043e\u0438\u0442 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0442\u043e\u0432\u0430\u0440.\u00a0<\/p>\n<p>\u0412 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0438\u043c\u0435\u044e\u0449\u0435\u0433\u043e\u0441\u044f \u0444\u0438\u0434\u0431\u0435\u043a\u0430, \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c\u0441\u044f \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443: \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 explicit \u0444\u0438\u0434\u0431\u0435\u043a\u0430 \u044d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D1%8F\" rel=\"noopener noreferrer nofollow\"><strong><u>\u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f<\/u><\/strong><\/a>, \u0430 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 implicit &#8212;\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%BE%D1%8D%D1%84%D1%84%D0%B8%D1%86%D0%B8%D0%B5%D0%BD%D1%82_%D0%96%D0%B0%D0%BA%D0%BA%D0%B0%D1%80%D0%B0\" rel=\"noopener noreferrer nofollow\"><strong><u>\u043c\u0435\u0440\u0430 \u0416\u0430\u043a\u043a\u0430\u0440\u0430<\/u><\/strong><\/a>.\u00a0<\/p>\n<p>\u041f\u043e\u0441\u0447\u0438\u0442\u0430\u0432 \u0432\u0441\u0435 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u0432, \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0436\u043d\u043e \u0432\u0437\u044f\u0442\u044c \u043a\u0430\u043a \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u0422\u041e\u041f\u0430 \u0441\u0430\u043c\u044b\u0445 \u043f\u043e\u0445\u043e\u0436\u0438\u0445, \u0447\u0442\u043e, \u0432 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0441\u043c\u044b\u0441\u043b\u0435, \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_k-%D0%B1%D0%BB%D0%B8%D0%B6%D0%B0%D0%B9%D1%88%D0%B8%D1%85_%D1%81%D0%BE%D1%81%D0%B5%D0%B4%D0%B5%D0%B9\" rel=\"noopener noreferrer nofollow\"><u>KNN<\/u><\/a>.<\/p>\n<h3>2. \u041c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438<\/h3>\n<p>\u042d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434 \u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D1%8B%D1%85_%D0%BA%D0%BE%D0%BC%D0%BF%D0%BE%D0%BD%D0%B5%D0%BD%D1%82\" rel=\"noopener noreferrer nofollow\"><u>\u043c\u0435\u0442\u043e\u0434\u0435 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 (PCA)<\/u><\/a>\u00a0\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A1%D0%B8%D0%BD%D0%B3%D1%83%D0%BB%D1%8F%D1%80%D0%BD%D0%BE%D0%B5_%D1%80%D0%B0%D0%B7%D0%BB%D0%BE%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5\" rel=\"noopener noreferrer nofollow\"><u>\u043c\u0430\u0442\u0440\u0438\u0447\u043d\u043e\u043c \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0438 (SVD).<\/u><\/a><\/p>\n<p>\u041c\u0430\u0442\u0440\u0438\u0446\u0430 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a8f\/4fe\/abf\/a8f4feabf4034316ad1f197becf8b0cf.svg\" width=\"15\" height=\"17\"\/><\/strong>\u00a0\u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0438 \u043e\u0447\u0435\u043d\u044c\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A0%D0%B0%D0%B7%D1%80%D0%B5%D0%B6%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D0%B0\" rel=\"noopener noreferrer nofollow\"><u>\u0440\u0430\u0437\u0440\u044f\u0436\u0435\u043d\u043d\u0430\u044f<\/u><\/a>.\u00a0<\/p>\n<p><strong>SVD<\/strong>\u00a0(<a href=\"http:\/\/www.machinelearning.ru\/wiki\/index.php?title=%D1%E8%ED%E3%F3%EB%FF%F0%ED%EE%E5_%F0%E0%E7%EB%EE%E6%E5%ED%E8%E5\" rel=\"noopener noreferrer nofollow\"><u>\u0441\u0438\u043d\u0433\u0443\u043b\u044f\u0440\u043d\u043e\u0435 \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435<\/u><\/a>) &#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432 \u0432\u0438\u0434\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430, \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0440\u0430\u0441\u0442\u044f\u0436\u0435\u043d\u0438\u044f \u0438 \u0435\u0449\u0435 \u043e\u0434\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430. \u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438, \u0434\u043b\u044f \u043e\u0431\u043b\u0430\u043a\u0430 \u0442\u043e\u0447\u0435\u043a, \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/231\/e0b\/0f4\/231e0b0f4213ad088514b42abd6268b6.png\" alt=\"\u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043c\u044b\u0441\u043b SVD\" title=\"\u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043c\u044b\u0441\u043b SVD\" width=\"1272\" height=\"552\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/231\/e0b\/0f4\/231e0b0f4213ad088514b42abd6268b6.png\"\/><\/p>\n<div><figcaption>\u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043c\u044b\u0441\u043b SVD<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3fe\/ac0\/538\/3feac05383451f45e48a648edac32a65.png\" width=\"1032\" height=\"443\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3fe\/ac0\/538\/3feac05383451f45e48a648edac32a65.png\"\/><\/figure>\n<p>\u0424\u043e\u0440\u043c\u0443\u043b\u044c\u043d\u043e:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"R = U \\Sigma V^T\\\\ U U^T = U^T U = I_M\\\\ V V^T = V^T V = I_N\" alt=\"R = U \\Sigma V^T\\\\ U U^T = U^T U = I_M\\\\ V V^T = V^T V = I_N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7a4\/61e\/9cc\/7a461e9cccc1d6e5c0bcd12e0153a7f5.svg\" width=\"493\" height=\"78\"\/><\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"U\" alt=\"U\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/64f\/12d\/687\/64f12d687b0851dfc550c817c24f2b06.svg\" width=\"15\" height=\"17\"\/>\u00a0\u0438\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"V\" alt=\"V\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d74\/93f\/f61\/d7493ff615a5cd59b8594bf704b01f5f.svg\" width=\"15\" height=\"17\"\/><\/strong>\u00a0&#8212; \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430,\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\Sigma\" alt=\"\\Sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b5c\/912\/979\/b5c912979435e3c1c75be73dad75f87e.svg\" width=\"14\" height=\"17\"\/><\/strong>\u00a0&#8212; \u044d\u0442\u043e \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0441 \u043d\u0435\u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u0438\u043d\u0433\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 \u0447\u0438\u0441\u043b\u0430\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0441\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u044b \u0432 \u043f\u043e\u0440\u044f\u0434\u043a\u0435 \u043d\u0435\u0443\u0431\u044b\u0432\u0430\u043d\u0438\u044f. \u041e\u043d\u0438 \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u043e \u043c\u0435\u0440\u0435\u00a0<em>\u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438<\/em>\u00a0(\u0440\u0430\u0437\u0431\u0440\u043e\u0441\u0430) \u0442\u043e\u0447\u0435\u043a: \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u044d\u0442\u043e \u0447\u0438\u0441\u043b\u043e, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u0431\u0440\u043e\u0441. \u0415\u0441\u043b\u0438 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0443\u043c\u043d\u043e\u0436\u0430\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440 \u043d\u0430 SVD-\u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435, \u0442\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043c\u044b \u0432\u0435\u043a\u0442\u043e\u0440 \u043f\u043e\u0432\u0435\u0440\u043d\u0435\u043c, \u043f\u043e\u0442\u043e\u043c \u0440\u0430\u0441\u0442\u044f\u043d\u0435\u043c \u0438 \u0435\u0449\u0435 \u0440\u0430\u0437 \u043f\u043e\u0432\u0435\u0440\u043d\u0435\u043c.<\/p>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430\u00a0PSA\u00a0(\u043c\u0435\u0442\u043e\u0434 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442) &#8212; \u043f\u043e\u043d\u0438\u0437\u0438\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0447\u0435\u043a \u0432 \u043c\u043d\u043e\u0433\u043e\u043c\u0435\u0440\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c (\u0432\u044b\u0431\u0440\u0430\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0435 \u043f\u043e\u0434\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"L_k\" alt=\"L_k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f27\/a8d\/49b\/f27a8d49b9c93447e93ad0cd16696d56.svg\" width=\"22\" height=\"20\"\/><\/strong>\u00a0\u0442\u0430\u043a\u043e\u0435, \u0447\u0442\u043e \u0441\u0443\u043c\u043c\u0430 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u043e\u0442 \u0442\u043e\u0447\u0435\u043a \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u043f\u043e\u0434\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0431\u044b\u043b\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 (\u0442\u043e\u0447\u043a\u0438 \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u043b\u0438\u0441\u044c \u044d\u0442\u043e\u0439 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043f\u043b\u043e\u0441\u043a\u043e\u0441\u0442\u044c\u044e)). \u041e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u044e\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0441\u0435\u0433\u043e\u00a0<em>\u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438<\/em>.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/9e9\/a68\/c5f\/9e9a68c5f503b2645fbcd107dc0d4fb9.png\" alt=\"https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz\" title=\"https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz\" width=\"777\" height=\"333\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9e9\/a68\/c5f\/9e9a68c5f503b2645fbcd107dc0d4fb9.png\"\/><\/p>\n<div><figcaption><a href=\"https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz\" rel=\"noopener noreferrer nofollow\">https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz<\/a><\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u0430\u043a, \u0434\u043b\u044f \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/637\/d0e\/7b8\/637d0e7b86b4fa76c97eebd4a4dfb3ed.svg\" width=\"15\" height=\"17\"\/><\/strong>, \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435\u0435 (\u0447\u0430\u0441\u0442\u043e \u043c\u0435\u043d\u044c\u0448\u0435 100) \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0433\u043b\u0430\u0432\u043d\u044b\u0445 (\u043f\u0435\u0440\u0432\u044b\u0445) \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0438\u0437 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\Sigma\" alt=\"\\Sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b05\/690\/761\/b056907616bc9fc49fa0fb086f4f3c51.svg\" width=\"14\" height=\"17\"\/>, \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u0431\u0440\u043e\u0441\u0438\u0432 \u00ab\u0445\u0432\u043e\u0441\u0442\u00bb. \u0422\u0430\u043a\u0430\u044f \u043c\u0430\u043d\u0438\u043f\u0443\u043b\u044f\u0446\u0438\u044f, \u0441 \u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043e\u0431\u044a\u0435\u043c\u044b \u043f\u0430\u043c\u044f\u0442\u0438, \u0441 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u0434\u0430\u0435\u0442\u00a0\u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0435\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0435 \u0434\u043b\u044f <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6c4\/254\/556\/6c4254556c9b2a3739d3288722f5fccc.svg\" width=\"15\" height=\"17\"\/> \u043f\u043e\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9D%D0%BE%D1%80%D0%BC%D0%B0_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D1%8B\" rel=\"noopener noreferrer nofollow\"><u>\u043d\u043e\u0440\u043c\u0435 \u0424\u0440\u043e\u0431\u0435\u043d\u0438\u0443\u0441\u0430<\/u><\/a>.\u00a0<\/p>\n<p>\u0421\u0434\u0435\u043b\u0430\u0432 \u0437\u0430\u043c\u0435\u043d\u0443<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"P = U \\Sigma\" alt=\"P = U \\Sigma\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c05\/ac6\/87d\/c05ac687daddf35588702f974cc341ed.svg\" width=\"69\" height=\"17\"\/>, <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q = V^T\" alt=\"Q = V^T\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/188\/b2e\/2ee\/188b2e2ee0fc01c22badae6acb493939.svg\" width=\"68\" height=\"24\"\/>\u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u043a\u0430\u043a <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R = P Q\" alt=\"R = P Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bda\/c42\/5c8\/bdac425c8cc7a00d2a635805b085cefd.svg\" width=\"70\" height=\"20\"\/>\u0438 \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u0447\u0442\u043e \u0441\u0442\u0440\u043e\u043a\u0430\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"U_i\" alt=\"U_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/26d\/e46\/791\/26de46791fec0fc20b2c4470fc2dd841.svg\" width=\"20\" height=\"20\"\/><\/strong>\u00a0&#8212; \u044d\u0442\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7d3\/c4a\/ace\/7d3c4aace47f320f82815bff6b022025.svg\" width=\"7\" height=\"16\"\/>-\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u0430 \u0441\u0442\u043e\u043b\u0431\u0435\u0446\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q_j\" alt=\"Q_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9fc\/b71\/a5b\/9fcb71a5b960a416dc83bc2cadf76c69.svg\" width=\"23\" height=\"22\"\/><\/strong>\u00a0&#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/352\/272\/7da\/3522727da2bed47895abbda6a390d24b.svg\" width=\"8\" height=\"19\"\/>-\u0433\u043e \u0442\u043e\u0432\u0430\u0440\u0430. \u0422\u043e\u0433\u0434\u0430, \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435: <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\hat R_{ij} = \\big( P_i , Q_j \\big)\" alt=\"\\hat R_{ij} = \\big( P_i , Q_j \\big)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/24e\/0bf\/96f\/24e0bf96f94886cc591c6af616e7f9ca.svg\" width=\"115\" height=\"27\"\/>.<\/p>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430 &#8212; \u043f\u0440\u0435\u0434\u0443\u0433\u0430\u0434\u0430\u0442\u044c \u043a\u0430\u043a\u043e\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043e\u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043d\u0430 \u043f\u0443\u0441\u0442\u044b\u0445 \u043c\u0435\u0441\u0442\u0430\u0445 \u043c\u0430\u0442\u0440\u0438\u0446\u044b<strong>\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/887\/ac2\/d9f\/887ac2d9f198b42d5ca0a3bbf09231b1.svg\" width=\"15\" height=\"17\"\/><\/strong>. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043b\u043e\u0441\u0441\u0430 \u0431\u0435\u0440\u0435\u0442\u0441\u044f MSE:<strong>\u00a0<\/strong> <\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\sum \\big( R_{ij} - \\hat R_ij \\big) ^2 = \\sum \\big( R_{ij} - (P_i , Q_j) \\big)^2 \u2192 min\" alt=\"\\sum \\big( R_{ij} - \\hat R_ij \\big) ^2 = \\sum \\big( R_{ij} - (P_i , Q_j) \\big)^2 \u2192 min\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/84a\/433\/b53\/84a433b53844147638a625733ee098b0.svg\" width=\"395\" height=\"32\"\/><\/p>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c, \u043c\u044b \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c SVD \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435: \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/491\/40a\/25d\/49140a25daf120422c766e866f63887a.svg\" width=\"15\" height=\"17\"\/><\/strong>\u00a0\u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0443\u043b\u0435\u0439, \u0442\u043e \u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u0431\u0443\u0434\u0435\u0442 \u0431\u043b\u0438\u0437\u043a\u043e \u043a \u043d\u0443\u043b\u044e.\u00a0<strong>\u0418\u0434\u0435\u044f Funk SVD \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 <\/strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/770\/31d\/465\/77031d465e75cafea868ac0c0cc36af7.svg\" width=\"0\" height=\"0\"\/><strong> \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c.<\/strong>\u00a0\u0422\u0430\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0440\u0435\u0448\u0430\u0435\u0442\u0441\u044f\u00a0<a href=\"https:\/\/education.yandex.ru\/handbook\/ml\/article\/optimizaciya-v-ml#:~:text=%D0%93%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9%20%D1%81%D0%BF%D1%83%D1%81%D0%BA%20(GD)\" rel=\"noopener noreferrer nofollow\">\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c<\/a>\u00a0\u0438 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f.<\/p>\n<p><a href=\"https:\/\/habr.com\/ru\/companies\/yandex\/articles\/241455\/#:~:text=%D0%BA%20%D0%B3%D0%BB%D0%BE%D0%B1%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%BC%D1%83%20%D0%BE%D0%BF%D1%82%D0%B8%D0%BC%D1%83%D0%BC%D1%83.-,Alternating%20Least%20Squares,-%D0%9E%D0%B4%D0%BD%D0%B0%D0%BA%D0%BE%20%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%20%D0%B3%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D0%B3%D0%BE\" rel=\"noopener noreferrer nofollow\">\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u00a0<strong>ALS<\/strong><\/a>\u00a0(\u043c\u0435\u0442\u043e\u0434 \u0447\u0435\u0440\u0435\u0434\u0443\u044e\u0449\u0438\u0445\u0441\u044f \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0438\u0445 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u043e\u0432) \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u043f\u043e\u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e \u0438\u0441\u043a\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"P\" alt=\"P\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c76\/779\/b34\/c76779b340879059889d5e5f07825d68.svg\" width=\"14\" height=\"17\"\/><\/strong>\u00a0\u0438\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q\" alt=\"Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f19\/286\/99f\/f1928699f62c59ba2e64dd7d18a32577.svg\" width=\"15\" height=\"20\"\/><\/strong>, \u043f\u0443\u0442\u0435\u043c \u0444\u0438\u043a\u0441\u0430\u0446\u0438\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445.\u00a0<strong>IALS<\/strong>\u00a0\u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043c\u0435\u0441\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0430\u0436\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c (\u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0431\u044b\u043b\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439).\u00a0<\/p>\n<p>\u041c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438\u00a0\u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u0430:<\/p>\n<ul>\n<li>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"P_i\" alt=\"P_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fa5\/dd0\/a82\/fa5dd0a82f39c34d971e23d17ade76b1.svg\" width=\"19\" height=\"20\"\/>\u00a0<\/strong>\u0438\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q_j\" alt=\"Q_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d11\/f67\/311\/d11f6731103667e12ce0ef4f163714b5.svg\" width=\"23\" height=\"22\"\/><\/strong><\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0436\u043d\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043f\u0440\u0435\u0434\u0443\u0431\u0435\u0436\u0434\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439: <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\hat r_{uj} = \\mu + b_i + b_u + q_i^T p_u\" alt=\"\\hat r_{uj} = \\mu + b_i + b_u + q_i^T p_u\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/be5\/1fe\/24a\/be51fe24a046212ea75c74a36ffd8cfb.svg\" width=\"207\" height=\"25\"\/>, \u0433\u0434\u0435\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\mu\" alt=\"\\mu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9f1\/2a8\/491\/9f12a8491ca31f00b934fb7c8dd62ded.svg\" width=\"12\" height=\"16\"\/><\/strong>\u00a0&#8212; \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0431\u0430\u043b\u043b\u043e\u0432, \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445 \u043f\u043e \u0432\u0441\u0435\u043c \u0442\u043e\u0432\u0430\u0440\u0430\u043c \u0432\u0441\u0435\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u043c\u0438;\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"b_i\" alt=\"b_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0bd\/79a\/db0\/0bd79adb0fb72db0fd55d4602f6477fa.svg\" width=\"15\" height=\"20\"\/><strong> &#8212;\u00a0<\/strong>\u00a0\u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u043d\u043e\u0441\u0438\u043c\u043e\u0435 \u0442\u043e\u0432\u0430\u0440\u043e\u043c;<strong>\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"b_u\" alt=\"b_u\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8e5\/294\/d70\/8e5294d7081f29a6fe2703a0da2e1312.svg\" width=\"0\" height=\"0\"\/><\/strong>\u00a0&#8212; \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/en.wikipedia.org\/wiki\/Matrix_factorization_(recommender_systems)#:~:text=problem.%5B8%5D-,SVD++,-%5Bedit%5D\" rel=\"noopener noreferrer nofollow\"><u>SVD++<\/u><\/a>\u00a0<em>\u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442<\/em>\u00a0<em>\u0434\u0440\u0443\u0433\u043e\u0439<\/em>\u00a0<em>\u043d\u0430\u0431\u043e\u0440 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q_s\" alt=\"Q_s\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/65c\/d55\/9b5\/65cd559b57a7e7b211839e65896bc326.svg\" width=\"24\" height=\"20\"\/>\u00a0<\/em>\u043a \u0432\u0435\u043a\u0442\u043e\u0440\u0443\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"U_i\" alt=\"U_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e3d\/620\/c8b\/e3d620c8b87633e03c293996c5a470ca.svg\" width=\"20\" height=\"20\"\/><\/strong>, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0435\u0433\u043e \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u0431\u044b\u043b\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"P_i\" alt=\"P_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cac\/878\/c12\/cac878c121946e5ebc9175f2d3ec13b7.svg\" width=\"19\" height=\"20\"\/>\u00a0\u0442\u043e\u0432\u0430\u0440.<\/p>\n<\/li>\n<li>\n<p><strong>timeSVD++<\/strong>\u00a0\u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u0440\u0430\u0441\u0442\u044f\u043d\u0443\u0442\u044b \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u0438 \u0432\u043a\u0443\u0441\u044b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0437\u0430 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c. \u0422\u043e\u0433\u0434\u0430 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u0442\u044c \u0441\u0442\u043e\u0438\u0442 \u0447\u0442\u043e-\u0442\u043e \u0431\u043b\u0438\u0436\u0435 \u043a \u0442\u0435\u043a\u0443\u0449\u0435\u043c\u0443 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0430 \u0438\u043d\u0430\u0447\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 &#171;\u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0432\u043a\u0443\u0441\u0443&#187;.\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0438 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<\/li>\n<\/ul>\n<h3>3. \u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b<\/h3>\n<ol>\n<li>\n<p><a href=\"http:\/\/glaros.dtc.umn.edu\/gkhome\/node\/774\" rel=\"noopener noreferrer nofollow\"><u>SLIM: Sparse Linear Methods for Top-N Recommender Systems<\/u><\/a> <\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u0443\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/876\/4ef\/5ad\/8764ef5ad14be664f158e910f12a43f1.svg\" width=\"15\" height=\"17\"\/>(implicit feedback). \u0417\u0430\u0434\u0430\u0447\u0430 &#8212; \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0432 \u0431\u0443\u0434\u0443\u0449\u0435\u043c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b. \u0420\u0435\u0448\u0430\u0435\u0442\u0441\u044f &#8212; \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u043e\u0439 \u0441\u0443\u043c\u043c\u044b \u0441\u043e\u0431\u044b\u0442\u0438\u0439 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e:<strong>\u00a0<\/strong><\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\hat r_{ui} = \\sum_{j = 1}{w_{ij} r_{ui}}\" alt=\"\\hat r_{ui} = \\sum_{j = 1}{w_{ij} r_{ui}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e23\/a94\/eec\/e23a94eecd71f461f0478dd8b92171bf.svg\" width=\"131\" height=\"47\"\/><\/p>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c \u043d\u0430 \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430\u043b\u043e\u0436\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f: <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w_{ij} \u2265 0\" alt=\"w_{ij} \u2265 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c48\/4a0\/f66\/c484a0f6624838c310fd7120f605c5a6.svg\" width=\"61\" height=\"21\"\/>  (\u0442\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u0442\u043e\u0432\u0430\u0440\u044b) \u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w_{ii} = 0\" alt=\"w_{ii} = 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/71f\/d8e\/ca5\/71fd8eca58b37128f0ebbe075db63aa4.svg\" width=\"61\" height=\"19\"\/> (\u0447\u0442\u043e\u0431\u044b \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u0440\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f). \u041f\u043e-\u0441\u0443\u0442\u0438, \u0438\u0449\u0435\u0442\u0441\u044f \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 \u0441\u0443\u043c\u043c\u0443 \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438.<\/p>\n<p>\u041e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f MSE-loss \u0441\u00a0<a href=\"https:\/\/en.wikipedia.org\/wiki\/Elastic_net_regularization\" rel=\"noopener noreferrer nofollow\">Elastic Net \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0435\u0439<\/a>\u00a0(<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"L_1\" alt=\"L_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/114\/b67\/26f\/114b6726f26fda2036b23f589159e57d.svg\" width=\"22\" height=\"19\"\/> \u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"L_2\" alt=\"L_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7a9\/389\/4bf\/7a93894bfd49f611ec5de91a15d79a85.svg\" width=\"22\" height=\"19\"\/>):\u00a0<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{1}{2} \\sum_{u, i} \\left( r_{ui}  - \\sum_{j} w_{ij} r_{uj} \\right)^2+ \\lambda \\sum_{i, j} |w_{ij}| + \\frac{\\beta}{2} \\sum_{i, j} (w_{ij})^2 \\rightarrow \\min_{W}\" alt=\"\\frac{1}{2} \\sum_{u, i} \\left( r_{ui}  - \\sum_{j} w_{ij} r_{uj} \\right)^2+ \\lambda \\sum_{i, j} |w_{ij}| + \\frac{\\beta}{2} \\sum_{i, j} (w_{ij})^2 \\rightarrow \\min_{W}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a05\/03f\/e4b\/a0503fe4ba3258cde166035f9726b982.svg\" width=\"508\" height=\"66\"\/><\/p>\n<p>\u043f\u0440\u0438\u0447\u0435\u043c<strong>\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0440\u043e\u043b\u044c \u043e\u0442\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e L1 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438<\/strong>, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043c\u044b \u0441\u0442\u0430\u0440\u0430\u0435\u043c\u0441\u044f \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043d\u0443\u043b\u0438\u0442\u044c (\u043e\u0442\u0441\u044e\u0434\u0430 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u0430).<\/p>\n<p>\u041e\u0433\u0440\u043e\u043c\u043d\u044b\u0439 \u043f\u043b\u044e\u0441 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u043e \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0442\u0441\u044f (\u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0430\u0439\u0442\u0435\u043c\u0430). \u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0431\u0443\u0447\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c, \u043e\u0434\u043d\u0430\u043a\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c\u00a0<a href=\"https:\/\/education.yandex.ru\/handbook\/ml\/article\/optimizaciya-v-ml#:~:text=%D0%A1%D1%82%D0%BE%D1%85%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9%20%D0%B3%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9%20%D1%81%D0%BF%D1%83%D1%81%D0%BA%20(SGD)\" rel=\"noopener noreferrer nofollow\"><strong><u>SGD<\/u><\/strong><\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435.\u00a0<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u0431\u0440\u043e\u0441\u0438\u0442\u044c \u0442\u0435, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043e\u043d\u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u0438 \u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u0442\u043e\u0432\u0430\u0440\u043e\u0432. \u0422\u0430\u043a\u0430\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u043e score \u043d\u0435 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u0414\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0434\u043b\u044f <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/df4\/fa9\/c5b\/df4fa9c5b8db8800af2469e533fee423.svg\" width=\"7\" height=\"16\"\/>-\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0dc\/2d4\/caa\/0dc2d4caae47452ad13cd0d8eee471c8.svg\" width=\"8\" height=\"19\"\/>-\u0433\u043e \u0442\u043e\u0432\u0430\u0440\u0430 \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0430\u044e\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fe4\/797\/078\/fe47970784764aecff2d44057a9c64ce.svg\" width=\"8\" height=\"19\"\/>-\u044b\u0439 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0435\u0441\u043e\u0432 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"W\" alt=\"W\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2d\/87f\/acd\/d2d87facd88490ee52ff1b63997cc01d.svg\" width=\"20\" height=\"17\"\/>.\u00a0<\/p>\n<p>\u0422\u0430\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0434\u043b\u044f top-N \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439. \u0414\u043b\u044f \u0434\u0432\u0443\u0445\u0441\u0442\u0430\u0434\u0438\u0439\u043d\u044b\u0445 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c SLIM \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u044d\u0442\u0430\u043f\u0435, \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c, \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u043c \u044d\u0442\u0430\u043f\u0435 (\u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432) \u0443\u0434\u043e\u0431\u043d\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u0443\u044e \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u044e.<\/p>\n<ol start=\"2\">\n<li>\n<p><a href=\"https:\/\/vk.com\/away.php?to=https%3A%2F%2Fwww.csie.ntu.edu.tw%2F~b97053%2Fpaper%2FRendle2010FM.pdf&amp;utf=1\" rel=\"noopener noreferrer nofollow\"><u>Factorization Machines (FM)<\/u><\/a><\/p>\n<\/li>\n<\/ol>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0441\u043c\u044b\u0441\u043b\u00a0<strong>\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d (FM)<\/strong>\u00a0\u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432\u0435\u0441\u0430 \u043f\u0440\u0438 \u043f\u0430\u0440\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u043e\u0432\u0430\u043d\u044b. \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.\u00a0<\/p>\n<p>1) \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"R\" alt=\"R\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5de\/7bb\/cfc\/5de7bbcfcecfb3fa5231085377fcfce0.svg\" width=\"15\" height=\"17\"\/><\/strong>\u00a0\u0432 \u043c\u0430\u0442\u0440\u0438\u0446\u0443\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"X\" alt=\"X\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/00f\/b09\/9f4\/00fb099f4ca7ae84d04ac50903ee6b26.svg\" width=\"16\" height=\"17\"\/><\/strong>, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0443\u044e \u0438\u0437 ohe-hot \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432, \u0433\u0434\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"1\" alt=\"1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/51d\/cc4\/97c\/51dcc497c56963c5af65f7b1363413a9.svg\" width=\"10\" height=\"16\"\/> \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 (<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"X_i \u2208 \u211d^n\" alt=\"X_i \u2208 \u211d^n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fb3\/41b\/5dd\/fb341b5ddc51cc28b472d72f95e2efa7.svg\" width=\"70\" height=\"21\"\/>, <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"n = | I | + | U |\" alt=\"n = | I | + | U |\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/45e\/30d\/b43\/45e30db43caf8987835b6dbe4289ca5f.svg\" width=\"107\" height=\"22\"\/><\/strong>).<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/557\/d15\/818\/557d15818606b596e556ee50e2eef9ad.png\" width=\"923\" height=\"308\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/557\/d15\/818\/557d15818606b596e556ee50e2eef9ad.png\"\/><\/figure>\n<p>2) \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u043e\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i\" alt=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/71a\/361\/e7a\/71a361e7a65e76fa87b1c1a6513af51c.svg\" width=\"176\" height=\"57\"\/>, \u0433\u0434\u0435\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"x\" alt=\"x\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7e0\/bff\/72f\/7e0bff72fe7b4bbd8e8c03294ed04053.svg\" width=\"11\" height=\"12\"\/><\/strong>\u00a0&#8212; \u043a\u0430\u043a\u0430\u044f-\u0442\u043e one-hot user-a \u0438\u043b\u0438 one-hot item-\u0430 \u0444\u0438\u0447\u0430.<\/p>\n<p>3) \u0414\u043e\u0431\u0430\u0432\u0438\u043c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0430. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u043c\u0438:\u00a0 <\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} w_{ij} x_i x_j\" alt=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} w_{ij} x_i x_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4c3\/d40\/175\/4c3d401759e7d4b18c524f0dcc927bbb.svg\" width=\"334\" height=\"59\"\/><\/p>\n<p>\u0423\u0447\u0435\u0442 \u0442\u0430\u043a\u0438\u0445 \u043f\u043e\u043f\u0430\u0440\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438. \u041c\u043e\u0436\u043d\u043e \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u0438 \u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0438\u0435 \u043f\u043e\u0440\u044f\u0434\u043a\u0438, \u043e\u0434\u043d\u0430\u043a\u043e, \u0432\u044b\u0448\u0435 \u0434\u0432\u043e\u0439\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u043a\u0442\u043e \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u0442.<\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e, \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"W\" alt=\"W\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9b8\/2bd\/8bc\/9b82bd8bc175ac889a333231ca006dd3.svg\" width=\"20\" height=\"17\"\/><\/strong>\u00a0\u0431\u0443\u0434\u0435\u0442 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430:\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"(|I| + |U|) \u00d7 (|I| + |U|)\" alt=\"(|I| + |U|) \u00d7 (|I| + |U|)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a27\/379\/29e\/a2737929e8a95a0cf28b98baf69e9fcc.svg\" width=\"193\" height=\"22\"\/><\/strong><\/p>\n<p>4) \u0424\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0443\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0435\u0441\u043e\u0432 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"W\" alt=\"W\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cab\/9e3\/b1d\/cab9e3b1df881b81fa57f0489c4d5552.svg\" width=\"20\" height=\"17\"\/>.\u00a0\u0412\u043c\u0435\u0441\u0442\u043e \u0432\u0435\u0441\u0430\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w_{ij}\" alt=\"w_{ij}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/871\/a9b\/f25\/871a9bf252d631eed4a10828e59874db.svg\" width=\"26\" height=\"17\"\/>\u00a0<\/strong>\u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0438\u0442\u044c \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"v_i\" alt=\"v_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fb6\/981\/431\/fb6981431bbf12c10362dcdaf0bbbc7f.svg\" width=\"16\" height=\"15\"\/> <\/strong>\u0438<strong> <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"v_j\" alt=\"v_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cee\/d8d\/81e\/ceed8d81e733491fb99a1a95a4d2b3a9.svg\" width=\"17\" height=\"17\"\/><\/strong>\u00a0(embedding-\u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b4d\/be4\/c5a\/b4dbe4c5ac156be044831f9ee3a89a7f.svg\" width=\"7\" height=\"16\"\/>-\u043e\u0439 \u0444\u0438\u0447\u0438 \u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fd2\/1d5\/a18\/fd21d5a186affad8b920efa2676c11e9.svg\" width=\"8\" height=\"19\"\/>-\u043e\u0439 \u0444\u0438\u0447\u0438):<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_i, v_j \\rangle x_i x_j\" alt=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_i, v_j \\rangle x_i x_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d5e\/0a3\/8a0\/d5e0a38a0ce6038d0e4ab69a20c327a2.svg\" width=\"361\" height=\"59\"\/><\/p>\n<p>\u0433\u0434\u0435\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w_0\" alt=\"w_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/048\/a97\/871\/048a97871cd81afafb08bf00545e4c60.svg\" width=\"23\" height=\"15\"\/><\/strong>\u00a0&#8212; bias (\u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435) \u0432\u0441\u0435\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b,\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\sum_{i=1}^{n} w_i x_i\" alt=\"\\sum_{i=1}^{n} w_i x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cc3\/b69\/631\/cc3b69631dd47d47d986a8bca73e7258.svg\" width=\"69\" height=\"57\"\/>\u00a0<\/strong>&#8212; bias \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0438 bias \u0442\u043e\u0432\u0430\u0440\u043e\u0432,\u00a0<strong>\u00a0<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_i, v_j \\rangle x_i x_j\" alt=\"\\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_i, v_j \\rangle x_i x_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ff1\/30a\/8e9\/ff130a8e9832ea6f538cfd65b821a205.svg\" width=\"98\" height=\"23\"\/>&#8212;\u00a0<\/strong>\u043f\u043e\u043f\u0430\u0440\u043d\u044b\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u043e\u0436\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u043c\u0435\u043d\u044c\u0448\u0435\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u0422\u0430\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f<strong>\u00a0Factorization Machines<\/strong>.\u00a0<\/p>\n<p>\u041e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c. \u041f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u043e, \u0447\u0442\u043e \u0434\u0430\u0435\u0442 \u043d\u0435\u043f\u043b\u043e\u0445\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0432 \u043c\u0430\u0442\u0440\u0438\u0446\u0443\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"X\" alt=\"X\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/558\/6d0\/49c\/5586d049cd852f14e6694c519d7ac653.svg\" width=\"16\" height=\"17\"\/><\/strong>\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435\u00a0one-hot item-\u044b\u00a0\u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u043e\u0431\u0440\u0430\u0437\u0443\u044f \u0445\u0432\u043e\u0441\u0442\u0438\u043a \u0438\u0437 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043b \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u043c, \u0442\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0437\u0443\u0447\u0430\u0442\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442\u00a0\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0430\u0440\u043a\u043e\u0432\u0441\u043a\u0438\u0445 \u0446\u0435\u043f\u0435\u0439.<\/p>\n<p>\u0418\u0434\u0435\u044f\u00a0<a href=\"https:\/\/www.csie.ntu.edu.tw\/~cjlin\/papers\/ffm.pdf\" rel=\"noopener noreferrer nofollow\">FFM &#8212; Field-aware Factorization Machines<\/a>: \u0440\u0430\u0437\u0431\u0438\u0442\u044c \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0438\u0437 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"X\" alt=\"X\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f0a\/b9d\/b99\/f0ab9db99d0225040ac1cacbd5081230.svg\" width=\"16\" height=\"17\"\/><\/strong>\u00a0\u043d\u0430 \u0433\u0440\u0443\u043f\u043f\u044b\u00a0<strong><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f_i\" alt=\"f_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/126\/e4a\/e70\/126e4ae70db709105ecfc9e9465a1b40.svg\" width=\"16\" height=\"20\"\/>:<\/strong><\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/2d3\/343\/e5d\/2d3343e5d4fe666fa6bb45b469d82af0.png\" width=\"932\" height=\"451\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2d3\/343\/e5d\/2d3343e5d4fe666fa6bb45b469d82af0.png\"\/><\/figure>\n<p>\u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c FFM \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043a\u0430\u043a:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_{i, f_i}, v_{j,f_j} \\rangle x_i x_j\" alt=\"r(x) = w_0 + \\sum_{i=1}^{n} w_i x_i + \\sum_{i=1}^{n} \\sum_{j=i+1}^{n} \\langle v_{i, f_i}, v_{j,f_j} \\rangle x_i x_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c85\/cbd\/631\/c85cbd6312ed15f90c7f1b71a317dfa2.svg\" width=\"392\" height=\"59\"\/><\/p>\n<p>\u0412 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u043c, \u043a\u0430\u043a \u0438 \u0432 FM.\u00a0<\/p>\n<ol start=\"3\">\n<li>\n<p><strong><u>Two-tower network<\/u><\/strong><\/p>\n<\/li>\n<\/ol>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u044d\u0442\u043e \u0432\u0441\u0435 \u043f\u043e\u0448\u043b\u043e \u0438\u0437 \u043f\u043e\u0441\u043a\u0430, \u0433\u0434\u0435 \u043e\u0431\u0443\u0447\u0430\u043b\u0438\u0441\u044c\u00a0<strong>DSSM (Deep Structured Semantic Models) \u043c\u043e\u0434\u0435\u043b\u0438\u00a0<\/strong>(\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0438\u0441\u043a\u0430 \u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f) \u0434\u043b\u044f \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0425\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b, \u0447\u0442\u043e\u0431\u044b \u0432\u0435\u043a\u0442\u043e\u0440 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0431\u044b\u043b \u043f\u043e\u0445\u043e\u0436 \u043d\u0430 \u0432\u0435\u043a\u0442\u043e\u0440 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u0435\u043d \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e.\u00a0<\/p>\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"D\" alt=\"D\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/337\/9b9\/81a\/3379b981a4baf1050928ec9962835805.svg\" width=\"16\" height=\"17\"\/>\u0438 \u0437\u0430\u043f\u0440\u043e\u0441 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Q\" alt=\"Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b1\/0bc\/35a\/3b10bc35a9659830632bbc950da1f2a6.svg\" width=\"15\" height=\"20\"\/> \u0432 \u0432\u0438\u0434\u0435\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%88%D0%BE%D0%BA_%D1%81%D0%BB%D0%BE%D0%B2\" rel=\"noopener noreferrer nofollow\"><u>Bag of words<\/u><\/a> (BOW)\u00a0\u043a\u0430\u043a <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"x_D, x_Q\" alt=\"x_D, x_Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/85b\/19f\/0a0\/85b19f0a0ce597bea7e662fee5d68ffe.svg\" width=\"57\" height=\"17\"\/>(~100k). \u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439, \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043c \u0438\u0445 \u0432 embedding-\u0438 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 (~300). \u041c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438: \u043a\u043e\u0441\u0438\u043d\u0443\u0441, \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0438\u043b\u0438 \u0434\u0440. \u041f\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b.\u00a0<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/605\/4d9\/1fe\/6054d91fec7d21d8d68c7c3a472608ed.png\" width=\"848\" height=\"438\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/605\/4d9\/1fe\/6054d91fec7d21d8d68c7c3a472608ed.png\"\/><\/figure>\n<p>\u041f\u043e\u0438\u0441\u043a \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0445 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043a\u0430\u043a \u0437\u0430\u0434\u0430\u0447\u0443 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u0433\u0434\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 &#8212; \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c, \u0435\u0433\u043e \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0438 \u0444\u0438\u0447\u0438.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/e81\/43f\/04d\/e8143f04daf21ad6a9aa9eda06cf7e16.png\" width=\"937\" height=\"559\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e81\/43f\/04d\/e8143f04daf21ad6a9aa9eda06cf7e16.png\"\/><\/figure>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c:\u00a0<\/strong>\u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 (\u0434\u043b\u044f \u0443\u0447\u0435\u0442\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u043c), \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0435\u0442\u044c, \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u044b, \u0433\u0440\u0430\u0444\u043e\u0432\u0430\u044f \u0441\u0435\u0442\u043a\u0430 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c<\/strong>: \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430: \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043b\u0430\u0439\u043a\u043e\u0432, \u043a\u043b\u0438\u043a\u043e\u0432, \u043f\u043e\u0434\u043f\u0438\u0441\u043e\u043a; \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0430\u0432\u0442\u043e\u0440\u0430: \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0434\u043f\u0438\u0441\u0447\u0438\u043a\u043e\u0432, \u0436\u0430\u043d\u0440; \u043d\u0435\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435: \u0442\u0435\u043a\u0441\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430 (\u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c BOW \u0444\u043e\u0440\u043c\u0430\u0442, \u0430 \u043c\u043e\u0436\u043d\u043e \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438), \u0432\u0438\u0434\u0435\u043e \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 (\u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0432 \u0438\u0445 \u0432 \u0432\u0438\u0434\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430).<\/p>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c:\u00a0<\/strong>\u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f: \u0432\u043e\u0437\u0440\u0430\u0441\u0442, \u043f\u043e\u043b, \u044f\u0437\u044b\u043a; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430: \u0441 \u043a\u0430\u043a\u043e\u0433\u043e \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u0431\u044b\u043b \u0441\u0434\u0435\u043b\u0430\u043d, \u0432 \u043a\u0430\u043a\u043e\u0435 \u0432\u0440\u0435\u043c\u044f; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u0434\u0440\u0443\u0437\u0435\u0439\/\u043f\u043e\u0434\u043f\u0438\u0441\u0447\u0438\u043a\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f;\u00a0<\/p>\n<p><strong>Two-tower<\/strong>\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 (\u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 DSSM) \u0438\u043c\u0435\u0435\u0442 \u0440\u044f\u0434 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432: \u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0434\u043b\u044f \u0442\u0432\u043e\u0440\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438 \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432;\u00a0<strong>\u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441<\/strong>, \u0442\u0430\u043a \u043a\u0430\u043a \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0444\u0444\u043b\u0430\u0439\u043d; \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c\u00a0<strong>\u043e\u0444\u0444\u043b\u0430\u0439\u043d (\u0438 \u0434\u0430\u0436\u0435 \u043e\u043d\u043b\u0430\u0439\u043d) \u043e\u0442\u0431\u043e\u0440 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432<\/strong>\u00a0\u043d\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430x.<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/\"> https:\/\/habr.com\/ru\/articles\/792994\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0426\u0435\u043b\u044c \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 &#8212; \u043f\u043e\u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e \u0447\u0442\u043e-\u0442\u043e \u043d\u043e\u0432\u043e\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u0430 \u043c\u0430\u0440\u043a\u0435\u0442\u043f\u043b\u0435\u0439\u0441\u0430\u0445, \u0432 \u043c\u0443\u0437\u044b\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0438\u043b\u0438 \u0432\u0438\u0434\u0435\u043e-\u0441\u0442\u0440\u0438\u043c\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u0445.\u00a0<\/p>\n<p>\u041d\u0430 \u0434\u0435\u043b\u0435 \u0432\u044b \u0432\u0441\u0435\u0433\u0434\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u0435 \u0441 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u0435\u0439 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong>\u00a0<\/strong>(<strong>user-item matrix<\/strong>), \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0441\u0442\u043e\u044f\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 (<strong>users<\/strong>), \u0430 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0441\u0442\u043e\u043b\u0431\u0446\u0443 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0442\u043e\u0432\u0430\u0440 (<strong>items<\/strong>). \u041d\u0430 \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 \u0437\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 (<strong>feedback<\/strong>).\u00a0<\/p>\n<figure class=\"full-width\"><\/figure>\n<p><strong>Feedback<\/strong>\u00a0\u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c \u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u043c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c<strong>:\u00a0<\/strong><\/p>\n<ul>\n<li>\n<p>\u044f\u0432\u043d\u044b\u043c (<strong>explicit<\/strong>): \u043e\u0446\u0435\u043d\u043a\u0438, \u043b\u0430\u0439\u043a\u0438; <\/p>\n<\/li>\n<li>\n<p>\u043d\u0435\u044f\u0432\u043d\u044b\u043c (<strong>implicit<\/strong>): \u043a\u043b\u0438\u043a\u0438, \u0441\u043a\u0438\u043f\u044b;<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c, \u043d\u0435\u0442 \u043a\u0430\u043a\u043e\u0433\u043e-\u0442\u043e \u0441\u0442\u0440\u043e\u0433\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u044f\u0432\u043d\u044b\u043c \u0438 \u043d\u0435\u044f\u0432\u043d\u044b\u043c \u0444\u0438\u0434\u0431\u0435\u043a\u043e\u043c. \u0427\u0430\u0441\u0442\u043e, \u043f\u0440\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u0437\u0430\u0434\u0430\u0447 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u0430 \u043d\u0435\u043a\u0430\u044f\u00a0<strong>\u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0432 \u0444\u0438\u0434\u0431\u0435\u043a\u0435<\/strong>.\u00a0<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c, \u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443:<\/p>\n<ol>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u044b\u0439<\/strong>\u00a0\u043d\u0430\u0431\u043e\u0440 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u00a0<strong>\u043f\u0440\u043e\u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043b<\/strong>\u00a0(\u0441\u043f\u0438\u0441\u043e\u043a \u043f\u0440\u043e\u043b\u0430\u0439\u043a\u0430\u043d\u043d\u044b\u0445 \u0442\u0440\u0435\u043a\u043e\u0432)<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043d\u0435\u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u043d\u044b\u0439<\/strong>\u00a0\u043d\u0430\u0431\u043e\u0440 \u0442\u043e\u0432\u0430\u0440\u043e\u0432\u00a0<strong>\u0441 \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438<\/strong>\u00a0(\u043e\u0446\u0435\u043d\u043a\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c \u0444\u0438\u043b\u044c\u043c\u043e\u0432, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u0430\u043b \u0442\u0440\u0435\u043a)<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c<\/strong>\u00a0\u0430\u0439\u0442\u0435\u043c\u043e\u0432\u00a0<strong>\u0441 \u043e\u0446\u0435\u043d\u043a\u0430\u043c\u0438<\/strong><\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u00a0<strong>\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c<\/strong>\u00a0\u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong>\u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430<\/strong><\/p>\n<\/li>\n<\/ol>\n<p>\u041d\u0438\u0436\u0435 \u0431\u0443\u0434\u0443\u0442 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b:<\/p>\n<ol>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=1.%20%D0%9A%D0%BE%D0%BB%D0%BB%D0%B0%D0%B1%D0%BE%D1%80%D0%B0%D1%82%D0%B8%D0%B2%D0%BD%D0%B0%D1%8F%20%D1%84%D0%B8%D0%BB%D1%8C%D1%82%D1%80%D0%B0%D1%86%D0%B8%D1%8F\" rel=\"noopener noreferrer nofollow\">\u041a\u043e\u043b\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044f (collaborative filtering, CF); <\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=2.%20%D0%9C%D0%B0%D1%82%D1%80%D0%B8%D1%87%D0%BD%D1%8B%D0%B5%20%D1%84%D0%B0%D0%BA%D1%82%D0%BE%D1%80%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D0%B8\" rel=\"noopener noreferrer nofollow\">\u041c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438 (matrix factorization, MF), SVD-\u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435; <\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=3.%20%D0%9D%D0%B5%D0%B9%D1%80%D0%BE%D1%81%D0%B5%D1%82%D0%B5%D0%B2%D1%8B%D0%B5%20%D0%BF%D0%BE%D0%B4%D1%85%D0%BE%D0%B4%D1%8B\" rel=\"noopener noreferrer nofollow\">\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b<\/a>: <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=SLIM%3A%20Sparse%20Linear%20Methods%20for%20Top%2DN%20Recommender%20Systems\" rel=\"noopener noreferrer nofollow\">SLIM: Sparse Linear Methods for Top-N Recommender Systems<\/a>; <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=Factorization%20Machines%20(FM)\" rel=\"noopener noreferrer nofollow\">Factorization Machines (FM)<\/a>; <a href=\"https:\/\/habr.com\/ru\/articles\/792994\/#:~:text=%D0%BA%D0%B0%D0%BA%20%D0%B2%20FM.-,Two%2Dtower%20network,-%D0%98%D0%B7%D0%BD%D0%B0%D1%87%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%20%D1%8D%D1%82%D0%BE%20%D0%B2%D1%81%D0%B5\" rel=\"noopener noreferrer nofollow\">Two-tower network<\/a>; <\/p>\n<\/li>\n<\/ol>\n<hr\/>\n<h3>1. \u041a\u043e\u043b\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044f<\/h3>\n<p>\u0420\u0430\u0437\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u00a0<strong>Item2Item (<\/strong>\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438) \u0438<strong>\u00a0User2User (<\/strong>\u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u043c\u0438) \u043f\u043e\u0434\u0445\u043e\u0434\u044b.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u041d\u0438\u0436\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0434\u043b\u044f Item2Item, \u043d\u043e, \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u043e \u0437\u0430\u043c\u0435\u043d \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445, \u043e\u043d\u0438 \u0432\u0435\u0440\u043d\u044b \u0434\u043b\u044f User2User.<\/p>\n<p>\u041f\u0443\u0441\u0442\u044c\u00a0<strong>\u00a0<\/strong>\u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0435\u0439, \u043d\u0430 \u0441\u0442\u043e\u043b\u0431\u0446\u0430\u0445 \u0438 \u0441\u0442\u0440\u043e\u043a\u0430\u0445 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u0430\u043d\u044b Item-\u044b. \u041d\u0430 \u0433\u043b\u0430\u0432\u043d\u043e\u0439 \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u0438 \u0431\u0443\u0434\u0435\u0442 \u0441\u0442\u043e\u044f\u0442\u044c \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u044c, \u0442\u0430\u043a \u043a\u0430\u043a \u0442\u0430\u043c \u0441\u0442\u043e\u0438\u0442 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0442\u043e\u0432\u0430\u0440.\u00a0<\/p>\n<p>\u0412 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0438\u043c\u0435\u044e\u0449\u0435\u0433\u043e\u0441\u044f \u0444\u0438\u0434\u0431\u0435\u043a\u0430, \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c\u0441\u044f \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443: \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 explicit \u0444\u0438\u0434\u0431\u0435\u043a\u0430 \u044d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D1%8F\" rel=\"noopener noreferrer nofollow\"><strong><u>\u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f<\/u><\/strong><\/a>, \u0430 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 implicit &#8212;\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9A%D0%BE%D1%8D%D1%84%D1%84%D0%B8%D1%86%D0%B8%D0%B5%D0%BD%D1%82_%D0%96%D0%B0%D0%BA%D0%BA%D0%B0%D1%80%D0%B0\" rel=\"noopener noreferrer nofollow\"><strong><u>\u043c\u0435\u0440\u0430 \u0416\u0430\u043a\u043a\u0430\u0440\u0430<\/u><\/strong><\/a>.\u00a0<\/p>\n<p>\u041f\u043e\u0441\u0447\u0438\u0442\u0430\u0432 \u0432\u0441\u0435 \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u0438 \u0442\u043e\u0432\u0430\u0440\u043e\u0432, \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0436\u043d\u043e \u0432\u0437\u044f\u0442\u044c \u043a\u0430\u043a \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u0438\u0435 \u0422\u041e\u041f\u0430 \u0441\u0430\u043c\u044b\u0445 \u043f\u043e\u0445\u043e\u0436\u0438\u0445, \u0447\u0442\u043e, \u0432 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0441\u043c\u044b\u0441\u043b\u0435, \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_k-%D0%B1%D0%BB%D0%B8%D0%B6%D0%B0%D0%B9%D1%88%D0%B8%D1%85_%D1%81%D0%BE%D1%81%D0%B5%D0%B4%D0%B5%D0%B9\" rel=\"noopener noreferrer nofollow\"><u>KNN<\/u><\/a>.<\/p>\n<h3>2. \u041c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u0438<\/h3>\n<p>\u042d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434 \u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%B3%D0%BB%D0%B0%D0%B2%D0%BD%D1%8B%D1%85_%D0%BA%D0%BE%D0%BC%D0%BF%D0%BE%D0%BD%D0%B5%D0%BD%D1%82\" rel=\"noopener noreferrer nofollow\"><u>\u043c\u0435\u0442\u043e\u0434\u0435 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 (PCA)<\/u><\/a>\u00a0\u0438\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A1%D0%B8%D0%BD%D0%B3%D1%83%D0%BB%D1%8F%D1%80%D0%BD%D0%BE%D0%B5_%D1%80%D0%B0%D0%B7%D0%BB%D0%BE%D0%B6%D0%B5%D0%BD%D0%B8%D0%B5\" rel=\"noopener noreferrer nofollow\"><u>\u043c\u0430\u0442\u0440\u0438\u0447\u043d\u043e\u043c \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0438 (SVD).<\/u><\/a><\/p>\n<p>\u041c\u0430\u0442\u0440\u0438\u0446\u0430 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><\/strong>\u00a0\u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0438 \u043e\u0447\u0435\u043d\u044c\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A0%D0%B0%D0%B7%D1%80%D0%B5%D0%B6%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D0%B0\" rel=\"noopener noreferrer nofollow\"><u>\u0440\u0430\u0437\u0440\u044f\u0436\u0435\u043d\u043d\u0430\u044f<\/u><\/a>.\u00a0<\/p>\n<p><strong>SVD<\/strong>\u00a0(<a href=\"http:\/\/www.machinelearning.ru\/wiki\/index.php?title=%D1%E8%ED%E3%F3%EB%FF%F0%ED%EE%E5_%F0%E0%E7%EB%EE%E6%E5%ED%E8%E5\" rel=\"noopener noreferrer nofollow\"><u>\u0441\u0438\u043d\u0433\u0443\u043b\u044f\u0440\u043d\u043e\u0435 \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435<\/u><\/a>) &#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432 \u0432\u0438\u0434\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430, \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0440\u0430\u0441\u0442\u044f\u0436\u0435\u043d\u0438\u044f \u0438 \u0435\u0449\u0435 \u043e\u0434\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430. \u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438, \u0434\u043b\u044f \u043e\u0431\u043b\u0430\u043a\u0430 \u0442\u043e\u0447\u0435\u043a, \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0413\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0441\u043c\u044b\u0441\u043b SVD<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><\/figure>\n<p>\u0424\u043e\u0440\u043c\u0443\u043b\u044c\u043d\u043e:<\/p>\n<p>\u00a0\u0438\u00a0<strong><\/strong>\u00a0&#8212; \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430,\u00a0<strong><\/strong>\u00a0&#8212; \u044d\u0442\u043e \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0441 \u043d\u0435\u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u0438\u043d\u0433\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 \u0447\u0438\u0441\u043b\u0430\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0441\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u044b \u0432 \u043f\u043e\u0440\u044f\u0434\u043a\u0435 \u043d\u0435\u0443\u0431\u044b\u0432\u0430\u043d\u0438\u044f. \u041e\u043d\u0438 \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u043e \u043c\u0435\u0440\u0435\u00a0<em>\u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438<\/em>\u00a0(\u0440\u0430\u0437\u0431\u0440\u043e\u0441\u0430) \u0442\u043e\u0447\u0435\u043a: \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u044d\u0442\u043e \u0447\u0438\u0441\u043b\u043e, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u0431\u0440\u043e\u0441. \u0415\u0441\u043b\u0438 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0443\u043c\u043d\u043e\u0436\u0430\u0442\u044c \u0432\u0435\u043a\u0442\u043e\u0440 \u043d\u0430 SVD-\u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435, \u0442\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043c\u044b \u0432\u0435\u043a\u0442\u043e\u0440 \u043f\u043e\u0432\u0435\u0440\u043d\u0435\u043c, \u043f\u043e\u0442\u043e\u043c \u0440\u0430\u0441\u0442\u044f\u043d\u0435\u043c \u0438 \u0435\u0449\u0435 \u0440\u0430\u0437 \u043f\u043e\u0432\u0435\u0440\u043d\u0435\u043c.<\/p>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430\u00a0PSA\u00a0(\u043c\u0435\u0442\u043e\u0434 \u0433\u043b\u0430\u0432\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442) &#8212; \u043f\u043e\u043d\u0438\u0437\u0438\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0447\u0435\u043a \u0432 \u043c\u043d\u043e\u0433\u043e\u043c\u0435\u0440\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c (\u0432\u044b\u0431\u0440\u0430\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0435 \u043f\u043e\u0434\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e\u00a0<strong><\/strong>\u00a0\u0442\u0430\u043a\u043e\u0435, \u0447\u0442\u043e \u0441\u0443\u043c\u043c\u0430 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u043e\u0442 \u0442\u043e\u0447\u0435\u043a \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u043f\u043e\u0434\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0431\u044b\u043b\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 (\u0442\u043e\u0447\u043a\u0438 \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0430\u043b\u0438\u0441\u044c \u044d\u0442\u043e\u0439 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043f\u043b\u043e\u0441\u043a\u043e\u0441\u0442\u044c\u044e)). \u041e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u044e\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0441\u0435\u0433\u043e\u00a0<em>\u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438<\/em>.<\/p>\n<figure class=\"full-width\">\n<div><figcaption><a href=\"https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz\" rel=\"noopener noreferrer nofollow\">https:\/\/education.yandex.ru\/handbook\/data-analysis\/article\/metod-glavnyh-komponent-i-faktornyj-analiz<\/a><\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u0430\u043a, \u0434\u043b\u044f \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0439 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><\/strong>, \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435\u0435 (\u0447\u0430\u0441\u0442\u043e \u043c\u0435\u043d\u044c\u0448\u0435 100) \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0433\u043b\u0430\u0432\u043d\u044b\u0445 (\u043f\u0435\u0440\u0432\u044b\u0445) \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0438\u0437 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0, \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u0431\u0440\u043e\u0441\u0438\u0432 \u00ab\u0445\u0432\u043e\u0441\u0442\u00bb. \u0422\u0430\u043a\u0430\u044f \u043c\u0430\u043d\u0438\u043f\u0443\u043b\u044f\u0446\u0438\u044f, \u0441 \u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043e\u0431\u044a\u0435\u043c\u044b \u043f\u0430\u043c\u044f\u0442\u0438, \u0441 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u0434\u0430\u0435\u0442\u00a0\u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0435\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0435 \u0434\u043b\u044f  \u043f\u043e\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9D%D0%BE%D1%80%D0%BC%D0%B0_%D0%BC%D0%B0%D1%82%D1%80%D0%B8%D1%86%D1%8B\" rel=\"noopener noreferrer nofollow\"><u>\u043d\u043e\u0440\u043c\u0435 \u0424\u0440\u043e\u0431\u0435\u043d\u0438\u0443\u0441\u0430<\/u><\/a>.\u00a0<\/p>\n<p>\u0421\u0434\u0435\u043b\u0430\u0432 \u0437\u0430\u043c\u0435\u043d\u0443, \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u043a\u0430\u043a \u0438 \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u0447\u0442\u043e \u0441\u0442\u0440\u043e\u043a\u0430\u00a0<strong><\/strong>\u00a0&#8212; \u044d\u0442\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 -\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u0430 \u0441\u0442\u043e\u043b\u0431\u0435\u0446\u00a0<strong><\/strong>\u00a0&#8212; \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 -\u0433\u043e \u0442\u043e\u0432\u0430\u0440\u0430. \u0422\u043e\u0433\u0434\u0430, \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435: .<\/p>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430 &#8212; \u043f\u0440\u0435\u0434\u0443\u0433\u0430\u0434\u0430\u0442\u044c \u043a\u0430\u043a\u043e\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043e\u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043d\u0430 \u043f\u0443\u0441\u0442\u044b\u0445 \u043c\u0435\u0441\u0442\u0430\u0445 \u043c\u0430\u0442\u0440\u0438\u0446\u044b<strong>\u00a0<\/strong>. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043b\u043e\u0441\u0441\u0430 \u0431\u0435\u0440\u0435\u0442\u0441\u044f MSE:<strong>\u00a0<\/strong> <\/p>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c, \u043c\u044b \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c SVD \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435: \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u00a0<strong><\/strong>\u00a0\u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0443\u043b\u0435\u0439, \u0442\u043e \u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u0431\u0443\u0434\u0435\u0442 \u0431\u043b\u0438\u0437\u043a\u043e \u043a \u043d\u0443\u043b\u044e.\u00a0<strong>\u0418\u0434\u0435\u044f Funk SVD \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 <\/strong><strong> \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c.<\/strong>\u00a0\u0422\u0430\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0440\u0435\u0448\u0430\u0435\u0442\u0441\u044f\u00a0<a href=\"https:\/\/education.yandex.ru\/handbook\/ml\/article\/optimizaciya-v-ml#:~:text=%D0%93%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9%20%D1%81%D0%BF%D1%83%D1%81%D0%BA%20(GD)\" rel=\"noopener noreferrer nofollow\">\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c<\/a>\u00a0\u0438 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f.<\/p>\n<p><a href=\"https:\/\/habr.com\/ru\/companies\/yandex\/articles\/241455\/#:~:text=%D0%BA%20%D0%B3%D0%BB%D0%BE%D0%B1%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%BC%D1%83%20%D0%BE%D0%BF%D1%82%D0%B8%D0%BC%D1%83%D0%BC%D1%83.-,Alternating%20Least%20Squares,-%D0%9E%D0%B4%D0%BD%D0%B0%D0%BA%D0%BE%20%D0%BC%D0%B5%D1%82%D0%BE%D0%B4%20%D0%B3%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D0%BE%D0%B3%D0%BE\" rel=\"noopener noreferrer nofollow\">\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u00a0<strong>ALS<\/strong><\/a>\u00a0(\u043c\u0435\u0442\u043e\u0434 \u0447\u0435\u0440\u0435\u0434\u0443\u044e\u0449\u0438\u0445\u0441\u044f \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0438\u0445 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u043e\u0432) \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u043f\u043e\u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e \u0438\u0441\u043a\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0<strong><\/strong>\u00a0\u0438\u00a0<strong><\/strong>, \u043f\u0443\u0442\u0435\u043c \u0444\u0438\u043a\u0441\u0430\u0446\u0438\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445.\u00a0<strong>IALS<\/strong>\u00a0\u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043c\u0435\u0441\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0430\u0436\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c (\u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0431\u044b\u043b\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439).\u00a0<\/p>\n<p>\u041c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438\u00a0\u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u0430:<\/p>\n<ul>\n<li>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430\u00a0<strong>\u00a0<\/strong>\u0438\u00a0<strong><\/strong><\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0436\u043d\u043e \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043f\u0440\u0435\u0434\u0443\u0431\u0435\u0436\u0434\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439: , \u0433\u0434\u0435\u00a0<strong><\/strong>\u00a0&#8212; \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0431\u0430\u043b\u043b\u043e\u0432, \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445 \u043f\u043e \u0432\u0441\u0435\u043c \u0442\u043e\u0432\u0430\u0440\u0430\u043c \u0432\u0441\u0435\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f\u043c\u0438;\u00a0<strong> &#8212;\u00a0<\/strong>\u00a0\u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435, \u0432\u043d\u043e\u0441\u0438\u043c\u043e\u0435 \u0442\u043e\u0432\u0430\u0440\u043e\u043c;<strong>\u00a0<\/strong>\u00a0&#8212; \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u044c \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/en.wikipedia.org\/wiki\/Matrix_factorization_(recommender_systems)#:~:text=problem.%5B8%5D-,SVD++,-%5Bedit%5D\" rel=\"noopener noreferrer nofollow\"><u>SVD++<\/u><\/a>\u00a0<em>\u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442<\/em>\u00a0<em>\u0434\u0440\u0443\u0433\u043e\u0439<\/em>\u00a0<em>\u043d\u0430\u0431\u043e\u0440 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 \u00a0<\/em>\u043a \u0432\u0435\u043a\u0442\u043e\u0440\u0443\u00a0<strong><\/strong>, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0435\u0433\u043e \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u0438 \u0431\u044b\u043b\u00a0\u00a0\u0442\u043e\u0432\u0430\u0440.<\/p>\n<\/li>\n<li>\n<p><strong>timeSVD++<\/strong>\u00a0\u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u0440\u0430\u0441\u0442\u044f\u043d\u0443\u0442\u044b \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u0438 \u0432\u043a\u0443\u0441\u044b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0437\u0430 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c. \u0422\u043e\u0433\u0434\u0430 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u0442\u044c \u0441\u0442\u043e\u0438\u0442 \u0447\u0442\u043e-\u0442\u043e \u0431\u043b\u0438\u0436\u0435 \u043a \u0442\u0435\u043a\u0443\u0449\u0435\u043c\u0443 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0430 \u0438\u043d\u0430\u0447\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 &#171;\u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0432\u043a\u0443\u0441\u0443&#187;.\u00a0<\/p>\n<\/li>\n<li>\n<p>\u0438 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<\/li>\n<\/ul>\n<h3>3. \u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b<\/h3>\n<ol>\n<li>\n<p><a href=\"http:\/\/glaros.dtc.umn.edu\/gkhome\/node\/774\" rel=\"noopener noreferrer nofollow\"><u>SLIM: Sparse Linear Methods for Top-N Recommender Systems<\/u><\/a> <\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u0443\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 (implicit feedback). \u0417\u0430\u0434\u0430\u0447\u0430 &#8212; \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a\u0438\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0432 \u0431\u0443\u0434\u0443\u0449\u0435\u043c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b. \u0420\u0435\u0448\u0430\u0435\u0442\u0441\u044f &#8212; \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u043e\u0439 \u0441\u0443\u043c\u043c\u044b \u0441\u043e\u0431\u044b\u0442\u0438\u0439 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e:<strong>\u00a0<\/strong><\/p>\n<p>\u041f\u0440\u0438\u0447\u0435\u043c \u043d\u0430 \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430\u043b\u043e\u0436\u0435\u043d\u044b \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f:   (\u0442\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u0442\u043e\u0432\u0430\u0440\u044b) \u0438  (\u0447\u0442\u043e\u0431\u044b \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u0440\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f). \u041f\u043e-\u0441\u0443\u0442\u0438, \u0438\u0449\u0435\u0442\u0441\u044f \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 \u0441\u0443\u043c\u043c\u0443 \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438.<\/p>\n<p>\u041e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f MSE-loss \u0441\u00a0<a href=\"https:\/\/en.wikipedia.org\/wiki\/Elastic_net_regularization\" rel=\"noopener noreferrer nofollow\">Elastic Net \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0435\u0439<\/a>\u00a0( \u0438 ):\u00a0<\/p>\n<p>\u043f\u0440\u0438\u0447\u0435\u043c<strong>\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0440\u043e\u043b\u044c \u043e\u0442\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e L1 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438<\/strong>, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043c\u044b \u0441\u0442\u0430\u0440\u0430\u0435\u043c\u0441\u044f \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043d\u0443\u043b\u0438\u0442\u044c (\u043e\u0442\u0441\u044e\u0434\u0430 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u0430).<\/p>\n<p>\u041e\u0433\u0440\u043e\u043c\u043d\u044b\u0439 \u043f\u043b\u044e\u0441 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u043e \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0442\u0441\u044f (\u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0430\u0439\u0442\u0435\u043c\u0430). \u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0431\u0443\u0447\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c, \u043e\u0434\u043d\u0430\u043a\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c\u00a0<a href=\"https:\/\/education.yandex.ru\/handbook\/ml\/article\/optimizaciya-v-ml#:~:text=%D0%A1%D1%82%D0%BE%D1%85%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9%20%D0%B3%D1%80%D0%B0%D0%B4%D0%B8%D0%B5%D0%BD%D1%82%D0%BD%D1%8B%D0%B9%20%D1%81%D0%BF%D1%83%D1%81%D0%BA%20(SGD)\" rel=\"noopener noreferrer nofollow\"><strong><u>SGD<\/u><\/strong><\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435.\u00a0<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u0432\u0430\u0440\u0430\u043c\u0438, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u0431\u0440\u043e\u0441\u0438\u0442\u044c \u0442\u0435, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043e\u043d\u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u0438 \u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u0442\u043e\u0432\u0430\u0440\u043e\u0432. \u0422\u0430\u043a\u0430\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u043e score \u043d\u0435 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u0414\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0434\u043b\u044f -\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 -\u0433\u043e \u0442\u043e\u0432\u0430\u0440\u0430 \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0430\u044e\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 -\u044b\u0439 \u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u0432\u0435\u0441\u043e\u0432 .\u00a0<\/p>\n<p>\u0422\u0430\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0434\u043b\u044f top-N \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439. \u0414\u043b\u044f \u0434\u0432\u0443\u0445\u0441\u0442\u0430\u0434\u0438\u0439\u043d\u044b\u0445 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c SLIM \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u044d\u0442\u0430\u043f\u0435, \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c, \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u043c \u044d\u0442\u0430\u043f\u0435 (\u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432) \u0443\u0434\u043e\u0431\u043d\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u0443\u044e \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u044e.<\/p>\n<ol start=\"2\">\n<li>\n<p><a href=\"https:\/\/vk.com\/away.php?to=https%3A%2F%2Fwww.csie.ntu.edu.tw%2F~b97053%2Fpaper%2FRendle2010FM.pdf&amp;utf=1\" rel=\"noopener noreferrer nofollow\"><u>Factorization Machines (FM)<\/u><\/a><\/p>\n<\/li>\n<\/ol>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0441\u043c\u044b\u0441\u043b\u00a0<strong>\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d (FM)<\/strong>\u00a0\u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432\u0435\u0441\u0430 \u043f\u0440\u0438 \u043f\u0430\u0440\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u043e\u0432\u0430\u043d\u044b. \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043a\u0430\u043a \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438.\u00a0<\/p>\n<p>1) \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439\u00a0<strong><\/strong>\u00a0\u0432 \u043c\u0430\u0442\u0440\u0438\u0446\u0443\u00a0<strong><\/strong>, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0443\u044e \u0438\u0437 ohe-hot \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432, \u0433\u0434\u0435  \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0442\u043e\u0432\u0430\u0440\u0430 (<strong>, <\/strong>).<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>2) \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u043e\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u00a0, \u0433\u0434\u0435\u00a0<strong><\/strong>\u00a0&#8212; \u043a\u0430\u043a\u0430\u044f-\u0442\u043e one-hot user-a \u0438\u043b\u0438 one-hot item-\u0430 \u0444\u0438\u0447\u0430.<\/p>\n<p>3) \u0414\u043e\u0431\u0430\u0432\u0438\u043c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0430. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u043c\u0438:\u00a0 <\/p>\n<p>\u0423\u0447\u0435\u0442 \u0442\u0430\u043a\u0438\u0445 \u043f\u043e\u043f\u0430\u0440\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438. \u041c\u043e\u0436\u043d\u043e \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u0438 \u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0438\u0435 \u043f\u043e\u0440\u044f\u0434\u043a\u0438, \u043e\u0434\u043d\u0430\u043a\u043e, \u0432\u044b\u0448\u0435 \u0434\u0432\u043e\u0439\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u043a\u0442\u043e \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u0442.<\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e, \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u00a0<strong><\/strong>\u00a0\u0431\u0443\u0434\u0435\u0442 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430:\u00a0<strong><\/strong><\/p>\n<p>4) \u0424\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0443\u0435\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u0432\u0435\u0441\u043e\u0432 .\u00a0\u0412\u043c\u0435\u0441\u0442\u043e \u0432\u0435\u0441\u0430\u00a0<strong>\u00a0<\/strong>\u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0438\u0442\u044c \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432\u00a0<strong> <\/strong>\u0438<strong> <\/strong>\u00a0(embedding-\u0438 -\u043e\u0439 \u0444\u0438\u0447\u0438 \u0438 -\u043e\u0439 \u0444\u0438\u0447\u0438):<\/p>\n<p>\u0433\u0434\u0435\u00a0<strong><\/strong>\u00a0&#8212; bias (\u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435) \u0432\u0441\u0435\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b,\u00a0<strong>\u00a0<\/strong>&#8212; bias \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0438 bias \u0442\u043e\u0432\u0430\u0440\u043e\u0432,\u00a0<strong>\u00a0&#8212;\u00a0<\/strong>\u043f\u043e\u043f\u0430\u0440\u043d\u044b\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u043e\u0436\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u043c\u0435\u043d\u044c\u0448\u0435\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u0422\u0430\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f<strong>\u00a0Factorization Machines<\/strong>.\u00a0<\/p>\n<p>\u041e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u043f\u0443\u0441\u043a\u043e\u043c. \u041f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u043e, \u0447\u0442\u043e \u0434\u0430\u0435\u0442 \u043d\u0435\u043f\u043b\u043e\u0445\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0432 \u043c\u0430\u0442\u0440\u0438\u0446\u0443\u00a0<strong><\/strong>\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435\u00a0one-hot item-\u044b\u00a0\u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u043e\u0431\u0440\u0430\u0437\u0443\u044f \u0445\u0432\u043e\u0441\u0442\u0438\u043a \u0438\u0437 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u043b \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u043c, \u0442\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0437\u0443\u0447\u0430\u0442\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442\u00a0\u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u043c\u0430\u0440\u043a\u043e\u0432\u0441\u043a\u0438\u0445 \u0446\u0435\u043f\u0435\u0439.<\/p>\n<p>\u0418\u0434\u0435\u044f\u00a0<a href=\"https:\/\/www.csie.ntu.edu.tw\/~cjlin\/papers\/ffm.pdf\" rel=\"noopener noreferrer nofollow\">FFM &#8212; Field-aware Factorization Machines<\/a>: \u0440\u0430\u0437\u0431\u0438\u0442\u044c \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0438\u0437 \u043c\u0430\u0442\u0440\u0438\u0446\u044b\u00a0<strong><\/strong>\u00a0\u043d\u0430 \u0433\u0440\u0443\u043f\u043f\u044b\u00a0<strong>:<\/strong><\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c FFM \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043a\u0430\u043a:<\/p>\n<p>\u0412 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u043c, \u043a\u0430\u043a \u0438 \u0432 FM.\u00a0<\/p>\n<ol start=\"3\">\n<li>\n<p><strong><u>Two-tower network<\/u><\/strong><\/p>\n<\/li>\n<\/ol>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u044d\u0442\u043e \u0432\u0441\u0435 \u043f\u043e\u0448\u043b\u043e \u0438\u0437 \u043f\u043e\u0441\u043a\u0430, \u0433\u0434\u0435 \u043e\u0431\u0443\u0447\u0430\u043b\u0438\u0441\u044c\u00a0<strong>DSSM (Deep Structured Semantic Models) \u043c\u043e\u0434\u0435\u043b\u0438\u00a0<\/strong>(\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0438\u0441\u043a\u0430 \u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f) \u0434\u043b\u044f \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432. \u0425\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b, \u0447\u0442\u043e\u0431\u044b \u0432\u0435\u043a\u0442\u043e\u0440 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0431\u044b\u043b \u043f\u043e\u0445\u043e\u0436 \u043d\u0430 \u0432\u0435\u043a\u0442\u043e\u0440 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u0435\u043d \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e.\u00a0<\/p>\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0438 \u0437\u0430\u043f\u0440\u043e\u0441  \u0432 \u0432\u0438\u0434\u0435\u00a0<a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%88%D0%BE%D0%BA_%D1%81%D0%BB%D0%BE%D0%B2\" rel=\"noopener noreferrer nofollow\"><u>Bag of words<\/u><\/a> (BOW)\u00a0\u043a\u0430\u043a (~100k). \u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439, \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043c \u0438\u0445 \u0432 embedding-\u0438 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 (~300). \u041c\u0435\u0436\u0434\u0443 \u043d\u0438\u043c\u0438 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438: \u043a\u043e\u0441\u0438\u043d\u0443\u0441, \u0441\u043a\u0430\u043b\u044f\u0440\u043d\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0438\u043b\u0438 \u0434\u0440. \u041f\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438 \u0440\u0430\u043d\u0436\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b.\u00a0<\/p>\n<figure class=\"full-width\"><\/figure>\n<p>\u041f\u043e\u0438\u0441\u043a \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0445 \u0442\u043e\u0432\u0430\u0440\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043a\u0430\u043a \u0437\u0430\u0434\u0430\u0447\u0443 \u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u0433\u0434\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 &#8212; \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c, \u0435\u0433\u043e \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0438 \u0444\u0438\u0447\u0438.<\/p>\n<figure class=\"full-width\"><\/figure>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c:\u00a0<\/strong>\u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 (\u0434\u043b\u044f \u0443\u0447\u0435\u0442\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u043c), \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u0430\u044f \u0441\u0435\u0442\u044c, \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u044b, \u0433\u0440\u0430\u0444\u043e\u0432\u0430\u044f \u0441\u0435\u0442\u043a\u0430 \u0438 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c<\/strong>: \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430: \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043b\u0430\u0439\u043a\u043e\u0432, \u043a\u043b\u0438\u043a\u043e\u0432, \u043f\u043e\u0434\u043f\u0438\u0441\u043e\u043a; \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u0430\u0432\u0442\u043e\u0440\u0430: \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0434\u043f\u0438\u0441\u0447\u0438\u043a\u043e\u0432, \u0436\u0430\u043d\u0440; \u043d\u0435\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435: \u0442\u0435\u043a\u0441\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430 (\u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c BOW \u0444\u043e\u0440\u043c\u0430\u0442, \u0430 \u043c\u043e\u0436\u043d\u043e \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438), \u0432\u0438\u0434\u0435\u043e \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 (\u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0432 \u0438\u0445 \u0432 \u0432\u0438\u0434\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430).<\/p>\n<p><strong>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c:\u00a0<\/strong>\u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f: \u0432\u043e\u0437\u0440\u0430\u0441\u0442, \u043f\u043e\u043b, \u044f\u0437\u044b\u043a; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u0430: \u0441 \u043a\u0430\u043a\u043e\u0433\u043e \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u0431\u044b\u043b \u0441\u0434\u0435\u043b\u0430\u043d, \u0432 \u043a\u0430\u043a\u043e\u0435 \u0432\u0440\u0435\u043c\u044f; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u0434\u0440\u0443\u0437\u0435\u0439\/\u043f\u043e\u0434\u043f\u0438\u0441\u0447\u0438\u043a\u043e\u0432 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0438\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f;\u00a0<\/p>\n<p><strong>Two-tower<\/strong>\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 (\u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 DSSM) \u0438\u043c\u0435\u0435\u0442 \u0440\u044f\u0434 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432:<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-367934","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/367934","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=367934"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/367934\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=367934"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=367934"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=367934"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}