{"id":436824,"date":"2024-11-02T21:02:54","date_gmt":"2024-11-02T21:02:54","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=436824"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=436824","title":{"rendered":"<span>\u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u0432 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0418\u0418<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p><strong><em>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440!<\/em><\/strong><\/p>\n<p>\u0412 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f\u0445 \u0438 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <a href=\"https:\/\/habr.com\/ru\/articles\/428213\/\" rel=\"noopener noreferrer nofollow\">\u0428\u0435\u043f\u043b\u0438<\/a> (Shapley values) \u2014 \u043e\u0434\u0438\u043d \u0438\u0437 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438. \u041f\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044e, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u0446\u0435\u043d\u043a\u0435 \u0432\u043a\u043b\u0430\u0434\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432\u043e \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 &#171;\u043a\u043e\u0430\u043b\u0438\u0446\u0438\u0438&#187; (\u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432). \u0422\u0430\u043a, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"  N\" alt=\"  N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8d6\/af6\/540\/8d6af6540444561894c5ecc50edb65b3.svg\" width=\"17\" height=\"17\"\/>\u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u043d\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043f\u0435\u0440\u0435\u0431\u0440\u0430\u0442\u044c <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"2^N\" alt=\"2^N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6a5\/95b\/f24\/6a595bf2496a3cef18be6bff4ddbc50a.svg\" width=\"24\" height=\"21\"\/> \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043a\u043b\u0430\u0434\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u044d\u0442\u043e\u0433\u043e \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u2014 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f.<\/p>\n<p><strong>\u041e\u0442\u0441\u044e\u0434\u0430 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u044e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441\u044b:<\/strong><\/p>\n<ul>\n<li>\n<p>\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043b\u0438 \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0430\u043c \u0432\u0435\u0441\u044c\u043c\u0430 \u0433\u0440\u0443\u0431\u043e\u0433\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f (\u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e)?<\/p>\n<\/li>\n<li>\n<p>\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b \u0438 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u044b \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445?<\/p>\n<\/li>\n<\/ul>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f \u0441 \u043d\u0438\u043c\u0438!<\/p>\n<blockquote>\n<p> <em>\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0421\u0430\u0431\u0440\u0438\u043d\u0430, \u0438 \u044f \u043e\u0442 \u0443\u0448\u0435\u0439 \u0434\u043e \u043f\u044f\u0442 \u043b\u044e\u0431\u043b\u044e \u043e\u0431\u043b\u0430\u0441\u0442\u044c explainable AI! <\/p>\n<p>\u0417\u0430 \u0432\u0440\u0435\u043c\u044f \u043c\u043d\u0435 \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043f\u0440\u0438\u043e\u0431\u0449\u0438\u0442\u044c\u0441\u044f \u043a \u0447\u0442\u0435\u043d\u0438\u044e \u0441\u0435\u043c\u0438\u043d\u0430\u0440\u043e\u0432 \u043f\u043e \u043e\u0431\u043b\u0430\u0441\u0442\u0438, \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0443\u0440\u0441, \u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u044f \u043f\u0438\u0448\u0443 \u0412\u041a\u0420, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0442\u043e\u043c \u043f\u0440\u043e\u0440\u0430\u0441\u0442\u0435\u0442 (\u043d\u0430\u0434\u0435\u044e\u0441\u044c) \u0432 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0441\u043a\u0443\u044e \u0438 \u0434\u0430\u043b\u044c\u0448\u0435 <s>(\u0435\u0441\u043b\u0438 \u044f \u043d\u0435 \u0437\u0430\u0445\u043e\u0447\u0443 \u0431\u0440\u043e\u0441\u0438\u0442\u044c \u044d\u0442\u043e \u0432\u0441\u0451 \u0438 \u0443\u0439\u0442\u0438 \u0432 \u043b\u0435\u0441)<\/s>. <\/p>\n<p>\u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u044f \u0432\u0435\u0434\u0443 <\/em><a href=\"https:\/\/t.me\/jdata_blog\" rel=\"noopener noreferrer nofollow\"><em>DataBlog<\/em><\/a><em>, \u0438 \u043a\u0430\u043a \u043c\u043e\u0433\u0443 \u0441\u0442\u0430\u0440\u0430\u044e\u0441\u044c \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0431\u043b\u0430\u0441\u0442\u044c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0441\u0447\u0438\u0442\u0430\u044e \u0435\u0451 \u0432\u0430\u0436\u043d\u043e\u0439 \u0438 \u043a\u0440\u0430\u0441\u0438\u0432\u043e\u0439. \u0411\u0443\u0434\u0443 \u0440\u0430\u0434\u0430 \u0435\u0434\u0438\u043d\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0438\u043a\u0430\u043c \u0438 \u043e\u0442\u043a\u0440\u044b\u0442\u0430 \u043a \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044e!<\/em><\/p>\n<\/blockquote>\n<h2>\u0413\u0440\u0443\u0431\u043e\u0441\u0442\u044c \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u0445<\/h2>\n<h2>\u0417\u0430\u0447\u0435\u043c?<\/h2>\n<p>\u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f, \u043a\u0430\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0442\u044c \u0438 \u0437\u0430\u0447\u0435\u043c \u043d\u0430\u043c \u0433\u0440\u0443\u0431\u0438\u0442\u044c. <strong>\u041e\u0431\u0440\u0430\u0442\u0438\u043c\u0441\u044f \u043a \u043f\u043e\u043b\u043d\u043e\u0439 \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/strong> \u0414\u043b\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/636\/2f9\/740\/6362f9740cfc1f539acd874efd7d9474.svg\" width=\"7\" height=\"16\"\/> \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/258\/e43\/484\/258e434848ad6a8ae78fa382798f4efd.svg\" width=\"11\" height=\"21\"\/>, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0428\u0435\u043f\u043b\u0438 \u0435\u0441\u0442\u044c:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"[1]  \\phi_i(f) = \\sum_{S \\subseteq N \\setminus \\{i\\}} \\frac{|S|!(|N| - |S| - 1)!}{|N|!} \\left( f(S \\cup \\{i\\}) - f(S) \\right)\" alt=\"[1]  \\phi_i(f) = \\sum_{S \\subseteq N \\setminus \\{i\\}} \\frac{|S|!(|N| - |S| - 1)!}{|N|!} \\left( f(S \\cup \\{i\\}) - f(S) \\right)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/54f\/09a\/d9b\/54f09ad9b0b5da4ef6d0c083340aaaeb.svg\" width=\"483\" height=\"59\"\/><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p>&#8212;  <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fc3\/9b1\/322\/fc39b1322b6b0416ad55cef6ed45f949.svg\" width=\"17\" height=\"17\"\/>\u2014 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0432\u0441\u0435\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432,<\/p>\n<p>&#8212; S \u2014 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0438\u0441\u043a\u043b\u044e\u0447\u0430\u044e\u0449\u0435\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7ec\/200\/253\/7ec200253f493713e6ca830fdf1db4b7.svg\" width=\"7\" height=\"16\"\/>,<\/p>\n<p>&#8212; <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f(S \\cup \\{i\\}) - f(S)\" alt=\"f(S \\cup \\{i\\}) - f(S)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/810\/55e\/f57\/81055ef57598f3d0aca99edc7ba90b80.svg\" width=\"149\" height=\"22\"\/> \u2014  \u0432\u043a\u043b\u0430\u0434 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6d9\/7eb\/537\/6d97eb53722c5ad097d5abaf5cb732c4.svg\" width=\"7\" height=\"16\"\/> \u043f\u0440\u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0438 \u0435\u0433\u043e \u043a \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0443 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"S\" alt=\"S\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/911\/7e1\/112\/9117e1112a4328976a2bbfa823efe31d.svg\" width=\"13\" height=\"17\"\/><\/p>\n<p>&#8212;<img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\" \\phi_i(f)\" alt=\" \\phi_i(f)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2c\/e72\/5c9\/d2ce725c9c1d99ee02f5d222f2a0476d.svg\" width=\"44\" height=\"22\"\/> \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043e\u0442\u0440\u0430\u0436\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u0432 \u0438\u0433\u0440\u0435. \u042d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430, \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u043b\u043e\u0441\u0441. \u0412 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0435 <a href=\"https:\/\/shap.readthedocs.io\/en\/latest\/\" rel=\"noopener noreferrer nofollow\">shap<\/a><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\" \\phi_i(f)\" alt=\" \\phi_i(f)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/05d\/c7d\/a99\/05dc7da996f02a6e2b18832e331920bc.svg\" width=\"44\" height=\"22\"\/> \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u0443\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435.<\/p>\n<p><strong>\u0418\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043c\u044b\u0441\u043b:<\/strong><\/p>\n<p>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442 &#171;\u0441\u0440\u0435\u0434\u043d\u0438\u0439&#187; \u0432\u043a\u043b\u0430\u0434 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0e0\/f5e\/c9f\/0e0f5ec9f393506bee2d1458b512b390.svg\" width=\"7\" height=\"16\"\/> \u043f\u043e \u0432\u0441\u0435\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f\u043c \u0434\u0440\u0443\u0433\u0438\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0447\u0442\u043e \u0434\u0430\u0451\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u043a\u043b\u0430\u0434\u0430. \u0418 \u0432\u0441\u0451 \u0431\u044b\u043b\u043e \u0431\u044b \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e, \u0435\u0441\u043b\u0438 \u0431\u044b \u043d\u0435 \u0441\u0442\u0440\u0430\u0448\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0430\u043b\u044b (\u0437\u043d\u0430\u0447\u043a\u0438 &#171;!&#187;) \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u041f\u0440\u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/228\/c41\/75a\/228c4175a82358d363c96f8f07fed23f.svg\" width=\"17\" height=\"17\"\/> \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u0445 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"2^N\" alt=\"2^N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/62a\/333\/88c\/62a33388c5052c7b2d8da9ef1a6bf1c0.svg\" width=\"24\" height=\"21\"\/>\u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432, \u0447\u0442\u043e, \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"N=15\" alt=\"N=15\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d43\/61e\/580\/d4361e580a04032d62b39ff94d55c10d.svg\" width=\"63\" height=\"17\"\/> (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e) \u0443\u0436\u0435 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e. \u0410 \u0432\u0435\u0434\u044c \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0435\u0449\u0451 \u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043c\u043e\u0434\u0435\u043b\u0438&#8230; \u0412\u043e\u0442 \u0437\u0434\u0435\u0441\u044c \u043d\u0430\u043c \u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f.<\/p>\n<h2>\u041a\u0430\u043a?<\/h2>\n<p><em>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f<\/em> \u2014 \u043c\u0435\u0442\u043e\u0434, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0438\u0439 \u0432 \u0437\u0430\u043c\u0435\u043d\u0435 \u043e\u0434\u043d\u0438\u0445 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0434\u0440\u0443\u0433\u0438\u043c\u0438, \u0432 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0441\u043c\u044b\u0441\u043b\u0435 \u0431\u043b\u0438\u0437\u043a\u0438\u043c\u0438 \u043a \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c, \u043d\u043e \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0441\u0442\u044b\u043c\u0438 [Wiki]. \u0412 \u043d\u0430\u0448\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u2014 \u044d\u0442\u043e \u0441\u043f\u043e\u0441\u043e\u0431 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0451\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0447\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/p>\n<p>\u0412 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u044b \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432 \u0434\u043b\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438. \u041e\u043d\u0438 \u0434\u0435\u043b\u044f\u0442\u0441\u044f \u043d\u0430 \u0434\u0432\u0435 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0438: <strong>\u043c\u043e\u0434\u0435\u043b\u044c-\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 (model-agnostic)<\/strong> (\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b \u0434\u043b\u044f \u043b\u044e\u0431\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439)  \u0438 <strong>\u043c\u043e\u0434\u0435\u043b\u0435-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 (model-specific)<\/strong> (\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u0436\u0435 \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u0443\u044e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0434\u0435\u043b\u0438) \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438.<\/p>\n<p><strong>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c-\u043d\u0435\u0437\u0430\u0438\u0441\u0438\u043c\u044b\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u044b:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>Shapley regression values:<\/strong> \u2014 \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 [1], \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/404\/619\/8d8\/4046198d81533a86748c22bc2bad1cc8.svg\" width=\"11\" height=\"21\"\/> \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0414\u0430\u043d\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u0445\u043e\u0440\u043e\u0448 \u043f\u0440\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043a\u043e\u043b\u043b\u0438\u043d\u0435\u0440\u0430\u0440\u043d\u043e\u0441\u0442\u0438, \u0432\u0435\u0434\u044c \u0435\u0441\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u043a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u0434\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b\u0445 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430, \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432 \u043a\u043e\u0430\u043b\u0438\u0446\u0438\u044e \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 (\u0435\u0441\u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u0442).<\/p>\n<\/li>\n<li>\n<p><strong>Shapley sampling values<\/strong>: \u2014 \u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432. \u0422\u043e \u0435\u0441\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043d\u043e \u0432\u0441\u0435\u0445 $2^N$ \u0431\u0435\u0440\u0435\u043c \u043b\u0438\u0448\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u041c\u0438\u043d\u0443\u0441 \u2014 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u0442\u044c \u043e\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a.<\/p>\n<\/li>\n<li>\n<p><strong>Quantitative input influence:<\/strong> \u2014 \u043f\u0440\u043e \u043d\u0435\u0433\u043e \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043d\u0435 \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u0439\u0442\u0438, \u0435\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u0437\u043d\u0430\u0435\u0442 \u2014 welcome!<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>Linear SHAP<\/strong>: \u2014 \u043c\u0435\u0442\u043e\u0434\u044b \u0434\u043b\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0415\u0433\u043e \u043a\u0440\u0430\u0441\u043e\u0442\u0430 \u2014 \u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0442\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u0447\u0442\u043e \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u2014 \u043a\u043e\u044d\u0444\u0444\u0438\u0435\u043d\u0442\u043e\u0432 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u043a\u043b\u0430\u0434 \u0437\u0434\u0435\u0441\u044c \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a <em>\u0432\u0435\u0441 <\/em>\u0434\u043e\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432 \u0442\u043e\u0447\u043a\u0435 \u043c\u0438\u043d\u0443\u0441 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 (\u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0435) \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430. \u0424\u043e\u0440\u043c\u0443\u043b\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<\/li>\n<\/ul>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\phi_i(f, x) = w_i(x_i - E[x_i]),\" alt=\"\\phi_i(f, x) = w_i(x_i - E[x_i]),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b2c\/16f\/c2c\/b2c16fc2cdf419305bea4a1ef68058ed.svg\" width=\"217\" height=\"22\"\/><\/p>\n<p>\u0433\u0434\u0435<br \/><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"w_i \" alt=\"w_i \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4da\/622\/691\/4da622691054292e739c40ede98e5b58.svg\" width=\"21\" height=\"15\"\/>\u2014 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i,\" alt=\"i,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6f2\/aa0\/741\/6f2aa074149224ff34ec8e81b8911421.svg\" width=\"12\" height=\"19\"\/><br \/><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"x_i \" alt=\"x_i \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9c2\/1b3\/89a\/9c21b389a5117b1f7ec893a972f9262d.svg\" width=\"18\" height=\"15\"\/>\u2014 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0434\u043b\u044f \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u043c\u043e\u0439 \u0442\u043e\u0447\u043a\u0438,<br \/><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"E[x_i] = \\frac{\\sum_i^n x_i}{n}\" alt=\"E[x_i] = \\frac{\\sum_i^n x_i}{n}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/df4\/800\/fa5\/df4800fa5de22633f8bd8956164b2249.svg\" width=\"129\" height=\"47\"\/> \u2014 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 (\u0432\u044b\u0431\u043e\u0440\u043e\u0447\u043d\u043e\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e \u0434\u0430\u043d\u043d\u044b\u043c)<\/p>\n<p>\u0418\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0443, \u0435\u0449\u0451 \u0440\u0430\u0437 \u043f\u043e\u0434\u044b\u0442\u043e\u0436\u0438\u043c, \u043c\u044b \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043e\u0442 \u0435\u0433\u043e \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u043f\u0440\u043e\u0433\u043d\u043e\u0437. <\/p>\n<ul>\n<li>\n<p><strong>Deep SHAP<\/strong>: \u2014 \u043e\u0442 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f, \u043c\u0435\u0442\u043e\u0434, \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0439 \u0434\u043b\u044f DNN. \u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u043e\u043d \u0437\u0430\u0434\u0435\u0439\u0441\u0442\u0432\u0443\u0435\u0442 <a href=\"https:\/\/arxiv.org\/pdf\/1704.02685\" rel=\"noopener noreferrer nofollow\">DeepLIFT<\/a>  \u2014 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u043c\u0435\u0442\u043e\u0434 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0439 \u0441\u043f\u0438\u0441\u043e\u043a \u043d\u0435 \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044e\u0449 \u2014 \u0441 \u0440\u043e\u0441\u0442\u043e\u043c \u0432\u043e\u0441\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u0438 SHAP, \u043f\u043e\u044f\u0432\u043b\u044f\u043b\u0438\u0441\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u044b \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c, \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0444\u0430\u043a\u0442: <strong>\u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0445\u043e\u0434\u044f\u0442 \u043e\u0442 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e\u0439 \u0442\u0435\u043e\u0440\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/strong><\/p>\n<h2>\u041a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u043b\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0439?<\/h2>\n<p>\u0418 \u0442\u0430\u043a, \u043c\u044b \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u0438 \u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438  \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043d\u0435 \u0432 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u0435, \u0430 \u0432 \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0438. \u041f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043b\u0438 \u044d\u0442\u043e \u043d\u0430\u043c \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0442\u043e\u0447\u043d\u044b\u0435 \u043e\u0446\u0435\u043d\u043a\u0438? <\/p>\n<blockquote>\n<p> <em>\u0414\u0430!<\/em> <\/p>\n<\/blockquote>\n<div class=\"floating-image\">\n<figure class=\"float bordered full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w780q1\/getpro\/habr\/upload_files\/08d\/137\/015\/08d1370153fca9a7e7e53d995155967c.jpg\" width=\"700\" height=\"941\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/08d\/137\/015\/08d1370153fca9a7e7e53d995155967c.jpg\" data-blurred=\"true\"\/><\/figure>\n<\/div>\n<p>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0432\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u044b \u0442\u0440\u0435\u0431\u0443\u0435\u043c \u0438\u0445 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 (\u0438\u043b\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0435) \u043a \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0428\u0435\u043f\u043b\u0438. \u0421\u0440\u0435\u0434\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u0439 \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c:<\/p>\n<ol>\n<li>\n<p><strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c<\/strong> \u2014 \u0441\u0443\u043c\u043c\u0430 \u0432\u0441\u0435\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\phi_i\" alt=\"\\phi_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/83c\/83c4a0f64b5c308332e71b11e874d4cc.svg\" width=\"auto\" height=\"auto\"\/> \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f(x)\" alt=\"f(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ae8\/d80\/38f\/ae8d8038f65b6f4e9d43bdb81215526f.svg\" width=\"37\" height=\"22\"\/> \u0434\u043e\u043b\u0436\u043d\u0430 \u0442\u043e\u0447\u043d\u043e \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0430. \u0422\u043e \u0435\u0441\u0442\u044c:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f(x) = \\sum_{i=1}^{M} \\phi_i + \\phi_0,\" alt=\"f(x) = \\sum_{i=1}^{M} \\phi_i + \\phi_0,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93c\/c1e\/484\/93cc1e48416fb6c31419132666934894.svg\" width=\"163\" height=\"60\"\/>\u0433\u0434\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\phi_0 \" alt=\"\\phi_0 \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8b1\/fbe\/c18\/8b1fbec18b642f3101be04babc8e6b5f.svg\" width=\"21\" height=\"21\"\/>\u2014 \u0431\u0430\u0437\u043e\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u043d\u0435 <\/p>\n<p>\u0432\u043b\u0438\u044f\u044e\u0442 \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0441\u0438\u043e\u043c\u0430 \u0431\u043e\u043b\u0432\u0430\u043d\u0430 (\u0430\u043d\u0430\u043b\u043e\u0433)<\/strong> \u2014 \u0435\u0441\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442, \u0442\u043e \u0435\u0433\u043e \u0432\u043a\u043b\u0430\u0434 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043d\u0443\u043b\u0435\u0432\u044b\u043c:<br \/><img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"I[i] = 0 \\Rightarrow \\phi_i = 0,\" alt=\"I[i] = 0 \\Rightarrow \\phi_i = 0,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/88f\/3f4\/fd7\/88f3f4fd7299fa5b55c627b3309a3a39.svg\" width=\"154\" height=\"22\"\/>\u0433\u0434\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"I[i]\" alt=\"I[i]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b89\/75e\/d44\/b8975ed44c70099b7040a1f79c19b1b9.svg\" width=\"28\" height=\"22\"\/> \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440 \u043d\u0430\u043b\u0438\u0447\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/072\/a91\/918\/072a91918a6ac444e488baa225acd62e.svg\" width=\"7\" height=\"16\"\/>.<\/p>\n<\/li>\n<li>\n<p><strong> \u0421\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c(Consistency)<\/strong> \u2014 \u0435\u0441\u043b\u0438 \u0432 \u0434\u0432\u0443\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043e\u0434\u043d\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b40\/786\/858\/b4078685893b12f1c7b2972fa23f7a01.svg\" width=\"7\" height=\"16\"\/> \u0441\u0438\u043b\u044c\u043d\u0435\u0435, \u0447\u0435\u043c \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u0439, \u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0428\u0435\u043f\u043b\u0438 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u043d\u0438\u0436\u0435, \u0447\u0435\u043c \u0432 \u043f\u0435\u0440\u0432\u043e\u0439:<br \/><img decoding=\"async\" class=\"formula inline\" source=\"f'(x) - f'(x \\setminus i) \\ge f(x) - f(x \\setminus i) \\Rightarrow \\phi_i(f', x) \\ge \\phi_i(f, x) \" alt=\"f'(x) - f'(x \\setminus i) \\ge f(x) - f(x \\setminus i) \\Rightarrow \\phi_i(f', x) \\ge \\phi_i(f, x) \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/c7\/c74\/c7408592ea8d0352d91b634dc5d1f78f.svg\" width=\"auto\" height=\"auto\"\/>, \u0433\u0434\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"f', f\" alt=\"f', f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b7\/fc0\/dbd\/3b7fc0dbd9aeb015f70140597a34b8f0.svg\" width=\"36\" height=\"23\"\/> \u2014 \u0434\u0432\u0435 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u043c\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. <\/p>\n<\/li>\n<\/ol>\n<p><strong>\u0418 \u0432\u0438\u0448\u0435\u043d\u043a\u043e\u0439 \u043d\u0430 \u0442\u043e\u0440\u0442\u0435, \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u0430 \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/strong><\/p>\n<blockquote>\n<p>\u0422\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0432\u043e\u0437\u043c<em>\u043e\u0436\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"g\" alt=\"g\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b16\/6ae\/84c\/b166ae84c33b087f8948e7c89b08b4f2.svg\" width=\"9\" height=\"16\"\/>  \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0430\u0434\u0434\u0438\u0442\u0438\u0432\u043d\u044b\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043a\u043b\u0430\u0434\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f\u043c 1, 2 \u0438 3! \u0418 \u044d\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0435 shap.<\/em><\/p>\n<\/blockquote>\n<h2>\u041f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043d\u0430 \u044d\u0442\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c<\/h2>\n<p>\u0422\u0435\u043e\u0440\u0438\u044f \u0432\u0441\u0435\u0433\u0434\u0430 \u043a\u0440\u0430\u0441\u0438\u0432\u0430 \u0438 \u0445\u043e\u0440\u043e\u0448\u0430, \u043d\u043e \u0435\u0451 \u043f\u043e\u043b\u044c\u0437\u0430 \u0447\u0443\u0432\u0441\u0442\u0432\u0443\u0435\u0442\u0441\u044f \u044f\u0440\u0447\u0435 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435. \u042f \u0437\u0430\u0434\u0430\u043b\u0430\u0441\u044c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c \u2014 \u0431\u0443\u0434\u0443\u0442 \u043b\u0438 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u0441 \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u044b\u0445 \u0442\u043e\u0447\u0435\u043a? \u0418 \u043d\u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u043c \u0434\u0430\u0442\u044c \u043c\u0435\u0442\u043e\u0434 \u0428\u0435\u043f\u043b\u0438?<\/p>\n<p>\u0422\u0430\u043a \u0431\u044b\u043b \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442. <\/p>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c 5 \u044d\u043a\u0432\u0438\u0432\u0430\u043b\u0435\u043d\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"Net(X)\" alt=\"Net(X)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7da\/d3c\/780\/7dad3c780d8f18bd84eb0d97b7752494.svg\" width=\"65\" height=\"22\"\/>. \u041f\u043e\u0434 \u044d\u043a\u0432\u0438\u043b\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<ol>\n<li>\n<p><em>\u043e\u0434\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b<\/em><\/p>\n<\/li>\n<li>\n<p><em>\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u043e\u0434\u043d\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445<\/em><\/p>\n<\/li>\n<li>\n<p>\u0438\u043c\u0435\u044e\u0449\u0438\u0435 <em>\u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u043e\u0435<\/em> (\u043e\u0442\u043b\u0438\u0447\u043d\u043e\u0435 \u043b\u0438\u0448\u044c \u043d\u0430 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"\\varepsilon\" alt=\"\\varepsilon\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3a7\/7c3\/de1\/3a77c3de1ca90a43bf11845b885ee2bc.svg\" width=\"9\" height=\"12\"\/>) \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/p>\n<\/li>\n<\/ol>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"class_k\" alt=\"class_k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6ce\/18a\/dc3\/6ce18adc3f9a11da64993446702229f9.svg\" width=\"52\" height=\"20\"\/> (\u044f \u0431\u0440\u0430\u043b\u0430 MNIST, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0430 \u043d\u0430 10 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"k \\in [0, 9]\" alt=\"k \\in [0, 9]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ddc\/5d5\/8c2\/ddc5d58c2809fef01311e733d9d5d9d8.svg\" width=\"73\" height=\"22\"\/>).<\/p>\n<p><strong>\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c:<\/strong><\/p>\n<p> \u0414\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a45\/466\/e80\/a45466e805f08e464c3feb4821dcb68e.svg\" width=\"10\" height=\"17\"\/>, <\/p>\n<ul>\n<li>\n<p>\u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c <em>\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f<\/em> \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 \u043f\u044f\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439<\/p>\n<\/li>\n<li>\n<p>\u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u0430\u0440\u044b \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439 (\u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0443 \u043d\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"C^2_{5}=10\" alt=\"C^2_{5}=10\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/258\/f07\/e9f\/258f07e9f2639517e724bea85d7fdd24.svg\" width=\"70\" height=\"25\"\/> \u043f\u0430\u0440)<\/p>\n<p>&#8212; \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c &#171;\u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e\u0441\u0442\u044c&#187; (\u043e\u0434\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0441\u0442\u044c) \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439, \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044f \u0442\u0435\u0441\u0442 \u0445\u0438-\u043a\u0432\u0430\u0434\u0440\u0430\u0442 \u0441 \u0443\u0440\u043e\u0432\u043d\u0435\u043c \u0437\u043d\u0430\u0447\u0438\u043c\u043e\u0441\u0442\u0438 <img loading=\"lazy\" decoding=\"async\" class=\"formula inline\" source=\"0.025\" alt=\"0.025\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/696\/a72\/1d1\/696a721d1bb27756a8820672af308d1e.svg\" width=\"45\" height=\"17\"\/><br \/>&#8212; \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041f\u0440\u0438\u043c\u0435\u0447\u0430\u043d\u0438\u0435:<br \/><\/strong><br \/>\u0427\u0442\u043e\u0431\u044b \u043d\u0435 \u0443\u0433\u043b\u0443\u0431\u043b\u044f\u0442\u044c\u0441\u044f \u0432 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0443, \u043c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0445\u0438-\u043a\u0432\u0430\u0434\u0440\u0430\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0412\u044b\u0432\u043e\u0434 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0442\u0435\u0441\u0442\u0430 \u0438 &#171;p-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f&#187; \u2014 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0438 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0441\u0442\u0438 \u043d\u0443\u043b\u0435\u0432\u043e\u0439 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u0436\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b. \u0415\u0441\u043b\u0438 \u044d\u0442\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0438\u0436\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f (\u0443 \u043c\u0435\u043d\u044f \u044d\u0442\u043e 0.025) \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043c, \u0447\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b.<\/p>\n<p>\u0414\u043b\u044f 100 \u043f\u0430\u0440 \u0443 \u043c\u0435\u043d\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0443\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0443 5% \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439. \u0423\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e? \u0412\u043f\u043e\u043b\u043d\u0435. <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bf6\/82d\/483\/bf682d483900fad7750e0a2bcfc949f4.png\" alt=\"3 \u0438\u0437 100 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a\" title=\"3 \u0438\u0437 100 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a\" width=\"1604\" height=\"908\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bf6\/82d\/483\/bf682d483900fad7750e0a2bcfc949f4.png\"\/><\/p>\n<div><figcaption><em>3 \u0438\u0437 100 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a<\/em><\/figcaption><\/div>\n<\/figure>\n<h2>\u041f\u043e\u0434\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0438\u0442\u043e\u0433\u043e\u0432<\/h2>\n<p>\u0418 \u0442\u0430\u043a, \u043c\u044b \u0441 \u0432\u0430\u043c\u0438 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0438 \u0432\u043e\u043f\u0440\u043e\u0441 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u0438 \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0439 \u0432 \u0438\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0438. \u0418 \u0432\u0440\u043e\u0434\u0435 \u0431\u044b \u0432\u0441\u0451 \u0445\u043e\u0440\u043e\u0448\u043e, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u043f\u0440\u043e\u0447\u043d\u044b \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u044b \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b. \u041d\u043e \u043e\u0441\u0442\u0430\u0432\u0438\u043c \u0432\u043e\u0441\u0445\u0438\u0449\u0435\u043d\u0438\u0435 \u0438 \u0441\u0443\u0445\u043e \u0437\u0430\u043a\u0440\u0435\u043f\u0438\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b:<\/p>\n<p><strong>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c<\/strong> \u0434\u043b\u044f \u0440\u0430\u0441\u0447\u0435\u0442\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438. <em>\u041e\u0434\u043d\u0430\u043a\u043e, \u0432\u0430\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e <\/em><strong><em>\u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u0440\u0438 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0438 \u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432<\/em><\/strong><em>.<\/em><\/p>\n<p><strong>\u0423\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0435<\/strong> \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u043c\u0435\u0442\u043e\u0434 \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0438\u043c\u0443\u044e \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0432\u0430\u0436\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u043e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044f\u0441\u044c \u043d\u0430 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0434\u0430\u043d\u043d\u044b\u0445. <\/p>\n<p><strong>\u041d\u041e:<\/strong> \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0432 \u043e\u0434\u043d\u043e\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u0440\u0443\u0448\u0438\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0438 \u0434\u0440\u0443\u0433\u0438\u0445. \u041a\u0430\u043a \u0430\u0432\u0442\u043e\u0440 \u043f\u043e\u0441\u0442\u0430, \u0437\u0434\u0435\u0441\u044c \u044f \u043f\u0440\u0435\u0441\u043b\u0435\u0434\u0443\u044e \u0434\u0432\u0435 \u0446\u0435\u043b\u0438 \u2014 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u043f\u043e\u043b\u0435\u0437\u0435\u043d \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0438 \u043f\u0440\u043e\u0431\u0443\u0434\u0438\u0442\u044c \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u043a \u043d\u043e\u0432\u044b\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043c. <\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u0442\u0435, \u0435\u0441\u0442\u044c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0438 \u043d\u044e\u0430\u043d\u0441\u044b. \u0418 \u0437\u0434\u0435\u0441\u044c Explainable AI \u2014 \u0443\u0434\u0438\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043e\u0431\u043b\u0430\u0441\u0442\u044c, \u043f\u043e\u043b\u043d\u0430\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0439. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u044d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f \u0431\u044b\u043b\u0430 \u043f\u043e\u043b\u0435\u0437\u043d\u0430 \u0434\u043b\u044f \u0432\u0430\u0441 \u0438 \u0434\u0430\u043b\u0430 \u043d\u043e\u0432\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435. \u041a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u043f\u0440\u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 explainer&#8217;\u043e\u0432 \u0441 shap \u043f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435.  <\/p>\n<p><strong>\u0421\u043f\u0430\u0441\u0438\u0431\u043e \u0437\u0430 \u0447\u0442\u0435\u043d\u0438\u0435!<\/strong> <\/p>\n<p>\u0416\u0435\u043b\u0430\u044e \u0432\u0430\u043c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0445 \u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, <\/p>\n<p>\u0412\u0430\u0448 \u0414\u0430\u0442\u0430-\u0430\u0432\u0442\u043e\u0440! \ud83d\ude42 <\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/853794\/\"> https:\/\/habr.com\/ru\/articles\/853794\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p><strong><em>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440!<\/em><\/strong><\/p>\n<p>\u0412 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f\u0445 \u0438 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <a href=\"https:\/\/habr.com\/ru\/articles\/428213\/\" rel=\"noopener noreferrer nofollow\">\u0428\u0435\u043f\u043b\u0438<\/a> (Shapley values) \u2014 \u043e\u0434\u0438\u043d \u0438\u0437 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438. \u041f\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044e, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043f\u043e \u043e\u0446\u0435\u043d\u043a\u0435 \u0432\u043a\u043b\u0430\u0434\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432\u043e \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 &#171;\u043a\u043e\u0430\u043b\u0438\u0446\u0438\u0438&#187; (\u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432). \u0422\u0430\u043a, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c\u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u043d\u0430\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043f\u0435\u0440\u0435\u0431\u0440\u0430\u0442\u044c  \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043a\u043b\u0430\u0434\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u044d\u0442\u043e\u0433\u043e \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u2014 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f.<\/p>\n<p><strong>\u041e\u0442\u0441\u044e\u0434\u0430 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u044e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441\u044b:<\/strong><\/p>\n<ul>\n<li>\n<p>\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043b\u0438 \u0442\u0430\u043a\u043e\u0433\u043e \u043d\u0430\u043c \u0432\u0435\u0441\u044c\u043c\u0430 \u0433\u0440\u0443\u0431\u043e\u0433\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f (\u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e, \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e)?<\/p>\n<\/li>\n<li>\n<p>\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b \u0438 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u044b \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445?<\/p>\n<\/li>\n<\/ul>\n<p>\u0412 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f \u0441 \u043d\u0438\u043c\u0438!<\/p>\n<blockquote>\n<p> <em>\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0421\u0430\u0431\u0440\u0438\u043d\u0430, \u0438 \u044f \u043e\u0442 \u0443\u0448\u0435\u0439 \u0434\u043e \u043f\u044f\u0442 \u043b\u044e\u0431\u043b\u044e \u043e\u0431\u043b\u0430\u0441\u0442\u044c explainable AI! <\/p>\n<p>\u0417\u0430 \u0432\u0440\u0435\u043c\u044f \u043c\u043d\u0435 \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043f\u0440\u0438\u043e\u0431\u0449\u0438\u0442\u044c\u0441\u044f \u043a \u0447\u0442\u0435\u043d\u0438\u044e \u0441\u0435\u043c\u0438\u043d\u0430\u0440\u043e\u0432 \u043f\u043e \u043e\u0431\u043b\u0430\u0441\u0442\u0438, \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0443\u0440\u0441, \u0438 \u0441\u0435\u0439\u0447\u0430\u0441 \u044f \u043f\u0438\u0448\u0443 \u0412\u041a\u0420, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0442\u043e\u043c \u043f\u0440\u043e\u0440\u0430\u0441\u0442\u0435\u0442 (\u043d\u0430\u0434\u0435\u044e\u0441\u044c) \u0432 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0441\u043a\u0443\u044e \u0438 \u0434\u0430\u043b\u044c\u0448\u0435 <s>(\u0435\u0441\u043b\u0438 \u044f \u043d\u0435 \u0437\u0430\u0445\u043e\u0447\u0443 \u0431\u0440\u043e\u0441\u0438\u0442\u044c \u044d\u0442\u043e \u0432\u0441\u0451 \u0438 \u0443\u0439\u0442\u0438 \u0432 \u043b\u0435\u0441)<\/s>. <\/p>\n<p>\u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u044f \u0432\u0435\u0434\u0443 <\/em><a href=\"https:\/\/t.me\/jdata_blog\" rel=\"noopener noreferrer nofollow\"><em>DataBlog<\/em><\/a><em>, \u0438 \u043a\u0430\u043a \u043c\u043e\u0433\u0443 \u0441\u0442\u0430\u0440\u0430\u044e\u0441\u044c \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0431\u043b\u0430\u0441\u0442\u044c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0441\u0447\u0438\u0442\u0430\u044e \u0435\u0451 \u0432\u0430\u0436\u043d\u043e\u0439 \u0438 \u043a\u0440\u0430\u0441\u0438\u0432\u043e\u0439. \u0411\u0443\u0434\u0443 \u0440\u0430\u0434\u0430 \u0435\u0434\u0438\u043d\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0438\u043a\u0430\u043c \u0438 \u043e\u0442\u043a\u0440\u044b\u0442\u0430 \u043a \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044e!<\/em><\/p>\n<\/blockquote>\n<h2>\u0413\u0440\u0443\u0431\u043e\u0441\u0442\u044c \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u0445<\/h2>\n<h2>\u0417\u0430\u0447\u0435\u043c?<\/h2>\n<p>\u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f, \u043a\u0430\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0442\u044c \u0438 \u0437\u0430\u0447\u0435\u043c \u043d\u0430\u043c \u0433\u0440\u0443\u0431\u0438\u0442\u044c. <strong>\u041e\u0431\u0440\u0430\u0442\u0438\u043c\u0441\u044f \u043a \u043f\u043e\u043b\u043d\u043e\u0439 \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/strong> \u0414\u043b\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 , \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0428\u0435\u043f\u043b\u0438 \u0435\u0441\u0442\u044c:<\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p>&#8212;  \u2014 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0432\u0441\u0435\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432,<\/p>\n<p>&#8212; S \u2014 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0438\u0441\u043a\u043b\u044e\u0447\u0430\u044e\u0449\u0435\u0435 ,<\/p>\n<p>&#8212;  \u2014  \u0432\u043a\u043b\u0430\u0434 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  \u043f\u0440\u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0438 \u0435\u0433\u043e \u043a \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0443 <\/p>\n<p>&#8212; \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043e\u0442\u0440\u0430\u0436\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u0432 \u0438\u0433\u0440\u0435. \u042d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430, \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u043b\u043e\u0441\u0441. \u0412 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0435 <a href=\"https:\/\/shap.readthedocs.io\/en\/latest\/\" rel=\"noopener noreferrer nofollow\">shap<\/a> \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0438\u0440\u0443\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435.<\/p>\n<p><strong>\u0418\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043c\u044b\u0441\u043b:<\/strong><\/p>\n<p>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442 &#171;\u0441\u0440\u0435\u0434\u043d\u0438\u0439&#187; \u0432\u043a\u043b\u0430\u0434 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  \u043f\u043e \u0432\u0441\u0435\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f\u043c \u0434\u0440\u0443\u0433\u0438\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0447\u0442\u043e \u0434\u0430\u0451\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u043a\u043b\u0430\u0434\u0430. \u0418 \u0432\u0441\u0451 \u0431\u044b\u043b\u043e \u0431\u044b \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e, \u0435\u0441\u043b\u0438 \u0431\u044b \u043d\u0435 \u0441\u0442\u0440\u0430\u0448\u043d\u044b\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u0438\u0430\u043b\u044b (\u0437\u043d\u0430\u0447\u043a\u0438 &#171;!&#187;) \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u041f\u0440\u0438  \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u0445 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432, \u0447\u0442\u043e, \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441  (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e) \u0443\u0436\u0435 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e. \u0410 \u0432\u0435\u0434\u044c \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0435\u0449\u0451 \u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043c\u043e\u0434\u0435\u043b\u0438&#8230; \u0412\u043e\u0442 \u0437\u0434\u0435\u0441\u044c \u043d\u0430\u043c \u0438 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f.<\/p>\n<h2>\u041a\u0430\u043a?<\/h2>\n<p><em>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f<\/em> \u2014 \u043c\u0435\u0442\u043e\u0434, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0438\u0439 \u0432 \u0437\u0430\u043c\u0435\u043d\u0435 \u043e\u0434\u043d\u0438\u0445 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0434\u0440\u0443\u0433\u0438\u043c\u0438, \u0432 \u043a\u0430\u043a\u043e\u043c-\u0442\u043e \u0441\u043c\u044b\u0441\u043b\u0435 \u0431\u043b\u0438\u0437\u043a\u0438\u043c\u0438 \u043a \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c, \u043d\u043e \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0441\u0442\u044b\u043c\u0438 [Wiki]. \u0412 \u043d\u0430\u0448\u0435\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u2014 \u044d\u0442\u043e \u0441\u043f\u043e\u0441\u043e\u0431 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0442\u044c \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0451\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0447\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/p>\n<p>\u0412 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u044b \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432 \u0434\u043b\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438. \u041e\u043d\u0438 \u0434\u0435\u043b\u044f\u0442\u0441\u044f \u043d\u0430 \u0434\u0432\u0435 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0438: <strong>\u043c\u043e\u0434\u0435\u043b\u044c-\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 (model-agnostic)<\/strong> (\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u044b \u0434\u043b\u044f \u043b\u044e\u0431\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439)  \u0438 <strong>\u043c\u043e\u0434\u0435\u043b\u0435-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 (model-specific)<\/strong> (\u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u0436\u0435 \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u0443\u044e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0434\u0435\u043b\u0438) \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438.<\/p>\n<p><strong>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c-\u043d\u0435\u0437\u0430\u0438\u0441\u0438\u043c\u044b\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u044b:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>Shapley regression values:<\/strong> \u2014 \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 [1], \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435  \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0414\u0430\u043d\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u0445\u043e\u0440\u043e\u0448 \u043f\u0440\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043a\u043e\u043b\u043b\u0438\u043d\u0435\u0440\u0430\u0440\u043d\u043e\u0441\u0442\u0438, \u0432\u0435\u0434\u044c \u0435\u0441\u043b\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u043a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u0434\u0432\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430, \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b\u0445 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430, \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432 \u043a\u043e\u0430\u043b\u0438\u0446\u0438\u044e \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 (\u0435\u0441\u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u0442).<\/p>\n<\/li>\n<li>\n<p><strong>Shapley sampling values<\/strong>: \u2014 \u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432. \u0422\u043e \u0435\u0441\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u043d\u043e \u0432\u0441\u0435\u0445 $2^N$ \u0431\u0435\u0440\u0435\u043c \u043b\u0438\u0448\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u041c\u0438\u043d\u0443\u0441 \u2014 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u0442\u044c \u043e\u0442 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a.<\/p>\n<\/li>\n<li>\n<p><strong>Quantitative input influence:<\/strong> \u2014 \u043f\u0440\u043e \u043d\u0435\u0433\u043e \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043d\u0435 \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u0439\u0442\u0438, \u0435\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u0437\u043d\u0430\u0435\u0442 \u2014 welcome!<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u044c-\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>Linear SHAP<\/strong>: \u2014 \u043c\u0435\u0442\u043e\u0434\u044b \u0434\u043b\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0415\u0433\u043e \u043a\u0440\u0430\u0441\u043e\u0442\u0430 \u2014 \u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0442\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u0447\u0442\u043e \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u2014 \u043a\u043e\u044d\u0444\u0444\u0438\u0435\u043d\u0442\u043e\u0432 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u043a\u043b\u0430\u0434 \u0437\u0434\u0435\u0441\u044c \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a <em>\u0432\u0435\u0441 <\/em>\u0434\u043e\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432 \u0442\u043e\u0447\u043a\u0435 \u043c\u0438\u043d\u0443\u0441 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 (\u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0435) \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430. \u0424\u043e\u0440\u043c\u0443\u043b\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<\/li>\n<\/ul>\n<p>\u0433\u0434\u0435<br \/>\u2014 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 <br \/>\u2014 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0434\u043b\u044f \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u043c\u043e\u0439 \u0442\u043e\u0447\u043a\u0438,<br \/> \u2014 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 (\u0432\u044b\u0431\u043e\u0440\u043e\u0447\u043d\u043e\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u043f\u043e \u0434\u0430\u043d\u043d\u044b\u043c)<\/p>\n<p>\u0418\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0443, \u0435\u0449\u0451 \u0440\u0430\u0437 \u043f\u043e\u0434\u044b\u0442\u043e\u0436\u0438\u043c, \u043c\u044b \u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043e\u0442 \u0435\u0433\u043e \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u043f\u0440\u043e\u0433\u043d\u043e\u0437. <\/p>\n<ul>\n<li>\n<p><strong>Deep SHAP<\/strong>: \u2014 \u043e\u0442 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f, \u043c\u0435\u0442\u043e\u0434, \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0439 \u0434\u043b\u044f DNN. \u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u043e\u043d \u0437\u0430\u0434\u0435\u0439\u0441\u0442\u0432\u0443\u0435\u0442 <a href=\"https:\/\/arxiv.org\/pdf\/1704.02685\" rel=\"noopener noreferrer nofollow\">DeepLIFT<\/a>  \u2014 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u043c\u0435\u0442\u043e\u0434 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0439 \u0441\u043f\u0438\u0441\u043e\u043a \u043d\u0435 \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044e\u0449 \u2014 \u0441 \u0440\u043e\u0441\u0442\u043e\u043c \u0432\u043e\u0441\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u0438 SHAP, \u043f\u043e\u044f\u0432\u043b\u044f\u043b\u0438\u0441\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u044b \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c, \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0444\u0430\u043a\u0442: <strong>\u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0445\u043e\u0434\u044f\u0442 \u043e\u0442 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e\u0439 \u0442\u0435\u043e\u0440\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438.<\/strong><\/p>\n<h2>\u041a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u043b\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0439?<\/h2>\n<p>\u0418 \u0442\u0430\u043a, \u043c\u044b \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u0438 \u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438  \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043d\u0435 \u0432 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u0435, \u0430 \u0432 \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0438. \u041f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043b\u0438 \u044d\u0442\u043e \u043d\u0430\u043c \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0442\u043e\u0447\u043d\u044b\u0435 \u043e\u0446\u0435\u043d\u043a\u0438? <\/p>\n<blockquote>\n<p> <em>\u0414\u0430!<\/em> <\/p>\n<\/blockquote>\n<div class=\"floating-image\">\n<figure class=\"float bordered full-width\"><\/figure>\n<\/div>\n<p>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0432\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u044b \u0442\u0440\u0435\u0431\u0443\u0435\u043c \u0438\u0445 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 (\u0438\u043b\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0435) \u043a \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0428\u0435\u043f\u043b\u0438. \u0421\u0440\u0435\u0434\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u0439 \u043c\u043e\u0436\u043d\u043e \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c:<\/p>\n<ol>\n<li>\n<p><strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c<\/strong> \u2014 \u0441\u0443\u043c\u043c\u0430 \u0432\u0441\u0435\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438  \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0430  \u0434\u043e\u043b\u0436\u043d\u0430 \u0442\u043e\u0447\u043d\u043e \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u0430. \u0422\u043e \u0435\u0441\u0442\u044c:<\/p>\n<p>\u0433\u0434\u0435 \u2014 \u0431\u0430\u0437\u043e\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u043d\u0435 <\/p>\n<p>\u0432\u043b\u0438\u044f\u044e\u0442 \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043a\u0441\u0438\u043e\u043c\u0430 \u0431\u043e\u043b\u0432\u0430\u043d\u0430 (\u0430\u043d\u0430\u043b\u043e\u0433)<\/strong> \u2014 \u0435\u0441\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442, \u0442\u043e \u0435\u0433\u043e \u0432\u043a\u043b\u0430\u0434 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043d\u0443\u043b\u0435\u0432\u044b\u043c:<br \/>\u0433\u0434\u0435  \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440 \u043d\u0430\u043b\u0438\u0447\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  .<\/p>\n<\/li>\n<li>\n<p><strong> \u0421\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u043e\u0441\u0442\u044c(Consistency)<\/strong> \u2014 \u0435\u0441\u043b\u0438 \u0432 \u0434\u0432\u0443\u0445 \u043c\u043e\u0434\u0435\u043b\u044f\u0445 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043e\u0434\u043d\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430  \u0441\u0438\u043b\u044c\u043d\u0435\u0435, \u0447\u0435\u043c \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u0439, \u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0428\u0435\u043f\u043b\u0438 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u043d\u0438\u0436\u0435, \u0447\u0435\u043c \u0432 \u043f\u0435\u0440\u0432\u043e\u0439:<br \/>, \u0433\u0434\u0435  \u2014 \u0434\u0432\u0435 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u043c\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. <\/p>\n<\/li>\n<\/ol>\n<p><strong>\u0418 \u0432\u0438\u0448\u0435\u043d\u043a\u043e\u0439 \u043d\u0430 \u0442\u043e\u0440\u0442\u0435, \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u0430 \u0442\u0435\u043e\u0440\u0435\u043c\u0430:<\/strong><\/p>\n<blockquote>\n<p>\u0422\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u043d\u0430 \u0432\u043e\u0437\u043c<em>\u043e\u0436\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f   \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0430\u0434\u0434\u0438\u0442\u0438\u0432\u043d\u044b\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u043e\u0446\u0435\u043d\u043a\u0438 \u0432\u043a\u043b\u0430\u0434\u0430 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u0435\u0442 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f\u043c 1, 2 \u0438 3! \u0418 \u044d\u0442\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0435 shap.<\/em><\/p>\n<\/blockquote>\n<h2>\u041f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043d\u0430 \u044d\u0442\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c<\/h2>\n<p>\u0422\u0435\u043e\u0440\u0438\u044f \u0432\u0441\u0435\u0433\u0434\u0430 \u043a\u0440\u0430\u0441\u0438\u0432\u0430 \u0438 \u0445\u043e\u0440\u043e\u0448\u0430, \u043d\u043e \u0435\u0451 \u043f\u043e\u043b\u044c\u0437\u0430 \u0447\u0443\u0432\u0441\u0442\u0432\u0443\u0435\u0442\u0441\u044f \u044f\u0440\u0447\u0435 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435. \u042f \u0437\u0430\u0434\u0430\u043b\u0430\u0441\u044c \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c \u2014 \u0431\u0443\u0434\u0443\u0442 \u043b\u0438 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u0441 \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u044b\u0445 \u0442\u043e\u0447\u0435\u043a? \u0418 \u043d\u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u043c \u0434\u0430\u0442\u044c \u043c\u0435\u0442\u043e\u0434 \u0428\u0435\u043f\u043b\u0438?<\/p>\n<p>\u0422\u0430\u043a \u0431\u044b\u043b \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442. <\/p>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c 5 \u044d\u043a\u0432\u0438\u0432\u0430\u043b\u0435\u043d\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 . \u041f\u043e\u0434 \u044d\u043a\u0432\u0438\u043b\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<ol>\n<li>\n<p><em>\u043e\u0434\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b<\/em><\/p>\n<\/li>\n<li>\n<p><em>\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u043e\u0434\u043d\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445<\/em><\/p>\n<\/li>\n<li>\n<p>\u0438\u043c\u0435\u044e\u0449\u0438\u0435 <em>\u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u043e\u0435<\/em> (\u043e\u0442\u043b\u0438\u0447\u043d\u043e\u0435 \u043b\u0438\u0448\u044c \u043d\u0430 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 ) \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/p>\n<\/li>\n<\/ol>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430  (\u044f \u0431\u0440\u0430\u043b\u0430 MNIST, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0430 \u043d\u0430 10 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 ).<\/p>\n<p><strong>\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c:<\/strong><\/p>\n<p> \u0414\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 , <\/p>\n<ul>\n<li>\n<p>\u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c <em>\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f<\/em> \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 \u043f\u044f\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439<\/p>\n<\/li>\n<li>\n<p>\u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u0430\u0440\u044b \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439 (\u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0443 \u043d\u0430\u0441 \u0431\u0443\u0434\u0435\u0442  \u043f\u0430\u0440)<\/p>\n<p>&#8212; \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c &#171;\u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e\u0441\u0442\u044c&#187; (\u043e\u0434\u043d\u043e\u0440\u043e\u0434\u043d\u043e\u0441\u0442\u044c) \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439, \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044f \u0442\u0435\u0441\u0442 \u0445\u0438-\u043a\u0432\u0430\u0434\u0440\u0430\u0442 \u0441 \u0443\u0440\u043e\u0432\u043d\u0435\u043c \u0437\u043d\u0430\u0447\u0438\u043c\u043e\u0441\u0442\u0438 <br \/>&#8212; \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041f\u0440\u0438\u043c\u0435\u0447\u0430\u043d\u0438\u0435:<br \/><\/strong><br \/>\u0427\u0442\u043e\u0431\u044b \u043d\u0435 \u0443\u0433\u043b\u0443\u0431\u043b\u044f\u0442\u044c\u0441\u044f \u0432 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0443, \u043c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0445\u0438-\u043a\u0432\u0430\u0434\u0440\u0430\u0442 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0412\u044b\u0432\u043e\u0434 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0442\u0435\u0441\u0442\u0430 \u0438 &#171;p-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f&#187; \u2014 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0438 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0441\u0442\u0438 \u043d\u0443\u043b\u0435\u0432\u043e\u0439 \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u0436\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b. \u0415\u0441\u043b\u0438 \u044d\u0442\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0438\u0436\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f (\u0443 \u043c\u0435\u043d\u044f \u044d\u0442\u043e 0.025) \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043c, \u0447\u0442\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b.<\/p>\n<p>\u0414\u043b\u044f 100 \u043f\u0430\u0440 \u0443 \u043c\u0435\u043d\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0443\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0443 5% \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439. \u0423\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e? \u0412\u043f\u043e\u043b\u043d\u0435. <\/p>\n<figure class=\"full-width\">\n<div><figcaption><em>3 \u0438\u0437 100 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u0445 \u0432\u044b\u0431\u043e\u0440\u043e\u043a<\/em><\/figcaption><\/div>\n<\/figure>\n<h2>\u041f\u043e\u0434\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0438\u0442\u043e\u0433\u043e\u0432<\/h2>\n<p>\u0418 \u0442\u0430\u043a, \u043c\u044b \u0441 \u0432\u0430\u043c\u0438 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0438 \u0432\u043e\u043f\u0440\u043e\u0441 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u0438 \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0439 \u0432 \u0438\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0438. \u0418 \u0432\u0440\u043e\u0434\u0435 \u0431\u044b \u0432\u0441\u0451 \u0445\u043e\u0440\u043e\u0448\u043e, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u043f\u0440\u043e\u0447\u043d\u044b \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u044b \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b. \u041d\u043e \u043e\u0441\u0442\u0430\u0432\u0438\u043c \u0432\u043e\u0441\u0445\u0438\u0449\u0435\u043d\u0438\u0435 \u0438 \u0441\u0443\u0445\u043e \u0437\u0430\u043a\u0440\u0435\u043f\u0438\u043c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b:<\/p>\n<p><strong>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c<\/strong> \u0434\u043b\u044f \u0440\u0430\u0441\u0447\u0435\u0442\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438. <em>\u041e\u0434\u043d\u0430\u043a\u043e, \u0432\u0430\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e <\/em><strong><em>\u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u0440\u0438 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0438 \u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432<\/em><\/strong><em>.<\/em><\/p>\n<p><strong>\u0423\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0428\u0435\u043f\u043b\u0438 \u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0435<\/strong> \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u043c\u0435\u0442\u043e\u0434 \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0438\u043c\u0443\u044e \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0428\u0435\u043f\u043b\u0438 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0432\u0430\u0436\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u043e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044f\u0441\u044c \u043d\u0430 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0434\u0430\u043d\u043d\u044b\u0445. <\/p>\n<p><strong>\u041d\u041e:<\/strong> \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0432 \u043e\u0434\u043d\u043e\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u0440\u0443\u0448\u0438\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0438 \u0434\u0440\u0443\u0433\u0438\u0445. \u041a\u0430\u043a \u0430\u0432\u0442\u043e\u0440 \u043f\u043e\u0441\u0442\u0430, \u0437\u0434\u0435\u0441\u044c \u044f \u043f\u0440\u0435\u0441\u043b\u0435\u0434\u0443\u044e \u0434\u0432\u0435 \u0446\u0435\u043b\u0438 \u2014 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u043f\u043e\u043b\u0435\u0437\u0435\u043d \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0438 \u043f\u0440\u043e\u0431\u0443\u0434\u0438\u0442\u044c \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u043a \u043d\u043e\u0432\u044b\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043c. <\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u0442\u0435, \u0435\u0441\u0442\u044c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0438 \u043d\u044e\u0430\u043d\u0441\u044b. \u0418 \u0437\u0434\u0435\u0441\u044c Explainable AI \u2014 \u0443\u0434\u0438\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043e\u0431\u043b\u0430\u0441\u0442\u044c, \u043f\u043e\u043b\u043d\u0430\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0439. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u044d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f \u0431\u044b\u043b\u0430 \u043f\u043e\u043b\u0435\u0437\u043d\u0430 \u0434\u043b\u044f \u0432\u0430\u0441 \u0438 \u0434\u0430\u043b\u0430 \u043d\u043e\u0432\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435. \u041a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u043f\u0440\u0438 \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 explainer&#8217;\u043e\u0432 \u0441 shap \u043f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435.  <\/p>\n<p><strong>\u0421\u043f\u0430\u0441\u0438\u0431\u043e \u0437\u0430 \u0447\u0442\u0435\u043d\u0438\u0435!<\/strong> <\/p>\n<p>\u0416\u0435\u043b\u0430\u044e \u0432\u0430\u043c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0445 \u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, <\/p>\n<p>\u0412\u0430\u0448 \u0414\u0430\u0442\u0430-\u0430\u0432\u0442\u043e\u0440! \ud83d\ude42 <\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/853794\/\"> https:\/\/habr.com\/ru\/articles\/853794\/<\/a><br \/><\/br><\/br><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-436824","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/436824","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=436824"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/436824\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=436824"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=436824"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=436824"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}