{"id":277569,"date":"2016-04-04T10:11:02","date_gmt":"2016-04-04T06:11:02","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=277569"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=277569","title":{"rendered":"\u0411\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u2014 \u0442\u0435\u043f\u0435\u0440\u044c \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u043e\u0432\u0430\u044f (\u0447\u0430\u0441\u0442\u044c 2)"},"content":{"rendered":"<p>       \u041a\u0430\u043a \u0432\u044b \u0434\u0443\u043c\u0430\u0435\u0442\u0435, \u0447\u0435\u0433\u043e \u0432 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u2014 \u043a\u043e\u0436\u0443\u0440\u044b, \u0438\u043b\u0438, \u0445\u043c, \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430?<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/files\/571\/35a\/d1b\/57135ad1be644885a92efc0c9c44cf9b.jpg\"\/><\/p>\n<p>  \u041f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e, \u0435\u0441\u043b\u0438 \u0435\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c, \u043f\u043e\u0439\u0442\u0438 \u043d\u0430 \u043a\u0443\u0445\u043d\u044e, \u0432\u0437\u044f\u0442\u044c \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d, \u043e\u0447\u0438\u0441\u0442\u0438\u0442\u044c \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c. \u0415\u0441\u043b\u0438 \u043b\u0435\u043d\u044c \u0438\u043b\u0438 \u043d\u0435\u0442 \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0439 \u2014 \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u0441\u043a\u0443\u0447\u043d\u043e\u0439 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u043e\u0439: \u043e\u0431\u044a\u0435\u043c \u0448\u0430\u0440\u0430 \u043c\u044b \u043f\u043e\u043c\u043d\u0438\u043c \u0438\u0437 \u0448\u043a\u043e\u043b\u044b. \u041f\u0443\u0441\u0442\u044c, \u0441\u043a\u0430\u0436\u0435\u043c, \u0442\u043e\u043b\u0449\u0438\u043d\u0430 \u043a\u043e\u0436\u0443\u0440\u044b \u0440\u0430\u0432\u043d\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cfrac%7B1%7D%7B20%7D\"\/> \u043e\u0442 \u0440\u0430\u0434\u0438\u0443\u0441\u0430, \u0442\u043e\u0433\u0434\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/V_%7B1%7D%3D%5Cfrac%7B4%7D%7B3%7D%5Cpi%20r%5E%7B3%7D\"\/>, <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/V_%7B2%7D%3D%5Cfrac%7B4%7D%7B3%7D%5Cpi%20%281.05%20r%29%5E%7B3%7D\"\/>; \u0432\u044b\u0447\u0442\u0435\u043c \u043e\u0434\u043d\u043e \u0438\u0437 \u0434\u0440\u0443\u0433\u043e\u0433\u043e, \u043f\u043e\u0434\u0435\u043b\u0438\u043c \u043e\u0431\u044a\u0435\u043c \u043a\u043e\u0436\u0443\u0440\u044b \u043d\u0430 \u043e\u0431\u044a\u0435\u043c \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430\u2026 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043a\u043e\u0436\u0443\u0440\u044b \u0447\u0442\u043e-\u0442\u043e \u043e\u043a\u043e\u043b\u043e 16%. \u041d\u0435 \u0442\u0430\u043a \u0443\u0436 \u043c\u0430\u043b\u043e, \u043a\u0441\u0442\u0430\u0442\u0438.<\/p>\n<p>  \u041a\u0430\u043a \u043d\u0430\u0441\u0447\u0435\u0442 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u0432 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435?<\/p>\n<p>  \u041f\u043e\u0439\u0442\u0438 \u043d\u0430 \u043a\u0443\u0445\u043d\u044e \u043d\u0430 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f; \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u044e, \u0447\u0442\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043d\u0430\u0438\u0437\u0443\u0441\u0442\u044c \u0442\u043e\u0436\u0435 \u043d\u0435 \u0432\u0441\u0435 \u0437\u043d\u0430\u044e\u0442, \u043d\u043e <a href=\"https:\/\/en.wikipedia.org\/wiki\/Volume_of_an_n-ball\">\u0412\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u044f<\/a> \u043d\u0430\u043c \u0432 \u043f\u043e\u043c\u043e\u0449\u044c. \u041f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u043c \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438 \u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043e\u043c \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u0432\u0430\u0435\u043c, \u0447\u0442\u043e:<\/p>\n<ul>\n<li>\u0432\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u0432 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u043c \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0435 \u043a\u043e\u0436\u0443\u0440\u044b \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u043c\u044f\u043a\u043e\u0442\u0438<\/li>\n<li>\u0430 \u0432\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u0435\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 246993291800602563115535632700000000000000 \u0440\u0430\u0437<\/li>\n<\/ul>\n<p>  \u0422\u043e \u0435\u0441\u0442\u044c, \u043a\u0430\u043a\u0438\u043c \u0431\u044b \u0441\u0442\u0440\u0430\u043d\u043d\u044b\u043c \u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0432\u044b\u043c \u044d\u0442\u043e \u043d\u0438 \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u043d\u043e <i>\u043f\u043e\u0447\u0442\u0438 \u0432\u0435\u0441\u044c \u043e\u0431\u044a\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432 \u043d\u0438\u0447\u0442\u043e\u0436\u043d\u043e \u0442\u043e\u043d\u043a\u043e\u043c \u0441\u043b\u043e\u0435 \u043f\u0440\u044f\u043c\u043e \u043f\u043e\u0434 \u0435\u0433\u043e \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c\u044e.<\/i><\/p>\n<p>  \u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u044d\u0442\u043e\u0433\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439.<\/p>\n<p>  <a name=\"habracut\"><\/a><\/p>\n<h4>\u0421\u0438\u043d\u043e\u043f\u0441\u0438\u0441<\/h4>\n<p>  \u042d\u0442\u043e \u0432\u0442\u043e\u0440\u0430\u044f \u0447\u0430\u0441\u0442\u044c <a href=\"https:\/\/habrahabr.ru\/post\/276355\/\">\u043f\u043e\u0441\u0442\u0430<\/a>, \u0433\u0434\u0435 \u043f\u0435\u0440\u0435\u0434 \u044d\u0442\u0438\u043c \u043c\u044b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u0438\u0441\u044c \u043d\u0430 \u0442\u043e\u043c, \u0447\u0442\u043e \u043d\u0430\u0448\u043b\u0438 \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u0413\u0440\u0430\u0430\u043b\u044c \u2014 \u0430\u043f\u043e\u0441\u0442\u0435\u0440\u0438\u043e\u0440\u043d\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u043e\u0442 \u043e\u043d\u0430, \u0435\u0449\u0435 \u0440\u0430\u0437, \u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439: <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28w%20%7C%20D%29\"\/>. \u0412\u0441\u043f\u043e\u043c\u043d\u0438\u043c \u0435\u0449\u0435 \u0440\u0430\u0437, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/> \u2014 \u044d\u0442\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043c\u043e\u0434\u0435\u043b\u0438 (\u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440), \u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/D\"\/> \u2014 \u0434\u0430\u043d\u043d\u044b\u0435 \u0438\u0437 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 (\u044f \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b \u043d\u043e\u0442\u0430\u0446\u0438\u044e, \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u043c\u0435\u0441\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/> \u0431\u044b\u043b\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/>, \u043d\u043e \u0442\u0435\u0442\u0430 \u043d\u0430\u043c \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u0442\u0441\u044f \u043f\u043e\u043f\u043e\u0437\u0436\u0435).<\/p>\n<p>  \u0422\u0430\u043a \u0432\u043e\u0442, \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d \u2014 \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u043e\u043d\u043e. \u0420\u0430\u0437\u043c\u0435\u0440\u044b \u044d\u0442\u043e\u0433\u043e posterior \u0440\u0430\u0441\u0442\u0443\u0442 \u0441 \u0442\u0430\u043a\u043e\u0439 \u0436\u0435 \u0443\u0433\u0440\u043e\u0436\u0430\u044e\u0449\u0435\u0439 \u0431\u044b\u0441\u0442\u0440\u043e\u0442\u043e\u0439, \u043a\u0430\u043a \u0438 \u043e\u0431\u044a\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430; \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0443 \u043d\u0430\u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0442\u0435\u043c \u00ab\u043e\u0431\u044a\u0435\u043c\u043d\u0435\u0439\u00bb \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435. \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u043b\u0443\u0447\u0448\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0434\u0430\u0436\u0435 \u043d\u0435 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d \u2014 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0433\u043e\u0440\u0443. \u0412 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u043c \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0438. \u0414\u0430, \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e \u044d\u0442\u043e \u0441\u043b\u0435\u0433\u043a\u0430 \u043d\u0435\u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043d\u043e \u044d\u043d\u0438\u0432\u0435\u0439 \u2014 \u0432\u043e\u0442, \u0433\u043e\u0440\u0430:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"https:\/\/habrastorage.org\/files\/797\/77e\/7d3\/79777e7d3f6949b0a7e0dc02e4541321.png\"\/><\/div>\n<p>  <em>\u042d\u0442\u0430 \u0432\u0441\u0435\u0433\u043e \u0432 \u043e\u0434\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u043c, \u043f\u0440\u0430\u0432\u0434\u0430. \u041f\u043e \u0437\u0430\u0432\u0435\u0442\u0430\u043c <a href=\"https:\/\/www.coursera.org\/course\/neuralnets\">\u0425\u0438\u043d\u0442\u043e\u043d\u0430<\/a>, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0441\u0435\u0431\u0435 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u0443\u044e \u0433\u043e\u0440\u0443 \u043c\u043e\u0436\u043d\u043e \u0442\u0430\u043a: \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u0432\u044b\u0448\u0435 \u0438 \u0433\u0440\u043e\u043c\u043a\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c \u00ab\u0442\u044b\u0441\u044f\u0447\u0430!\u00bb \u2014 \u0438\u043b\u0438 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u0430\u043c \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u0442\u0441\u044f<\/em><\/p>\n<p>  \u041d\u0430\u0448 \u0447\u0435\u043b\u043b\u0435\u043d\u0434\u0436 \u2014 \u044d\u0442\u043e \u0432\u044b\u044f\u0441\u043d\u0438\u0442\u044c \u043e\u0431\u044a\u0435\u043c \u044d\u0442\u043e\u0439 \u0433\u043e\u0440\u044b. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u044b:<br \/>   \u2014 \u043d\u0435 \u0437\u043d\u0430\u0435\u043c, \u043a\u0430\u043a\u043e\u0439 \u043e\u043d\u0430 \u0444\u043e\u0440\u043c\u044b (\u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043a\u0430\u043a\u043e\u0439 \u0443\u0433\u043e\u0434\u043d\u043e)<br \/>   \u2014 (\u043f\u043e\u043a\u0430) \u0432\u043b\u0430\u0434\u0435\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u043d\u0438\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u2014 \u0441\u0442\u043e\u044f \u0432 \u0442\u043e\u0447\u043a\u0435, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0432\u044b\u0441\u043e\u0442\u0443 \u0434\u043e \u043f\u043e\u0434\u043d\u043e\u0436\u0438\u044f (\u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0432 \u044d\u0442\u043e\u0439 \u0442\u043e\u0447\u043a\u0435)<br \/>   \u2014 \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0433\u043e\u0440\u044b \u0440\u0430\u0441\u0442\u0435\u0442 \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e, \u043a\u043e\u0433\u0434\u0430 \u0440\u0430\u0441\u0442\u0435\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/> \u2014 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e \u0442\u043e\u043c\u0443, \u043a\u0430\u043a \u0440\u0430\u0441\u0442\u0435\u0442 \u043a\u043e\u0436\u0443\u0440\u0430 \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430<\/p>\n<p>  \u041a\u0430\u043a\u043e\u0439 \u043f\u043b\u0430\u043d?<\/p>\n<h4>\u041f\u043b\u0430\u043d \u043f\u0435\u0440\u0432\u044b\u0439: \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433<\/h4>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"https:\/\/habrastorage.org\/files\/c5b\/66e\/3f9\/c5b66e3f9cfd486e869e5c3a17f0dbd7.png\"\/><\/div>\n<p>  \u041d\u0430\u043c, \u0432\u043e\u043e\u0431\u0449\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u043e \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0433\u043e\u0440\u0443 \u043f\u0440\u044f\u043c\u043e <em>\u0432 \u043a\u0430\u0436\u0434\u043e\u0439<\/em> \u0442\u043e\u0447\u043a\u0435. \u041c\u044b \u043c\u043e\u0436\u0435\u043c \u0432\u044b\u0431\u0440\u0430\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0443\u0447\u0430\u0441\u0442\u043a\u043e\u0432 \u0433\u043e\u0440\u044b, \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0437\u0430\u043c\u0435\u0440\u044b \u0438 \u043e\u0447\u0435\u0440\u0442\u0438\u0442\u044c \u043f\u043e \u043d\u0438\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u041e\u043d \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u0442\u0430\u043a\u043e\u0439 \u0442\u043e\u0447\u043d\u044b\u0439, \u0437\u0430\u0442\u043e \u043d\u0430\u043c \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u043c\u0435\u043d\u044c\u0448\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439.<br \/>  \u041c\u043e\u0436\u043d\u043e \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u044d\u0442\u043e \u043c\u044b\u0441\u043b\u044c \u043d\u0430\u043f\u0440\u0430\u0448\u0438\u0432\u0430\u044e\u0449\u0430\u044f\u0441\u044f, \u043d\u043e \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043d\u0430\u043c \u043f\u043e\u043c\u043e\u0436\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0448\u0430 \u043c\u043d\u043e\u0433\u043e\u043c\u0435\u0440\u043d\u0430\u044f \u0433\u043e\u0440\u0430 \u043d\u0430\u0447\u043d\u0435\u0442 \u0440\u0430\u0441\u0442\u0438 \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u0447\u0438\u0441\u043b\u0430 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043c, \u0447\u0442\u043e \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c \u0433\u043e\u0440\u044b \u0440\u0430\u0432\u043d\u0430 &lt;\u0447\u0438\u0441\u043b\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0432 \u043e\u0434\u043d\u043e\u043c \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0438&gt; \u0432 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 &lt;\u0447\u0438\u0441\u043b\u0430 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439&gt;. \u0421\u044d\u043c\u043f\u043b\u0438\u043d\u0433 \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u043c \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0435 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u2014 \u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c \u043d\u0438\u043a\u0443\u0434\u0430 \u043d\u0435 \u0434\u0435\u043d\u0435\u0442\u0441\u044f, \u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u0441\u0435 \u0435\u0449\u0435 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439.<\/p>\n<h4>\u041f\u043b\u0430\u043d \u0432\u0442\u043e\u0440\u043e\u0439: \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f<\/h4>\n<p>  \u0413\u043b\u0430\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0433\u043e\u0440\u044b \u043d\u0435 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0430\u044f (\u0432 \u043f\u043b\u0430\u043d\u0435 \u0447\u0438\u0441\u043b\u0430 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439) \u2014 \u0432 \u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432, \u043e\u0431\u044a\u0435\u043c \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u0433\u043e \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u043c\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0442\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043b\u0438 \u0431\u0435\u0437 \u043e\u0441\u043e\u0431\u044b\u0445 \u0437\u0430\u0442\u0440\u0443\u0434\u043d\u0435\u043d\u0438\u0439 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0438\u0437 \u0412\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u0438. \u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0434\u043b\u044f \u0433\u043e\u0440\u044b <em>\u043d\u0435\u0442 \u0444\u043e\u0440\u043c\u0443\u043b\u044b<\/em>. \u041c\u044b \u043d\u0435 \u0437\u043d\u0430\u0435\u043c \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0440\u0430\u0441\u0442\u0435\u0442 \u0433\u043e\u0440\u0430 (\u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u2014 \u043e\u043d \u0440\u0430\u0441\u0442\u0435\u0442 \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u043f\u043e \u0432\u0441\u0435 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c).<\/p>\n<p>  \u041d\u0443 \u043b\u0430\u0434\u043d\u043e, \u0430 \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u043c\u044b \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043c <em>\u0435\u0449\u0435 \u043e\u0434\u043d\u0443<\/em> \u0441\u0432\u043e\u044e \u0433\u043e\u0440\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430 \u0438\u0441\u043a\u043e\u043c\u0443\u044e, \u043d\u043e \u043d\u0430 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u0441 \u0444\u043e\u0440\u043c\u0443\u043b\u043e\u0439? \u041f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u043e\u0442 \u0442\u0430\u043a:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"https:\/\/habrastorage.org\/files\/3e7\/f93\/745\/3e7f93745c494aa5ba1c28b8576fa6d7.png\"\/><\/div>\n<p>  \u041d\u0443\u2026 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0447\u0435\u0440\u0442 \u0435\u0433\u043e \u0437\u043d\u0430\u0435\u0442. \u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u043f\u043e\u043a\u0430 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u043d\u0430\u0441\u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u0447\u043d\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f \u2014 \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u043e\u043d\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c-\u0442\u043e. \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u043c\u044b \u043f\u043e\u043a\u0430 \u043d\u0435 \u0437\u043d\u0430\u0435\u043c, \u043a\u0430\u043a \u044d\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0441\u0434\u0435\u043b\u0430\u0442\u044c. \u0412\u043e\u0442 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0438 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f.<\/p>\n<h4>\u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f \u041b\u0430\u043f\u043b\u0430\u0441\u0430<\/h4>\n<p>  \u0415\u0449\u0435 \u0440\u0430\u0437 \u043d\u0430\u0440\u0438\u0441\u0443\u0435\u043c \u043d\u0430\u0448\u0443 \u0442\u0435\u043e\u0440\u0435\u043c\u0443 \u0411\u0430\u0439\u0435\u0441\u0430, \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u043f\u043e-\u0434\u0440\u0443\u0433\u043e\u043c\u0443:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20P%28w%20%7C%20D%29%20%3D%20%5Cfrac%7B1%7D%7BP%28D%29%7D%20P%28D%20%7C%20w%29P%28w%29%20%3D%20%5Cfrac%7B1%7D%7BP%28D%29%7D%20P%28D%2C%20w%29%0A\"\/><\/div>\n<p>  \u042f \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043e\u0431\u0440\u0430\u043b \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u0441\u043f\u0440\u0430\u0432\u0430 \u043e\u0442 \u0434\u0440\u043e\u0431\u0438 \u0432 \u043e\u0434\u043d\u0443 \u2014 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u0443\u044e \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u0443\u044e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c (\u0438 \u0435\u0449\u0435 \u0440\u0430\u0437 \u043d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e \u043c\u044b \u0441\u043b\u0435\u0433\u043a\u0430 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0438 \u043d\u043e\u0442\u0430\u0446\u0438\u044e \u043d\u0430 w \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u0435\u0442\u044b). \u041b\u044e\u0434\u0438 \u0447\u0430\u0441\u0442\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044e\u0442 \u044d\u0442\u043e \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043c\u044b\u0441\u043b\u0435, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%2C%20w%29\"\/> \u2014 \u043d\u0430\u0448\u0435 \u00ab\u0438\u0441\u043a\u043e\u043c\u043e\u0435\u00bb \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435, \u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cfrac%7B1%7D%7BP%28D%29%7D\"\/> \u2014 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0443\u044e\u0449\u0430\u044f \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0443\u0436\u043d\u0430, \u0447\u0442\u043e\u0431\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043a \u043e\u0434\u043d\u043e\u043c\u0443. \u0422\u0430\u043a \u0447\u0442\u043e \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u0443\u0435\u043c\u0441\u044f \u043d\u0430 \u043f\u043e\u0438\u0441\u043a\u0435 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%2C%20w%29\"\/>.<\/p>\n<p>  \u0413\u043e\u0432\u043e\u0440\u0438\u043c \u00ab\u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f\u00bb, \u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u043c <a href=\"https:\/\/en.wikipedia.org\/wiki\/Taylor_series\">\u0440\u044f\u0434\u044b \u0422\u0435\u0439\u043b\u043e\u0440\u0430<\/a>. \u0412 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u043f\u0435\u0440\u0432\u044b\u043c \u043a\u0443\u0440\u0441\u043e\u043c \u043c\u0430\u0442\u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u043b\u044e\u0431\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u0443\u044e \u0441\u0443\u043c\u043c\u0443 \u043e\u043f\u0440\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u0445 \u043f\u043e\u043b\u0438\u043d\u043e\u043c\u043e\u0432. \u0417\u0430\u043f\u0438\u0448\u0435\u043c \u043d\u0430\u0448\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%2C%20w%29\"\/> \u043a\u0430\u043a <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28x%29\"\/>, \u0430 \u0440\u0430\u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u0431\u0443\u0434\u0435\u043c \u0432 \u043d\u0435\u043a\u043e\u0439 \u0442\u043e\u0447\u043a\u0435 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/x%5E%7B%2A%7D\"\/>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u043e\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f (\u043c\u044b \u043d\u0435 \u0437\u043d\u0430\u0435\u043c, \u0433\u0434\u0435 \u043e\u043d\u043e, \u043d\u043e \u044d\u0442\u043e \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u0430\u0436\u043d\u043e). \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043e\u0442\u043f\u0438\u043b\u0438\u043c \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u0443\u044e \u0441\u0443\u043c\u043c\u0443 \u043f\u043e\u0441\u043b\u0435 \u0441\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0433\u043e \u0441\u043e \u0441\u0442\u0435\u043f\u0435\u043d\u044c\u044e \u0434\u0432\u0430:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20f%28x%29%20%5Capprox%20f%28x%5E%7B%2A%7D%29%20%2B%20f%27%28x%5E%7B%2A%7D%29%28x-x%5E%7B%2A%7D%29%20%2B%20%5Cfrac%7B1%7D%7B2%7Df%27%27%28x%5E%7B%2A%7D%29%28x-x%5E%7B%2A%7D%29%5E%7B2%7D%0A\"\/><\/div>\n<p>  (\u044d\u0442\u043e \u043f\u0440\u044f\u043c\u043e \u0441\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u0435 \u043e\u0434\u0438\u043d-\u0432-\u043e\u0434\u0438\u043d \u0440\u0430\u0437\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0432 \u0440\u044f\u0434 \u0422\u0435\u0439\u043b\u043e\u0440\u0430 \u0438\u0437 \u0432\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u0438)<\/p>\n<p>  \u0422\u0435\u043f\u0435\u0440\u044c \u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u043c, \u0447\u0442\u043e \u043c\u044b \u0432\u044b\u0431\u0440\u0430\u043b\u0438 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/x%5E%7B%2A%7D\"\/> \u043a\u0430\u043a \u0442\u043e\u0447\u043a\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430, \u0430 \u0437\u043d\u0430\u0447\u0438\u0442, \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0432 \u043d\u0435\u0439 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e. \u0422\u043e \u0435\u0441\u0442\u044c \u0432\u0442\u043e\u0440\u043e\u0435 \u0441\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0435 \u043c\u043e\u0436\u043d\u043e \u0441 \u0447\u0438\u0441\u0442\u043e\u0439 \u0441\u043e\u0432\u0435\u0441\u0442\u044c\u044e \u0432\u044b\u043a\u0438\u043d\u0443\u0442\u044c. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20f%28x%29%20%5Capprox%20f%28x%5E%7B%2A%7D%29%20%2B%20%5Cfrac%7B1%7D%7B2%7D%28f%27%27%28x%5E%7B%2A%7D%29%28x-x%5E%7B%2A%7D%29%5E%7B2%7D%29%0A\"\/><\/div>\n<p>  \u041d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442? \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0443 \u044d\u0442\u043e\u0439 \u0448\u0442\u0443\u043a\u0438 \u0442\u0430\u043a\u0430\u044f \u0436\u0435 \u0444\u043e\u0440\u043c\u0430, \u043a\u0430\u043a \u0443 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0430 \u043e\u0442 \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u0430. \u0427\u0442\u043e\u0431\u044b \u044d\u0442\u043e \u0443\u0432\u0438\u0434\u0435\u0442\u044c, \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u0430\u0442\u044c<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20%5Clog%20%5Cmathcal%7BN%7D%28%5Ctheta%20%7C%20%5Cmu%2C%20%5Csigma%29%20%3D%20%5Clog%20%5Cfrac%7B1%7D%7B%5Csigma%20%5Csqrt%7B2%5Cpi%7D%7D%20-%5Cfrac%7B1%7D%7B2%7D%28%5Cfrac%7B1%7D%7B%5Csigma%5E%7B2%7D%7D%28%5Ctheta-%5Cmu%29%5E%7B2%7D%29%0A\"\/><\/div>\n<p>  \u0427\u0443\u0442\u044c \u043f\u043e\u043c\u0435\u043d\u044f\u0435\u043c \u043d\u043e\u0442\u0430\u0446\u0438\u044e: \u043c\u044b \u0445\u043e\u0442\u0435\u043b\u0438 \u0432\u044b\u0431\u0440\u0430\u0442\u044c <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28x%29%3DP%28D%2C%20w%29\"\/>, \u0430 \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u0443\u0441\u0442\u044c \u0431\u0443\u0434\u0435\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28x%29%3D%5Clog%20P%28D%2C%20w%29\"\/>. \u0422\u043e\u0433\u0434\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28x%29%20%3D%20%5Clog%20%5Cmathcal%7BN%7D%28%5Ctheta%20%7C%20%5Cmu%2C%20%5Csigma%29%20%5Capprox%20%5Clog%20P%28D%2C%20w%29\"\/>, \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043d\u0430\u0448\u0430 \u0438\u0441\u043a\u043e\u043c\u0430\u044f \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u043e\u043c \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c \u0432 \u0442\u043e\u0447\u043a\u0435 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430 \u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u043c \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435\u043c <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/-%5Cfrac%7B1%7D%7Bf%27%27%28x%5E%7B%2A%7D%29%7D\"\/> (\u043e\u0431\u0440\u0430\u0442\u043d\u0430\u044f \u0432\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0432 \u0442\u043e\u0447\u043a\u0435 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430 \u0438\u043b\u0438 \u043a\u0440\u0438\u0432\u0438\u0437\u043d\u0430).<\/p>\n<p>  \u0415\u0441\u043b\u0438 \u044d\u0442\u043e \u0431\u044b\u043b\u043e \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e \u043d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u044b\u0445 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0430, \u043f\u0440\u043e\u0441\u0443\u043c\u043c\u0438\u0440\u0443\u0435\u043c \u0438\u0434\u0435\u044e \u0432 \u0442\u0440\u0435\u0445 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u043f\u0443\u043d\u043a\u0442\u0430\u0445. \u0418\u0442\u0430\u043a, \u0435\u0441\u043b\u0438 \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u043d\u0430\u0439\u0442\u0438 \u043d\u0430\u0448 \u043e\u0431\u044a\u0435\u043c \u0433\u043e\u0440\u044b, \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e:<br \/>   \u2014 \u043d\u0430\u0439\u0442\u0438 \u0442\u043e\u0447\u043a\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430<br \/>   \u2014 \u0438\u0437\u043c\u0435\u0440\u0438\u0442\u044c \u0432 \u043d\u0435\u0439 \u043a\u0440\u0438\u0432\u0438\u0437\u043d\u0443 (\u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0432\u0442\u043e\u0440\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e; \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435: \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Clog%20P%28D%2C%20w%29\"\/>, \u0430 \u043d\u0435 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%2C%20w%29\"\/>)<br \/>   \u2014 \u0432\u0437\u044f\u0442\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u0443\u044e \u043a\u0440\u0438\u0432\u0443\u044e \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c \u0432 \u0442\u043e\u0447\u043a\u0435 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430 \u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u043c \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435\u043c \u2014 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e-\u043e\u0431\u0440\u0430\u0442\u043d\u044b\u043c \u043a \u043a\u0440\u0438\u0432\u0438\u0437\u043d\u0435.<\/p>\n<p>  \u0418\u0441\u043a\u0430\u0442\u044c \u0442\u043e\u0447\u043a\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430 \u0433\u043e\u0440\u044b \u043c\u044b \u0443\u043c\u0435\u0435\u043c \u0438 \u044d\u0442\u043e \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u043b\u0435\u0433\u0447\u0435, \u0447\u0435\u043c \u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0435\u0435 \u0432\u0441\u044e. \u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0430 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u043c\u0430\u0433\u0438\u044e \u043a \u0442\u043e\u0439 \u0436\u0435 \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0432\u043e\u0437\u0438\u043b\u0438\u0441\u044c \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u043c \u043f\u043e\u0441\u0442\u0435!<\/p>\n<p>  \u0422\u043e\u0447\u043a\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430 \u043c\u044b \u0438\u0441\u043a\u0430\u043b\u0438 \u0432 \u043a\u043e\u043d\u0446\u0435 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043f\u043e\u0441\u0442\u0430 \u2014 \u044d\u0442\u043e \u0446\u0435\u043d\u0442\u0440 \u00ab\u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u043e\u0433\u043e \u043f\u0443\u0447\u043a\u0430\u00bb, \u00ab\u0441\u0430\u043c\u0430\u044f \u0433\u043e\u0440\u044f\u0447\u0430\u044f \u043b\u0438\u043d\u0438\u044f\u00bb \u0438 \u0442.\u0434. \u042f, \u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439, \u0435\u0449\u0435 \u0440\u0430\u0437 \u043f\u0440\u0438\u0432\u0435\u0434\u0443, \u043a\u0430\u043a \u0435\u0435 \u043d\u0430\u0439\u0442\u0438, \u043d\u043e \u0441\u043f\u0440\u044f\u0447\u0443 \u043f\u043e\u0434 \u0441\u043f\u043e\u0439\u043b\u0435\u0440, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043f\u0443\u0433\u0430\u0442\u044c \u043b\u044e\u0434\u0435\u0439 \u0444\u043e\u0440\u043c\u0443\u043b\u0430\u043c\u0438:<\/p>\n<div class=\"spoiler\"><b class=\"spoiler_title\">\u0417\u0430\u0433\u043e\u043b\u043e\u0432\u043e\u043a \u0441\u043f\u043e\u0439\u043b\u0435\u0440\u0430<\/b><\/p>\n<div class=\"spoiler_text\">\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20argmax%20%5C%3A%20%5B%5Csum_%7Bi%7D%20%5Clog%20%5Cmathcal%7BN%7D%28y_%7Bi%7D%20%7C%20b%20%2B%20%5Cmathbf%7Bw%5E%7BT%7Dx_%7Bi%7D%7D%2C%5Ctheta%5E%7B2%7D%29%20%2B%20%5Csum_%7Bj%7D%20%5Clog%20%5Cmathcal%7BN%7D%28w_%7Bj%7D%20%7C%200%2C%20%5Ctau%5E%7B2%7D%29%5D%0A\"\/><\/div>\n<p>  \u0422\u0443\u0442 \u043f\u0435\u0440\u0432\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u043f\u043e\u0434 \u0430\u0440\u0433\u043c\u0430\u043a\u0441\u043e\u043c \u2014 \u044d\u0442\u043e likelihood, \u0430 \u0432\u0442\u043e\u0440\u0430\u044f \u2014 \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u0441\u043a\u0438\u0439 prior. \u041f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u0438 \u0432 \u0441\u0443\u043c\u043c\u0443, \u0432\u0437\u044f\u0432 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c, \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u043e.  <\/div>\n<\/div>\n<p>  \u041f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/> \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043d\u043e \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u044f \u0443\u0436\u0430\u0441\u043d\u044b\u0439 \u043b\u0435\u043d\u0442\u044f\u0439, \u044f \u043b\u0443\u0447\u0448\u0435 \u0437\u0430\u0431\u044c\u044e \u0432\u0441\u0435 \u044d\u0442\u043e \u0432 \u043f\u0438\u0442\u043e\u043d \u0438 \u043f\u0443\u0441\u0442\u044c aurograd \u0441\u0434\u0435\u043b\u0430\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443 \u0437\u0430 \u043c\u0435\u043d\u044f.<\/p>\n<pre><code class=\"python\"># b \u0438 w \u043c\u044b \u043d\u0430\u0448\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a \u0441 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0435\u0439, \u043a\u0430\u043a \u0432 \u043a\u043e\u043d\u0446\u0435 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043f\u043e\u0441\u0442\u0430 # \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0438\u0445\u0430\u0435\u043c \u0438\u0445 \u0432 \u043e\u0434\u0438\u043d \u043c\u0430\u0441\u0441\u0438\u0432 ext_w = np.hstack([b, w])  # \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u043c \u043a \u0434\u0430\u043d\u043d\u044b\u043c \u0435\u0434\u0438\u043d\u0438\u0447\u043a\u0443 \u0441\u043b\u0435\u0432\u0430 # \u044d\u0442\u043e \u0432\u0441\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b ext_data.dot(ext_w) # \u0440\u0430\u0432\u043d\u044f\u043b\u043e\u0441\u044c data.dot(w) + b  ext_data = np.ones((data.shape[0], data.shape[1] + 1)) ext_data[:, 1:] = data  # \u043d\u0430\u0448\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f log joint, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0430\u0434\u043e \u0431\u0440\u0430\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e # \u044f \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u043b \u0435\u0435 \u0438 \u0440\u0430\u0441\u043a\u0440\u044b\u043b \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u044b def log_joint(w):     regression_value = ext_data.dot(w)     return (         np.sum(-np.power(target - regression_value, 2.) \/ (2 * np.power(1., 2.))) +         np.sum(-np.power(w, 2.) \/ (2 * np.power(1., 2.)))     )  from autograd import elementwise_grad  second_grad_log_joint = elementwise_grad(elementwise_grad(log_joint))  mu = ext_w sigma = -1. \/ second_grad_log_joint(ext_w) cov = np.diag(sigma)  # \u0433\u043e\u0442\u043e\u0432\u043e, \u0442\u0435\u043f\u0435\u0440\u044c \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 # some_value = multivariate_normal.pdf(some_point, mu, cov)...  <\/code><\/pre>\n<p>  \u041a\u043e\u0433\u0434\u0430 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435, \u043d\u0430\u0440\u0438\u0441\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u2014 \u0434\u0435\u043b\u043e \u0442\u0435\u0445\u043d\u0438\u043a\u0438; \u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0435\u043c \u0436\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c, \u0447\u0442\u043e \u0438 \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043f\u043e\u0441\u0442\u0430 \u0441 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 (\u0441\u044d\u043c\u043f\u043b\u0438\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432 \u0440\u0430\u0437\u043d\u043e\u043c \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0438 \u043e\u0442 \u0446\u0435\u043d\u0442\u0440\u0430). \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0432\u043e\u0442 \u0442\u0430\u043a\u0443\u044e \u0441\u0438\u043c\u043f\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"https:\/\/habrastorage.org\/files\/aa7\/bf3\/a87\/aa7bf3a879bf4373906ec65b1bf09959.png\"\/><\/div>\n<p>  \u0418 \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u043e\u0447\u0438\u043c, \u043a\u0430\u0436\u0434\u0430\u044f \u043a\u0440\u0438\u0432\u0430\u044f \u0442\u0443\u0442 \u2014 \u043f\u043e\u043b\u0438\u043d\u043e\u043c 15 \u0441\u0442\u0435\u043f\u0435\u043d\u0438. \u0421\u0442\u0430\u0440\u0430\u044f \u00ab\u0431\u0440\u0443\u0442\u0444\u043e\u0440\u0441\u043d\u0430\u044f\u00bb \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0431\u044b \u0434\u0430\u0432\u043d\u043e \u0443\u0436\u0435 \u043e\u0442\u043a\u0438\u043d\u0443\u043b\u0430\u0441\u044c \u043f\u043e\u043b\u0435\u0436\u0430\u0442\u044c \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 (\u0442\u0430\u043c \u044f \u043a\u043e\u0435-\u043a\u0430\u043a \u0432\u044b\u0436\u0438\u043c\u0430\u043b \u043f\u044f\u0442\u0443\u044e \u0441\u0442\u0435\u043f\u0435\u043d\u044c).<\/p>\n<p>  \u0410\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f \u041b\u0430\u043f\u043b\u0430\u0441\u0430 \u0432\u0441\u0435\u043c \u0445\u043e\u0440\u043e\u0448\u0430 \u2014 \u0431\u044b\u0441\u0442\u0440\u043e, \u0443\u0434\u043e\u0431\u043d\u043e, \u043a\u0440\u0430\u0441\u0438\u0432\u043e \u2014 \u043d\u043e \u043e\u0434\u043d\u043e \u043f\u043b\u043e\u0445\u043e: \u043e\u043d\u0430 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e \u0442\u043e\u0447\u043a\u0435 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0430. \u042d\u0442\u043e \u043a\u0430\u043a \u0441\u0443\u0434\u0438\u0442\u044c \u043f\u043e \u0432\u0441\u0435\u0439 \u0433\u043e\u0440\u0435, \u0433\u043b\u044f\u0434\u044f \u043d\u0430 \u043d\u0435\u0435 \u0441 \u0432\u0435\u0440\u0448\u0438\u043d\u044b \u2014 \u043f\u0440\u0438 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u0437\u043d\u0430\u0435\u043c, \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043b\u0438 \u043c\u044b \u043d\u0430 \u0432\u0435\u0440\u0448\u0438\u043d\u0435 \u0438\u043b\u0438 \u0437\u0430\u0441\u0442\u0440\u044f\u043b\u0438 \u0432 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c\u0435, \u0438 \u043f\u0440\u0438 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432\u0438\u0434\u043d\u043e \u043e\u0442\u0442\u0443\u0434\u0430 \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0432\u0441\u0435 (\u0432\u0434\u0440\u0443\u0433 \u0443 \u043d\u0430\u0441 \u043d\u0430 \u0432\u0435\u0440\u0448\u0438\u043d\u0435 \u0432\u0441\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043b\u043e\u0441\u043a\u043e \u0438 \u043a\u0440\u0430\u0441\u0438\u0432\u043e, \u0430 \u043f\u043e\u0434 \u043d\u0435\u0439 \u0442\u0440\u0438 \u043a\u0438\u043b\u043e\u043c\u0435\u0442\u0440\u0430 \u0441\u043f\u043b\u043e\u0448\u043d\u043e\u0433\u043e \u043e\u0431\u0440\u044b\u0432\u0430?). \u0412 \u043e\u0431\u0449\u0435\u043c, \u043f\u0440\u0438\u0434\u0443\u043c\u0430\u043b\u0438 \u0435\u0435 \u0434\u043b\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439, \u043a\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0433\u0430\u0434\u0430\u0442\u044c\u0441\u044f, \u043d\u0435 \u0432\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0430 \u041b\u0430\u043f\u043b\u0430\u0441\u0430, \u0430 \u0432\u043e\u0432\u0441\u0435 \u0434\u0430\u0436\u0435 \u0432 1991-\u043c, \u043d\u043e \u0441 \u0442\u0435\u0445 \u043f\u043e\u0440 \u043e\u043d\u0430 \u043c\u0438\u0440 \u043e\u0441\u043e\u0431\u043e \u043d\u0435 \u0437\u0430\u0432\u043e\u0435\u0432\u0430\u043b\u0430. \u0422\u0430\u043a \u0447\u0442\u043e \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u0447\u0442\u043e-\u043d\u0438\u0431\u0443\u0434\u044c \u0431\u043e\u043b\u0435\u0435 \u043c\u043e\u0434\u043d\u043e\u0435 \u0438 \u043a\u0440\u0430\u0441\u0438\u0432\u043e\u0435.<\/p>\n<h4>Bayes by backprop: \u043d\u0430\u0447\u0430\u043b\u043e<\/h4>\n<p>  \u041d\u0430\u043a\u043e\u043d\u0435\u0446 \u043c\u044b \u0434\u043e\u0431\u0440\u0430\u043b\u0438\u0441\u044c \u0434\u043e \u0442\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0433\u043e \u043c\u0435\u0442\u043e\u0434\u0430 \u0438\u0437 \u0437\u0430\u0433\u043b\u0430\u0432\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 DeepMind. \u0410\u0432\u0442\u043e\u0440\u044b \u043d\u0430\u0437\u0432\u0430\u043b\u0438 \u0435\u0433\u043e Bayes by backprop \u2014 \u0443\u0434\u0430\u0447\u0438 \u0441 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u043e\u043c \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u044f\u0437\u044b\u043a, \u0430\u0433\u0430. \u041e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0431\u0430\u0439\u0435\u0441\u043e\u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435?<\/p>\n<p>  \u041e\u0442\u043f\u0440\u0430\u0432\u043d\u0430\u044f \u0442\u043e\u0447\u043a\u0430 \u0437\u0434\u0435\u0441\u044c \u0442\u0430\u043a\u0430\u044f: \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28w%20%7C%20%5Ctheta%29\"\/> (\u0432\u043e\u0442 \u0433\u0434\u0435 \u043d\u0430\u043c \u043f\u0440\u0438\u0433\u043e\u0434\u0438\u043b\u0441\u044f \u0441\u0438\u043c\u0432\u043e\u043b \u0442\u0435\u0442\u044b \u2014 \u044d\u0442\u043e \u0431\u0443\u0434\u0443\u0442 \u043d\u0430\u0448\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f), \u0438 \u043f\u0443\u0441\u0442\u044c \u043e\u043d\u0430 \u0431\u0443\u0434\u0435\u0442 \u043a\u0430\u043a\u043e\u0439-\u043d\u0438\u0431\u0443\u0434\u044c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0444\u043e\u0440\u043c\u044b, \u0442\u043e\u0436\u0435 \u0413\u0430\u0443\u0441\u0441\u043e\u0432\u043e\u0439, \u0441\u043a\u0430\u0436\u0435\u043c. \u0422\u0440\u044e\u043a \u0432\u043e\u0442 \u0432 \u0447\u0435\u043c: \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u0437\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043a\u0430\u043a\u043e\u0439-\u043d\u0438\u0431\u0443\u0434\u044c \u00ab\u0434\u0438\u0441\u0442\u0430\u043d\u0446\u0438\u0438\u00bb \u043e\u0442 \u043d\u0430\u0448\u0435\u0439 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0434\u043e \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0433\u043e\u0440\u044b, \u0438 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u044d\u0442\u0443 \u0434\u0438\u0441\u0442\u0430\u043d\u0446\u0438\u044e. \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043e\u0431\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u2014 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439, \u0437\u0430\u044e\u0437\u0430\u0435\u043c \u0448\u0442\u0443\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u0434\u0443\u043c\u0430\u043b\u0438 \u0434\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439: <a href=\"https:\/\/en.wikipedia.org\/wiki\/Kullback%E2%80%93Leibler_divergence\">\u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u041a\u0443\u043b\u044c\u0431\u0430\u043a\u0430-\u041b\u0435\u0439\u0431\u043b\u0435\u0440\u0430<\/a>. \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u044d\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0432\u0443\u0447\u0438\u0442 \u0441\u043b\u0435\u0433\u043a\u0430 \u0441\u0442\u0440\u0430\u0448\u043d\u043e, \u0430 \u0442\u0430\u043a \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0432\u043e\u0442 \u0447\u0442\u043e:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0AKL%5Bq%28w%20%7C%20%5Ctheta%29%20%7C%7C%20P%28w%20%7C%20D%29%5D%20%3D%20%5Cint_%7Bw%7D%20q%28w%20%7C%20%5Ctheta%29%20%5Clog%20%5Cfrac%7Bq%28w%20%7C%20%5Ctheta%29%7D%7BP%28w%20%7C%20D%29%7D%20dw%0A\"\/><\/div>\n<p>  \u0415\u0441\u043b\u0438 \u0432\u043d\u0438\u043c\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0440\u0435\u0442\u044c \u043d\u0430 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b, \u0442\u043e \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u043e\u043d \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043a\u0430\u043a <a href=\"https:\/\/en.wikipedia.org\/wiki\/Expected_value\">\u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435<\/a> \u2014 \u043f\u043e\u0434 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b\u043e\u043c \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u0448\u0442\u0443\u043a\u0430, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u0430\u044f \u043d\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28w%20%7C%20%5Ctheta%29\"\/>, \u0430 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b \u0432\u0437\u044f\u0442 \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>. \u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0435\u0433\u043e \u0442\u0430\u043a:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0AE_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5B%5Clog%20%5Cfrac%7Bq%28w%20%7C%20%5Ctheta%29%7D%7BP%28w%20%7C%20D%29%7D%5D%0A\"\/><\/div>\n<p>  \u0415\u0434\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435: \u0432 \u0437\u043d\u0430\u043c\u0435\u043d\u0430\u0442\u0435\u043b\u0435 \u0443 \u043d\u0430\u0441 \u0441\u0442\u043e\u0438\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28w%20%7C%20D%29\"\/>, \u0430 \u043c\u044b \u0437\u043d\u0430\u0435\u043c, \u0447\u0442\u043e \u043f\u043e \u0442\u0435\u043e\u0440\u0435\u043c\u0435 \u0411\u0430\u0439\u0435\u0441\u0430 \u043e\u043d\u043e \u0440\u0430\u0432\u043d\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cfrac%7BP%28D%20%7C%20w%29P%28w%29%7D%7BP%28D%29%7D\"\/>. \u0417\u0430\u0441\u0443\u043d\u0435\u043c \u044d\u0442\u043e \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043f\u043e\u0432\u044b\u0448\u0435 \u0438 \u0437\u0430\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u043f\u043e\u0434 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435\u043c \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%29\"\/> \u2014 \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q\"\/>, \u0438 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0435\u0433\u043e \u0438\u0437-\u043f\u043e\u0434 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u0432\u044b\u043d\u0435\u0441\u0442\u0438:  <\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0AE_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5B%5Clog%20%5Cfrac%7Bq%28w%20%7C%20%5Ctheta%29P%28D%29%7D%7BP%28D%20%7C%20w%29P%28w%29%7D%5D%20%3D%20E_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5B%5Clog%20%5Cfrac%7Bq%28w%20%7C%20%5Ctheta%29%7D%7BP%28D%20%7C%20w%29P%28w%29%7D%5D%20%2B%20%5Clog%20P%28D%29%0A\"\/><\/div>\n<p>  \u042d\u0442\u043e \u043c\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u043a\u0440\u0443\u0442\u0443\u044e \u0432\u0435\u0449\u044c. \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u0432\u044b \u043d\u0435 \u0437\u0430\u0431\u044b\u043b\u0438, \u0432\u0441\u044f \u044d\u0442\u0430 \u0448\u0442\u0443\u043a\u0430 \u0440\u0430\u0432\u043d\u0430 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0438 \u043d\u0430\u0448\u0435\u0439 \u0433\u043e\u0440\u044b. \u0423\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c\u044b\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c \u0437\u0434\u0435\u0441\u044c \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/>, \u0438 \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u043f\u043e\u0434\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0435\u0435 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439. \u0422\u0430\u043a \u0432\u043e\u0442, \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u044d\u0442\u043e\u0439 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430\u043c \u043d\u0435 \u043d\u0430\u0434\u043e \u0431\u0435\u0441\u043f\u043e\u043a\u043e\u0438\u0442\u044c\u0441\u044f \u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%29\"\/><br \/>   \u2014 \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043d\u043e \u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/>. \u0410 \u044d\u0442\u043e, \u043c\u0435\u0436\u0434\u0443 \u043f\u0440\u043e\u0447\u0438\u043c, \u0431\u044b\u043b \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u043d\u0430\u0448\u0435\u0433\u043e posterior \u2014 \u0447\u0442\u043e\u0431\u044b \u0435\u0433\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u043d\u0430\u043c \u043a\u0430\u043a \u0440\u0430\u0437 \u0438 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u043e\u0431\u043e\u0439\u0442\u0438 \u0432\u0441\u0435 \u0442\u043e\u0447\u043a\u0438 \u0433\u043e\u0440\u044b \u0438 \u0441\u043b\u043e\u0436\u0438\u0442\u044c \u0438\u0445 \u0432\u043c\u0435\u0441\u0442\u0435 (\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/P%28D%29%20%3D%20%5Cint_%7Bw%7DP%28D%20%7C%20w%29P%28w%29dw\"\/>, \u0441\u0443\u043c\u043c\u0430 \u043f\u043e \u0432\u0441\u0435\u043c <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>, \u0438 \u0435\u0433\u043e \u043f\u043e-\u0434\u0440\u0443\u0433\u043e\u043c\u0443 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c).<\/p>\n<p>  \u041e\u0434\u043d\u0430\u043a\u043e, \u0435\u0434\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435. \u041d\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u043f\u043e\u0438\u0441\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c:<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0Aargmin%20%5C%3A%20E_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5B%5Clog%20%5Cfrac%7Bq%28w%20%7C%20%5Ctheta%29%7D%7BP%28D%20%7C%20w%29P%28w%29%7D%5D%20%3D%20argmin%20%5C%3A%20E_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5B%5Clog%20q%28w%20%7C%20%5Ctheta%29%20-%20%5Clog%20P%28D%20%7C%20w%29%20-%20%5Clog%20P%28w%29%5D%0A\"\/><\/div>\n<p>  \u041a\u0430\u043a \u043c\u044b \u043e\u0431\u044b\u0447\u043d\u043e \u0438\u0449\u0435\u043c \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u044b? \u041d\u0443, \u043c\u044b \u0431\u0435\u0440\u0435\u043c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u0438 \u0434\u0435\u043b\u0430\u0435\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a. \u0415\u0441\u0442\u044c \u0438\u0434\u0435\u0438, \u043a\u0430\u043a \u0432\u0437\u044f\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043e\u0442 \u044d\u0442\u043e\u0439 \u0444\u0438\u0433\u043d\u0438? \u0423 \u043c\u0435\u043d\u044f \u043f\u043e\u043a\u0430 \u0447\u0442\u043e-\u0442\u043e \u043d\u0435 \u043e\u0447\u0435\u043d\u044c.<\/p>\n<h4>Bayes by backprop: \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435<\/h4>\n<p>  \u0422\u0443\u0442 \u043d\u0430\u0441\u0442\u0443\u043f\u0430\u0435\u0442 \u0447\u0430\u0441\u0442\u044c, \u0432 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u0442\u0430\u043a \u0438 \u043d\u0435 \u0441\u043c\u043e\u0433 \u0438\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u043e \u0432\u044a\u0435\u0445\u0430\u0442\u044c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0441\u0446\u0435\u043f\u0438\u0442\u044c \u0437\u0443\u0431\u044b \u0438 \u0441\u043b\u0435\u0434\u0438\u0442\u044c \u0437\u0430 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u043e\u0439. \u0427\u0430\u0441\u0442\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043d\u0430\u043c \u0432\u0437\u044f\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f reparametrization trick, \u0438 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0448\u0430\u0433\u043e\u0432:<\/p>\n<ol>\n<li>\u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u0432\u0437\u044f\u043b\u0438 \u043c\u044b \u043a\u0430\u043a\u0443\u044e-\u0442\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u0443\u044e \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cepsilon\"\/>. \u041d\u0438\u0447\u0435\u0433\u043e \u043c\u044b \u043f\u0440\u043e \u043d\u0435\u0435 \u043d\u0435 \u0437\u043d\u0430\u0435\u043c, \u043a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u044b\u0431\u0440\u0430\u043d\u0430 \u043e\u043d\u0430 \u0442\u0430\u043a, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28%5Cepsilon%29d%5Cepsilon%20%3D%20q%28w%20%7C%20%5Ctheta%29d%20%5Ctheta\"\/>. \u0412\u043e\u0442 \u0442\u0430\u043a\u043e\u0435 \u0443 \u043d\u0435\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e, \u0438 \u0432\u0441\u0435 \u043f\u043e\u043a\u0430 \u043f\u0440\u043e \u043d\u0435\u0435.<\/li>\n<li>\u0412\u043e\u043e\u0431\u0449\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u043e\u0442 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u043d\u0435 \u0442\u0430\u043a \u0441\u0442\u0440\u0430\u0448\u043d\u0430, \u043a\u0430\u043a \u043a\u0430\u0436\u0435\u0442\u0441\u044f: \u044d\u0442\u043e \u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u043e\u0442 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b\u0430, \u0442\u043e \u0435\u0441\u0442\u044c, \u0433\u0440\u0443\u0431\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u043e\u0442 \u0441\u0443\u043c\u043c\u044b, \u0433\u0434\u0435 \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0438\u0434\u0435\u0442 \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>. \u0421\u0430\u043c\u043e \u043f\u043e \u0441\u0435\u0431\u0435 \u043d\u0435 \u0441\u0442\u0440\u0430\u0448\u043d\u043e, \u043d\u043e \u043d\u0443\u0434\u043d\u043e, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u044b \u043e\u043f\u044f\u0442\u044c \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c\u0441\u044f \u043a \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0435 \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c \u00ab\u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0432 \u043a\u0443\u0447\u0443 \u0432\u0441\u0435 \u0442\u043e\u0447\u043a\u0438 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e \u0440\u0430\u0441\u0442\u0443\u0449\u0435\u0433\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>\u00bb. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0432 \u043e\u0431\u0449\u0435\u043c \u0432\u0438\u0434\u0435, \u0447\u0442\u043e \u043f\u043e\u0434 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435\u043c \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28w%2C%20%5Ctheta%29\"\/>, \u0438 \u043d\u0430\u043f\u0438\u0448\u0435\u043c \u043d\u0430\u0448\u0443 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e:<\/li>\n<\/ol>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%5Cfrac%7B%5Cpartial%7D%7B%5Cpartial%20%5Ctheta%7DE_%7Bq%28w%20%7C%20%5Ctheta%29%7D%5Bf%28w%2C%20%5Ctheta%29%5D%20%3D%20%5Cfrac%7B%5Cpartial%7D%7B%5Cpartial%20%5Ctheta%7D%20%5Cint_%7Bw%7D%20f%28w%2C%20%5Ctheta%29%20q%28w%20%7C%20%5Ctheta%29%20dw%0A\"\/><\/div>\n<p>  \u041d\u0438\u0447\u0435\u0433\u043e \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0433\u043e \u043c\u044b \u043d\u0435 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u2014 \u043f\u0440\u043e\u0441\u0442\u043e \u0440\u0430\u0441\u043a\u0440\u044b\u043b\u0438 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043f\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0438\u0437 \u0432\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u0438, \u0437\u0430\u043f\u0438\u0441\u0430\u043b\u0438 \u0435\u0433\u043e \u043e\u043f\u044f\u0442\u044c \u0432 \u0432\u0438\u0434\u0435 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b\u0430. \u041d\u043e \u043f\u043e\u0433\u043e\u0434\u0438\u0442\u0435, \u0432\u0438\u0434\u0438\u0442\u0435 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28w%20%7C%20%5Ctheta%29%20dw\"\/> \u0432 \u043a\u043e\u043d\u0446\u0435? \u041c\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0442\u043e \u0441\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u043e\u043d\u043e \u0440\u0430\u0432\u043d\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28%5Cepsilon%29d%5Cepsilon\"\/>. \u0418-\u0438\u0438\u0438\u2026<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%5Cfrac%7B%5Cpartial%7D%7B%5Cpartial%20%5Ctheta%7D%20%5Cint_%7Bw%7D%20f%28w%2C%20%5Ctheta%29%20q%28w%20%7C%20%5Ctheta%29%20dw%20%3D%20%5Cfrac%7B%5Cpartial%7D%7B%5Cpartial%20%5Ctheta%7D%20%5Cint_%7Bw%7D%20f%28w%2C%20%5Ctheta%29%20q%28%5Cepsilon%29%20d%20%5Cepsilon%0A\"\/><\/div>\n<p>  \u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u0448 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043f\u043e \u044d\u043f\u0441\u0438\u043b\u043e\u043d\u0443, \u0430 \u0437\u043d\u0430\u0447\u0438\u0442, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u0430\u0433\u043d\u0430\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/><br \/>  \u043f\u043e\u0434 \u0437\u043d\u0430\u043a \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b\u0430.<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%5Cint_%7Bw%7D%20%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20%5Ctheta%7D%20q%28%5Cepsilon%29%20d%20%5Cepsilon%20%3D%20E_%7Bq%28%5Cepsilon%29%7D%5B%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20%5Ctheta%7D%5D%0A\"\/><\/div>\n<p>  \u0412\u043e\u0442 \u043e\u043d reparametrization trick: \u0431\u044b\u043b\u0430 \u0443 \u043d\u0430\u0441 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u043e\u0442 \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f, \u0441\u0442\u0430\u043b\u043e \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u043e\u0442 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439. \u041a\u0440\u0443\u0442\u043e? \u041f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u044e, \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u0432\u044b \u0435\u0449\u0435 \u0441\u043b\u0435\u0434\u0443\u0435\u0442\u0435 \u0437\u0430 \u043c\u043e\u0438\u043c\u0438 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0432\u0435\u0434\u0435\u043d\u0438\u044f\u043c\u0438 \u043f\u0430\u043b\u044c\u0446\u0435\u043c \u043f\u043e \u0441\u0442\u0440\u043e\u0447\u043a\u0430\u043c, \u0442\u043e \u0432\u0430\u043c \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043a\u0440\u0443\u0442\u043e, \u0438 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c, \u0434\u0430\u0436\u0435 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c \u2014 \u043e\u0434\u0438\u043d \u0444\u0438\u0433 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>, \u0447\u0435\u0433\u043e \u043c\u044b \u0434\u043e\u0431\u0438\u043b\u0438\u0441\u044c \u0432\u043e\u043e\u0431\u0449\u0435?<\/p>\n<p>  \u0421\u0443\u0442\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u044d\u0442\u043e\u0442 \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u043b \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0442\u043e\u0447\u043a\u0430\u0445 (\u0441\u044d\u043c\u043f\u043b\u0430\u043c\u0438). \u0410 \u0440\u0430\u043d\u044c\u0448\u0435 \u043d\u0435 \u043c\u043e\u0433\u043b\u0438. \u0420\u0430\u043d\u044c\u0448\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043d\u0443\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0432\u0437\u044f\u0442\u044c \u043e\u0442 <em>\u0432\u0441\u0435\u0439<\/em> \u0441\u0443\u043c\u043c\u044b: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0432\u043c\u0435\u0441\u0442\u0435 \u043a\u0443\u0447\u0443 \u0442\u043e\u0447\u0435\u043a, \u0430 \u043f\u043e\u0442\u043e\u043c \u0435\u0435 \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u0438 \u0442\u0430\u043c \u043b\u044e\u0431\u0430\u044f \u043d\u0435\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u043d\u0438\u0438 \u043c\u043e\u0433\u043b\u0430 \u0443\u0432\u0435\u0441\u0442\u0438 \u043d\u0430\u0441 \u043f\u0440\u0438 \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0434\u0430\u043b\u0435\u043a\u043e-\u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0432 \u0442\u0443 \u0441\u0442\u043e\u0440\u043e\u043d\u0443. \u0410 \u0442\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432 \u0442\u043e\u0447\u043a\u0430\u0445, \u0430 \u0443\u0436\u0435 <em>\u043f\u043e\u0442\u043e\u043c<\/em> \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u2014 \u0438 \u0437\u043d\u0430\u0447\u0438\u0442, \u0432\u043f\u043e\u043b\u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u043e\u0431\u043e\u0439\u0442\u0438\u0441\u044c \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e\u0439 \u0441\u0443\u043c\u043c\u043e\u0439.<\/p>\n<p>  \u0412\u043e\u0442 \u0442\u0430\u043a\u0438\u0435 \u0441\u0443\u0440\u043e\u0432\u044b\u0435 \u043f\u043e\u0440\u044f\u0434\u043a\u0438 \u0432 \u043c\u0438\u0440\u0435 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u043d\u043e\u0433\u043e \u0432\u044b\u0432\u043e\u0434\u0430: \u0442\u0443\u0442 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u044b \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438, \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u044c <em>\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e<\/em>, \u0434\u0430\u0436\u0435 \u043d\u0435 \u0441\u0430\u043c\u043e posterior-\u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435. \u041d\u0443 \u043d\u0438\u0447\u0435\u0433\u043e, \u043c\u044b \u043f\u043e\u0447\u0442\u0438 \u0443 \u0446\u0435\u043b\u0438.<\/p>\n<h4>Bayes by backprop: \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c<\/h4>\n<p>  \u0414\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u043c\u044b \u043e\u0442\u043d\u043e\u0441\u0438\u043b\u0438\u0441\u044c \u043a <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/> \u043a\u0430\u043a \u043a \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u043c \u00ab\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u00bb: \u043f\u0440\u0438\u0448\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u0438\u0445 \u0443\u0442\u043e\u0447\u043d\u0438\u0442\u044c. \u041f\u0443\u0441\u0442\u044c \u043d\u0430\u0448\u0430 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28w%20%7C%20%5Ctheta%29\"\/> \u0431\u0443\u0434\u0435\u0442 \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u043e\u0439: \u0442\u043e\u0433\u0434\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta\"\/> \u0432 \u0432\u0438\u0434\u0435 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmu\"\/> \u2014 \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0438 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Csigma\"\/> \u2014 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0433\u043e \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u044f. \u0415\u0449\u0435 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cepsilon\"\/> \u2014 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0435\u0433\u043e \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u043e\u0439 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0439 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u043e\u0439 \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c \u0432 \u043d\u0443\u043b\u0435 \u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u043c \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435\u043c 1, \u0442.\u0435. <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmathcal%7BN%7D%280%2C%201%29\"\/>. \u0422\u043e\u0433\u0434\u0430 \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u043b\u043e\u0441\u044c \u0443\u0441\u043b\u043e\u0432\u0438\u044f \u0434\u043b\u044f \u0440\u0435\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u0438, \u043f\u0443\u0441\u0442\u044c<\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/w%3D%5Cmu%20%2B%20%5Csigma%20%5Ccirc%20%5Cepsilon\"\/><\/div>\n<p>  (<img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ccirc\"\/> \u0437\u0434\u0435\u0441\u044c \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u043e\u0435 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435). \u0414\u043b\u044f \u043c\u0435\u043d\u044f, \u043f\u0440\u0430\u0432\u0434\u0430, \u0442\u0443\u0442 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u043f\u043e\u0447\u0435\u043c\u0443 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28w%20%7C%20%5Ctheta%29d%5Ctheta%3Dq%28%5Cepsilon%29d%5Cepsilon\"\/> (\u0435\u0441\u043b\u0438 \u043a\u0442\u043e-\u043d\u0438\u0431\u0443\u0434\u044c \u0441\u043c\u043e\u0436\u0435\u0442 \u043d\u0430 \u043f\u0430\u043b\u044c\u0446\u0430\u0445 \u043e\u0431\u044a\u044f\u0441\u043d\u0438\u0442\u044c \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0445 \u2014 \u0431\u0443\u0434\u0443 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u0435\u043d), \u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043c \u044d\u0442\u043e\u0442 \u043a\u0443\u0441\u043e\u0447\u0435\u043a \u0441\u0442\u0430\u0442\u044c\u0438 \u043d\u0430 \u0432\u0435\u0440\u0443.<\/p>\n<p>  \u0418\u0442\u043e\u0433\u043e \u043d\u0430\u0448\u0435 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0431\u0430\u0439\u0435\u0441\u043e\u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0448\u0430\u0433\u043e\u0432:<\/p>\n<ol>\n<li>\u041d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmu\"\/> \u0438 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Csigma\"\/> \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 (\u0438\u043b\u0438 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0430 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438)<\/li>\n<li>\u0421\u044d\u043c\u043f\u043b\u0438\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cepsilon\"\/> \u0438\u0437 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmathcal%7BN%7D%280%2C%201%29\"\/> <\/li>\n<li>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0438\u0437 \u043d\u0435\u0433\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w%3D%5Cmu%20%2B%20%5Csigma%20%5Ccirc%20%5Cepsilon\"\/>  <\/li>\n<li>\u0412\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u043c \u043d\u0430\u0448\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0434\u0438\u0441\u0442\u0430\u043d\u0446\u0438\u0438 \u043c\u0435\u0436\u0434\u0443 \u00ab\u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0439 \u0433\u043e\u0440\u043e\u0439\u00bb \u0438 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0435\u0439. \u041c\u044b \u043e\u0434\u043d\u0430\u0436\u0434\u044b \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u043b\u0438 \u0435\u0435 \u043a\u0430\u043a <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28w%2C%20%5Ctheta%29\"\/>, \u043d\u043e \u043f\u043e-\u0445\u043e\u0440\u043e\u0448\u0435\u043c\u0443 \u044d\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Clog%20q%28w%20%7C%20%5Ctheta%29%20-%20%5Clog%20P%28D%20%7C%20w%29%20-%20%5Clog%20P%28w%29\"\/>. \u042f \u0435\u0435 \u043d\u0438\u0436\u0435 \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0430\u043f\u0438\u0448\u0443 \u043a\u0430\u043a <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f%28w%2C%20%5Ctheta%29\"\/>, \u0442\u0430\u043a \u043f\u0440\u043e\u0449\u0435 (\u0434\u0435\u0440\u0436\u0438\u043c \u0432 \u0433\u043e\u043b\u043e\u0432\u0435, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Ctheta%3D%28%5Cmu%2C%20%5Csigma%29\"\/>).<\/li>\n<li>\u0421\u0447\u0438\u0442\u0430\u0435\u043c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmu\"\/>. \u042d\u0442\u043e \u0431\u0443\u0434\u0435\u0442:\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20%5CDelta_%7B%5Cmu%7D%20%3D%20%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20w%7D%20%2B%20%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20%5Cmu%7D%0A\"\/><\/div>\n<p>  (\u043e\u0442\u043a\u0443\u0434\u0430 \u043f\u043b\u044e\u0441? \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/f\"\/> \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043e\u0442 \u0434\u0432\u0443\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445, \u0438 \u043e\u0431\u0435 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043e\u0442 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cmu\"\/>)  <\/li>\n<li>\u0421\u0447\u0438\u0442\u0430\u0435\u043c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043f\u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Csigma\"\/>:\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20%5CDelta_%7B%5Csigma%7D%20%3D%20%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20w%7D%20%5Cepsilon%20%2B%20%5Cfrac%7B%5Cpartial%20f%28w%2C%20%5Ctheta%29%7D%7B%5Cpartial%20%5Csigma%7D%0A\"\/><\/div>\n<\/li>\n<li>\u0415\u0441\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0435 \u2014 \u0434\u0435\u043b\u043e \u0444\u0438\u0433\u0443\u0440\u0430\u043b\u044c\u043d\u043e \u0432 \u0448\u043b\u044f\u043f\u0435. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u0442\u0430\u0440\u044b\u0439 \u0434\u043e\u0431\u0440\u044b\u0439 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a:\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/%0A%20%20%20%20%5Cmu%20%5Cleftarrow%20%20%5Cmu%20-%20%5Calpha%20%5CDelta_%7B%5Cmu%7D%20%5C%5C%0A%20%20%20%20%5Csigma%20%5Cleftarrow%20%20%5Csigma%20-%20%5Calpha%20%5CDelta_%7B%5Csigma%7D%0A\"\/><\/div>\n<\/li>\n<\/ol>\n<h4>\u041a\u0430\u043a\u0438\u0435-\u043d\u0438\u0431\u0443\u0434\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/h4>\n<p>  \u041d\u0435 \u0437\u043d\u0430\u044e \u043a\u0430\u043a \u0432\u0430\u043c, \u0430 \u043c\u043d\u0435 \u0443\u0436\u0435 \u043d\u0430\u0434\u043e\u0435\u043b \u044d\u0442\u043e\u0442 \u0447\u0435\u0440\u043d\u043e-\u0436\u0435\u043b\u0442\u044b\u0439 \u043f\u0443\u0447\u043e\u043a, \u0442\u0430\u043a \u0447\u0442\u043e \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u044d\u0442\u0443 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0441\u0442\u0430\u0434\u0438\u044e \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0447\u0442\u043e-\u043d\u0438\u0431\u0443\u0434\u044c \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0445\u043e\u0436\u0435\u0435 \u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0441\u0438\u043c\u043f\u0430\u0442\u0438\u0447\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043d\u0430 MNIST-\u0446\u0438\u0444\u0440\u0430\u0445 \u0431\u0435\u0437 \u0432\u0441\u044f\u043a\u0438\u0445 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0438\u0437\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u0439 \u0442\u0438\u043f\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u2014 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u043a \u043d\u0438\u043c. \u0418 \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u043d\u0430\u0441\u0442\u0430\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u043e\u0442\u043b\u043e\u0436\u0438\u0442\u044c \u0441\u0438\u043c\u043f\u0430\u0442\u0438\u0447\u043d\u044b\u0439 autograd \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u043a\u0443 \u0438 \u0432\u043e\u043e\u0440\u0443\u0436\u0438\u0442\u044c\u0441\u044f \u0447\u0435\u043c-\u043d\u0438\u0431\u0443\u0434\u044c \u043f\u043e\u0442\u044f\u0436\u0435\u043b\u0435\u0435 \u0432\u0440\u043e\u0434\u0435 Theano. \u0414\u0430\u043b\u044c\u0448\u0435 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435\u043c\u043d\u043e\u0433\u043e Theano-\u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430, \u0442\u0430\u043a \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u0432\u044b \u0432 \u043d\u0435\u043c \u043d\u0435 \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u0442\u0435\u0441\u044c \u2014 \u0441\u043c\u0435\u043b\u043e \u043f\u0440\u043e\u043b\u0438\u0441\u0442\u044b\u0432\u0430\u0439\u0442\u0435.<\/p>\n<p>  \u0414\u043e\u0441\u0442\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435:<\/p>\n<pre><code class=\"python\">from sklearn.datasets import fetch_mldata from sklearn.cross_validation import train_test_split from sklearn import preprocessing  import numpy as np  mnist = fetch_mldata('MNIST original') N = 5000  data = np.float32(mnist.data[:]) \/ 255. idx = np.random.choice(data.shape[0], N) data = data[idx] target = np.int32(mnist.target[idx]).reshape(N, 1)  train_idx, test_idx = train_test_split(np.array(range(N)), test_size=0.05) train_data, test_data = data[train_idx], data[test_idx] train_target, test_target = target[train_idx], target[test_idx]  train_target = np.float32(preprocessing.OneHotEncoder(sparse=False).fit_transform(train_target)) <\/code><\/pre>\n<p>  \u041e\u0431\u044a\u044f\u0432\u043b\u044f\u0435\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0422\u0443\u0442 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0442\u0440\u044e\u043a, \u043f\u0440\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0435\u0441\u0442\u044c \u0432 \u0441\u0442\u0430\u0442\u044c\u0435, \u043d\u043e \u044f \u0441\u043e\u0437\u043d\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b. \u0414\u0435\u043b\u043e \u0432\u043e\u0442 \u0432 \u0447\u0435\u043c: \u0434\u043b\u044f \u043a\u0430\u0436\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u0441\u0435\u0442\u0438 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0434\u0432\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430 \u2014 \u043c\u044e \u0438 \u0441\u0438\u0433\u043c\u0430, \u0442\u0430\u043a? \u041d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0443\u0442\u044c \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e \u0441\u0438\u0433\u043c\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0443\u043b\u044f (\u044d\u0442\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0435 \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044e). \u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u043a\u0430\u043a \u0435\u0435 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c? \u041d\u0443, \u043c\u043e\u0436\u043d\u043e \u0432\u0437\u044f\u0442\u044c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0447\u0438\u0441\u043b\u0430 \u043e\u0442 \u0447\u0435\u0433\u043e-\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e\u0433\u043e \u043a \u043d\u0443\u043b\u044e (\u0442\u0438\u043f\u0430 0.0001) \u0434\u043e \u0435\u0434\u0438\u043d\u0438\u0446\u044b. \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u0430 \u043d\u0435 \u0437\u0430\u0435\u0434\u0435\u0442 \u043b\u0438 \u043e\u043d\u0430 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u043d\u0438\u0436\u0435 \u043d\u0443\u043b\u044f? \u041d\u0443, \u0432\u0440\u043e\u0434\u0435 \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u0430, \u0445\u043e\u0442\u044f \u0437\u0430 \u0441\u0447\u0435\u0442 \u0432\u0441\u044f\u043a\u0438\u0445 \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043d\u0435\u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u044f\u0442\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u0438. \u0412 \u043e\u0431\u0449\u0435\u043c, \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u0440\u0435\u0448\u0438\u0442\u044c \u044d\u0442\u043e \u044d\u043b\u0435\u0433\u0430\u043d\u0442\u043d\u043e \u2014 \u043c\u044b \u0437\u0430\u043c\u0435\u043d\u0438\u043c \u0441\u0438\u0433\u043c\u0443 \u043d\u0430 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u043e\u0442 \u0441\u0438\u0433\u043c\u044b, \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0443\u044e \u043f\u043e\u043f\u0440\u0430\u0432\u043a\u0443 \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0432\u0435\u0441\u043e\u0432:   <\/p>\n<div style=\"text-align:center;\"><img decoding=\"async\"  src=\"http:\/\/tex.s2cms.ru\/svg\/w%3D%5Cmu%20%2B%20%5Clog%20%28e%5E%7B%5Clog%20%5Csigma%7D%20%2B%201%29%20%20%5Ccirc%20%5Cepsilon\"\/><\/div>\n<p>  (\u0437\u0430\u0447\u0435\u043c \u0442\u0443\u0442 \u043f\u043e\u0434 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u043e\u043c +1? \u0432\u0438\u0434\u0438\u043c\u043e, \u0441 \u0442\u043e\u0439 \u0436\u0435 \u0446\u0435\u043b\u044c\u044e \u2014 \u0447\u0442\u043e\u0431\u044b \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u043d\u0435 \u0432\u0437\u044f\u0442\u044c \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u043e\u0442 \u043d\u0443\u043b\u044f).<\/p>\n<p>  \u0410, \u043d\u0443 \u0438 \u0440\u0430\u043d\u044c\u0448\u0435 \u043c\u044b \u0432\u0441\u0435 \u0432\u0440\u0435\u043c\u044f \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043e \u0432\u0435\u0441\u0430\u0445 \u043a\u0430\u043a \u043e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w\"\/>, \u043d\u043e \u0443 \u043d\u0430\u0441 \u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u044f\u0445 \u0447\u0430\u0441\u0442\u043e \u0441\u0432\u043e\u044f \u043d\u043e\u043c\u0435\u043d\u043a\u043b\u0430\u0442\u0443\u0440\u0430 \u2014 \u043d\u0443\u043b\u0435\u0432\u043e\u0439 \u0432\u0435\u0441, <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/w_%7B0%7D\"\/> \u0442\u0430\u043c \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/b\"\/> (bias). \u041d\u0435 \u0431\u0443\u0434\u0435\u043c \u043d\u0430\u0440\u0443\u0448\u0430\u0442\u044c \u0441\u043e\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435. \u0418\u0442\u0430\u043a:<\/p>\n<pre><code class=\"python\">def init(shape):     return np.asarray(         np.random.normal(0, 0.05, size=shape),         dtype=theano.config.floatX     )  n_input = train_data.shape[1]  # L1 n_hidden_1 = 200 W1_mu = theano.shared(value=init((n_input, n_hidden_1))) W1_logsigma = theano.shared(value=init((n_input, n_hidden_1))) b1_mu = theano.shared(value=init((n_hidden_1,))) b1_logsigma = theano.shared(value=init((n_hidden_1,)))  # L2 n_hidden_2 = 200 W2_mu = theano.shared(value=init((n_hidden_1, n_hidden_2))) W2_logsigma = theano.shared(value=init((n_hidden_1, n_hidden_2))) b2_mu = theano.shared(value=init((n_hidden_2,))) b2_logsigma = theano.shared(value=init((n_hidden_2,)))  # L3 n_output = 10 W3_mu = theano.shared(value=init((n_hidden_2, n_output))) W3_logsigma = theano.shared(value=init((n_hidden_2, n_output))) b3_mu = theano.shared(value=init((n_output,))) b3_logsigma = theano.shared(value=init((n_output,))) <\/code><\/pre>\n<p>  \u042d\u0442\u0443 \u043b\u043e\u0433\u0441\u0438\u0433\u043c\u0443 \u043d\u0430\u0434\u043e \u043a\u0430\u043a-\u0442\u043e \u0443\u043c\u0435\u0442\u044c \u0437\u0430\u043f\u0438\u0445\u0438\u0432\u0430\u0442\u044c \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u043f\u043e\u0434 \u043d\u0435\u0435 \u0441\u0432\u043e\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e. \u0417\u0430\u043e\u0434\u043d\u043e \u0438 \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043e\u0431\u044a\u044f\u0432\u0438\u043c:<\/p>\n<pre><code class=\"python\">def log_gaussian(x, mu, sigma):     return -0.5 * np.log(2 * np.pi) - T.log(T.abs_(sigma)) - (x - mu) ** 2 \/ (2 * sigma ** 2)   def log_gaussian_logsigma(x, mu, logsigma):     return -0.5 * np.log(2 * np.pi) - logsigma \/ 2. - (x - mu) ** 2 \/ (2. * T.exp(logsigma)) <\/code><\/pre>\n<p>  \u041d\u0430\u0441\u0442\u0430\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043d\u0430\u0448\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438. \u0414\u0435\u043b\u0430\u0435\u043c \u043c\u044b \u044d\u0442\u043e, \u043a\u0430\u043a \u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0438\u0441\u044c \u0440\u0430\u043d\u044c\u0448\u0435, \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433\u043e\u043c \u2014 \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u0440\u0443\u0442\u0438\u043c\u0441\u044f \u0432 \u0446\u0438\u043a\u043b\u0435, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0440\u0430\u043d\u0434\u043e\u043c\u043d\u043e-\u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0449\u0438\u0439 \u044d\u043f\u0441\u0438\u043b\u043e\u043d, \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0435\u0433\u043e \u0432 \u0432\u0435\u0441\u0430 \u0438 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u043c\u0435\u0441\u0442\u0435. \u0412\u043e\u043e\u0431\u0449\u0435 \u0434\u043b\u044f \u0446\u0438\u043a\u043b\u043e\u0432 \u0432 Theano \u0435\u0441\u0442\u044c scan, \u043d\u043e: 1) \u0435\u0433\u043e \u044f\u0432\u043d\u043e \u0440\u0430\u0437\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b \u043a\u043e\u043b\u043b\u0435\u043a\u0442\u0438\u0432 \u043c\u0430\u043d\u0438\u0430\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0438\u043d\u043a\u0432\u0438\u0437\u0438\u0442\u043e\u0440\u043e\u0432 \u0441 \u0446\u0435\u043b\u044c\u044e \u043a\u0430\u043a \u043c\u043e\u0436\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0441\u043b\u043e\u043c\u0430\u0442\u044c \u043c\u043e\u0437\u0433 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044e \u0438 2) \u0434\u043b\u044f \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u043d\u0430\u043c \u0438 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0446\u0438\u043a\u043b \u0441\u0433\u043e\u0434\u0438\u0442\u0441\u044f. \u0418\u0442\u043e\u0433\u043e:<\/p>\n<pre><code class=\"python\">n_samples = 10  log_pw, log_qw, log_likelihood = 0., 0., 0.  for _ in xrange(n_samples):      epsilon_w1 = get_random((n_input, n_hidden_1), avg=0., std=sigma_prior)     epsilon_b1 = get_random((n_hidden_1,), avg=0., std=sigma_prior)      W1 = W1_mu + T.log(1. + T.exp(W1_logsigma)) * epsilon_w1     b1 = b1_mu + T.log(1. + T.exp(b1_logsigma)) * epsilon_b1      epsilon_w2 = get_random((n_hidden_1, n_hidden_2), avg=0., std=sigma_prior)     epsilon_b2 = get_random((n_hidden_2,), avg=0., std=sigma_prior)      W2 = W2_mu + T.log(1. + T.exp(W2_logsigma)) * epsilon_w2     b2 = b2_mu + T.log(1. + T.exp(b2_logsigma)) * epsilon_b2      epsilon_w3 = get_random((n_hidden_2, n_output), avg=0., std=sigma_prior)     epsilon_b3 = get_random((n_output,), avg=0., std=sigma_prior)      W3 = W3_mu + T.log(1. + T.exp(W3_logsigma)) * epsilon_w3     b3 = b3_mu + T.log(1. + T.exp(b3_logsigma)) * epsilon_b3      a1 = nonlinearity(T.dot(x, W1) + b1)     a2 = nonlinearity(T.dot(a1, W2) + b2)     h = T.nnet.softmax(nonlinearity(T.dot(a2, W3) + b3))      sample_log_pw, sample_log_qw, sample_log_likelihood = 0., 0., 0.      for W, b, W_mu, W_logsigma, b_mu, b_logsigma in [(W1, b1, W1_mu, W1_logsigma, b1_mu, b1_logsigma),                                                      (W2, b2, W2_mu, W2_logsigma, b2_mu, b2_logsigma),                                                      (W3, b3, W3_mu, W3_logsigma, b3_mu, b3_logsigma)]:          # first weight prior         log_pw += log_gaussian(W, 0., sigma_prior).sum()         log_pw += log_gaussian(b, 0., sigma_prior).sum()          # then approximation         log_qw += log_gaussian_logsigma(W, W_mu, W_logsigma * 2).sum()         log_qw += log_gaussian_logsigma(b, b_mu, b_logsigma * 2).sum()      # then the likelihood     log_likelihood += log_gaussian(y, h, sigma_prior).sum()  log_qw \/= n_samples log_pw \/= n_samples log_likelihood \/= n_samples <\/code><\/pre>\n<p>  \u0424\u0443\u0445. \u0422\u0435\u043f\u0435\u0440\u044c \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c objective. \u0413\u0434\u0435-\u0442\u043e \u0432 \u044d\u0442\u043e\u043c \u043c\u0435\u0441\u0442\u0435 \u0432 \u043f\u043e\u0441\u0442\u0435 \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043f\u0430\u0443\u0437\u0430 \u043d\u0430 \u0434\u0432\u0435 \u043d\u0435\u0434\u0435\u043b\u0438, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e objective, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 (\u0447\u0442\u043e-\u0442\u043e \u0442\u0438\u043f\u0430 <code>(log_qw - log_pw - log_likelihood \/ M).sum()<\/code>) \u0443 \u043c\u0435\u043d\u044f \u043d\u0438\u0444\u0438\u0433\u0430 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u0438 \u0432\u044b\u0434\u0430\u0432\u0430\u043b \u043e\u0447\u0435\u043d\u044c \u043f\u043b\u043e\u0445\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b. \u041f\u043e\u0442\u043e\u043c \u0432 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043c\u043e\u043c\u0435\u043d\u0442 \u044f \u0441\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u043b \u0434\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u044c\u044e \u0434\u043e \u043a\u043e\u043d\u0446\u0430 \u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b, \u0447\u0442\u043e \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u043e\u0432\u0435\u0442\u0443\u044e\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441 \u043c\u0438\u043d\u0438\u0431\u0430\u0442\u0447\u0430\u043c\u0438 \u0438 \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0442\u044c objective \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u0422\u043e\u0447\u043d\u0435\u0435 \u0434\u0430\u0436\u0435 \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u043c:<\/p>\n<pre><code class=\"python\">objective = ((1. \/ n_batches) * (log_qw - log_pw) - log_likelihood).sum() \/ batch_size <\/code><\/pre>\n<p>  \u0417\u0430\u043e\u0434\u043d\u043e \u0441\u043e\u0432\u0435\u0442\u043e\u0432\u0430\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 Adam \u0432\u043c\u0435\u0441\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430. \u041d\u0438\u043a\u043e\u0433\u0434\u0430 \u0432 \u0436\u0438\u0437\u043d\u0438 \u0438\u043c \u043d\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0443\u0434\u0435\u0440\u0436\u0438\u043c\u0441\u044f \u043e\u0442 \u0441\u043e\u0431\u043b\u0430\u0437\u043d\u0430 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0435\u0433\u043e \u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e \u0438 \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u0433\u043e\u0442\u043e\u0432\u044b\u043c.<\/p>\n<pre><code class=\"python\">from lasagne.updates import adam  all_params = [     W1_mu, W1_logsigma, b1_mu, b1_logsigma,     W2_mu, W2_logsigma, b2_mu, b2_logsigma,     W3_mu, W3_logsigma, b3_mu, b3_logsigma ] updates = adam(objective, all_params, learning_rate=0.001) <\/code><\/pre>\n<p>  \u041d\u0443 \u0430 \u0434\u0430\u043b\u044c\u0448\u0435 \u0432\u0441\u0435 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e \u2014 train-\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0438 \u0438\u0434\u0435\u043c \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f. \u0412\u0435\u0441\u044c \u043a\u043e\u0434 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c <a href=\"https:\/\/gist.github.com\/rocknrollnerd\/c5af642cf217971d93f499e8f70fcb72\">\u0442\u0443\u0442<\/a>. \u0421\u0438\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043e\u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0442\u0430\u043c \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u043f\u0440\u0430\u0432\u0434\u0430, \u043d\u043e \u0438 \u0442\u043e \u0445\u043b\u0435\u0431.<\/p>\n<pre> epoch 0 cost 6.83701634889 Accuracy 0.764 epoch 1 cost -73.3193287832 Accuracy 0.876 epoch 2 cost -89.2973277879 Accuracy 0.9 epoch 3 cost -95.9793596695 Accuracy 0.924 epoch 4 cost -100.416764595 Accuracy 0.924 epoch 5 cost -104.000705026 Accuracy 0.928 epoch 6 cost -107.166556952 Accuracy 0.936 epoch 7 cost -110.469004896 Accuracy 0.928 epoch 8 cost -112.143595876 Accuracy 0.94 epoch 9 cost -113.680839646 Accuracy 0.948 <\/pre>\n<p>  \u041e\u0441\u0442\u0430\u0432\u043b\u044e <a href=\"http:\/\/arxiv.org\/pdf\/1505.05424v2.pdf\">\u0441\u0441\u044b\u043b\u043a\u0443 \u043d\u0430 \u0441\u0442\u0430\u0442\u044c\u044e<\/a>, \u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439, \u0435\u0449\u0435 \u0440\u0430\u0437, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0442\u0430\u043c \u043c\u043d\u043e\u0433\u043e \u0435\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0433\u043e: \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043e\u0442 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u043e\u043c \u043a \u0447\u0435\u043c\u0443-\u0442\u043e \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u043e\u043c\u0443, \u0438\u043b\u0438 \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u0430\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u044d\u0442\u0443 \u0448\u0442\u0443\u043a\u0443 \u0432 reinforcement learning (\u043d\u0443 \u044d\u0442\u043e \u0436\u0435 DeepMind, \u0432 \u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432).<\/p>\n<h4>Q&#038;A<\/h4>\n<p>  <\/p>\n<ol>\n<li>\u0422\u0430\u043c \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0432\u0435\u0437\u0434\u0435 \u0447\u0430\u0441\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u043b\u043e\u0432\u043e \u00ab\u0432\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439\u00bb, \u0430 \u0432 \u043f\u043e\u0441\u0442\u0435 \u043f\u0440\u043e \u044d\u0442\u043e \u043d\u0438\u0444\u0438\u0433\u0430 \u043d\u0435 \u0441\u043a\u0430\u0437\u0430\u043d\u043e.\n<p>  \u0422\u0443\u0442 \u044f, \u043a \u0441\u0442\u044b\u0434\u0443 \u0441\u0432\u043e\u0435\u043c\u0443, \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0441\u0442\u0435\u0441\u043d\u044f\u043b\u0441\u044f: \u0432 \u0441\u0432\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0432 \u0448\u043a\u043e\u043b\u0435 \u0443 \u043c\u0435\u043d\u044f \u043d\u0435 \u0431\u044b\u043b\u043e \u0432\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u0438\u0441\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438 \u044f \u0441\u043b\u0435\u0433\u043a\u0430 \u043e\u0441\u0442\u0435\u0440\u0435\u0433\u0430\u044e\u0441\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0435 \u0442\u0435\u0440\u043c\u0438\u043d\u044b, \u0442\u0435\u043c \u0431\u043e\u043b\u0435\u0435 \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438 \u0431\u0435\u0437 \u043d\u0438\u0445 \u043e\u0431\u043e\u0439\u0442\u0438\u0441\u044c. \u041d\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u0430: \u043f\u0440\u043e \u043f\u043e\u0434\u0445\u043e\u0434 \u0432 \u0446\u0435\u043b\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435 <a href=\"https:\/\/en.wikipedia.org\/wiki\/Variational_Bayesian_methods\">\u0432\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0411\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0438\u0445 \u043c\u0435\u0442\u043e\u0434\u043e\u0432<\/a>. \u041d\u0430 \u043f\u0430\u043b\u044c\u0446\u0430\u0445, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044f \u043f\u043e\u043d\u0438\u043c\u0430\u044e, \u0441\u043c\u044b\u0441\u043b \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u0430\u043a\u043e\u0439: \u0432\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u0438\u0441\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u0442\u0430\u043a \u0436\u0435, \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u043c\u0430\u0442\u0430\u043d\u0430\u043b\u0438\u0437 \u2014 \u0441 \u0447\u0438\u0441\u043b\u0430\u043c\u0438. \u0422\u043e \u0435\u0441\u0442\u044c \u0442\u0430\u043c, \u0433\u0434\u0435 \u043c\u044b \u0432 \u0448\u043a\u043e\u043b\u0435 \u0438\u0441\u043a\u0430\u043b\u0438 \u0442\u043e\u0447\u043a\u0443, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b\u0441\u044f \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0437\u0434\u0435\u0441\u044c \u043c\u044b \u0438\u0449\u0435\u043c <em>\u0444\u0443\u043d\u043a\u0446\u0438\u044e<\/em> (\u0442\u0443 \u0441\u0430\u043c\u0443\u044e <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/q%28%5Ctheta%29\"\/>), \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 KL-\u0434\u0438\u0432\u0435\u0440\u0433\u0435\u043d\u0446\u0438\u044e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440.<\/li>\n<li>\u0412 \u043f\u0440\u043e\u0448\u043b\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0431\u044b\u043b \u0432\u043e\u043f\u0440\u043e\u0441 \u2014 \u0430 \u043f\u0440\u0438 \u0447\u0435\u043c \u0442\u0443\u0442 <a href=\"https:\/\/en.wikipedia.org\/wiki\/Dropout_%28neural_networks%29\">dropout<\/a> \u0438 \u0432\u043e\u043e\u0431\u0449\u0435, \u0441\u0432\u044f\u0437\u0430\u043d \u043b\u0438 \u043e\u043d \u043a\u0430\u043a-\u0442\u043e \u0441\u043e \u0432\u0441\u0435\u043c \u044d\u0442\u0438\u043c \u0434\u0435\u043b\u043e\u043c?\n<p>  \u0415\u0449\u0435 \u043a\u0430\u043a. \u0414\u0440\u043e\u043f\u0430\u0443\u0442 \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u043a \u0434\u0435\u0448\u0435\u0432\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u043e\u0441\u0442\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0437\u0430\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u0430\u044f. \u0418\u0434\u0435\u044f \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0432\u0441\u0435 \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0438 \u0441 \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044f\u043c\u0438, \u043f\u0440\u043e \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u0443\u043f\u043e\u043c\u0438\u043d\u0430\u043b \u0432 \u043a\u043e\u043d\u0446\u0435 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043f\u043e\u0441\u0442\u0430: \u0432\u043e\u0442 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0443 \u0432\u0430\u0441 \u0435\u0441\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c. \u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0432\u044b \u0431\u0435\u0440\u0435\u0442\u0435 \u0435\u0435, \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u043e\u0442\u0440\u044b\u0432\u0430\u0435\u0442\u0435 \u0435\u0439 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432, \u0438 \u043e\u0442\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0435 \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u043a\u0443. \u041f\u043e\u0441\u043b\u0435 ~1000 \u0442\u0430\u043a\u0438\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439 \u0432\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u0438\u0437 \u0442\u044b\u0441\u044f\u0447\u0438 \u0441\u0435\u0442\u0435\u0439, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u0430\u044f \u0441\u043b\u0435\u0433\u043a\u0430 \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u0434\u0440\u0443\u0433 \u043e\u0442 \u0434\u0440\u0443\u0433\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u041c\u044b \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u043c \u0438\u0445 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f, \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c, \u0447\u0442\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u044f \u043c\u0435\u0441\u0442\u0430\u043c\u0438 \u043a\u043e\u043c\u043f\u0435\u043d\u0441\u0438\u0440\u0443\u044e\u0442 \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430 \u0438 \u0434\u0430\u044e\u0442 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f. \u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0443 \u0432\u0430\u0441 \u0435\u0441\u0442\u044c \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u0441\u0435\u0442\u044c, \u0438 \u0432\u044b \u0442\u044b\u0441\u044f\u0447\u0443 \u0440\u0430\u0437 \u0434\u043e\u0441\u0442\u0430\u0435\u0442\u0435 \u043d\u0430\u0431\u043e\u0440 \u0435\u0435 \u0432\u0435\u0441\u043e\u0432 \u0438\u0437 \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u0438, \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0442\u0430\u043a\u043e\u0439 \u0436\u0435 \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u0441\u043b\u0435\u0433\u043a\u0430 \u043e\u0442\u043b\u0438\u0447\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u0434\u0440\u0443\u0433 \u043e\u0442 \u0434\u0440\u0443\u0433\u0430 \u0441\u0435\u0442\u0435\u0439.<\/p>\n<p>  \u0427\u0435\u043c \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a\u0440\u0443\u0447\u0435 \u2014 \u043e\u043d \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u044d\u0442\u0443 \u0440\u0430\u043d\u0434\u043e\u043c\u043d\u043e\u0441\u0442\u044c \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u043c\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u0412\u043e\u0442 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u0435\u0449\u0435 \u0440\u0430\u0437 \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443:<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/files\/0ca\/a5c\/0fc\/0caa5c0fc56d417abd902b030d9df394.png\"\/><\/p>\n<p>  \u041a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441 \u0442\u0443\u0442 \u2014 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u0430\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430, \u043d\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0441\u0442\u0438 \u044d\u0442\u0438 \u0440\u0430\u0437\u043d\u044b\u0435. \u0413\u0434\u0435-\u0442\u043e \u043f\u0438\u043a \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u044b \u0441\u0438\u043b\u044c\u043d\u043e \u0441\u0434\u0432\u0438\u043d\u0443\u0442 \u0432\u043b\u0435\u0432\u043e, \u0433\u0434\u0435-\u0442\u043e \u0432\u043f\u0440\u0430\u0432\u043e, \u0433\u0434\u0435-\u0442\u043e \u043e\u043d \u0432 \u0446\u0435\u043d\u0442\u0440\u0435 \u0438 \u0438\u043c\u0435\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u044e. \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441 \u043f\u0440\u0438\u043e\u0431\u0440\u0435\u0442\u0430\u0435\u0442 \u0442\u0430\u043a\u0443\u044e \u0444\u043e\u0440\u043c\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u0434\u043b\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0441\u0435\u0442\u044c\u044e \u0441\u0432\u043e\u0435\u0439 \u0437\u0430\u0434\u0430\u0447\u0438. \u0422\u043e \u0435\u0441\u0442\u044c \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0432\u0430\u0436\u043d\u044b\u0439 \u0432\u0435\u0441, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0441\u0442\u0440\u043e\u0433\u043e \u0440\u0430\u0432\u0435\u043d \u0432\u043e\u043d \u0442\u043e\u043c\u0443-\u0442\u043e, \u0438\u043d\u0430\u0447\u0435 \u0432\u0441\u044f \u0441\u0435\u0442\u044c \u043f\u043e\u043b\u043e\u043c\u0430\u0435\u0442\u0441\u044f, \u0442\u043e \u043f\u0440\u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433\u0435 \u0432\u0435\u0441\u043e\u0432 \u044d\u0442\u043e\u0442 \u043d\u0435\u0439\u0440\u043e\u043d, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0435\u0433\u043e, \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u043d\u0430 \u043c\u0435\u0441\u0442\u0435. \u0412 \u0441\u043b\u0443\u0447\u0430\u0435 \u0441 \u0434\u0440\u043e\u043f\u0430\u0443\u0442\u043e\u043c \u043c\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e-\u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u0432\u0435\u0441\u0430, \u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u0442\u043e \u043c\u043e\u0436\u0435\u043c \u044d\u0442\u043e\u0442 \u0432\u0430\u0436\u043d\u044b\u0439 \u0432\u0435\u0441 \u0433\u0440\u043e\u0445\u043d\u0443\u0442\u044c. \u0414\u0440\u043e\u043f\u0430\u0443\u0442 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0437\u043d\u0430\u0435\u0442 \u043e \u0435\u0433\u043e \u00ab\u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438\u00bb, \u0434\u043b\u044f \u043d\u0435\u0433\u043e \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u044d\u0442\u043e \u0432\u044b\u0440\u0430\u0436\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0434\u0438\u043c\u043f\u0430\u0439\u043d\u0434\u043e\u0432\u0441\u043a\u0430\u044f \u0441\u0435\u0442\u044c \u0434\u0430\u0435\u0442 \u043b\u0443\u0447\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b, \u0447\u0435\u043c \u0441\u0435\u0442\u044c \u0441 \u0434\u0440\u043e\u043f\u0430\u0443\u0442\u043e\u043c, \u0445\u043e\u0442\u044c \u0438 \u043d\u0435\u043d\u0430\u043c\u043d\u043e\u0433\u043e.<\/p>\n<p>  \u0427\u0435\u043c \u0434\u0440\u043e\u043f\u0430\u0443\u0442 \u043a\u0440\u0443\u0447\u0435 \u2014 \u044d\u0442\u043e \u0442\u0435\u043c, \u0447\u0442\u043e \u043e\u043d \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u043e\u0439, \u043a\u043e\u043d\u0435\u0447\u043d\u043e.<\/li>\n<li>\u041d\u0430\u0444\u0438\u0433\u0430 \u0432\u044b \u0432\u043e\u043e\u0431\u0449\u0435 \u0432\u0441\u0435\u043c \u044d\u0442\u0438\u043c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442\u0435\u0441\u044c? \u041d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438, \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e, \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u044b \u043f\u043e \u043e\u0431\u0440\u0430\u0437\u0443 \u0438 \u043f\u043e\u0434\u043e\u0431\u0438\u044e \u0448\u0442\u0443\u043a\u043e\u0432\u0438\u043d \u0443 \u043d\u0430\u0441 \u0432 \u0433\u043e\u043b\u043e\u0432\u0435. \u0422\u0430\u043c-\u0442\u043e \u0443\u0436 \u044f\u0432\u043d\u043e \u043d\u0435\u0442 \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u044b\u0445 \u0432\u0435\u0441\u043e\u0432, \u0437\u0430\u0442\u043e \u0435\u0441\u0442\u044c \u043c\u043d\u043e\u0433\u043e \u0432\u0441\u0435\u0433\u043e, \u0447\u0442\u043e \u0432\u044b, \u043c\u0430\u0448\u0438\u043d\u043b\u0435\u0440\u043d\u0435\u0440\u044b, \u0432\u0447\u0438\u0441\u0442\u0443\u044e \u0438\u0433\u043d\u043e\u0440\u0438\u0440\u0443\u0435\u0442\u0435 (\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0444\u0430\u043a\u0442\u043e\u0440, \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u0441\u043f\u0430\u0439\u043a\u0438 \u0438 \u043f\u0440\u043e\u0447\u0430\u044f \u0431\u0438\u043e\u043b\u043e\u0433\u0438\u044f). \u0412\u044b\u043a\u0438\u043d\u044c\u0442\u0435 \u0441\u0432\u043e\u0438 \u0443\u0447\u0435\u0431\u043d\u0438\u043a\u0438 \u043f\u043e \u0442\u0435\u0440\u0432\u0435\u0440\u0443 \u0438 \u043f\u043e\u043a\u0430\u0439\u0442\u0435\u0441\u044c!\n<p>  \u0425\u043e\u0440\u043e\u0448\u0438\u0439 \u0441\u043f\u043e\u0441\u043e\u0431, \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043c\u043d\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f \u0434\u0443\u043c\u0430\u0442\u044c \u043f\u0440\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438, \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0432 \u0441\u0435\u0431\u044f \u0442\u0430\u043a\u0443\u044e \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0446\u0435\u043f\u043e\u0447\u043a\u0443:<\/p>\n<ul>\n<li>\u043b\u044e\u0434\u0438 \u0432 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043c\u043e\u043c\u0435\u043d\u0442 \u0437\u0430\u0434\u0443\u043c\u0430\u043b\u0438\u0441\u044c, \u0447\u0442\u043e \u0432\u0441\u044f\u043a\u043e\u0435 \u043c\u044b\u0448\u043b\u0435\u043d\u0438\u0435 \u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b \u0432 \u043c\u0438\u0440\u0435 \u043c\u043e\u0436\u043d\u043e \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u043e \u0446\u0435\u043f\u043e\u0447\u043a\u0430\u043c \u00ab\u043f\u0440\u0438\u0447\u0438\u043d\u0430-\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435\u00bb. \u0427\u0442\u043e-\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e, \u043f\u043e\u0442\u043e\u043c \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e \u0447\u0442\u043e-\u0442\u043e \u0435\u0449\u0435, \u0438 \u044d\u0442\u043e \u0432\u0441\u0435 \u0432\u043c\u0435\u0441\u0442\u0435 \u043f\u043e\u0432\u043b\u0438\u044f\u043b\u043e \u043d\u0430 \u0447\u0442\u043e-\u0442\u043e \u0442\u0440\u0435\u0442\u044c\u0435.<\/li>\n<li>\u043e\u043d\u0438 \u043d\u0430\u0447\u0430\u043b\u0438 \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0438\u043f\u0430 <a href=\"https:\/\/en.wikipedia.org\/wiki\/Bayesian_network\">\u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0438\u0445 \u0441\u0435\u0442\u0435\u0439<\/a> (\u043d\u0435 \u043f\u0443\u0442\u0430\u0442\u044c \u0441 \u0441\u0430\u0431\u0436\u0435\u043c), \u0438 \u043f\u043e\u043d\u044f\u043b\u0438, \u0447\u0442\u043e \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u043d\u0430 \u0432\u0441\u044f\u043a\u0438\u0435 \u0441\u0430\u043c\u044b\u0435 \u0440\u0430\u0437\u043d\u044b\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b (\u00ab\u0435\u0441\u043b\u0438 \u043d\u0430 \u0443\u043b\u0438\u0446\u0435 \u0441\u043e\u043b\u043d\u0435\u0447\u043d\u043e \u0438 \u0421\u0435\u0431\u0430\u0441\u0442\u044c\u044f\u043d \u0441\u0447\u0430\u0441\u0442\u043b\u0438\u0432, \u043a\u0430\u043a\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0421\u0435\u0431\u0430\u0441\u0442\u044c\u044f\u043d\u0443 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u044b\u0434\u0430\u043b\u0438 \u0437\u0430\u0440\u043f\u043b\u0430\u0442\u0443?\u00bb) \u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e.<\/li>\n<li>\u043d\u043e \u0432 \u0442\u0430\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0441\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0432\u0431\u0438\u0432\u0430\u0442\u044c \u0440\u0443\u043a\u0430\u043c\u0438. \u0412 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043c\u043e\u043c\u0435\u043d\u0442 \u043f\u0440\u0438\u0448\u0435\u043b <em>\u043a\u043e\u043d\u043d\u0435\u0446\u0438\u043e\u043d\u0438\u0437\u043c<\/em> \u0438 \u0441\u043a\u0430\u0437\u0430\u043b: \u0430 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0430\u0441\u043e\u0437\u0434\u0430\u0435\u043c \u043a\u0443\u0447\u0443 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0438 \u0441\u0432\u044f\u0436\u0435\u043c \u0438\u0445 \u0432\u0441\u0435 \u0434\u0440\u0443\u0433 \u0441 \u0434\u0440\u0443\u0433\u043e\u043c, \u0430 \u043f\u043e\u0442\u043e\u043c \u043a\u0430\u043a-\u0442\u043e \u043e\u0431\u0443\u0447\u0438\u043c \u044d\u0442\u0443 \u043c\u043e\u0434\u0435\u043b\u044c, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0430 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430.<\/li>\n<\/ul>\n<p>  \u0418 \u0432\u043e\u0442 \u0442\u0430\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u0438. \u041e\u043d\u0438 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 <em>\u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u044b<\/em> \u0431\u044b\u0442\u044c \u0442\u0430\u043a\u0438\u043c\u0438, \u043a\u0430\u043a \u043c\u043e\u043a\u0440\u044b\u0435 \u0431\u0438\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u0435\u0442\u0438 \u0443 \u043d\u0430\u0441 \u0432 \u0433\u043e\u043b\u043e\u0432\u0435. \u041e\u043d\u0438 \u0434\u0435\u043b\u0430\u044e\u0442\u0441\u044f \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0442\u0430\u043c \u0433\u0434\u0435-\u0442\u043e \u0443 \u0441\u0435\u0431\u044f \u0432\u043d\u0443\u0442\u0440\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u0443\u044e \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044e \u043f\u0440\u0438\u0447\u0438\u043d \u0438 \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0439 \u0432 \u0432\u0438\u0434\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0442\u044b\u043a\u0430\u044e\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u0432 \u0434\u0440\u0443\u0433\u043e\u0439. \u041a\u0430\u0436\u0434\u044b\u0439 \u043d\u0435\u0439\u0440\u043e\u043d \u0432\u043d\u0443\u0442\u0440\u0438 \u2014 \u044d\u0442\u043e \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u00ab\u0444\u0430\u043a\u0442\u043e\u0440\u00bb, \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f, \u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f \u0437\u0430 \u0447\u0442\u043e-\u0442\u043e, \u0438 \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u043c\u0430\u0433\u0438\u044f \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u0438 \u0444\u0430\u043a\u0442\u043e\u0440\u044b \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u043c\u0438.<\/p>\n<p>  \u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u044b\u0439 \u043d\u0435\u0439\u0440\u043e\u043d \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0430\u0448\u0435\u0439 \u0433\u043e\u043b\u043e\u0432\u044b? \u0414\u0430 \u0447\u0435\u0440\u0442 \u0435\u0433\u043e \u0437\u043d\u0430\u0435\u0442. \u041e\u0447\u0435\u043d\u044c \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c, \u0447\u0442\u043e \u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0433\u043e.<\/li>\n<li>\u0427\u0442\u043e \u0435\u0449\u0435 \u0435\u0441\u0442\u044c \u043f\u043e \u044d\u0442\u043e\u0439 \u0442\u0435\u043c\u0435?\n<p>  \u041e, \u043c\u043d\u043e\u0433\u043e \u0432\u0441\u0435\u0433\u043e:<\/p>\n<ul>\n<li><a href=\"http:\/\/arxiv.org\/pdf\/1312.6114v10.pdf\">\u0412\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0430\u0432\u0442\u043e\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b<\/a> \u2014 \u043f\u043e-\u043c\u043e\u0435\u043c\u0443, \u0447\u0443\u0442\u044c \u043b\u0438 \u043d\u0435 \u0441\u0430\u043c\u0430\u044f \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u0438 \u043f\u043e-\u0445\u043e\u0440\u043e\u0448\u0435\u043c\u0443, \u043d\u0430\u0434\u043e \u0431\u044b\u043b\u043e \u043d\u0430\u0447\u0430\u0442\u044c \u0441 \u043d\u0435\u0435, \u043d\u043e \u0443\u0436 \u043e\u0447\u0435\u043d\u044c \u043c\u043d\u0435 \u043f\u043e\u043d\u0440\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u044d\u0442\u0430.<\/li>\n<li>\u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0435\u0441\u043b\u0438 \u0437\u0430\u0433\u043b\u044f\u043d\u0443\u0442\u044c \u0447\u0443\u0442\u044c \u0433\u043b\u0443\u0431\u0436\u0435 \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0442\u043e \u0432\u0430\u0440\u0438\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0430\u043f\u043f\u0440\u043e\u043a\u0441\u0438\u043c\u0430\u0446\u0438\u0438 \u0442\u0430\u043c \u0442\u043e\u0440\u0447\u0430\u0442 \u0438\u0437 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0443\u0442\u044e\u0433\u0430. \u0421\u043a\u0430\u0436\u0435\u043c, \u0432 <a href=\"http:\/\/www.cs.toronto.edu\/~fritz\/absps\/dbm.pdf\">deep Bolztmann machine<\/a> (\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0441\u043e\u0431\u043e \u043d\u0438\u0433\u0434\u0435 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f, \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u043d\u043e \u044d\u043d\u0438\u0432\u0435\u0439), \u0438\u043b\u0438 \u0432 \u0448\u0442\u0443\u043a\u0435 \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c <a href=\"http:\/\/jmlr.csail.mit.edu\/proceedings\/papers\/v15\/larochelle11a\/larochelle11a.pdf\">NADE<\/a>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0435\u0440\u0435\u0434\u0435\u043b\u044b\u0432\u0430\u0435\u0442 \u043c\u0430\u0448\u0438\u043d\u0443 \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430 \u043d\u0430 \u044f\u0437\u044b\u043a\u0435 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438.<\/li>\n<li><a href=\"http:\/\/jmlr.org\/proceedings\/papers\/v33\/ranganath14.pdf\">Variational black box<\/a> \u2014 \u044f \u0434\u0430\u0436\u0435 \u043d\u0435 \u0437\u043d\u0430\u044e, \u0447\u0442\u043e \u044d\u0442\u043e, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f \u043d\u0430 \u043d\u0435\u0433\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044f \u043f\u043e\u0441\u0442, \u043d\u043e \u043c\u043d\u0435 \u0443\u0436\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0438 \u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0432\u043e \u0432\u0432\u0435\u0434\u0435\u043d\u0438\u0438.<\/li>\n<li><a href=\"http:\/\/arxiv.org\/pdf\/1502.04623v2.pdf\">DRAW<\/a>, \u0434\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u044f \u043d\u0438\u043a\u0430\u043a \u043d\u0435 \u0434\u043e\u0431\u0435\u0440\u0443\u0441\u044c \u0438 \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0442\u0440\u044f\u0441\u0430\u044e\u0449\u0435: \u0440\u0435\u043a\u0443\u0440\u0440\u0435\u043d\u0442\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441 attention-\u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u043c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u043e\u0436\u0435\u0442 \u0440\u0438\u0441\u043e\u0432\u0430\u0442\u044c \u0446\u0438\u0444\u0435\u0440\u043a\u0438 \u043a\u0430\u043a \u043a\u0430\u0440\u0430\u043d\u0434\u0430\u0448\u043e\u043c.<\/li>\n<li>\u0448\u0442\u0443\u043a\u0430 \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c <a href=\"http:\/\/arxiv.org\/pdf\/1507.02672v2.pdf\">Ladder Network<\/a>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u0442 supervised \u0438 unsupervised learning<\/li>\n<\/ul>\n<p>  <\/li>\n<\/ol>\n<div class=\"clear\"><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habrahabr.ru\/post\/280766\/\"> https:\/\/habrahabr.ru\/post\/280766\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>       \u041a\u0430\u043a \u0432\u044b \u0434\u0443\u043c\u0430\u0435\u0442\u0435, \u0447\u0435\u0433\u043e \u0432 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u2014 \u043a\u043e\u0436\u0443\u0440\u044b, \u0438\u043b\u0438, \u0445\u043c, \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430?<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/files\/571\/35a\/d1b\/57135ad1be644885a92efc0c9c44cf9b.jpg\"\/><\/p>\n<p>  \u041f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e, \u0435\u0441\u043b\u0438 \u0435\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c, \u043f\u043e\u0439\u0442\u0438 \u043d\u0430 \u043a\u0443\u0445\u043d\u044e, \u0432\u0437\u044f\u0442\u044c \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d, \u043e\u0447\u0438\u0441\u0442\u0438\u0442\u044c \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c. \u0415\u0441\u043b\u0438 \u043b\u0435\u043d\u044c \u0438\u043b\u0438 \u043d\u0435\u0442 \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0439 \u2014 \u0432\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u0441\u043a\u0443\u0447\u043d\u043e\u0439 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u043e\u0439: \u043e\u0431\u044a\u0435\u043c \u0448\u0430\u0440\u0430 \u043c\u044b \u043f\u043e\u043c\u043d\u0438\u043c \u0438\u0437 \u0448\u043a\u043e\u043b\u044b. \u041f\u0443\u0441\u0442\u044c, \u0441\u043a\u0430\u0436\u0435\u043c, \u0442\u043e\u043b\u0449\u0438\u043d\u0430 \u043a\u043e\u0436\u0443\u0440\u044b \u0440\u0430\u0432\u043d\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/%5Cfrac%7B1%7D%7B20%7D\"\/> \u043e\u0442 \u0440\u0430\u0434\u0438\u0443\u0441\u0430, \u0442\u043e\u0433\u0434\u0430 <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/V_%7B1%7D%3D%5Cfrac%7B4%7D%7B3%7D%5Cpi%20r%5E%7B3%7D\"\/>, <img decoding=\"async\" src=\"http:\/\/tex.s2cms.ru\/svg\/V_%7B2%7D%3D%5Cfrac%7B4%7D%7B3%7D%5Cpi%20%281.05%20r%29%5E%7B3%7D\"\/>; \u0432\u044b\u0447\u0442\u0435\u043c \u043e\u0434\u043d\u043e \u0438\u0437 \u0434\u0440\u0443\u0433\u043e\u0433\u043e, \u043f\u043e\u0434\u0435\u043b\u0438\u043c \u043e\u0431\u044a\u0435\u043c \u043a\u043e\u0436\u0443\u0440\u044b \u043d\u0430 \u043e\u0431\u044a\u0435\u043c \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430\u2026 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043a\u043e\u0436\u0443\u0440\u044b \u0447\u0442\u043e-\u0442\u043e \u043e\u043a\u043e\u043b\u043e 16%. \u041d\u0435 \u0442\u0430\u043a \u0443\u0436 \u043c\u0430\u043b\u043e, \u043a\u0441\u0442\u0430\u0442\u0438.<\/p>\n<p>  \u041a\u0430\u043a \u043d\u0430\u0441\u0447\u0435\u0442 \u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u0432 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435?<\/p>\n<p>  \u041f\u043e\u0439\u0442\u0438 \u043d\u0430 \u043a\u0443\u0445\u043d\u044e \u043d\u0430 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f; \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u044e, \u0447\u0442\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043d\u0430\u0438\u0437\u0443\u0441\u0442\u044c \u0442\u043e\u0436\u0435 \u043d\u0435 \u0432\u0441\u0435 \u0437\u043d\u0430\u044e\u0442, \u043d\u043e <a href=\"https:\/\/en.wikipedia.org\/wiki\/Volume_of_an_n-ball\">\u0412\u0438\u043a\u0438\u043f\u0435\u0434\u0438\u044f<\/a> \u043d\u0430\u043c \u0432 \u043f\u043e\u043c\u043e\u0449\u044c. \u041f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u043c \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u0438 \u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043e\u043c \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u0432\u0430\u0435\u043c, \u0447\u0442\u043e:<\/p>\n<ul>\n<li>\u0432\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u0432 \u0442\u044b\u0441\u044f\u0447\u0435\u043c\u0435\u0440\u043d\u043e\u043c \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0435 \u043a\u043e\u0436\u0443\u0440\u044b \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u043c\u044f\u043a\u043e\u0442\u0438<\/li>\n<li>\u0430 \u0432\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u0435\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 246993291800602563115535632700000000000000 \u0440\u0430\u0437<\/li>\n<\/ul>\n<p>  \u0422\u043e \u0435\u0441\u0442\u044c, \u043a\u0430\u043a\u0438\u043c \u0431\u044b \u0441\u0442\u0440\u0430\u043d\u043d\u044b\u043c \u0438 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0432\u044b\u043c \u044d\u0442\u043e \u043d\u0438 \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u043d\u043e <i>\u043f\u043e\u0447\u0442\u0438 \u0432\u0435\u0441\u044c \u043e\u0431\u044a\u0435\u043c \u0433\u0438\u043f\u0435\u0440\u0430\u043f\u0435\u043b\u044c\u0441\u0438\u043d\u0430 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432 \u043d\u0438\u0447\u0442\u043e\u0436\u043d\u043e \u0442\u043e\u043d\u043a\u043e\u043c \u0441\u043b\u043e\u0435 \u043f\u0440\u044f\u043c\u043e \u043f\u043e\u0434 \u0435\u0433\u043e \u043f\u043e\u0432\u0435\u0440\u0445\u043d\u043e\u0441\u0442\u044c\u044e.<\/i><\/p>\n<p>  \u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u044d\u0442\u043e\u0433\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-277569","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/277569","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=277569"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/277569\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=277569"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=277569"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=277569"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}