{"id":163819,"date":"2012-12-28T18:01:02","date_gmt":"2012-12-28T14:01:02","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=163819"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=163819","title":{"rendered":"<span class=\"post_title\">\u041f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u044b \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430<\/span>"},"content":{"rendered":"<div class=\"content html_format\">   \t\u041f\u0440\u0438\u0432\u0435\u0442. \u041a\u0430\u043a \u0438 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0432 <a href=\"http:\/\/habrahabr.ru\/post\/159909\/\">\u043f\u0440\u043e\u0448\u043b\u043e\u043c \u043f\u043e\u0441\u0442\u0435<\/a> \u043e\u0431 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445 \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430, \u0432 \u044d\u0442\u043e\u043c \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 RBM \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0431\u044b\u043a\u043d\u043e\u0432\u0435\u043d\u043d\u043e\u0439 <a href=\"http:\/\/ru.wikipedia.org\/wiki\/\u041c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439_\u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d_\u0420\u0443\u043c\u0435\u043b\u044c\u0445\u0430\u0440\u0442\u0430\">\u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f<\/a>. \u0422\u0430\u043a\u0430\u044f \u0441\u0435\u0442\u044c \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f <a href=\"http:\/\/habrahabr.ru\/post\/154369\/\">\u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043c\u043d\u043e\u0433\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438 \u043f\u043e\u043a\u0430 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0432\u044b\u0431\u043e\u0440\u0430 \u044d\u0442\u0438\u0445 \u0441\u0430\u043c\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043a\u0430\u043a \u0438 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0441\u0435\u0442\u0438. \u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u043f\u043e\u0438\u0441\u043a\u0430, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043c\u0435\u0442\u043e\u0434\u0438\u043a \u043e\u0446\u0435\u043d\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"http:\/\/www.machinelearning.ru\/wiki\/index.php?title=\u0421\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u0439_\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\">\u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u044f<\/a>). \u041c\u0430\u043b\u043e \u0442\u043e\u0433\u043e, \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f, \u0438 \u0441\u0430\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043d\u0435 \u0442\u0430\u043a \u0443\u0436 \u0445\u043e\u0440\u043e\u0448. \u0425\u043e\u0442\u044f <a href=\"http:\/\/psych.stanford.edu\/~jlm\/papers\/PDP\/Volume%201\/Chap8_PDP86.pdf\">\u0420\u0443\u043c\u0435\u043b\u044c\u0445\u0430\u0440\u0442, \u0425\u0438\u043d\u0442\u043e\u043d \u0438 \u0412\u0438\u043b\u044c\u044f\u043c\u0441 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438<\/a> \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f (\u0442\u0443\u0442 \u0435\u0449\u0435 \u0431\u043e\u043b\u0435\u0435 <a href=\"https:\/\/www.google.com\/url?sa=t&amp;rct=j&amp;q=&amp;esrc=s&amp;source=web&amp;cd=1&amp;ved=0CDMQFjAA&amp;url=http%3A%2F%2Fciteseerx.ist.psu.edu%2Fviewdoc%2Fdownload%3Bjsessionid%3D55F98377691054EF92812E081CF56519%3Fdoi%3D10.1.1.53.1048%26rep%3Drep1%26type%3Dpdf&amp;ei=Gy_cUISxPMOr4ATV_oD4Bw&amp;usg=AFQjCNEBoUglj9BSwrt-DD-sWV5PKAZeRg&amp;sig2=xbKJCkbhzZJ9-W-1O9Crug&amp;bvm=bv.1355534169,d.bGE\">\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438<\/a>), \u043d\u043e \u0435\u0441\u0442\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u044e\u0430\u043d\u0441: \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u0438 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043c\u0430\u043b\u044b\u0445 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f\u0445 \u0432\u0435\u0441\u043e\u0432 (\u0442.\u0435. \u043f\u0440\u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0441\u0442\u0440\u0435\u043c\u044f\u0449\u0435\u0439\u0441\u044f \u043a \u043d\u0443\u043b\u044e). \u0418 \u0434\u0430\u0436\u0435 \u044d\u0442\u043e \u043d\u0435 \u0432\u0441\u0435. \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u044d\u0442\u0438\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0441\u0435\u0442\u0438 \u0441 \u043e\u0434\u043d\u0438\u043c \u0438\u043b\u0438 \u0434\u0432\u0443\u043c\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u0441\u043b\u043e\u044f\u043c\u0438 \u0438\u0437-\u0437\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u044d\u0444\u0444\u0435\u043a\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f <i>\u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442<\/i> \u0434\u043e \u0434\u0430\u043b\u044c\u043d\u0438\u0445 \u0441\u043b\u043e\u0435\u0432. \u0414\u0430\u043b\u0435\u0435 \u043c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043e \u0442\u043e\u043c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0436\u0435 <i>\u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442<\/i>, \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u0442\u0435\u0445\u043d\u0438\u043a\u0443 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 RBM, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043b <a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/\">\u0414\u0436\u0435\u0444\u0444\u0440\u0438 \u0425\u0438\u043d\u0442\u043e\u043d<\/a>.<\/p>\n<p>  <a name=\"habracut\"><\/a><\/p>\n<h4>\u0417\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u0438 \u0432\u0437\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u043e\u0441\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432<\/h4>\n<p>  \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u0437\u0433\u043b\u044f\u043d\u0435\u043c \u043d\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0441 \u0432\u0438\u0434\u0443 \u0433\u0440\u0430\u0444\u0438\u043a\u0438.<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/cf1\/ed8\/c03\/cf1ed8c034ae57e58bf5c5af2c2b8b27.png\"\/><\/p>\n<p>  \u041d\u0430 \u043d\u0438\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c <i>\u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u0430 \u0432 \u0441\u043b\u043e\u0435<\/i> (\u043e\u0441\u044c \u043e\u0440\u0434\u0438\u043d\u0430\u0442) \u043e\u0442 \u043f\u0440\u043e\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u044d\u043f\u043e\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (\u043e\u0441\u044c \u0430\u0431\u0441\u0446\u0438\u0441\u0441). \u041e\u0431\u0443\u0447\u0430\u043b\u0430\u0441\u044c \u0441\u0435\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b: \u0448\u0435\u0441\u0442\u044c \u0441\u043b\u043e\u0435\u0432, 5 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u043f\u043e 100 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0438\u0437 26 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 (\u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043a\u043b\u0430\u0441\u0441\u043e\u0432, \u0438\u043b\u0438 \u0431\u0443\u043a\u0432 \u0432 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0430\u043b\u0444\u0430\u0432\u0438\u0442\u0435).<\/p>\n<table>\n<tr>\n<td rowspan=\"2\">input dimension = 841<\/td>\n<td>layer -5<\/td>\n<td>layer -4<\/td>\n<td>layer -3<\/td>\n<td>layer -2<\/td>\n<td>layer -1<\/td>\n<td>output<\/td>\n<\/tr>\n<tr>\n<td>100 neurons<\/td>\n<td>100 neurons<\/td>\n<td>100 neurons<\/td>\n<td>100 neurons<\/td>\n<td>100 neurons<\/td>\n<td>26 neurons<\/td>\n<\/tr>\n<\/table>\n<p>  \u041a\u0430\u043a \u0432\u0438\u0434\u0438\u043c, \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0430 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f, \u043d\u043e \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u0432 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0436\u0435 \u043f\u043e\u0440\u044f\u0434\u043a\u0430, \u043a\u0430\u043a \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u2014 \u0432 \u0442\u0440\u0435\u0442\u044c\u0435\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435, \u0430 \u0432 \u0434\u0430\u043b\u044c\u043d\u0438\u0445 \u0441\u043b\u043e\u044f\u0445 \u2014 \u0435\u0449\u0435 \u043c\u0435\u043d\u044c\u0448\u0435. \u0412 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u044b \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430, \u0430 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u043f\u043e\u043b\u043e\u0436\u043d\u0430\u044f \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u00ab\u0432\u0437\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u043e\u0441\u0442 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430\u00bb (\u0432 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u0439 \u043b\u0438\u0442\u0435\u0440\u0430\u0442\u0443\u0440\u0435 \u044d\u0442\u043e \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u00abvanishing and exploding gradients\u00bb), \u0447\u0442\u043e\u0431\u044b \u0443\u0432\u0438\u0434\u0435\u0442\u044c \u044d\u0442\u043e\u0442 \u044d\u0444\u0444\u0435\u043a\u0442, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438. \u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0443, \u0441\u043e\u0432\u0435\u0442\u0443\u044e \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u044c\u0441\u044f, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a \u044d\u0442\u0438\u043c \u0441\u0442\u0430\u0442\u044c\u044f\u043c:<\/p>\n<ul>\n<li><a href=\"http:\/\/jmlr.csail.mit.edu\/proceedings\/papers\/v9\/glorot10a\/glorot10a.pdf\">Understanding the dif\ufb01culty of training deep feedforward neural networks<\/a><\/li>\n<li><a href=\"http:\/\/arxiv.org\/pdf\/1211.5063v1.pdf\">Understanding the exploding gradient problem<\/a><\/li>\n<\/ul>\n<p>  \u0410 \u043c\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043f\u0430\u043b\u044c\u0446\u0430\u0445 \u0432 \u043f\u0440\u0438\u0447\u0438\u043d\u0430\u0445 \u044d\u0442\u043e\u0433\u043e \u044f\u0432\u043b\u0435\u043d\u0438\u044f, \u043e\u043f\u0438\u0440\u0430\u044f\u0441\u044c \u043d\u0430 \u0442\u043e, \u043a\u0430\u043a \u044d\u0442\u043e \u0431\u044b\u043b\u043e \u043f\u0440\u0435\u043f\u043e\u0434\u043d\u0435\u0441\u0435\u043d\u043e <a href=\"https:\/\/class.coursera.org\/neuralnets-2012-001\/\">\u0432 \u043a\u0443\u0440\u0441\u0435 \u043f\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c \u043d\u0430 \u043a\u0443\u0440\u0441\u0435\u0440\u0435<\/a>. \u0418\u0442\u0430\u043a, \u0447\u0442\u043e \u0438\u0437 \u0441\u0435\u0431\u044f \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u044f\u043c\u043e\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u0441\u0438\u0433\u043d\u0430\u043b\u0430 \u043f\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438? \u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u043b\u043e\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u0438\u0433\u043d\u0430\u043b\u0430 \u0441\u043b\u043e\u044f \u0438 \u0432\u0435\u0441\u043e\u0432 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430, \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u043a\u0430\u043b\u044f\u0440 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u0435, \u0430 \u0437\u0430\u0442\u0435\u043c \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438. \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438, \u043f\u043e\u043c\u0438\u043c\u043e \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0439 \u043d\u0430\u043c \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0442\u044c \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432, \u043d\u043e \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043b\u0438\u0448\u044c \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u043e\u0431\u0449\u0435\u0433\u043e \u0432\u0438\u0434\u0430. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440, \u043a\u0430\u0436\u0434\u0430\u044f \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445.<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/f05\/1b6\/adc\/f051b6adc22d893df895ff8d438bc95b.png\"\/><\/p>\n<p>  \u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434. \u0413\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u0435 \u043b\u0435\u0433\u043a\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f <i>\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435<\/i> \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f. \u0414\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f <a href=\"http:\/\/habrahabr.ru\/post\/154369\/\">\u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043c \u0444\u043e\u0440\u043c\u0443\u043b\u0443<\/a> \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w%5E%7B%5Cleft%28n%5Cright%29%7D_%7Bij%7D%7D+%3D+x%5E%7B%5Cleft%28n+-+1%5Cright%29%7D_%7Bi%7D+%5Csum_k+%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+z%5E%7Bn+%2B+1%7D_%7Bk%7D%7D+%5Cfrac%7B%5Cpartial+z%5E%7Bn+%2B+1%7D_%7Bk%7D%7D%7B%5Cpartial+y%5E%7Bn%7D_%7Bj%7D%7D+%5Cfrac%7B%5Cpartial+y%5E%7Bn%7D_%7Bj%7D%7D%7B%5Cpartial+z%5E%7Bn%7D_%7Bj%7D%7D+%3D+x%5E%7B%5Cleft%28n+-+1%5Cright%29%7D_%7Bi%7D+%5Csum_k+w%5E%7Bn+%2B+1%7D_%7Bjk%7D+%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+z%5E%7Bn+%2B+1%7D_%7Bk%7D%7D+%5Cfrac%7B%5Cpartial+y%5E%7Bn%7D_%7Bj%7D%7D%7B%5Cpartial+z%5E%7Bn%7D_%7Bj%7D%7D\" alt=\"image\"\/><\/p>\n<p>  \u0415\u0441\u043b\u0438 \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 dE\/dz, \u0433\u0434\u0435 \u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442 k, \u0434\u0435\u043b\u044c\u0442\u043e\u0439,<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_%7Bij%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D%7D+%3D+x_%7Bi%7D%5E%7B%5Cleft%28+n+-+1+%5Cright%29%7D+%5Csum_k+w_%7Bjk%7D%5E%7B%5Cleft%28+n+%2B+1+%5Cright%29%7D+%5Cdelta_%7Bk%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D+%5Cfrac%7B%5Cpartial+y_%7Bj%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D%7D%7B%5Cpartial+z_%7Bj%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D%7D+%3D+x_%7Bi%7D%5E%7B%5Cleft%28+n+-+1+%5Cright%29%7D+%5Cfrac%7B%5Cpartial+y_%7Bj%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D%7D%7B%5Cpartial+z_%7Bj%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D%7D+%5Csum_k+w_%7Bjk%7D%5E%7B%5Cleft%28+n+%2B+1+%5Cright%29%7D+%5Cdelta_%7Bk%7D%5E%7B%5Cleft%28+n+%5Cright%29%7D+\" alt=\"image\"\/><\/p>\n<p>  \u043c\u044b \u0443\u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u043e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0445\u043e\u0436 \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u0439, \u043d\u043e \u043e\u043d \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043b\u0438\u043d\u0435\u0435\u043d, \u0441\u043e \u0432\u0441\u0435\u043c\u0438 \u0432\u044b\u0442\u0435\u043a\u0430\u044e\u0449\u0438\u043c\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u044f\u043c\u0438. \u0414\u0435\u043b\u044c\u0442\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u043c\/\u043e\u0448\u0438\u0431\u043a\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u0430. \u041f\u0440\u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435 \u0434\u0435\u043b\u044c\u0442\u044b \u043c\u043e\u0436\u043d\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043a\u0430\u043a \u0432\u044b\u0445\u043e\u0434\u044b (\u0432 \u0434\u0440\u0443\u0433\u0443\u044e \u0441\u0442\u043e\u0440\u043e\u043d\u0443) \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432. \u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0431\u043e\u043b\u0435\u0435 <i>\u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e<\/i> \u0441\u043b\u043e\u044f \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0432 \u0442\u043e\u0447\u043a\u0435, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u043e\u0439 \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435. \u0412\u0441\u043f\u043e\u043c\u043d\u0438\u043c \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0435 <a href=\"http:\/\/ru.wikipedia.org\/wiki\/\u041f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f_\u0444\u0443\u043d\u043a\u0446\u0438\u0438\">\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439<\/a> \u0432 \u0442\u043e\u0447\u043a\u0435:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/upload.wikimedia.org\/math\/e\/3\/0\/e30ca3253124d4df4b55b6ae23a529de.png\" alt=\"image\"\/><\/p>\n<p>  x0 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0438 \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u0438 \u043f\u0440\u044f\u043c\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435. \u042d\u0442\u043e \u043a\u0440\u0430\u0441\u043d\u044b\u0435 \u043b\u0438\u043d\u0438\u0438 \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u0432\u044b\u0448\u0435. \u0418 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u0443\u043c\u043d\u043e\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0442\u0430\u043d\u0433\u0435\u043d\u0441\u043e\u043c \u0443\u0433\u043b\u0430 \u043d\u0430\u043a\u043b\u043e\u043d\u0430 \u043a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0432 \u0442\u043e\u0447\u043a\u0435 x0, \u0430 \u043e\u0431\u043b\u0430\u0441\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0442\u0430\u043d\u0433\u0435\u043d\u0441\u0430, \u043a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u043b\u0435\u0436\u0438\u0442 \u0432 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 \u043e\u0442 \u043c\u0438\u043d\u0443\u0441 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0441\u0442\u0438 \u0434\u043e \u043f\u043b\u044e\u0441 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/school-collection.edu.ru\/dlrstore-wrapper\/be6b09fc-fe06-4997-b29a-be5f97295197\/1.gif\" alt=\"image\"\/><\/p>\n<p>  \u041e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/469\/f58\/355\/469f58355fcd9c22c312ff4f19a90976.png\"\/><\/p>\n<p>  \u0427\u0442\u043e \u043c\u044b \u0438\u043c\u0435\u0435\u043c \u0432 \u0438\u0442\u043e\u0433\u0435:  <\/p>\n<ul>\n<li>\u0432\u0437\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u043e\u0441\u0442 \u043c\u043e\u0436\u0435\u0442 \u0441\u043b\u0443\u0447\u0438\u0442\u044c\u0441\u044f \u0435\u0441\u043b\u0438 \u0432\u0435\u0441\u0430 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u0438\u0435, \u0438\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0432 \u0442\u043e\u0447\u043a\u0435 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0432\u0435\u043b\u0438\u043a\u043e<\/li>\n<li>\u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0435\u0441\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u0438\u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0432 \u0442\u043e\u0447\u043a\u0435 \u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u043e<\/li>\n<\/ul>\n<p>  \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, <i>\u043d\u0435\u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0435 \u0441\u0435\u0442\u0438<\/i> \u043d\u0435 \u0441\u0442\u0440\u0430\u0434\u0430\u044e\u0442 \u043e\u0442 \u044d\u0442\u043e\u0433\u043e \u0438\u0437-\u0437\u0430 \u043c\u0430\u043b\u043e\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0441\u043b\u043e\u0435\u0432, \u0442\u0430\u043a \u043a\u0430\u043a \u044d\u0444\u0444\u0435\u043a\u0442 \u043d\u0435 \u0443\u0441\u043f\u0435\u0432\u0430\u0435\u0442 \u0430\u043a\u043a\u0443\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u0445\u043e\u0434\u0435 (\u043f\u0440\u0438\u043c\u0435\u0440 \u0430\u043a\u043a\u0443\u043c\u0443\u043b\u044f\u0446\u0438\u0438 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435).<\/p>\n<p>  \u0415\u0441\u043b\u0438 \u0436\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u0438\u0433\u043c\u043e\u0438\u0434<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+y+%3D+%5Cfrac%7B1%7D%7B1+%2B+%5Ctext%7Be%7D%5E%7B-%5Calpha+x%7D%7D\" alt=\"image\"\/><\/p>\n<p>  \u0441 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0432\u0438\u0434\u0430:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+y%27+%3D+f%27%28x%29+%3D+%5Cfrac%7B%5Calpha+%5Ctext%7Be%7D%5E%7B-%5Calpha+x%7D%7D%7B%5Cleft%28+1+%2B+%5Ctext%7Be%7D%5E%7B-%5Calpha+x%7D%5Cright%29%5E2%7D+%3D+%5Calpha+f%28x%29+%5Cleft%28+1+-+f%28x%29+%5Cright%29\" alt=\"image\"\/><\/p>\n<p>  \u0442\u043e \u043f\u0440\u0438 \u03b1 = 1 \u043c\u044b \u043b\u0435\u0433\u043a\u043e \u043c\u043e\u0436\u0435\u043c \u0443\u0431\u0435\u0434\u0438\u0442\u044c\u0441\u044f, \u0447\u0442\u043e \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f, \u0440\u0430\u0432\u043d\u043e 0.25 \u0432 \u0442\u043e\u0447\u043a\u0435 x = 0.5, \u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u2014 0 \u0432 \u0442\u043e\u0447\u043a\u0430\u0445 x = 0 \u0438 x = 1 (\u043d\u0430 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 \u043e\u0442 0 \u0434\u043e 1, \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438):<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/8a2\/2b4\/39d\/8a22b439d88f233dfd8650434d398617.gif\"\/><\/p>\n<p>  \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0434\u043b\u044f \u0441\u0435\u0442\u0435\u0439 \u0441 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0432\u0437\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u043e\u0441\u0442 \u0438 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u0432 \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432, \u0445\u043e\u0442\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043f\u0435\u0440\u043c\u0430\u043d\u0435\u043d\u0442\u043d\u043e\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u0438\u0437-\u0437\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432 \u043b\u0443\u0447\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0442\u0430\u043d\u0433\u0435\u043d\u0441\u0430 \u0443\u0433\u043b\u0430 \u043d\u0430\u043a\u043b\u043e\u043d\u0430 \u043a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0431\u0443\u0434\u0435\u0442 \u0432\u0441\u0435\u0433\u043e 0.25, \u0430 \u044d\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u043a\u0430\u043a \u043c\u044b \u0443\u0432\u0438\u0434\u0438\u043c \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435, \u043e\u0442 \u0441\u043b\u043e\u044f \u043a \u0441\u043b\u043e\u044e \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0430\u044e\u0442\u0441\u044f:<\/p>\n<ul>\n<li>\u043f\u0440\u0438 \u043e\u0447\u0435\u043d\u044c \u043c\u0430\u043b\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435<\/li>\n<li>\u043f\u0440\u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u0432\u0435\u0441\u0430\u0445 \u2014 \u0440\u043e\u0441\u0442<\/li>\n<\/ul>\n<h4>\u041f\u0440\u043e\u0441\u0442\u043e\u0439 \u043f\u0440\u0438\u043c\u0435\u0440<\/h4>\n<p>  \u0414\u043b\u044f \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u0448\u0435\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u0438\u043c\u0435\u0440.<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/60c\/ab3\/2c9\/60cab32c9a6c59c73deefc207774b5a0.png\"\/><\/p>\n<p>  \u0414\u0430\u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u0430\u044f \u0441\u0435\u0442\u044c, \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u044e\u0449\u0430\u044f \u043a\u0432\u0430\u0434\u0440\u0430\u0442 \u0415\u0432\u043a\u043b\u0438\u0434\u043e\u0432\u0430 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0441 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438, \u043d\u0430\u0439\u0434\u0435\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u0438 \u0432\u0445\u043e\u0434\u043d\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u0435 x = 1 \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u043c t = 0.5.<\/p>\n<p>  \u041f\u043e\u0441\u043b\u0435 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u043f\u0440\u043e\u0445\u043e\u0434\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430: 0.731058578630005, 0.188143725087062, 0.407022630083087, 0.307029145835665, 0.576159944190332. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u0438\u0445 \u0437\u0430 y1, &#8230;, y5.<\/p>\n<ul>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_5%7D+%3D+y_4+%28y_5+-+t%29+y_5+%281+-+y_5%29+%3D+0.00571019949926838\" alt=\"image\"\/><\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_4%7D+%3D+y_3+w_5+y_4+%281+-+y_4%29+%28y_5+-+t%29+y_5+%281+-+y_5%29+%3D+0.0016105892898339\" alt=\"image\"\/><\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_3%7D+%3D+y_2+w_4+y_3+%281+-+y_3%29+w_5+y_4+%281+-+y_4%29+%28y_5+-+t%29+y_5+%281+-+y_5%29+%3D+-0.00035937069569135\" alt=\"image\"\/><\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_2%7D+%3D+y_1+w_3+y_2+%281+-+y_2%29+w_4+y_3+%281+-+y_3%29+w_5+y_4+%281+-+y_4%29+%28y_5+-+t%29+y_5+%281+-+y_5%29+%3D+0.000426583433503455\" alt=\"image\"\/><\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5Cfrac%7B%5Cpartial+E%7D%7B%5Cpartial+w_1%7D+%3D+x+w_2+y_1+%281+-+y_1%29+w_3+y_2+%281+-+y_2%29+w_4+y_3+%281+-+y_3%29+w_5+y_4+%281+-+y_4%29+%28y_5+-+t%29+y_5+%281+-+y_5%29+%3D+-0.000229451909878624\" alt=\"image\"\/><\/li>\n<\/ul>\n<p>  \u041a\u0430\u043a \u0432\u0438\u0434\u0438\u043c, \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430. \u041f\u043e \u0445\u043e\u0434\u0443 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u043e, \u0447\u0442\u043e \u0430\u043a\u043a\u0443\u043c\u0443\u043b\u044f\u0446\u0438\u044f \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0437\u0430 \u0441\u0447\u0435\u0442 \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0445 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0438 \u0432\u0441\u0435\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445. \u0425\u043e\u0442\u044f \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435, \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u0442\u0435\u043c \u043a\u0430\u043a \u0432\u0435\u0441\u0430 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435, \u043d\u043e \u0438 \u044d\u0442\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0434\u0430\u0432\u0438\u0442\u044c \u043f\u0435\u0440\u043c\u0430\u043d\u0435\u043d\u0442\u043d\u043e\u0435 \u0437\u0430\u0442\u0443\u0445\u0430\u043d\u0438\u0435 \u043e\u0442 \u0442\u0430\u043d\u0433\u0435\u043d\u0441\u043e\u0432 \u0443\u0433\u043b\u0430 \u043d\u0430\u043a\u043b\u043e\u043d\u0430 \u043a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439.<\/p>\n<h4>\u041f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435<\/h4>\n<p>  \u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043e \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u043c<a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/\"> \u0414\u0436\u0435\u0444\u0440\u0438 \u0425\u0438\u043d\u0442\u043e\u043d\u043e\u043c<\/a> \u0441\u043f\u043e\u0441\u043e\u0431\u0435, \u0441\u0442\u043e\u0438\u0442 \u0441\u0440\u0430\u0437\u0443 \u0436\u0435 \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f\u0448\u043d\u0438\u0439 \u0434\u0435\u043d\u044c \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u043d\u043a\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u0432\u0435\u0441\u043e\u0432 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u0443\u0435\u0442 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u0435\u0442\u0438. \u0418\u0442\u0430\u043a, <a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/absps\/dbm.pdf\">\u0425\u0438\u043d\u0442\u043e\u043d \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b<\/a> \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c <a href=\"http:\/\/habrahabr.ru\/post\/159909\/\">\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0435 \u043c\u0430\u0448\u0438\u043d\u044b \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430<\/a> \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0442\u043e\u043d\u043a\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0432\u0435\u0441\u043e\u0432. \u041a\u0430\u043a \u0438 \u0432 \u043f\u043e\u0441\u0442\u0435 \u043f\u0440\u043e RBM, \u043c\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u0431\u0443\u0434\u0435\u043c \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043e \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0445 \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0437\u0430\u0445, \u0445\u043e\u0442\u044f \u044d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c <a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/absps\/guideTR.pdf\">\u0440\u0430\u0441\u0448\u0438\u0440\u044f\u0435\u0442\u0441\u044f \u0438 \u043d\u0430 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u043e\u0431\u0440\u0430\u0437\u044b, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0438\u0435 \u0438\u0437 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0447\u0438\u0441\u0435\u043b<\/a>.<\/p>\n<p>  \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0441\u0435\u0442\u044c \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b: <code>x1 -&gt; x2 -&gt; ... -&gt; xn<\/code>, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 xi \u2014 \u044d\u0442\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u0432 \u0441\u043b\u043e\u0435, xn \u2014 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u0437\u0430 x0 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043e\u0431\u0440\u0430\u0437\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0434\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0432\u0445\u043e\u0434, \u0442.\u0435. \u043d\u0430 \u0441\u043b\u043e\u0439 x1. \u0422\u0430\u043a \u0436\u0435 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043c\u0430\u0441\u0441\u0438\u0432 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0434\u0430\u043d\u043d\u044b\u0435 (\u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c D0) \u2014 \u044d\u0442\u043e \u043f\u0430\u0440\u044b \u0432\u0438\u0434\u0430 \u00ab\u0432\u0445\u043e\u0434, \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u044b\u0439 \u0432\u044b\u0445\u043e\u0434\u00bb, \u0438 \u043c\u044b \u0445\u043e\u0442\u0438\u043c \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u0441\u0435\u0442\u044c, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f <a href=\"http:\/\/habrahabr.ru\/post\/154369\/\">\u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438<\/a>. \u041d\u043e \u043f\u0435\u0440\u0435\u0434 \u044d\u0442\u0438\u043c \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u043c \u0442\u043e\u043d\u043a\u0443\u044e \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e \u0432\u0435\u0441\u043e\u0432, \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e:<\/p>\n<ul>\n<li>\u041f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0438\u043c \u043f\u043e \u043e\u0434\u043d\u043e\u0439 RBM \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043f\u0430\u0440\u044b \u0441\u043b\u043e\u0435\u0432, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u0444\u0438\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 x0, \u0432 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0440\u043e\u0432\u043d\u043e n \u0448\u0442\u0443\u043a RBM. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0431\u0435\u0440\u0435\u0442\u0441\u044f \u043f\u0435\u0440\u0432\u0430\u044f \u043f\u0430\u0440\u0430 <code>x0 &lt;-&gt; x1<\/code>, \u043e\u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u043e\u0431\u0440\u0430\u0437\u043e\u0432 \u0438\u0437 D0 (\u044d\u0442\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0431\u0435\u0437 \u0443\u0447\u0438\u0442\u0435\u043b\u044f). \u0417\u0430\u0442\u0435\u043c \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043e\u0431\u0440\u0430\u0437\u0430 \u0438\u0437 D0 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0432\u044b\u0432\u043e\u0434 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0445 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 D1. \u0417\u0430\u0442\u0435\u043c \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c D1 \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u0430 <code>x1 &lt;-&gt; x2<\/code>. \u0418 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435 \u0434\u043e <code>x{n-1} &lt;-&gt; xn<\/code>.<\/li>\n<li>\u0420\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u043c \u043a\u0430\u0436\u0434\u0443\u044e RBM, \u0438 \u0431\u0435\u0440\u0435\u043c \u0432\u0442\u043e\u0440\u044b\u0435 \u0441\u043b\u043e\u0438 \u0441 \u0438\u0445 \u0436\u0435 \u0432\u0435\u0441\u0430\u043c\u0438.<\/li>\n<li>\u0418\u0437 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u0432\u0442\u043e\u0440\u044b\u0445 \u0441\u043b\u043e\u0435\u0432 \u043a\u0430\u0436\u0434\u043e\u0439 RBM \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u0443\u044e \u0441\u0435\u0442\u044c <code>x1 -&gt; x2 -&gt; ... -&gt; xn<\/code>.<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/73f\/fe5\/805\/73ffe5805dab61dbf81a2698678c4054.png\"\/><\/p>\n<p>  \u0422\u0430\u043a\u0443\u044e \u0441\u0435\u0442\u044c \u043d\u0430\u0437\u0432\u0430\u043b\u0438 <a href=\"http:\/\/deeplearning.net\/tutorial\/DBN.html\">Deep Belief Networks<\/a>.<\/p>\n<p>  \u041a\u0430\u043a \u044f \u0443\u0436\u0435 \u0441\u043a\u0430\u0437\u0430\u043b, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u044d\u0442\u043e\u0433\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0430 \u043d\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u043d\u0430, \u043a\u0430\u043a \u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u043a\u043e\u0439-\u043b\u0438\u0431\u043e \u0442\u043e\u043d\u043a\u043e\u0439 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438, \u043d\u043e \u0444\u0430\u043a\u0442 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u0444\u0430\u043a\u0442\u043e\u043c \u2014 \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442. \u041e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u043c\u0443 \u044d\u0444\u0444\u0435\u043a\u0442\u0443 \u043c\u043e\u0436\u043d\u043e \u0434\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435: \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0441\u0430\u043c\u043e\u0439 \u043f\u0435\u0440\u0432\u043e\u0439 RBM \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e \u0432\u0438\u0434\u0438\u043c\u044b\u043c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f\u043c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u043a\u0440\u044b\u0442\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u0442\u043e \u0435\u0441\u0442\u044c \u043c\u044b \u0441\u0440\u0430\u0437\u0443 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u043c \u0432\u0435\u0441\u0430 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u0438\u043d\u0438\u043c\u0443\u043c, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0439 \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432; \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u0441\u043b\u043e\u0435\u043c \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0430 \u0432\u0435\u0441\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u043e\u043c\u0435\u0449\u0430\u044e\u0442\u0441\u044f \u0432 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e\u0435 \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432; \u043a\u043e\u0433\u0434\u0430 \u0434\u0435\u043b\u043e \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441 \u0443\u0447\u0438\u0442\u0435\u043b\u0435\u043c, \u043f\u043e \u0441\u0443\u0442\u0438, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0431\u0443\u0434\u0443\u0442 \u0442\u043e\u043b\u044c\u043a\u043e 2-3 \u0441\u043b\u043e\u044f \u043e\u0442 \u0432\u044b\u0445\u043e\u0434\u0430, \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0438 \u0442\u0435\u0445 \u0433\u0438\u043f\u0435\u0440\u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0447\u0442\u043e \u0431\u044b\u043b\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u044b \u0440\u0430\u043d\u044c\u0448\u0435, \u0430 \u0442\u0435, \u0432 \u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c, \u0431\u0443\u0434\u0443\u0442 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c\u0441\u044f \u0432 \u0443\u0433\u043e\u0434\u0443 \u0437\u0430\u0434\u0430\u0447\u0435. \u041e\u0442\u0441\u044e\u0434\u0430 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c, \u0447\u0442\u043e \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0441\u0435 \u0441\u043b\u043e\u0438, \u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e 1-2 \u0441\u043a\u0440\u044b\u0442\u044b\u0445, \u043c\u043e\u0436\u043d\u043e \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u0431\u044b\u0447\u043d\u043e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432\u044b\u0431\u0438\u0440\u0430\u044f \u0447\u0438\u0441\u043b\u0430 \u0438\u0437 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c \u0432 0 \u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 0.01.<\/p>\n<h4>\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435<\/h4>\n<p>  \u0412\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u044d\u0442\u043e\u043c \u043f\u043e\u0441\u0442\u0435 \u0438\u0433\u0440\u0430\u044e\u0442 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b, \u0442\u0430\u043a \u0447\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0441\u0440\u0430\u0437\u0443 \u043e\u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c\u0441\u044f \u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430\u0445, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0445 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u042f \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0438 \u043f\u0440\u043e\u0441\u0442\u044b\u0445 \u0432 \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u0438\u0438 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432, \u0447\u0442\u043e\u0431\u044b \u043d\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u0435\u0442\u0435\u0439 \u0442\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u043d\u0435 \u0431\u043e\u043b\u0435\u0435 30 \u043c\u0438\u043d\u0443\u0442. <\/p>\n<ul>\n<li><a href=\"https:\/\/docs.google.com\/open?id=0B4bl7YMqDnViZlZTNE03WmlRSWs\">\u041e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e<\/a> \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043f\u0435\u0447\u0430\u0442\u043d\u044b\u0445 \u0431\u0443\u043a\u0432 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u0433\u043e \u0430\u043b\u0444\u0430\u0432\u0438\u0442\u0430 \u0442\u0440\u0435\u0445 \u0448\u0440\u0438\u0444\u0442\u043e\u0432 (<a href=\"http:\/\/en.wikipedia.org\/wiki\/Arial\">Arial<\/a>, <a href=\"http:\/\/en.wikipedia.org\/wiki\/Courier_(typeface)\">Courier<\/a> \u0438 <a href=\"http:\/\/en.wikipedia.org\/wiki\/Times_(typeface)\">Times<\/a> \u043a\u0430\u043a \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u0435\u043b\u0438 \u0448\u0440\u0438\u0444\u0442\u043e\u0432 \u0440\u0430\u0437\u043d\u043e\u0439 <i><a href=\"http:\/\/www.fonts.ru\/help\/class\/\">\u043f\u043e\u0440\u043e\u0434\u044b<\/a><\/i>) \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c 29 \u043d\u0430 29 \u043f\u0438\u043a\u0441\u0435\u043b\u0435\u0439, \u0438 \u0438\u0445 \u0436\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0448\u0443\u043c\u0430\u043c\u0438<\/li>\n<li><a href=\"https:\/\/docs.google.com\/open?id=0B4bl7YMqDnViMGlFZFd6YXZqeHM\">\u041a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e<\/a> \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e \u0436\u0435 \u043d\u0430\u0431\u043e\u0440\u0430 \u0448\u0440\u0438\u0444\u0442\u043e\u0432, \u043f\u043b\u044e\u0441 <a href=\"http:\/\/en.wikipedia.org\/wiki\/Tahoma_(typeface)\">Tahoma<\/a> \u0438 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u0448\u0443\u043c\u043e\u0432<\/li>\n<li><a href=\"https:\/\/docs.google.com\/open?id=0B4bl7YMqDnViR09talQ2UDFDUlU\">\u0422\u0435\u0441\u0442\u043e\u0432\u043e\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e<\/a> \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e \u0436\u0435 \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e \u0438 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0435, \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043b\u0438\u0448\u044c \u0444\u0430\u043a\u0442\u043e\u0440\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0448\u0443\u043c\u043e\u0432<\/li>\n<\/ul>\n<p>  \u0412\u043e \u0432\u0441\u0435\u0445 \u043e\u043f\u044b\u0442\u0430\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0443\u0441\u043b\u043e\u0432\u0438\u044f (\u043a\u0430\u043a \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441\u0435\u0442\u0435\u0439 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f, \u0442\u0430\u043a \u0438 \u043c\u0430\u0448\u0438\u043d \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430). \u0412\u0432\u0435\u0434\u0435\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f:  <\/p>\n<ul>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Ctext%7BCV%7D_%5Ctext%7Berror%7D%5Cleft%28+t+%5Cright%29\" alt=\"image\"\/> \u2014 \u044d\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u044d\u043f\u043e\u0445\u0438<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Ctext%7BCV%7D_%5Ctext%7Berror%7D%5Cleft%28+t+-+1%5Cright%29\" alt=\"image\"\/> \u2014 \u044d\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438 \u043d\u0430 \u043f\u0440\u043e\u0448\u043b\u043e\u0439 \u044d\u043f\u043e\u0445\u0435<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Ctext%7BCV%7D_%5Ctext%7Bmin%7D\" alt=\"image\"\/> \u2014 \u044d\u0442\u043e \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438, \u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u0430\u044f \u043e\u0442 \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0434\u043e \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u044d\u043f\u043e\u0445\u0438<\/li>\n<li><i>k<\/i> \u2014 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u043f\u0440\u0438 \u0440\u043e\u0441\u0442\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438, \u0438\u0437 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0430 (0, 1)<\/li>\n<\/ul>\n<p>  \u0418\u0442\u0430\u043a, \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0435\u0440\u0432\u0430\u043d, \u0435\u0441\u043b\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u0435:<br \/>  <img decoding=\"async\" src=\"http:\/\/www.forkosh.com\/mathtex.cgi?formdata=%5CLarge+%5Ctext%7BCV%7D_%5Ctext%7Berror%7D%5Cleft%28+t+%5Cright%29+%3E+%5Ctext%7BCV%7D_%5Ctext%7Berror%7D%5Cleft%28+t+-+1+%5Cright%29+%5Cwedge+%5Cleft%28+%5Ctext%7BCV%7D_%5Ctext%7Berror%7D%5Cleft%28+t+%5Cright%29+-+%5Ctext%7BCV%7D_%5Ctext%7Bmin%7D+%5Cright%29+%3E+k+%5Ctext%7BCV%7D_%5Ctext%7Bmin%7D\" alt=\"image\"\/><br \/>  \u0442.\u0435. \u0435\u0441\u043b\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u043e\u0442 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0438, \u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430.<\/p>\n<p>  \u0412 \u0441\u0435\u0442\u044f\u0445 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u0431\u0443\u0434\u0435\u0442 <a href=\"http:\/\/habrahabr.ru\/post\/155235\/\">softmax \u0441\u043b\u043e\u0439<\/a>, \u0430 \u0432\u0441\u044f \u0441\u0435\u0442\u044c \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 <a href=\"http:\/\/en.wikipedia.org\/wiki\/Cross_entropy\">\u043f\u0435\u0440\u0435\u043a\u0440\u0435\u0441\u0442\u043d\u043e\u0439 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438<\/a>, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043e\u043a \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442\u0441\u044f \u0442\u0435\u043c \u0436\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c. \u0410 <a href=\"http:\/\/habrahabr.ru\/post\/159909\/\">\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0435 \u043c\u0430\u0448\u0438\u043d\u044b \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430<\/a> \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u0435\u0440\u044b \u043e\u0448\u0438\u0431\u043a\u0438 \u0431\u0443\u0434\u0443\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c <a href=\"http:\/\/en.wikipedia.org\/wiki\/Hamming_distance\">\u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0425\u044d\u043c\u043c\u0438\u043d\u0433\u0430<\/a> \u043c\u0435\u0436\u0434\u0443 \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u0432\u0445\u043e\u0434\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0438 \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c.<\/p>\n<h4>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/h4>\n<p>  \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a\u043e\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u0430\u0441\u0442 \u043d\u0430\u043c \u0441\u0435\u0442\u044c \u0441 \u043e\u0434\u043d\u0438\u043c \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u0438\u0437 100 \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432, \u0442.\u0435. \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0435\u0435 \u0431\u0443\u0434\u0435\u0442 <code>100 -&gt; 26<\/code>. \u041a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u043c \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u043c \u0441 \u043e\u0448\u0438\u0431\u043a\u043e\u0439 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438.<\/p>\n<p>  \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f:  <\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = full batch<\/li>\n<li> RegularizationFactor = 0<\/li>\n<li> Momentum = 0.9<\/li>\n<li> NeuronLocalGainLimit: Limit = [0.1, 10]; Bonus = 0.05; Penalty = 0.95<\/li>\n<li> CrossValidationStopFactor is 0.05<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/d8d\/3c5\/682\/d8d3c56820e8b85f7cab96e2ff10060a.png\"\/><\/p>\n<p>  \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0437\u0430\u043d\u044f\u043b\u043e \u043e\u043a\u043e\u043b\u043e 35 \u0441\u0435\u043a\u0443\u043d\u0434:<br \/>  Error: 1.39354424678178<br \/>  Wins: 231 of 312, 74.03%<\/p>\n<p>  \u0415\u0441\u043b\u0438 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u043f\u043e\u043a\u0430\u0436\u0435\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0438\u0436\u0435 \u044d\u0442\u043e\u0433\u043e, \u0442\u043e \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u043e\u0447\u0435\u043d\u044c \u043f\u0435\u0447\u0430\u043b\u044c\u043d\u043e -). \u041f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u0435\u0442\u044c \u0438\u0437 5 \u0441\u043b\u043e\u0435\u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b: <code>100 -&gt; 300 -&gt; 100 -&gt; 50 -&gt; 26<\/code>. \u041d\u043e \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0435\u0441\u043b\u0438 \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u0442\u0430\u043a\u0443\u044e \u0441\u0435\u0442\u044c \u0431\u0435\u0437 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<p>  \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f:  <\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = full batch<\/li>\n<li> RegularizationFactor = 0.1<\/li>\n<li> MaxEpoches = 2000<\/li>\n<li> MinError = 0.1<\/li>\n<li> Momentum = 0<\/li>\n<li> NeuronLocalGainLimit: not setted<\/li>\n<li> CrossValidationStopFactor is 0.001<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/40d\/55b\/938\/40d55b938f3590055926197d3ac8f4cc.png\"\/><\/p>\n<p>  \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u043d\u0438\u0447\u0442\u043e\u0436\u043d\u044b, \u043e\u043a\u043e\u043b\u043e 3 \u043f\u043e\u043f\u0430\u0434\u0430\u043d\u0438\u0439 \u0438\u0437 312. \u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0437\u0430\u043d\u044f\u043b\u043e 4300 \u0441\u0435\u043a\u0443\u043d\u0434, \u044d\u0442\u043e \u043f\u043e\u0447\u0442\u0438 \u0447\u0430\u0441 \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u044c (\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0431\u044b\u043b\u043e \u043f\u0440\u0435\u0440\u0432\u0430\u043d\u043e \u043d\u0430 2000 \u044d\u043f\u043e\u0445\u0435, \u0445\u043e\u0442\u044f \u043c\u043e\u0433\u043b\u043e \u0431\u044b \u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c\u0441\u044f \u0434\u0430\u043b\u044c\u0448\u0435). \u0417\u0430 2000 \u044d\u043f\u043e\u0445 \u0431\u044b\u043b\u043e \u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 3.25710954400557, \u0432 \u0442\u043e \u0432\u0440\u0435\u043c\u044f \u043a\u0430\u043a \u0432 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u043c \u0442\u0435\u0441\u0442\u0435 \u0443\u0436\u0435 \u043d\u0430 \u0432\u0442\u043e\u0440\u043e\u0439 \u044d\u043f\u043e\u0445\u0435 \u0431\u044b\u043b\u043e 3.2363407570674, \u0430 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439 0.114535596947578. <\/p>\n<p>  \u0410 \u0442\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u043e\u0431\u0443\u0447\u0438\u043c RBM&#8217;\u044b \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043f\u0430\u0440\u044b. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 <code>841 &lt;-&gt; 100<\/code> \u0441\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438:<\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = 10<\/li>\n<li> Momentum = 0.9<\/li>\n<li> NeuronLocalGainLimit: Limit = [0.001, 1000]; Bonus = 0.0005; Penalty = 0.9995<\/li>\n<li> GibbsSamplingChainLength = 35<\/li>\n<li> UseBiases = True<\/li>\n<li> CrossValidationStopFactor is 0.5<\/li>\n<li> MinErrorChange = 0.0000001<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/e45\/446\/7b3\/e454467b330ecc9073dc004de501dca1.png\"\/><\/p>\n<p>  \u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0437\u0430\u043d\u044f\u043b\u043e 1274 \u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041f\u0435\u0440\u0432\u0443\u044e \u043f\u0430\u0440\u0443 \u043b\u0435\u0433\u043a\u043e \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u043a\u0430\u043a \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u043b\u043e\u0441\u044c \u0432 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u043c \u043f\u043e\u0441\u0442\u0435. \u041f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0448\u0430\u0431\u043b\u043e\u043d\u044b:<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/3ca\/0e8\/368\/3ca0e83689081586afa874a458da214e.png\" alt=\"image\"\/><br \/>  \u0423\u0432\u0435\u043b\u0438\u0447\u0438\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e:<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/bd7\/4f1\/3f0\/bd74f13f01417dbd1754ca96819a3e4d.png\" alt=\"image\"\/><\/p>\n<p>  \u0417\u0430\u0442\u0435\u043c \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0432\u0442\u043e\u0440\u0443\u044e \u043f\u0430\u0440\u0443 <code>100 &lt;-&gt; 300<\/code>, \u0437\u0430\u043d\u044f\u043b\u043e 2095 \u0441\u0435\u043a\u0443\u043d\u0434:<\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = 10<\/li>\n<li> Momentum = 0.9<\/li>\n<li> NeuronLocalGainLimit: Limit = [0.001, 1000]; Bonus = 0.0005; Penalty = 0.9995<\/li>\n<li> GibbsSamplingChainLength = 35<\/li>\n<li> UseBiases = True<\/li>\n<li> CrossValidationStopFactor is 0.1<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/18f\/ec9\/73c\/18fec973c7c387811decf9a4e17c5435.png\"\/><\/p>\n<p>  \u041e\u0431\u0443\u0447\u0430\u0435\u043c \u0442\u0440\u0435\u0442\u044c\u044e \u043f\u0430\u0440\u0443 <code>300 &lt;-&gt; 100<\/code>, \u0437\u0430\u043d\u044f\u043b\u043e 1300 \u0441\u0435\u043a\u0443\u043d\u0434:<\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = 10<\/li>\n<li> Momentum = 0.9<\/li>\n<li> NeuronLocalGainLimit: Limit = [0.001, 1000]; Bonus = 0.0005; Penalty = 0.9995<\/li>\n<li> GibbsSamplingChainLength = 35<\/li>\n<li> UseBiases = True<\/li>\n<li> CrossValidationStopFactor is 0.1<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/2ed\/13a\/a13\/2ed13aa138ffe9ece2ebb4060bda276f.png\"\/><\/p>\n<p>  \u0412\u0435\u0441\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u043c\u044b \u043d\u0435 \u0442\u0440\u043e\u0433\u0430\u0435\u043c \u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0438\u0437 \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c 0 \u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 0.01. \u0422\u0435\u043f\u0435\u0440\u044c \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c \u0432\u0441\u0435 \u0441\u043b\u043e\u0438 \u0432 \u043e\u0434\u043d\u0443 \u0441\u0435\u0442\u044c \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0438 \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0441\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438:<\/p>\n<ul>\n<li> LearningRate = 0.001<\/li>\n<li> BatchSize = full batch<\/li>\n<li> RegularizationFactor = 0<\/li>\n<li> Momentum = 0.9<\/li>\n<li> NeuronLocalGainLimit: Limit = [0.01, 100]; Bonus = 0.005; Penalty = 0.995<\/li>\n<li> CrossValidationStopFactor is 0.01<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/8aa\/470\/6e1\/8aa4706e1a9ac698317427e785f795d0.png\"\/><\/p>\n<p>  \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435, \u043f\u0440\u0438 \u0442\u043e\u043c \u0447\u0442\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0437\u0430\u043d\u044f\u043b\u043e \u0432\u0441\u0435\u0433\u043e 17 \u044d\u043f\u043e\u0445 \u0438\u043b\u0438 36 \u0441\u0435\u043a\u0443\u043d\u0434:<br \/>  Error: 1.40156176438071<br \/>  Wins: 267 of 312, 85.57%<\/p>\n<p>  \u041f\u0440\u0438\u0440\u043e\u0441\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043f\u043e\u0447\u0442\u0438 11% \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u0441\u0435\u0442\u044c\u044e \u0441 \u043e\u0434\u043d\u0438\u043c \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c. \u042f, \u0447\u0435\u0441\u0442\u043d\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u043e\u0436\u0438\u0434\u0430\u043b \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e, \u043d\u043e \u0442\u0443\u0442 \u0443\u0436\u0435 \u0434\u0435\u043b\u043e \u0432 <i>\u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438<\/i> \u0434\u0430\u043d\u043d\u044b\u0445. \u041a\u0430\u043a \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u043e\u043f\u044b\u0442\u044b \u0438 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0434\u0438\u043b\u0438 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438, \u0447\u0435\u043c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043c\u0430\u0441\u0441\u0438\u0432 \u0434\u0430\u043d\u043d\u044b\u0445 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0438\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0431\u0443\u0434\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0435\u043d.<\/p>\n<h4>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h4>\n<p>  \u041f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435, \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 -) \u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u043a\u0430\u043a\u043e\u0439-\u043d\u0438\u0431\u0443\u0434\u044c \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0433\u0435\u043d\u0438\u0439 \u0434\u043e\u043a\u0430\u0436\u0435\u0442 \u0435\u0433\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u0432 \u0442\u0435\u043e\u0440\u0438\u0438, \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435, \u043a\u0430\u043a \u044d\u0442\u043e \u0435\u0441\u0442\u044c \u0441\u0435\u0439\u0447\u0430\u0441.<\/p>\n<p>  \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0435\u0441\u0442\u044c \u0437\u0430\u0434\u0430\u0447\u0430 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0442\u044c \u043a\u0430\u043f\u0447\u0438. \u0423 \u043d\u0430\u0441 \u0441\u043a\u0430\u0447\u0430\u043d\u043e 100 000 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a, \u0438\u0437 \u043d\u0438\u0445 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043e \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u0432\u0441\u0435\u0433\u043e 10 000. \u041c\u044b \u0431\u044b \u0445\u043e\u0442\u0435\u043b\u0438 \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c, \u043d\u043e \u043d\u0430\u043c \u0436\u0430\u043b\u043a\u043e \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043e\u0441\u0442\u0430\u0432\u0448\u0438\u0435\u0441\u044f 90 000 \u0442\u044b\u0441\u044f\u0447 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a. \u0422\u0443\u0442 \u043d\u0430\u043c \u043d\u0430 \u043f\u043e\u043c\u043e\u0449\u044c \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 RBM. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043c\u0430\u0441\u0441\u0438\u0432 \u0438\u0437 100 000 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a, \u043c\u044b \u043e\u0431\u0443\u0447\u0430\u0435\u043c deep belief network, \u0430 \u0437\u0430\u0442\u0435\u043c \u043d\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u0438\u0437 10 000 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043d\u044b\u0445 \u0432\u0440\u0443\u0447\u043d\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u043c\u044b \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0433\u043b\u0443\u0431\u043e\u043a\u0443\u044e \u0441\u0435\u0442\u044c. Profit!<\/p>\n<h4>\u0421\u0441\u044b\u043b\u043a\u0438<\/h4>\n<p>  <\/p>\n<ul>\n<li><a href=\"http:\/\/psych.stanford.edu\/~jlm\/papers\/PDP\/Volume%201\/Chap8_PDP86.pdf\">Learning Internal Representations by Error Propagation<\/a><\/li>\n<li><a href=\"http:\/\/jmlr.csail.mit.edu\/proceedings\/papers\/v9\/glorot10a\/glorot10a.pdf\">Understanding the dif\ufb01culty of training deep feedforward neural networks<\/a><\/li>\n<li><a href=\"http:\/\/arxiv.org\/pdf\/1211.5063v1.pdf\">Understanding the exploding gradient problem<\/a><\/li>\n<li><a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/absps\/dbm.pdf\">Deep Boltzmann Machines<\/a><\/li>\n<li><a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/absps\/guideTR.pdf\">A Practical Guide to Training Restricted Boltzmann Machines<\/a><\/li>\n<li><a href=\"http:\/\/deeplearning.net\/tutorial\/DBN.html\">Deep Belief Networks<\/a><\/li>\n<\/ul>\n<p>  \u0421\u043f\u0430\u0441\u0438\u0431\u043e \u044e\u0437\u0435\u0440\u0443 <a href=\"http:\/\/habrahabr.ru\/users\/othbihe\/\" class=\"user_link\">OTHbIHE<\/a> \u0437\u0430 \u043f\u043e\u043c\u043e\u0449\u044c \u0432 \u0440\u0435\u0434\u0430\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0441\u0442\u0430\u0442\u044c\u0438!    \t \t\t \t\t\t \t<\/p>\n<div class=\"polling\">\n<form action=\"\/json\/polling\/\" class=\"poll\" method=\"post\">\n<div class=\"poll_title\">\u041a\u0430\u043a \u0432\u044b \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043b\u0438 \u044d\u0442\u043e\u0442 \u043f\u043e\u0441\u0442? (\u0440\u0430\u0437 \u0443\u0436 \u043e\u043f\u0440\u043e\u0441\u044b \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438)<\/div>\n<p>  \t\t<input type=\"hidden\" name=\"post_id\" value=\"163819\"\/> \t\t<input type=\"hidden\" name=\"polling_question_id\" value=\"6773\"\/>  \t\t<\/p>\n<table class=\"answer\">\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35701\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35701\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35701\">\u041f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35703\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35703\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35703\">\u041f\u043e \u0434\u0438\u0430\u0433\u043e\u043d\u0430\u043b\u0438<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35705\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35705\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35705\">\u041f\u0440\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u043b \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35707\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35707\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35707\">\u041d\u0435\u043c\u043d\u043e\u0433\u043e \u0432 \u043d\u0430\u0447\u0430\u043b\u0435, \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0432 \u043a\u043e\u043d\u0446\u0435<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35709\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35709\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35709\">\u0421\u043a\u0430\u0447\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u043e \u0441\u0441\u044b\u043b\u043a\u0430\u043c, \u0440\u0430\u0437\u0431\u0435\u0440\u0443\u0441\u044c \u0441\u0430\u043c<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35711\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35711\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35711\">\u042f \u0438 \u0442\u0430\u043a \u044d\u0442\u043e \u0432\u0441\u0435 \u0437\u043d\u0430\u044e<\/label> \t\t\t\t<\/td>\n<\/tr>\n<tr>\n<td class=\"input\"> \t\t\t\t\t<input type=\"radio\" id=\"vv35713\" \t\t\t\t\t\tclass=\"radio js-field-data\" \t\t\t\t\t\tname=\"variant[]\" \t\t\t\t\t\tvalue=\"35713\" \/> \t\t\t\t<\/td>\n<td class=\"label\"> \t\t\t\t\t<label for=\"vv35713\">\u041e\u0442\u043a\u0440\u044b\u043b, \u0437\u0430\u043a\u0440\u044b\u043b<\/label> \t\t\t\t<\/td>\n<\/tr>\n<\/table>\n<p class=\"for_users_only_msg\">\u0422\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043c\u043e\u0433\u0443\u0442 \u0443\u0447\u0430\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0432 \u043e\u043f\u0440\u043e\u0441\u0435. <a href=\"\/login\/\">\u0412\u043e\u0439\u0434\u0438\u0442\u0435<\/a>, \u043f\u043e\u0436\u0430\u043b\u0443\u0439\u0441\u0442\u0430.<\/p>\n<p class=\"total\">\u041f\u0440\u043e\u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043b 1 \u0447\u0435\u043b\u043e\u0432\u0435\u043a. \u0412\u043e\u0437\u0434\u0435\u0440\u0436\u0430\u0432\u0448\u0438\u0445\u0441\u044f \u043d\u0435\u0442.<\/p>\n<\/p><\/form>\n<\/p><\/div>\n<div class=\"clear\"><\/div>\n<\/p><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"http:\/\/habrahabr.ru\/post\/163819\/\"> http:\/\/habrahabr.ru\/post\/163819\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div class=\"content html_format\">   \t\u041f\u0440\u0438\u0432\u0435\u0442. \u041a\u0430\u043a \u0438 \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0432 <a href=\"http:\/\/habrahabr.ru\/post\/159909\/\">\u043f\u0440\u043e\u0448\u043b\u043e\u043c \u043f\u043e\u0441\u0442\u0435<\/a> \u043e\u0431 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445 \u0411\u043e\u043b\u044c\u0446\u043c\u0430\u043d\u0430, \u0432 \u044d\u0442\u043e\u043c \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435 RBM \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0431\u044b\u043a\u043d\u043e\u0432\u0435\u043d\u043d\u043e\u0439 <a href=\"http:\/\/ru.wikipedia.org\/wiki\/\u041c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439_\u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d_\u0420\u0443\u043c\u0435\u043b\u044c\u0445\u0430\u0440\u0442\u0430\">\u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043f\u0440\u044f\u043c\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f<\/a>. \u0422\u0430\u043a\u0430\u044f \u0441\u0435\u0442\u044c \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f <a href=\"http:\/\/habrahabr.ru\/post\/154369\/\">\u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u043c\u043d\u043e\u0433\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438 \u043f\u043e\u043a\u0430 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0432\u044b\u0431\u043e\u0440\u0430 \u044d\u0442\u0438\u0445 \u0441\u0430\u043c\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043a\u0430\u043a \u0438 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0441\u0435\u0442\u0438. \u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u044d\u0432\u0440\u0438\u0441\u0442\u0438\u043a, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u043f\u043e\u0438\u0441\u043a\u0430, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043c\u0435\u0442\u043e\u0434\u0438\u043a \u043e\u0446\u0435\u043d\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, <a href=\"http:\/\/www.machinelearning.ru\/wiki\/index.php?title=\u0421\u043a\u043e\u043b\u044c\u0437\u044f\u0449\u0438\u0439_\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\">\u043a\u0440\u043e\u0441\u0441-\u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u044f<\/a>). \u041c\u0430\u043b\u043e \u0442\u043e\u0433\u043e, \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f, \u0438 \u0441\u0430\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043d\u0435 \u0442\u0430\u043a \u0443\u0436 \u0445\u043e\u0440\u043e\u0448. \u0425\u043e\u0442\u044f <a href=\"http:\/\/psych.stanford.edu\/~jlm\/papers\/PDP\/Volume%201\/Chap8_PDP86.pdf\">\u0420\u0443\u043c\u0435\u043b\u044c\u0445\u0430\u0440\u0442, \u0425\u0438\u043d\u0442\u043e\u043d \u0438 \u0412\u0438\u043b\u044c\u044f\u043c\u0441 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438<\/a> \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f (\u0442\u0443\u0442 \u0435\u0449\u0435 \u0431\u043e\u043b\u0435\u0435 <a href=\"https:\/\/www.google.com\/url?sa=t&amp;rct=j&amp;q=&amp;esrc=s&amp;source=web&amp;cd=1&amp;ved=0CDMQFjAA&amp;url=http%3A%2F%2Fciteseerx.ist.psu.edu%2Fviewdoc%2Fdownload%3Bjsessionid%3D55F98377691054EF92812E081CF56519%3Fdoi%3D10.1.1.53.1048%26rep%3Drep1%26type%3Dpdf&amp;ei=Gy_cUISxPMOr4ATV_oD4Bw&amp;usg=AFQjCNEBoUglj9BSwrt-DD-sWV5PKAZeRg&amp;sig2=xbKJCkbhzZJ9-W-1O9Crug&amp;bvm=bv.1355534169,d.bGE\">\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438<\/a>), \u043d\u043e \u0435\u0441\u0442\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u044e\u0430\u043d\u0441: \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u0438 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043c\u0430\u043b\u044b\u0445 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f\u0445 \u0432\u0435\u0441\u043e\u0432 (\u0442.\u0435. \u043f\u0440\u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0441\u0442\u0440\u0435\u043c\u044f\u0449\u0435\u0439\u0441\u044f \u043a \u043d\u0443\u043b\u044e). \u0418 \u0434\u0430\u0436\u0435 \u044d\u0442\u043e \u043d\u0435 \u0432\u0441\u0435. \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u044d\u0442\u0438\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u043e\u0431\u0443\u0447\u0430\u044e\u0442 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0441\u0435\u0442\u0438 \u0441 \u043e\u0434\u043d\u0438\u043c \u0438\u043b\u0438 \u0434\u0432\u0443\u043c\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u0441\u043b\u043e\u044f\u043c\u0438 \u0438\u0437-\u0437\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u044d\u0444\u0444\u0435\u043a\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f <i>\u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442<\/i> \u0434\u043e \u0434\u0430\u043b\u044c\u043d\u0438\u0445 \u0441\u043b\u043e\u0435\u0432. \u0414\u0430\u043b\u0435\u0435 \u043c\u044b \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u043e \u0442\u043e\u043c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0436\u0435 <i>\u043d\u0435 \u0434\u043e\u0445\u043e\u0434\u0438\u0442<\/i>, \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c \u0442\u0435\u0445\u043d\u0438\u043a\u0443 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 RBM, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043b <a href=\"http:\/\/www.cs.toronto.edu\/~hinton\/\">\u0414\u0436\u0435\u0444\u0444\u0440\u0438 \u0425\u0438\u043d\u0442\u043e\u043d<\/a>.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-163819","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/163819","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=163819"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/163819\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=163819"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=163819"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=163819"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}