{"id":411626,"date":"2024-06-29T22:04:36","date_gmt":"2024-06-29T22:04:36","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=411626"},"modified":"-0001-11-30T00:00:00","modified_gmt":"2024-06-29T22:04:36","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=411626","title":{"rendered":"<span>\u041f\u043e\u0447\u0435\u043c\u0443 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u0443\u043b\u044f\u043c\u0438) \u2013 \u044d\u0442\u043e \u043f\u043b\u043e\u0445\u0430\u044f \u0438\u0434\u0435\u044f<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0430\u0445 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f TensorFlow \u0438 PyTorch \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0447\u0438\u0441\u043b\u0430. \u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u043f\u043e\u043f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f, \u043f\u043e\u0447\u0435\u043c\u0443 \u0434\u043b\u044f \u044d\u0442\u0438\u0445 \u0446\u0435\u043b\u0435\u0439 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043d\u043e\u043b\u044c \u0438\u043b\u0438 \u043a\u0430\u043a\u0443\u044e-\u043d\u0438\u0431\u0443\u0434\u044c \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0443. <\/p>\n<p>\u041a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441, \u0432\u043e\u0442 \u043e\u043d: \u0435\u0441\u043b\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043d\u0443\u043b\u044f\u043c\u0438, \u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0441\u043e\u0432\u0441\u0435\u043c \u0438\u043b\u0438 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u043f\u043b\u043e\u0445\u043e.<\/p>\n<p>\u041a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u0432\u0451\u0440\u043d\u0443\u0442\u043e \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u00ab\u043f\u043b\u043e\u0445\u043e\u00bb, \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u043c\u043e\u0442\u0430\u0442\u044c \u043a \u0437\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044e \u0432 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<p>\u0410 \u0442\u0435\u043c, \u043a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0432 \u0434\u0435\u0442\u0430\u043b\u044f\u0445 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043e\u0441\u043d\u043e\u0432\u0430\u043c\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439, \u0434\u043e\u0431\u0440\u043e \u043f\u043e\u0436\u0430\u043b\u043e\u0432\u0430\u0442\u044c \u0432 \u043c\u0438\u0440 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0444\u043e\u0440\u043c\u0443\u043b. \u041c\u044b \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u0438\u0437-\u0437\u0430 \u0447\u0435\u0433\u043e \u0432 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0438\u0437\u043e\u0439\u0442\u0438 \u00ab\u0441\u0431\u043e\u0439\u00bb.<\/p>\n<h2>\u041d\u0430\u0447\u043d\u0451\u043c \u0441 \u0442\u0435\u043e\u0440\u0438\u0438<\/h2>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c \u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f}\\f\" alt=\"\\DeclareMathOperator{\\f}{f}\\f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ea9\/24e\/0c0\/ea924e0c099e39651955a248c38895a4.svg\"\/>.<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/125\/c32\/f43\/125c32f43469a699ebd2c0b7ad159cff.png\" alt=\"\u041e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\" title=\"\u041e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\" width=\"356\" height=\"349\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/125\/c32\/f43\/125c32f43469a699ebd2c0b7ad159cff.png\"\/><figcaption>\u041e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d<\/figcaption><\/figure>\n<p>\u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"x_i\" alt=\"x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5c3\/1f6\/2a3\/5c31f62a3516f03eb27f0e59328d71d1.svg\"\/>\u2013 <img decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fba\/853\/f6e\/fba853f6ef64ba8323c16c889bee7e79.svg\"\/>-\u0439 \u0432\u0445\u043e\u0434, <img decoding=\"async\" class=\"formula inline\" source=\"n\" alt=\"n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/897\/7ff\/62d\/8977ff62d1824efcec7664fadcc2d84f.svg\"\/> \u2013 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0445\u043e\u0434\u043e\u0432, <img decoding=\"async\" class=\"formula inline\" source=\"\\omega_i\" alt=\"\\omega_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2b9\/262\/294\/2b9262294d3f6997d913c889dba9da6c.svg\"\/>\u2013 <img decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/819\/659\/c9a\/819659c9ad6ee99a62e69f95b55ec3c3.svg\"\/>-\u0439 \u0432\u0435\u0441, <img decoding=\"async\" class=\"formula inline\" source=\"b\" alt=\"b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b0\/dcd\/1c4\/3b0dcd1c4685a3a3a0f9530c19d9b732.svg\"\/> \u2013 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435, <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/666\/ab6\/ba6\/666ab6ba690d296b9019ee18099775a6.svg\"\/> \u2013 \u0432\u044b\u0445\u043e\u0434. \u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/496\/1e2\/db2\/4961e2db222f85c08656e232621ba6ae.svg\"\/> \u0440\u0430\u0432\u043d\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f}\\f(z)\" alt=\"\\DeclareMathOperator{\\f}{f}\\f(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/871\/183\/a4d\/871183a4d7f05faefea76ca85804c3c2.svg\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"z=\\textstyle\\sum_{i=1}^nx_iw_i+b\" alt=\"z=\\textstyle\\sum_{i=1}^nx_iw_i+b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/943\/121\/e08\/943121e08844806d63a4b9b5cf18adfc.svg\"\/>. \u0412 \u0446\u0435\u043b\u044f\u0445 \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0435\u043c \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"b\" alt=\"b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cd7\/6d9\/aa7\/cd76d9aa7e40039f732dce3defdad2f2.svg\"\/> \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u043a\u0430\u043a (<img decoding=\"async\" class=\"formula inline\" source=\"n+1\" alt=\"n+1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/11d\/aa8\/645\/11daa864530cecc623115be5458e5d06.svg\"\/>)-\u0439 \u0432\u0445\u043e\u0434 \u0441\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"x_{n+1}=1\" alt=\"x_{n+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/047\/5b2\/950\/0475b2950ec33b193c777620d032e07d.svg\"\/> \u0438 \u0432\u0435\u0441\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"w_ {n+1}=b\" alt=\"w_ {n+1}=b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d45\/900\/7ff\/d459007ff8a5b05fce2a4711afc96806.svg\"\/>. \u0422\u043e\u0433\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"z=\\textstyle\\sum_{i=1}^{n+1}x_iw_i\" alt=\"z=\\textstyle\\sum_{i=1}^{n+1}x_iw_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/183\/3a0\/ace\/1833a0ace26f9bbd2c55f111a062cf20.svg\"\/>. <\/p>\n<p>\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u043c\u0435\u0442\u043e\u0434\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430. \u041f\u0443\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"y^{*}\" alt=\"y^{*}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7c7\/90b\/422\/7c790b422c4756033d0ee1896ec5bf02.svg\"\/>\u2013 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 \u0434\u043b\u044f \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{x}^*=(x_1^*,x_2^*, \\ldots ,x_n^*)\" alt=\"\\overline{x}^*=(x_1^*,x_2^*, \\ldots ,x_n^*)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f11\/6f4\/d39\/f116f4d397d0780d29c2c39728b2e970.svg\"\/>. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043e\u0448\u0438\u0431\u043a\u0443 (MSE): <img decoding=\"async\" class=\"formula inline\" source=\"L=\\textstyle\\sum_{j=1}^N(y-y_j^*)^2\/N\" alt=\"L=\\textstyle\\sum_{j=1}^N(y-y_j^*)^2\/N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/50b\/d3a\/212\/50bd3a212ea3e8d59dd5b9b1ef53f680.svg\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/08a\/98e\/5d7\/08a98e5d7c653b634fdcb3bca0df8579.svg\"\/> \u2013 \u0447\u0438\u0441\u043b\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u0432 \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445. \u0414\u043b\u044f \u043f\u0440\u043e\u0441\u0442\u043e\u0442\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0441\u043b\u0443\u0447\u0430\u0439 \u0441 \u043e\u0434\u043d\u0438\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435, \u0442. \u0435. <img decoding=\"async\" class=\"formula inline\" source=\"N=1\" alt=\"N=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b0\/cae\/e60\/3b0caee604a132b29ce428915593238b.svg\"\/>,<img decoding=\"async\" class=\"formula inline\" source=\"L=(y-y^*)^2\" alt=\"L=(y-y^*)^2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7e8\/1d7\/b48\/7e81d7b48413c1fca97c3f296a06e2ce.svg\"\/>.<\/p>\n<p>\u0412 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}=(w_1,w_2,...,w_n,w_{n+1})\" alt=\"\\overline{w}=(w_1,w_2,...,w_n,w_{n+1})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7de\/a4f\/f17\/7dea4ff1744393259c5e10706957bfb6.svg\"\/> \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}-\\alpha\\cdot\\nabla L(\\overline{w}^{(k)})\" alt=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}-\\alpha\\cdot\\nabla L(\\overline{w}^{(k)})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4c8\/6fa\/b9e\/4c86fab9eaba9264ed131efda087043c.svg\"\/>. \u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}^{(k)}\" alt=\"\\overline{w}^{(k)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5db\/c17\/9ee\/5dbc179eea6137d26a8d2f6ecac9fa2e.svg\"\/> \u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/032\/a69\/e1b\/032a69e1b2bc3f5f69a44f4d6d6cc10d.svg\"\/>-\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"\\alpha\" alt=\"\\alpha\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1ea\/7be\/fd3\/1ea7befd3364646ed57af817efc12f14.svg\"\/> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (learning rate), <img decoding=\"async\" class=\"formula inline\" source=\"\\nabla L (\\overline{w})\" alt=\"\\nabla L (\\overline{w})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/495\/dc2\/303\/495dc230379d6c47ce344fbb5993f8fe.svg\"\/> \u2013 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438, \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0439 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\nabla L\\left(\\vec{w}\\right)=\\left[\\begin{matrix}\\frac{\\partial L}{\\partial w_1}\\\\\\vdots\\\\\\frac{\\partial L}{\\partial w_{n+1}}\\\\\\end{matrix}\\right]\\;\\;\\;\\;\\;(1)\" alt=\"\\nabla L\\left(\\vec{w}\\right)=\\left[\\begin{matrix}\\frac{\\partial L}{\\partial w_1}\\\\\\vdots\\\\\\frac{\\partial L}{\\partial w_{n+1}}\\\\\\end{matrix}\\right]\\;\\;\\;\\;\\;(1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/366\/428\/86a\/36642886a7f3cb1d75beeda113620113.svg\" width=\"217\" height=\"104\"\/><\/p>\n<p>\u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\frac{\\partial L}{\\partial w_i}\" alt=\"\\frac{\\partial L}{\\partial w_i}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/758\/6c8\/2e2\/7586c82e26cb84fea37a2ad5b6d8401e.svg\"\/> \u2013 \u0447\u0430\u0441\u0442\u043d\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f <img decoding=\"async\" class=\"formula inline\" source=\"L \" alt=\"L \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3e1\/ba2\/8d9\/3e1ba28d9f6d8a3d30f8c13f5327008f.svg\"\/> \u043f\u043e <img decoding=\"async\" class=\"formula inline\" source=\"w_i\" alt=\"w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2f5\/f22\/a28\/2f5f22a28e4629bebcb050de147df184.svg\"\/>. \u0420\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0435\u0451 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{\\partial L}{\\partial w_i}=\\frac{\\partial (y-y^*)^2}{\\partial w_i}=2(y-y^*)\\frac{\\partial (y-y^*)}{\\partial w_i}=2(y-y^*)\\frac{\\partial y}{\\partial w_i}\\;\\;\\;\\;\\;(2)\" alt=\"\\frac{\\partial L}{\\partial w_i}=\\frac{\\partial (y-y^*)^2}{\\partial w_i}=2(y-y^*)\\frac{\\partial (y-y^*)}{\\partial w_i}=2(y-y^*)\\frac{\\partial y}{\\partial w_i}\\;\\;\\;\\;\\;(2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1b6\/63a\/f9f\/1b663af9fe1e33c9e6806271fc8b032a.svg\" width=\"535\" height=\"49\"\/><\/p>\n<p>\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y}{\\partial w_i}=\\frac{\\partial \\f(z)}{\\partial w_i}=\\frac{\\partial \\f(z)}{\\partial z}\\cdot\\frac{\\partial z}{\\partial w_i}=\\f'(z)\\cdot\\frac{\\partial\\sum_{k=1}^{n+1}x_kw_k}{\\partial w_i}=\" alt=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y}{\\partial w_i}=\\frac{\\partial \\f(z)}{\\partial w_i}=\\frac{\\partial \\f(z)}{\\partial z}\\cdot\\frac{\\partial z}{\\partial w_i}=\\f'(z)\\cdot\\frac{\\partial\\sum_{k=1}^{n+1}x_kw_k}{\\partial w_i}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/672\/4a6\/b00\/6724a6b00054db5f7494bbab3d4832f7.svg\" width=\"459\" height=\"52\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} =\\f'(z)\\cdot\\frac{\\partial x_iw_i}{\\partial w_i}=\\f'(z)\\cdot x_i\\;\\;\\;\\;\\;\\;\\;\\;\\;(3)\" alt=\"\\DeclareMathOperator{\\f}{f} =\\f'(z)\\cdot\\frac{\\partial x_iw_i}{\\partial w_i}=\\f'(z)\\cdot x_i\\;\\;\\;\\;\\;\\;\\;\\;\\;(3)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/afc\/071\/14b\/afc07114b413b6ae17cc442cae3f9246.svg\" width=\"295\" height=\"46\"\/><\/p>\n<p>\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial L}{\\partial w_i}=2\\cdot\\Delta y\\cdot \\f'(z)\\cdot x_i\" alt=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial L}{\\partial w_i}=2\\cdot\\Delta y\\cdot \\f'(z)\\cdot x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/57c\/780\/58c\/57c78058cf57496303bafcc7a9a3d40c.svg\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y=y-y^*\" alt=\"\\Delta y=y-y^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/396\/618\/adc\/396618adc190c616b890cc735935df05.svg\"\/> \u2013 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f.<\/p>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 (\u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0430 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 \u0432\u0435\u043a\u0442\u043e\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{x}^*\" alt=\"\\overline{x}^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/af2\/d6d\/af8\/af2d6daf8e4e2a4df1d6c92e9e01d2eb.svg\"\/>), \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"{\\partial L}\/{\\partial w_i}\" alt=\"{\\partial L}\/{\\partial w_i}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1e4\/a49\/4e0\/1e4a494e03c0dc5d910e71335da95224.svg\"\/> \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0431\u0440\u0430\u0442\u044c \u0432 \u0442\u043e\u0447\u043a\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{x}=\\overline{x}^*\" alt=\"\\overline{x}=\\overline{x}^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/188\/dda\/6f7\/188dda6f779932c9da953c76b9045023.svg\"\/>.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"w_i\" alt=\"w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/835\/c62\/fb2\/835c62fb279425e776c9d38123d0096d.svg\"\/> <strong>\u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f <\/strong>\u043d\u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} \\Delta w_i=\\text{-}2\\cdot\\alpha\\cdot\\Delta y\\cdot \\f'(z)\\cdot x_i^*\\;\\;\\;\\;\\;\\;\\;\\;(4)\" alt=\"\\DeclareMathOperator{\\f}{f} \\Delta w_i=\\text{-}2\\cdot\\alpha\\cdot\\Delta y\\cdot \\f'(z)\\cdot x_i^*\\;\\;\\;\\;\\;\\;\\;\\;(4)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/488\/c48\/cf9\/488c48cf92758c97e465a79ac9d0acac.svg\" width=\"297\" height=\"25\"\/><\/p>\n<p>\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432\u043d\u0438\u043c\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043a\u0430\u043a\u0438\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u0432\u0445\u043e\u0434\u044f\u0442 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u0435\u0439 \u043f\u0440\u0438 \u0440\u0430\u0441\u0447\u0451\u0442\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b<img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_i\" alt=\"\\Delta w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/98c\/5b2\/b6a\/98c5b2b6ac92e1b04ff4250d274ffe76.svg\"\/>: <\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\alpha\" alt=\"\\alpha\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e06\/f49\/a16\/e06f49a1632b0d9751616f7cb68e49fd.svg\"\/> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y\" alt=\"\\Delta y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a3b\/4f1\/0b5\/a3b4f10b56f3ff906cde4c82c55b28fa.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f, <\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\f'(z)\" alt=\"\\DeclareMathOperator{\\f}{f} \\f'(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/910\/8f9\/72e\/9108f972e05cc5cface75263a08467f3.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\f\" alt=\"\\DeclareMathOperator{\\f}{f} \\f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/54e\/6da\/710\/54e6da7104c1e3dbaad967dc1cccde2e.svg\"\/> \u0432 \u0442\u043e\u0447\u043a\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"z=\\textstyle\\sum_{i=1}^{n{\\small+}1}x_i^*w_i\" alt=\"z=\\textstyle\\sum_{i=1}^{n{\\small+}1}x_i^*w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cdb\/0a7\/81f\/cdb0a781fab1c7ef2a068732fc6b2668.svg\"\/>,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"x_i^*\" alt=\"x_i^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/97b\/0e4\/255\/97b0e4255a609b4527dd2e4c84a5d235.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0433\u043e \u0432\u0445\u043e\u0434\u0430 \u043d\u0430 \u0432\u0435\u043a\u0442\u043e\u0440\u0435 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e <strong>\u0432 \u043e\u0431\u0449\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435<\/strong> \u0441\u0430\u043c \u0432\u0435\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"w_i\" alt=\"w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/47f\/9d3\/7e2\/47f9d37e232d4ca8d8577cabf0218e63.svg\"\/> \u043d\u0435 \u0432\u0445\u043e\u0434\u0438\u0442 \u0432 \u044d\u0442\u0443 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044f \u0432 \u044f\u0432\u043d\u043e\u043c \u0432\u0438\u0434\u0435. <\/p>\n<p><strong>\u0412\u044b\u0432\u043e\u0434.<\/strong> \u0415\u0441\u043b\u0438 \u043d\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0435\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"w_i\" alt=\"w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f85\/40f\/1d9\/f8540f1d94e4e4f255008a11515e3563.svg\"\/> \u0440\u0430\u0432\u0435\u043d <img decoding=\"async\" class=\"formula inline\" source=\"0\" alt=\"0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5c0\/60c\/977\/5c060c97799a6ba12d4844f158565292.svg\"\/>, \u0442\u043e \u044d\u0442\u043e \u043d\u0435 \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0448\u0430\u0433\u0435 \u0434\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u0441 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u044b\u043c <img decoding=\"async\" class=\"formula inline\" source=\"0\" alt=\"0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/193\/7be\/6b1\/1937be6b126ccc71e57a4cfedd2f8258.svg\"\/>. \u041e\u043d \u043c\u043e\u0436\u0435\u0442 \u043a\u0430\u043a \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c\u0441\u044f, \u0442\u0430\u043a \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c\u0441\u044f. <\/p>\n<h2>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h2>\n<p>\u041f\u0443\u0441\u0442\u044c \u0443 \u043d\u0430\u0441 \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/316\/6eb\/7623166eb9effb969fae023811ed3a01.svg\"\/> \u0438 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\f(z) =z\" alt=\"\\DeclareMathOperator{\\f}{f} \\f(z) =z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/37a\/6a1\/e57\/37a6a1e5755d00f330f0e4b82752331c.svg\"\/>. \u0415\u0451 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\f'(z) \" alt=\"\\DeclareMathOperator{\\f}{f} \\f'(z) \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2b3\/e8a\/4ed\/2b3e8a4ed12ace4a0daf9a9cf9480b27.svg\"\/> \u0440\u0430\u0432\u043d\u0430 1 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"z\" alt=\"z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/040\/60a\/614\/04060a6145d5953e7a57bf9ad7288734.svg\"\/>. \u041f\u0443\u0441\u0442\u044c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0445\u043e\u0434\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"n=2\" alt=\"n=2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e70\/328\/f73\/e70328f7353ae551596e624498241aca.svg\"\/>, \u0432\u0435\u0441\u0430 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0443\u043b\u044f\u043c\u0438 \u0438 \u0435\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430: <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{x}^*=(0{,}5;2),\" alt=\"\\overline{x}^*=(0{,}5;2),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ca7\/077\/89b\/ca707789b7a09cea2b6f8fd91ac8b308.svg\"\/><img decoding=\"async\" class=\"formula inline\" source=\"y^*=42\" alt=\"y^*=42\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b10\/dd5\/284\/b10dd5284148868b30a532ba3f6165ce.svg\"\/>.<\/p>\n<p>\u041f\u0440\u043e\u043c\u043e\u0434\u0435\u043b\u0438\u0440\u0443\u0435\u043c, \u043a\u0430\u043a \u0431\u0443\u0434\u0435\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\alpha=0{,}1\" alt=\"\\alpha=0{,}1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d8a\/b4d\/259\/d8ab4d259a86f98c0dc4db7028fd8971.svg\"\/>. <\/p>\n<details class=\"spoiler\">\n<summary>\u0412\u0441\u043f\u043e\u043c\u043d\u0438\u043c \u0444\u043e\u0440\u043c\u0443\u043b\u044b<\/summary>\n<div class=\"spoiler__content\">\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} y=\\textstyle\\sum_{i=1}^{n+1}x_i^*w_i\" alt=\"\\DeclareMathOperator{\\f}{f} y=\\textstyle\\sum_{i=1}^{n+1}x_i^*w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/81d\/fc6\/379\/81dfc63791db41f19ba13d49c34412e9.svg\"\/> <\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y=y-y^*\" alt=\"\\Delta y=y-y^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4d9\/32a\/595\/4d932a59527eae27146ce55183301fe1.svg\"\/> <\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_i=\\text{-}2\\cdot\\alpha\\cdot\\Delta y\\cdot x_i^*\" alt=\"\\Delta w_i=\\text{-}2\\cdot\\alpha\\cdot\\Delta y\\cdot x_i^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/add\/294\/b87\/add294b873b2e4dc5f968379aec9f225.svg\"\/><\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}+\\Delta\\overline w^{(k)}\" alt=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}+\\Delta\\overline w^{(k)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6e5\/025\/2d0\/6e50252d0f23fc46a6132427a51c1c8b.svg\"\/><\/p>\n<\/div>\n<\/details>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p><strong>\u0428\u0430\u0433<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p><strong>\u041d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0435  \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}\" alt=\"\\overline{w}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/77d\/a3c\/d01\/77da3cd01af918ad2f0d3c446b1a66d7.svg\"\/><\/strong><\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p><img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a46\/c0f\/066\/a46c0f066f3c0d6675e49b88643425a1.svg\"\/><\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y\" alt=\"\\Delta y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/83b\/5d1\/d47\/83b5d1d47d3402f5cc72a3025436f7ad.svg\"\/><\/p>\n<\/td>\n<td>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta \\overline w\" alt=\"\\Delta \\overline w\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1a9\/77b\/627\/1a977b627ec8c963d69c4fd884de830d.svg\"\/><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>1<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(0; 0; 0)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>0<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-42<\/p>\n<\/td>\n<td>\n<p>(4,2; 16,8; 8,4)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>2<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,2; 16,8; 8,4)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>44,1<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>2,1<\/p>\n<\/td>\n<td>\n<p>(-0,21; -0,84; -0,42)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>3<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(3,99; 15,96; 7,98)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>41,895<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-0,105<\/p>\n<\/td>\n<td>\n<p>(0,0105; 0,042; 0,021)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>4<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,005; 16,002; 8,001)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>42,00525<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>0,00525<\/p>\n<\/td>\n<td>\n<p>(-0,00053; -0,0021; -0,00105)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>5<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(3,99998; 15,9999; 7,99995)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>41,99974<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-0,00026<\/p>\n<\/td>\n<td>\n<p>(0,00003; 0,00010; 0,00005)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>6<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,00000; 16,00001; 8,00000)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>42,00001<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>0,00001<\/p>\n<\/td>\n<td>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0417\u0434\u0435\u0441\u044c \u0432\u0441\u0435 \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u043e 5 \u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u044f\u0442\u043e\u0439.<\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e, \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u043e \u043f\u0440\u0438\u0448\u0451\u043b \u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c \u0432\u0435\u0441\u043e\u0432, \u0431\u043b\u0438\u0437\u043a\u0438\u0445 \u043a <img decoding=\"async\" class=\"formula inline\" source=\"\\overline w_{sol}=\" alt=\"\\overline w_{sol}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/215\/e9b\/d29\/215e9bd294b94e362592ee912a11c58e.svg\"\/> <img decoding=\"async\" class=\"formula inline\" source=\"(4;16;8)\" alt=\"(4;16;8)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/60a\/d86\/08d\/60ad8608d1cc507c2c9cf48bf9a04d90.svg\"\/>. \u041f\u0440\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline w=\\overline w_{sol}\" alt=\"\\overline w=\\overline w_{sol}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3c0\/a71\/1d9\/3c0a711d926342783d7fcb1f3862ef78.svg\"\/> \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/163\/aa1\/6c1\/163aa16c1aaa42bbe37c5adb9978d749.svg\"\/> \u0440\u0430\u0432\u043d\u043e  <img decoding=\"async\" class=\"formula inline\" source=\"4\\cdot0{,}5+16\\cdot2+8\\cdot1=42\" alt=\"4\\cdot0{,}5+16\\cdot2+8\\cdot1=42\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/646\/350\/26a\/64635026a4ff8a89b60dfe51535b3dfc.svg\"\/>, \u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y\" alt=\"\\Delta y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/575\/e3e\/201\/575e3e201281d74f038824eb10bca999.svg\"\/> \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0432\u043f\u043e\u043b\u043d\u0435 \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0438\u043b\u0441\u044f, \u0441\u0442\u0430\u0440\u0442\u0443\u044f \u0441 \u0432\u0435\u0441\u043e\u0432, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043d\u0443\u043b\u044f\u043c\u0438. \u041f\u0440\u0438\u0447\u0451\u043c, \u0447\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438.<\/p>\n<h2>\u0411\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b<\/h2>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u0432\u044b\u0445\u043e\u0434\u0430\u043c\u0438. \u0412 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0442\u0430 \u0436\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u2014 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0438 \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"M\" alt=\"M\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/62a\/a35\/c83\/62aa35c83d2bbb5891114a21ded2eeb5.svg\"\/> \u0432\u044b\u0445\u043e\u0434\u0430\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"M\" alt=\"M\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1fa\/891\/7cf\/1fa8917cf1eabfdca650bd127675665e.svg\"\/> \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u043e\u0432 \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u0410 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u044b \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c, \u043a\u0430\u043a \u043c\u044b \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u0438, \u0443\u043c\u0435\u044e\u0442 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u0435\u0432\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438.<\/p>\n<p>\u042d\u0442\u043e \u0441\u043f\u0440\u0430\u0432\u0435\u0434\u043b\u0438\u0432\u043e \u043a\u0430\u043a \u0434\u043b\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439, \u0442\u0430\u043a \u0438 \u0434\u043b\u044f \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0441 \u043d\u0435\u043d\u0443\u043b\u0435\u0432\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0445 (<img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\sigmoid}{sigmoid} \\sigmoid\" alt=\"\\DeclareMathOperator{\\sigmoid}{sigmoid} \\sigmoid\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3f4\/8a9\/cd5\/3f48a9cd524f73e6eff9bf822269f312.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"\\tanh\" alt=\"\\tanh\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1c2\/8fa\/733\/1c28fa7337c72454292e8cfcc7280f38.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\elu}{elu}\\elu\" alt=\"\\DeclareMathOperator{\\elu}{elu}\\elu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/173\/13f\/e5a\/17313fe5a28ec9fcb29aa030170b0f6b.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\leakyRelu}{leakyRelu}\\leakyRelu\" alt=\"\\DeclareMathOperator{\\leakyRelu}{leakyRelu}\\leakyRelu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bad\/862\/b03\/bad862b036203476efacd60f096a1c96.svg\"\/> \u0438 \u0434\u0440.). \u0421 \u044d\u0442\u0438\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0441\u0442\u0430\u0440\u0442\u0443\u044f \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u0445 \u0432\u0435\u0441\u043e\u0432. <\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u0441\u0451-\u0436\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u043f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2a5\/b01\/d75\/2a5b01d75ce375a9328f4ab46fd66645.svg\"\/> \u0438\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\leakyRelu}{leakyRelu}\\leakyRelu\" alt=\"\\DeclareMathOperator{\\leakyRelu}{leakyRelu}\\leakyRelu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a06\/fb8\/8b3\/a06fb88b37fc5f313ebac6cc302c26db.svg\"\/> \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u043c \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u043c \u043d\u0430\u043a\u043b\u043e\u043d\u0430 \u0434\u043b\u044f \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0447\u0438\u0441\u0435\u043b (negative slope). \u0412 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043b\u0435\u0432\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0432 \u043d\u0443\u043b\u0435 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u0430 \u043f\u0440\u0430\u0432\u0430\u044f \u2013 \u043d\u0435 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0430. \u041e\u0434\u043d\u0430\u043a\u043e \u0434\u043b\u044f \u043c\u0435\u0442\u043e\u0434\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f}\\f'(z)\" alt=\"\\DeclareMathOperator{\\f}{f}\\f'(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ab3\/978\/d48\/ab3978d488a5172e488fdf30c2fdfc75.svg\"\/>\u0432\u0441\u0451 \u0436\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043e. \u0418 \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f\u0445 TensorFlow \u0438 PyTorch \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/65d\/32d\/7d6\/65d32d7d67424f2f07a721a16136f023.svg\"\/> \u0432 \u043d\u0443\u043b\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u043e\u0439 \u043d\u0443\u043b\u044e. \u0418\u0437-\u0437\u0430 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_i\" alt=\"\\Delta w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/67b\/76b\/41c\/67b76b41c9ba17e31d148210220b2051.svg\"\/> \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0435\u0441\u0430 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f, \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442.<\/p>\n<p>\u041d\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u0430\u044f \u0432\u044b\u0448\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f21\/536\/ac7\/f21536ac73977b79c91c2b0dfb7715d0.svg\"\/> \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0438 \u043f\u0440\u0438 \u0432\u0435\u0441\u0430\u0445, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043f\u0440\u0438\u0447\u0451\u043c \u0434\u0430\u0436\u0435 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u043a\u0430\u043c\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u0432\u0435\u0441\u0430 \u0431\u044b\u043b\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"\\overline w=(0{,}6;\\text{-}0{,}3;0{,}2)\" alt=\"\\overline w=(0{,}6;\\text{-}0{,}3;0{,}2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9e1\/e22\/245\/9e1e222454a1bfa54608406ef07d3719.svg\"\/>, \u0442\u043e \u043d\u0430 \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u043c \u0432\u044b\u0448\u0435 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u043e\u0439\u0434\u0451\u0442, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"z\" alt=\"z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/369\/e77\/066\/369e77066c18026313db15fc9131245b.svg\"\/> \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e: <img decoding=\"async\" class=\"formula inline\" source=\"z=0{,}6\\cdot0{,}5+(\\text{-}0{,}3)\\cdot2+0{,}2\\cdot1=\\text{-}0{,}1\" alt=\"z=0{,}6\\cdot0{,}5+(\\text{-}0{,}3)\\cdot2+0{,}2\\cdot1=\\text{-}0{,}1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/616\/8bb\/aad\/6168bbaad959d14faa600aac971d9e2c.svg\"\/>, \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ee2\/c0b\/715\/ee2c0b715d37a05719da965fb1aa68a4.svg\"\/> \u043f\u0440\u0438 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u0430 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u0430 \u043d\u0443\u043b\u0435\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u043e\u0431\u043d\u0443\u043b\u0435\u043d\u0438\u044e \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439 \u0432\u0435\u0441\u043e\u0432<img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_i\" alt=\"\\Delta w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c57\/a4b\/045\/c57a4b04592273a43b544eb2de1d03dc.svg\"\/>.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d42\/2bd\/5e6\/d422bd5e6fa9b1e9ea6aeb512aea3441.svg\"\/> \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442\u044c \u043a\u0430\u043a \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438, \u0442\u0430\u043a \u0438 \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0432\u044b\u0448\u0435 \u043a\u0435\u0439\u0441 \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/574\/1d8\/3e0\/5741d83e06031f6a76fdd63dac8e785b.svg\"\/> \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0432\u0435\u0441\u043a\u0438\u043c \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u043c \u043f\u0440\u043e\u0442\u0438\u0432 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u0438 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430\u043c\u0438. \u0421\u043a\u043e\u0440\u0435\u0435, \u044d\u0442\u043e \u0434\u043e\u0432\u043e\u0434 \u043f\u0440\u043e\u0442\u0438\u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" alt=\"\\DeclareMathOperator{\\relu}{relu}\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/649\/4b5\/ba9\/6494b5ba9350903eafe3a718cc9d7a92.svg\"\/>.<\/p>\n<p><strong>\u0422\u0430\u043a \u043f\u043e\u0447\u0435\u043c\u0443 \u0431\u044b \u043d\u0435 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043d\u0443\u043b\u044f\u043c\u0438, \u0435\u0441\u043b\u0438 \u044d\u0442\u043e \u043d\u0435 \u043c\u0435\u0448\u0430\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e (\u0435\u0441\u043b\u0438 \u043d\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c relu)?<\/strong><\/p>\n<h2>\u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c<\/h2>\n<p>\u041f\u0443\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0438\u0437 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"n_1\" alt=\"n_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a0c\/ef6\/c96\/a0cef6c96b5753f1631c651ca37ff0af.svg\"\/>\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"n_2\" alt=\"n_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b44\/489\/db2\/b44489db282985ff6718784e505a9a40.svg\"\/> \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"n_3\" alt=\"n_3\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5f2\/b4e\/fe4\/5f2b4efe4235d54be076ccbf3aee1b1c.svg\"\/> \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438. <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/928\/ed9\/3fd\/928ed93fd0f51fb1c9db07b12ea00df4.png\" alt=\"\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c\" title=\"\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c\" width=\"647\" height=\"440\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/928\/ed9\/3fd\/928ed93fd0f51fb1c9db07b12ea00df4.png\"\/><figcaption>\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c<\/figcaption><\/figure>\n<p>\u0412\u0432\u0435\u0434\u0451\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f: <img decoding=\"async\" class=\"formula inline\" source=\"x_i\" alt=\"x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/026\/5de\/12f\/0265de12fd7f76d6f6f22f3b97336942.svg\"\/> \u2013 <img decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/86e\/e9a\/015\/86ee9a0153c9a2c13919286770c96ba2.svg\"\/>-\u0439 \u0432\u0445\u043e\u0434, <img decoding=\"async\" class=\"formula inline\" source=\"h_j\" alt=\"h_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/34f\/d83\/59c\/34fd8359c36f288f316900689e22ffeb.svg\"\/> \u2013 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/258\/e15\/e3a\/258e15e3ad85306f0bd45a744506af5a.svg\"\/>-\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"y_k\" alt=\"y_k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fd9\/a9d\/af9\/fd9a9daf929e6142a8eb93a3a41a7c46.svg\"\/> \u2013 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/eda\/bb6\/111\/edabb6111c37b98692609dceab23f3e6.svg\"\/>-\u0439 \u0432\u044b\u0445\u043e\u0434, <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f}\\f_h(z)\" alt=\"\\DeclareMathOperator{\\f}{f}\\f_h(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1b0\/419\/eb6\/1b0419eb69b218560a3b112370160197.svg\"\/> \u2013 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f}\\f_y(z)\" alt=\"\\DeclareMathOperator{\\f}{f}\\f_y(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/359\/c94\/80d\/359c9480d3ff0cf4c097123a158fd5c2.svg\"\/> \u2013 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k}\" alt=\"w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/90e\/700\/c89\/90e700c8993c00d6512712d9ed46aa03.svg\"\/> \u2013 \u0432\u0435\u0441 \u043c\u0435\u0436\u0434\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/545\/54c\/271\/54554c271d36adbbf8acca896b74f57c.svg\"\/>-\u043c \u0432\u0445\u043e\u0434\u043e\u043c \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5b8\/b6f\/865\/5b8b6f865a7a6cc4a623904467d65d12.svg\"\/>-\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a33\/02f\/ffe\/a3302fffe55881ab816b4bf015927ebe.svg\"\/> \u2013 \u0432\u0435\u0441 \u043c\u0435\u0436\u0434\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/de6\/5dc\/6ad\/de65dc6ad0ef6b6af896f3b40a54476b.svg\"\/>-\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d72\/c41\/eca\/d72c41eca6659162ca3c7314adbfb13b.svg\"\/>-\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u041a\u0430\u043a \u0438 \u0440\u0430\u043d\u0435\u0435, \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u044b: <img decoding=\"async\" class=\"formula inline\" source=\"x_{n_1+1}=1\" alt=\"x_{n_1+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f0\/714\/f33\/4f0714f3367ad674f2026d5d02f9b24d.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"h_{n_2+1}=1\" alt=\"h_{n_2+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/729\/b26\/92d\/729b2692dd6ab3c11618f2b6d29a7086.svg\"\/>.<\/p>\n<p>\u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"z_{2,k}=\\textstyle\\sum_{i=1}^{n_1\\small{+}1}x_i w_{1,i,k}\" alt=\"z_{2,k}=\\textstyle\\sum_{i=1}^{n_1\\small{+}1}x_i w_{1,i,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ead\/429\/f28\/ead429f282c6472a5c4854d71cf8ec44.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e9d\/31a\/99f\/e9d31a99ff0942a1e57074a5f7d9b770.svg\"\/>-\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0442\u043e\u0433\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} h_k=\\f_h(z_{2,k})\" alt=\"\\DeclareMathOperator{\\f}{f} h_k=\\f_h(z_{2,k})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f61\/7ec\/44e\/f617ec44e2f7290f4e90a23f72fa0207.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ac3\/723\/d74\/ac3723d742242f081940ead46a6a1bfa.svg\"\/>-\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"z_{3,k}=\\textstyle\\sum_{i=1}^{n_2\\small{+}1}h_i w_{2,i,k}\" alt=\"z_{3,k}=\\textstyle\\sum_{i=1}^{n_2\\small{+}1}h_i w_{2,i,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/043\/29c\/d9c\/04329cd9cf3b20e42226356f62bf7a76.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bed\/6b4\/61e\/bed6b461ed1419e5a3c1db8b2e29bb42.svg\"\/>-\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0442\u043e\u0433\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} y_k=\\f_y(z_{3,k})\" alt=\"\\DeclareMathOperator{\\f}{f} y_k=\\f_y(z_{3,k})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f6d\/b15\/289\/f6db152895bd54a378cfa0c6bc51df3e.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d8b\/c53\/271\/d8bc53271158b3b50c1d5f2cb82f3c42.svg\"\/>-\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438.<\/p>\n<p>\u041f\u0443\u0441\u0442\u044c \u0443 \u043d\u0430\u0441 \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0438\u0437 \u043e\u0434\u043d\u043e\u0439 \u043f\u0430\u0440\u044b \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"(\\overline x^*,\\overline y^*)\" alt=\"(\\overline x^*,\\overline y^*)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/595\/8df\/e01\/5958dfe010db884c18e2b9235bdf8381.svg\"\/>. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a0e\/363\/33b\/a0e36333bed1929b77564d0d85f21c9e.svg\"\/> \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043e\u0448\u0438\u0431\u043a\u0443 (MSE). \u0422\u043e\u0433\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"L=\\textstyle\\sum _{i=1}^{n_3}(y_i-y_i^*)^2\" alt=\"L=\\textstyle\\sum _{i=1}^{n_3}(y_i-y_i^*)^2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2fb\/b58\/4b5\/2fbb584b51cc82a53d70ba9a005e5ca8.svg\"\/>.<\/p>\n<h2>\u041a\u0430\u043a \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438<\/h2>\n<p>\u0414\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043a\u0430\u043a \u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0431\u0443\u0434\u0435\u043c \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c \u0444\u043e\u0440\u043c\u0443\u043b\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}-\\alpha\\cdot\\nabla L(\\overline{w}^{(k)})\" alt=\"\\overline{w}^{(k+1)}=\\overline{w}^{(k)}-\\alpha\\cdot\\nabla L(\\overline{w}^{(k)})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4e4\/f90\/757\/4e4f907579b19a7beafe41afe81e76fc.svg\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline w^{(k)}\" alt=\"\\overline w^{(k)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0bc\/ec5\/45d\/0bcec545d0dea03e37d863f13d870dc8.svg\"\/> \u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/37b\/7e3\/bf6\/37b7e3bf61246a5d911cc9b130b5c486.svg\"\/>-\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, <img decoding=\"async\" class=\"formula inline\" source=\"\\alpha\" alt=\"\\alpha\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e1b\/bd7\/9c3\/e1bbd79c3f733225c4efcc1da7099154.svg\"\/> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (learning rate), <img decoding=\"async\" class=\"formula inline\" source=\"\\nabla L(\\overline w)\" alt=\"\\nabla L(\\overline w)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c0b\/127\/c1e\/c0b127c1e7d54f8cf8824bf37262f696.svg\"\/> \u2013 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438. \u041e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0435<img decoding=\"async\" class=\"formula inline\" source=\"\\partial L\/\\partial w_i\" alt=\"\\partial L\/\\partial w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2a9\/19b\/d31\/2a919bd318d95f91219de9f568be33a8.svg\"\/> \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443 \u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432.<\/p>\n<p>\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e03\/f49\/fe8\/e03f49fe8fac1ae78294ea4f7f466a40.svg\"\/>, \u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0438\u0435 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439. \u0412\u044b\u0447\u0438\u0441\u043b\u0438\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u043d\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e: <\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y_i}{\\partial w_{2,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial w_{2,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial z_{3,i}}\\cdot\\frac{\\partial z_{3,i}}{\\partial w_{2,j,k}}=\\f'_y(z_{3,i})\\cdot\\frac{\\sum_{m=1}^{n_2+1}h_m\\partial w_{2,m,i}}{\\partial w_{2,j,k}}=\" alt=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y_i}{\\partial w_{2,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial w_{2,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial z_{3,i}}\\cdot\\frac{\\partial z_{3,i}}{\\partial w_{2,j,k}}=\\f'_y(z_{3,i})\\cdot\\frac{\\sum_{m=1}^{n_2+1}h_m\\partial w_{2,m,i}}{\\partial w_{2,j,k}}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/05c\/cd5\/8e2\/05ccd58e21aeb03778ef82c1155df3b3.svg\" width=\"604\" height=\"54\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"=\\begin{cases}\\f'_y(z_{3,i})\\cdot h_j&amp;\\text{ if  }\\; i=k\\\\0&amp;\\text{otherwise}\\end{cases} \\;\\;\\;\\;\\;\\;\\;\\;(5)\" alt=\"=\\begin{cases}\\f'_y(z_{3,i})\\cdot h_j&amp;\\text{ if  }\\; i=k\\\\0&amp;\\text{otherwise}\\end{cases} \\;\\;\\;\\;\\;\\;\\;\\;(5)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5ec\/c07\/fc3\/5ecc07fc31b3045e7a2239a0364a2e6b.svg\" width=\"299\" height=\"49\"\/><\/p>\n<p><strong>\u0421\u043c\u044b\u0441\u043b \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439.<\/strong> \u0412\u0435\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8fd\/508\/655\/8fd508655c8d4f1cfc4b27cf15e94f26.svg\"\/>, \u0441\u0432\u044f\u0437\u044b\u0432\u0430\u044e\u0449\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c25\/a70\/15a\/c25a7015acafb2996166ac133f84a38f.svg\"\/>-\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dc8\/1fd\/76f\/dc81fd76f34d255c28c279e2b9822de5.svg\"\/>-\u0439 \u0432\u044b\u0445\u043e\u0434, \u0432\u043b\u0438\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0ee\/b1a\/ae9\/0eeb1aae9568897f4b5aa74e29205c1c.svg\"\/>-\u0439 \u0432\u044b\u0445\u043e\u0434 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438. \u041d\u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0445\u043e\u0434\u044b \u043e\u043d \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u0442. \u042d\u0442\u043e\u0442 \u0444\u0430\u043a\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d \u0438 \u0431\u0435\u0437 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0444\u043e\u0440\u043c\u0443\u043b.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043d\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\partial L \/ \\partial w_{2,j,k}\" alt=\"\\partial L \/ \\partial w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e58\/15c\/5c1\/e5815c5c12ec18555d422bee62f6494f.svg\"\/>:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{\\partial L}{\\partial w_{2,j,k}}=\\sum_{i=1}^{n_3}\\frac{\\partial (y_i-y_i^*)^2}{\\partial w_{2,j,k}}=\\sum_{i=1}^{n_3}\\frac{2\\cdot(y_i-y_i^*)\\cdot\\partial y_i}{\\partial w_{2,j,k}}=2\\cdot \\f_y'(z_{3,k})\\cdot h_j\\cdot \\Delta y_k\\;\\;\\;(6)\" alt=\"\\frac{\\partial L}{\\partial w_{2,j,k}}=\\sum_{i=1}^{n_3}\\frac{\\partial (y_i-y_i^*)^2}{\\partial w_{2,j,k}}=\\sum_{i=1}^{n_3}\\frac{2\\cdot(y_i-y_i^*)\\cdot\\partial y_i}{\\partial w_{2,j,k}}=2\\cdot \\f_y'(z_{3,k})\\cdot h_j\\cdot \\Delta y_k\\;\\;\\;(6)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ea3\/a07\/da7\/ea3a07da718a27a16be770417ff88acc.svg\" width=\"648\" height=\"58\"\/><\/p>\n<p>\u0417\u0434\u0435\u0441\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_k=y_k-y_k^*\" alt=\"\\Delta y_k=y_k-y_k^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b82\/b96\/83d\/b82b9683d7a6e9fb26ff806c99bb2428.svg\"\/>. <\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0444\u043e\u0440\u043c\u0443\u043b\u0443, \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u0443\u044e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u041e\u0442\u043b\u0438\u0447\u0438\u0435 \u043b\u0438\u0448\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435  \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0445\u043e\u0434\u043e\u0432. <\/p>\n<p>\u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u043c \u0441\u043b\u043e\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u043e \u0442\u0435\u043c \u0436\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c, \u043a\u0430\u043a \u0432 \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u043c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0435. \u0422\u043e\u043b\u044c\u043a\u043e \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043b\u044f \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8ea\/0ae\/af8\/8ea0aeaf8fdcccff34d98f27e18d58d1.svg\"\/> \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0435\u0442 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438. <\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e, \u043d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u0432\u0441\u0451 \u0436\u0435 \u043a\u0430\u0440\u0434\u0438\u043d\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430. \u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c \u043f\u0440\u0438\u0447\u0438\u043d\u044b \u044d\u0442\u043e\u0433\u043e, \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c\u0441\u044f, \u043a\u0430\u043a \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/273\/a8e\/eb5\/273a8eeb5a0b73ab834b136f859bab6d.svg\"\/> \u043f\u043e \u0432\u0435\u0441\u0430\u043c <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k}\" alt=\"w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8d5\/831\/c83\/8d5831c83a23670fa691054e788e708a.svg\"\/>\u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0438\u043c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439.<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u043c \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial h_i}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_h(z_{2,i})}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_h(z_{2,i})}{\\partial z_{2,i}}\\cdot\\frac{\\partial z_{2,i}}{\\partial w_{1,j,k}}=\\f'_h(z_{2,i})\\cdot\\frac{\\sum_{m=1}^{n_1+1}x_m\\partial w_{1,m,i}}{\\partial w_{1,j,k}}=\" alt=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial h_i}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_h(z_{2,i})}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_h(z_{2,i})}{\\partial z_{2,i}}\\cdot\\frac{\\partial z_{2,i}}{\\partial w_{1,j,k}}=\\f'_h(z_{2,i})\\cdot\\frac{\\sum_{m=1}^{n_1+1}x_m\\partial w_{1,m,i}}{\\partial w_{1,j,k}}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0bb\/d84\/7a5\/0bbd847a5b83391716e1fed9be2d0199.svg\" width=\"607\" height=\"54\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"=\\begin{cases}\\f'_h(z_{2,i})\\cdot x_j&amp;\\text{ if  }\\; i=k\\\\0&amp;\\text{otherwise}\\end{cases}\\;\\;\\;\\;\\;\\;\\;(7)\" alt=\"=\\begin{cases}\\f'_h(z_{2,i})\\cdot x_j&amp;\\text{ if  }\\; i=k\\\\0&amp;\\text{otherwise}\\end{cases}\\;\\;\\;\\;\\;\\;\\;(7)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/584\/c19\/e9c\/584c19e9c542930b5b70d528c91e8cc7.svg\" width=\"294\" height=\"49\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y_i}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial z_{3,i}}\\cdot\\frac{\\partial z_{3,i}}{\\partial w_{1,j,k}}=\\f'_y(z_{3,i})\\cdot\\frac{\\sum_{m=1}^{n_2+1}w_{2,m,i}\\partial h_m}{\\partial w_{1,j,k}}=\" alt=\"\\DeclareMathOperator{\\f}{f} \\frac{\\partial y_i}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial w_{1,j,k}}=\\frac{\\partial \\f_y(z_{3,i})}{\\partial z_{3,i}}\\cdot\\frac{\\partial z_{3,i}}{\\partial w_{1,j,k}}=\\f'_y(z_{3,i})\\cdot\\frac{\\sum_{m=1}^{n_2+1}w_{2,m,i}\\partial h_m}{\\partial w_{1,j,k}}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/15e\/808\/c9b\/15e808c9b2860ae6eb5129b43e71984c.svg\" width=\"604\" height=\"54\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"=\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\cdot\\f_h'(z_{2,k})\\cdot x_j\\;\\;\\;\\;\\;\\;\\;\\;(8)\" alt=\"=\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\cdot\\f_h'(z_{2,k})\\cdot x_j\\;\\;\\;\\;\\;\\;\\;\\;(8)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d34\/e60\/bd5\/d34e60bd5dbeebf5d26444ffbde644cd.svg\" width=\"305\" height=\"24\"\/><\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u0439\u0434\u0451\u043c \u0438\u0441\u043a\u043e\u043c\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{\\partial L}{\\partial w_{1,j,k}}=\\sum_{i=1}^{n_3}\\frac{\\partial (y_i-y_i^*)^2}{\\partial w_{1,j,k}}=\\sum_{i=1}^{n_3}\\frac{2\\cdot(y_i-y_i^*)\\cdot\\partial y_i}{\\partial w_{1,j,k}}=\" alt=\"\\frac{\\partial L}{\\partial w_{1,j,k}}=\\sum_{i=1}^{n_3}\\frac{\\partial (y_i-y_i^*)^2}{\\partial w_{1,j,k}}=\\sum_{i=1}^{n_3}\\frac{2\\cdot(y_i-y_i^*)\\cdot\\partial y_i}{\\partial w_{1,j,k}}=\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/991\/565\/136\/991565136c33afc08415c44173eb3ab5.svg\" width=\"439\" height=\"58\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"=2\\cdot\\f_h'(z_{2,k})\\cdot x_j\\cdot\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;\\;\\;\\;\\;(9)\" alt=\"=2\\cdot\\f_h'(z_{2,k})\\cdot x_j\\cdot\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;\\;\\;\\;\\;(9)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ef2\/419\/cfb\/ef2419cfb086cd836380c45f860c4cdb.svg\" width=\"406\" height=\"57\"\/><\/p>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c, \u0442\u043e \u0434\u0430\u043d\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430 \u0444\u043e\u0440\u043c\u0443\u043b\u0443<strong><img decoding=\"async\" class=\"formula inline\" source=\"(6)\" alt=\"(6)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/192\/101\/52f\/19210152fb838d898a3923f75b092142.svg\"\/><\/strong>\u0434\u043b\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\partial L \/ \\partial w_{2,j,k}\" alt=\"\\partial L \/ \\partial w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/694\/5ae\/0b9\/6945ae0b96e808f4be9e4ca3755de0f6.svg\"\/> \u0441 \u0442\u043e\u0439 \u043b\u0438\u0448\u044c \u0440\u0430\u0437\u043d\u0438\u0446\u0435\u0439, \u0447\u0442\u043e \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y'(z_{3,k})\" alt=\"\\f_y'(z_{3,k})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/278\/306\/b61\/278306b61ab1a583ab36a8966d9439a6.svg\"\/> \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_h'(z_{2,k})\" alt=\"\\f_h'(z_{2,k})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bd7\/2f2\/038\/bd72f20389745a0bde5682f1cc2824ec.svg\"\/> \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_j\" alt=\"h_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ea8\/110\/4bd\/ea81104bdcbed17aa7cc69a51860d393.svg\"\/> (\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ca9\/e75\/cbf\/ca9e75cbf4ceb08505d98fe8a87bf0e2.svg\"\/>-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f) \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"x_j\" alt=\"x_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f8a\/f57\/2ad\/f8af572ad689d03a4944f85d2510aa2a.svg\"\/> (\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8fb\/960\/0e5\/8fb9600e587668afb7aad923274478c3.svg\"\/>-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f). \u0412\u043c\u0435\u0441\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_k\" alt=\"\\Delta y_k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0bd\/4e4\/0f9\/0bd4e40f9b5300b7f258f48178374637.svg\"\/> \u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f96\/872\/af0\/f96872af0c0298767a0f63dd358ad8cb.svg\"\/>-\u043c \u0432\u044b\u0445\u043e\u0434\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u043a \u0441\u0443\u043c\u043c\u0443 \u00ab\u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0445\u00bb \u043e\u0448\u0438\u0431\u043e\u043a: <\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Delta h_k=\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;\\;\\;(10)\" alt=\"\\Delta h_k=\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;\\;\\;(10)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/149\/bad\/78c\/149bad78c706205280ee2b98d29721f7.svg\" width=\"317\" height=\"57\"\/><\/p>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0438 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438. \u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e \u0441\u043b\u043e\u044f\u043c \u043e\u0442 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043a \u0432\u0445\u043e\u0434\u043d\u043e\u043c\u0443. \u0414\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u00ab\u043e\u0448\u0438\u0431\u043a\u0430\u00bb. \u0414\u043b\u044f \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u0440\u0430\u0432\u043d\u0430 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438. \u0414\u043b\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043b\u043e\u0451\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u0430\u044f \u0441\u0443\u043c\u043c\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u0430\u0445 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0445 \u0441\u043b\u043e\u0451\u0432, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u044b\u0445 \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0432\u0435\u0441\u043e\u0432 (\u0441\u043c. \u0444\u043e\u0440\u043c\u0443\u043b\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"(10)\" alt=\"(10)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/020\/b28\/baf\/020b28baf92663a3855f6cbcee2dc53b.svg\"\/>).<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/650\/651\/3c2\/6506513c27e694fc1e22b9909530b415.png\" alt=\"\u041e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438\" title=\"\u041e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438\" width=\"760\" height=\"480\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/650\/651\/3c2\/6506513c27e694fc1e22b9909530b415.png\"\/><figcaption>\u041e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438<\/figcaption><\/figure>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0435\u0449\u0451 \u0440\u0430\u0437 \u0432\u044b\u043f\u0438\u0448\u0435\u043c \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438.<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Delta h_k=\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;(11)\" alt=\"\\Delta h_k=\\sum_{i=1}^{n_3}\\Delta y_i\\cdot\\f'_y(z_{3,i})\\cdot w_{2,k,i}\\;\\;\\;\\;(11)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b2e\/673\/ae5\/b2e673ae5007a883f086325a87bba3d6.svg\" width=\"306\" height=\"57\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{\\partial L}{\\partial w_{2,j,k}}=2\\cdot \\f_y'(z_{3,k})\\cdot h_j\\cdot \\Delta y_k\\;\\;\\;(12)\" alt=\"\\frac{\\partial L}{\\partial w_{2,j,k}}=2\\cdot \\f_y'(z_{3,k})\\cdot h_j\\cdot \\Delta y_k\\;\\;\\;(12)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/07b\/df2\/862\/07bdf286206c9661703c3b92cc94b75c.svg\" width=\"300\" height=\"48\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\frac{\\partial L}{\\partial w_{1,j,k}}=2\\cdot\\f_h'(z_{2,k})\\cdot x_j\\cdot\\Delta h_k\\;\\;\\;\\;\\;(13)\" alt=\"\\frac{\\partial L}{\\partial w_{1,j,k}}=2\\cdot\\f_h'(z_{2,k})\\cdot x_j\\cdot\\Delta h_k\\;\\;\\;\\;\\;(13)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/faf\/785\/ced\/faf785cedac5b297032ce5fd3098b8ae.svg\" width=\"313\" height=\"48\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"w_i^{(k+1)}=w_i^{(k)}-\\alpha\\cdot\\frac{\\partial L}{\\partial w_i}\\;\\;\\;\\;\\;\\;\\;(14)\" alt=\"w_i^{(k+1)}=w_i^{(k)}-\\alpha\\cdot\\frac{\\partial L}{\\partial w_i}\\;\\;\\;\\;\\;\\;\\;(14)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/67f\/a51\/0ad\/67fa510ad0a3a05908af0445a5f747ac.svg\" width=\"270\" height=\"46\"\/><\/p>\n<h2>\u0412\u044b\u0432\u043e\u0434\u044b \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0430\u043c<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u043b\u044e\u0431\u044b\u043c\u0438 \u0434\u0432\u0443\u043c\u044f \u0441\u043e\u0441\u0435\u0434\u043d\u0438\u043c\u0438 \u0441\u043b\u043e\u044f\u043c\u0438. \u0414\u0430\u043b\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/95b\/cc1\/88b\/95bcc188bde94a0d3a89aee95762b0f7.svg\"\/> \u2013 \u043d\u043e\u043c\u0435\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u043d\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u043c \u0441\u043b\u043e\u0435, <img decoding=\"async\" class=\"formula inline\" source=\"j\" alt=\"j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3c5\/89a\/6e8\/3c589a6e8d9bea707b97a1bdc5f9248a.svg\"\/> \u2013 \u043d\u043e\u043c\u0435\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 (\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435.<\/p>\n<p><strong> \u041f\u0440\u0438 \u0440\u0430\u0441\u0447\u0451\u0442\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_i\" alt=\"\\Delta h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a6d\/00e\/16a\/a6d00e16a4c475999fff767311a8e522.svg\"\/> \u043a\u0430\u0436\u0434\u043e\u0435<\/strong> <strong>\u0441\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0435<\/strong> <strong>\u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e:<\/strong> <\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_j\" alt=\"\\Delta y_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/754\/af9\/959\/754af99596173944e8e5160a62b02a5f.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0435 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\DeclareMathOperator{\\f}{f} \\f'(z_j)\" alt=\"\\DeclareMathOperator{\\f}{f} \\f'(z_j)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ecb\/f8d\/efd\/ecbf8defd45e4514aa336454a4d692c2.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_{i,j}\" alt=\"w_{i,j}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8a2\/83a\/9eb\/8a283a9eba0e1898cec5ef0f81ee845a.svg\"\/> \u2013 \u0432\u0435\u0441\u0443 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0439 \u0441\u0432\u044f\u0437\u0438.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b93\/c68\/502\/b93c68502cf0eac3b96b0f2b65f4a426.png\" alt=\"\u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0448\u0438\u0431\u043a\u0438 \u0434\u043b\u044f i-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\" title=\"\u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0448\u0438\u0431\u043a\u0438 \u0434\u043b\u044f i-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\" width=\"950\" height=\"434\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b93\/c68\/502\/b93c68502cf0eac3b96b0f2b65f4a426.png\"\/><figcaption>\u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0448\u0438\u0431\u043a\u0438 \u0434\u043b\u044f i-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430<\/figcaption><\/figure>\n<\/li>\n<\/ul>\n<p><strong>\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{ij}\" alt=\"\\Delta w_{ij}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/281\/710\/836\/2817108365b2e135ef90978d851dce11.svg\"\/> \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e:<\/strong> <\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_j\" alt=\"\\Delta y_j\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/613\/df1\/d0c\/613df1d0cf9f2ac8525327f26c5d69f1.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0435 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\f_y'(z_j)\" alt=\"\\f_y'(z_j)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/147\/aab\/9d5\/147aab9d589f99f16de0da4ecc569f00.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\alpha\" alt=\"\\alpha\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a5e\/3fe\/5ce\/a5e3fe5ce20bfd28b709f54e027a3f55.svg\"\/> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0443 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"h_i\" alt=\"h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e8a\/d34\/8fe\/e8ad348fe28c6fbb6d845b8d398d81ba.svg\"\/> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e <img decoding=\"async\" class=\"formula inline\" source=\"i\" alt=\"i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93e\/313\/2c2\/93e3132c25952725b99fe46c101f1b12.svg\"\/>-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/715\/3be\/256\/7153be256001861daaef0e28fad50bbd.png\" alt=\"\u0420\u0430\u0441\u0447\u0451\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u0430 w(i,j)\" title=\"\u0420\u0430\u0441\u0447\u0451\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u0430 w(i,j)\" width=\"682\" height=\"316\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/715\/3be\/256\/7153be256001861daaef0e28fad50bbd.png\"\/><figcaption>\u0420\u0430\u0441\u0447\u0451\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u0430 w(i,j)<\/figcaption><\/figure>\n<h2>\u0422\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043c \u043a \u043e\u0442\u0432\u0435\u0442\u0443<\/h2>\n<h3>\u0412\u0441\u0435 \u0432\u0435\u0441\u0430 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0443\u043b\u044f\u043c\u0438<\/h3>\n<p>\u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u0432 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0443\u043b\u044f\u043c\u0438. \u0412\u043e\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430\u043c\u0438 \u0438\u0437 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0430. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c, \u0447\u0442\u043e \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_i\" alt=\"h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/126\/6a4\/f65\/1266a4f65973d58bc6dcd86597b8fe9b.svg\"\/> \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u0432 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043d\u0443\u043b\u0435\u0432\u044b\u0435, \u0438 \u0432\u0441\u0435 \u0432\u044b\u0445\u043e\u0434\u044b <img decoding=\"async\" class=\"formula inline\" source=\"w_i\" alt=\"w_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6ac\/c83\/b9b\/6acc83b9bd374e70f3779bbf9304945d.svg\"\/> \u043d\u0443\u043b\u0435\u0432\u044b\u0435, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1b0\/e72\/9ff\/1b0e729ffe99bd6cd34af93ac1c7654e.svg\"\/> \u043c\u0435\u0436\u0434\u0443 \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u043d\u0443\u043b\u0435\u0432\u044b\u0435. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043e\u0448\u0438\u0431\u043a\u0430 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y\" alt=\"\\Delta y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d76\/eb5\/cbe\/d76eb5cbe9f2e548e32686d705f74746.svg\"\/> \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0435 \u043d\u0443\u043b\u0435\u0432\u043e\u0439. \u041d\u043e \u0438\u0437-\u0437\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/293\/ff6\/5dc\/293ff65dce55bfd95d6315f4b99333be.svg\"\/> \u043d\u0443\u043b\u0435\u0432\u044b\u0435, \u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h\" alt=\"\\Delta h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ce9\/ee2\/d90\/ce9ee2d9049985047c4db262a8b6707b.svg\"\/> \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u043f\u043e \u0432\u0441\u0435\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j,k}\" alt=\"\\Delta w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/804\/1cb\/18c\/8041cb18c58231ff447d074e9aaa7f8d.svg\"\/> \u0440\u0430\u0432\u043d\u044b \u043d\u0443\u043b\u044e. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043d\u0438\u043a\u0430\u043a\u0438\u0435 \u0432\u0435\u0441\u0430 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f, \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442.<\/p>\n<h3>\u0422\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0431\u043e\u043b\u0435\u0435 \u043e\u0431\u0449\u0438\u0439 \u0441\u043b\u0443\u0447\u0430\u0439<\/h3>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044e, \u043a\u043e\u0433\u0434\u0430 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k}\" alt=\"w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9a8\/e6b\/a64\/9a8e6ba649c085773b67c2c0601f822e.svg\"\/> \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\const_1\" alt=\"\\const_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a33\/bcd\/916\/a33bcd91659cb1cf2d3a99b33e541227.svg\"\/>, \u0430 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}\" alt=\"w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d1f\/93d\/56b\/d1f93d56bda31d94b69047058414662c.svg\"\/> \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043e\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\const_2\" alt=\"\\const_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1ea\/1d0\/664\/1ea1d06647522bb6e60d400d28879cee.svg\"\/> (\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u044e\u0449\u0435\u0439 \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"\\const_1\" alt=\"\\const_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cd6\/16a\/090\/cd616a090ea45226474394ccc129fc73.svg\"\/>).<\/p>\n<p><strong>\u041f\u0435\u0440\u0432\u0430\u044f \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430:<\/strong><\/p>\n<ol>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k}=\\const_1\" alt=\"w_{1,j,k}=\\const_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3f5\/5cf\/2e6\/3f55cf2e6f31a651493034a842571b85.svg\"\/>, \u043f\u043e \u0443\u0441\u043b\u043e\u0432\u0438\u044e \u043a\u0435\u0439\u0441\u0430<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}=\\const_2\" alt=\"w_{2,j,k}=\\const_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f5e\/ba2\/1cf\/f5eba21cfdeaa631b35c610ad171bbbc.svg\"\/>, \u043f\u043e \u0443\u0441\u043b\u043e\u0432\u0438\u044e \u043a\u0435\u0439\u0441\u0430<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"h_i\" alt=\"h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2cb\/763\/d4b\/2cb763d4bfcc3b49dd87d87f8937e2eb.svg\"\/> \u2013 \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u043a\u0440\u043e\u043c\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_{n_2+1}=1\" alt=\"h_{n_2+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b23\/314\/e34\/b23314e34750ec7eb17d8fe1bbd1f04f.svg\"\/>). \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043f. 1.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"y_i\" alt=\"y_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1cc\/b77\/b4a\/1ccb77b4aba4ba61bd6a5337672bc609.svg\"\/> \u2013 \u0432\u0441\u0435 \u0432\u044b\u0445\u043e\u0434\u044b \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 2 \u0438 3)<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_i\" alt=\"\\Delta y_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d34\/4b4\/ff6\/d344b4ff65b575b490ffc560c57c383c.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u0435 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 (\u0438\u0437-\u0437\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"y_i^*\" alt=\"y_i^*\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f37\/e59\/453\/f37e5945329c75da7751153a3f27d2d1.svg\"\/> \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u043c \u043d\u0430\u0431\u043e\u0440\u0435)<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_i\" alt=\"\\Delta h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d90\/727\/b1b\/d90727b1b9bb83862dfb9fc873d8fef7.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u0432 \u0442. \u0447. \u0438 \u0434\u043b\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_{n_2+1}\" alt=\"\\Delta h_{n_2+1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5aa\/c75\/7fd\/5aac757fdba9281b03118ff8ab803a2f.svg\"\/>). \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 2 \u0438 5. \u0412 \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0434\u043b\u044f \u0440\u0430\u0441\u0447\u0451\u0442\u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_i\" alt=\"\\Delta h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fdc\/b62\/f25\/fdcb62f250e07886460da7c149155779.svg\"\/> \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u0433\u043e\u0432\u043e\u0440\u044f \u0440\u0430\u0437\u043d\u044b\u0435 \u0441\u043b\u0430\u0433\u0430\u0435\u043c\u044b\u0435. \u041d\u043e \u0438\u0445 \u0441\u0443\u043c\u043c\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430 \u043f\u043e \u0432\u0441\u0435\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,j,k}\" alt=\"\\Delta w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6d9\/d16\/2f6\/6d9d162f6bbc3d0c912b7f231812b99d.svg\"\/> \u2013 \u0432\u0441\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432, \u0432\u0435\u0434\u0443\u0449\u0438\u0445 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0432\u044b\u0445\u043e\u0434\u0443, \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b, \u0442. \u0435. <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,j_1,k}=\\Delta w_{2,j_2,k}\" alt=\"\\Delta w_{2,j_1,k}=\\Delta w_{2,j_2,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/325\/fb5\/bfe\/325fb5bfed8888534372913076431c47.svg\"\/> (\u043a\u0440\u043e\u043c\u0435 \u0432\u0435\u0441\u043e\u0432, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0438\u0437 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f). \u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,n_2+1,k}\" alt=\"\\Delta w_{2,n_2+1,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/564\/afe\/9d8\/564afe9d81644d649573f8ebd1cc5d78.svg\"\/>, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u0438\u0437 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f, \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,i,k}\" alt=\"\\Delta w_{2,i,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a4c\/5c7\/bad\/a4c5c7bad1e5aef6829e8ded35982e26.svg\"\/>, \u0432\u0435\u0434\u0443\u0449\u0438\u0445 \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0432\u044b\u0445\u043e\u0434\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c88\/722\/234\/c88722234877508314ffca1fc8f19f1f.svg\"\/><\/p>\n<p>\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f, \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f, \u0442.\u0435. <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,j,k_1}\" alt=\"\\Delta w_{2,j,k_1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec5\/89b\/97e\/ec589b97e6f0a19f2dfb881475f38263.svg\"\/>\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,j,k_2}\" alt=\"\\Delta w_{2,j,k_2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b78\/e4d\/fbf\/b78e4dfbf25a72253fd6f900a8914f4d.svg\"\/>\u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 3 \u0438 5. <\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j,k}\" alt=\"\\Delta w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/516\/c64\/5dc\/516c645dcf263cbc60e96380ab446a77.svg\"\/> \u2013 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432, \u0432\u0435\u0434\u0443\u0449\u0438\u0445 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0443 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f, \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f, \u0442. \u0435. <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j_1,k}\" alt=\"\\Delta w_{1,j_1,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3d4\/f1d\/a64\/3d4f1da642b247b89a01b093ec60868e.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j_2,k}\" alt=\"\\Delta w_{1,j_2,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e4e\/b2b\/775\/e4eb2b7750dd4cf3d741609153eee744.svg\"\/> \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f. \u041d\u043e \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u0430, \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b, \u0442.\u0435. <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j,k_1}=\\Delta w_{1,j,k_2}\" alt=\"\\Delta w_{1,j,k_1}=\\Delta w_{1,j,k_2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/806\/a8e\/1c6\/806a8e1c65608806d4949e4eb5264483.svg\"\/>. \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u043e \u0441\u043f\u0440\u0430\u0432\u0435\u0434\u043b\u0438\u0432\u043e \u0442\u0430\u043a\u0436\u0435 \u0438 \u0434\u043b\u044f \u0432\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"x_{n_1+1}=1\" alt=\"x_{n_1+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e67\/d5f\/880\/e67d5f880135205c5be850cd9ffcc212.svg\"\/>, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0435\u0433\u043e\u0441\u044f \u0434\u043b\u044f \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043f\u0443\u043d\u043a\u0442\u043e\u0432 1 \u0438 6.<\/p>\n<\/li>\n<\/ol>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/dc4\/be6\/55a\/dc4be655a7953f10fa3ed81a2618b218.png\" alt=\"\u041e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438\" title=\"\u041e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438\" width=\"820\" height=\"502\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dc4\/be6\/55a\/dc4be655a7953f10fa3ed81a2618b218.png\"\/><figcaption>\u041e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u0435\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438<\/figcaption><\/figure>\n<p>\u041d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u0432\u044b\u0448\u0435 \u043e\u0434\u043d\u0438\u043c \u0438 \u0442\u0435\u043c \u0436\u0435 \u0446\u0432\u0435\u0442\u043e\u043c \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u044b \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u0435\u0441\u0430. \u0417\u0435\u043b\u0451\u043d\u044b\u043c \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u044b \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,2,k}\" alt=\"w_{1,2,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bbc\/65a\/9a5\/bbc65a9a589c40e8f8031d9fc419781e.svg\"\/>, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u0438\u0437 \u0432\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"x_2\" alt=\"x_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/74b\/1b1\/469\/74b1b146900de1e86baef9b6417c3c01.svg\"\/>. \u0412\u0441\u0435 \u0442\u0430\u043a\u0438\u0435 \u0432\u0435\u0441\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b. \u041a\u0440\u0430\u0441\u043d\u044b\u043c \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u044b \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,2}\" alt=\"w_{2,j,2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/049\/f3e\/e9e\/049f3ee9e04aa35b26e7ebee38798307.svg\"\/>, \u0432\u0435\u0434\u0443\u0449\u0438\u0435 \u043a \u0432\u044b\u0445\u043e\u0434\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"y_2\" alt=\"y_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ef0\/adf\/7dc\/ef0adf7dc09d22376db2d4e5706f32b2.svg\"\/> (\u0437\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,n_2+1,2}\" alt=\"w_{2,n_2+1,2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fd9\/b6b\/4dc\/fd9b6b4dc37792d576ff2c4ee71b0f1b.svg\"\/>, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u0438\u0437 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_{n_2+1}\" alt=\"h_{n_2+1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/673\/2bc\/0c1\/6732bc0c103dbb00a3218762f4489155.svg\"\/>). \u0412\u0441\u0435 \u0442\u0430\u043a\u0438\u0435 \u0432\u0435\u0441\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b. \u0412\u0435\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,n_2+1,2}\" alt=\"w_{2,n_2+1,2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6cd\/5e5\/4cc\/6cd5e54cc158c323ecd6b0d0a55faf0f.svg\"\/> \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u043b\u0438\u0447\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,2}\" alt=\"w_{2,j,2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/86b\/363\/c2d\/86b363c2d93bdd3916ffe495081074b4.svg\"\/>.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k}=\\const_1\" alt=\"w_{1,j,k}=\\const_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/df2\/ef3\/238\/df2ef32388efe7604af91231c5e92318.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j,k}=\\const_2\" alt=\"w_{2,j,k}=\\const_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/461\/a8a\/4a5\/461a8a4a51427f788101bcb0429db8f5.svg\"\/> \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0451\u0442 \u0441\u043e\u0431\u043b\u044e\u0434\u0430\u0442\u044c\u0441\u044f. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432\u0442\u043e\u0440\u0443\u044e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<p><strong>\u0412\u0442\u043e\u0440\u0430\u044f \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430<\/strong><\/p>\n<ol>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,k_1}=w_{1,j,k_2}\" alt=\"w_{1,j,k_1}=w_{1,j,k_2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/09a\/cc5\/9c5\/09acc59c55796187697ab6c6c01514a2.svg\"\/> \u2013 \u0432\u0435\u0441\u0430, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u0430, \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u0432 \u0442. \u0447 \u0434\u043b\u044f \u0432\u0445\u043e\u0434\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"x_{n_1+1}=1\" alt=\"x_{n_1+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fa0\/a84\/872\/fa0a848725d6d166cde0cae4c272ce85.svg\"\/>) . \u042d\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_{2,j_1,k}=w_{2,j_2,k}\" alt=\"w_{2,j_1,k}=w_{2,j_2,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/743\/e11\/9c4\/743e119c425e53eea4a71629ccf1b655.svg\"\/> \u2013 \u0432\u0435\u0441\u0430, \u0432\u0435\u0434\u0443\u0449\u0438\u0435 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0432\u044b\u0445\u043e\u0434\u0443 (\u0437\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u0435\u0441\u043e\u0432, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0438\u0437 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,n_2\\small+1,k}\" alt=\"w_{2,n_2\\small+1,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f9\/a8f\/589\/4f9a8f58998087bcb0d2306e3c3da1e1.svg\"\/>) \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b. \u042d\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"h_i\" alt=\"h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/350\/b8b\/b04\/350b8bb040f54c86f746275c26f3be4f.svg\"\/> \u2013 \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u043a\u0440\u043e\u043c\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_{n_2+1}=1\" alt=\"h_{n_2+1}=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7bb\/8d3\/eef\/7bb8d3eefb36ed45806bfc1fdedde068.svg\"\/>). \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"z_{2,i_1}=\\textstyle\\sum_{j=1}^{n_1+1}x_jw_{1,j,i_1}=\\sum_{j=1}^{n_1+1}x_jw_{1,j,i_2}=z_{2,i_2}\" alt=\"z_{2,i_1}=\\textstyle\\sum_{j=1}^{n_1+1}x_jw_{1,j,i_1}=\\sum_{j=1}^{n_1+1}x_jw_{1,j,i_2}=z_{2,i_2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4b0\/219\/c6c\/4b0219c6ca9010ac5cdd76f322b90662.svg\"\/>.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"y_i\" alt=\"y_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/caf\/a98\/76c\/cafa9876c0fd2c93fc51615b93c848d9.svg\"\/> \u2013 \u0432\u044b\u0445\u043e\u0434\u044b \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u0435\u0441\u0430, \u0432\u0435\u0434\u0443\u0449\u0438\u0435 \u043a \u0440\u0430\u0437\u043d\u044b\u043c \u0432\u044b\u0445\u043e\u0434\u0430\u043c, \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta y_i\" alt=\"\\Delta y_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b16\/a6b\/e0e\/b16a6be0ee692dc55ba7f107315c0859.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u0435 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b (\u0438\u0437-\u0437\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"y_i\" alt=\"y_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/36d\/2bb\/c22\/36d2bbc2291fa898d8d0951a941d2bd9.svg\"\/> \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u0435).<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_i\" alt=\"\\Delta h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/224\/0bf\/373\/2240bf373fe5822f43b7f87947805b74.svg\"\/> \u2013 \u043e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u0437\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c \u043e\u0448\u0438\u0431\u043a\u0438 \u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_{n_2+1}\" alt=\"\\Delta h_{n_2+1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7be\/579\/604\/7be5796043a729045f8ce652c9c0aa74.svg\"\/>). \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u0430:<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta h_{i_1}=\\sum_{j=1}^{n_3}\\Delta y_j\\cdot\\f'_y(z_{3,j})\\cdot w_{2,i_1,j}=\\sum_{j=1}^{n_3}\\Delta y_j\\cdot\\f'_y(z_{3,j})\\cdot w_{2,i_2,j}=\\Delta h_{i_2}\" alt=\"\\Delta h_{i_1}=\\sum_{j=1}^{n_3}\\Delta y_j\\cdot\\f'_y(z_{3,j})\\cdot w_{2,i_1,j}=\\sum_{j=1}^{n_3}\\Delta y_j\\cdot\\f'_y(z_{3,j})\\cdot w_{2,i_2,j}=\\Delta h_{i_2}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3c9\/4e4\/3ee\/3c94e43ee66e5c6c781184b4783b1c9b.svg\"\/>.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{2,j,k}\" alt=\"\\Delta w_{2,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c6a\/035\/d3c\/c6a035d3c82275ed41d2ddef86528e30.svg\"\/> \u2013 \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u043e \u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\Delta w_{1,j,k}\" alt=\"\\Delta w_{1,j,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/246\/636\/63d\/24663663df6c4d8f50152756b157ab73.svg\"\/> \u2013 \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u043e \u043f\u0435\u0440\u0432\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0443\u0441\u043b\u043e\u0432\u0438\u0435, \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0435 \u0432 \u043f\u0443\u043d\u043a\u0442\u0430\u0445 1 \u0438 2, \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0441\u043e\u0431\u043b\u044e\u0434\u0430\u0442\u044c\u0441\u044f. \u0418 \u0434\u0430\u043b\u0435\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442\u0441\u044f \u043f\u043e \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044e \u0432\u0442\u043e\u0440\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430.<\/p>\n<p><strong>\u041f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u043f\u043b\u043e\u0445\u043e<\/strong><\/p>\n<p>\u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_i\" alt=\"h_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0ff\/bcd\/a20\/0ffbcda20ae6e6fb15439b738ebe24e8.svg\"\/> \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b (\u043a\u0440\u043e\u043c\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f). \u0414\u043b\u044f \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y_k\" alt=\"y_k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/156\/dd9\/1fb\/156dd91fbbc3b8ae4dd2475cc1558b00.svg\"\/> \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,i,k}\" alt=\"w_{2,i,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4ff\/0b6\/493\/4ff0b64938fdd3c88eda019212280c8d.svg\"\/> (\u043a\u0440\u043e\u043c\u0435 \u0432\u0435\u0441\u0430, \u0438\u0441\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e \u0438\u0437 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f) \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b.<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0430\u043d\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0431\u0443\u0434\u0435\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0442\u0430\u043a \u0436\u0435, \u043a\u0430\u043a \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0440\u043e\u0436\u0434\u0435\u043d\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u0432\u0441\u0435\u0433\u043e \u043e\u0434\u0438\u043d \u043d\u0435\u0439\u0440\u043e\u043d (\u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f). \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,1}\" alt=\"w_{1,j,1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2f7\/b83\/735\/2f7b8373586464f4d35f9f4fe2d6829f.svg\"\/> \u0432\u044b\u0440\u043e\u0436\u0434\u0435\u043d\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0440\u0430\u0432\u043d\u044b \u0432\u0435\u0441\u0430\u043c <img decoding=\"async\" class=\"formula inline\" source=\"w_{1,j,1}\" alt=\"w_{1,j,1}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b22\/78e\/855\/b2278e85514d8bbd82677b331df40165.svg\"\/> \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 (\u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f). \u0412\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,1,k}\" alt=\"w_{2,1,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/90d\/5d6\/009\/90d5d6009ffdfe7a795a1a81d8f6f478.svg\"\/> \u0432\u044b\u0440\u043e\u0436\u0434\u0435\u043d\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0440\u0430\u0432\u043d\u044b \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c <img decoding=\"async\" class=\"formula inline\" source=\"(n_2\\cdot w_{2,1,k})\" alt=\"(n_2\\cdot w_{2,1,k})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1ce\/7f8\/451\/1ce7f84515ae484eb76fc260649b42a5.svg\"\/> \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 (\u0437\u0430 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u0435\u0441\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f). \u0412\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,2,k}\" alt=\"w_{2,2,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/164\/21d\/1f2\/16421d1f2418324844458ef1ccefa903.svg\"\/> \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0432\u044b\u0440\u043e\u0436\u0434\u0435\u043d\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0440\u0430\u0432\u043d\u044b \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c <img decoding=\"async\" class=\"formula inline\" source=\"w_{2,n_2\\small+1,k}\" alt=\"w_{2,n_2\\small+1,k}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8c3\/00e\/c78\/8c300ec78b3a11be85d020f5477a6d10.svg\"\/> \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1d0\/b44\/316\/1d0b443163c4c6297a947fb94e7596c2.png\" alt=\"\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441 \u043e\u0434\u043d\u0438\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 (\u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f) \" title=\"\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441 \u043e\u0434\u043d\u0438\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 (\u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f) \" width=\"709\" height=\"445\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/1d0\/b44\/316\/1d0b443163c4c6297a947fb94e7596c2.png\"\/><figcaption>\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441 \u043e\u0434\u043d\u0438\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 (\u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f) <\/figcaption><\/figure>\n<p>\u0418\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u0442\u0430\u043a\u0430\u044f \u0432\u044b\u0440\u043e\u0436\u0434\u0435\u043d\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0443\u0437\u043a\u0438\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e\u043c \u043e\u0442\u0432\u0435\u0442\u043e\u0432, \u0447\u0435\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441 \u0431\u00f3\u043b\u044c\u0448\u0438\u043c \u0447\u0438\u0441\u043b\u043e\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435. \u0422\u043e \u0435\u0441\u0442\u044c \u043e\u043d\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u043c\u0435\u043d\u044c\u0448\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0432\u044b\u0445\u043e\u0434\u043e\u0432. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\overline y\" alt=\"\\overline y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/60e\/c28\/622\/60ec28622306bd6a5f31fdd0f3cd041a.svg\"\/> \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0437\u0430\u0432\u0438\u0441\u0435\u0442\u044c \u043d\u0435 \u043e\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"n_1\" alt=\"n_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d03\/a88\/7be\/d03a887be5f25bd79d6b51bdd919f116.svg\"\/> \u0432\u0445\u043e\u0434\u043e\u0432, \u0430 \u043b\u0438\u0448\u044c \u043e\u0442 \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h_1\" alt=\"h_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/af1\/2d7\/47a\/af12d747a3080906b14e3b86d1adcadb.svg\"\/> (\u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0432\u0435\u0441\u043e\u0432 \u0432 \u043e\u0431\u043e\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441 \u044d\u0442\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b).<\/p>\n<p>\u0424\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u044d\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 XOR. <\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u0443\u0442\u044c \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0438 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f<\/summary>\n<div class=\"spoiler__content\">\n<p>\u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0445\u043e\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 XOR. \u0422\u043e \u0435\u0441\u0442\u044c:<\/p>\n<figure class=\"\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c80\/48b\/9bd\/c8048b9bda7d83172170372976b26ae6.png\" width=\"175\" height=\"221\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c80\/48b\/9bd\/c8048b9bda7d83172170372976b26ae6.png\"\/><figcaption><\/figcaption><\/figure>\n<p>\u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0432 \u0434\u0430\u043d\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u044b\u0445\u043e\u0434\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"n_3\" alt=\"n_3\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8a8\/2a9\/ebd\/8a82a9ebdaca824ac97ad58ff3d93f58.svg\"\/> \u0440\u0430\u0432\u043d\u043e 1. <\/p>\n<p>\u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u0442\u0430\u043a\u0436\u0435, \u0447\u0442\u043e \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u043d\u0435\u0443\u0431\u044b\u0432\u0430\u044e\u0449\u0438\u043c\u0438.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043d\u0435\u0442 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 \u043d\u0430 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435, \u0442\u043e \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0437\u044f\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0451\u043d\u043d\u0443\u044e \u043d\u0430 \u0440\u0438\u0441\u0443\u043d\u043a\u0435, \u0441 <img decoding=\"async\" class=\"formula inline\" source=\"n_2=2\" alt=\"n_2=2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/03f\/d93\/4cb\/03fd934cb303865ec1363f7255dbb0e9.svg\"\/> \u043d\u0435\u0439\u0440\u043e\u043d\u0430\u043c\u0438 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u0438 \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\relu\" alt=\"\\relu\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cf0\/e22\/702\/cf0e2270296cc5dee0ef1ad825796708.svg\"\/> \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u044f\u0445. \u0422\u0430\u043a\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0432\u044b\u0434\u0430\u0451\u0442 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0440\u0430\u0432\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c \u0438\u0437 \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u0439 \u0432\u044b\u0448\u0435 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0434\u043b\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 XOR.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/4f2\/aa8\/3b5\/4f2aa83b50eba1b93a925c243e56cc54.png\" alt=\"\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 relu\" title=\"\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 relu\" width=\"750\" height=\"356\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f2\/aa8\/3b5\/4f2aa83b50eba1b93a925c243e56cc54.png\"\/><figcaption>\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 relu<\/figcaption><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0436\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u0432 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u0440\u0430\u0432\u043d\u043e \u0435\u0434\u0438\u043d\u0438\u0446\u0435, \u0442\u043e \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u0441\u0445\u0435\u043c\u0443:<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/def\/7b0\/1a6\/def7b01a6bb28334da30700219ff4910.png\" alt=\"\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u043e\u0434\u043d\u0438\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435\" title=\"\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u043e\u0434\u043d\u0438\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435\" width=\"664\" height=\"358\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/def\/7b0\/1a6\/def7b01a6bb28334da30700219ff4910.png\"\/><figcaption>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0437\u0430\u0434\u0430\u0447\u0438 XOR \u0441 \u043e\u0434\u043d\u0438\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435<\/figcaption><\/figure>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"h=\\f_h(w_{11}x_1+w_{12}x_2+b_1)\" alt=\"h=\\f_h(w_{11}x_1+w_{12}x_2+b_1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a37\/1cd\/cb2\/a371cdcb2076593e5a974598bd8db47c.svg\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"y=\\f_y(w_2h+b_2)\" alt=\"y=\\f_y(w_2h+b_2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7ef\/be0\/f64\/7efbe0f64b4bd175a99957ad32a2b85e.svg\"\/>.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0434\u043e\u043a\u0430\u0436\u0435\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0434\u043b\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 XOR.<\/p>\n<p>\u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043d\u0430\u0439\u0434\u0435\u043d\u043e. \u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u0439\u0434\u0435\u043d\u044b \u0432\u0435\u0441\u0430, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/76e\/05b\/8f1\/76e05b8f1d07da4f75a7bb93c88ad114.svg\"\/> \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043e\u0442 \u0432\u0445\u043e\u0434\u043e\u0432 <img decoding=\"async\" class=\"formula inline\" source=\"x_1\" alt=\"x_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/56a\/bee\/83d\/56abee83da3b3995a068f2fb75d1faf1.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"x_2\" alt=\"x_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d53\/e70\/54f\/d53e7054f7c021a0bbe041550d66442f.svg\"\/>, \u043a\u0430\u043a \u0443\u043a\u0430\u0437\u0430\u043d\u043e \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.<\/p>\n<p>\u042d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u043f\u0440\u0438 \u043e\u0434\u043d\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0432\u0445\u043e\u0434\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y=0\" alt=\"y=0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/344\/5dd\/b7d\/3445ddb7dd12365a035e01378294c502.svg\"\/>, \u0430 \u043f\u0440\u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y=1\" alt=\"y=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b23\/fef\/076\/b23fef076d9eceed4dc6f13b1709efee.svg\"\/>. \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043c\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043b\u0438, \u0447\u0442\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043e, \u0442. \u0435. \u0432\u0435\u0441\u0430 \u043d\u0430\u0439\u0434\u0435\u043d\u044b \u0438 \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u044b, \u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e7e\/f64\/33c\/e7ef6433cd5d68697803a28948b79f5d.svg\"\/> \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"h\" alt=\"h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f3e\/e7e\/be0\/f3ee7ebe0210d845eb0be84bb1f58219.svg\"\/>. <\/p>\n<p>\u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"H_0\" alt=\"H_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/535\/31d\/ea3\/53531dea32a14df9546a5826365bbee7.svg\"\/> \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"h\" alt=\"h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/fbe\/e0e\/197\/fbee0e197721a21447a4eb21c7719a7e.svg\"\/>, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y(w_2h+b_2)=0\" alt=\"\\f_y(w_2h+b_2)=0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dcc\/9a7\/24e\/dcc9a724e986d0af5e42e8f013c1ccbf.svg\"\/>. \u0418 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"H_1\" alt=\"H_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/769\/fa3\/46c\/769fa346c4032afc1b5278c4ac11a77f.svg\"\/> \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"h\" alt=\"h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/287\/1b5\/2f8\/2871b52f845f3d7492d056fd0cb1d555.svg\"\/>, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y(w_2h+b_2)=1\" alt=\"\\f_y(w_2h+b_2)=1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a5e\/b6c\/07f\/a5eb6c07fb863a73358c09bc2225113e.svg\"\/>. \u041e\u0442\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"H_0\" alt=\"H_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d35\/b63\/c16\/d35b63c16122ecad88200208a6641037.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"H_1\" alt=\"H_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7b1\/efd\/a2a\/7b1efda2a1c586f3cd5818b705ca3a08.svg\"\/> \u043d\u0435 \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"h\\in (H_0 \\cup H_1)\" alt=\"h\\in (H_0 \\cup H_1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/122\/7b5\/402\/1227b540283eb2191dda76bac70236ed.svg\"\/> \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y(w_2h+b_2)\" alt=\"\\f_y(w_2h+b_2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93f\/0a3\/7f2\/93f0a37f2dafe415203940d096291cc5.svg\"\/> \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0440\u0430\u0432\u043d\u044f\u0442\u044c\u0441\u044f \u043d\u0443\u043b\u044e \u0438 \u0435\u0434\u0438\u043d\u0438\u0446\u0435.<\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u043e\u0442\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0447\u0438\u0441\u043b\u043e <img decoding=\"async\" class=\"formula inline\" source=\"h_d\" alt=\"h_d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3d8\/1de\/bd7\/3d81debd798dc142f4651b9142cddea0.svg\"\/>, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\forall h_0\\in H_0,\\forall h_1 \\in H_1 \\Rightarrow \\left[ \\begin{array}{l}  h_0 \\leq  h_d \\leq h_1 \\\\ h_1 \\leq h_d \\leq h_0 \\end{array}  \\right.   \\;\\;\\;\\;\\;\\;\\;\\;(15)\" alt=\"\\forall h_0\\in H_0,\\forall h_1 \\in H_1 \\Rightarrow \\left[ \\begin{array}{l}  h_0 \\leq  h_d \\leq h_1 \\\\ h_1 \\leq h_d \\leq h_0 \\end{array}  \\right.   \\;\\;\\;\\;\\;\\;\\;\\;(15)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3a5\/d3a\/304\/3a5d3a304d7855b6740cdd0f616425dd.svg\" width=\"404\" height=\"49\"\/><\/p>\n<p>\u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y\" alt=\"\\f_y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b22\/10f\/86d\/b2210f86d7b63cd9fe091a421442877d.svg\"\/> \u043d\u0435 \u0443\u0431\u044b\u0432\u0430\u0435\u0442.<\/p>\n<p>\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"h=\\f_h(z)\" alt=\"h=\\f_h(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/25a\/47c\/883\/25a47c8839da9ce36ba3d3b13682a854.svg\"\/>, \u0442\u043e \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"Z_0\" alt=\"Z_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/246\/475\/71f\/24647571f705ed3bb10bf0fd818d25ae.svg\"\/> \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"z\" alt=\"z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/08b\/990\/418\/08b990418b73c9396bbb218ce2443282.svg\"\/>, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_h(z) \\in H_0\" alt=\"\\f_h(z) \\in H_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a3c\/87e\/bfe\/a3c87ebfe9151388ca9076f2d2350452.svg\"\/>. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"Z_1\" alt=\"Z_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8c4\/5f7\/1e3\/8c45f71e399bed6b8d54f58c25d35426.svg\"\/> \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"z\" alt=\"z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bfc\/a1c\/30a\/bfca1c30a018c8d9889c66c7cdf95c35.svg\"\/>, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_h(z) \\in H_1\" alt=\"\\f_h(z) \\in H_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/802\/2d6\/621\/8022d6621e106898845ad37883ee7731.svg\"\/>. \u041e\u0442\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"Z_0\" alt=\"Z_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f48\/61b\/85c\/f4861b85c430a787b8f84682e234ef17.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"Z_1\" alt=\"Z_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/33f\/b1e\/0f0\/33fb1e0f006286a076338218229ac7e9.svg\"\/> \u043d\u0435 \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"z\\in(Z_0 \\cup Z_1)\" alt=\"z\\in(Z_0 \\cup Z_1)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e87\/f58\/d4b\/e87f58d4b54a53078e91237f1e65afa4.svg\"\/> \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_h(z)\" alt=\"\\f_h(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3d8\/5de\/21a\/3d85de21a223c3147e442c7e2c720bf0.svg\"\/>\u0434\u043e\u043b\u0436\u043d\u043e \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0430\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"H_0\" alt=\"H_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7b4\/009\/aa2\/7b4009aa20dd97b635c0f05357299e67.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"H_1\" alt=\"H_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/038\/cd8\/6ed\/038cd86ed83b1a577875f974743afb65.svg\"\/>, \u0447\u0442\u043e \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"H_0\" alt=\"H_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/253\/f4f\/ffa\/253f4fffa486239a71ea54453819675b.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"H_1\" alt=\"H_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e0e\/f80\/7fc\/e0ef807fcb5fc359d723f77d3d800d5b.svg\"\/> \u043d\u0435 \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>\u0418\u0437 \u0443\u0441\u043b\u043e\u0432\u0438\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u0438 \u0441\u0432\u043e\u0439\u0441\u0442\u0432 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432  <img decoding=\"async\" class=\"formula inline\" source=\"Z_0\" alt=\"Z_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/244\/81e\/39d\/24481e39d003c393bea057d5f63b7ccd.svg\"\/> \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"Z_1\" alt=\"Z_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b01\/d18\/3eb\/b01d183eb9c3cc62dfcb14f91002e6bf.svg\"\/> \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\begin{cases}(w_{11}\\cdot 0+w_{12}\\cdot0+b_1) \\in Z_0\\\\(w_{11}\\cdot 1+w_{12}\\cdot0+b_1) \\in Z_1\\\\(w_{11}\\cdot 0+w_{12}\\cdot1+b_1 )\\in Z_1\\\\(w_{11}\\cdot 1+w_{12}\\cdot1+b_1 ) \\in Z_0 \\end{cases}\\;\\;\\;\\;\\;(16)\" alt=\"\\begin{cases}(w_{11}\\cdot 0+w_{12}\\cdot0+b_1) \\in Z_0\\\\(w_{11}\\cdot 1+w_{12}\\cdot0+b_1) \\in Z_1\\\\(w_{11}\\cdot 0+w_{12}\\cdot1+b_1 )\\in Z_1\\\\(w_{11}\\cdot 1+w_{12}\\cdot1+b_1 ) \\in Z_0 \\end{cases}\\;\\;\\;\\;\\;(16)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f95\/466\/503\/f95466503682f49778ec59627a2c4fac.svg\" width=\"318\" height=\"96\"\/><\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u043e\u0442\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0447\u0438\u0441\u043b\u043e <img decoding=\"async\" class=\"formula inline\" source=\"z_d\" alt=\"z_d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/828\/b3a\/e83\/828b3ae83b1ae7f8812b23bb7f726dfe.svg\"\/>, \u0434\u043b\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\forall z_0\\in Z_0,\\forall z_1 \\in Z_1 \\Rightarrow \\left[ \\begin{array}{l}  z_0 \\leq  z_d \\leq z_1 \\\\ z_1 \\leq z_d \\leq z_0 \\end{array}  \\right.\\;\\;\\;\\;\\;(17)\" alt=\"\\forall z_0\\in Z_0,\\forall z_1 \\in Z_1 \\Rightarrow \\left[ \\begin{array}{l}  z_0 \\leq  z_d \\leq z_1 \\\\ z_1 \\leq z_d \\leq z_0 \\end{array}  \\right.\\;\\;\\;\\;\\;(17)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/350\/49b\/5d8\/35049b5d833db5f4ea274c254631f618.svg\" width=\"372\" height=\"49\"\/><\/p>\n<p>\u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432<img decoding=\"async\" class=\"formula inline\" source=\"(15)\" alt=\"(15)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/009\/70c\/71d\/00970c71d209b071e75581524ee0f6f9.svg\"\/> \u0438 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\f_h\" alt=\"\\f_h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8f2\/fb1\/abd\/8f2fb1abd9f64da69ee43ff9c990be41.svg\"\/> \u043d\u0435 \u0443\u0431\u044b\u0432\u0430\u0435\u0442.<\/p>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u043b\u0443\u0447\u0430\u0439: <img decoding=\"async\" class=\"formula inline\" source=\"z_0 \\leq z_d \\leq z_1\" alt=\"z_0 \\leq z_d \\leq z_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c38\/08f\/748\/c3808f748f0b75866a8ccc7c75eb4f6d.svg\"\/>. \u0412\u0442\u043e\u0440\u043e\u0439 \u0441\u043b\u0443\u0447\u0430\u0439: <img decoding=\"async\" class=\"formula inline\" source=\"z_1 \\leq z_d \\leq z_0\" alt=\"z_1 \\leq z_d \\leq z_0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c77\/fa5\/3a4\/c77fa53a4c5ebe709935a88548d15da5.svg\"\/> \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e.<\/p>\n<p>\u0421\u043e\u0441\u0442\u0430\u0432\u0438\u043c \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043d\u0435\u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\begin{cases}w_{11}\\cdot 0+w_{12}\\cdot0+b_1 \\leq z_d\\\\w_{11}\\cdot 1+w_{12}\\cdot0+b_1 \\geq z_d\\\\w_{11}\\cdot 0+w_{12}\\cdot1+b_1 \\geq z_d\\\\w_{11}\\cdot 1+w_{12}\\cdot1+b_1 \\leq z_d \\end{cases}\\;\\;\\;\\;\\;(18)\" alt=\"\\begin{cases}w_{11}\\cdot 0+w_{12}\\cdot0+b_1 \\leq z_d\\\\w_{11}\\cdot 1+w_{12}\\cdot0+b_1 \\geq z_d\\\\w_{11}\\cdot 0+w_{12}\\cdot1+b_1 \\geq z_d\\\\w_{11}\\cdot 1+w_{12}\\cdot1+b_1 \\leq z_d \\end{cases}\\;\\;\\;\\;\\;(18)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d15\/086\/224\/d15086224e12188a9d8533f05588b9c7.svg\" width=\"301\" height=\"92\"\/><\/p>\n<p>\u0420\u0435\u0448\u0430\u0435\u043c:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow\\begin{cases}b_1 \\leq z_d\\\\w_{11}+b_1 \\geq z_d\\\\w_{12}+b_1\\geq z_d\\\\w_{11}+w_{12}+b_1 \\leq z_d \\end{cases}\\;\\;\\;\\;\\;(19)\" alt=\"\\Rightarrow\\begin{cases}b_1 \\leq z_d\\\\w_{11}+b_1 \\geq z_d\\\\w_{12}+b_1\\geq z_d\\\\w_{11}+w_{12}+b_1 \\leq z_d \\end{cases}\\;\\;\\;\\;\\;(19)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0ff\/6e7\/a3c\/0ff6e7a3c6e758696cc856747cc5929d.svg\" width=\"279\" height=\"92\"\/><\/p>\n<p>\u0421\u043b\u043e\u0436\u0438\u043c (1) \u0438 (4) \u0441\u0442\u0440\u043e\u0447\u043a\u0438 \u0438 (2) \u0438 (3). \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c:<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\" 2\\cdot z_d \\leq w_{11}+w_{12}+2\\cdot b_1 \\leq 2\\cdot z_d\\;\\;\\;\\;\\;(20)\" alt=\" 2\\cdot z_d \\leq w_{11}+w_{12}+2\\cdot b_1 \\leq 2\\cdot z_d\\;\\;\\;\\;\\;(20)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/db5\/907\/bb3\/db5907bb3003b9f94c5513b39b702d22.svg\" width=\"342\" height=\"22\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow z_d = 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1\\;\\;\\;\\;\\;(21)\" alt=\"\\Rightarrow z_d = 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1\\;\\;\\;\\;\\;(21)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8f1\/273\/b0b\/8f1273b0bb2caec1884169c690bf9abf.svg\" width=\"330\" height=\"22\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow\\begin{cases} w_{11}+b_1 \\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1\\\\w_{12}+b_1\\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1 \\end{cases}\\;\\;\\;\\;\\;(22)\" alt=\"\\Rightarrow\\begin{cases} w_{11}+b_1 \\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1\\\\w_{12}+b_1\\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}+ b_1 \\end{cases}\\;\\;\\;\\;\\;(22)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e54\/aea\/d4f\/e54aead4fcddac1086f16358e3e8de39.svg\" width=\"405\" height=\"49\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow\\begin{cases} w_{11} \\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}\\\\w_{12}\\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12} \\end{cases}\\;\\;\\;\\;\\;(23)\" alt=\"\\Rightarrow\\begin{cases} w_{11} \\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12}\\\\w_{12}\\geq 0{,}5\\cdot w_{11}+0{,}5\\cdot w_{12} \\end{cases}\\;\\;\\;\\;\\;(23)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/405\/e40\/0d5\/405e400d59d3624524b39d2c21a0b541.svg\" width=\"324\" height=\"49\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow\\begin{cases}  w_{11} \\geq w_{12}\\\\ w_{12}\\geq  w_{11}\\end{cases} \\Rightarrow w_{11}=w_{12}\\;\\;\\;\\;\\;(24)\" alt=\"\\Rightarrow\\begin{cases}  w_{11} \\geq w_{12}\\\\ w_{12}\\geq  w_{11}\\end{cases} \\Rightarrow w_{11}=w_{12}\\;\\;\\;\\;\\;(24)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/40a\/2d3\/0ec\/40a2d30ec44348affcda063907370f36.svg\" width=\"305\" height=\"49\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow z_d=w_{11}+b_1=w_{12}+b_1\\;\\;\\;\\;(25)\" alt=\"\\Rightarrow z_d=w_{11}+b_1=w_{12}+b_1\\;\\;\\;\\;(25)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/38b\/d03\/a6b\/38bd03a6b5bfd6d08cc603cccc842625.svg\" width=\"290\" height=\"22\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"(19), (25) \\Rightarrow \\begin{cases}  b_1 \\leq w_{11}+b_1\\\\ 2\\cdot w_{11}+b_1\\leq  w_{11}+b_1\\end{cases}\\;\\;\\;\\;\\;(26)\" alt=\"(19), (25) \\Rightarrow \\begin{cases}  b_1 \\leq w_{11}+b_1\\\\ 2\\cdot w_{11}+b_1\\leq  w_{11}+b_1\\end{cases}\\;\\;\\;\\;\\;(26)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/117\/a13\/f69\/117a13f69ab61c854fbb7aa50511556a.svg\" width=\"381\" height=\"49\"\/><img loading=\"lazy\" decoding=\"async\" class=\"formula\" source=\"\\Rightarrow \\begin{cases}  0 \\leq w_{11}\\\\ w_{11}\\leq  0\\end{cases} \\Rightarrow w_{11}=0\\Rightarrow w_{12}=0\\;\\;\\;\\;\\;(26)\" alt=\"\\Rightarrow \\begin{cases}  0 \\leq w_{11}\\\\ w_{11}\\leq  0\\end{cases} \\Rightarrow w_{11}=0\\Rightarrow w_{12}=0\\;\\;\\;\\;\\;(26)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/939\/be0\/26f\/939be026f3271230e406e0d21322d251.svg\" width=\"360\" height=\"49\"\/><\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u044b\u0445\u043e\u0434 <img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/130\/1a7\/a5a\/1301a7a5a57bac929f92d96595b96c2e.svg\"\/> \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0440\u0430\u0432\u0435\u043d \u043e\u0434\u043d\u043e\u043c\u0443 \u0438 \u0442\u043e\u043c\u0443 \u0436\u0435 \u0447\u0438\u0441\u043b\u0443 <img decoding=\"async\" class=\"formula inline\" source=\"\\f_y(w_2\\cdot\\f_h(b_1)+b_2)\" alt=\"\\f_y(w_2\\cdot\\f_h(b_1)+b_2)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4fe\/ebf\/b4a\/4feebfb4ac39e1e50ccb9d0374d527d9.svg\"\/>, \u0447\u0442\u043e \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0442 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u043c \u0437\u0430\u0434\u0430\u0447\u0438.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043b\u0438, \u0447\u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0441 \u043e\u0434\u043d\u0438\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435 \u0438 \u043d\u0435\u0443\u0431\u044b\u0432\u0430\u044e\u0449\u0438\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u043c \u0441\u043b\u043e\u044f\u0445 \u043c\u043e\u0436\u0435\u0442 \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u0442\u0430\u0431\u043b\u0438\u0446\u0435\u0439 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 XOR. \u041e\u0434\u043d\u0430\u043a\u043e \u043c\u044b \u043f\u0440\u0438\u0448\u043b\u0438 \u043a \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u044e. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0441 \u0442\u0430\u043a\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438  XOR. <\/p>\n<\/div>\n<\/details>\n<h2>\u0412\u044b\u0432\u043e\u0434<\/h2>\n<blockquote>\n<p>\u0415\u0441\u043b\u0438 \u0432\u0435\u0441\u0430 \u0441\u0432\u044f\u0437\u0435\u0439 \u043c\u0435\u0436\u0434\u0443 \u043a\u0430\u0436\u0434\u044b\u043c\u0438 \u0434\u0432\u0443\u043c\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u044f\u043c\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043e\u0439 (\u0432\u043e\u043e\u0431\u0449\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u043e\u0439 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u0430\u0440\u044b \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432), \u0442\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0445 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0441\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441\u043e \u0441\u043b\u0443\u0447\u0430\u0435\u043c, \u043a\u043e\u0433\u0434\u0430 \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438.<\/p>\n<p>\u0418\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0442\u043e, \u0447\u0442\u043e \u043e\u043d\u0430 \u043c\u043e\u0433\u043b\u0430 \u0431\u044b \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438.<\/p>\n<\/blockquote>\n<h2>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043b\u0438, \u043a\u0430\u043a \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0438 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0438\u0437 \u0434\u0432\u0443\u0445 \u043f\u043e\u043b\u043d\u043e\u0441\u0432\u044f\u0437\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432 (\u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e). \u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0430\u043a\u0446\u0435\u043d\u0442 \u0431\u044b\u043b \u0441\u0434\u0435\u043b\u0430\u043d \u043d\u0430 \u0442\u043e, \u043a\u0430\u043a \u0432\u043b\u0438\u044f\u044e\u0442 \u043f\u0440\u043e\u043c\u0435\u0436\u0443\u0442\u043e\u0447\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u0438 \u0432 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u043c \u0438\u0442\u043e\u0433\u0435 \u043d\u0430 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432. <\/p>\n<p>\u041c\u044b \u0443\u0431\u0435\u0434\u0438\u043b\u0438\u0441\u044c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435, \u0447\u0442\u043e \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u043d\u0435 \u043c\u0435\u0448\u0430\u0435\u0442 \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u043c\u0443 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0443 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f. \u0422\u0430\u043a\u0436\u0435 \u043c\u044b \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u0438, \u0447\u0442\u043e \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u0442\u0435\u0440\u044f\u0435\u0442 \u0447\u0430\u0441\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0445 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u044d\u043a\u0432\u0438\u0432\u0430\u043b\u0435\u043d\u0442\u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0441 \u043e\u0434\u043d\u0438\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043c \u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u043c \u0441\u043b\u043e\u0435.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/592711\/\"> https:\/\/habr.com\/ru\/articles\/592711\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0430\u0445 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f TensorFlow \u0438 PyTorch \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0447\u0438\u0441\u043b\u0430. \u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u043f\u043e\u043f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f, \u043f\u043e\u0447\u0435\u043c\u0443 \u0434\u043b\u044f \u044d\u0442\u0438\u0445 \u0446\u0435\u043b\u0435\u0439 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043d\u043e\u043b\u044c \u0438\u043b\u0438 \u043a\u0430\u043a\u0443\u044e-\u043d\u0438\u0431\u0443\u0434\u044c \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0443. <\/p>\n<p>\u041a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441, \u0432\u043e\u0442 \u043e\u043d: \u0435\u0441\u043b\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043d\u0443\u043b\u044f\u043c\u0438, \u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0441\u043e\u0432\u0441\u0435\u043c \u0438\u043b\u0438 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u043f\u043b\u043e\u0445\u043e.<\/p>\n<p>\u041a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u0432\u0451\u0440\u043d\u0443\u0442\u043e \u0443\u0437\u043d\u0430\u0442\u044c, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u00ab\u043f\u043b\u043e\u0445\u043e\u00bb, \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u043c\u043e\u0442\u0430\u0442\u044c \u043a \u0437\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044e \u0432 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<p>\u0410 \u0442\u0435\u043c, \u043a\u0442\u043e \u0445\u043e\u0447\u0435\u0442 \u0432 \u0434\u0435\u0442\u0430\u043b\u044f\u0445 \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043e\u0441\u043d\u043e\u0432\u0430\u043c\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439, \u0434\u043e\u0431\u0440\u043e \u043f\u043e\u0436\u0430\u043b\u043e\u0432\u0430\u0442\u044c \u0432 \u043c\u0438\u0440 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0444\u043e\u0440\u043c\u0443\u043b. \u041c\u044b \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u0438\u0437-\u0437\u0430 \u0447\u0435\u0433\u043e \u0432 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0438\u0437\u043e\u0439\u0442\u0438 \u00ab\u0441\u0431\u043e\u0439\u00bb.<\/p>\n<h2>\u041d\u0430\u0447\u043d\u0451\u043c \u0441 \u0442\u0435\u043e\u0440\u0438\u0438<\/h2>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c \u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 .<\/p>\n<figure class=\"\"><figcaption>\u041e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d<\/figcaption><\/figure>\n<p>\u0417\u0434\u0435\u0441\u044c \u2013 -\u0439 \u0432\u0445\u043e\u0434,  \u2013 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0445\u043e\u0434\u043e\u0432, \u2013 -\u0439 \u0432\u0435\u0441,  \u2013 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435,  \u2013 \u0432\u044b\u0445\u043e\u0434. \u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430  \u0440\u0430\u0432\u043d\u043e , \u0433\u0434\u0435 . \u0412 \u0446\u0435\u043b\u044f\u0445 \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0435\u043c \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435  \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u0442\u0441\u044f \u043a\u0430\u043a ()-\u0439 \u0432\u0445\u043e\u0434 \u0441\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u0432\u0445\u043e\u0434\u0430  \u0438 \u0432\u0435\u0441\u043e\u043c . \u0422\u043e\u0433\u0434\u0430 . <\/p>\n<p>\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u043c\u0435\u0442\u043e\u0434\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430. \u041f\u0443\u0441\u0442\u044c \u2013 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 \u0434\u043b\u044f \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u0430 . \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043e\u0448\u0438\u0431\u043a\u0443 (MSE): , \u0433\u0434\u0435  \u2013 \u0447\u0438\u0441\u043b\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u0432 \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445. \u0414\u043b\u044f \u043f\u0440\u043e\u0441\u0442\u043e\u0442\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0441\u043b\u0443\u0447\u0430\u0439 \u0441 \u043e\u0434\u043d\u0438\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435, \u0442. \u0435. ,.<\/p>\n<p>\u0412 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432  \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: . \u0417\u0434\u0435\u0441\u044c  \u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 -\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,  \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (learning rate),  \u2013 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438, \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c\u044b\u0439 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435:<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c  \u2013 \u0447\u0430\u0441\u0442\u043d\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f  \u043f\u043e . \u0420\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0435\u0451 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435:<\/p>\n<p>\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443<\/p>\n<p>\u0442\u043e , \u0433\u0434\u0435  \u2013 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f.<\/p>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 (\u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0430 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 \u0432\u0435\u043a\u0442\u043e\u0440\u0430 ), \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439  \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0431\u0440\u0430\u0442\u044c \u0432 \u0442\u043e\u0447\u043a\u0435 .<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043a\u0430\u0436\u0434\u044b\u0439 \u0432\u0435\u0441  <strong>\u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f <\/strong>\u043d\u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443<\/p>\n<p>\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432\u043d\u0438\u043c\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043a\u0430\u043a\u0438\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u0432\u0445\u043e\u0434\u044f\u0442 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u0435\u0439 \u043f\u0440\u0438 \u0440\u0430\u0441\u0447\u0451\u0442\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b: <\/p>\n<ul>\n<li>\n<p> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,<\/p>\n<\/li>\n<li>\n<p> \u2013 \u043e\u0448\u0438\u0431\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f, <\/p>\n<\/li>\n<li>\n<p> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  \u0432 \u0442\u043e\u0447\u043a\u0435 ,<\/p>\n<\/li>\n<li>\n<p> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0433\u043e \u0432\u0445\u043e\u0434\u0430 \u043d\u0430 \u0432\u0435\u043a\u0442\u043e\u0440\u0435 \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c, \u0447\u0442\u043e <strong>\u0432 \u043e\u0431\u0449\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435<\/strong> \u0441\u0430\u043c \u0432\u0435\u0441  \u043d\u0435 \u0432\u0445\u043e\u0434\u0438\u0442 \u0432 \u044d\u0442\u0443 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044f \u0432 \u044f\u0432\u043d\u043e\u043c \u0432\u0438\u0434\u0435. <\/p>\n<p><strong>\u0412\u044b\u0432\u043e\u0434.<\/strong> \u0415\u0441\u043b\u0438 \u043d\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0435\u0441  \u0440\u0430\u0432\u0435\u043d , \u0442\u043e \u044d\u0442\u043e \u043d\u0435 \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0448\u0430\u0433\u0435 \u0434\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u0441 \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u044b\u043c . \u041e\u043d \u043c\u043e\u0436\u0435\u0442 \u043a\u0430\u043a \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c\u0441\u044f, \u0442\u0430\u043a \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c\u0441\u044f. <\/p>\n<h2>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h2>\n<p>\u041f\u0443\u0441\u0442\u044c \u0443 \u043d\u0430\u0441 \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u044b\u0439 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c  \u0438 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439 . \u0415\u0451 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f  \u0440\u0430\u0432\u043d\u0430 1 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 . \u041f\u0443\u0441\u0442\u044c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u0445\u043e\u0434\u043e\u0432 , \u0432\u0435\u0441\u0430 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043d\u0443\u043b\u044f\u043c\u0438 \u0438 \u0435\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430: .<\/p>\n<p>\u041f\u0440\u043e\u043c\u043e\u0434\u0435\u043b\u0438\u0440\u0443\u0435\u043c, \u043a\u0430\u043a \u0431\u0443\u0434\u0435\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0441 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f . <\/p>\n<details class=\"spoiler\">\n<summary>\u0412\u0441\u043f\u043e\u043c\u043d\u0438\u043c \u0444\u043e\u0440\u043c\u0443\u043b\u044b<\/summary>\n<div class=\"spoiler__content\">\n<\/p>\n<\/p>\n<\/div>\n<\/details>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p><strong>\u0428\u0430\u0433<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p><strong>\u041d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0435  \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <\/strong><\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<\/td>\n<td>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>1<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(0; 0; 0)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>0<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-42<\/p>\n<\/td>\n<td>\n<p>(4,2; 16,8; 8,4)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>2<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,2; 16,8; 8,4)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>44,1<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>2,1<\/p>\n<\/td>\n<td>\n<p>(-0,21; -0,84; -0,42)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>3<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(3,99; 15,96; 7,98)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>41,895<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-0,105<\/p>\n<\/td>\n<td>\n<p>(0,0105; 0,042; 0,021)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>4<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,005; 16,002; 8,001)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>42,00525<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>0,00525<\/p>\n<\/td>\n<td>\n<p>(-0,00053; -0,0021; -0,00105)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>5<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(3,99998; 15,9999; 7,99995)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>41,99974<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>-0,00026<\/p>\n<\/td>\n<td>\n<p>(0,00003; 0,00010; 0,00005)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"50\" width=\"50\">\n<p>6<\/p>\n<\/td>\n<td data-colwidth=\"222\" width=\"222\">\n<p>(4,00000; 16,00001; 8,00000)<\/p>\n<\/td>\n<td data-colwidth=\"84\" width=\"84\">\n<p>42,00001<\/p>\n<\/td>\n<td data-colwidth=\"87\" width=\"87\">\n<p>0,00001<\/p>\n<\/td>\n<td>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0417\u0434\u0435\u0441\u044c \u0432\u0441\u0435 \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u043e 5 \u0437\u043d\u0430\u043a\u043e\u0432 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u044f\u0442\u043e\u0439.<\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e, \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u044b\u0441\u0442\u0440\u043e \u043f\u0440\u0438\u0448\u0451\u043b \u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c \u0432\u0435\u0441\u043e\u0432, \u0431\u043b\u0438\u0437\u043a\u0438\u0445 \u043a  . \u041f\u0440\u0438  \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0432\u044b\u0445\u043e\u0434\u0430  \u0440\u0430\u0432\u043d\u043e  , \u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438  \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0432\u043f\u043e\u043b\u043d\u0435 \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0438\u043b\u0441\u044f, \u0441\u0442\u0430\u0440\u0442\u0443\u044f \u0441 \u0432\u0435\u0441\u043e\u0432, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043d\u0443\u043b\u044f\u043c\u0438. \u041f\u0440\u0438\u0447\u0451\u043c, \u0447\u0442\u043e \u0432\u0430\u0436\u043d\u043e, \u0432\u0441\u0435 \u0432\u0435\u0441\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438.<\/p>\n<h2>\u0411\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b<\/h2>\n<p>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u0432\u044b\u0445\u043e\u0434\u0430\u043c\u0438. \u0412 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0442\u0430 \u0436\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u2014 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0438 \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0438\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0441  \u0432\u044b\u0445\u043e\u0434\u0430\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u043a  \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u043e\u0432 \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u0410 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u044b \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c, \u043a\u0430\u043a \u043c\u044b \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u0438, \u0443\u043c\u0435\u044e\u0442 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u0435\u0432\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438.<\/p>\n<p>\u042d\u0442\u043e \u0441\u043f\u0440\u0430\u0432\u0435\u0434\u043b\u0438\u0432\u043e \u043a\u0430\u043a \u0434\u043b\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439, \u0442\u0430\u043a \u0438 \u0434\u043b\u044f \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0441 \u043d\u0435\u043d\u0443\u043b\u0435\u0432\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0445 (, , ,  \u0438 \u0434\u0440.). \u0421 \u044d\u0442\u0438\u043c\u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044f\u043c\u0438 \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0441\u0442\u0430\u0440\u0442\u0443\u044f \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u0445 \u0432\u0435\u0441\u043e\u0432. <\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0432\u0441\u0451-\u0436\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u043f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  \u0438\u043b\u0438  \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u043c \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u043c \u043d\u0430\u043a\u043b\u043e\u043d\u0430 \u0434\u043b\u044f \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0447\u0438\u0441\u0435\u043b (negative slope). \u0412 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043b\u0435\u0432\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0432 \u043d\u0443\u043b\u0435 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u0430 \u043f\u0440\u0430\u0432\u0430\u044f \u2013 \u043d\u0435 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0430. \u041e\u0434\u043d\u0430\u043a\u043e \u0434\u043b\u044f \u043c\u0435\u0442\u043e\u0434\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0432\u0441\u0451 \u0436\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043e. \u0418 \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f\u0445 TensorFlow \u0438 PyTorch \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f  \u0432 \u043d\u0443\u043b\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u043e\u0439 \u043d\u0443\u043b\u044e. \u0418\u0437-\u0437\u0430 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430  \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u0435\u0441\u0430 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0435\u0441\u0430 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f, \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442.<\/p>\n<p>\u041d\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u0430\u044f \u0432\u044b\u0448\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439  \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0438 \u043f\u0440\u0438 \u0432\u0435\u0441\u0430\u0445, \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043f\u0440\u0438\u0447\u0451\u043c \u0434\u0430\u0436\u0435 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u043a\u0430\u043c\u0438. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u0432\u0435\u0441\u0430 \u0431\u044b\u043b\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043a\u0430\u043a , \u0442\u043e \u043d\u0430 \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u043c \u0432\u044b\u0448\u0435 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u043e\u0439\u0434\u0451\u0442, \u043f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435  \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e: , \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  \u043f\u0440\u0438 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u0430 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e, \u0430 \u043d\u0443\u043b\u0435\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u043e\u0431\u043d\u0443\u043b\u0435\u043d\u0438\u044e \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439 \u0432\u0435\u0441\u043e\u0432.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438  \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442\u044c \u043a\u0430\u043a \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438, \u0442\u0430\u043a \u0438 \u043f\u0440\u0438 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438. \u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0432\u044b\u0448\u0435 \u043a\u0435\u0439\u0441 \u0441  \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0432\u0435\u0441\u043a\u0438\u043c \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u043c \u043f\u0440\u043e\u0442\u0438\u0432 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0432\u0435\u0441\u043e\u0432 \u043d\u0443\u043b\u044f\u043c\u0438 \u0438 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0430\u043c\u0438. \u0421\u043a\u043e\u0440\u0435\u0435, \u044d\u0442\u043e \u0434\u043e\u0432\u043e\u0434 \u043f\u0440\u043e\u0442\u0438\u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f .<\/p>\n<p><strong>\u0422\u0430\u043a \u043f\u043e\u0447\u0435\u043c\u0443 \u0431\u044b \u043d\u0435 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430 \u043d\u0443\u043b\u044f\u043c\u0438, \u0435\u0441\u043b\u0438 \u044d\u0442\u043e \u043d\u0435 \u043c\u0435\u0448\u0430\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e (\u0435\u0441\u043b\u0438 \u043d\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c relu)?<\/strong><\/p>\n<h2>\u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u0443\u044e \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c<\/h2>\n<p>\u041f\u0443\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0430\u044f \u0438\u0437 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441  \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0441  \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430\u043c\u0438. <\/p>\n<figure class=\"full-width\"><figcaption>\u041d\u0435\u0439\u0440\u043e\u043d\u043d\u0430\u044f \u0441\u0435\u0442\u044c \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c<\/figcaption><\/figure>\n<p>\u0412\u0432\u0435\u0434\u0451\u043c \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f:  \u2013 -\u0439 \u0432\u0445\u043e\u0434,  \u2013 -\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f,  \u2013 -\u0439 \u0432\u044b\u0445\u043e\u0434,  \u2013 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f,  \u2013 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f,  \u2013 \u0432\u0435\u0441 \u043c\u0435\u0436\u0434\u0443 -\u043c \u0432\u0445\u043e\u0434\u043e\u043c \u0438 -\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f,  \u2013 \u0432\u0435\u0441 \u043c\u0435\u0436\u0434\u0443 -\u043c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u043c \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 -\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u041a\u0430\u043a \u0438 \u0440\u0430\u043d\u0435\u0435, \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u044b: , .<\/p>\n<p>\u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c  \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0442\u043e\u0433\u0434\u0430  \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c  \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u0442\u043e\u0433\u0434\u0430  \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438.<\/p>\n<p>\u041f\u0443\u0441\u0442\u044c \u0443 \u043d\u0430\u0441 \u0438\u043c\u0435\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0438\u0437 \u043e\u0434\u043d\u043e\u0439 \u043f\u0430\u0440\u044b \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432 . \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438  \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u0443\u044e \u043e\u0448\u0438\u0431\u043a\u0443 (MSE). \u0422\u043e\u0433\u0434\u0430 .<\/p>\n<h2>\u041a\u0430\u043a \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438<\/h2>\n<p>\u0414\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438, \u043a\u0430\u043a \u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0431\u0443\u0434\u0435\u043c \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c \u0444\u043e\u0440\u043c\u0443\u043b\u0443 , \u0433\u0434\u0435  \u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 -\u043c \u0448\u0430\u0433\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,  \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f (learning rate),  \u2013 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438. \u041e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0435 \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443 \u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u043b\u043e\u0451\u0432.<\/p>\n<p>\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0432\u0435\u0441\u0430 , \u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0438\u0435 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0439 \u0441\u043b\u043e\u0439. \u0412\u044b\u0447\u0438\u0441\u043b\u0438\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u043d\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e: <\/p>\n<p><strong>\u0421\u043c\u044b\u0441\u043b \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0432\u0435\u043d\u0441\u0442\u0432\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439.<\/strong> \u0412\u0435\u0441 , \u0441\u0432\u044f\u0437\u044b\u0432\u0430\u044e\u0449\u0438\u0439 -\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438 -\u0439 \u0432\u044b\u0445\u043e\u0434, \u0432\u043b\u0438\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 -\u0439 \u0432\u044b\u0445\u043e\u0434 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438. \u041d\u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0445\u043e\u0434\u044b \u043e\u043d \u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u0442. \u042d\u0442\u043e\u0442 \u0444\u0430\u043a\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d \u0438 \u0431\u0435\u0437 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0444\u043e\u0440\u043c\u0443\u043b.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043d\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e :<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c . <\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0444\u043e\u0440\u043c\u0443\u043b\u0443, \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u0443\u044e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0445\u043e\u0434\u043e\u043c. \u041e\u0442\u043b\u0438\u0447\u0438\u0435 \u043b\u0438\u0448\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435  \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0445\u043e\u0434\u043e\u0432. <\/p>\n<p>\u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u043c \u0441\u043b\u043e\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u043e \u0442\u0435\u043c \u0436\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c, \u043a\u0430\u043a \u0432 \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u043c \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0435. \u0422\u043e\u043b\u044c\u043a\u043e \u0432 \u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0434\u043b\u044f \u0432\u0435\u0441\u043e\u0432  \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u0435\u0442 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438. <\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e, \u043d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0441\u043e \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c \u0432\u0441\u0451 \u0436\u0435 \u043a\u0430\u0440\u0434\u0438\u043d\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0446\u0435\u043f\u0442\u0440\u043e\u043d\u0430. \u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c \u043f\u0440\u0438\u0447\u0438\u043d\u044b \u044d\u0442\u043e\u0433\u043e, \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c\u0441\u044f, \u043a\u0430\u043a \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043e\u0448\u0438\u0431\u043a\u0438  \u043f\u043e \u0432\u0435\u0441\u0430\u043c \u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0438\u043c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u0438 \u0441\u043a\u0440\u044b\u0442\u044b\u0439 \u0441\u043b\u043e\u0439.<\/p>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u043c \u0432\u0441\u043f\u043e\u043c\u043e\u0433\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b:<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043d\u0430\u0439\u0434\u0451\u043c \u0438\u0441\u043a\u043e\u043c\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e:<\/p>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c, \u0442\u043e \u0434\u0430\u043d\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0430 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u0445\u043e\u0436\u0430 \u043d\u0430 \u0444\u043e\u0440\u043c\u0443\u043b\u0443<strong><\/strong>\u0434\u043b\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b  \u0441 \u0442\u043e\u0439 \u043b\u0438\u0448\u044c \u0440\u0430\u0437\u043d\u0438\u0446\u0435\u0439, \u0447\u0442\u043e \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0430\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438  \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f. \u0412\u043c\u0435\u0441\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f  (\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0441\u043b\u043e\u044f) \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f  (\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 -\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f). \u0412\u043c\u0435\u0441\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0438  \u043d\u0430 -\u043c \u0432\u044b\u0445\u043e\u0434\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u043a \u0441\u0443\u043c\u043c\u0443 \u00ab\u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0445\u00bb \u043e\u0448\u0438\u0431\u043e\u043a: <\/p>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0438 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438. \u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e \u0441\u043b\u043e\u044f\u043c \u043e\u0442 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043a \u0432\u0445\u043e\u0434\u043d\u043e\u043c\u0443. \u0414\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u044f \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u00ab\u043e\u0448\u0438\u0431\u043a\u0430\u00bb. \u0414\u043b\u044f \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u0440\u0430\u0432\u043d\u0430 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438. \u0414\u043b\u044f \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043b\u043e\u0451\u0432 \u043e\u0448\u0438\u0431\u043a\u0430 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u0430\u044f \u0441\u0443\u043c\u043c\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u043d\u0430\u0445 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0445 \u0441\u043b\u043e\u0451\u0432, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u044b\u0445 \u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0432\u0435\u0441\u043e\u0432 (\u0441\u043c. \u0444\u043e\u0440\u043c\u0443\u043b\u0443 ).<\/p>\n<figure class=\"full-width\"><figcaption>\u041e\u0431\u0440\u0430\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438<\/figcaption><\/figure>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0435\u0449\u0451 \u0440\u0430\u0437 \u0432\u044b\u043f\u0438\u0448\u0435\u043c \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0435 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043a\u0438.<\/p>\n<h2>\u0412\u044b\u0432\u043e\u0434\u044b \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0430\u043c<\/h2>\n<p>\u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u043b\u044e\u0431\u044b\u043c\u0438 \u0434\u0432\u0443\u043c\u044f \u0441\u043e\u0441\u0435\u0434\u043d\u0438\u043c\u0438 \u0441\u043b\u043e\u044f\u043c\u0438. \u0414\u0430\u043b\u0435\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f  \u2013 \u043d\u043e\u043c\u0435\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 \u043d\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u043c \u0441\u043b\u043e\u0435,  \u2013 \u043d\u043e\u043c\u0435\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u0430 (\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435.<\/p>\n<p><strong> \u041f\u0440\u0438 \u0440\u0430\u0441\u0447\u0451\u0442\u0435 \u043e\u0448\u0438\u0431\u043a\u0438  \u043a\u0430\u0436\u0434\u043e\u0435<\/strong> <strong>\u0441\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0435<\/strong> <strong>\u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e:<\/strong> <\/p>\n<ul>\n<li>\n<p> \u2013 \u043e\u0448\u0438\u0431\u043a\u0435 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p> \u2013 \u0432\u0435\u0441\u0443 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0439 \u0441\u0432\u044f\u0437\u0438.<\/p>\n<figure class=\"full-width\"><figcaption>\u0420\u0430\u0441\u0447\u0451\u0442 \u043e\u0448\u0438\u0431\u043a\u0438 \u0434\u043b\u044f i-\u0433\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u0430<\/figcaption><\/figure>\n<\/li>\n<\/ul>\n<p><strong>\u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u0430  \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e:<\/strong> <\/p>\n<ul>\n<li>\n<p> \u2013 \u043e\u0448\u0438\u0431\u043a\u0435 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435.<\/p>\n<\/li>\n<li>\n<p> \u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u043e\u0439 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0441\u043b\u043e\u0435,<\/p>\n<\/li>\n<li>\n<p> \u2013 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0443 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f,<\/p>\n<\/li>\n<li>\n<\/li>\n<\/ul>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-411626","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/411626","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=411626"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/411626\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=411626"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=411626"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=411626"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}