{"id":481417,"date":"2026-05-28T13:09:45","date_gmt":"2026-05-28T13:09:45","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=481417"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=481417","title":{"rendered":"\u0420\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u043c\u0441\u044f \u0432 ML \u0431\u0435\u0437 \u0432\u043e\u0434\u044b: \u043e\u0442 \u0431\u0430\u0437\u044b \u0434\u043e Attention. \u0427\u0430\u0441\u0442\u044c 6: \u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0418\u0442\u0430\u043a \u043c\u044b \u043e\u0431\u0441\u0443\u0434\u0438\u043b\u0438 \u0437\u0430\u0434\u0430\u0447\u0443 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<p>\u0418\u043c\u0435\u044f \u0442\u0430\u043a\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u0437\u043d\u0430\u043d\u0438\u0439, \u043c\u044b \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0433\u043e\u0442\u043e\u0432\u044b \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 kNN, \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u0430 \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u044e\u0442 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0443\u044e \u0432\u044b\u0431\u043e\u0440\u043a\u0443.  <\/p>\n<p>\u0418 \u043f\u0435\u0440\u0432\u044b\u0439 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442 \u0443 \u043d\u0430\u0441:<\/p>\n<h2>\u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f<\/h2>\n<p>\u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f (<strong>logistic regression<\/strong>) \u2014 \u044d\u0442\u043e \u043e\u0434\u0438\u043d \u0438\u0437 \u0441\u0430\u043c\u044b\u0445 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0438 \u0432\u0430\u0436\u043d\u044b\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u0447\u0438\u0442\u0441\u044f \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u043c\u0435\u0436\u0434\u0443 \u043a\u043b\u0430\u0441\u0441\u0430\u043c\u0438 \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0433\u043e, \u043a \u043a\u0430\u043a\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043e\u0431\u044a\u0435\u043a\u0442.  <\/p>\n<p>\u0421\u0440\u0430\u0437\u0443 \u0438\u0437\u0431\u0430\u0432\u0438\u043c\u0441\u044f \u043e\u0442 \u043f\u0443\u0442\u0430\u043d\u0438\u0446\u044b: \u0434\u0430, \u043d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0440\u0435\u0448\u0430\u0435\u0442 \u0437\u0430\u0434\u0430\u0447\u0443 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u0432 \u0435\u0451 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0438 \u0435\u0441\u0442\u044c \u0441\u043b\u043e\u0432\u043e &#171;\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f&#187;.<br \/>\u0422\u0430\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442: &#171;\u044d\u0442\u043e\u0442 \u043e\u0431\u044a\u0435\u043a\u0442 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043a\u043b\u0430\u0441\u0441\u0443 A \u0438 \u0442\u043e\u0447\u043a\u0430&#187;. \u0412\u043c\u0435\u0441\u0442\u043e \u044d\u0442\u043e\u0433\u043e \u043e\u043d\u0430 \u0432\u044b\u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u0430 \u043a \u043a\u043b\u0430\u0441\u0441\u0443 A. <\/p>\n<p>\u0413\u0440\u0443\u0431\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u043c\u043e\u0436\u043d\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u0430\u043a: &#171;\u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e 0.74 \u043e\u0431\u044a\u0435\u043a\u0442 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043a\u043b\u0430\u0441\u0441\u0443 A. \u0414\u0430\u043b\u044c\u0448\u0435 \u0443\u0436\u0435 \u0440\u0435\u0448\u0430\u0439\u0442\u0435 \u0441\u0430\u043c\u0438, \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u044c \u0435\u0433\u043e \u043a \u044d\u0442\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443 \u0438\u043b\u0438 \u043d\u0435\u0442&#187;.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c\u0441\u044f, \u043a\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u044d\u0442\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438, \u0430 \u0443\u0436\u0435 \u043f\u043e\u0442\u043e\u043c \u043f\u043e\u0439\u043c\u0451\u043c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 \u044d\u0442\u0438\u043c \u0441\u0430\u043c\u044b\u043c &#171;\u0434\u0430\u043b\u044c\u0448\u0435 \u0440\u0435\u0448\u0430\u0439\u0442\u0435 \u0441\u0430\u043c\u0438&#187;.  <\/p>\n<p>\u041c\u044b \u0443\u0436\u0435 \u0438\u043c\u0435\u0435\u043c \u043e\u043f\u044b\u0442 \u0440\u0430\u0431\u043e\u0442\u044b \u0441 \u043a\u043b\u0430\u0441\u0441\u043e\u043c \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439.  \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043b\u043e\u0433\u0438\u0447\u043d\u043e \u043d\u0435 \u0438\u0437\u043e\u0431\u0440\u0435\u0442\u0430\u0442\u044c \u0432\u0435\u043b\u043e\u0441\u0438\u043f\u0435\u0434 \u0437\u0430\u043d\u043e\u0432\u043e, \u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0442\u043e, \u0447\u0442\u043e \u0443\u0436\u0435 \u0445\u043e\u0440\u043e\u0448\u043e \u043d\u0430\u043c \u0437\u043d\u0430\u043a\u043e\u043c\u043e.<br \/>\u041d\u043e \u043f\u0440\u0438 \u0442\u0430\u043a\u043e\u043c \u043f\u043e\u0434\u0445\u043e\u0434\u0435 \u0443 \u043d\u0430\u0441 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0435\u0442 \u043e\u0434\u043d\u0430 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0442\u0430\u043a\u0438\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442  \u2014 \u044d\u0442\u043e \u0447\u0438\u0441\u043b\u043e \u0438\u0437 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}\" alt=\"\\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg\" width=\"12\" height=\"16\" data-width=\"1.633\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041d\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0447\u0438\u0441\u043b\u043e \u043d\u0430 \u043e\u0442\u0440\u0435\u0437\u043a\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"[0,1]\" alt=\"[0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg\" width=\"32\" height=\"16\" data-width=\"4.526\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043e\u043d\u043e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e. \u041f\u0440\u0438\u0447\u0435\u043c, \u043d\u0443\u0436\u043d\u043e \u0447\u0442\u043e\u0431\u044b \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438 &#171;\u043f\u043e\u0447\u0442\u0438 1&#187;, \u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u2014 &#171;\u043f\u043e\u0447\u0442\u0438 0&#187;.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f:<\/p>\n<ul>\n<li>\n<p>&#171;\u0441\u0436\u0438\u043c\u0430\u0435\u0442&#187; \u0432\u0441\u044e \u0447\u0438\u0441\u043b\u043e\u0432\u0443\u044e \u043f\u0440\u044f\u043c\u0443\u044e;<\/p>\n<\/li>\n<li>\n<p>\u043d\u0435 \u0442\u0435\u0440\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<\/ul>\n<p>\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f <strong>\u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430:<\/strong><\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sigma(x) = \\frac{1}{1+e^{-x}}\" alt=\"\\sigma(x) = \\frac{1}{1+e^{-x}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/32\/32b\/32b4352c50caa75f1f5d023db26af800.svg\" width=\"120\" height=\"32\" data-width=\"15.657\" data-height=\"4.774\" data-vertical-align=\"-1.821\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/32\/32b\/32b4352c50caa75f1f5d023db26af800.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/32\/32b\/32b4352c50caa75f1f5d023db26af800.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c, \u0435\u0441\u043b\u0438 \u043c\u044b \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"p(x) := p(x) := \\sigma(\\langle \\omega, x \\rangle) = \\frac{1}{1+e^{-\\langle \\omega, x \\rangle}}\" alt=\"p(x) := p(x) := \\sigma(\\langle \\omega, x \\rangle) = \\frac{1}{1+e^{-\\langle \\omega, x \\rangle}}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2cd\/2cd0c0a7b1ea37fb86c6d03c56c225c7.svg\" width=\"304\" height=\"32\" data-width=\"38.192\" data-height=\"4.985\" data-vertical-align=\"-1.927\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2cd\/2cd0c0a7b1ea37fb86c6d03c56c225c7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2c\/2cd\/2cd0c0a7b1ea37fb86c6d03c56c225c7.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p> \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0435\u043d\u0438\u044f \u043e\u0431\u044a\u0435\u043a\u0442\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"x\" alt=\"x\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9d\/9dd\/9dd4e461268c8034f5c8564e155c67a6.svg\" width=\"12\" height=\"12\" data-width=\"1.294\" data-height=\"1.025\" data-vertical-align=\"-0.025\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9d\/9dd\/9dd4e461268c8034f5c8564e155c67a6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9d\/9dd\/9dd4e461268c8034f5c8564e155c67a6.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u0435\u0451 \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"p(x)\" alt=\"p(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg\" width=\"32\" height=\"16\" data-width=\"4.192\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u0430 \u0432\u044b\u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"p(x)\" alt=\"p(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg\" width=\"32\" height=\"16\" data-width=\"4.192\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/413\/4130c89f2d12c3ac81aba3adbff28685.svg 781w\" loading=\"lazy\" decode=\"async\"\/><br \/>\u041d\u043e \u043f\u043e\u043a\u0430 \u043d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u043a\u0430\u043a \u044d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u043d\u0430 &#171;\u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c&#187;, \u0447\u0442\u043e \u043e\u043d\u0430 \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 <strong>\u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0435\u0451 \u043e\u0448\u0438\u0431\u043a\u0438 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0438\u0445 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c<\/strong>.<\/p>\n<p>\u0417\u043d\u0430\u0447\u0438\u0442 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u0443\u0434\u0435\u0442 \u0448\u0442\u0440\u0430\u0444\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0442\u043e\u0433\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0435\u0451 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0451\u043c \u0432\u0430\u0436\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u044d\u0442\u043e\u0442 \u0448\u0442\u0440\u0430\u0444 \u0432\u0451\u043b \u0441\u0435\u0431\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<ul>\n<li>\n<p> \u0435\u0441\u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1, \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.99 \u2014 \u0448\u0442\u0440\u0430\u0444 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c;<\/p>\n<\/li>\n<li>\n<p> \u0435\u0441\u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0430\u043b\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.1 \u2014 \u0448\u0442\u0440\u0430\u0444 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c;<\/p>\n<\/li>\n<li>\n<p> \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 0<\/p>\n<\/li>\n<\/ul>\n<p>\u0418 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u2014 \u043e\u043d\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <strong>log-loss<\/strong> (\u0438\u043b\u0438 <strong>cross-entropy<\/strong>).<br \/>\u041d\u043e \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u043d\u0435\u0439<strong>,<\/strong> \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435.<\/p>\n<h4>\u041c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f<\/h4>\n<p>\u0412\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043e\u0442\u043b\u043e\u0436\u0438\u043c \u0432\u0441\u0451, \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043e \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0438 \u043f\u043e\u0439\u043c\u0435\u043c \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u043c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f <strong>(\u041c\u041c\u041f, Maximum Likelihood Estimation <\/strong>\u0438\u043b\u0438 <strong>MLE).<\/strong>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043d\u0435\u0438\u0434\u0435\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u043d\u0435\u0442\u0430. \u041f\u0443\u0441\u0442\u044c \u043f\u0440\u0438 \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u0438 \u0448\u0430\u043d\u0441 \u0432\u044b\u043f\u0430\u0434\u0435\u043d\u0438\u044f \u043e\u0440\u043b\u0430 \u0440\u0430\u0432\u043d\u044f\u0435\u0442\u0441\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\theta\" alt=\"\\theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg\" width=\"12\" height=\"16\" data-width=\"1.061\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041c\u044b \u043f\u043e\u0434\u0431\u0440\u043e\u0441\u0438\u043b\u0438 \u043c\u043e\u043d\u0435\u0442\u0443 100 \u0440\u0430\u0437 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442: 72 \u0440\u0430\u0437\u0430 \u0432\u044b\u043f\u0430\u043b \u043e\u0440\u0451\u043b, 28 \u0440\u0430\u0437 \u2014 \u0440\u0435\u0448\u043a\u0430.<\/p>\n<p>\u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u0430\u043a\u043e\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043f\u0440\u0438 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\theta\" alt=\"\\theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg\" width=\"12\" height=\"16\" data-width=\"1.061\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0440\u0430\u0432\u043d\u0430:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"p(\\theta) = \\theta^{72}(1-\\theta)^{28}\" alt=\"p(\\theta) = \\theta^{72}(1-\\theta)^{28}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bb\/bbf\/bbf74b61ff2a9584072c6939e9cb3d36.svg\" width=\"144\" height=\"16\" data-width=\"18.331\" data-height=\"2.581\" data-vertical-align=\"-0.725\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bb\/bbf\/bbf74b61ff2a9584072c6939e9cb3d36.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bb\/bbf\/bbf74b61ff2a9584072c6939e9cb3d36.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0418\u0442\u0430\u043a, \u0435\u0441\u043b\u0438 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0442\u044c \u0438\u0434\u0435\u044e \u2014 \u043c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u0434\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c \u0438 \u0433\u043e\u0432\u043e\u0440\u0438\u043c: &#171;\u0440\u0430\u0437 \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e \u0432\u043e\u0442 \u0442\u0430\u043a, \u0442\u043e \u044d\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442&#187;, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0442\u0430\u043a\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"\\theta\" alt=\"\\theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg\" width=\"12\" height=\"16\" data-width=\"1.061\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\theta^* = \\arg\\!\\max_{\\theta}\\theta^{72}(1-\\theta)^{28}\" alt=\"\\theta^* = \\arg\\!\\max_{\\theta}\\theta^{72}(1-\\theta)^{28}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d9e\/d9e79bca4f33970137c31be32d7a4ee1.svg\" width=\"192\" height=\"24\" data-width=\"24.156\" data-height=\"3.789\" data-vertical-align=\"-1.329\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d9e\/d9e79bca4f33970137c31be32d7a4ee1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d9\/d9e\/d9e79bca4f33970137c31be32d7a4ee1.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u042d\u0442\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f.<br \/>\u0412 \u043e\u0431\u0449\u0435\u043c \u0432\u0438\u0434\u0435 \u043e\u043d\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\theta^* = \\arg\\!\\max_{\\theta}L(\\theta),\" alt=\"\\theta^* = \\arg\\!\\max_{\\theta}L(\\theta),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/919\/919a433ebe0428aa3c04c5a1f89274e7.svg\" width=\"136\" height=\"24\" data-width=\"17.793\" data-height=\"3.47\" data-vertical-align=\"-1.169\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/919\/919a433ebe0428aa3c04c5a1f89274e7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/91\/919\/919a433ebe0428aa3c04c5a1f89274e7.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"L(\\theta) = \\prod_{i=1}^n p_{\\theta}(X_i)\" alt=\"L(\\theta) = \\prod_{i=1}^n p_{\\theta}(X_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/69\/69f\/69f5aa5fc904c3312aeee59dbae440fc.svg\" width=\"136\" height=\"48\" data-width=\"17.097\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/69\/69f\/69f5aa5fc904c3312aeee59dbae440fc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/69\/69f\/69f5aa5fc904c3312aeee59dbae440fc.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 <strong>\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f (likelihood function<\/strong>);<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"p_{\\theta}(x)\" alt=\"p_{\\theta}(x)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f4\/f4c\/f4c49fc5b507afef5846a8b0800ea79e.svg\" width=\"40\" height=\"16\" data-width=\"5.13\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f4\/f4c\/f4c49fc5b507afef5846a8b0800ea79e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f4\/f4c\/f4c49fc5b507afef5846a8b0800ea79e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014  \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c (\u0438\u043b\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c) \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\theta\" alt=\"\\theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg\" width=\"12\" height=\"16\" data-width=\"1.061\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 781w\" loading=\"lazy\" decode=\"async\"\/>; <\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"X_1, \\dots, X_n\" alt=\"X_1, \\dots, X_n\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/18\/182\/18203051a20839c54417d2891036cbbf.svg\" width=\"80\" height=\"16\" data-width=\"10.923\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/18\/182\/18203051a20839c54417d2891036cbbf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/18\/182\/18203051a20839c54417d2891036cbbf.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439.<\/p>\n<p> \u0412 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435 \u043f\u0440\u0438 \u0432\u0438\u0434\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0447\u0430\u0441\u0442\u043e \u0431\u0435\u0440\u0443\u0442 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c. \u041c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u043b\u0438 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u043d\u0435\u0443\u0434\u043e\u0431\u043d\u043e, \u0430 \u043f\u043e\u0441\u043b\u0435 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0443\u043c\u043c\u0430, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0431\u044b\u0447\u043d\u043e \u043f\u0440\u043e\u0449\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c. \u0421\u043b\u0443\u0447\u0430\u0439 \u0441 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c. \u041e\u0431\u044b\u0447\u043d\u043e \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0442\u0430\u043a:  <\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\theta^* = \\arg\\!\\max_{\\theta}\\log(L(\\theta)) = \\arg\\!\\max_{\\theta}\\sum_{i=1}^{n}\\log(p_{\\theta}(X_i)),\" alt=\"\\theta^* = \\arg\\!\\max_{\\theta}\\log(L(\\theta)) = \\arg\\!\\max_{\\theta}\\sum_{i=1}^{n}\\log(p_{\\theta}(X_i)),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/753\/753d7ef074fb957e7e8e49cde000c892.svg\" width=\"376\" height=\"48\" data-width=\"47.942\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/753\/753d7ef074fb957e7e8e49cde000c892.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/75\/753\/753d7ef074fb957e7e8e49cde000c892.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0434\u043b\u044f \u043d\u0430\u0448\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0441 \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u0435\u043c \u043c\u043e\u043d\u0435\u0442\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\theta^* = \\arg\\!\\max_{\\theta}(72\\log(\\theta) + 28\\log(1-\\theta))\" alt=\"\\theta^* = \\arg\\!\\max_{\\theta}(72\\log(\\theta) + 28\\log(1-\\theta))\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fc\/fc1\/fc1d9d1b792d7088b3b9366323522573.svg\" width=\"296\" height=\"24\" data-width=\"37.552\" data-height=\"3.47\" data-vertical-align=\"-1.169\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fc\/fc1\/fc1d9d1b792d7088b3b9366323522573.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/fc\/fc1\/fc1d9d1b792d7088b3b9366323522573.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041e\u0442\u043a\u0443\u0434\u0430, \u043f\u0440\u0438\u0440\u0430\u0432\u043d\u044f\u0432 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043a \u043d\u0443\u043b\u044e, \u043f\u043e\u043b\u0443\u0447\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\theta^* = 0.72\" alt=\"\\theta^* = 0.72\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2a5\/2a56a7f6cbf4fe659d2f73f6c0d51714.svg\" width=\"72\" height=\"16\" data-width=\"9.088\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2a5\/2a56a7f6cbf4fe659d2f73f6c0d51714.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/2a\/2a5\/2a56a7f6cbf4fe659d2f73f6c0d51714.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0439\u043c\u0435\u043c \u0437\u0430\u0447\u0435\u043c \u043d\u0430\u043c \u041c\u041c\u041f.<\/p>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u041c\u041c\u041f, \u043c\u044b \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u0432 \u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438. \u0410 \u043b\u044e\u0431\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043c\u043e\u0436\u043d\u043e \u044d\u043a\u0432\u0438\u0432\u0430\u043b\u0435\u043d\u0442\u043d\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0430\u043a <strong>\u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438<\/strong>: \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u043c\u0435\u0441\u0442\u043e &#171;\u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"Q\" alt=\"Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f09\/f09564c9ca56850d4cd6b3319e541aee.svg\" width=\"12\" height=\"16\" data-width=\"1.79\" data-height=\"2.032\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f09\/f09564c9ca56850d4cd6b3319e541aee.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f0\/f09\/f09564c9ca56850d4cd6b3319e541aee.svg 781w\" loading=\"lazy\" decode=\"async\"\/>&#187; \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c &#171;\u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"\u2212Q\" alt=\"\u2212Q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e7\/3e723d94a9321ea0c8c14c92480b6023.svg\" width=\"24\" height=\"16\" data-width=\"3.55\" data-height=\"2.032\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e7\/3e723d94a9321ea0c8c14c92480b6023.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/3e\/3e7\/3e723d94a9321ea0c8c14c92480b6023.svg 781w\" loading=\"lazy\" decode=\"async\"\/>&#171;. <\/p>\n<p>\u0410 \u0447\u0442\u043e \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0432 ML? \u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0436\u0435, \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043f\u043e\u0442\u0435\u0440\u044c.<\/p>\n<h4>Log-loss<\/h4>\n<p>\u0415\u0441\u043b\u0438 \u0432\u0437\u044f\u0442\u044c \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u0445 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0442\u043e, \u0447\u0442\u043e \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f log-loss. \u0420\u0430\u0437\u0431\u0435\u0440\u0435\u043c \u044d\u0442\u043e \u043f\u043e\u0448\u0430\u0433\u043e\u0432\u043e.<\/p>\n<p> \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"\\theta\" alt=\"\\theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg\" width=\"12\" height=\"16\" data-width=\"1.061\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/25\/255\/2554a2bb846cffd697389e5dc8912759.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"\\omega\" alt=\"\\omega\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg\" width=\"12\" height=\"16\" data-width=\"1.407\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c, \u043a\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{L}\" alt=\"\\mathcal{L}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5d\/5dc\/5dcbf640cdb155217ca0c533e1078ff7.svg\" width=\"12\" height=\"16\" data-width=\"1.561\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5d\/5dc\/5dcbf640cdb155217ca0c533e1078ff7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/5d\/5dc\/5dcbf640cdb155217ca0c533e1078ff7.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u044d\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c).  <\/p>\n<p>\u0422\u043e\u0433\u0434\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\log(p_{\\omega}(X_i))\" alt=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\log(p_{\\omega}(X_i))\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/baf\/baf3bc073b6b6a02020375c06f3e49ea.svg\" width=\"192\" height=\"48\" data-width=\"24.873\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/baf\/baf3bc073b6b6a02020375c06f3e49ea.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/baf\/baf3bc073b6b6a02020375c06f3e49ea.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041d\u0430\u0448\u0430 \u0437\u0430\u0434\u0430\u0447\u0430 \u2014 \u043d\u0430\u0439\u0442\u0438 \u043d\u0430\u0431\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u044d\u0442\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\omega^* = \\arg\\!\\min_{\\omega}\\mathcal{L}(\\omega)\" alt=\"\\omega^* = \\arg\\!\\min_{\\omega}\\mathcal{L}(\\omega)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc67d0e9032939e15f22585b57bc89f5.svg\" width=\"136\" height=\"24\" data-width=\"17.438\" data-height=\"3.298\" data-vertical-align=\"-1.083\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc67d0e9032939e15f22585b57bc89f5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/bc\/bc6\/bc67d0e9032939e15f22585b57bc89f5.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0412 \u0437\u0430\u0434\u0430\u0447\u0435 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043f\u0430\u0440\u044b <img decoding=\"async\" class=\"formula inline\" source=\"(x_i, y_i)\" alt=\"(x_i, y_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1e3\/1e320272dee87c54a0d0c11f37f010c4.svg\" width=\"48\" height=\"16\" data-width=\"6.648\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1e3\/1e320272dee87c54a0d0c11f37f010c4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/1e\/1e3\/1e320272dee87c54a0d0c11f37f010c4.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"y_i \\in \\{0,1\\}\" alt=\"y_i \\in \\{0,1\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg\" width=\"80\" height=\"16\" data-width=\"10.145\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u0434\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c <img decoding=\"async\" class=\"formula inline\" source=\"p_{\\omega}(y_i | x_i)\" alt=\"p_{\\omega}(y_i | x_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8e\/d8eda7304a1d928d2c2fd27850731884.svg\" width=\"64\" height=\"16\" data-width=\"8.592\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8e\/d8eda7304a1d928d2c2fd27850731884.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d8\/d8e\/d8eda7304a1d928d2c2fd27850731884.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u043d\u0430 \u043a\u0430\u043a<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"p_{\\omega}(y_i | x_i) = p_i^{y_i}(1-p_i)^{1-y_i},\" alt=\"p_{\\omega}(y_i | x_i) = p_i^{y_i}(1-p_i)^{1-y_i},\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/58\/585\/58507b1a45885e017588a3b13cd3dd8c.svg\" width=\"200\" height=\"16\" data-width=\"25.945\" data-height=\"2.682\" data-vertical-align=\"-0.775\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/58\/585\/58507b1a45885e017588a3b13cd3dd8c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/58\/585\/58507b1a45885e017588a3b13cd3dd8c.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"p_i = p_{\\omega}( y = 1 | x_i)\" alt=\"p_i = p_{\\omega}( y = 1 | x_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/23b\/23b50ed8bc72a540b941f46f81273727.svg\" width=\"128\" height=\"16\" data-width=\"16.896\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/23b\/23b50ed8bc72a540b941f46f81273727.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/23b\/23b50ed8bc72a540b941f46f81273727.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u043f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u0432 \u0434\u0430\u043d\u043d\u043e\u0435 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0432\u044b\u0448\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\log( p_i^{y_i}(1-p_i)^{1-y_i})\" alt=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\log( p_i^{y_i}(1-p_i)^{1-y_i})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aa2\/aa275f5303f75d3d02ffdf5bc9b5c926.svg\" width=\"248\" height=\"48\" data-width=\"31.885\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aa2\/aa275f5303f75d3d02ffdf5bc9b5c926.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/aa\/aa2\/aa275f5303f75d3d02ffdf5bc9b5c926.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u043e\u0432, \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0432 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u043d\u0430\u043a\u043e\u043d\u0435\u0446, \u043f\u043e\u043b\u0443\u0447\u0438\u043c <strong>\u043b\u043e\u0433-\u043b\u043e\u0441\u0441 \u0432 \u0447\u0438\u0441\u0442\u043e\u043c \u0432\u0438\u0434\u0435<\/strong>:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\bigg{(}y_i\\log( p_i) + (1-y_i)\\log(1-p_i)\\bigg{)}\" alt=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n}\\bigg{(}y_i\\log( p_i) + (1-y_i)\\log(1-p_i)\\bigg{)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ed\/ed5\/ed592997157fc57b7b14e58071112120.svg\" width=\"368\" height=\"48\" data-width=\"46.686\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ed\/ed5\/ed592997157fc57b7b14e58071112120.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ed\/ed5\/ed592997157fc57b7b14e58071112120.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u0443\u0447\u0435\u0441\u0442\u044c \u0444\u0430\u043a\u0442, \u0447\u0442\u043e <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c (\u0442.\u0435. \u0447\u0438\u0441\u043b\u043e \u043d\u0430 \u043e\u0442\u0440\u0435\u0437\u043a\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"[0,1]\" alt=\"[0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg\" width=\"32\" height=\"16\" data-width=\"4.526\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>), \u0430 <img decoding=\"async\" class=\"formula inline\" source=\"y_i \\in \\{0,1\\}\" alt=\"y_i \\in \\{0,1\\}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg\" width=\"80\" height=\"16\" data-width=\"10.145\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/6\/6e\/6e6\/6e66fe4c3b03e5098d6ce4c5ccb882cf.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0434 \u0441\u0443\u043c\u043c\u043e\u0439 \u043c\u0435\u043d\u044c\u0448\u0435 \u0438\u043b\u0438 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u043b\u044f, \u0437\u043d\u0430\u0447\u0438\u0442, \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u0437\u043d\u0430\u043a\u0430 \u043c\u0438\u043d\u0443\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{L}(\\omega) \\ge 0\" alt=\"\\mathcal{L}(\\omega) \\ge 0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee0\/ee006c29cfbe3a348f196a6b3ed9ec0b.svg\" width=\"64\" height=\"16\" data-width=\"8.877\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee0\/ee006c29cfbe3a348f196a6b3ed9ec0b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/e\/ee\/ee0\/ee006c29cfbe3a348f196a6b3ed9ec0b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0417\u043d\u0430\u0447\u0438\u0442, \u0443 \u043d\u0430\u0441 \u043d\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0435\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 &#171;\u0441\u043f\u0430\u0441\u0438\u0442\u0435, \u043b\u043e\u0441\u0441 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439&#187;.<\/p>\n<p>\u041e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043e\u0434\u043d\u043e \u2014 \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443, \u043a\u0430\u043a \u043c\u044b \u0443\u0436\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0430\u043b\u0438 \u0440\u0430\u043d\u0435\u0435.<br \/>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0432\u0438\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u0434\u043b\u044f \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438:  <\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n} \\left( y_i \\log \\sigma(\\langle \\omega, x_i \\rangle) + (1 - y_i)\\log\\left(1 - \\sigma(\\langle \\omega, x_i \\rangle)\\right) \\right)\" alt=\"\\mathcal{L}(\\omega) = -\\sum_{i=1}^{n} \\left( y_i \\log \\sigma(\\langle \\omega, x_i \\rangle) + (1 - y_i)\\log\\left(1 - \\sigma(\\langle \\omega, x_i \\rangle)\\right) \\right)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/78\/789\/78946e1b471e9ea9ced07587f92a42c5.svg\" width=\"464\" height=\"48\" data-width=\"58.873\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/78\/789\/78946e1b471e9ea9ced07587f92a42c5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/78\/789\/78946e1b471e9ea9ced07587f92a42c5.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0417\u0430\u043c\u0435\u0442\u0438\u043c \u043e\u0434\u043d\u0443 \u0432\u0430\u0436\u043d\u0443\u044e \u0434\u0435\u0442\u0430\u043b\u044c: \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0438 \u043d\u0430\u0448\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{F}\" alt=\"\\mathbb{F}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0c\/0c8\/0c874640811a342e6fdea6907606b7b8.svg\" width=\"12\" height=\"16\" data-width=\"1.382\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0c\/0c8\/0c874640811a342e6fdea6907606b7b8.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0c\/0c8\/0c874640811a342e6fdea6907606b7b8.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u041c\u044b \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0441\u0442\u0430\u0451\u043c\u0441\u044f \u0432 \u043a\u043b\u0430\u0441\u0441\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u0438\u0445 \u0432 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443.<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0434\u0440\u0443\u0433\u043e\u0435 \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u043c\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0435 \u043d\u0430 \u0441\u0430\u043c \u043a\u043b\u0430\u0441\u0441 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0430 \u043d\u0430 \u0442\u043e, \u043a\u0430\u043a\u0430\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0431\u0440\u0430\u043d\u0430.<\/p>\n<h4>\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438<\/h4>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c, \u0438\u043c\u0435\u044f loss, \u0442.\u0435. \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0443 \u0437\u0430\u0434\u0430\u0447\u0438, \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043d\u0430\u0439\u0442\u0438 \u0435\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u0435.<\/p>\n<p>\u041f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043f\u0440\u043e\u0439\u0442\u0438\u0441\u044c \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443 \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043b\u043e\u0441\u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0438 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u043c. \u0423 \u043d\u0430\u0441 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\mathcal{L}(\\omega) = \\sum_{i=1}^n \\left( \\log(1 + e^{-z_i}) - y_i z_i \\right),\" alt=\"\\mathcal{L}(\\omega) = \\sum_{i=1}^n \\left( \\log(1 + e^{-z_i}) - y_i z_i \\right),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1a\/d1a7560ca52327b10e48aeb1ed1ce7a0.svg\" width=\"256\" height=\"48\" data-width=\"32.799\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1a\/d1a7560ca52327b10e48aeb1ed1ce7a0.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/d1\/d1a\/d1a7560ca52327b10e48aeb1ed1ce7a0.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"z_i = \\langle \\omega, x_i \\rangle\" alt=\"z_i = \\langle \\omega, x_i \\rangle\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/523\/5230beb7f897d401dda19fc8324d391b.svg\" width=\"88\" height=\"16\" data-width=\"11.016\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/523\/5230beb7f897d401dda19fc8324d391b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/523\/5230beb7f897d401dda19fc8324d391b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043c\u044b \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0443\u0441\u043b\u043e\u0432\u0438\u0435 \u0441\u0442\u0430\u0446\u0438\u043e\u043d\u0430\u0440\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\nabla_\\omega\\mathcal{L}(\\omega)=0\" alt=\"\\nabla_\\omega\\mathcal{L}(\\omega)=0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87b\/87b08392d402176092a8aabdc3dd832f.svg\" width=\"88\" height=\"16\" data-width=\"11.944\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87b\/87b08392d402176092a8aabdc3dd832f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/87b\/87b08392d402176092a8aabdc3dd832f.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0423\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\sum_{i=1}^{n}(\\sigma(\\langle \\omega, x_i \\rangle) - y_i)x_i = 0,\" alt=\"\\sum_{i=1}^{n}(\\sigma(\\langle \\omega, x_i \\rangle) - y_i)x_i = 0,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f2\/f24\/f24b4250500435edbead333187d79c2c.svg\" width=\"200\" height=\"48\" data-width=\"25.712\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f2\/f24\/f24b4250500435edbead333187d79c2c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/f2\/f24\/f24b4250500435edbead333187d79c2c.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 \u0443 \u043d\u0430\u0441 \u043f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439. \u0418 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u044c \u0438 \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0442\u0430 \u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\omega\" alt=\"\\omega\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg\" width=\"12\" height=\"16\" data-width=\"1.407\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041e\u0434\u043d\u0438\u043c \u0441\u043b\u043e\u0432\u043e\u043c \u2014 \u043c\u0440\u0430\u043a.<br \/>\u041d\u0435 \u0432\u0434\u0430\u0432\u0430\u044f\u0441\u044c \u0432 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0438, \u0442\u0430\u043a\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432 \u043e\u0431\u0449\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0432 \u0437\u0430\u043c\u043a\u043d\u0443\u0442\u043e\u043c \u0432\u0438\u0434\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u043f\u043e\u043f\u044b\u0442\u043e\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u044f\u0432\u043d\u0443\u044e \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0434\u043b\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\omega\" alt=\"\\omega\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg\" width=\"12\" height=\"16\" data-width=\"1.407\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043f\u0440\u044f\u043c\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043d\u0430\u043c \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0434\u0430\u043b\u043e, \u0432\u0435\u0440\u043d\u0451\u043c\u0441\u044f \u043a \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u043c\u0443 \u0441\u043f\u0443\u0441\u043a\u0443.<\/p>\n<p>\u0418\u0434\u0435\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0436\u043d\u0435\u0439: \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\omega^{(0)}\" alt=\"\\omega^{(0)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg\" width=\"24\" height=\"16\" data-width=\"3.64\" data-height=\"2.7\" data-vertical-align=\"-0.784\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u0438 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u0434\u0432\u0438\u0433\u0430\u0435\u043c\u0441\u044f \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c.<\/p>\n<p>\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0431\u0443\u0434\u0443\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: <img decoding=\"async\" class=\"formula inline\" source=\"\\omega^{(t+1)}=\\omega^{(t)}\u2212\\eta\\nabla_\\omega \\mathcal{L}(\\omega^{(t)})\" alt=\"\\omega^{(t+1)}=\\omega^{(t)}\u2212\\eta\\nabla_\\omega \\mathcal{L}(\\omega^{(t)})\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba7\/ba701777ca03da6cf1206b4307362c09.svg\" width=\"200\" height=\"16\" data-width=\"25.592\" data-height=\"2.7\" data-vertical-align=\"-0.784\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba7\/ba701777ca03da6cf1206b4307362c09.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/ba\/ba7\/ba701777ca03da6cf1206b4307362c09.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041c\u044b \u0443\u0436\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u043b\u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0435\u0433\u043e \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432. \u0418 \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u043e\u043a\u043e\u043d\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u0438\u0434:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\omega^{(t+1)}=\\omega^{(t)}\u2212\\eta\\sum_{i=1}^{n}(\\sigma(\\langle \\omega^{(t)}, x_i \\rangle) - y_i)x_i\" alt=\"\\omega^{(t+1)}=\\omega^{(t)}\u2212\\eta\\sum_{i=1}^{n}(\\sigma(\\langle \\omega^{(t)}, x_i \\rangle) - y_i)x_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af8\/af8578bbf2f695e64138e6e723293645.svg\" width=\"312\" height=\"48\" data-width=\"39.107\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af8\/af8578bbf2f695e64138e6e723293645.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/af\/af8\/af8578bbf2f695e64138e6e723293645.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c, \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0437\u0430 \u0441\u0447\u0451\u0442 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u043a\u0438, \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u043e\u0439 \u043d\u0430 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438.<br \/>\u042d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442: <\/p>\n<ul>\n<li>\n<p> \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0435\u0440\u0435\u043e\u0446\u0435\u043d\u0438\u043b\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u2014 \u0432\u0435\u0441\u0430 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u044e\u0442\u0441\u044f;<\/p>\n<\/li>\n<li>\n<p> \u0435\u0441\u043b\u0438 \u043d\u0435\u0434\u043e\u043e\u0446\u0435\u043d\u0438\u043b\u0430 \u2014 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044e\u0442\u0441\u044f.<\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u043e\u0448\u0438\u0431\u043a\u0443 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435.<\/p>\n<p>\u041e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0434\u0432\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430: \u043d\u0430 \u0447\u0442\u043e \u0432\u043b\u0438\u044f\u0435\u0442 \u0432\u044b\u0431\u043e\u0440 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\omega^{(0)}\" alt=\"\\omega^{(0)}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg\" width=\"24\" height=\"16\" data-width=\"3.64\" data-height=\"2.7\" data-vertical-align=\"-0.784\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b0\/b01\/b019498563ec5970c72d9661bc182ed2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u0441\u043e\u0439\u0434\u0451\u0442\u0441\u044f \u043b\u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a \u043f\u0440\u0438 \u0434\u0430\u043d\u043d\u043e\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u0435?<\/p>\n<p>\u0414\u043b\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u043d\u0430 \u043e\u0431\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u043c\u043e\u0436\u043d\u043e \u043e\u043f\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u2014 \u0424\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\mathcal{L}(\\omega)\" alt=\"\\mathcal{L}(\\omega)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36e\/36e3236297a836c8e868d89ddd44fb32.svg\" width=\"32\" height=\"16\" data-width=\"4.729\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36e\/36e3236297a836c8e868d89ddd44fb32.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/36\/36e\/36e3236297a836c8e868d89ddd44fb32.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u044b\u043f\u0443\u043a\u043b\u043e\u0439 \u043f\u043e <img decoding=\"async\" class=\"formula inline\" source=\"\\omega\" alt=\"\\omega\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg\" width=\"12\" height=\"16\" data-width=\"1.407\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/26\/260\/260b57b4fdee8c5a001c09b555ccd28d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<p>\u041d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e \u044d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442: \u043f\u0440\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0439 \u0433\u043b\u0430\u0434\u043a\u043e\u0441\u0442\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0433\u043e \u0432\u044b\u0431\u043e\u0440\u0430 \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"\\eta\" alt=\"\\eta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/ff\/ffe\/ffe9f913124f345732e9f00fa258552e.svg\" width=\"12\" height=\"16\" data-width=\"1.124\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/ff\/ffe\/ffe9f913124f345732e9f00fa258552e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/f\/ff\/ffe\/ffe9f913124f345732e9f00fa258552e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438. \u041d\u0430\u0447\u0430\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u0447\u043a\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438.<\/p>\n<h4>\u041d\u043e \u043f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430?<\/h4>\n<p>\u041c\u044b \u0443\u0432\u0438\u0434\u0435\u043b\u0438, \u0447\u0442\u043e \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442.<br \/>\u041d\u043e \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u0443 \u043d\u0430\u0441 \u0432\u043e\u0437\u043d\u0438\u043a\u043b\u0430, \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u0437\u0430\u0434\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f:<\/p>\n<ul>\n<li>\n<p> \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u0432\u0441\u044e \u0447\u0438\u0441\u043b\u043e\u0432\u0443\u044e \u043f\u0440\u044f\u043c\u0443\u044e;<\/p>\n<\/li>\n<li>\n<p> \u043d\u0435 \u0442\u0435\u0440\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439. <\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0432 \u043c\u0438\u0440\u0435 \u043c\u043d\u043e\u0433\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0438\u0437\u0431\u0430\u0432\u0438\u043c\u0441\u044f \u043e\u0442 &#171;\u043c\u0430\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e&#187; \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u044b \u0438 \u0434\u0430\u0434\u0438\u043c \u0435\u0439 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u0443\u043c\u043d\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435.<\/p>\n<p>\u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u0438\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 p \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0435 <strong>odds<\/strong>(\u0448\u0430\u043d\u0441\u044b): <\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\frac{p}{1-p}\" alt=\"\\frac{p}{1-p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/290\/290288955945f5ff6b45c326f3e7c5a9.svg\" width=\"48\" height=\"32\" data-width=\"6.03\" data-height=\"4.52\" data-vertical-align=\"-1.695\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/290\/290288955945f5ff6b45c326f3e7c5a9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/29\/290\/290288955945f5ff6b45c326f3e7c5a9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u0442\u043e\u0447\u043d\u0435\u0435 \u0438\u0445 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c (<strong>log-odds<\/strong>): <img decoding=\"async\" class=\"formula inline\" source=\"\\log\\frac{p}{1-p}\" alt=\"\\log\\frac{p}{1-p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/10\/10e\/10e5d46ab67b61fc133dbb9ce4cb7341.svg\" width=\"72\" height=\"32\" data-width=\"9.299\" data-height=\"4.52\" data-vertical-align=\"-1.695\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/10\/10e\/10e5d46ab67b61fc133dbb9ce4cb7341.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/1\/10\/10e\/10e5d46ab67b61fc133dbb9ce4cb7341.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u042d\u0442\u043e \u043c\u0435\u0440\u0430 \u0442\u043e\u0433\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043e\u0434\u0435\u043b\u044c <\/p>\n<p>&#171;\u0441\u043a\u043b\u043e\u043d\u044f\u0435\u0442\u0441\u044f&#187; \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1.<\/p>\n<p>\u041c\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c, \u0447\u0442\u043e \u043d\u0435 \u0441\u0430\u043c\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u043e\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0430 \u0435\u0451 \u043b\u043e\u0433-\u043e\u0434\u0434\u0441\u044b:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\log\\frac{p}{1-p} = \\langle \\omega, x \\rangle \\;=: z\" alt=\"\\log\\frac{p}{1-p} = \\langle \\omega, x \\rangle \\;=: z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c1\/9c169d0987a4e2fbb123cffe5facdcf7.svg\" width=\"184\" height=\"32\" data-width=\"23.111\" data-height=\"4.52\" data-vertical-align=\"-1.695\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c1\/9c169d0987a4e2fbb123cffe5facdcf7.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9\/9c\/9c1\/9c169d0987a4e2fbb123cffe5facdcf7.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<details class=\"spoiler\">\n<summary>\u041f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a<\/summary>\n<div class=\"spoiler__content\">\n<p>\u0415\u0441\u0442\u044c, \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, \u0442\u0440\u0438 \u043f\u0440\u0438\u0447\u0438\u043d\u044b:<\/p>\n<h4>1. \u041b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u044c \u0432 :<\/h4>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\langle \\omega, x \\rangle\" alt=\"\\langle \\omega, x \\rangle\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0a\/0a8\/0a8c500e608811e62a7bf99117d5814f.svg\" width=\"40\" height=\"16\" data-width=\"5.468\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0a\/0a8\/0a8c500e608811e62a7bf99117d5814f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/0\/0a\/0a8\/0a8c500e608811e62a7bf99117d5814f.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u044d\u0442\u043e \u0441\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u043f\u0438\u0441\u0430\u0442\u044c \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432.<\/p>\n<h4>2. \u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u043e<\/h4>\n<p>\u0415\u0441\u043b\u0438 \u0431\u044b \u043c\u044b \u043f\u0438\u0441\u0430\u043b\u0438: <img decoding=\"async\" class=\"formula inline\" source=\"p(x) = \\langle \\omega, x \\rangle\" alt=\"p(x) = \\langle \\omega, x \\rangle\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/47\/477\/477d882ec4a8d085c487e081e7c40e76.svg\" width=\"96\" height=\"16\" data-width=\"12.677\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/47\/477\/477d882ec4a8d085c487e081e7c40e76.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/47\/477\/477d882ec4a8d085c487e081e7c40e76.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u0432\u044b\u0439\u0442\u0438 \u0437\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u044b <img decoding=\"async\" class=\"formula inline\" source=\"[0,1]\" alt=\"[0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg\" width=\"32\" height=\"16\" data-width=\"4.526\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u0435\u043c \u0441\u0430\u043c\u0438\u043c \u043d\u0430\u0440\u0443\u0448\u0438\u0432 \u0441\u043c\u044b\u0441\u043b \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438<\/p>\n<h4>3. Log-odds &#171;\u0440\u0430\u0441\u0442\u044f\u0433\u0438\u0432\u0430\u044e\u0442&#187; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c<\/h4>\n<p>\u0424\u0443\u043d\u043a\u0446\u0438\u044f:<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"p \\mapsto \\log \\frac{p}{1-p}\" alt=\"p \\mapsto \\log \\frac{p}{1-p}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b3\/b38\/b38b2afe3284d072ca46830b056afa1d.svg\" width=\"104\" height=\"32\" data-width=\"13.956\" data-height=\"4.52\" data-vertical-align=\"-1.695\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b3\/b38\/b38b2afe3284d072ca46830b056afa1d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/b\/b3\/b38\/b38b2afe3284d072ca46830b056afa1d.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"[0,1]\" alt=\"[0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg\" width=\"32\" height=\"16\" data-width=\"4.526\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/cc\/ccf\/ccfcd347d0bf65dc77afe01a3306a96b.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0432 \u0432\u0441\u044e <img decoding=\"async\" class=\"formula inline\" source=\"\\mathbb{R}\" alt=\"\\mathbb{R}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg\" width=\"12\" height=\"16\" data-width=\"1.633\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/2\/23\/236\/2369a2488f59aa39a3fca53e0eff9f88.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/div>\n<\/details>\n<p>\u0420\u0435\u0448\u0430\u0435\u043c \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"\\frac{p}{1-p} = e^z\" alt=\"\\frac{p}{1-p} = e^z\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/879e4595c340c32f261e257a4595ddb6.svg\" width=\"88\" height=\"32\" data-width=\"11.033\" data-height=\"4.52\" data-vertical-align=\"-1.695\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/879e4595c340c32f261e257a4595ddb6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/87\/879\/879e4595c340c32f261e257a4595ddb6.svg 781w\" loading=\"lazy\" decode=\"async\"\/><img decoding=\"async\" class=\"formula\" source=\"p = \\frac{e^z}{1 + e^z}\" alt=\"p = \\frac{e^z}{1 + e^z}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/de\/de3\/de38b15d919d3d3627a48e2f5bae174f.svg\" width=\"88\" height=\"32\" data-width=\"11.033\" data-height=\"4.795\" data-vertical-align=\"-1.832\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/de\/de3\/de38b15d919d3d3627a48e2f5bae174f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/d\/de\/de3\/de38b15d919d3d3627a48e2f5bae174f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044f, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"p = \\frac{1}{1+e^{-z}} = \\sigma(z)\" alt=\"p = \\frac{1}{1+e^{-z}} = \\sigma(z)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/848\/84832048e1d742d62e4cc0b7f8323dae.svg\" width=\"152\" height=\"32\" data-width=\"19.399\" data-height=\"4.774\" data-vertical-align=\"-1.821\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/848\/84832048e1d742d62e4cc0b7f8323dae.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/84\/848\/84832048e1d742d62e4cc0b7f8323dae.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0412\u043e\u0442 \u043e\u0442\u043a\u0443\u0434\u0430 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430. \u042d\u0442\u043e <strong>\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f log-odds<\/strong>.<\/p>\n<h4>Cross-entropy<\/h4>\n<p>\u0412\u044b\u0448\u0435 \u0443 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u0430 \u0444\u0440\u0430\u0437\u0430  <\/p>\n<blockquote>\n<p>\u0418 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u2014 \u043e\u043d\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <strong>log-loss<\/strong> (\u0438\u043b\u0438 <strong>cross-entropy<\/strong>).<\/p>\n<\/blockquote>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043e\u0442\u0432\u0435\u0442\u0438\u043c \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441: \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 cross-entropy \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435, \u0447\u0442\u043e \u0438 log-loss?<\/p>\n<p>\u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u043f\u043e\u043d\u044f\u0442\u0438\u044f \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438.<\/p>\n<p>\u0412 \u0442\u0435\u043e\u0440\u0438\u0438 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u043a<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"H(p) = -\\sum_i p_i \\log p_i\" alt=\"H(p) = -\\sum_i p_i \\log p_i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b2\/7b2252d95a62ebd08cf926e2cc29dc41.svg\" width=\"168\" height=\"32\" data-width=\"21.107\" data-height=\"4.847\" data-vertical-align=\"-1.858\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b2\/7b2252d95a62ebd08cf926e2cc29dc41.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/7b\/7b2\/7b2252d95a62ebd08cf926e2cc29dc41.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041e\u043d\u0430 \u0438\u0437\u043c\u0435\u0440\u044f\u0435\u0442 \u0441\u0442\u0435\u043f\u0435\u043d\u044c \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f. \u0427\u0435\u043c \u0431\u043e\u043b\u0435\u0435 &#171;\u0440\u0430\u0437\u043c\u0430\u0437\u0430\u043d\u044b&#187; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f.<\/p>\n<details class=\"spoiler\">\n<summary>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440<\/summary>\n<div class=\"spoiler__content\">\n<p>\u041e\u043f\u044f\u0442\u044c \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u044e \u043c\u043e\u043d\u0435\u0442\u043a\u0438. \u0415\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043c\u043e\u0435\u043d\u0442\u043a\u0430 \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0440\u0430\u0432\u043d\u044b \u043f\u043e 0.5, \u0442\u043e \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0443 \u043d\u0430\u0441 \u0440\u0430\u0432\u043d\u0430<img decoding=\"async\" class=\"formula inline\" source=\"-(0.5\\log(0.5) + 0.5\\log(0.5)) = 1\" alt=\"-(0.5\\log(0.5) + 0.5\\log(0.5)) = 1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41b\/41b04fa3daeaf5351c3ac881e4b9ad4f.svg\" width=\"256\" height=\"16\" data-width=\"32.057\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41b\/41b04fa3daeaf5351c3ac881e4b9ad4f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/41\/41b\/41b04fa3daeaf5351c3ac881e4b9ad4f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0414\u0430\u043b\u0435\u0435, \u043d\u0430\u043c \u0434\u0430\u043b\u0438 \u0434\u0440\u0443\u0433\u0443\u044e \u043c\u043e\u043d\u0435\u0442\u043a\u0443, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0440\u0435\u043b \u0432\u044b\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.9.<\/p>\n<p>\u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0432\u043d\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"-(0.9\\log(0.9) + 0.1\\log(0.1))\" alt=\"-(0.9\\log(0.9) + 0.1\\log(0.1))\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a1\/a11\/a112b3a1cc920715d123638bee0868f6.svg\" width=\"216\" height=\"16\" data-width=\"27.909\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a1\/a11\/a112b3a1cc920715d123638bee0868f6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/a\/a1\/a11\/a112b3a1cc920715d123638bee0868f6.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 0.47).<\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u043c, \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u044b\u0441\u043e\u043a\u0430\u044f (\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435). \u0418, \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e, \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u0430\u044f, \u0430 \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u043d\u043e\u0442\u0440\u043e\u043f\u0438\u044f \u0443\u0436\u0435 0.47 \u0438 \u043c\u044b \u0431\u043e\u043b\u0435\u0435-\u043c\u0435\u043d\u0435\u0435 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c \u0438\u0441\u0445\u043e\u0434 \u0431\u0440\u043e\u0441\u043a\u0430.<\/p>\n<\/div>\n<\/details>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"q\" alt=\"q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg\" width=\"12\" height=\"12\" data-width=\"1.041\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u0412\u0432\u0435\u0434\u0435\u043c \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"H(q,p)= -\\sum_i q_i \\log p_i,\" alt=\"H(q,p)= -\\sum_i q_i \\log p_i,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca1\/ca141219412724995714a4e542aa03eb.svg\" width=\"184\" height=\"32\" data-width=\"23.653\" data-height=\"4.847\" data-vertical-align=\"-1.858\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca1\/ca141219412724995714a4e542aa03eb.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/c\/ca\/ca1\/ca141219412724995714a4e542aa03eb.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043a\u0430\u043a \u0440\u0430\u0437 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <strong>cross-entropy<\/strong>.<\/p>\n<p>\u0412 \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0430, \u0438 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f, \u0430 \u0432 cross-entropy: \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0441\u0442\u043e\u0438\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"q\" alt=\"q\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg\" width=\"12\" height=\"12\" data-width=\"1.041\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/7\/76\/769\/7694f4a66316e53c8cdd9d9954bd611d.svg 781w\" loading=\"lazy\" decode=\"async\"\/>,  \u0430 \u0432\u043d\u0443\u0442\u0440\u0438 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0430 \u2014 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"p\" alt=\"p\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg\" width=\"12\" height=\"12\" data-width=\"1.138\" data-height=\"1.439\" data-vertical-align=\"-0.439\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/8\/83\/838\/83878c91171338902e0fe0fb97a8c47a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. <\/p>\n<p>\u0412 \u0437\u0430\u0434\u0430\u0447\u0435 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438 \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u043a\u0430\u043a<img decoding=\"async\" class=\"formula inline\" source=\"q_i = (y_i, 1-y_i)\" alt=\"q_i = (y_i, 1-y_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/526\/52659a890c7fb5b5af7a69caf4f3ee70.svg\" width=\"120\" height=\"16\" data-width=\"15.126\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/526\/52659a890c7fb5b5af7a69caf4f3ee70.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/5\/52\/526\/52659a890c7fb5b5af7a69caf4f3ee70.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 <img decoding=\"async\" class=\"formula inline\" source=\"p_i = (p_i, 1-p_i)\" alt=\"p_i = (p_i, 1-p_i)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/342\/3428dd03b5c0e5eb4a7813ae019e9f5a.svg\" width=\"120\" height=\"16\" data-width=\"15.313\" data-height=\"2.262\" data-vertical-align=\"-0.566\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/342\/3428dd03b5c0e5eb4a7813ae019e9f5a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/3\/34\/342\/3428dd03b5c0e5eb4a7813ae019e9f5a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u044d\u0442\u043e \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 cross-entropy, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"H(q,p) = -\\sum_{i=1}^{n} \\left( y_i \\log p_i + (1-y_i)\\log(1-p_i) \\right)\" alt=\"H(q,p) = -\\sum_{i=1}^{n} \\left( y_i \\log p_i + (1-y_i)\\log(1-p_i) \\right)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b8\/4b816ef96d2f567f2c026789264a4fc5.svg\" width=\"360\" height=\"48\" data-width=\"45.959\" data-height=\"6.354\" data-vertical-align=\"-2.611\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b8\/4b816ef96d2f567f2c026789264a4fc5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/formulas\/4\/4b\/4b8\/4b816ef96d2f567f2c026789264a4fc5.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0427\u0442\u043e \u0432 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0438 \u0435\u0441\u0442\u044c log-loss.<\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, log-loss \u043c\u043e\u0436\u043d\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u0440\u0430\u0437\u0443 \u0441 \u0434\u0432\u0443\u0445 \u0441\u0442\u043e\u0440\u043e\u043d: \u0438 \u043a\u0430\u043a \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u043b\u043e\u0433-\u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u0435 \u0438 \u043a\u0430\u043a cross-entropy \u043c\u0435\u0436\u0434\u0443 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435\u043c \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<h4>\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h4>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0435 \u043f\u043b\u044e\u0441\u044b \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u2014 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u044c \u0438 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c. \u041c\u043e\u0434\u0435\u043b\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u0433\u0434\u0435 \u043a\u043b\u0430\u0441\u0441\u044b \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u0435\u0439, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0432 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f\u0445, \u043a\u043e\u0433\u0434\u0430 \u0432\u0430\u0436\u043d\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u043d\u0430 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<p>\u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0432\u044b\u043f\u0443\u043a\u043b\u043e\u0441\u0442\u0438 log-loss, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435\u0439.<\/p>\n<p>\u041e\u0434\u043d\u0430\u043a\u043e \u0443 \u0434\u0430\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0441\u0442\u044c \u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f. \u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f, \u0432\u0441\u0451 \u0436\u0435, \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e, \u0430 \u0437\u043d\u0430\u0447\u0438\u0442 \u043f\u043b\u043e\u0445\u043e \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u043e \u0441\u043b\u043e\u0436\u043d\u044b\u043c\u0438 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044f\u043c\u0438 \u0431\u0435\u0437 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u044d\u0442\u043e \u0447\u0430\u0441\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u0434\u043b\u044f \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442\u044c \u043a \u0434\u0440\u0443\u0433\u0438\u043c \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u043c.<\/p>\n<p>\u0412 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0447\u0430\u0441\u0442\u0438 \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c <strong>SVM <\/strong>\u2014 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u043a \u0437\u0430\u0434\u0430\u0447\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0441 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u0438 \u0432\u043c\u0435\u0441\u0442\u043e \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u043e\u0439 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438 \u0434\u0435\u043b\u0430\u0435\u0442 \u0430\u043a\u0446\u0435\u043d\u0442 \u043d\u0430 \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0438 \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u044e\u0449\u0435\u0439 \u0433\u0440\u0430\u043d\u0438\u0446\u044b \u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043e\u0442\u0441\u0442\u0443\u043f\u0430 \u043c\u0435\u0436\u0434\u0443 \u043a\u043b\u0430\u0441\u0441\u0430\u043c\u0438.<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1040682\/\">https:\/\/habr.com\/ru\/articles\/1040682\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0418\u0442\u0430\u043a \u043c\u044b \u043e\u0431\u0441\u0443\u0434\u0438\u043b\u0438 \u0437\u0430\u0434\u0430\u0447\u0443 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.\u0418\u043c\u0435\u044f \u0442\u0430\u043a\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u0437\u043d\u0430\u043d\u0438\u0439, \u043c\u044b \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0433\u043e\u0442\u043e\u0432\u044b \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 kNN, \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u0430 \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u044e\u0442 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0443\u044e \u0432\u044b\u0431\u043e\u0440\u043a\u0443.  \u0418 \u043f\u0435\u0440\u0432\u044b\u0439 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442 \u0443 \u043d\u0430\u0441:\u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f\u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f (logistic regression) \u2014 \u044d\u0442\u043e \u043e\u0434\u0438\u043d \u0438\u0437 \u0441\u0430\u043c\u044b\u0445 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0438 \u0432\u0430\u0436\u043d\u044b\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u0447\u0438\u0442\u0441\u044f \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u043c\u0435\u0436\u0434\u0443 \u043a\u043b\u0430\u0441\u0441\u0430\u043c\u0438 \u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0433\u043e, \u043a \u043a\u0430\u043a\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043e\u0431\u044a\u0435\u043a\u0442.  \u0421\u0440\u0430\u0437\u0443 \u0438\u0437\u0431\u0430\u0432\u0438\u043c\u0441\u044f \u043e\u0442 \u043f\u0443\u0442\u0430\u043d\u0438\u0446\u044b: \u0434\u0430, \u043d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0440\u0435\u0448\u0430\u0435\u0442 \u0437\u0430\u0434\u0430\u0447\u0443 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u0432 \u0435\u0451 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0438 \u0435\u0441\u0442\u044c \u0441\u043b\u043e\u0432\u043e &#171;\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f&#187;.\u0422\u0430\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442: &#171;\u044d\u0442\u043e\u0442 \u043e\u0431\u044a\u0435\u043a\u0442 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043a\u043b\u0430\u0441\u0441\u0443 A \u0438 \u0442\u043e\u0447\u043a\u0430&#187;. \u0412\u043c\u0435\u0441\u0442\u043e \u044d\u0442\u043e\u0433\u043e \u043e\u043d\u0430 \u0432\u044b\u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u0430 \u043a \u043a\u043b\u0430\u0441\u0441\u0443 A. \u0413\u0440\u0443\u0431\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u043c\u043e\u0436\u043d\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0442\u0430\u043a: &#171;\u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e 0.74 \u043e\u0431\u044a\u0435\u043a\u0442 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0438\u0442 \u043a\u043b\u0430\u0441\u0441\u0443 A. \u0414\u0430\u043b\u044c\u0448\u0435 \u0443\u0436\u0435 \u0440\u0435\u0448\u0430\u0439\u0442\u0435 \u0441\u0430\u043c\u0438, \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u044c \u0435\u0433\u043e \u043a \u044d\u0442\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443 \u0438\u043b\u0438 \u043d\u0435\u0442&#187;.\u0422\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c\u0441\u044f, \u043a\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u044d\u0442\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438, \u0430 \u0443\u0436\u0435 \u043f\u043e\u0442\u043e\u043c \u043f\u043e\u0439\u043c\u0451\u043c, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 \u044d\u0442\u0438\u043c \u0441\u0430\u043c\u044b\u043c &#171;\u0434\u0430\u043b\u044c\u0448\u0435 \u0440\u0435\u0448\u0430\u0439\u0442\u0435 \u0441\u0430\u043c\u0438&#187;.  \u041c\u044b \u0443\u0436\u0435 \u0438\u043c\u0435\u0435\u043c \u043e\u043f\u044b\u0442 \u0440\u0430\u0431\u043e\u0442\u044b \u0441 \u043a\u043b\u0430\u0441\u0441\u043e\u043c \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439.  \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043b\u043e\u0433\u0438\u0447\u043d\u043e \u043d\u0435 \u0438\u0437\u043e\u0431\u0440\u0435\u0442\u0430\u0442\u044c \u0432\u0435\u043b\u043e\u0441\u0438\u043f\u0435\u0434 \u0437\u0430\u043d\u043e\u0432\u043e, \u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0442\u043e, \u0447\u0442\u043e \u0443\u0436\u0435 \u0445\u043e\u0440\u043e\u0448\u043e \u043d\u0430\u043c \u0437\u043d\u0430\u043a\u043e\u043c\u043e.\u041d\u043e \u043f\u0440\u0438 \u0442\u0430\u043a\u043e\u043c \u043f\u043e\u0434\u0445\u043e\u0434\u0435 \u0443 \u043d\u0430\u0441 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0435\u0442 \u043e\u0434\u043d\u0430 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430: \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u0442\u0430\u043a\u0438\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442  \u2014 \u044d\u0442\u043e \u0447\u0438\u0441\u043b\u043e \u0438\u0437 . \u041d\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0447\u0438\u0441\u043b\u043e \u043d\u0430 \u043e\u0442\u0440\u0435\u0437\u043a\u0435 , \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u044f\u0432\u0438\u0442\u044c, \u0447\u0442\u043e \u043e\u043d\u043e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e. \u041f\u0440\u0438\u0447\u0435\u043c, \u043d\u0443\u0436\u043d\u043e \u0447\u0442\u043e\u0431\u044b \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u043e\u0432\u0430\u043b\u0438 &#171;\u043f\u043e\u0447\u0442\u0438 1&#187;, \u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u2014 &#171;\u043f\u043e\u0447\u0442\u0438 0&#8243;.\u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f:&#187;\u0441\u0436\u0438\u043c\u0430\u0435\u0442&#187; \u0432\u0441\u044e \u0447\u0438\u0441\u043b\u043e\u0432\u0443\u044e \u043f\u0440\u044f\u043c\u0443\u044e;\u043d\u0435 \u0442\u0435\u0440\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439.\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0442\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430:\u0422\u0435\u043f\u0435\u0440\u044c, \u0435\u0441\u043b\u0438 \u043c\u044b \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443: \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0435\u043d\u0438\u044f \u043e\u0431\u044a\u0435\u043a\u0442\u0430  \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1. \u041e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c \u0435\u0451 \u043a\u0430\u043a .\u0422\u0435\u043f\u0435\u0440\u044c \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u0430 \u0432\u044b\u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u041d\u043e \u043f\u043e\u043a\u0430 \u043d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u043a\u0430\u043a \u044d\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u043d\u0430 &#171;\u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c&#187;, \u0447\u0442\u043e \u043e\u043d\u0430 \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f.\u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0435\u0451 \u043e\u0448\u0438\u0431\u043a\u0438 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0438\u0445 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c.\u0417\u043d\u0430\u0447\u0438\u0442 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u0443\u0434\u0435\u0442 \u0448\u0442\u0440\u0430\u0444\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0442\u043e\u0433\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0435\u0451 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430.\u041f\u0440\u0438\u0447\u0451\u043c \u0432\u0430\u0436\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u044d\u0442\u043e\u0442 \u0448\u0442\u0440\u0430\u0444 \u0432\u0451\u043b \u0441\u0435\u0431\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u0435\u0441\u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1, \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0430\u0451\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.99 \u2014 \u0448\u0442\u0440\u0430\u0444 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c; \u0435\u0441\u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0430\u043b\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.1 \u2014 \u0448\u0442\u0440\u0430\u0444 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c; \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 0\u0418 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u2014 \u043e\u043d\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f log-loss (\u0438\u043b\u0438 cross-entropy).\u041d\u043e \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043a \u043d\u0435\u0439, \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435.\u041c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f\u0412\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043e\u0442\u043b\u043e\u0436\u0438\u043c \u0432\u0441\u0451, \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u043e \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0438 \u043f\u043e\u0439\u043c\u0435\u043c \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u043c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f (\u041c\u041c\u041f, Maximum Likelihood Estimation \u0438\u043b\u0438 MLE).  \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u043d\u0435\u0438\u0434\u0435\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u043d\u0435\u0442\u0430. \u041f\u0443\u0441\u0442\u044c \u043f\u0440\u0438 \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u0438 \u0448\u0430\u043d\u0441 \u0432\u044b\u043f\u0430\u0434\u0435\u043d\u0438\u044f \u043e\u0440\u043b\u0430 \u0440\u0430\u0432\u043d\u044f\u0435\u0442\u0441\u044f . \u041c\u044b \u043f\u043e\u0434\u0431\u0440\u043e\u0441\u0438\u043b\u0438 \u043c\u043e\u043d\u0435\u0442\u0443 100 \u0440\u0430\u0437 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442: 72 \u0440\u0430\u0437\u0430 \u0432\u044b\u043f\u0430\u043b \u043e\u0440\u0451\u043b, 28 \u0440\u0430\u0437 \u2014 \u0440\u0435\u0448\u043a\u0430.\u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u0430\u043a\u043e\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043f\u0440\u0438 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u043c  \u0440\u0430\u0432\u043d\u0430:\u0418\u0442\u0430\u043a, \u0435\u0441\u043b\u0438 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0442\u044c \u0438\u0434\u0435\u044e \u2014 \u043c\u0435\u0442\u043e\u0434 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u044b \u0434\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c \u0438 \u0433\u043e\u0432\u043e\u0440\u0438\u043c: &#171;\u0440\u0430\u0437 \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e \u0432\u043e\u0442 \u0442\u0430\u043a, \u0442\u043e \u044d\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442&#187;, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0442\u0430\u043a\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 , \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430:\u042d\u0442\u043e \u0437\u0430\u0434\u0430\u0447\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f.\u0412 \u043e\u0431\u0449\u0435\u043c \u0432\u0438\u0434\u0435 \u043e\u043d\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:\u0433\u0434\u0435 \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f (likelihood function); \u2014  \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c (\u0438\u043b\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c) \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0441 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c ;  \u2014 \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439. \u0412 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435 \u043f\u0440\u0438 \u0432\u0438\u0434\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0447\u0430\u0441\u0442\u043e \u0431\u0435\u0440\u0443\u0442 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c. \u041c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438\u043b\u0438 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u043d\u0435\u0443\u0434\u043e\u0431\u043d\u043e, \u0430 \u043f\u043e\u0441\u043b\u0435 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0443\u043c\u043c\u0430, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0431\u044b\u0447\u043d\u043e \u043f\u0440\u043e\u0449\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c. \u0421\u043b\u0443\u0447\u0430\u0439 \u0441 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c. \u041e\u0431\u044b\u0447\u043d\u043e \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0442\u0430\u043a:  \u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0434\u043b\u044f \u043d\u0430\u0448\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0441 \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u0435\u043c \u043c\u043e\u043d\u0435\u0442\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043c:\u041e\u0442\u043a\u0443\u0434\u0430, \u043f\u0440\u0438\u0440\u0430\u0432\u043d\u044f\u0432 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u043d\u0443\u044e \u043a \u043d\u0443\u043b\u044e, \u043f\u043e\u043b\u0443\u0447\u0438\u043c .\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0439\u043c\u0435\u043c \u0437\u0430\u0447\u0435\u043c \u043d\u0430\u043c \u041c\u041c\u041f.\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u041c\u041c\u041f, \u043c\u044b \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u0432 \u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438. \u0410 \u043b\u044e\u0431\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043c\u043e\u0436\u043d\u043e \u044d\u043a\u0432\u0438\u0432\u0430\u043b\u0435\u043d\u0442\u043d\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0430\u043a \u0437\u0430\u0434\u0430\u0447\u0443 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438: \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u043c\u0435\u0441\u0442\u043e &#171;\u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c &#187; \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c &#171;\u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c &#171;. \u0410 \u0447\u0442\u043e \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0432 ML? \u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0436\u0435, \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043f\u043e\u0442\u0435\u0440\u044c.Log-loss\u0415\u0441\u043b\u0438 \u0432\u0437\u044f\u0442\u044c \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u0438\u044f \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u0445 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0442\u043e, \u0447\u0442\u043e \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f log-loss. \u0420\u0430\u0437\u0431\u0435\u0440\u0435\u043c \u044d\u0442\u043e \u043f\u043e\u0448\u0430\u0433\u043e\u0432\u043e. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u043c  \u043a\u0430\u043a , \u0430 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c, \u043a\u0430\u043a  (\u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u044d\u0442\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c).  \u0422\u043e\u0433\u0434\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u0438\u043c\u0435\u0435\u0442 \u0432\u0438\u0434:\u041d\u0430\u0448\u0430 \u0437\u0430\u0434\u0430\u0447\u0430 \u2014 \u043d\u0430\u0439\u0442\u0438 \u043d\u0430\u0431\u043e\u0440 \u0432\u0435\u0441\u043e\u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u044d\u0442\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e:\u0412 \u0437\u0430\u0434\u0430\u0447\u0435 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043f\u0430\u0440\u044b , \u0433\u0434\u0435 . \u0422\u043e\u0433\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u0434\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c , \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u043d\u0430 \u043a\u0430\u043a\u0433\u0434\u0435 .\u043f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u0432 \u0434\u0430\u043d\u043d\u043e\u0435 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0432\u044b\u0448\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043c:\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u043e\u0432, \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0432 \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u043d\u0430\u043a\u043e\u043d\u0435\u0446, \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u043b\u043e\u0433-\u043b\u043e\u0441\u0441 \u0432 \u0447\u0438\u0441\u0442\u043e\u043c \u0432\u0438\u0434\u0435:\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u0443\u0447\u0435\u0441\u0442\u044c \u0444\u0430\u043a\u0442, \u0447\u0442\u043e  \u2014 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c (\u0442.\u0435. \u0447\u0438\u0441\u043b\u043e \u043d\u0430 \u043e\u0442\u0440\u0435\u0437\u043a\u0435 ), \u0430 , \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0434 \u0441\u0443\u043c\u043c\u043e\u0439 \u043c\u0435\u043d\u044c\u0448\u0435 \u0438\u043b\u0438 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u043b\u044f, \u0437\u043d\u0430\u0447\u0438\u0442, \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u0437\u043d\u0430\u043a\u0430 \u043c\u0438\u043d\u0443\u0441 . \u0417\u043d\u0430\u0447\u0438\u0442, \u0443 \u043d\u0430\u0441 \u043d\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u043d\u0435\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 &#171;\u0441\u043f\u0430\u0441\u0438\u0442\u0435, \u043b\u043e\u0441\u0441 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439&#187;.\u041e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043e\u0434\u043d\u043e \u2014 \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443, \u043a\u0430\u043a \u043c\u044b \u0443\u0436\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0430\u043b\u0438 \u0440\u0430\u043d\u0435\u0435.\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0432\u0438\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u0434\u043b\u044f \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438:  \u0417\u0430\u043c\u0435\u0442\u0438\u043c \u043e\u0434\u043d\u0443 \u0432\u0430\u0436\u043d\u0443\u044e \u0434\u0435\u0442\u0430\u043b\u044c: \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0438 \u043d\u0430\u0448\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u0439  \u041c\u044b \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043e\u0441\u0442\u0430\u0451\u043c\u0441\u044f \u0432 \u043a\u043b\u0430\u0441\u0441\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439, \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u0438\u0445 \u0432 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443.\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0434\u0440\u0443\u0433\u043e\u0435 \u2014 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u043c\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430.\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0435 \u043d\u0430 \u0441\u0430\u043c \u043a\u043b\u0430\u0441\u0441 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0430 \u043d\u0430 \u0442\u043e, \u043a\u0430\u043a\u0430\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0431\u0440\u0430\u043d\u0430.\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438\u0422\u0435\u043f\u0435\u0440\u044c, \u0438\u043c\u0435\u044f loss, \u0442.\u0435. \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0443 \u0437\u0430\u0434\u0430\u0447\u0438, \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043d\u0430\u0439\u0442\u0438 \u0435\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u0435.\u041f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043f\u0440\u043e\u0439\u0442\u0438\u0441\u044c \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043c\u0435\u0442\u043e\u0434\u043e\u043c. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0443 \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043b\u043e\u0441\u0441 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0438 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u043c. \u0423 \u043d\u0430\u0441 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f:\u0433\u0434\u0435 .\u0415\u0441\u043b\u0438 \u043c\u044b \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0443\u0441\u043b\u043e\u0432\u0438\u0435 \u0441\u0442\u0430\u0446\u0438\u043e\u043d\u0430\u0440\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 , \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0423\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435:\u0433\u0434\u0435 \u0443 \u043d\u0430\u0441 \u043f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0442 \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439. \u0418 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u044c \u0438 \u044d\u043a\u0441\u043f\u043e\u043d\u0435\u043d\u0442\u0430 \u0438  \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438. \u041e\u0434\u043d\u0438\u043c \u0441\u043b\u043e\u0432\u043e\u043c \u2014 \u043c\u0440\u0430\u043a.\u041d\u0435 \u0432\u0434\u0430\u0432\u0430\u044f\u0441\u044c \u0432 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0438, \u0442\u0430\u043a\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432 \u043e\u0431\u0449\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0432 \u0437\u0430\u043c\u043a\u043d\u0443\u0442\u043e\u043c \u0432\u0438\u0434\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u043f\u043e\u043f\u044b\u0442\u043e\u043a \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u044f\u0432\u043d\u0443\u044e \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u0434\u043b\u044f .\u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043f\u0440\u044f\u043c\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043d\u0430\u043c \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0434\u0430\u043b\u043e, \u0432\u0435\u0440\u043d\u0451\u043c\u0441\u044f \u043a \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u043c\u0443 \u0441\u043f\u0443\u0441\u043a\u0443.\u0418\u0434\u0435\u044f \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u0441\u043f\u0443\u0441\u043a\u0430 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0436\u043d\u0435\u0439: \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u0434\u0432\u0438\u0433\u0430\u0435\u043c\u0441\u044f \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c.\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0431\u0443\u0434\u0443\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: .\u041c\u044b \u0443\u0436\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u043b\u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u0435\u0433\u043e \u0432 \u0444\u043e\u0440\u043c\u0443\u043b\u0443 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432. \u0418 \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u043e\u043a\u043e\u043d\u0447\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u0438\u0434:\u0422\u043e \u0435\u0441\u0442\u044c, \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0441\u043e\u0432 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0437\u0430 \u0441\u0447\u0451\u0442 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u043a\u0438, \u043f\u0440\u043e\u043f\u043e\u0440\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430, \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u043d\u043e\u0439 \u043d\u0430 \u0432\u0445\u043e\u0434\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438.\u042d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442:  \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0435\u0440\u0435\u043e\u0446\u0435\u043d\u0438\u043b\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u2014 \u0432\u0435\u0441\u0430 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u044e\u0442\u0441\u044f; \u0435\u0441\u043b\u0438 \u043d\u0435\u0434\u043e\u043e\u0446\u0435\u043d\u0438\u043b\u0430 \u2014 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044e\u0442\u0441\u044f.\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u043e\u0448\u0438\u0431\u043a\u0443 \u043d\u0430 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435.\u041e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0434\u0432\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430: \u043d\u0430 \u0447\u0442\u043e \u0432\u043b\u0438\u044f\u0435\u0442 \u0432\u044b\u0431\u043e\u0440 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438  \u0438 \u0441\u043e\u0439\u0434\u0451\u0442\u0441\u044f \u043b\u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a \u043f\u0440\u0438 \u0434\u0430\u043d\u043d\u043e\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u0435?\u0414\u043b\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u043d\u0430 \u043e\u0431\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u043c\u043e\u0436\u043d\u043e \u043e\u043f\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u2014 \u0424\u0443\u043d\u043a\u0446\u0438\u044f  \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u044b\u043f\u0443\u043a\u043b\u043e\u0439 \u043f\u043e .\u041d\u0430\u043f\u043e\u043c\u043d\u044e, \u0447\u0442\u043e \u044d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442: \u043f\u0440\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0439 \u0433\u043b\u0430\u0434\u043a\u043e\u0441\u0442\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0433\u043e \u0432\u044b\u0431\u043e\u0440\u0430 \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f , \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043d\u044b\u0439 \u0441\u043f\u0443\u0441\u043a \u0441\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438. \u041d\u0430\u0447\u0430\u043b\u044c\u043d\u0430\u044f \u0442\u043e\u0447\u043a\u0430 \u0432\u043b\u0438\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438.\u041d\u043e \u043f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430?\u041c\u044b \u0443\u0432\u0438\u0434\u0435\u043b\u0438, \u0447\u0442\u043e \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442.\u041d\u043e \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u043c, \u0447\u0442\u043e \u043e\u043d\u0430 \u0443 \u043d\u0430\u0441 \u0432\u043e\u0437\u043d\u0438\u043a\u043b\u0430, \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u0437\u0430\u0434\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f: \u0441\u0436\u0438\u043c\u0430\u0435\u0442 \u0432\u0441\u044e \u0447\u0438\u0441\u043b\u043e\u0432\u0443\u044e \u043f\u0440\u044f\u043c\u0443\u044e; \u043d\u0435 \u0442\u0435\u0440\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439. \u0422\u0430\u043a\u0438\u0445 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0432 \u043c\u0438\u0440\u0435 \u043c\u043d\u043e\u0433\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0438\u0437\u0431\u0430\u0432\u0438\u043c\u0441\u044f \u043e\u0442 &#171;\u043c\u0430\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e&#187; \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u044b \u0438 \u0434\u0430\u0434\u0438\u043c \u0435\u0439 \u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0437\u0443\u043c\u043d\u043e\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435.\u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u0432\u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u0438\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 p \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0435 odds(\u0448\u0430\u043d\u0441\u044b): , \u0430 \u0442\u043e\u0447\u043d\u0435\u0435 \u0438\u0445 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c (log-odds): . \u042d\u0442\u043e \u043c\u0435\u0440\u0430 \u0442\u043e\u0433\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043e\u0434\u0435\u043b\u044c &#171;\u0441\u043a\u043b\u043e\u043d\u044f\u0435\u0442\u0441\u044f&#187; \u043a \u043a\u043b\u0430\u0441\u0441\u0443 1.\u041c\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c, \u0447\u0442\u043e \u043d\u0435 \u0441\u0430\u043c\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u043e\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432, \u0430 \u0435\u0451 \u043b\u043e\u0433-\u043e\u0434\u0434\u0441\u044b:\u041f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a\u0415\u0441\u0442\u044c, \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, \u0442\u0440\u0438 \u043f\u0440\u0438\u0447\u0438\u043d\u044b:1. \u041b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u044c \u0432 :\u2014 \u044d\u0442\u043e \u0441\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u043f\u0438\u0441\u0430\u0442\u044c \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0442 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432.2. \u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0415\u0441\u043b\u0438 \u0431\u044b \u043c\u044b \u043f\u0438\u0441\u0430\u043b\u0438: , \u0442\u043e \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u0432\u044b\u0439\u0442\u0438 \u0437\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u044b , \u0442\u0435\u043c \u0441\u0430\u043c\u0438\u043c \u043d\u0430\u0440\u0443\u0448\u0438\u0432 \u0441\u043c\u044b\u0441\u043b \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u04383. Log-odds &#171;\u0440\u0430\u0441\u0442\u044f\u0433\u0438\u0432\u0430\u044e\u0442&#187; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u0424\u0443\u043d\u043a\u0446\u0438\u044f:\u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u0442  \u0432 \u0432\u0441\u044e \u0420\u0435\u0448\u0430\u0435\u043c \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e :\u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u044f, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c:\u0412\u043e\u0442 \u043e\u0442\u043a\u0443\u0434\u0430 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u0430. \u042d\u0442\u043e \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f log-odds.Cross-entropy\u0412\u044b\u0448\u0435 \u0443 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u0430 \u0444\u0440\u0430\u0437\u0430  \u0418 \u0442\u0430\u043a\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u2014 \u043e\u043d\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f log-loss (\u0438\u043b\u0438 cross-entropy).\u0422\u0435\u043f\u0435\u0440\u044c \u043e\u0442\u0432\u0435\u0442\u0438\u043c \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441: \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 cross-entropy \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435, \u0447\u0442\u043e \u0438 log-loss?\u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u043f\u043e\u043d\u044f\u0442\u0438\u044f \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438.\u0412 \u0442\u0435\u043e\u0440\u0438\u0438 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f  \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u043a\u041e\u043d\u0430 \u0438\u0437\u043c\u0435\u0440\u044f\u0435\u0442 \u0441\u0442\u0435\u043f\u0435\u043d\u044c \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f. \u0427\u0435\u043c \u0431\u043e\u043b\u0435\u0435 &#171;\u0440\u0430\u0437\u043c\u0430\u0437\u0430\u043d\u044b&#187; \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f.\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440\u041e\u043f\u044f\u0442\u044c \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u043f\u043e\u0434\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u043d\u0438\u044e \u043c\u043e\u043d\u0435\u0442\u043a\u0438. \u0415\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043c\u043e\u0435\u043d\u0442\u043a\u0430 \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0440\u0430\u0432\u043d\u044b \u043f\u043e 0.5, \u0442\u043e \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0443 \u043d\u0430\u0441 \u0440\u0430\u0432\u043d\u0430\u0414\u0430\u043b\u0435\u0435, \u043d\u0430\u043c \u0434\u0430\u043b\u0438 \u0434\u0440\u0443\u0433\u0443\u044e \u043c\u043e\u043d\u0435\u0442\u043a\u0443, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0440\u0435\u043b \u0432\u044b\u043f\u0430\u0434\u0430\u0435\u0442 \u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c 0.9.\u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0432\u043d\u0430 \u2014 (\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 0.47).\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u043c, \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0432 \u043f\u0435\u0440\u0432\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u044b\u0441\u043e\u043a\u0430\u044f (\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435). \u0418, \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e, \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u0430\u044f, \u0430 \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u044d\u043d\u043e\u0442\u0440\u043e\u043f\u0438\u044f \u0443\u0436\u0435 0.47 \u0438 \u043c\u044b \u0431\u043e\u043b\u0435\u0435-\u043c\u0435\u043d\u0435\u0435 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e \u043c\u043e\u0436\u0435\u043c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c \u0438\u0441\u0445\u043e\u0434 \u0431\u0440\u043e\u0441\u043a\u0430.\u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 , \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 . \u0412\u0432\u0435\u0434\u0435\u043c \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443:\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043a\u0430\u043a \u0440\u0430\u0437 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f cross-entropy.\u0412 \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0430, \u0438 \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0431\u0435\u0440\u0443\u0442\u0441\u044f \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f, \u0430 \u0432 cross-entropy: \u0441\u043d\u0430\u0440\u0443\u0436\u0438 \u0441\u0442\u043e\u0438\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 ,  \u0430 \u0432\u043d\u0443\u0442\u0440\u0438 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0430 \u2014 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 . \u0412 \u0437\u0430\u0434\u0430\u0447\u0435 \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-481417","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/481417","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=481417"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/481417\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=481417"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=481417"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=481417"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}