{"id":269564,"date":"2015-12-03T14:48:02","date_gmt":"2015-12-03T11:48:02","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=269564"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=269564","title":{"rendered":"\u0423\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0430\u044f \u043a\u0440\u0430\u0441\u043e\u0442\u0430 \u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439"},"content":{"rendered":"<p>       <img decoding=\"async\" alt=\"\u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430 \u043d\u0430 \u041a\u0414\u041f\u0412 \u043d\u0435\u0442, \u043e\u043d \u0443\u0442\u043e\u043d\u0443\u043b\" src=\"https:\/\/habrastorage.org\/files\/53a\/d1f\/d64\/53ad1fd64f6549148c3fe004be5ea8d0.jpg\"\/>  <\/p>\n<blockquote><p> \u2014 \u041d\u0435 \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u0432\u044b \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u0430\u043c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c?<br \/>   \u2014 \u0421 \u0443\u0434\u043e\u0432\u043e\u043b\u044c\u0441\u0442\u0432\u0438\u0435\u043c. \u041c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u0432\u0430\u0448\u0438 \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435?<br \/>   \u2014 \u0414\u0430\u043d\u043d\u044b\u0445 \u0443 \u043d\u0430\u0441 \u0435\u0449\u0451 \u043d\u0435\u0442. \u041d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u0436\u043d\u0430.  <\/p><\/blockquote>\n<p>  \u0417\u043d\u0430\u043a\u043e\u043c\u044b\u0439 \u0434\u0438\u0430\u043b\u043e\u0433, \u043d\u0435 \u043f\u0440\u0430\u0432\u0434\u0430 \u043b\u0438? \u0414\u0430\u043b\u0435\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b \u0434\u0432\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0441\u043e\u0431\u044b\u0442\u0438\u0439:<\/p>\n<p>  A. \u00ab\u0422\u043e\u0433\u0434\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u044f\u0432\u044f\u0442\u0441\u044f \u0434\u0430\u043d\u043d\u044b\u0435.\u00bb \u0412\u0430\u0440\u0438\u0430\u043d\u0442 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0435\u0442 \u043a\u0430\u043a \u0442\u0440\u0438\u0432\u0438\u0430\u043b\u044c\u043d\u044b\u0439.<br \/>  \u0411. \u00ab\u0420\u0430\u0441\u0441\u043a\u0430\u0436\u0438\u0442\u0435, \u043a\u0430\u043a\u0438\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u044b \u043f\u043e \u0432\u0430\u0448\u0435\u043c\u0443 \u043c\u043d\u0435\u043d\u0438\u044e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0430\u0436\u043d\u044b.\u00bb \u041e\u0441\u0442\u0430\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e \u044d\u0442\u043e.<\/p>\n<p>  \u041f\u043e\u0434 \u043a\u0430\u0442\u043e\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 improper model, \u043f\u043e\u0447\u0435\u043c\u0443 \u0438\u0445 \u043a\u0440\u0430\u0441\u043e\u0442\u0430 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0430 \u0438 \u0447\u0435\u0433\u043e \u044d\u0442\u043e \u0441\u0442\u043e\u0438\u0442. \u0412\u0441\u0451 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u0442\u0440\u0430\u0434\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e \u0432\u044b\u0436\u0438\u0432\u0430\u043d\u0438\u0438 \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430.<\/p>\n<p>  <a name=\"habracut\"><\/a>  <\/p>\n<h2>\u041e\u0442\u043a\u0443\u0434\u0430 \u0442\u0430\u043a\u043e\u0435 \u0441\u0442\u0440\u0430\u043d\u043d\u043e\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435<\/h2>\n<p>  \u0418\u0437 \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"http:\/\/www.cmu.edu\/dietrich\/sds\/docs\/dawes\/the-robust-beauty-of-improper-linear-models-in-decision-making.pdf\">The Robust Beauty of Improper Linear Models in Decision Making<\/a> \u0442\u043e\u0432\u0430\u0440\u0438\u0449\u0430 Robyn M. Dawes, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432 \u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0441\u0441\u044b\u043b\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u0440\u0435\u0434\u0448\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u0438\u043a\u043e\u0432. <\/p>\n<blockquote><p>\u041f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (proper linear models) \u2014 \u0442\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u0435\u0441\u0430 \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u044e\u0442\u0441\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0449\u0443\u044e \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u041f\u0440\u0438\u043c\u0435\u0440\u043e\u043c \u043c\u043e\u0436\u0435\u0442 \u0441\u043b\u0443\u0436\u0438\u0442\u044c \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f, \u043f\u043e\u0434\u043e\u0433\u043d\u0430\u043d\u043d\u0430\u044f \u043c\u0435\u0442\u043e\u0434\u043e\u043c \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0438\u0445 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u043e\u0432. [&#8230;]<\/p>\n<p>  \u041d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u043d\u044b\u0435 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 (improper linear models) \u2014 \u0442\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u0435\u0441\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442\u0441\u044f \u043d\u0435\u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0438 \u0438\u043d\u0442\u0443\u0438\u0446\u0438\u0438, \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u043e\u043f\u044b\u0442\u0430 \u0438\u043b\u0438 \u043f\u0440\u0438\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0435\u0434\u0438\u043d\u0438\u0446\u0435.<\/p><\/blockquote>\n<p>  \u041e\u0431\u044b\u0447\u043d\u0430\u044f \u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<p>  \u0177 = \u03b2<sub>0<\/sub> + \u03b2<sub>1<\/sub>x<sub>1<\/sub> + \u03b2<sub>2<\/sub>x<sub>2<\/sub> +\u2026 + \u03b2<sub>m<\/sub>x<sub>m<\/sub><\/p>\n<p>  \u0417\u0434\u0435\u0441\u044c \u0177 \u2014 \u043e\u0446\u0435\u043d\u043a\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439, \u03b2<sub>0<\/sub> \u2014 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b\u0439 \u0447\u043b\u0435\u043d, \u03b2<sub>1<\/sub>&#8230;\u03b2<sub>m<\/sub> \u2014 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438, x<sub>1<\/sub>&#8230;x<sub>m<\/sub> \u2014 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435.<\/p>\n<p>  \u041f\u043e \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u03b2<sub>1<\/sub>&#8230;\u03b2<sub>m<\/sub> \u043c\u044b \u043f\u043e\u0441\u0442\u0443\u043f\u0438\u043c \u0432\u043e\u043b\u044e\u043d\u0442\u0430\u0440\u0438\u0441\u0442\u0441\u043a\u0438: \u043d\u0430\u0437\u043d\u0430\u0447\u0438\u043c \u0438\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f +1 (\u0432\u043b\u0438\u044f\u0435\u0442 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e), -1 (\u0432\u043b\u0438\u044f\u0435\u0442 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e) \u0438 0 (\u043d\u0435 \u0432\u043b\u0438\u044f\u0435\u0442).<\/p>\n<h2>\u041f\u0440\u0438\u0442\u044f\u043d\u0443\u0442\u044b\u0439 \u0437\u0430 \u0443\u0448\u0438 \u043f\u0440\u0438\u043c\u0435\u0440<\/h2>\n<p>  \u0425\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u043d\u044b\u043c\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u043c\u0438 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0448\u0451\u043b \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440 \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438, \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0441\u043a\u043e\u0440\u043a\u0430\u0440\u0442\u044b \u0434\u043b\u044f \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u043a\u0440\u0435\u0434\u0438\u0442\u043e\u0432\u0430\u043d\u0438\u044f (\u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0439 \u043f\u0440\u043e\u0441\u0440\u043e\u0447\u043a\u0438 \u0438\u043b\u0438 \u043d\u0435\u0432\u043e\u0437\u0432\u0440\u0430\u0442\u0430 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u043c \u0434\u043e\u043b\u0433\u0430), \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442\u043a\u043b\u0438\u043a\u0430 (\u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043a\u043b\u0438\u0435\u043d\u0442 \u043e\u0442\u0432\u0435\u0442\u0438\u0442 \u043d\u0430 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0447\u0442\u043e-\u0442\u043e \u043a\u0443\u043f\u0438\u0442\u044c \u0438\u043b\u0438 \u043f\u043e\u0434\u043f\u0438\u0441\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043f\u0440\u043e\u0434\u0443\u043a\u0442), \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442\u0442\u043e\u043a\u0430 (\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043a\u043b\u0438\u0435\u043d\u0442 \u0443\u0439\u0434\u0451\u0442 \u043a \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u0443) \u0438 \u0442.\u043f.<\/p>\n<p>  \u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e \u0443\u0436\u0435 \u0445\u043e\u0440\u043e\u0448\u043e \u0437\u043d\u0430\u043a\u043e\u043c\u044b\u0439 \u0432\u0441\u0435\u043c \u0437\u0430\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0432 \u0442\u0435\u043c\u0435 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0447\u0438\u0442\u0430\u0442\u0435\u043b\u044f\u043c: \u0441\u043f\u0438\u0441\u043e\u043a \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430. \u0420\u0430\u043d\u0435\u0435 \u043d\u0430 \u0425\u0430\u0431\u0440\u0435 \u043d\u0430 \u043d\u0435\u0433\u043e \u0443\u0436\u0435 \u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0438:<\/p>\n<ul>\n<li><a href=\"http:\/\/habrahabr.ru\/company\/microsoft\/blog\/268039\/\">\u041f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0432\u044b\u0436\u0438\u0432\u0430\u043d\u0438\u044f \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 Azure Machine Learning<\/a><\/li>\n<li><a href=\"http:\/\/habrahabr.ru\/company\/mlclass\/blog\/270973\/\">\u0422\u0438\u0442\u0430\u043d\u0438\u043a \u043d\u0430 Kaggle: \u0432\u044b \u043d\u0435 \u0434\u043e\u0447\u0438\u0442\u0430\u0435\u0442\u0435 \u044d\u0442\u043e\u0442 \u043f\u043e\u0441\u0442 \u0434\u043e \u043a\u043e\u043d\u0446\u0430<\/a><\/li>\n<\/ul>\n<p>  <\/p>\n<h2>\u0423\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u0438 \u0441\u043e\u0441\u0442\u044f\u0437\u0430\u043d\u0438\u0439<\/h2>\n<p>  <\/p>\n<ul>\n<li><code>ImproperModel<\/code> \u2014 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 (\u0442\u0435\u043c\u0430 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438)<\/li>\n<li><code>ProperModel<\/code> \u2014 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0441 \u0442\u0435\u043c\u0438 \u0436\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438<\/li>\n<li><code>LogisticRegression<\/code> \u2014 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0441\u043e \u0432\u0441\u0435\u043c\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438<\/li>\n<li><code>RandomForest<\/code> \u2014 \u043e\u0434\u0438\u043d \u0438\u0437 \u0448\u0438\u0440\u043e\u043a\u043e \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0445 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432<\/li>\n<\/ul>\n<p>  <\/p>\n<h2>\u041a\u0430\u043a \u0431\u0443\u0434\u0435\u043c \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c<\/h2>\n<p>  \u0421\u043f\u0438\u0441\u043e\u043a \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u0440\u0430\u0437\u043e\u0431\u044c\u0451\u043c \u043d\u0430 \u0434\u0432\u0435 \u0447\u0430\u0441\u0442\u0438, \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0434\u0433\u043e\u043d\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u043d\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0435\u0451 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<p>  \u0427\u0443\u0434\u0435\u0441 \u043d\u0435 \u0431\u044b\u0432\u0430\u0435\u0442 \u0438 \u0441\u043e\u0432\u0441\u0435\u043c \u0431\u0435\u0437 \u043a\u0430\u043a\u0438\u0445-\u0442\u043e \u0437\u043d\u0430\u043d\u0438\u0439 \u0442\u043e\u043b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c. \u0412 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0442\u0430\u043a\u0438\u043c \u0437\u043d\u0430\u043d\u0438\u0435\u043c \u0431\u0443\u0434\u0435\u0442 \u0433\u0430\u043b\u0430\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u2014 \u0436\u0435\u043d\u0449\u0438\u043d \u0438 \u0434\u0435\u0442\u0435\u0439 \u043f\u0440\u0438 \u043f\u043e\u0441\u0430\u0434\u043a\u0435 \u0432 \u0448\u043b\u044e\u043f\u043a\u0438 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u043b\u0438 \u0432\u043f\u0435\u0440\u0451\u0434. \u041d\u0430 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0438 \u044d\u0442\u043e\u0433\u043e \u0430\u043f\u0440\u0438\u043e\u0440\u0433\u043e\u0433\u043e \u0437\u043d\u0430\u043d\u0438\u044f \u0434\u043b\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 <code>female<\/code> \u0432\u0435\u0441 +1, \u0430 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 <code>age<\/code> \u0432\u0435\u0441 -1. \u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u0430\u043c \u0441 \u0431\u0438\u043b\u0435\u0442\u0430\u043c\u0438 \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u0438 \u0442\u0440\u0435\u0442\u044c\u0435\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043a\u0430\u044e\u0442\u044b \u0432 \u0442\u0440\u044e\u043c\u0435, \u0434\u0430\u043b\u044c\u0448\u0435 \u0431\u0435\u0436\u0430\u0442\u044c \u0434\u043e \u0448\u043b\u044e\u043f\u043e\u043a, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 <code>pclass<\/code> \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u0435\u043c \u0432\u0435\u0441 -1.<\/p>\n<p>  \u0427\u0442\u043e\u0431\u044b \u0434\u0432\u0430 \u0440\u0430\u0437\u0430 \u043d\u0435 \u0432\u0441\u0442\u0430\u0432\u0430\u0442\u044c, \u0442\u0443\u0442 \u0436\u0435 \u043f\u0440\u043e\u0432\u0435\u0434\u0451\u043c \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e \u2014 \u043f\u043e\u0434\u0435\u043b\u0438\u043c \u043d\u0430 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0435 \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435. \u042d\u0442\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u043a \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u043e\u0439 \u0448\u043a\u0430\u043b\u0435. \u041c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0430 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043f\u043e\u0445\u043e\u0436\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<p>  \u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e <b>\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u043c\u044b \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e \u0442\u043e\u043c, \u043a\u0442\u043e \u0432\u044b\u0436\u0438\u043b, \u0430 \u043a\u0442\u043e \u0443\u0442\u043e\u043d\u0443\u043b<\/b>, \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0435 \u043e\u0442\u043a\u043b\u043e\u043d\u0435\u043d\u0438\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f.<\/p>\n<p>  \u041f\u043e\u0432\u0442\u043e\u0440\u0438\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0442\u044b\u0441\u044f\u0447\u0443 \u0440\u0430\u0437 \u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b. \u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u0431\u0443\u0434\u0435\u043c \u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u0430 Gini (<a href=\"https:\/\/ru.wikipedia.org\/wiki\/ROC-\u043a\u0440\u0438\u0432\u0430\u044f\">G1<\/a>).<\/p>\n<div class=\"spoiler\"><b class=\"spoiler_title\">\u041a\u043e\u0434 \u043d\u0430 R \u0441 \u043f\u043e\u0448\u0430\u0433\u043e\u0432\u044b\u043c\u0438 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u043c\u0438<\/b><\/p>\n<div class=\"spoiler_text\">\n<pre><code>install.packages(&quot;pROC&quot;) install.packages(&quot;randomForest&quot;) library(pROC) library(randomForest) <\/code><\/pre>\n<p>  \u0427\u0438\u0442\u0430\u0435\u043c \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u0442\u0430\u043a\u0436\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u0442\u0443\u0442: <a href=\"https:\/\/github.com\/dimview\/unit_weights\/blob\/master\/titanic3.csv\"><code>titanic3.csv<\/code><\/a>  <\/p>\n<pre><code>data &lt;- read.csv('~\/habr\/unit_weights\/titanic3.csv') <\/code><\/pre>\n<p>  \u0417\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f <code>survived<\/code>  <\/p>\n<pre><code>data$survived &lt;- as.factor(data$survived) <\/code><\/pre>\n<p>  \u0418\u0441\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0434\u043b\u044f \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u043d\u0430\u043b\u0438\u0437\u0430  <\/p>\n<pre><code>data$name &lt;- NULL data$ticket &lt;- NULL data$cabin &lt;- NULL data$home.dest &lt;- NULL data$embarked &lt;- NULL <\/code><\/pre>\n<p>  \u041d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u0438\u0437 \u0431\u0443\u0434\u0443\u0449\u0435\u0433\u043e  <\/p>\n<pre><code>data$boat &lt;- NULL data$body &lt;- NULL <\/code><\/pre>\n<p>  \u0417\u0430\u043c\u0435\u043d\u044f\u0435\u043c \u043f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u0440\u0435\u0434\u043d\u0438\u043c  <\/p>\n<pre><code>data$age[is.na(data$age)] &lt;- mean(data$age, na.rm=TRUE) data$fare[is.na(data$fare)] &lt;- mean(data$fare, na.rm=TRUE) <\/code><\/pre>\n<p>  \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u043f\u043e\u043b \u0432 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043d\u0443\u044e \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e  <\/p>\n<pre><code>data$female &lt;- 0 data$female[which(data$sex == 'female')] &lt;- 1 data$sex &lt;- NULL <\/code><\/pre>\n<p>  \u0421\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c:  <\/p>\n<pre><code> survived     pclass           age              sibsp         0:809    Min.   :1.000   Min.   : 0.1667   Min.   :0.0000    1:500    1st Qu.:2.000   1st Qu.:22.0000   1st Qu.:0.0000             Median :3.000   Median :29.8811   Median :0.0000             Mean   :2.295   Mean   :29.8811   Mean   :0.4989             3rd Qu.:3.000   3rd Qu.:35.0000   3rd Qu.:1.0000             Max.   :3.000   Max.   :80.0000   Max.   :8.0000        parch            fare             female       Min.   :0.000   Min.   :  0.000   Min.   :0.000    1st Qu.:0.000   1st Qu.:  7.896   1st Qu.:0.000    Median :0.000   Median : 14.454   Median :0.000    Mean   :0.385   Mean   : 33.295   Mean   :0.356    3rd Qu.:0.000   3rd Qu.: 31.275   3rd Qu.:1.000    Max.   :9.000   Max.   :512.329   Max.   :1.000 <\/code><\/pre>\n<p>  \u041f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0442\u044b\u0441\u044f\u0447\u0443 \u0440\u0430\u0437  <\/p>\n<pre><code>im.gini = NULL pm.gini = NULL lr.gini = NULL rf.gini = NULL set.seed(42) for (i in 1:1000) { <\/code><\/pre>\n<p>  \u0420\u0430\u0437\u0431\u0438\u0432\u0430\u0435\u043c \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u043d\u0430 \u0434\u0432\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u2014 70% \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0443\u044e \u0432\u044b\u0431\u043e\u0440\u043a\u0443, \u043d\u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 30% \u0431\u0443\u0434\u0435\u043c \u043c\u0435\u0440\u044f\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438.  <\/p>\n<pre><code>  data$random_number &lt;- runif(nrow(data),0,1)   development &lt;- data[ which(data$random_number &gt; 0.3), ]   holdout     &lt;- data[ which(data$random_number &lt;= 0.3), ]   development$random_number &lt;- NULL   holdout$random_number &lt;- NULL <\/code><\/pre>\n<p>  \u041c\u043e\u0434\u0435\u043b\u044c \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438  <\/p>\n<pre><code>  beta_pclass &lt;- -1\/sd(development$pclass)   beta_age    &lt;- -1\/sd(development$age   )   beta_female &lt;-  1\/sd(development$female)   im.score &lt;- beta_pclass*holdout$pclass + beta_age*holdout$age + beta_female*holdout$female    im.roc &lt;- roc(holdout$survived, im.score)   im.gini[i] &lt;- 2*im.roc$auc-1 <\/code><\/pre>\n<p>  \u041e\u0431\u044b\u0447\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u2014 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0441 \u0442\u0435\u043c\u0438 \u0436\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438  <\/p>\n<pre><code>  pm.model = glm(survived~pclass+age+female, family=binomial(logit), data=development)   pm.score &lt;- predict(pm.model, holdout, type=&quot;response&quot;)   pm.roc &lt;- roc(holdout$survived, pm.score)   pm.gini[i] &lt;- 2*pm.roc$auc-1 <\/code><\/pre>\n<p>  \u041b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u0441\u043e \u0432\u0441\u0435\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438  <\/p>\n<pre><code>  lr.model = glm(survived~., family=binomial(logit), data=development)   lr.score &lt;- predict(lr.model, holdout, type=&quot;response&quot;)   lr.roc &lt;- roc(holdout$survived, lr.score)   lr.gini[i] &lt;- 2*lr.roc$auc-1 <\/code><\/pre>\n<p>  \u0412\u0441\u0435\u043c\u0438 \u043b\u044e\u0431\u0438\u043c\u044b\u0439 (\u0438 \u043d\u0435 \u0431\u0435\u0437 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0439) RandomForest  <\/p>\n<pre><code>  rf.model &lt;- randomForest(survived~., development)   rf.score &lt;- predict(rf.model, holdout, type = &quot;prob&quot;)   rf.roc &lt;- roc(holdout$survived, rf.score[,1])   rf.gini[i] &lt;- 2*rf.roc$auc-1 } <\/code><\/pre>\n<p>  \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b  <\/p>\n<pre><code>bpd&lt;-data.frame(ImproperModel=im.gini, ProperModel=pm.gini, LogisticRegression=lr.gini, RandomForest=rf.gini) png('~\/habr\/unit_weights\/auc_comparison.png', height=700, width=400, res=120, units='px') boxplot(bpd, las=2, ylab=&quot;Gini&quot;, ylim=c(0,1), par(mar=c(9,5,1,1)+ 0.1), col=c(&quot;red&quot;,&quot;green&quot;,&quot;royalblue2&quot;,&quot;brown&quot;)) dev.off() mean(im.gini) mean(pm.gini) mean(lr.gini) mean(rf.gini) mean(im.gini)\/mean(rf.gini) mean(pm.gini)\/mean(rf.gini) mean(lr.gini)\/mean(rf.gini) mean(rf.gini)\/mean(rf.gini) <\/code><\/pre>\n<p>  <\/div>\n<\/div>\n<p>  <\/p>\n<h2>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/h2>\n<p>  <\/p>\n<table>\n<tr>\n<th>\u041c\u043e\u0434\u0435\u043b\u044c<\/th>\n<th>Gini<\/th>\n<th>\u0412 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0430\u0445 \u043e\u0442 \u043b\u0443\u0447\u0448\u0435\u0433\u043e<\/th>\n<\/tr>\n<tr>\n<td>ImproperModel<\/td>\n<td>0.639<\/td>\n<td>90.4%<\/td>\n<\/tr>\n<tr>\n<td>ProperModel<\/td>\n<td>0.667<\/td>\n<td>94.3%<\/td>\n<\/tr>\n<tr>\n<td>LogisticRegression<\/td>\n<td>0.679<\/td>\n<td>96.0%<\/td>\n<\/tr>\n<tr>\n<td>RandomForest<\/td>\n<td>0.707<\/td>\n<td>100%<\/td>\n<\/tr>\n<\/table>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/files\/b0e\/df2\/f3c\/b0edf2f3cd4a49998a95c0507f97758b.png\"\/>  <\/p>\n<h2>\u0414\u0430\u043b\u0435\u043a\u043e\u0438\u0434\u0443\u0449\u0438\u0435 \u0432\u044b\u0432\u043e\u0434\u044b<\/h2>\n<p>  \u041f\u0435\u0441\u0441\u0438\u043c\u0438\u0441\u0442 \u0441\u043a\u0430\u0436\u0435\u0442, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u0432 \u044d\u0442\u043e\u043c \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438 \u0437\u0430\u043d\u044f\u043b\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u043c\u0435\u0441\u0442\u043e, \u0438 \u044d\u0442\u043e \u0432\u0435\u0440\u043d\u043e. \u041d\u043e \u0442\u0430\u043a \u0436\u0435 \u0432\u0435\u0440\u043d\u043e, \u0447\u0442\u043e \u043e\u043d\u0430 \u043d\u0430\u0431\u0440\u0430\u043b\u0430 <b>90%<\/b> \u043e\u0442 \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 <b>\u0431\u0435\u0437 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445<\/b>, \u0438 \u043e\u0442\u0441\u0442\u0430\u043b\u0430 \u043e\u0442 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u0441 \u0442\u0435\u043c\u0438 \u0436\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u0432\u0441\u0435\u0433\u043e \u043d\u0430 <b>4%<\/b>.<\/p>\n<h2>\u041f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442<\/h2>\n<p>  \u0412 \u0441\u0442\u0430\u0442\u044c\u0435 \u0441 \u043d\u0435\u043e\u0431\u044b\u0447\u043d\u044b\u043c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c <a href=\"http:\/\/www-stat.wharton.upenn.edu\/~hwainer\/Readings\/Wainer_Estimating%20Coefficients%20in%20Linear%20Models.pdf\">Estimating Coefficients in Linear Models: It Don&#8217;t Make No Nevermind<\/a> \u0435\u0451 \u0430\u0432\u0442\u043e\u0440 (\u0425\u043e\u0432\u0430\u0440\u0434 \u0412\u0430\u0439\u043d\u0435\u0440) \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0442\u0430\u043a\u0443\u044e \u0442\u0435\u043e\u0440\u0435\u043c\u0443 \u0440\u0430\u0432\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432:<\/p>\n<blockquote><p>\u0415\u0441\u043b\u0438 <i>k<\/i> \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 <i>x<sub>i<\/sub> (i = 1, &#8230;, k)<\/i> \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u043c \u0441\u0440\u0435\u0434\u043d\u0438\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u0438 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0439 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 <i>y<\/i>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0442\u0430\u043a\u0436\u0435 \u043e\u0442\u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0434\u043e \u043d\u0443\u043b\u0435\u0432\u043e\u0433\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0438 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u043e\u0439 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438, \u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u043f\u043e \u043c\u0435\u0442\u043e\u0434\u0443 \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0438\u0445 \u043a\u0432\u0430\u0434\u0440\u0430\u0442\u043e\u0432 <i>\u03b2<sub>i<\/sub> (i = 1, &#8230;, k)<\/i> \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u044b \u043d\u0430 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0435 <i>[0.25, 0.75]<\/i>, \u0442\u043e \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0435 \u043a \u0440\u0430\u0432\u043d\u044b\u043c \u0432\u0435\u0441\u0430\u043c <i>(0.5)<\/i> \u043c\u0430\u0442\u043e\u0436\u0438\u0434\u0430\u043d\u0438\u0435 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0434\u043e\u043b\u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0438 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439, \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u043c\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e, \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435 <i>k\/96<\/i>. \u041f\u043e\u0442\u0435\u0440\u0438 \u0435\u0449\u0451 \u043c\u0435\u043d\u044c\u0448\u0435, \u0435\u0441\u043b\u0438 <i>x<sub>i<\/sub><\/i> \u043a\u043e\u0440\u0440\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439.<\/p><\/blockquote>\n<p>  \u0412 \u043f\u0440\u0438\u0432\u0435\u0434\u0451\u043d\u043d\u043e\u043c \u0432\u044b\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f \u043b\u043e\u0433\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f, \u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0432\u0438\u0434\u0435\u043d.<br \/>  \u0414\u0430\u043b\u0435\u0435 \u0432 \u0442\u043e\u0439 \u0436\u0435 \u0441\u0442\u0430\u0442\u044c\u0435 \u0430\u0432\u0442\u043e\u0440 \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u043c\u0438 \u0432\u0435\u0441\u0430\u043c\u0438 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u044b \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043e\u043d\u0438 \u043d\u0435 \u043f\u043e\u0434\u0432\u0435\u0440\u0436\u0435\u043d\u044b \u0432\u043b\u0438\u044f\u043d\u0438\u044e \u0432\u044b\u0431\u0440\u043e\u0441\u043e\u0432 \u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0438 \u0438\u0445 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c.               <\/p>\n<div class=\"clear\"><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"http:\/\/habrahabr.ru\/post\/272201\/\"> http:\/\/habrahabr.ru\/post\/272201\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>       <img decoding=\"async\" alt=\"\u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430 \u043d\u0430 \u041a\u0414\u041f\u0412 \u043d\u0435\u0442, \u043e\u043d \u0443\u0442\u043e\u043d\u0443\u043b\" src=\"https:\/\/habrastorage.org\/files\/53a\/d1f\/d64\/53ad1fd64f6549148c3fe004be5ea8d0.jpg\"\/>  <\/p>\n<blockquote><p> \u2014 \u041d\u0435 \u043c\u043e\u0433\u043b\u0438 \u0431\u044b \u0432\u044b \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u0430\u043c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c?<br \/>   \u2014 \u0421 \u0443\u0434\u043e\u0432\u043e\u043b\u044c\u0441\u0442\u0432\u0438\u0435\u043c. \u041c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u0432\u0430\u0448\u0438 \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435?<br \/>   \u2014 \u0414\u0430\u043d\u043d\u044b\u0445 \u0443 \u043d\u0430\u0441 \u0435\u0449\u0451 \u043d\u0435\u0442. \u041d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u0436\u043d\u0430.  <\/p><\/blockquote>\n<p>  \u0417\u043d\u0430\u043a\u043e\u043c\u044b\u0439 \u0434\u0438\u0430\u043b\u043e\u0433, \u043d\u0435 \u043f\u0440\u0430\u0432\u0434\u0430 \u043b\u0438? \u0414\u0430\u043b\u0435\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b \u0434\u0432\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0441\u043e\u0431\u044b\u0442\u0438\u0439:<\/p>\n<p>  A. \u00ab\u0422\u043e\u0433\u0434\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u044f\u0432\u044f\u0442\u0441\u044f \u0434\u0430\u043d\u043d\u044b\u0435.\u00bb \u0412\u0430\u0440\u0438\u0430\u043d\u0442 \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u0431\u0443\u0434\u0435\u0442 \u043a\u0430\u043a \u0442\u0440\u0438\u0432\u0438\u0430\u043b\u044c\u043d\u044b\u0439.<br \/>  \u0411. \u00ab\u0420\u0430\u0441\u0441\u043a\u0430\u0436\u0438\u0442\u0435, \u043a\u0430\u043a\u0438\u0435 \u0444\u0430\u043a\u0442\u043e\u0440\u044b \u043f\u043e \u0432\u0430\u0448\u0435\u043c\u0443 \u043c\u043d\u0435\u043d\u0438\u044e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0430\u0436\u043d\u044b.\u00bb \u041e\u0441\u0442\u0430\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e \u044d\u0442\u043e.<\/p>\n<p>  \u041f\u043e\u0434 \u043a\u0430\u0442\u043e\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 improper model, \u043f\u043e\u0447\u0435\u043c\u0443 \u0438\u0445 \u043a\u0440\u0430\u0441\u043e\u0442\u0430 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0430 \u0438 \u0447\u0435\u0433\u043e \u044d\u0442\u043e \u0441\u0442\u043e\u0438\u0442. \u0412\u0441\u0451 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043c\u043d\u043e\u0433\u043e\u0441\u0442\u0440\u0430\u0434\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e \u0432\u044b\u0436\u0438\u0432\u0430\u043d\u0438\u0438 \u043f\u0430\u0441\u0441\u0430\u0436\u0438\u0440\u043e\u0432 \u0422\u0438\u0442\u0430\u043d\u0438\u043a\u0430.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-269564","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/269564","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=269564"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/269564\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=269564"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=269564"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=269564"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}