{"id":309340,"date":"2020-09-02T15:00:11","date_gmt":"2020-09-02T15:00:11","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=309340"},"modified":"-0001-11-30T00:00:00","modified_gmt":"2020-09-02T15:00:11","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=309340","title":{"rendered":"\u041d\u0430\u043f\u0438\u0448\u0435\u043c \u0438 \u043f\u043e\u0439\u043c\u0435\u043c Decision Tree \u043d\u0430 Python \u0441 \u043d\u0443\u043b\u044f! \u0427\u0430\u0441\u0442\u044c 1. \u041a\u0440\u0430\u0442\u043a\u0438\u0439 \u043e\u0431\u0437\u043e\u0440"},"content":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/post\/517556\/\">\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e \u0432\u0430\u0448\u0435\u043c\u0443 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044e \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0441\u0442\u0430\u0442\u044c\u0438 &quot;<a href=\"https:\/\/qiita.com\/toyohisa\/items\/ab60d3eab11730f156da\" rel=\"nofollow\">Python\u30670\u304b\u3089\u30c7\u30a3\u30b7\u30b8\u30e7\u30f3\u30c4\u30ea\u30fc\u3092\u4f5c\u3063\u3066\u7406\u89e3\u3059\u308b\u3000\uff081. \u6982\u8981\u7de8\uff09<\/a>&quot;.<\/p>\n<h2>1.1 \u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 Decision Tree?<\/h2>\n<p>  <\/p>\n<h3>1.1.1 \u041f\u0440\u0438\u043c\u0435\u0440 Decision Tree<\/h3>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043d\u0430\u0431\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445 (\u0434\u0430\u0442\u0430 \u0441\u0435\u0442): \u043f\u043e\u0433\u043e\u0434\u0430, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430, \u0432\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c, \u0432\u0435\u0442\u0435\u0440, \u0438\u0433\u0440\u0430 \u0432 \u0433\u043e\u043b\u044c\u0444. \u0412 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u043f\u043e\u0433\u043e\u0434\u044b \u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0433\u043e, \u043c\u044b \u0445\u043e\u0434\u0438\u043b\u0438 (\u3007) \u0438\u043b\u0438 \u043d\u0435 \u0445\u043e\u0434\u0438\u043b\u0438 (\u00d7) \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444. \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c 14 \u0441\u043b\u043e\u0436\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432. <br \/>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/kj\/ju\/he\/kjjuhecaqm8hbn4rhw8eetvmize.png\"><br \/>  \u0418\u0437 \u044d\u0442\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 \u0434\u0430\u043d\u043d\u044b\u0445, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0449\u0443\u044e, \u0432 \u043a\u0430\u043a\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043c\u044b \u0448\u043b\u0438 \u043d\u0430 \u0433\u043e\u043b\u044c\u0444. \u0422\u0430\u043a\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0438\u0437-\u0437\u0430 \u0441\u0432\u043e\u0435\u0439 \u0432\u0435\u0442\u0432\u0438\u0441\u0442\u043e\u0439 \u0444\u043e\u0440\u043c\u044b \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f Decision Tree.<br \/>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hr\/oc\/zm\/hroczm8xstzgrjyvvindwbd72z4.jpeg\"><br \/>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 Decision Tree, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u0432\u044b\u0448\u0435, \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c, \u0447\u0442\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u043f\u043e\u0433\u043e\u0434\u0443. \u0415\u0441\u043b\u0438 \u0431\u044b\u043b\u043e \u044f\u0441\u043d\u043e, \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u0432\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c: \u0435\u0441\u043b\u0438 \u043e\u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u0430\u044f, \u0442\u043e \u043d\u0435 \u0448\u043b\u0438 \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444, \u0435\u0441\u043b\u0438 \u043d\u0438\u0437\u043a\u0430\u044f \u2014 \u0448\u043b\u0438. \u0410 \u0435\u0441\u043b\u0438 \u043f\u043e\u0433\u043e\u0434\u0430 \u0431\u044b\u043b\u0430 \u043e\u0431\u043b\u0430\u0447\u043d\u0430\u044f, \u0442\u043e \u0448\u043b\u0438 \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444 \u0432\u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u0439.<a name=\"habracut\"><\/a><\/p>\n<h3>1.1.2 \u041e\u0431 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435<\/h3>\n<p>  \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u043e\u0437\u0434\u0430\u044e\u0442 \u0442\u0430\u043a\u0438\u0435 Decision Tree \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0438\u043c\u0435\u044e\u0449\u0438\u0445\u0441\u044f \u0434\u0430\u043d\u043d\u044b\u0445. \u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c ID3 \u043d\u0430 Python.<\/p>\n<p>  \u042d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f \u2014 \u043f\u0435\u0440\u0432\u0430\u044f \u0438\u0437 \u0441\u0435\u0440\u0438\u0438. \u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0441\u0442\u0430\u0442\u044c\u0438:<\/p>\n<p>  <i>(\u041f\u0440\u0438\u043c. \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u0430: \u201c\u0435\u0441\u043b\u0438 \u0432\u0430\u0441 \u0437\u0430\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435, \u043f\u043e\u0436\u0430\u043b\u0443\u0439\u0441\u0442\u0430, \u0441\u043e\u043e\u0431\u0449\u0438\u0442\u0435 \u043d\u0430\u043c \u0432 \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445\u201d.)<\/i><\/p>\n<p>  \u30fb\u041e\u0441\u043d\u043e\u0432\u044b \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043d\u0430 Python<br \/>  \u30fb\u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u043e\u0441\u043d\u043e\u0432\u044b \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0434\u043b\u044f \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 Pandas<br \/>  \u30fb\u041e\u0441\u043d\u043e\u0432\u044b \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445 (\u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u0441 Decision Tree)<br \/>  \u30fb\u041e\u0441\u043d\u043e\u0432\u044b \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438<br \/>  \u30fb\u0423\u0447\u0438\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0434\u043b\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 Decision Tree<\/p>\n<h3>1.1.3 \u041d\u0435\u043c\u043d\u043e\u0433\u043e \u043e Decision Tree<\/h3>\n<p>  \u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f Decision Tree \u0441\u0432\u044f\u0437\u0430\u043d\u0430 \u0441 \u043c\u0430\u0448\u0438\u043d\u043d\u044b\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c \u0441 \u0443\u0447\u0438\u0442\u0435\u043b\u0435\u043c \u0438 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439. \u041a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0432 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u2014 \u0441\u043f\u043e\u0441\u043e\u0431, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0439 \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c, \u0432\u0435\u0434\u0443\u0449\u0443\u044e \u043a \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u043c\u0443 \u043e\u0442\u0432\u0435\u0442\u0443, \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043d\u0430 \u0434\u0430\u0442\u0430 \u0441\u0435\u0442\u0435 \u0441 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u043c\u0438 \u043e\u0442\u0432\u0435\u0442\u0430\u043c\u0438 \u0438 \u0432\u0435\u0434\u0443\u0449\u0438\u043c\u0438 \u043a \u043d\u0438\u043c \u0434\u0430\u043d\u043d\u044b\u043c\u0438. \u0413\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 (Deep Learning), \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0433\u043e\u0434\u044b \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u043e, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0432 \u0441\u0444\u0435\u0440\u0435 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u0442\u043e\u0436\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0447\u0430\u0441\u0442\u044c\u044e \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0433\u043e \u043c\u0435\u0442\u043e\u0434\u0430. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 Deep Learning \u0438 Decision Tree \u0432 \u0442\u043e\u043c, \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043b\u0438 \u043a\u043e\u043d\u0435\u0447\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043a \u0444\u043e\u0440\u043c\u0435, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u044b \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u0434\u0430\u043d\u043d\u044b\u0445. \u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c Deep Learning \u2014 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u043a\u043e\u043d\u0435\u0447\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u043d\u043e \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u043c \u043f\u0440\u0438\u043d\u0446\u0438\u043f \u0435\u0433\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438. \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 Deep Learning, \u043f\u0440\u0438\u043d\u0446\u0438\u043f \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f Decision Tree \u043f\u0440\u043e\u0441\u0442 \u0434\u043b\u044f \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u043e\u043c, \u0447\u0442\u043e \u0442\u0430\u043a\u0436\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0435\u0433\u043e \u0432\u0430\u0436\u043d\u043e\u0439 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e.<\/p>\n<p>  \u042d\u0442\u0430 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c Decision Tree \u0445\u043e\u0440\u043e\u0448\u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043d\u043e \u0438 \u0434\u0430\u0442\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u0430, \u0433\u0434\u0435 \u0442\u0430\u043a\u0436\u0435 \u0432\u0430\u0436\u043d\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u043c.<\/p>\n<h2>1.2 \u041e\u0431 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0435 ID3<\/h2>\n<p>  ID3 \u2014 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 Decision Tree, \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043d\u044b\u0439 \u0432 1986 \u0433\u043e\u0434\u0443 \u0420\u043e\u0441\u0441\u043e\u043c \u041a\u0443\u0438\u043d\u043b\u0430\u043d\u043e\u043c. \u0423 \u043d\u0435\u0433\u043e \u0435\u0441\u0442\u044c \u0434\u0432\u0435 \u0432\u0430\u0436\u043d\u044b\u0435 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438:<\/p>\n<p>  1. \u041a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435. \u042d\u0442\u043e \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u043e \u0442\u0438\u043f\u0443 \u043d\u0430\u0448\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0432\u044b\u0448\u0435 (\u043f\u043e\u0439\u0434\u0443 \u043d\u0430 \u0433\u043e\u043b\u044c\u0444 \u0438\u043b\u0438 \u043d\u0435 \u043f\u043e\u0439\u0434\u0443), \u0434\u0430\u043d\u043d\u044b\u0435 \u0441 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u043c \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0439\u043d\u044b\u043c \u044f\u0440\u043b\u044b\u043a\u043e\u043c. ID3 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435.<br \/>  2. \u0418\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0435\u0439 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 \u0441\u0432\u043e\u0439\u0441\u0442\u0432 \u043a\u043b\u0430\u0441\u0441\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439.<\/p>\n<h3>1.2.1 \u041e\u0431 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445<\/h3>\n<p>  \u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u04214.5, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0435\u0439 ID3, \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u043d\u043e \u0442\u0430\u043a \u043a\u0430\u043a \u0431\u0430\u0437\u043e\u0432\u0430\u044f \u0438\u0434\u0435\u044f \u0442\u0430\u043a\u0430\u044f \u0436\u0435, \u0432 \u044d\u0442\u043e\u0439 \u0441\u0435\u0440\u0438\u0438 \u0441\u0442\u0430\u0442\u0435\u0439, \u043c\u044b, \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c ID3.<\/p>\n<h2>1.3 \u0421\u0440\u0435\u0434\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438<\/h2>\n<p>  \u041f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u044f \u043e\u043f\u0438\u0441\u0430\u043b \u043d\u0438\u0436\u0435, \u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445:<\/p>\n<p>  \u30fbJupyter Notebooks (\u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c Azure Notebooks)<br \/>  \u30fbPython 3.6<br \/>  \u30fb\u0411\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438: math, pandas, functools (\u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b scikit-learn, tensorflow \u0438 \u0442.\u0434.)<\/p>\n<h2>1.4 \u041f\u0440\u0438\u043c\u0435\u0440 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b<\/h2>\n<p>  <\/p>\n<h3>1.4.1 \u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430<\/h3>\n<p>  \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u0441\u043a\u043e\u043f\u0438\u0440\u0443\u0435\u043c \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 \u0432 Jupyter Notebook \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043c.  <\/p>\n<pre><code class=\"python\">import math import pandas as pd from functools import reduce  # \u0414\u0430\u0442\u0430 \u0441\u0435\u0442 d = {     &quot;\u041f\u043e\u0433\u043e\u0434\u0430&quot;:[&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;],     &quot;\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430&quot;:[&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;],      &quot;\u0412\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c&quot;:[&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;],     &quot;\u0412\u0435\u0442\u0435\u0440&quot;:[&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;],     # \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043c\u0430\u0441\u0441\u0438\u0432 - \u044d\u0442\u043e \u043d\u0430\u0448\u0430 \u0446\u0435\u043b\u0435\u0432\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0449\u0430\u044f \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442,      # \u043e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044e\u0449\u0438\u0439\u0441\u044f \u043d\u0430 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445.     &quot;\u0413\u043e\u043b\u044c\u0444&quot;:[&quot;\u00d7&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;], } df0 = pd.DataFrame(d)  # \u041b\u044f\u043c\u0431\u0434\u0430-\u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439, \u0430\u0440\u0433\u0443\u043c\u0435\u043d\u0442 - pandas.Series,  # \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 - \u043c\u0430\u0441\u0441\u0438\u0432 \u0441 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 # \u0418\u0437 \u0432\u0432\u043e\u0434\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 s \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e value_counts() \u043d\u0430\u0445\u043e\u0434\u0438\u043c \u0447\u0430\u0441\u0442\u043e\u0442\u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439,  # \u0438 \u043f\u043e\u043a\u0430 \u0432 \u043d\u0430\u0448\u0435\u043c \u0441\u043b\u043e\u0432\u0430\u0440\u0435 \u0435\u0441\u0442\u044c \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u044b, \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0446\u0438\u043a\u043b, \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c\u044b\u0439 items(). # \u0427\u0442\u043e\u0431\u044b \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u043e\u043c \u0446\u0438\u043a\u043b\u0430, \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c sorted,  # \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u043e\u0442 \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043a \u043c\u0435\u043d\u044c\u0448\u0435\u043c\u0443 # \u0412 \u0438\u0442\u043e\u0433\u0435, \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043c\u0430\u0441\u0441\u0438\u0432, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u0439 \u0441\u0442\u0440\u043e\u043a\u0443 \u0438\u0437 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043e\u0432: \u043a\u043b\u044e\u0447 (k) \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 (v). cstr = lambda s:[k+&quot;:&quot;+str(v) for k,v in sorted(s.value_counts().items())]  # \u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 Decision Tree tree = {     # name: \u041d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u044d\u0442\u043e\u0433\u043e \u043d\u043e\u0434\u0430 (\u0443\u0437\u043b\u0430)     &quot;name&quot;:&quot;decision tree &quot;+df0.columns[-1]+&quot; &quot;+str(cstr(df0.iloc[:,-1])),     # df: \u0414\u0430\u043d\u043d\u044b\u0435, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u0441 \u044d\u0442\u0438\u043c \u043d\u043e\u0434\u043e\u043c (\u0443\u0437\u043b\u043e\u043c)     &quot;df&quot;:df0,     # edges: \u0421\u043f\u0438\u0441\u043e\u043a \u0440\u0435\u0431\u0435\u0440 (\u0432\u0435\u0442\u0432\u0435\u0439), \u0432\u044b\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430,      # \u0438\u043b\u0438 \u043f\u0443\u0441\u0442\u043e\u0439 \u043c\u0430\u0441\u0441\u0438\u0432, \u0435\u0441\u043b\u0438 \u043d\u0438\u0436\u0435 \u043d\u0435\u0442 \u043b\u0438\u0441\u0442\u043e\u0432\u043e\u0433\u043e \u0443\u0437\u043b\u0430.     &quot;edges&quot;:[], }  # \u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0434\u0435\u0440\u0435\u0432\u0430, \u0443 \u0443\u0437\u043b\u043e\u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0432\u0435\u0442\u0432\u0438, \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u043c \u0432 open open = [tree]  # \u041b\u044f\u043c\u0431\u0430-\u0432\u044b\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0432\u044b\u0447\u0435\u0441\u043b\u0435\u043d\u0438\u044f \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438.  # \u0410\u0440\u0433\u0443\u043c\u0435\u043d\u0442 - pandas.Series\u3001\u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 - \u0447\u0438\u0441\u043b\u043e \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438 entropy = lambda s:-reduce(lambda x,y:x+y,map(lambda x:(x\/len(s))*math.log2(x\/len(s)),s.value_counts()))  # \u0417\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u0435\u043c, \u043f\u043e\u043a\u0430 open \u043d\u0435 \u0441\u0442\u0430\u043d\u0435\u0442 \u043f\u0443\u0441\u0442\u044b\u043c while(len(open)!=0):     # \u0412\u044b\u0442\u0430\u0441\u043a\u0438\u0432\u0430\u0435\u043c \u0438\u0437 \u043c\u0430\u0441\u0441\u0438\u0432\u0430 open \u043f\u0435\u0440\u0432\u044b\u0439 \u044d\u043b\u0435\u043c\u0435\u043d\u0442,     # \u0438 \u0432\u044b\u0442\u0430\u0441\u043a\u0438\u0432\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435, \u0445\u0440\u0430\u043d\u044f\u0449\u0438\u0435\u0441\u044f \u0432 \u044d\u0442\u043e\u043c \u0443\u0437\u043b\u0435     n = open.pop(0)     df_n = n[&quot;df&quot;]      # \u0412 \u0441\u043b\u0443\u0447\u0430\u0435, \u0435\u0441\u043b\u0438 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430 \u0440\u0430\u0432\u043d\u0430 0, \u043c\u044b \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u0432\u044b\u0440\u0430\u0441\u0442\u0438\u0442\u044c \u0438\u0437 \u043d\u0435\u0433\u043e \u043d\u043e\u0432\u044b\u0435 \u0432\u0435\u0442\u0432\u0438     # \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u0435\u043a\u0440\u0430\u0449\u0430\u0435\u043c \u0432\u0435\u0442\u0432\u043b\u0435\u043d\u0438\u0435 \u043e\u0442 \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430     if 0==entropy(df_n.iloc[:,-1]):         continue     # \u0421\u043e\u0437\u0434\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e, \u0432 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0431\u0443\u0434\u0435\u043c \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0442\u044c \u0441\u043f\u0438\u0441\u043e\u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430 \u0441 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u0435\u043d\u0438\u044f     attrs = {}     # \u0418\u0441\u0441\u043b\u0435\u0434\u0443\u0435\u043c \u0432\u0441\u0435 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u044b, \u043a\u0440\u043e\u043c\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0431\u0446\u0430 \u043a\u043b\u0430\u0441\u0441\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432     for attr in df_n.columns[:-1]:         # \u0421\u043e\u0437\u0434\u0430\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0445\u0440\u0430\u043d\u0438\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438 \u043f\u0440\u0438 \u0432\u0435\u0442\u0432\u043b\u0435\u043d\u0438\u0438 \u0441 \u044d\u0442\u0438\u043c \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u043c,         # \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u043e\u0441\u043b\u0435 \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u0435\u043d\u0438\u044f \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f.         attrs[attr] = {&quot;entropy&quot;:0,&quot;dfs&quot;:[],&quot;values&quot;:[]}         # \u0418\u0441\u0441\u043b\u0435\u0434\u0443\u0435\u043c \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u044d\u0442\u043e\u0433\u043e \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430.          # \u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, sorted \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u043e\u0442\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043f\u043e\u0440\u044f\u0434\u043a\u0430 \u043c\u0430\u0441\u0441\u0438\u0432\u0430,          # \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0431\u044b\u043b\u0438 \u0443\u0434\u0430\u043b\u0435\u043d\u044b \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u0435\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432, \u043f\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u043c \u0435\u0433\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438.         for value in sorted(set(df_n[attr])):             # \u0424\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430             df_m = df_n.query(attr+&quot;=='&quot;+value+&quot;'&quot;)             # \u0412\u044b\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044e, \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e\u0445\u0440\u043d\u0430\u044f\u0435\u043c             attrs[attr][&quot;entropy&quot;] += entropy(df_m.iloc[:,-1])*df_m.shape[0]\/df_n.shape[0]             attrs[attr][&quot;dfs&quot;] += [df_m]             attrs[attr][&quot;values&quot;] += [value]             pass         pass     # \u0415\u0441\u043b\u0438 \u043d\u0435 \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043d\u0438 \u043e\u0434\u043d\u043e\u0433\u043e \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430, \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u043e\u0436\u043d\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c,      # \u043f\u0440\u0435\u0440\u044b\u0432\u0430\u0435\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430.     if len(attrs)==0:         continue     # \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0430\u0442\u0440\u0438\u0431\u0443\u0442 \u0441 \u043d\u0430\u0438\u043c\u0435\u043d\u044c\u0448\u0438\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u044d\u043d\u0442\u0440\u043e\u043f\u0438\u0438     attr = min(attrs,key=lambda x:attrs[x][&quot;entropy&quot;])     # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u0430\u0436\u0434\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u0430     # \u0438 \u0434\u0430\u043d\u043d\u044b\u0435, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043f\u043e\u0441\u043b\u0435 \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u0435\u043d\u0438\u044f, \u0432 \u043d\u0430\u0448\u0435 \u0434\u0435\u0440\u0435\u0432\u043e \u0438 \u0432 open.     for d,v in zip(attrs[attr][&quot;dfs&quot;],attrs[attr][&quot;values&quot;]):         m = {&quot;name&quot;:attr+&quot;=&quot;+v,&quot;edges&quot;:[],&quot;df&quot;:d.drop(columns=attr)}         n[&quot;edges&quot;].append(m)         open.append(m)     pass  # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0434\u0430\u0442\u0430 \u0441\u0435\u0442 print(df0,&quot;\\n-------------&quot;) # \u041c\u0435\u0442\u043e\u0434 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u0435\u0440\u0435\u0432\u0430 \u0432 \u0441\u0438\u043c\u0432\u043e\u043b\u044b, \u0430\u0440\u0433\u0443\u043c\u0435\u0442\u044b - tree:\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0440\u0435\u0432\u0430, # indent:\u043f\u0440\u0438\u0441\u043e\u0435\u0434\u0438\u043d\u044f\u0439\u043c\u044b\u0439 \u043a \u0434\u043e\u0447\u0435\u0440\u043d\u0435\u043c\u0443 \u0443\u0437\u043b\u0443 indent, # \u0412\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 - \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u0440\u0435\u0432\u0430. # \u042d\u0442\u043e\u0442 \u043c\u0435\u0442\u043e\u0434 \u0432\u044b\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0440\u0435\u043a\u0443\u0440\u0441\u0438\u0432\u043d\u043e \u0434\u043b\u044f \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0434\u0435\u0440\u0435\u0432\u0435 \u0432 \u0441\u0438\u043c\u0432\u043e\u043b\u044b. def tstr(tree,indent=&quot;&quot;):     # \u0421\u043e\u0437\u0434\u0430\u0435\u043c \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430.     # \u0415\u0441\u043b\u0438 \u044d\u0442\u043e\u0442 \u0443\u0437\u0435\u043b \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0438\u0441\u0442\u043e\u0432\u044b\u043c \u0443\u0437\u043b\u043e\u043c (\u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043e\u0432 \u0432 \u043c\u0430\u0441\u0441\u0438\u0432\u0435 \u0440\u0435\u0431\u0435\u0440 \u0440\u0430\u0432\u043d\u043e 0),      # \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u0441\u0442\u043e\u043b\u0431\u0446\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 df, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0445 \u0441 \u0434\u0435\u0440\u0435\u0432\u043e\u043c, \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0441\u0438\u043c\u0432\u043e\u043b\u044b.     s = indent+tree[&quot;name&quot;]+str(cstr(tree[&quot;df&quot;].iloc[:,-1]) if len(tree[&quot;edges&quot;])==0 else &quot;&quot;)+&quot;\\n&quot;     # \u0417\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u0435\u043c \u0432\u0441\u0435 \u0432\u0435\u0442\u0432\u0438 \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430.     for e in tree[&quot;edges&quot;]:         # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u043e\u0447\u0435\u0440\u043d\u0435\u0433\u043e \u0443\u0437\u043b\u0430 \u043a \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u043c\u0443 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044e \u0440\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u0443\u0437\u043b\u0430.         # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0435\u0449\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u043a indent \u044d\u0442\u043e\u0433\u043e \u0443\u0437\u043b\u0430.         s += tstr(e,indent+&quot;  &quot;)         pass     return s # \u0412\u044b\u0432\u043e\u0434\u0438\u043c \u0434\u0440\u0435\u0432\u043e \u0432 \u0435\u0433\u043e \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0438. print(tstr(tree))<\/code><\/pre>\n<h3>1.4.2 \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/h3>\n<p>  \u0415\u0441\u043b\u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0432\u044b\u0448\u0435\u043e\u043f\u0438\u0441\u0430\u043d\u043d\u0443\u044e \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443, \u043d\u0430\u0448 Decision Tree \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432 \u0432\u0438\u0434\u0435 \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b, \u043a\u0430\u043a \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e \u043d\u0438\u0436\u0435.  <\/p>\n<pre><code class=\"bash\">decision tree \u0413\u043e\u043b\u044c\u0444 ['\u00d7:5', '\u25cb:9']   \u041f\u043e\u0433\u043e\u0434\u0430=\u042f\u0441\u043d\u043e     \u0412\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c=\u041e\u0431\u044b\u0447\u043d\u0430\u044f['\u25cb:2']     \u0412\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c=\u0412\u044b\u0441\u043e\u043a\u0430\u044f['\u00d7:3']   \u041f\u043e\u0433\u043e\u0434\u0430=\u041e\u0431\u043b\u0430\u0447\u043d\u043e['\u25cb:4']   \u041f\u043e\u0433\u043e\u0434\u0430=\u0414\u043e\u0436\u0434\u044c     \u0412\u0435\u0442\u0435\u0440=\u0415\u0441\u0442\u044c['\u00d7:2']     \u0412\u0435\u0442\u0435\u0440=\u041d\u0435\u0442['\u25cb:3'] <\/code><\/pre>\n<h3>1.4.3 \u041c\u0435\u043d\u044f\u0435\u043c \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u044b (\u043c\u0430\u0441\u0441\u0438\u0432\u044b \u0434\u0430\u043d\u043d\u044b\u0445), \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0445\u043e\u0442\u0438\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c<\/h3>\n<p>  \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043c\u0430\u0441\u0441\u0438\u0432 \u0432 \u0434\u0430\u0442\u0430 \u0441\u0435\u0442\u0435 d \u2014 \u044d\u0442\u043e \u0430\u0442\u0440\u0438\u0431\u0443\u0442 \u043a\u043b\u0430\u0441\u0441\u0430 (\u043c\u0430\u0441\u0441\u0438\u0432 \u0434\u0430\u043d\u043d\u044b\u0445, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0445\u043e\u0442\u0438\u043c \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c).  <\/p>\n<pre><code class=\"python\">d = {     &quot;\u041f\u043e\u0433\u043e\u0434\u0430&quot;:[&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;,&quot;\u044f\u0441\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u043e\u0431\u043b\u0430\u0447\u043d\u043e&quot;,&quot;\u0434\u043e\u0436\u0434\u044c&quot;],     &quot;\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430&quot;:[&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0425\u043e\u043b\u043e\u0434\u043d\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;,&quot;\u0416\u0430\u0440\u043a\u043e&quot;,&quot;\u0422\u0435\u043f\u043b\u043e&quot;],      &quot;\u0412\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c&quot;:[&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;,&quot;\u041d\u043e\u0440\u043c&quot;,&quot;\u0412\u044b\u0441\u043e\u043a\u0430\u044f&quot;],     &quot;\u0413\u043e\u043b\u044c\u0444&quot;:[&quot;\u00d7&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u25cb&quot;,&quot;\u00d7&quot;],}     # \u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043c\u0430\u0441\u0441\u0438\u0432 - \u044d\u0442\u043e \u043d\u0430\u0448\u0430 \u0446\u0435\u043b\u0435\u0432\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0449\u0430\u044f \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u043e\u0441\u043d\u043e\u0432\u044b\u0432\u0430\u044e\u0449\u0438\u0439\u0441\u044f \u043d\u0430 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445.     &quot;\u0412\u0435\u0442\u0435\u0440&quot;:[&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u0415\u0441\u0442\u044c&quot;,&quot;\u041d\u0435\u0442&quot;,&quot;\u0415\u0441\u0442\u044c&quot;], }<\/code><\/pre>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043f\u043e\u043c\u0435\u043d\u044f\u0442\u044c \u043c\u0435\u0441\u0442\u0430\u043c\u0438 \u043c\u0430\u0441\u0441\u0438\u0432\u044b \u201c\u0413\u043e\u043b\u044c\u0444\u201d \u0438 \u201c\u0412\u0435\u0442\u0435\u0440\u201d, \u043a\u0430\u043a \u0443\u043a\u0430\u0437\u0430\u043d\u043e \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0432\u044b\u0448\u0435, \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:  <\/p>\n<pre><code class=\"bash\">decision tree \u0412\u0435\u0442\u0435\u0440 ['\u0415\u0441\u0442\u044c:6', '\u041d\u0435\u0442:8']   \u0413\u043e\u043b\u044c\u0444=\u00d7     \u041f\u043e\u0433\u043e\u0434\u0430=\u044f\u0441\u043d\u043e       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0416\u0430\u0440\u043a\u043e         \u0412\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c=\u0412\u044b\u0441\u043e\u043a\u0430\u044f['\u0415\u0441\u0442\u044c:1', '\u041d\u0435\u0442:1']       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0422\u0435\u043f\u043b\u043e['\u041d\u0435\u0442:1']     \u041f\u043e\u0433\u043e\u0434\u0430=\u0414\u043e\u0436\u0434\u044c['\u0415\u0441\u0442\u044c:2']   \u0413\u043e\u043b\u044c\u0444=\u25cb     \u041f\u043e\u0433\u043e\u0434\u0430=\u044f\u0441\u043d\u043e       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0422\u0435\u043f\u043b\u043e['\u0415\u0441\u0442\u044c:1']       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0425\u043e\u043b\u043e\u0434\u043d\u043e['\u041d\u0435\u0442:1']     \u041f\u043e\u0433\u043e\u0434\u0430=\u043e\u0431\u043b\u0430\u0447\u043d\u043e       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0416\u0430\u0440\u043a\u043e['\u041d\u0435\u0442:2']       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0422\u0435\u043f\u043b\u043e['\u0415\u0441\u0442\u044c:1']       \u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430=\u0425\u043e\u043b\u043e\u0434\u043d\u043e['\u0415\u0441\u0442\u044c:1']     \u041f\u043e\u0433\u043e\u0434\u0430=\u0414\u043e\u0436\u0434\u044c['\u041d\u0435\u0442:3']<\/code><\/pre>\n<p>  \u041f\u043e \u0441\u0443\u0442\u0438, \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0435\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0441\u043e\u043e\u0431\u0449\u0430\u0435\u043c \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0435, \u0447\u0442\u043e \u0440\u0430\u0437\u0432\u0435\u0442\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043d\u0443\u0436\u043d\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e \u043d\u0430\u043b\u0438\u0447\u0438\u044e \u0438 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u044e \u0432\u0435\u0442\u0440\u0430 \u0438 \u043f\u043e \u0442\u043e\u043c\u0443, \u0438\u0434\u0435\u043c \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444 \u0438\u043b\u0438 \u043d\u0435\u0442.<\/p>\n<p>  <i>\u0421\u043f\u0430\u0441\u0438\u0431\u043e \u0437\u0430 \u043f\u0440\u043e\u0447\u0442\u0435\u043d\u0438\u0435!<br \/>  \u041c\u044b \u0431\u0443\u0434\u0435\u043c \u043e\u0447\u0435\u043d\u044c \u0440\u0430\u0434\u044b, \u0435\u0441\u043b\u0438 \u0432\u044b \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0435\u0442\u0435 \u043d\u0430\u043c, \u043f\u043e\u043d\u0440\u0430\u0432\u0438\u043b\u0430\u0441\u044c \u043b\u0438 \u0432\u0430\u043c \u0434\u0430\u043d\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f, \u043f\u043e\u043d\u044f\u0442\u0435\u043d \u043b\u0438 \u043f\u0435\u0440\u0435\u0432\u043e\u0434, \u0431\u044b\u043b\u0430 \u043b\u0438 \u043e\u043d\u0430 \u0432\u0430\u043c \u043f\u043e\u043b\u0435\u0437\u043d\u0430?<\/i><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/post\/517556\/\"> https:\/\/habr.com\/ru\/post\/517556\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/post\/517556\/\">\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e \u0432\u0430\u0448\u0435\u043c\u0443 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044e \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0441\u0442\u0430\u0442\u044c\u0438 &quot;<a href=\"https:\/\/qiita.com\/toyohisa\/items\/ab60d3eab11730f156da\" rel=\"nofollow\">Python\u30670\u304b\u3089\u30c7\u30a3\u30b7\u30b8\u30e7\u30f3\u30c4\u30ea\u30fc\u3092\u4f5c\u3063\u3066\u7406\u89e3\u3059\u308b\u3000\uff081. \u6982\u8981\u7de8\uff09<\/a>&quot;.<\/p>\n<h2>1.1 \u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 Decision Tree?<\/h2>\n<p>  <\/p>\n<h3>1.1.1 \u041f\u0440\u0438\u043c\u0435\u0440 Decision Tree<\/h3>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043d\u0430\u0431\u043e\u0440 \u0434\u0430\u043d\u043d\u044b\u0445 (\u0434\u0430\u0442\u0430 \u0441\u0435\u0442): \u043f\u043e\u0433\u043e\u0434\u0430, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430, \u0432\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c, \u0432\u0435\u0442\u0435\u0440, \u0438\u0433\u0440\u0430 \u0432 \u0433\u043e\u043b\u044c\u0444. \u0412 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u043f\u043e\u0433\u043e\u0434\u044b \u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0433\u043e, \u043c\u044b \u0445\u043e\u0434\u0438\u043b\u0438 (\u3007) \u0438\u043b\u0438 \u043d\u0435 \u0445\u043e\u0434\u0438\u043b\u0438 (\u00d7) \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444. \u041f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c 14 \u0441\u043b\u043e\u0436\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432. <br \/>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/kj\/ju\/he\/kjjuhecaqm8hbn4rhw8eetvmize.png\"><br \/>  \u0418\u0437 \u044d\u0442\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 \u0434\u0430\u043d\u043d\u044b\u0445, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0449\u0443\u044e, \u0432 \u043a\u0430\u043a\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043c\u044b \u0448\u043b\u0438 \u043d\u0430 \u0433\u043e\u043b\u044c\u0444. \u0422\u0430\u043a\u0430\u044f \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0438\u0437-\u0437\u0430 \u0441\u0432\u043e\u0435\u0439 \u0432\u0435\u0442\u0432\u0438\u0441\u0442\u043e\u0439 \u0444\u043e\u0440\u043c\u044b \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f Decision Tree.<br \/>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hr\/oc\/zm\/hroczm8xstzgrjyvvindwbd72z4.jpeg\"><br \/>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 Decision Tree, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u0432\u044b\u0448\u0435, \u043c\u044b \u043f\u043e\u0439\u043c\u0435\u043c, \u0447\u0442\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u043f\u043e\u0433\u043e\u0434\u0443. \u0415\u0441\u043b\u0438 \u0431\u044b\u043b\u043e \u044f\u0441\u043d\u043e, \u043c\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u0432\u043b\u0430\u0436\u043d\u043e\u0441\u0442\u044c: \u0435\u0441\u043b\u0438 \u043e\u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u0430\u044f, \u0442\u043e \u043d\u0435 \u0448\u043b\u0438 \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444, \u0435\u0441\u043b\u0438 \u043d\u0438\u0437\u043a\u0430\u044f \u2014 \u0448\u043b\u0438. \u0410 \u0435\u0441\u043b\u0438 \u043f\u043e\u0433\u043e\u0434\u0430 \u0431\u044b\u043b\u0430 \u043e\u0431\u043b\u0430\u0447\u043d\u0430\u044f, \u0442\u043e \u0448\u043b\u0438 \u0438\u0433\u0440\u0430\u0442\u044c \u0432 \u0433\u043e\u043b\u044c\u0444 \u0432\u043d\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u0439.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-309340","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/309340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=309340"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/309340\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=309340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=309340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=309340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}