{"id":370893,"date":"2024-05-21T04:35:57","date_gmt":"2024-05-21T04:35:57","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=370893"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=370893","title":{"rendered":"\u0412\u044b\u0436\u0438\u043c\u0430\u0435\u043c \u0438\u0437 Random Forest \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c: \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u043c \u043f\u043e\u043b\u043d\u043e\u0442\u0443 \u043f\u0440\u0438 100% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438<\/span>"},"content":{"rendered":"
<\/div>\n
\n
\n
\n
\n

\u0411\u044b\u043b\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430: \u043f\u043e \u0442\u0430\u0431\u043b\u0438\u0447\u043d\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0435 \u0441\u043e\u0431\u044b\u0442\u0438\u0435 \u2014 \u0441\u043b\u0443\u0447\u0438\u0442\u0441\u044f \u0438\u043b\u0438 \u043d\u0435\u0442. \u0418 \u043a\u0430\u043a \u0431\u044b \u044f \u043a \u044d\u0442\u0438\u043c \u0434\u0430\u043d\u043d\u044b\u043c \u043d\u0438 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u043b\u0441\u044f, \u0441 \u043a\u0430\u043a\u043e\u0433\u043e \u0440\u0430\u043a\u0443\u0440\u0441\u0430 \u043d\u0438 \u0441\u043c\u043e\u0442\u0440\u0435\u043b, \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u0443\u0432\u044b, \u043d\u0435 \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u043b. \u0414\u0430\u043d\u043d\u044b\u0445 \u0431\u044b\u043b\u043e \u043c\u0430\u043b\u043e, \u0430 \u0442\u043e, \u0447\u0442\u043e \u0431\u044b\u043b\u043e, \u043e\u0431\u043b\u0430\u0434\u0430\u043b\u043e \u0441\u043b\u0430\u0431\u043e\u0439 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0438\u043b\u043e\u0439. \u0425\u043e\u0442\u044f \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0447\u0442\u043e-\u0442\u043e \u0432\u044b\u0442\u0430\u0449\u0438\u0442\u044c \u0432\u0441\u0435-\u0442\u0430\u043a\u0438 \u043c\u043e\u0436\u043d\u043e.<\/p>\n

\u0418 \u0432\u043e\u0442, \u043f\u0440\u043e\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u0435\u0440\u0435\u0432\u044c\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u0439, \u043c\u0435\u043d\u044f \u043e\u0441\u0435\u043d\u0438\u043b\u043e \u2014 \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u044e-\u043a\u0430 \u044f \u043e\u0431\u0440\u0435\u0437\u0430\u0442\u044c \u0432\u0441\u0435 \u0434\u0435\u0440\u0435\u0432\u044c\u044f, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0435 \u0432 Random Forest, \u0434\u043e \u043e\u0434\u043d\u043e\u0439, \u043d\u043e \u0441\u0430\u043c\u043e\u0439 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0439 \u0432\u0435\u0442\u043a\u0438. \u0418 \u2014 \u043e \u0447\u0443\u0434\u043e! \u2014 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u044b\u0440\u043e\u0441\u043b\u0430 \u043a\u0430\u043a \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c (precision), \u0442\u0430\u043a \u0438 \u043f\u043e\u043b\u043d\u043e\u0442\u0430 (recall).\u00a0\u0418 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043f\u043e\u043b\u043d\u043e\u0442\u0430 \u0432\u044b\u0440\u043e\u0441\u043b\u0430 \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u0438\u0445 \u0443\u0440\u043e\u0432\u043d\u044f\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n

\u041f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u044d\u0442\u043e\u0442 \u0441\u043f\u043e\u0441\u043e\u0431 \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445. \u0418 \u0432\u0435\u0437\u0434\u0435 \u043f\u0440\u0438 100% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u044b\u0440\u043e\u0441\u0442\u0430\u043b\u0430 \u043f\u043e\u043b\u043d\u043e\u0442\u0430. \u0427\u0442\u043e \u0436\u0435 \u044f \u0441\u0434\u0435\u043b\u0430\u043b?<\/p>\n

<\/figure>\n

\u0418\u0434\u0435\u044f<\/h2>\n

\u041e\u0431\u0440\u0435\u0437\u043a\u0430 \u0438\u043b\u0438 \u0441\u0442\u0440\u0438\u0436\u043a\u0430 (pruning) \u0434\u0435\u0440\u0435\u0432\u0430 \u2014 \u044d\u0442\u043e \u0441\u043f\u043e\u0441\u043e\u0431 \u0431\u043e\u0440\u044c\u0431\u044b \u0441 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c. \u041e\u0431\u044b\u0447\u043d\u043e \u0441\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0443\u043a\u0430\u0437\u0430\u043d\u0438\u044e \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u044f \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0440\u043e\u0441\u0442\u0430 (\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u0434\u0435\u0440\u0435\u0432\u0430, \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0432 \u043b\u0438\u0441\u0442\u0435 \u0438 \u0442. \u0434.).\u00a0\u042d\u0442\u043e \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u0430\u044f \u043f\u0440\u0435\u0434\u043e\u0431\u0440\u0435\u0437\u043a\u0430 (pre-pruning), \u0430 \u043f\u043e \u0441\u0443\u0442\u0438, \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0440\u043e\u0441\u0442\u0430.<\/p>\n

\u041d\u043e \u0435\u0441\u0442\u044c \u0435\u0449\u0451 \u0438 _\u0432_\u0441\u0430\u043c\u043e\u043c_\u0434\u0435\u043b\u0435\u0448\u043d\u0430\u044f_ \u043e\u0431\u0440\u0435\u0437\u043a\u0430 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u043e\u0433\u043e \u0434\u0435\u0440\u0435\u0432\u0430 (post-pruning). \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0435\u0445\u043d\u0438\u043a\u0430 minimal cost complexity pruning<\/a>. \u0412 \u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043e\u043d\u0430 \u043d\u0435 \u0434\u0430\u0432\u0430\u043b\u0430 \u043a\u0430\u043a\u0438\u0445-\u043b\u0438\u0431\u043e \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0439.<\/p>\n

\u042d\u0444\u0444\u0435\u043a\u0442 \u0436\u0435 \u0434\u0430\u043b \u0441\u043e\u0432\u0441\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442, \u0438 \u0434\u0430\u0436\u0435 \u0441\u043a\u043e\u0440\u0435\u0435 \u043d\u0435 \u043e\u0431\u0440\u0435\u0437\u043a\u0438, \u0430 \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u044b\u0434\u0435\u0440\u0433\u0438\u0432\u0430\u043d\u0438\u044f \u043e\u0434\u043d\u043e\u0439 \u0432\u0435\u0442\u043a\u0438 \u0438\u0437 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0434\u0435\u0440\u0435\u0432\u0430.<\/p>\n

\u041f\u0440\u0438\u043c\u0435\u0440 \u0434\u0435\u0440\u0435\u0432\u0430 \u0432 \u043c\u043e\u0435\u0439 \u0437\u0430\u0434\u0430\u0447\u0435:<\/p>\n

\"\u041f\u0440\u0438\u043c\u0435\u0440<\/p>\n
\u041f\u0440\u0438\u043c\u0435\u0440 \u0434\u0435\u0440\u0435\u0432\u0430 \u0440\u0435\u0448\u0435\u043d\u0438\u0439<\/figcaption><\/div>\n<\/figure>\n

\u0412\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u044b \u043a\u043b\u0430\u0441\u0441\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0445\u043e\u0440\u043e\u0448\u043e \u0432\u044b\u0434\u0435\u043b\u044f\u044e\u0442\u0441\u044f \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043f\u043e \u0441\u0430\u043c\u043e\u0439 \u043f\u0440\u0430\u0432\u043e\u0439 \u0432\u0435\u0442\u043a\u0435 (\u043b\u0438\u0441\u0442\u044c\u044f \u0441\u0438\u043d\u0435\u0433\u043e \u0446\u0432\u0435\u0442\u0430). \u0422\u0430\u043a\u0430\u044f \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u043f\u043e\u0447\u0442\u0438 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0434\u0435\u0440\u0435\u0432\u044c\u044f\u0445. \u041d\u0430 \u0442\u043e\u0442 \u043c\u043e\u043c\u0435\u043d\u0442 \u0443 \u043c\u0435\u043d\u044f \u0443\u0436\u0435 \u0431\u044b\u043b\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0438 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u0438 \u0438\u0445 \u0432\u043f\u0435\u0440\u0435\u043c\u0435\u0448\u043a\u0443 \u0441 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e, \u0447\u0442\u043e \u0432 \u043b\u0438\u0441\u0442\u0435 \u043f\u0440\u0430\u0432\u043e\u0439 \u0432\u0435\u0442\u043a\u0438 \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u0435\u0442 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430.<\/p>\n

\u0418\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u043e \u043c\u043d\u0435 \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u0432 \u043c\u0435\u043d\u044c\u0448\u0435\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u044c\u0441\u044f \u043d\u0430 \u043f\u0440\u0430\u0432\u0443\u044e \u0432\u0435\u0442\u043a\u0443 \u0438 \u0432 \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0441\u0442\u0435\u043f\u0435\u043d\u0438 \u2014 \u043d\u0430 \u043e\u0441\u0442\u0430\u0432\u0448\u0435\u0435\u0441\u044f \u0434\u0435\u0440\u0435\u0432\u043e. \u0418 \u0447\u0442\u043e \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u043a\u0443\u0447\u0443 \u0438\u0437 \u044d\u0442\u0438\u0445 \u043f\u0440\u0430\u0432\u044b\u0445 \u0432\u0435\u0442\u043e\u043a \u0431\u0435\u0437 \u043a\u0430\u043a\u0438\u0445-\u043b\u0438\u0431\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 \u043d\u0430 \u0438\u0445 \u0440\u043e\u0441\u0442, \u043f\u0443\u0441\u0442\u044c \u0442\u0430\u043c \u0432 \u043a\u043e\u043d\u0446\u0435 \u0431\u0443\u0434\u0435\u0442 \u0434\u0430\u0436\u0435 \u043e\u0434\u0438\u043d \u043e\u0431\u044a\u0435\u043a\u0442, \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u2014 \u043f\u043e\u0431\u043e\u043b\u044c\u0448\u0435 \u0441\u043e\u0431\u0440\u0430\u0442\u044c \u0442\u0430\u043a\u0438\u0445 \u0432\u0435\u0442\u043e\u043a.\u00a0<\/p>\n

\u0418 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u0432 \u043a\u0443\u0447\u0443, \u043a\u043e\u043d\u0435\u0447\u043d\u043e, \u043d\u0435 \u0432\u0441\u0435 \u0432\u0435\u0442\u043a\u0438, \u0430 \u0442\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0443\u0436\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u0435\u0442 (\u043f\u043e \u043e\u043f\u044b\u0442\u0443, \u0435\u0433\u043e \u0434\u043e\u043b\u044f \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 80%). \u0418 \u043d\u0435 \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f \u0434\u0435\u0440\u0435\u0432\u0430, \u0430 \u043d\u0430 \u043d\u043e\u0432\u044b\u0445 \u0434\u043b\u044f \u0434\u0435\u0440\u0435\u0432\u0430 \u0434\u0430\u043d\u043d\u044b\u0445, \u044d\u0442\u0430\u043a\u0438\u0439 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u0435\u0440\u0435\u043a\u0440\u0435\u0441\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438.\u00a0<\/p>\n

\u0418 \u043a\u043e\u0433\u0434\u0430 \u0443 \u043d\u0430\u0441 \u0443\u0436\u0435 \u0431\u0443\u0434\u0435\u0442 \u043a\u0443\u0447\u0430 \u043e\u0442\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0432\u0435\u0442\u043e\u043a, \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445:\u00a0\u0447\u0435\u043c \u0432 \u0431\u043e\u043b\u044c\u0448\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u0432\u0435\u0442\u043e\u043a \u043d\u043e\u0432\u044b\u0439 \u043e\u0431\u044a\u0435\u043a\u0442 \u043f\u043e\u0443\u0447\u0430\u0441\u0442\u0432\u0443\u0435\u0442, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u043d\u0435\u0441\u0435\u043d\u0438\u044f \u0435\u0433\u043e \u043a \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n

\u0412\u043e\u0442 \u0442\u0430\u043a \u043f\u0440\u043e\u0441\u0442\u043e!<\/p>\n

\u0412 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0438 \u043f\u043e\u043b\u043d\u043e\u0442\u044b \u0434\u043b\u044f Random Forest \u0438 \u00ab\u043a\u0443\u0447\u0438 \u0432\u0435\u0442\u043e\u043a\u00bb:<\/p>\n

\"\u041a\u0440\u0438\u0432\u044b\u0435<\/p>\n
\u041a\u0440\u0438\u0432\u044b\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0438 \u043f\u043e\u043b\u043d\u043e\u0442\u044b \u0434\u043b\u044f Random Forest \u0438 Random Branch<\/figcaption><\/div>\n<\/figure>\n

\u0421\u043f\u043e\u0441\u043e\u0431 \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438\u043c\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u043d\u043e\u0442\u044b \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u0438\u0445 \u0443\u0440\u043e\u0432\u043d\u044f\u0445 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438, \u0442. \u0435. \u0432 \u043b\u0435\u0432\u043e\u0439 \u0432\u0435\u0440\u0445\u043d\u0435\u0439 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0433\u0440\u0430\u0444\u0438\u043a\u0430. \u041e\u043d\u043e \u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0432\u0435\u0434\u044c \u0441\u0430\u043c\u0438\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u043e\u0431\u0440\u0435\u0437\u043a\u0438 \u043c\u044b \u043a\u043e\u043d\u0446\u0435\u043d\u0442\u0440\u0438\u0440\u0443\u0435\u043c\u0441\u044f \u043d\u0430 \u044d\u0442\u043e\u0439 \u043e\u0431\u043b\u0430\u0441\u0442\u0438. \u041d\u043e \u0431\u0443\u0434\u0435\u0442 \u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0441 \u043e\u0431\u044b\u0447\u043d\u044b\u043c\u0438 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430\u043c\u0438, \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u043a \u0441\u0442\u044d\u043a\u0438\u043d\u0433 \u0432\u044b\u0445\u043e\u0434\u043e\u0432 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043a\u0430\u043a \u0432 \u043c\u043e\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435? <\/p>\n

\u041e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0434\u0430!\u00a0\u041f\u0440\u0438\u0447\u0435\u043c,\u00a0\u043a\u0430\u043a \u0438 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u0441 Random Forest, \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438, \u0432 \u0447\u0435\u043c \u043c\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u0438 \u0443\u0431\u0435\u0434\u0438\u043c\u0441\u044f.<\/p>\n

\u041d\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0435\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c \u0441\u0430\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u0431\u0440\u0435\u0437\u043a\u0438.<\/p>\n

Random Branch<\/h2>\n

\u041a\u043b\u0430\u0441\u0441 RandomBranchClassifier \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u043b\u044f \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0442\u0430\u043a\u0436\u0435, \u043a\u0430\u043a RandomForestClassifier.<\/p>\n

\n\u041a\u043e\u0434 \u043a\u043b\u0430\u0441\u0441\u0430 RandomBranchClassifier<\/summary>\n
\n
import re import numpy as np import pandas as pd from sklearn import tree from sklearn.base import BaseEstimator, ClassifierMixin from sklearn.metrics import precision_score from sklearn.model_selection import train_test_split from rich.progress import track  class RandomBranchClassifier(BaseEstimator, ClassifierMixin):     def __init__(self, n_estimators = 4000, max_features = 14, dataset_size = None,                  pruning_type = 'max_right', leaf_threshold = 0.8,                  include_left = False, min_positive = 0,                  tree_apply = 'cv', cv_size = 0.5, cv_stratify = False, cv_prec_threshold = 0,                  criterion = 'entropy', splitter = 'best', min_samples_leaf = 1, max_depth = None,                  min_samples_split = 2, max_leaf_nodes = None, min_weight_fraction_leaf = 0,                  plot_trees = False, feature_names = None, remove_duplicates = 'n'):                  self.n_estimators = n_estimators         self.max_features = max_features         self.dataset_size = dataset_size                  self.pruning_type = pruning_type          self.leaf_threshold = leaf_threshold                  self.include_left = include_left         self.min_positive = min_positive                  self.tree_apply = tree_apply          self.cv_size = cv_size         self.cv_stratify = cv_stratify         self.cv_prec_threshold = cv_prec_threshold          self.criterion = criterion          self.splitter = splitter          self.min_samples_leaf = min_samples_leaf         self.max_depth = max_depth         self.min_samples_split = min_samples_split         self.max_leaf_nodes = max_leaf_nodes         self.min_weight_fraction_leaf = min_weight_fraction_leaf                  self.plot_trees = plot_trees         self.feature_names = feature_names         self.remove_duplicates = remove_duplicates          self.features = []         self.conditions = []         self.conditions_a = []         self.conditions_b = []          self.tree_children_left = []         self.tree_children_right = []         self.tree_feature = []         self.tree_threshold = []                  self.feature_count = []         self.nbranches = []               def fit(self, X, y):                  if not isinstance(X, pd.DataFrame):             X = pd.DataFrame(X)                      if not isinstance(y, pd.Series):             y = pd.Series(y)                      if self.dataset_size != None:                          if self.dataset_size < 1:                 self.dataset_size = round(len(y)*self.dataset_size)             X = X.iloc[:self.dataset_size,:]             y = y[:self.dataset_size]                  if self.feature_names != None:             self.features = self.feature_names         else:             self.features = X.columns                       self.feature_count = [0] * len(self.features)          for i in track(range(self.n_estimators), description=\"Processing...\"):                           random_features = np.random.choice(len(self.features), size=self.max_features, replace=False)             selected_features = [self.features[idx] for idx in random_features]                          if self.cv_stratify == True:                 x_train, x_cv, y_train, y_cv = train_test_split(                     X[selected_features], y, test_size=self.cv_size, random_state=i, stratify = y)             else:                 x_train, x_cv, y_train, y_cv = train_test_split(                     X[selected_features], y, test_size=self.cv_size, random_state=i)                          clf = tree.DecisionTreeClassifier(criterion=self.criterion, min_samples_leaf=self.min_samples_leaf,                                               max_depth = self.max_depth,                                               min_weight_fraction_leaf = self.min_weight_fraction_leaf,                                               max_leaf_nodes = self.max_leaf_nodes,                                               min_samples_split = self.min_samples_split,                                               splitter = self.splitter)                          clf.fit(x_train, y_train)                          if self.tree_apply == 'cv':                 leave_id = clf.apply(x_cv)                 y_for_metrics = y_cv.to_list()             else:                 leave_id = clf.apply(x_train)                  y_for_metrics = y_train.to_list()                          self.tree_children_left = clf.tree_.children_left             self.tree_children_right = clf.tree_.children_right             self.tree_feature = clf.tree_.feature             self.tree_threshold = clf.tree_.threshold                          paths = {}             for leaf in np.unique(leave_id):                 path_leaf = []                 self.find_path(0, path_leaf, leaf)                 paths[leaf] = np.unique(np.sort(path_leaf))                              rules = {}             for key in paths:                 rules[key] = self.get_rule(paths[key], selected_features)                                          y_pred = clf.predict(x_cv)             cv_prec_score = precision_score(y_cv, y_pred)                                      df_metrics = pd.DataFrame({'leave_id': leave_id, 'y': y_for_metrics})             df_metrics = df_metrics.groupby('leave_id').agg(positive=('y', 'sum'), total=('y', 'count')).reset_index()             df_metrics['precision'] = df_metrics['positive'] \/ df_metrics['total']             df_metrics.loc[df_metrics.positive < self.min_positive,'positive'] = 0             df_metrics['custome_score'] = (df_metrics['precision'] > self.leaf_threshold).astype(int) * df_metrics['positive']                          if self.pruning_type == 'max_right' or self.pruning_type == 'max':                                   if cv_prec_score >= self.cv_prec_threshold and df_metrics.iloc[df_metrics['custome_score'].idxmax(), 4] != 0:                     self.conditions.append(rules[df_metrics.iloc[df_metrics['custome_score'].idxmax(), 0].item()])                                      elif self.pruning_type == 'right' or self.pruning_type == 'all':                                    for j in range(len(rules)):                       leaf_ratio = df_metrics.loc[df_metrics['leave_id'] == list(rules)[j],'precision'].item()                     leaf_positive_count = df_metrics.loc[df_metrics['leave_id'] == list(rules)[j],'positive'].item()                     if leaf_positive_count > self.min_positive and leaf_ratio >= self.leaf_threshold and cv_prec_score >= self.cv_prec_threshold:                         self.conditions.append(rules[list(rules)[j]])              else:                                  print(\"Error: please choose correct pruning type\")                 return None                                                       if self.plot_trees == True:                 x_size = round(clf.tree_.node_count \/ 2)                 plt.figure(figsize=(x_size,12))                  tree.plot_tree(clf, fontsize=7, feature_names=selected_features, filled = True)                 plt.show()                      if self.pruning_type == 'max_right' or self.pruning_type == 'right':                            if self.include_left == True:                 left_conditions = [item for item in self.conditions if \">\" not in item]                 self.conditions = [item for item in self.conditions if \"<\" not in item]                 self.conditions.extend(left_conditions)             else:                 self.conditions = [item for item in self.conditions if \"<\" not in item]                  for string in self.conditions:             self.feature_count = [count + res for count, res in zip(                 self.feature_count, self.count_features_in_conditions(self.features, string))]                           self.conditions_a = list(set(self.conditions))         self.conditions_b = self.remove_duplicates_from_conditions(self.conditions)                  if self.remove_duplicates == 'a':             self.conditions = self.conditions_a                          if self.remove_duplicates == 'b':             self.conditions = self.conditions_b                  self.nbranches = len(self.conditions)         return self          def predict(self, X, threshold = 0.2, remove_duplicates = 'n', exclude = 'use_feature_name'):           y_proba = self.predict_proba(X, remove_duplicates = remove_duplicates, exclude = exclude)         y_pred = np.where(y_proba[:, 1] >= threshold, 1, 0)         return y_pred      def predict_proba(self, X, remove_duplicates = 'n', exclude = 'use_feature_name'):                  if remove_duplicates == 'a':             conditions = self.conditions_a         elif remove_duplicates == 'b':              conditions = self.conditions_b         else:             conditions = self.conditions                  d = 0         predictions = np.zeros((X.shape[0], 2))         df = X         df['count'] = 0         for i in range(len(conditions)):             if (len(conditions[i]) > 0) and (exclude not in conditions[i]):                 d += 1                 df.loc[eval(conditions[i]),'count'] += 1          predictions[:, 1] = df['count'] \/ d         predictions[:, 0] = 1 - predictions[:, 1]                  return predictions          def find_path(self, node_numb, path, x):         path.append(node_numb)         if node_numb == x:             return True         left = False         right = False         if (self.tree_children_left[node_numb] !=-1):             left = self.find_path(self.tree_children_left[node_numb], path, x)         if (self.tree_children_right[node_numb] !=-1):             right = self.find_path(self.tree_children_right[node_numb], path, x)         if left or right :             return True         path.remove(node_numb)         return False          def get_rule(self, path, column_names):         mask = ''         for index, node in enumerate(path):             if index!=len(path)-1:                 if (self.tree_children_left[node] == path[index+1]):                     mask += \"(df['{}']<= {}) \\t \".format(column_names[self.tree_feature[node]], self.tree_threshold[node])                 else:                     mask += \"(df['{}']> {}) \\t \".format(column_names[self.tree_feature[node]], self.tree_threshold[node])         mask = mask.replace(\"\\t\", \"&\", mask.count(\"\\t\") - 1)         mask = mask.replace(\"\\t\", \"\")         return mask          def count_features_in_conditions(self, features, condition):         feature_counts = []          for feature in features:             pattern = r'\\b{}\\b'.format(feature)               matches = re.findall(pattern, condition)               feature_counts.append(len(set(matches)))            return feature_counts          def remove_duplicates_from_conditions(self, lst):         pattern = r\"df\\['(.*?)'\\]\"         extracted_lst = []         duplicates = set()         unique_lst = []                  for item in lst:             match = re.findall(pattern, item)             extracted_str = \" \".join(match)             extracted_lst.append(extracted_str)                          if extracted_str in unique_lst:                 duplicates.add(len(extracted_lst) - 1)             else:                 unique_lst.append(extracted_str)                  filtered_lst = [item for i, item in enumerate(lst) if i not in duplicates]         return filtered_lst<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n
\u0422\u0440\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430 \u2014 \u044d\u0442\u043e pruning_type<\/strong> (\u0442\u0438\u043f \u043e\u0431\u0440\u0435\u0437\u043a\u0438), leaf_threshold<\/strong> (\u043f\u043e\u0440\u043e\u0433 \u0434\u043e\u043b\u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0432 \u043b\u0438\u0441\u0442\u0435 \u0432\u0435\u0442\u043a\u0438) \u0438 min_positive<\/strong> (\u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0432 \u043b\u0438\u0441\u0442\u0435 \u0432\u0435\u0442\u043a\u0438).<\/p>\n
\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 pruning_type<\/strong> \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c right<\/strong>, max_right<\/strong>, max<\/strong> \u0438\u043b\u0438 all<\/strong>.<\/p>\n
pruning_type = 'right'<\/code> \u2014 \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u0442\u043e, \u0447\u0442\u043e \u044f \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u043b \u0432\u044b\u0448\u0435. \u0411\u0435\u0440\u0451\u043c \u0432\u0441\u0435 \u043f\u0440\u0430\u0432\u044b\u0435 \u0432\u0435\u0442\u043a\u0438 (\u0432 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u043d\u0430\u043a \u00ab>\u00bb), \u0432 \u043b\u0438\u0441\u0442\u0435 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u043e\u043b\u044f \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0432\u044b\u0448\u0435\u00a0leaf_threshold \u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043a\u043b\u0430\u0441\u0441\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 min_positive.<\/p>\n
pruning_type = 'max_right'<\/code> \u2014 \u044d\u0442\u043e \u0442\u043e\u0436\u0435 \u0441\u0430\u043c\u043e\u0435, \u0447\u0442\u043e \u0438 ‘right’, \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u0432\u0435\u0442\u043a\u0443 \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u0435: \u0431\u0435\u0440\u0435\u043c \u043f\u0440\u0430\u0432\u0443\u044e \u0432\u0435\u0442\u043a\u0443, \u0435\u0441\u043b\u0438 \u0432 \u0435\u0451 \u043b\u0438\u0441\u0442\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0441\u0435\u0433\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0441\u0440\u0435\u0434\u0438 \u0432\u0441\u0435\u0445 \u043b\u0438\u0441\u0442\u044c\u0435\u0432, \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u044e\u0449\u0438\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u044e \u0434\u043e\u043b\u0438 \u0438 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043d\u0430\u043b\u0438\u0447\u0438\u044f \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432.\u00a0\u041f\u0440\u043e\u0449\u0435 \u0433\u043e\u0432\u043e\u0440\u044f, \u043f\u0440\u0430\u0432\u0430\u044f \u0432\u0435\u0442\u043a\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043b\u043e\u0434\u043e\u0432\u0438\u0442\u043e\u0439 \u043d\u0430 \u043d\u0430\u0448 \u043a\u043b\u0430\u0441\u0441, \u043d\u043e \u0438 \u0441\u0430\u043c\u043e\u0439 \u043e\u0431\u0438\u043b\u044c\u043d\u043e\u0439 \u0438\u0437 \u0432\u0441\u0435\u0445 \u043f\u043b\u043e\u0434\u043e\u0432\u0438\u0442\u044b\u0445 \u0432 \u0434\u0435\u0440\u0435\u0432\u0435.\u00a0\u042d\u0442\u043e\u0442 \u0442\u0438\u043f \u043e\u0431\u0440\u0435\u0437\u043a\u0438 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0435\u0449\u0451 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u0435\u0435, \u0447\u0435\u043c ‘right’. \u041e\u043d \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u0441\u0435\u043a\u0430\u0435\u0442, \u043f\u0443\u0441\u0442\u044c \u0438 \u0443\u0434\u043e\u0432\u043b\u0435\u0442\u0432\u043e\u0440\u044f\u044e\u0449\u0438\u0435 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u044e \u0434\u043e\u043b\u0438, \u043d\u043e \u0441\u043b\u0430\u0431\u044b\u0435 \u0432\u0435\u0442\u043a\u0438.<\/p>\n
\"\u0412\u0435\u0442\u043a\u0430<\/p>\n
\u0412\u0435\u0442\u043a\u0430 \u0434\u043b\u044f max_right<\/figcaption><\/div>\n<\/figure>\n
pruning_type = 'max'<\/code> \u2014 \u0438\u0437 \u0432\u0441\u0435\u0445 \u0432\u0435\u0442\u043e\u043a \u0432 \u0434\u0435\u0440\u0435\u0432\u0435, \u0432 \u043b\u0438\u0441\u0442\u0435 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u043e\u043b\u044f \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0432\u044b\u0448\u0435\u00a0leaf_threshold, \u0431\u0435\u0440\u0451\u043c \u0442\u0443, \u0432 \u043b\u0438\u0441\u0442\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0439\u00a0\u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043a\u043b\u0430\u0441\u0441\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0438 \u0431\u043e\u043b\u044c\u0448\u0435 min_positive. \u0422.\u0435. \u044d\u0442\u043e \u043a\u0430\u043a ‘max_right’, \u0442\u043e\u043b\u044c\u043a\u043e \u0431\u0435\u0437 ‘right’.<\/p>\n
pruning_type = 'all'<\/code> \u2014 \u044d\u0442\u043e \u0432\u0441\u0435 \u0432\u0435\u0442\u043a\u0438 \u0434\u0435\u0440\u0435\u0432\u0430, \u0432 \u043b\u0438\u0441\u0442\u0435 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u043e\u043b\u044f \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0432\u044b\u0448\u0435\u00a0leaf_threshold \u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043a\u043b\u0430\u0441\u0441\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 min_positive. \u0415\u0441\u043b\u0438 leaf_threshold = 0 \u0438 min_positive = 0, \u0442\u043e \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0432\u0441\u0435 \u0432\u0435\u0442\u043a\u0438 \u0432\u0441\u0435\u0445 \u0434\u0435\u0440\u0435\u0432\u044c\u0435\u0432. \u041d\u043e \u0432\u0441\u0435 \u0432\u0435\u0442\u043a\u0438 \u0432\u0441\u0435\u0445 \u0434\u0435\u0440\u0435\u0432\u044c\u0435\u0432 \u043d\u0435 \u0434\u0435\u043b\u0430\u044e\u0442 Random Branch \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u043c Random Forest, \u0442\u0430\u043a \u043a\u0430\u043a \u0443 Random Branch \u0438\u043d\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f. \u042d\u0442\u043e\u0442 \u0442\u0438\u043f \u043e\u0431\u0440\u0435\u0437\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u0435\u0441\u043b\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u00a0min_positive.<\/p>\n
\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u044f min_positive \u043d\u0435<\/strong> \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u043d\u0430 \u0440\u043e\u0441\u0442 \u0434\u0435\u0440\u0435\u0432\u0430 (min_samples_leaf). \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f min_positive, \u043c\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u0441 \u0443\u0436\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u043c \u0434\u0435\u0440\u0435\u0432\u043e\u043c. \u0418 \u043d\u0435 \u0431\u0435\u0440\u0451\u043c \u0432\u0435\u0442\u043a\u0443, \u0435\u0441\u043b\u0438 \u0432 \u0435\u0451 \u043b\u0438\u0441\u0442\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430, \u0447\u0435\u043c \u0437\u0430\u0434\u0430\u043d\u043e min_positive.<\/p>\n
\u0412 \u0446\u0435\u043b\u043e\u043c, \u043f\u043e \u043e\u043f\u044b\u0442\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447, \u0441\u0430\u043c\u044b\u0439 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0438 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u2014 max_right, \u043f\u043e\u0442\u043e\u043c right. \u0412\u0430\u0440\u0438\u0430\u043d\u0442\u044b ‘max’ \u0438 ‘all’ \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b. \u0425\u043e\u0442\u044f \u0432\u0430\u0440\u0438\u0430\u043d\u0442 ‘all’ \u0432 \u0441\u043e\u0447\u0435\u0442\u0430\u043d\u0438\u0438 \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c min_positive \u0442\u043e\u0436\u0435 \u043d\u0435\u043f\u043b\u043e\u0445.<\/p>\n
\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e \u0434\u0435\u0444\u043e\u043b\u0442\u0443 pruning_type = 'max_right',\u00a0leaf_threshold = 0.8, min_positive = 0<\/code>.<\/p>\n
\u0414\u0440\u0443\u0433\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b (\u0432 \u0441\u043a\u043e\u0431\u043a\u0430\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u043e \u0434\u0435\u0444\u043e\u043b\u0442\u0443):<\/p>\n