{"id":471435,"date":"2025-08-21T09:00:30","date_gmt":"2025-08-21T09:00:30","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=471435"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=471435","title":{"rendered":"Shap-\u0433\u0440\u0430\u0444\u0438\u043a\u0438: \u043a\u0430\u043a \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043e\u0431\u044a\u044f\u0441\u043d\u0438\u0442\u044c \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0443 \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438<\/span>"},"content":{"rendered":"
<\/div>\n
\n
\n
\n
\n
<\/figure>\n

\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442. \u042f \u0410\u043d\u0434\u0440\u0435\u0439 \u0411\u043e\u044f\u0440\u0435\u043d\u043a\u043e\u0432, \u043b\u0438\u0434\u0435\u0440 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0431\u0438\u0437\u043d\u0435\u0441-\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u0442\u0440\u0438\u043c\u0430 «\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u041a\u0418\u0411 \u0438 \u0421\u041c\u0411» \u0431\u0430\u043d\u043a\u0430 \u0412\u0422\u0411.<\/p>\n

\u041d\u0430\u0448 \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430:<\/p>\n

\u00a0— \u0432\u044b\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u043d\u0438\u0435 \u0438 \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432 AutoML,<\/p>\n

\u00a0— \u0437\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043b\u044f \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432: \u041f\u041e\u0414\u0424\u0422 \\ Precollection \\ \u0416\u0426\u041a (\u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e\u0433\u043e \u0446\u0438\u043a\u043b\u0430 \u043a\u043b\u0438\u0435\u043d\u0442\u0430),<\/p>\n

\u00a0— \u0430 \u0442\u0430\u043a\u0436\u0435 \u0437\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0446\u0438\u0444\u0440\u043e\u0432\u044b\u0445 \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a\u043e\u0432 \u0434\u043b\u044f \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u043e\u0434\u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0439 \u0431\u0430\u043d\u043a\u0430,\u00a0\u0432 \u0442.\u0447. \u0440\u0438\u0441\u043a-\u0430\u043d\u0434\u0435\u0440\u0440\u0430\u0439\u0442\u0438\u043d\u0433\u0430, \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0440\u0438\u0441\u043a\u043e\u0432 \u0438 \u043a\u043e\u043c\u043f\u043b\u0430\u0435\u043d\u0441\u0430.<\/p>\n

\u0423\u0447\u0430\u0441\u0442\u0438\u0435 \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0430 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430\u0445 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0430\u0436\u043d\u044b\u043c. \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043e\u043d\u043e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u043c \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u044d\u0442\u0430\u043f\u0430\u0445:<\/p>\n

— \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0434\u0430\u0447\u0438 \u043d\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0438, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430 \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439,<\/p>\n

— \u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u0438\u0435 \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442\u0430 \u0444\u0438\u0447\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u0438 \u0438\u0445 \u0440\u0430\u0441\u0447\u0435\u0442\u0430,<\/p>\n

— \u043f\u0440\u0438\u0435\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 (\u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u044f \u043c\u0435\u0442\u0440\u0438\u043a \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u043c),<\/p>\n

— \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 \u0431\u0438\u0437\u043d\u0435\u0441-\u043b\u043e\u0433\u0438\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n

\u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0445\u043e\u0447\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a\u0438\u0435 \u043d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434 \u0442\u0438\u043f\u044b \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c,\u00a0\u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0443 \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u044f\u0445. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c, \u0447\u0442\u043e \u0446\u0435\u043b\u044c\u044e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u043d\u0435 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f,\u00a0\u0430 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c.\u00a0<\/p>\n

\u0413\u0440\u0430\u0444\u0438\u043a\u0438 \u043f\u043e\u043a\u0430\u0436\u0435\u043c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0430\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e\u0441\u044f \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 telecom_churn. \u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0435\u0433\u043e \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u043f\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c \u0441\u0441\u044b\u043b\u043a\u0430\u043c:\u00a0<\/p>\n

1.\u00a0https:\/\/www.kaggle.com\/datasets\/keyush06\/telecom-churncsv<\/a><\/p>\n

2.\u00a0https:\/\/www.kaggle.com\/datasets\/nikkitha8\/telecom-churn<\/a><\/p>\n

3.\u00a0https:\/\/www.kaggle.com\/code\/kashnitsky\/topic-1-exploratory-data-analysis-with-pandas<\/a><\/p>\n

4.\u00a0https:\/\/habr.com\/ru\/companies\/ods\/articles\/322626\/<\/a><\/p>\n

\u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0448\u0430\u0433\u0438 \u0434\u043b\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 telecom_churn \u0432 \u0446\u0435\u043b\u044f\u0445 \u0435\u0435 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f:<\/p>\n

1. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0438\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u0438\u0433\u043e\u0434\u044f\u0442\u0441\u044f \u0434\u043b\u044f \u043d\u0430\u0448\u0435\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f.<\/p>\n

2. \u0414\u0430\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0434\u0430\u0442\u0430\u0444\u0440\u0435\u0439\u043c data \u0441 \u0432\u044b\u0431\u043e\u0440\u043a\u043e\u0439 telecom_churn, \u0441\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u0443\u0435\u043c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0441\u0442\u0440\u043e\u043a \u0438 \u043f\u0440\u0438\u0441\u0432\u043e\u0438\u043c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0439 \u0442\u0438\u043f \u0434\u0430\u043d\u043d\u044b\u0445 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 churn. \u0414\u0435\u0442\u0430\u043b\u044c\u043d\u044b\u0439 EDA (Explanatory Data Analysis) \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c \u043d\u0435 \u0431\u0443\u0434\u0435\u043c, \u0442.\u043a. \u0446\u0435\u043b\u044c \u0441\u0442\u0430\u0442\u044c\u0438 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0442\u043e\u043c \u0447\u0442\u043e\u0431\u044b\u00a0\u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0434\u043b\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439.<\/p>\n

3. \u0414\u043b\u044f \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0440\u044f\u0434 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

4. \u0421\u0434\u0435\u043b\u0430\u0435\u043c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043f\u0440\u0435\u0434\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0442\u0438\u043f\u043e\u0432 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n

5. \u0421\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442 \u0444\u0438\u0447\u0435\u0439 features \u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439 cat_feat.\u00a0<\/p>\n

6. \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u0441\u043e \u0441\u0442\u0440\u0430\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u043f\u043e churn \u043d\u0430 train (75%) \u0438 test (25%) \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435.<\/p>\n

7. \u0412\u044b\u0431\u043e\u0440\u043a\u0443 train \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u043d\u0430 train (60%) \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 val (15%) \u0434\u043b\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u044f \u0440\u0430\u043d\u043d\u043e\u0439 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438.<\/p>\n

\u041a\u043e\u0434 \u043d\u0430 Python \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441 \u0432\u044b\u0431\u043e\u0440\u043a\u043e\u0439 \u0441\u043c. \u043d\u0438\u0436\u0435:<\/p>\n

import<\/strong> pandas as<\/strong> pd import<\/strong> re import<\/strong> shap import<\/strong> numpy as<\/strong> np import<\/strong> matplotlib.pyplot as<\/strong> plt import<\/strong> seaborn as<\/strong> sns from<\/strong> catboost import<\/strong> CatBoostClassifier from<\/strong> sklearn.model_selection import<\/strong> train_test_split from<\/strong> sklearn import<\/strong> preprocessing from<\/strong> sklearn.metrics import<\/strong> make_scorer, roc_auc_score from<\/strong> scipy import<\/strong> stats import<\/strong> warnings warnings.<\/strong>filterwarnings('ignore') data =<\/strong> pd.<\/strong>read_csv('telecom_churn.csv', sep=<\/strong>',') # \u0447\u0442\u0435\u043d\u0438\u0435 \u0434\u0430\u0442\u0430\u0444\u0440\u0435\u0439\u043c\u0430<\/em> data.<\/strong>columns =<\/strong> data.<\/strong>columns.<\/strong>str.<\/strong>replace(' ', '_') # \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u043a\u0430 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0439 \u0441\u0442\u0440\u043e\u043a<\/em> data['churn'] =<\/strong> data['churn'].<\/strong>map({True<\/strong>: 1, False<\/strong>: 0}).<\/strong>astype('int32') #\u0440\u0430\u0441\u0447\u0435\u0442 \u0441\u0443\u043c\u043c\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0435\u0439 \u0437\u0430 \u0432\u0441\u0435 \u0432\u0440\u0435\u043c\u044f <\/em> col_minutes =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_minutes', x)) !=<\/strong> 0] col_calls =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_calls', x)) !=<\/strong> 0] col_charge =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_charge', x)) !=<\/strong> 0] data['total_minutes'] =<\/strong> data[col_minutes].<\/strong>sum(axis=<\/strong>1) data['total_calls'] =<\/strong> data[col_calls].<\/strong>sum(axis=<\/strong>1) data['total_charge'] =<\/strong> data[col_charge].<\/strong>sum(axis=<\/strong>1) data['charge_per_minute'] =<\/strong> data['total_charge'] \/<\/strong> data['total_minutes'] #\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u043e\u0439 \u043c\u0438\u043d\u0443\u0442\u044b<\/em> data['charge_per_call'] =<\/strong> data['total_charge'] \/<\/strong> data['total_calls'] #\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0432\u043e\u043d\u043a\u0430<\/em> data['minutes_per_call'] =<\/strong> data['total_minutes'] \/<\/strong> data['total_calls'] #\u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0432\u043e\u043d\u043a\u0430<\/em> #\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0444\u0438\u0447\u0438 \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043e\u0442 3 \u0434\u043e 9 \u0432\u043a\u043b\u044e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e<\/em> for<\/strong> column in<\/strong> data.<\/strong>columns: if<\/strong> data[column].<\/strong>nunique() <<\/strong> 10 and<\/strong> data[column].<\/strong>nunique() >=<\/strong> 3: data[column] =<\/strong> data[column].<\/strong>astype('str') #\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c\u0438 \u0444\u0438\u0447\u0438 \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c 2 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043e\u043d\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0442\u0438\u043f\u0430\u043c\u0438 'object' \u0438\u043b\u0438 'bool'<\/em> bool_columns =<\/strong> [] for<\/strong> column in<\/strong> data.<\/strong>dtypes[(data.<\/strong>dtypes==<\/strong>'object')|<\/strong>(data.<\/strong>dtypes==<\/strong>'bool')].<\/strong>index: if<\/strong> data[column].<\/strong>nunique() ==<\/strong> 2: bool_columns.<\/strong>append(column) le =<\/strong> preprocessing.<\/strong>LabelEncoder() for<\/strong> column in<\/strong> bool_columns: data[column] =<\/strong> le.<\/strong>fit_transform(data[column]) # \u0434\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0441 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0435\u0439 \u0444\u0438\u0447\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043d\u0430 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0430\u0445<\/em> # \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0444\u0438\u0447\u0443 'customer_service_calls' \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u043e\u0439 (\u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u0432\u0435\u0434\u0435\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <\/em> # \u043e\u0442 'A' \u0434\u043e 'F', \u0430 \u0434\u043b\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 6 \u0438 \u0431\u043e\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e 'G' \u0432 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043f\u043e\u043f\u0430\u0434\u0435\u0442 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u0435\u0435 1% \u0432\u044b\u0431\u043e\u0440\u043a\u0438<\/em> data['customer_service_calls'] =<\/strong> data['customer_service_calls'].<\/strong>replace( {0: 'A', 1: 'B', 2: 'C', 3: 'D', 4: 'E', 5: 'F'}).<\/strong>mask(data['customer_service_calls'] >=<\/strong> 6, 'G') # \u0421\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442 \u0444\u0438\u0447\u0435\u0439 features \u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439 cat_feat (\u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 phone_number \u0438 \u0442\u0430\u0440\u0433\u0435\u0442 churn)<\/em> features =<\/strong> data.<\/strong>columns.<\/strong>to_list() features =<\/strong> [x for<\/strong> x in<\/strong> features if<\/strong> x not<\/strong> in<\/strong> ['phone_number','churn']] cat_feat =<\/strong> data.<\/strong>select_dtypes(exclude =<\/strong> [np.<\/strong>number]).<\/strong>columns.<\/strong>to_list() cat_feat =<\/strong> [x for<\/strong> x in<\/strong> cat_feat if<\/strong> x not<\/strong> in<\/strong> ['phone_number','churn']] # \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u0441\u043e \u0441\u0442\u0440\u0430\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u043f\u043e churn \u043d\u0430 \u0442\u0440\u0435\u0439\u043d(75%) \u0438 \u0442\u0435\u0441\u0442(25%) \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/em> x_train,x_test,y_train,y_test=<\/strong>train_test_split(data, data['churn'], stratify =<\/strong> data['churn'], test_size =<\/strong> 0.25, random_state=<\/strong>42) x_train,x_val,y_train,y_val=<\/strong>train_test_split(x_train, y_train, stratify =<\/strong> y_train, test_size =<\/strong> 0.20, random_state =<\/strong> 42)<\/code><\/p>\n

\u0414\u0430\u043b\u0435\u0435 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445 \u0438\u0437 \u043b\u043e\u043d\u0433\u2013\u043b\u0438\u0441\u0442\u0430 \u043e\u0431\u0443\u0447\u0438\u043c Catboost \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u0434\u0435\u0440\u0435\u0432\u044c\u0435\u0432.\u00a0\u041d\u0430\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u043f\u0438\u0441\u043a\u0430 \u043d\u0430\u0431\u043e\u043b\u0435\u0435 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0414\u0436\u0438\u043d\u0438 83,08%.<\/p>\n

\u0417\u043d\u0430\u0447\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0446\u0435\u043d\u0438\u043c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e get_feature_importance() \u0432 \u043e\u0441\u043d\u043e\u0432\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c PredictionValueChange,\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u0441\u044f \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

\u041f\u0440\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u0437\u0430\u043c\u0435\u043d\u0430 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438 \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u043a\u0435,\u00a0\u0430 \u0434\u043b\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u2014 \u043d\u0430 \u0441\u0430\u043c\u044b\u0439 \u0447\u0430\u0441\u0442\u044b\u0439 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441.<\/p>\n

\u0412\u044b\u0431\u0435\u0440\u0435\u043c \u043f\u044f\u0442\u044c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447. \u0418\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u043d\u0438\u0445 \u043c\u044b \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043c \u043d\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0434\u043b\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438.<\/p>\n

\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043f\u044f\u0442\u044c\u044e \u0441\u0430\u043c\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u043c\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c: ‘total_charge’, ‘customer_service_calls’, ‘international_plan’, ‘total_intl_calls’ \u0438 ‘number_vmail_messages’.<\/p>\n

\u0414\u043b\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u0432\u044b\u0432\u0435\u0434\u0435\u043c \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0443 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445.\u00a0\u0421\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 describe \u0441 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439 \u0434\u043b\u044f \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438.<\/p>\n

\u041a\u043e\u0434 \u043d\u0430 Python \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441\u043c. \u043d\u0438\u0436\u0435:<\/p>\n

def<\/strong> gini(y_true, y_pred): gini =<\/strong> 2 roc_auc_score(y_true, y_pred) <\/em>-<\/em><\/strong> 1 <\/em>return<\/em><\/strong> gini<\/em>
gini_scorer <\/em>=<\/em><\/strong> make_scorer(gini, greater_is_better <\/em>=<\/em><\/strong> <\/em>True<\/em><\/strong>)<\/em>
params <\/em>=<\/em><\/strong> { \"verbose\": <\/em>False<\/em><\/strong>, \"eval_metric\": 'Logloss', 'iterations': 1000, 'random_state': 42, 'early_stopping_rounds': 10, 'max_depth': 4<\/em>
}<\/em>
model <\/em>=<\/em><\/strong> CatBoostClassifier(<\/em>*<\/strong>params)
model.<\/strong>fit(x_train[features], y_train, eval_set =<\/strong> (x_val[features], y_val), cat_features =<\/strong> cat_feat)
y_pred_train =<\/strong> model.<\/strong>predict_proba(x_train[features]).<\/strong>T[1]
y_pred_val =<\/strong> model.<\/strong>predict_proba(x_val[features]).<\/strong>T[1]
y_pred_test =<\/strong> model.<\/strong>predict_proba(x_test[features]).<\/strong>T[1]
gini_train =<\/strong> np.<\/strong>round(gini(y_train, y_pred_train),3)
gini_val =<\/strong> np.<\/strong>round(gini(y_val, y_pred_val),3)
gini_test =<\/strong> np.<\/strong>round(gini(y_test, y_pred_test),3)
print('\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445:', 'train', gini_train, 'val', gini_val, 'test', gini_test)
fe_stats =<\/strong> pd.<\/strong>DataFrame({'feature_importance': model.<\/strong>get_feature_importance(), 'feature_names':features}).<\/strong>sort_values(by=<\/strong>['feature_importance'], ascending=False<\/strong>)
display(fe_stats[0:5])
features =<\/strong> fe_stats[0:5].<\/strong>feature_names.<\/strong>to_list()
cat_feat =<\/strong> ['customer_service_calls']<\/code><\/p>\n


target =<\/strong> ['churn']
data =<\/strong> data[features +<\/strong> target].<\/strong>copy()
data_info =<\/strong> data.<\/strong>describe(percentiles =<\/strong> [0.01, 0.05, 0.5, 0.95, 0.99], include=<\/strong>list(np.<\/strong>unique(data[data.<\/strong>columns].<\/strong>dtypes.<\/strong>astype('str').<\/strong>values))).<\/strong>T
data_info['type'] =<\/strong> data[data.<\/strong>columns].<\/strong>dtypes
data_info['null'] =<\/strong> data[data.<\/strong>columns].<\/strong>isnull().<\/strong>sum()
data_info['null%'] =<\/strong> np.<\/strong>round(data[data.<\/strong>columns].<\/strong>isnull().<\/strong>mean() *<\/strong> 100, 1)
data_info['nunique'] =<\/strong> data[data.<\/strong>columns].<\/strong>nunique()
data_info['count'] =<\/strong> data_info['count'].<\/strong>astype('int')
data_info =<\/strong> data_info.<\/strong>drop('unique', axis =<\/strong> 1)
data_info.<\/strong>sort_values(by =<\/strong> ['type','nunique'], ascending =<\/strong> [False<\/strong>, False<\/strong>], inplace =<\/strong> True<\/strong>)
data_info=<\/strong>data_info.<\/strong>loc[:,['type','count','nunique','null','null%','top','freq','min','max','mean','std','1%','5%','50%','95%','99%']]
data_info[['min','max','mean','std','1%','5%','50%','95%','99%']] =<\/strong> data_info[['min','max','mean','std','1%','5%','50%','95%','99%']].<\/strong>astype(float).<\/strong>round(4)
display(data_info)<\/code><\/p>\n

\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445: train 0.934 val 0.859 test 0.831<\/u><\/p>\n

\n
\n\n\n\n\n\n\n\n\n
\n

\n<\/td>\n

\n

feature_importance<\/strong><\/p>\n<\/td>\n

\n

feature_names<\/strong><\/p>\n<\/td>\n<\/tr>\n

\n

21<\/strong><\/p>\n<\/td>\n

\n

39.692171<\/p>\n<\/td>\n

\n

total_charge<\/p>\n<\/td>\n<\/tr>\n

\n

18<\/strong><\/p>\n<\/td>\n

\n

17.874816<\/p>\n<\/td>\n

\n

customer_service_calls<\/p>\n<\/td>\n<\/tr>\n

\n

3<\/strong><\/p>\n<\/td>\n

\n

14.006796<\/p>\n<\/td>\n

\n

international_plan<\/p>\n<\/td>\n<\/tr>\n

\n

16<\/strong><\/p>\n<\/td>\n

\n

6.891904<\/p>\n<\/td>\n

\n

total_intl_calls<\/p>\n<\/td>\n<\/tr>\n

\n

5<\/strong><\/p>\n<\/td>\n

\n

5.593090<\/p>\n<\/td>\n

\n

number_vmail_messages<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n

\n
\n\n\n\n\n\n\n\n\n\n
\n

\n<\/td>\n

\n

type<\/strong><\/p>\n<\/td>\n

\n

count<\/strong><\/p>\n<\/td>\n

\n

nunique<\/strong><\/p>\n<\/td>\n

\n

null<\/strong><\/p>\n<\/td>\n

\n

null%<\/strong><\/p>\n<\/td>\n

\n

top<\/strong><\/p>\n<\/td>\n

\n

freq<\/strong><\/p>\n<\/td>\n

\n

min<\/strong><\/p>\n<\/td>\n

\n

max<\/strong><\/p>\n<\/td>\n

\n

mean<\/strong><\/p>\n<\/td>\n

\n

std<\/strong><\/p>\n<\/td>\n

\n

1%<\/strong><\/p>\n<\/td>\n

\n

5%<\/strong><\/p>\n<\/td>\n

\n

50%<\/strong><\/p>\n<\/td>\n

\n

95%<\/strong><\/p>\n<\/td>\n

\n

99%<\/strong><\/p>\n<\/td>\n<\/tr>\n

\n

customer_service_calls<\/strong><\/p>\n<\/td>\n

\n

object<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

7<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

B<\/p>\n<\/td>\n

\n

1181<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n<\/tr>\n

\n

total_charge<\/strong><\/p>\n<\/td>\n

\n

float64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2678<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

22.93<\/p>\n<\/td>\n

\n

96.15<\/p>\n<\/td>\n

\n

59.4498<\/p>\n<\/td>\n

\n

10.5023<\/p>\n<\/td>\n

\n

33.8532<\/p>\n<\/td>\n

\n

42.338<\/p>\n<\/td>\n

\n

59.47<\/p>\n<\/td>\n

\n

76.516<\/p>\n<\/td>\n

\n

83.8396<\/p>\n<\/td>\n<\/tr>\n

\n

number_vmail_messages<\/strong><\/p>\n<\/td>\n

\n

int64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

46<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

51.00<\/p>\n<\/td>\n

\n

8.0990<\/p>\n<\/td>\n

\n

13.6884<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

36.000<\/p>\n<\/td>\n

\n

43.0000<\/p>\n<\/td>\n<\/tr>\n

\n

total_intl_calls<\/strong><\/p>\n<\/td>\n

\n

int64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

21<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

20.00<\/p>\n<\/td>\n

\n

4.4794<\/p>\n<\/td>\n

\n

2.4612<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

4.00<\/p>\n<\/td>\n

\n

9.000<\/p>\n<\/td>\n

\n

13.0000<\/p>\n<\/td>\n<\/tr>\n

\n

international_plan<\/strong><\/p>\n<\/td>\n

\n

int32<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.00<\/p>\n<\/td>\n

\n

0.0969<\/p>\n<\/td>\n

\n

0.2959<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n<\/tr>\n

\n

churn<\/strong><\/p>\n<\/td>\n

\n

int32<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.00<\/p>\n<\/td>\n

\n

0.1449<\/p>\n<\/td>\n

\n

0.3521<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n

\u0414\u0430\u043b\u0435\u0435 \u043e\u0431\u0443\u0447\u0438\u043c catboost \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u044f\u0442\u0438 \u0441\u0430\u043c\u044b\u0445 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447\u0430\u0445.\u00a0\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0414\u0436\u0438\u043d\u0438 82,5%.<\/p>\n

params\u00a0=<\/strong>\u00a0{<\/code><\/p>\n

\u00a0 \u00a0\u00a0\"verbose\":\u00a0False<\/strong>,<\/code><\/p>\n

\u00a0 \u00a0\u00a0'eval_metric':\u00a0'Logloss',<\/code><\/p>\n

\u00a0 \u00a0\u00a0'iterations':\u00a01000,<\/code><\/p>\n

\u00a0 \u00a0\u00a0'early_stopping_rounds':\u00a010,<\/code><\/p>\n

\u00a0 \u00a0\u00a0'depth':\u00a04,\u00a0#\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e 6<\/em><\/code><\/p>\n

\u00a0 \u00a0\u00a0'random_state':\u00a042,<\/code><\/p>\n

}<\/code><\/p>\n

model\u00a0=<\/strong>\u00a0CatBoostClassifier(**<\/strong>params)<\/code><\/p>\n

model.<\/strong>fit(x_train[features],\u00a0y_train,\u00a0eval_set\u00a0=<\/strong>\u00a0(x_val[features],\u00a0y_val),\u00a0cat_features\u00a0=<\/strong>\u00a0cat_feat)<\/code><\/p>\n


<\/code><\/p>\n

y_pred_train\u00a0=<\/strong>\u00a0model.<\/strong>predict_proba(x_train[features]).<\/strong>T[1]<\/code><\/p>\n

y_pred_val\u00a0=<\/strong>\u00a0model.<\/strong>predict_proba(x_val[features]).<\/strong>T[1]<\/code><\/p>\n

y_pred_test\u00a0=<\/strong>\u00a0model.<\/strong>predict_proba(x_test[features]).<\/strong>T[1]<\/code><\/p>\n

gini_train\u00a0=<\/strong>\u00a0np.<\/strong>round(gini(y_train,\u00a0y_pred_train),3)<\/code><\/p>\n

gini_val\u00a0=<\/strong>\u00a0np.<\/strong>round(gini(y_val,\u00a0y_pred_val),3)<\/code><\/p>\n

gini_test\u00a0=<\/strong>\u00a0np.<\/strong>round(gini(y_test,\u00a0y_pred_test),3)<\/code><\/p>\n

print('\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445:',\u00a0'train',\u00a0gini_train,\u00a0'val',\u00a0gini_val,\u00a0'test',\u00a0gini_test)<\/code><\/p>\n

\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445: train 0.904 val 0.865 test 0.825.<\/u><\/p>\n

\u0418\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0444\u0438\u0447\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u0443\u0434\u043e\u0431\u043d\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 SHAP.\u00a0\u0414\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u0440\u0430\u0441\u0447\u0435\u0442\u0430 Shap \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u043c\u043d\u043e\u0433\u043e, \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043c\u043e\u0436\u043d\u043e \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445:<\/p>\n

https:\/\/habr.com\/ru\/articles\/428213\/<\/a><\/p>\n

https:\/\/habr.com\/ru\/companies\/wunderfund\/articles\/739744\/<\/a><\/p>\n

https:\/\/habr.com\/ru\/companies\/ods\/articles\/599573\/<\/a><\/p>\n

https:\/\/habr.com\/ru\/companies\/otus\/articles\/465329\/<\/a><\/p>\n

https:\/\/www.kaggle.com\/code\/dansbecker\/shap-values<\/a><\/p>\n

\u0421\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e \u043f\u043e Shap:<\/p>\n

https:\/\/shap.readthedocs.io\/en\/latest\/example_notebooks\/tabular_examples\/tree_based_models\/Catboost%20tutorial.html<\/a><\/p>\n

\u0421\u0443\u0442\u0435\u0432\u043e SHAP-value \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0442 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441: «\u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441\u043e \u0441\u0440\u0435\u0434\u043d\u0438\u043c \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u043e\u043c, \u0435\u0441\u043b\u0438 \u043c\u044b \u0434\u043e\u0431\u0430\u0432\u0438\u043c \u0434\u0430\u043d\u043d\u0443\u044e \u0444\u0438\u0447\u0443, \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u044f \u0432\u0441\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \/ \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0444\u0438\u0447\u0435\u0439».<\/p>\n

\u0412 \u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u044e \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a Shap.summary_plot. \u041d\u0430 \u043d\u0435\u043c \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0444\u0438\u0447\u0438 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c.<\/p>\n

\u041a\u043e\u0434 \u0434\u043b\u044f \u0432\u044b\u0432\u043e\u0434\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439:<\/p>\n

explainer = shap.TreeExplainer(model)<\/code><\/p>\n

shap_values = explainer(x_train[features].iloc[:,:])<\/code><\/p>\n

shap.summary_plot(shap_values, x_train[features], max_display = len(features))<\/code><\/p>\n

\u0421\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u043a\u0430 \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u0438\u0434\u0435\u0442 \u0441\u0432\u0435\u0440\u0445\u0443 \u0432\u043d\u0438\u0437 \u043e\u0442 \u0441\u0430\u043c\u043e\u0439 \u0432\u0430\u0436\u043d\u043e\u0439 \u0444\u0438\u0447\u0438 \u0434\u043e \u043c\u0435\u043d\u0435\u0435 \u0432\u0430\u0436\u043d\u044b\u0445 \u043f\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u043c\u0443 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u043c\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e Shap.values.<\/p>\n

\u041d\u043e \u043d\u0430\u043c \u0442\u0430\u043a\u0436\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u0432 \u0432\u0438\u0434\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438 \u0444\u0438\u0447\u0435\u0439, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0433\u0440\u0430\u0444\u0438\u043a\u0430:<\/p>\n

shap.plots.bar(shap_values, max_display = len(features))<\/code><\/p>\n

\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u043c\u043d\u043e\u0433\u043e \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0443\u043b\u0443\u0447\u0448\u0438\u0442\u044c shap.summary_plot, \u0434\u043e\u0431\u0430\u0432\u0438\u0432 \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043d\u0430 \u043d\u0435\u0433\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 Shap.values. \u041a\u043e\u0434 \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n

# \u0418\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f explainer<\/em><\/code><\/p>\n

explainer\u00a0=<\/strong>\u00a0shap.<\/strong>TreeExplainer(model)<\/code><\/p>\n

# \u0412\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 SHAP \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439<\/em><\/code><\/p>\n

shap_values\u00a0=<\/strong>\u00a0explainer(x_train[features].<\/strong>iloc[:,:])<\/code><\/p>\n

# \u0412\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 mean(|SHAP value|) \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430<\/em><\/code><\/p>\n

mean_abs_shap\u00a0=<\/strong>\u00a0np.<\/strong>mean(np.<\/strong>abs(shap_values.<\/strong>values),\u00a0axis=<\/strong>0)<\/code><\/p>\n

# \u0421\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u043f\u043e\u0434\u043f\u0438\u0441\u0435\u0439 \u0441 SHAP \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438<\/em><\/code><\/p>\n

feature_labels\u00a0=<\/strong>\u00a0[f\"{features[i]} ({mean_abs_shap[i]*<\/strong>100:.2f})\"\u00a0<\/code><\/p>\n

\u00a0\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0\u00a0for<\/strong>\u00a0i\u00a0in<\/strong>\u00a0range(len(features))]<\/code><\/p>\n

# \u041f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 \u0441 \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u043f\u043e\u0434\u043f\u0438\u0441\u044f\u043c\u0438<\/em><\/code><\/p>\n

shap.<\/strong>summary_plot(shap_values,\u00a0x_train[features],\u00a0feature_names=<\/strong>feature_labels,\u00a0\u00a0# \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0444\u0438\u0447\u0435\u0439 \u043a\u0430\u043a \u043f\u043e\u0434\u043f\u0438\u0441\u0438<\/em><\/code><\/p>\n

\u00a0\u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 \u00a0 max_display=<\/strong>len(features),\u00a0show=False<\/strong>)<\/code><\/p>\n

# \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0437\u0430\u0433\u043e\u043b\u043e\u0432\u043e\u043a \u0441 \u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u0435\u043c<\/em><\/code><\/p>\n

plt.<\/strong>title(\"SHAP Summary Plot: \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 \u0441\u043a\u043e\u0431\u043a\u0430\u0445 - mean(|SHAP value|)\",\u00a0y\u00a0=<\/strong>\u00a01.05)<\/code><\/p>\n

plt.<\/strong>tight_layout()<\/code><\/p>\n

plt.<\/strong>show()<\/code><\/p>\n

<\/figure>\n

\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0432 \u043d\u0430 \u044d\u0442\u043e\u0442 \u0433\u0440\u0430\u0444\u0438\u043a, \u043c\u043e\u0436\u043d\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0441\u0442\u0435\u043f\u0435\u043d\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u044f \u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u043b\u0438\u044f\u043d\u0438\u044f \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u0439 \u0444\u0438\u0447\u0435.<\/p>\n

\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u044f \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a\u0438 Shap:<\/p>\n

1. \u041a\u0430\u0436\u0434\u0430\u044f \u043b\u0438\u043d\u0438\u044f \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043e\u0431\u043e\u0439 \u0444\u0430\u043a\u0442\u043e\u0440 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n

2. \u041a\u0430\u0436\u0434\u0430\u044f \u0442\u043e\u0447\u043a\u0430 \u0434\u043b\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u0444\u0430\u043a\u0442\u043e\u0440\u0430 \u2014 \u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u0432 \u0432\u044b\u0431\u043e\u0440\u043a\u0435.<\/p>\n

3. \u0420\u0430\u0441\u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043f\u043e \u043e\u0441\u0438 \u0425 \u043c\u0435\u043d\u044c\u0448\u0435 \u0438\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0443\u043b\u044f \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u043b\u0438 \u0444\u0438\u0447\u0430 \u0438\u043b\u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u00a0\u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u043a\u0435.<\/p>\n

4. \u0422\u0430\u043a\u0436\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u044f \u2014 \u0447\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435 \u043e\u0442 \u043d\u0443\u043b\u044f, \u0442\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u0435\u0435 \u0431\u044b\u043b\u043e \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0444\u0438\u0447\u0438 \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0435 \u043f\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0444\u0438\u0447\u0435 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 Shap \u0440\u0430\u0432\u043d\u043e\u0435 +0,1%, \u044d\u0442\u043e \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438 \u0434\u043b\u044f \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f Shap \u043d\u0430 \u044d\u0442\u0443 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443.<\/p>\n

5. \u0421\u043f\u0440\u0430\u0432\u0430 \u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f \u0448\u043a\u0430\u043b\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0438\u0447\u0435\u0439. \u0422\u043e\u0447\u043a\u0430 \u043a\u0440\u0430\u0441\u043d\u043e\u0433\u043e \u0446\u0432\u0435\u0442\u0430 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438 \u043e\u0447\u0435\u043d\u044c \u0432\u044b\u0441\u043e\u043a\u043e\u0435, \u0441\u0438\u043d\u0435\u0433\u043e \u0446\u0432\u0435\u0442\u0430 \u2014 \u043d\u0438\u0437\u043a\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438. \u0415\u0441\u043b\u0438 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u043e\u0432 \u0434\u0430\u044e\u0442 \u043f\u043e\u0445\u043e\u0436\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u043b\u044f \u0434\u0430\u043d\u043d\u043e\u0439 \u0444\u0438\u0447\u0438, \u0442\u043e\u00a0\u044d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043b\u0438\u043d\u0438\u044f \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u0448\u0438\u0440\u0435 (\u0442\u043e\u0447\u043a\u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u043d\u0430\u043a\u0430\u043f\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f).<\/p>\n

\u0410\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u044f \u043e\u0441\u044c x \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0435\u0442 \u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u2014 \u0430 \u0432 \u043a\u0430\u043a\u0438\u0445 \u0435\u0434\u0438\u043d\u0438\u0446\u0430\u0445 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0432\u044b\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0433\u0440\u0430\u0444\u0438\u043a shap.summary_plot?<\/p>\n

\u0412 shap.TreeExplainer \u0435\u0441\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b, \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0435 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e:<\/p>\n

feature_perturbation='tree_path_dependent', model_output = 'raw'.<\/code><\/p>\n

\u0414\u043b\u044f \u0431\u0438\u043d\u0430\u0440\u043d\u043e\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 Shap-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u0445 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442,\u00a0\u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u0438\u0437\u043d\u0430\u043a \u043e\u0442\u043a\u043b\u043e\u043d\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442 \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u043b\u043e\u0433\u0430\u0440\u0438\u0444\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0448\u0430\u043d\u0441\u043e\u0432 (log-odds).<\/p>\n

\u0411\u0430\u0437\u043e\u0432\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 (\u0441\u0440\u0435\u0434\u043d\u0435\u0435): explainer.expected_value (\u0441\u0440\u0435\u0434\u043d\u0438\u0439 log-odds \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u043a\u0435).<\/p>\n

\u0424\u043e\u0440\u043c\u0443\u043b\u0430: \"log-odds, \u0433\u0434\u0435 \"p\" \u2014 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430.<\/p>\n

\u041d\u043e \u0432\u0441\u0435\u0433\u0434\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a Shap.summary_plot \u0438\u043c\u0435\u043d\u043d\u043e \u0432 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044f\u0445. \u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0435\u0441\u0442\u044c \u0434\u0432\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430. \u041f\u0435\u0440\u0432\u044b\u0439 \u2014 \u0443\u043a\u0430\u0437\u0430\u0442\u044c feature_perturbation=»interventional», model_output=»probability».\u00a0\u041d\u043e \u0434\u0430\u043d\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u0435\u0440\u0441\u0438\u044f\u0445 Shap \u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0439\u0442\u0438 \u043e\u0431\u0445\u043e\u0434\u043d\u044b\u043c \u043f\u0443\u0442\u0435\u043c \u0447\u0435\u0440\u0435\u0437 \u0440\u0443\u0447\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 log-odds \u0432 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438.<\/p>\n

\u041a\u043e\u0434 \u0438 \u0433\u0440\u0430\u0444\u0438\u043a \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0435 \u043d\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0441\u043c. \u043d\u0438\u0436\u0435:<\/p>\n

try<\/strong>:<\/code><\/p>\n

\u00a0 \u00a0\u00a0# \u0421\u043f\u043e\u0441\u043e\u0431 1: \u041f\u0440\u044f\u043c\u043e\u0435 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 (\u043c\u043e\u0436\u0435\u0442 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u0435\u0440\u0441\u0438\u044f\u0445), \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435<\/em><\/code><\/p>\n

\u00a0 \u00a0 explainer\u00a0=<\/strong>\u00a0shap.<\/strong>TreeExplainer(model,\u00a0feature_perturbation=<\/strong>\"interventional\",\u00a0model_output=<\/strong>\"probability\")<\/code><\/p>\n

\u00a0 \u00a0 shap_values\u00a0=<\/strong>\u00a0explainer(x_train[features].<\/strong>iloc[:,:])<\/code><\/p>\n

except<\/strong>\u00a0ValueError:<\/code><\/p>\n

\u00a0 \u00a0\u00a0# \u0421\u043f\u043e\u0441\u043e\u0431 2: \u041e\u0431\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u0443\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u0440\u0443\u0447\u043d\u043e\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435<\/em><\/code><\/p>\n

\u00a0 \u00a0 explainer\u00a0=<\/strong>\u00a0shap.<\/strong>TreeExplainer(model)<\/code><\/p>\n

\u00a0 \u00a0 shap_values_raw\u00a0=<\/strong>\u00a0explainer(x_train[features].<\/strong>iloc[:,:])<\/code><\/p>\n

\u00a0 \u00a0 expected_value\u00a0=<\/strong>\u00a0explainer.<\/strong>expected_value<\/code><\/p>\n

\u00a0 \u00a0 shap_values\u00a0=<\/strong>\u00a01\/<\/strong>(1+<\/strong>np.<\/strong>exp(-<\/strong>(expected_value\u00a0+<\/strong>\u00a0shap_values_raw.<\/strong>values)))\u00a0-<\/strong>\u00a01\/<\/strong>(1+<\/strong>np.<\/strong>exp(-<\/strong>expected_value))<\/code><\/p>\n

shap.<\/strong>summary_plot(shap_values,\u00a0x_train[features],\u00a0max_display\u00a0=<\/strong>\u00a0len(features))<\/code><\/p>\n

<\/figure>\n

\u041d\u043e Shap.summary_plot \u2014 \u043e\u0447\u0435\u043d\u044c \u0432\u0435\u0440\u0445\u043d\u0435\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u0439 \u0433\u0440\u0430\u0444\u0438\u043a, \u043d\u0430 \u043d\u0435\u043c \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u043e\u043d\u044f\u0442\u043d\u044b \u0434\u0435\u0442\u0430\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0438.\u00a0<\/p>\n

\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0430\u0436\u043d\u043e\u0439 \u0444\u0438\u0447\u0435 total_charge \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0441 \u0440\u043e\u0441\u0442\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0442\u0430\u0440\u0433\u0435\u0442\u0430 \u0442\u0430\u043a\u0436\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0440\u0430\u0441\u0442\u0435\u0442, \u0430 \u0432\u043e\u0442 \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043f\u0440\u0438 \u043d\u0438\u0437\u043a\u0438\u0445 \u0438 \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u2014\u00a0\u0438\u0437 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 \u043d\u0435 \u0432\u043f\u043e\u043b\u043d\u0435 \u043f\u043e\u043d\u044f\u0442\u043d\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043d\u043e\u0433\u0438\u0435 \u0444\u0438\u0447\u0438, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0441 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044c\u044e \u043b\u0443\u0447\u0448\u0435 \u0435\u0449\u0435 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u0433\u0440\u0430\u0444\u0438\u043a\u0435 shap.plots.scatter(shap_values[:,x])<\/p>\n

\u0412 \u0434\u0430\u043d\u043d\u044b\u0439 \u0433\u0440\u0430\u0444\u0438\u043a \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u0438 \u044d\u0442\u0443 \u0434\u043e\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0443\u0434\u043e\u0431\u043d\u0435\u0435\u00a0 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u0430\u0441\u0442\u043e\u043c\u043d\u043e\u0433\u043e \u0433\u0440\u0430\u0444\u0438\u043a\u0430 scatter plot. \u041d\u0430 \u043d\u0435\u043c \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u0432\u0438\u0434\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u0438\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0438 \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f.\u00a0<\/p>\n

\u0412 \u043d\u0430\u0448\u0435\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u043e \u0444\u0438\u0447\u0435 total_charge \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u0434\u0430\u0436\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044e\u0442 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0441\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043d\u0438\u044f \u0442\u0430\u0440\u0433\u0435\u0442\u0430, \u043f\u043e\u0442\u043e\u043c \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u0435, \u0430 \u0434\u0430\u043b\u0435\u0435 \u0440\u0435\u0437\u043a\u0438\u0439 \u0440\u043e\u0441\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439.\u00a0<\/p>\n

\u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u0440\u0430\u0437\u0438\u0442\u044c \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435:\u00a0<\/p>\n

1) \u041d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0442\u0430\u0440\u0433\u0435\u0442\u0443 (\u0441\u0438\u043d\u0438\u0435 \u0442\u043e\u0447\u043a\u0438);<\/p>\n

2) \u0414\u0438\u043d\u0430\u043c\u0438\u043a\u0430 \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0438\u0447\u0438;<\/p>\n

3) \u0420\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0438\u0447\u0438 \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u043a\u0435;<\/p>\n

4) \u0421\u0440\u0435\u0434\u043d\u0435\u0435 \/ \u043c\u0435\u0434\u0438\u0430\u043d\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0438\u0447\u0438.<\/p>\n

# \u0420\u0443\u0447\u043d\u043e\u0435 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 scatter plot \u0441 \u043a\u0430\u0441\u0442\u043e\u043c\u043d\u044b\u043c\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c\u0438<\/em><\/code><\/p>\n

x\u00a0=<\/strong>\u00a0'total_charge'<\/code><\/p>\n

shap_values\u00a0=<\/strong>\u00a0explainer(x_train[features].<\/strong>iloc[:,:])<\/code><\/p>\n

# \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435<\/em><\/code><\/p>\n

x_data\u00a0=<\/strong>\u00a0x_train[x]<\/code><\/p>\n

y_data\u00a0=<\/strong>\u00a0shap_values[:,\u00a0x].<\/strong>values<\/code><\/p>\n

y_labels\u00a0=<\/strong>\u00a0y_train<\/code><\/p>\n

# \u0421\u043e\u0437\u0434\u0430\u0435\u043c \u0444\u0438\u0433\u0443\u0440\u0443 \u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e \u043e\u0441\u044c<\/em><\/code><\/p>\n

fig,\u00a0ax1\u00a0=<\/strong>\u00a0plt.<\/strong>subplots(figsize=<\/strong>(11,\u00a06))<\/code><\/p>\n

fig.<\/strong>patch.<\/strong>set_facecolor('white')<\/code><\/p>\n

ax1.<\/strong>set_facecolor('white')<\/code><\/p>\n

colors\u00a0=<\/strong>\u00a0np.<\/strong>where(y_train\u00a0==<\/strong>\u00a01,\u00a0'blue',\u00a0'red')<\/code><\/p>\n

scatter\u00a0=<\/strong>\u00a0ax1.<\/strong>scatter(<\/code><\/p>\n

\u00a0 \u00a0 x=<\/strong>x_train[x],\u00a0y=<\/strong>shap_values[:,\u00a0x].<\/strong>values,\u00a0c=<\/strong>colors,\u00a0cmap=<\/strong>'coolwarm',\u00a0alpha=<\/strong>1,\u00a0edgecolors=<\/strong>'w',\u00a0linewidths=<\/strong>0.1)<\/code><\/p>\n

#\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043b\u0438\u043d\u0438\u044e \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439<\/em><\/code><\/p>\n

# \u0420\u0430\u0437\u0431\u0438\u0432\u0430\u0435\u043c \u043d\u0430 20 \u0431\u0438\u043d\u043e\u0432 \u0434\u043b\u044f \u0440\u0430\u0441\u0447\u0435\u0442\u0430 \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e<\/em><\/code><\/p>\n

bin_means,\u00a0bin_edges,\u00a0\u00a0<\/em>=<\/em><\/strong>\u00a0stats<\/em>.<\/em><\/strong>binned<\/em>statistic(x_data,\u00a0y_data,\u00a0statistic=<\/strong>'mean',\u00a0bins=<\/strong>20)<\/code><\/p>\n

bin_centers\u00a0=<\/strong>\u00a0bin_edges[:-<\/strong>1]\u00a0+<\/strong>\u00a0np.<\/strong>diff(bin_edges)\/<\/strong>2<\/code><\/p>\n

# \u0420\u0438\u0441\u0443\u0435\u043c \u043b\u0438\u043d\u0438\u044e \u0441\u0440\u0435\u0434\u043d\u0438\u0445<\/em><\/code><\/p>\n

ax1.<\/strong>plot(bin_centers,\u00a0bin_means,\u00a0color=<\/strong>'black',\u00a0linewidth=<\/strong>2.2,\u00a0linestyle=<\/strong>'-.',\u00a0label=<\/strong>'\u0421\u0440\u0435\u0434\u043d\u0435\u0435 SHAP')<\/code><\/p>\n

# \u041d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043e\u0441\u0438<\/em><\/code><\/p>\n

ax1.<\/strong>set_ylabel('SHAP value',\u00a0fontsize=<\/strong>14)<\/code><\/p>\n

ax1.<\/strong>grid(True<\/strong>,\u00a0alpha=<\/strong>0.3)<\/code><\/p>\n

ax1.<\/strong>axvline(np.<\/strong>median(x_data),\u00a0color=<\/strong>'black',\u00a0linestyle=<\/strong>'-.',\u00a0label=<\/strong>'\u041c\u0435\u0434\u0438\u0430\u043d\u0430',\u00a0linewidth=<\/strong>1)<\/code><\/p>\n

#\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0432\u0442\u043e\u0440\u0443\u044e \u043e\u0441\u044c \u0434\u043b\u044f \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f<\/em><\/code><\/p>\n

ax2\u00a0=<\/strong>\u00a0ax1.<\/strong>twinx()\u00a0\u00a0# \u0421\u043e\u0437\u0434\u0430\u0435\u043c \u0432\u0442\u043e\u0440\u0443\u044e \u043e\u0441\u044c \u0441 \u043e\u0431\u0449\u0438\u043c X<\/em><\/code><\/p>\n

ax2.<\/strong>hist(x_data,\u00a0bins=<\/strong>50,\u00a0color=<\/strong>'skyblue',\u00a0alpha=<\/strong>0.2,\u00a0density=True<\/strong>)<\/code><\/p>\n

ax2.<\/strong>set_ylabel('\u041f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f',\u00a0fontsize=<\/strong>14)<\/code><\/p>\n

ax2.<\/strong>grid(False<\/strong>)\u00a0\u00a0# \u041e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u0441\u0435\u0442\u043a\u0443 \u0434\u043b\u044f \u0432\u0442\u043e\u0440\u043e\u0439 \u043e\u0441\u0438<\/em><\/code><\/p>\n

# \u041e\u0431\u0449\u0438\u0435 \u044d\u043b\u0435\u043c\u0435\u043d\u0442\u044b<\/em><\/code><\/p>\n

plt.<\/strong>title(f'SHAP \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435',\u00a0fontsize=<\/strong>14)<\/code><\/p>\n

Text(0.5, 1.0, ‘SHAP-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435’)<\/u><\/p>\n

<\/figure>\n

\u0413\u0440\u0430\u0444\u0438\u043a\u0438 PDP (Partial Dependence Plot) \u0438 ICE (Individual Conditional Expectation) \u043c\u043e\u0433\u0443\u0442 \u0445\u043e\u0440\u043e\u0448\u043e \u0434\u043e\u043f\u043e\u043b\u043d\u044f\u0442\u044c Shap.Summary_plot \u0438 Scatter_plot \u0441 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u0440\u0430\u0441\u043a\u0440\u044b\u0442\u0438\u044f \u0431\u0438\u0437\u043d\u0435\u0441-\u043b\u043e\u0433\u0438\u043a\u0438 \u0444\u0438\u0447\u0438. PDP \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441: \u043a\u0430\u043a \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043c\u043e\u0434\u0435\u043b\u0438, \u0435\u0441\u043b\u0438 \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u0443\u0435\u043c\u043e\u0439 \u0444\u0438\u0447\u0438, \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0432\u0441\u0435\u0445 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445. ICE \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441: \u00ab\u041a\u0430\u043a \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043f\u043e \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c\u0443 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044e \u043f\u0440\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438, \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044f \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0435\u0438\u0437\u043c\u0435\u043d\u043d\u044b\u043c\u0438\u00bb. \u0411\u043e\u043b\u0435\u0435 \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043f\u0440\u043e \u0433\u0440\u0430\u0444\u0438\u043a\u0438 PDP \u0438 ICE \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043f\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0439 \u0441\u0441\u044b\u043b\u043a\u0435: https:\/\/scikit-learn.org\/stable\/modules\/partial_dependence.html<\/a><\/p>\n

\u041c\u0435\u0442\u043e\u0434\u0438\u043a\u0430 \u0440\u0430\u0441\u0447\u0435\u0442\u0430 PDP (\u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u0442 \u0432\u0441\u0435 \u043a\u0440\u0438\u0432\u044b\u0435, \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044f \u043e\u0431\u0449\u0438\u0439 \u0442\u0440\u0435\u043d\u0434):
\u0428\u0430\u0433 1: \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u0432 \u0432\u044b\u0431\u043e\u0440\u043a\u0435;
\u0428\u0430\u0433 2: \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0435\u0433\u043e \u0432\u043e \u0432\u0441\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u0438 \u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044e;
\u0428\u0430\u0433 3: \u0434\u0430\u043b\u0435\u0435 \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043e\u0446\u0435\u043d\u043e\u043a \u043f\u043e \u0432\u0441\u0435\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f\u043c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438;
\u0428\u0430\u0433 4: \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0443\u0441\u0440\u0435\u0434\u043d\u0435\u043d\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u043f\u0440\u043e\u0433\u043d\u043e\u0437\u043e\u0432 \u0441\u0442\u0440\u043e\u0438\u043c \u0433\u0440\u0430\u0444\u0438\u043a PDP.<\/p>\n

\u041c\u0435\u0442\u043e\u0434\u0438\u043a\u0430 \u0440\u0430\u0441\u0447\u0435\u0442\u0430 ICE (\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0438\u043d\u0434\u0438\u0432\u0438\u0434\u0443\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f):
\u0428\u0430\u0433 1: \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0434\u043b\u044f \u0444\u0438\u0447\u0438;
\u0428\u0430\u0433 2: \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0430 \u0438 \u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u043c \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044e;
\u0428\u0430\u0433 3: \u0432\u044b\u0432\u043e\u0434\u0438\u043c \u043a\u0440\u0438\u0432\u0443\u044e \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f.<\/p>\n

\u041a\u0430\u0436\u0434\u0430\u044f \u043b\u0438\u043d\u0438\u044f \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u2014 \u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0435 \u0432 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0441 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u044b\u043c Shap-value \u0432 \u0440\u0430\u0437\u0440\u0435\u0437\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0441\u0441\u043b\u0435\u0434\u0443\u0435\u043c\u043e\u0439 \u0444\u0438\u0447\u0438. PDP \u0434\u043b\u044f total_charge \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0441 \u0440\u043e\u0441\u0442\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f. \u041d\u043e \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0432 \u043d\u0430 ICE \u043c\u044b \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0434\u043b\u044f \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c, \u0430 \u0434\u043b\u044f \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0434\u043e\u043b\u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0441\u043d\u0438\u0437\u0438\u043b\u043e\u0441\u044c \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u043e. \u0418\u043c\u0435\u043d\u043d\u043e \u0437\u0430 \u0441\u0447\u0435\u0442 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439 \u0441\u043b\u043e\u0436\u0438\u043b\u0430\u0441\u044c \u0442\u0430\u043a\u0430\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0441 \u0431\u0438\u0437\u043d\u0435\u0441-\u043b\u043e\u0433\u0438\u043a\u043e\u0439. \u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u0438 \u043f\u043e\u043d\u044f\u0442\u044c \u043f\u0440\u0438\u0447\u0438\u043d\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439.<\/p>\n

\u0422.\u0435. \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e ICE \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u0430\u043d\u043e\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f \u0438\u043b\u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0440\u0435\u0437\u043a\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u044e\u0442\u0441\u044f \u043e\u0442 \u043e\u0431\u0449\u0438\u0445.
\u041d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u043a ICE \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 \u0431\u044b\u0432\u0430\u0435\u0442 \u0442\u0440\u0443\u0434\u043d\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c (\u043c\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u044e\u0449\u0438\u0445\u0441\u044f \u043b\u0438\u043d\u0438\u0439). \u0422\u0430\u043a\u0436\u0435 ICE \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0438, \u043d\u043e \u043d\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0437\u043d\u0430\u0447\u0438\u043c\u043e\u0441\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0430.<\/p>\n

\u0423 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 ICE \u0435\u0441\u0442\u044c \u0434\u0432\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438:
\u041f\u0440\u0438 ‘centered’ = True \u0438\u0437 \u0432\u0441\u0435\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043a\u0440\u0438\u0432\u043e\u0439 \u0432\u044b\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043f\u0440\u0438 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 \u0444\u0438\u0447\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0441\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 \u0432 \u0442\u043e\u0447\u043a\u0435 \u0441\u0442\u0430\u0440\u0442\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 \u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442\u0441\u044f \u0441 Y = 0. \u042d\u0442\u043e\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u043c \u0434\u043b\u044f \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0430\u043d\u0430\u043b\u0438\u0437\u0430, \u0442.\u043a. \u0432\u0441\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 \u0432\u044b\u0440\u043e\u0432\u043d\u0435\u043d\u044b \u043f\u043e \u043e\u0434\u043d\u043e\u0439 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u043e\u0439 \u0442\u043e\u0447\u043a\u0435, \u0447\u0442\u043e \u0444\u0438\u043b\u044c\u0442\u0440\u0443\u0435\u0442 \u0438\u043d\u0434\u0438\u0432\u0438\u0434\u0443\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u044f, \u0430\u043a\u0446\u0435\u043d\u0442\u0438\u0440\u0443\u044f \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u0444\u043e\u0440\u043c\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438.<\/p>\n

\u0415\u0441\u043b\u0438 \u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e ‘centered’ = False, \u043a\u0440\u0438\u0432\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c\u0441\u044f \u0441 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043a\u0440\u0438\u0432\u043e\u0439.
\u041e\u0431\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043c \u043d\u0438\u0436\u0435.<\/p>\n

from<\/strong> sklearn.inspection import<\/strong> PartialDependenceDisplay fig, ax =<\/strong> plt.<\/strong>subplots(figsize=<\/strong>(10, 4)) fig.<\/strong>patch.<\/strong>set_facecolor('white') ax.<\/strong>set_facecolor('white') features_info =<\/strong> {\"features\": ['total_charge'], \"kind\": \"both\", \"centered\": False<\/strong>,} common_params =<\/strong> {\"subsample\": 500, \"n_jobs\": 2, \"grid_resolution\": 30, \"random_state\": 42, 'method':'auto'} display =<\/strong> PartialDependenceDisplay.<\/strong>from_estimator(model, x_train[features].<\/strong>iloc[:,:], features_info, ax = ax, <\/strong>common_params) <\/em>=<\/em><\/strong> display<\/em>.<\/em><\/strong>figure<\/em>.<\/strong>suptitle(\"ICE and PDP total_charge\", fontsize=<\/strong>12)<\/code><\/p>\n

<\/figure>\n

from<\/strong> sklearn.inspection import<\/strong> PartialDependenceDisplay fig, ax =<\/strong> plt.<\/strong>subplots(figsize=<\/strong>(10, 4)) fig.<\/strong>patch.<\/strong>set_facecolor('white') ax.<\/strong>set_facecolor('white') features_info =<\/strong> {\"features\": ['total_charge'], \"kind\": \"both\", \"centered\": True<\/strong>,} common_params =<\/strong> {\"subsample\": 500, \"n_jobs\": 2, \"grid_resolution\": 30, \"random_state\": 42, 'method':'auto'} display =<\/strong> PartialDependenceDisplay.<\/strong>from_estimator(model, x_train[features].<\/strong>iloc[:,:], features_info, ax = ax, <\/strong>common_params) <\/em>=<\/em><\/strong> display<\/em>.<\/em><\/strong>figure<\/em>.<\/strong>suptitle(\"ICE and PDP total_charge (centered)\", fontsize=<\/strong>12)<\/code><\/p>\n

<\/figure>\n

\u0413\u0440\u0430\u0444\u0438\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u044b \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0438, \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0442 \u043f\u043e\u0434 \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438, \u043d\u043e \u043c\u0430\u043b\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0442 \u043f\u043e\u0434 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0435.
\u041a\u0430\u043a \u043c\u044b \u0432\u0438\u0434\u0435\u043b\u0438 \u043d\u0430 Shap.summary_plot, \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0444\u0438\u0447\u0438 \u043d\u0435 \u0431\u044b\u043b\u0438 \u0440\u0430\u0441\u043a\u0440\u0430\u0448\u0435\u043d\u044b, \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u044c \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044e \u0431\u044b\u043b\u043e \u0441\u043b\u043e\u0436\u043d\u043e.
\u0413\u0440\u0430\u0444\u0438\u043a plotbar \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u0435\u0435 \u0440\u0430\u0441\u043a\u0440\u044b\u0442\u044c \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0434\u043b\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439.
\u0413\u0440\u0430\u0444\u0438\u043a plt.boxplot (\u044f\u0449\u0438\u043a \u0441 \u0443\u0441\u0430\u043c\u0438) \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043e\u043f\u0438\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u0430 \u043d\u0435\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f:
1. \u042f\u0449\u0438\u043a (Box)<\/strong>
\u0413\u0440\u0430\u043d\u0438\u0446\u044b \u044f\u0449\u0438\u043a\u0430: \u041d\u0438\u0436\u043d\u044f\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430 (Q1) \u2014 \u043f\u0435\u0440\u0432\u044b\u0439 \u043a\u0432\u0430\u0440\u0442\u0438\u043b\u044c (25-\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0438\u043b\u044c), \u0412\u0435\u0440\u0445\u043d\u044f\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430 (Q3) \u2014 \u0442\u0440\u0435\u0442\u0438\u0439 \u043a\u0432\u0430\u0440\u0442\u0438\u043b\u044c (75-\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0438\u043b\u044c).
\u041b\u0438\u043d\u0438\u044f \u0432\u043d\u0443\u0442\u0440\u0438 \u044f\u0449\u0438\u043a\u0430 (\u043e\u0440\u0430\u043d\u0436\u0435\u0432\u0430\u044f \u043b\u0438\u043d\u0438\u044f): \u041c\u0435\u0434\u0438\u0430\u043d\u0430 (Q2, 50-\u0439 \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0438\u043b\u044c).
\u0428\u0438\u0440\u0438\u043d\u0430 \u044f\u0449\u0438\u043a\u0430 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043c\u0435\u0436\u043a\u0432\u0430\u0440\u0442\u0438\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0437\u043c\u0430\u0445 (Interquartile range) (IQR = Q3 \u2013 Q1) \u2014 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d, \u0433\u0434\u0435 \u0441\u043e\u0441\u0440\u0435\u0434\u043e\u0442\u043e\u0447\u0435\u043d\u043e 50% \u0434\u0430\u043d\u043d\u044b\u0445.
2. \u0423\u0441\u044b (Whiskers)<\/strong>
\u0412\u0435\u0440\u0445\u043d\u0438\u0439 \u0443\u0441: Q3 + 1.5 IQR (\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u0432\u044b\u0431\u0440\u043e\u0441\u043e\u0432). \u041d\u0438\u0436\u043d\u0438\u0439 \u0443\u0441: \u041e\u0431\u044b\u0447\u043d\u043e Q1 \u2013 1.5 <\/em> IQR (\u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435, \u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u044f \u0432\u044b\u0431\u0440\u043e\u0441\u043e\u0432). \u0423\u0441\u044b \u043c\u043e\u0433\u0443\u0442 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c\u0441\u044f (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043e 95% \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0438\u043b\u0435\u0439). \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0442\u0430\u043a\u0436\u0435 \u0434\u043e\u0431\u0430\u0432\u0438\u043c \u0432 \u043a\u0430\u0436\u0434\u044b\u0439 \u044f\u0449\u0438\u043a \u043b\u0438\u043d\u0438\u044e \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 (\u0437\u0435\u043b\u0435\u043d\u044b\u0439 \u043f\u0443\u043d\u043a\u0442\u0438\u0440) \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e\u0431\u0449\u0443\u044e \u043b\u0438\u043d\u0438\u044e (\u043a\u0440\u0430\u0441\u043d\u044b\u0439 \u043f\u0443\u043d\u043a\u0442\u0438\u0440), \u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0443\u044e \u0441\u0440\u0435\u0434\u043d\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u044f\u0449\u0438\u043a\u0430\u043c\u0438, \u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u0432\u0438\u0434\u0435\u0442\u044c \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u0443. \u041d\u0438\u0436\u0435 \u043f\u043e\u0434 \u0433\u0440\u0430\u0444\u0438\u043a \u0434\u043e\u0431\u0430\u0432\u0438\u043c \u0433\u0438\u0441\u0442\u043e\u0433\u0440\u0430\u043c\u043c\u0443 \u0441 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u044f\u0449\u0438\u043a\u0435.<\/p>\n

x =<\/strong> 'customer_service_calls' values =<\/strong> shap_values[:,features.<\/strong>index(x)] data =<\/strong> x_train[x] categories =<\/strong> sorted(list(set(x_train[x]))) groups =<\/strong> [] means =<\/strong> [] for<\/strong> category in<\/strong> categories: relevant_values =<\/strong> values.<\/strong>values[values.<\/strong>data ==<\/strong> category] groups.<\/strong>append(relevant_values) means.<\/strong>append(np.<\/strong>mean(relevant_values)) labels =<\/strong> [u for<\/strong> u in<\/strong> categories] # \u0421\u043e\u0437\u0434\u0430\u0451\u043c \u0441\u0435\u0442\u043a\u0443 \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432: \u0432\u0435\u0440\u0445 \u2014 boxplot, \u043d\u0438\u0437 \u2014 \u0433\u0438\u0441\u0442\u043e\u0433\u0440\u0430\u043c\u043c\u0430<\/em> fig, (ax_box, ax_hist) =<\/strong> plt.<\/strong>subplots(nrows=<\/strong>2, sharex=True<\/strong>, gridspec_kw=<\/strong>{\"height_ratios\": (0.6, 0.4)}, figsize=<\/strong>(8, 6)) #plt.figure(figsize=(8, 5))<\/em> ax_box.<\/strong>boxplot(groups, labels =<\/strong> labels, showmeans=True<\/strong>, meanline=True<\/strong>) ax_box.<\/strong>set_ylabel('Shap values', size=<\/strong>15) ax_box.<\/strong>set_xlabel(x, size=<\/strong>15) # \u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043b\u0438\u043d\u0438\u0438, \u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0449\u0435\u0439 \u0441\u0440\u0435\u0434\u043d\u0438\u0435<\/em> ax_box.<\/strong>plot(range(1, len(categories) +<\/strong> 1), means, marker=<\/strong>'.', color=<\/strong>'red', linestyle=<\/strong>'--', linewidth=<\/strong>1, label=<\/strong>'\u0421\u0440\u0435\u0434\u043d\u0438\u0435') ax_box.<\/strong>grid(True<\/strong>, linestyle=<\/strong>'--', alpha=<\/strong>0.5) # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043f\u043e\u0434\u043f\u0438\u0441\u0438<\/em> for<\/strong> i, category in<\/strong> enumerate(categories): ax_hist.<\/strong>text(i+<\/strong>1, plt.<\/strong>ylim()[0], f\"n={len(groups[i])}\", ha=<\/strong>\"center\", va=<\/strong>'bottom') # \u0413\u0438\u0441\u0442\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439 \u043d\u0430 \u043d\u0438\u0436\u043d\u0435\u0439 \u043f\u0430\u043d\u0435\u043b\u0438<\/em> counts =<\/strong> [len(x) for<\/strong> x in<\/strong> groups] ax_hist.<\/strong>bar(range(1, len(categories)+<\/strong>1), counts, color=<\/strong>\"skyblue\", edgecolor=<\/strong>\"black\") ax_hist.<\/strong>set_ylabel(\"\u041a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\") plt.<\/strong>tight_layout() plt.<\/strong>show()<\/code><\/p>\n

<\/figure>\n

\u041c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0443 \u0438 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044e \u043c\u0435\u0436\u0434\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0444\u0438\u0447\u0438 \u0438 shap-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c\u0438. \u041a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u0441 shap \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a \u0441\u0432\u044f\u0437\u0430\u043d\u044b \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0435\u0439 \u0441 \u0438\u0445 \u0432\u043a\u043b\u0430\u0434\u043e\u043c \u0432 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438. \u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u043f\u0440\u0438 \u0441\u0438\u043b\u044c\u043d\u043e\u0439 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438, \u0442\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043e\u043d \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435. \u041f\u0440\u0438 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438, \u0432 \u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c, \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438, \u0442\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043e\u043d \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435. \u0415\u0441\u043b\u0438 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f \u043e\u043a\u043e\u043b\u043e\u043d\u0443\u043b\u0435\u0432\u0430\u044f, \u0442\u043e \u043d\u0435\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043c\u0435\u0436\u0434\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u0444\u0438\u0447\u0438 \u0438 \u0435\u0433\u043e \u0432\u043b\u0438\u044f\u043d\u0438\u0435\u043c. \u041d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e \u043d\u0438\u0437\u043a\u0438\u0435 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u043c\u043e\u0433\u0443\u0442 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043e \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0445 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u044f\u0445 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, U-\u043e\u0431\u0440\u0430\u0437\u043d\u0430\u044f \u043a\u0440\u0438\u0432\u0430\u044f) \u0438\u043b\u0438 \u043e \u0441\u0438\u043b\u044c\u043d\u044b\u0445 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f\u0445 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0444\u0438\u0447\u0430\u043c\u0438. \u0414\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u043e\u043a\u0430\u0436\u0435\u043c \u0433\u0440\u0430\u0444\u0438\u043a \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u0432 \u043d\u0430\u0448\u0435\u043c \u043a\u0435\u0439\u0441\u0435. \u0412\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u043f\u043e \u0444\u0438\u0447\u0435 total_charge \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u0430\u044f \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f, \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u0444\u0438\u0447\u0438, \u0430 \u043f\u043e \u0444\u0438\u0447\u0435 total_intl_calls \u2014\u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f \u043e\u0447\u0435\u043d\u044c \u043d\u0438\u0437\u043a\u0430\u044f. <\/p>\n

# \u0412\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0439<\/em> features.<\/strong>remove('customer_service_calls') correlations =<\/strong> {} for<\/strong> i, feat in<\/strong> enumerate(features): correlations[feat] =<\/strong> np.<\/strong>corrcoef(x_train[feat], shap_values.<\/strong>values[:,i])[0,1] # \u0413\u0440\u0430\u0444\u0438\u043a<\/em> plt.<\/strong>figure(figsize=<\/strong>(8, 2)) sns.<\/strong>barplot(x =<\/strong> list(correlations.<\/strong>values()), y =<\/strong> list(correlations.<\/strong>keys()), palette =<\/strong> \"vlag\") plt.<\/strong>axvline(0, color =<\/strong> 'black', linestyle =<\/strong> '--') plt.<\/strong>title('\u041a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0444\u0438\u0447\u0438 \u0441 Shap') plt.<\/strong>xlabel('\u041a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u041f\u0438\u0440\u0441\u043e\u043d\u0430') plt.<\/strong>xlim(-<\/strong>1, 1) plt.<\/strong>show() features =<\/strong> fe_stats[0:5].<\/strong>feature_names.<\/strong>to_list()<\/code><\/p>\n

<\/figure>\n

\u0427\u0442\u043e\u0431\u044b \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 total_intl_calls \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0444\u0438\u0447\u0430\u043c\u0438, \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u043d\u0435\u0435 \u0431\u043e\u043b\u0435\u0435 \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 Shap.dependence_plot(). \u041c\u043e\u0436\u043d\u043e \u0432\u044b\u0432\u0435\u0441\u0442\u0438 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f total_intl_calls \u0441 \u0434\u0440\u0443\u0433\u043e\u0439 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0449\u0435\u0439 \u043d\u0430\u0441 \u0444\u0438\u0447\u0435\u0439 \u043f\u0440\u044f\u043c\u043e \u0443\u043a\u0430\u0437\u0430\u0432 \u0435\u0435 \u0432 interaction_index. \u0415\u0441\u043b\u0438 \u0442\u0430\u043a\u0443\u044e \u043d\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c, \u0442\u043e shap.dependence_plot \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0432\u044b\u0431\u0435\u0440\u0435\u0442 \u0434\u043b\u044f \u0440\u0430\u0441\u043a\u0440\u0430\u0441\u043a\u0438 \u0442\u043e\u0447\u0435\u043a \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u0444\u0438\u0447\u0443 \u0441 \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435\u043c. \u0427\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 Shap-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0444\u0438\u0447\u0438 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0434\u0440\u0443\u0433\u043e\u0439 \u0444\u0438\u0447\u0438, \u0442\u0435\u043c \u0432\u044b\u0448\u0435 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435. \u0424\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u044d\u0442\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u044e Shap-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043e\u0434\u043d\u043e\u0439 \u0444\u0438\u0447\u0438, \u043e\u0431\u044a\u044f\u0441\u043d\u0451\u043d\u043d\u044b\u0445 \u0434\u0440\u0443\u0433\u043e\u0439 \u0444\u0438\u0447\u0435\u0439. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043f\u0440\u0438 \u0432\u044b\u0441\u043e\u043a\u043e\u043c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0438 international_plan Shap-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f total_intl_calls \u0440\u0435\u0437\u043a\u043e \u0432\u044b\u0440\u0430\u0441\u0442\u0443\u0442, \u0430 \u043f\u0440\u0438 \u043d\u0438\u0437\u043a\u043e\u043c \u0441\u043d\u0438\u0437\u044f\u0442\u0441\u044f,
\u0442\u043e international_plan \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0431\u0440\u0430\u043d\u0430 \u0434\u043b\u044f \u0440\u0430\u0441\u043a\u0440\u0430\u0441\u043a\u0438 \u0442\u043e\u0447\u0435\u043a (\u0441\u043c. \u043f\u0440\u0438\u043c\u0435\u0440 \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435).<\/p>\n

# \u043d\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0444\u0438\u0447\u0443 \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f, \u0432\u044b\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0444\u0438\u0447\u0430 \u0441 \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435\u043c - international_plan<\/code>
shap.dependence_plot('total_intl_calls', shap_values.values, x_train[features].iloc[:,:])<\/code><\/p>\n

<\/figure>\n

# \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0444\u0438\u0447\u0443 \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0445\u043e\u0442\u0438\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 - 'number_vmail_messages'<\/code>
shap.dependence_plot(‘total_intl_calls’, shap_values.values, x_train[features].iloc[:,:], interaction_index = ‘number_vmail_messages’)<\/p>\n

<\/figure>\n

Shap.dependence_plot \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0443\u0432\u0435\u0434\u0438\u0442\u044c \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0447\u0442\u043e \u043d\u0430\u043b\u0438\u0447\u0438\u0435 international_plan \u043f\u043e \u0440\u0430\u0437\u043d\u043e\u043c\u0443 \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043f\u043e \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c \u0441 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u0437\u0432\u043e\u043d\u043a\u043e\u0432 total_intl_calls. \u0411\u043e\u043b\u0435\u0435 \u0434\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u043e Shap.dependence_plot \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u0442\u044c \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438: https:\/\/shap.readthedocs.io\/en\/latest\/example_notebooks\/tabular_examples\/tree_based_models\/NHANES<\/a> I Survival Model.html<\/a><\/p>\n

\u041d\u0430 \u044d\u0442\u043e\u043c \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u043c. \u041d\u0430\u0434\u0435\u044e\u0441\u044c, \u0447\u0442\u043e \u0434\u0430\u043d\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f \u0431\u044b\u043b\u0430 \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0434\u043b\u044f \u0432\u0430\u0441.
\u041a\u0430\u043a\u0438\u0435 \u0435\u0449\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0435\u0441\u0442\u044c \u0443 \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u044b\u043b\u0438 \u0431\u044b \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u0434\u043b\u044f \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439, \u043f\u0438\u0448\u0438\u0442\u0435 \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.<\/p>\n<\/div>\n<\/div>\n<\/div>\n

<\/div>\n


\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/938988\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

<\/div>\n
\n
\n
\n
\n
<\/figure>\n

\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442. \u042f \u0410\u043d\u0434\u0440\u0435\u0439 \u0411\u043e\u044f\u0440\u0435\u043d\u043a\u043e\u0432, \u043b\u0438\u0434\u0435\u0440 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0431\u0438\u0437\u043d\u0435\u0441-\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441\u0442\u0440\u0438\u043c\u0430 «\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u041a\u0418\u0411 \u0438 \u0421\u041c\u0411» \u0431\u0430\u043d\u043a\u0430 \u0412\u0422\u0411.<\/p>\n

\u041d\u0430\u0448 \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430:<\/p>\n

\u00a0— \u0432\u044b\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u043d\u0438\u0435 \u0438 \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432 AutoML,<\/p>\n

\u00a0— \u0437\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043b\u044f \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432: \u041f\u041e\u0414\u0424\u0422 \\ Precollection \\ \u0416\u0426\u041a (\u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e\u0433\u043e \u0446\u0438\u043a\u043b\u0430 \u043a\u043b\u0438\u0435\u043d\u0442\u0430),<\/p>\n

\u00a0— \u0430 \u0442\u0430\u043a\u0436\u0435 \u0437\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0446\u0438\u0444\u0440\u043e\u0432\u044b\u0445 \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a\u043e\u0432 \u0434\u043b\u044f \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u043e\u0434\u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0439 \u0431\u0430\u043d\u043a\u0430,\u00a0\u0432 \u0442.\u0447. \u0440\u0438\u0441\u043a-\u0430\u043d\u0434\u0435\u0440\u0440\u0430\u0439\u0442\u0438\u043d\u0433\u0430, \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0445 \u0440\u0438\u0441\u043a\u043e\u0432 \u0438 \u043a\u043e\u043c\u043f\u043b\u0430\u0435\u043d\u0441\u0430.<\/p>\n

\u0423\u0447\u0430\u0441\u0442\u0438\u0435 \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0430 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430\u0445 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0430\u0436\u043d\u044b\u043c. \u041a\u0430\u043a \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043e\u043d\u043e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u043c \u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u044d\u0442\u0430\u043f\u0430\u0445:<\/p>\n

— \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0437\u0430\u0434\u0430\u0447\u0438 \u043d\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0438, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430 \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439,<\/p>\n

— \u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u0438\u0435 \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442\u0430 \u0444\u0438\u0447\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u043b\u043e\u0433\u0438\u0438 \u0438\u0445 \u0440\u0430\u0441\u0447\u0435\u0442\u0430,<\/p>\n

— \u043f\u0440\u0438\u0435\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 (\u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u044f \u043c\u0435\u0442\u0440\u0438\u043a \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u043c),<\/p>\n

— \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 \u0431\u0438\u0437\u043d\u0435\u0441-\u043b\u043e\u0433\u0438\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n

\u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0445\u043e\u0447\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a\u0438\u0435 \u043d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434 \u0442\u0438\u043f\u044b \u0433\u0440\u0430\u0444\u0438\u043a\u043e\u0432 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c,\u00a0\u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0443 \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u044f\u0445. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c, \u0447\u0442\u043e \u0446\u0435\u043b\u044c\u044e \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043b\u043e\u0433\u0438\u043a\u0443 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439 \u043d\u0435 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f,\u00a0\u0430 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c.\u00a0<\/p>\n

\u0413\u0440\u0430\u0444\u0438\u043a\u0438 \u043f\u043e\u043a\u0430\u0436\u0435\u043c \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0430\u0445\u043e\u0434\u044f\u0449\u0435\u0433\u043e\u0441\u044f \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 telecom_churn. \u0412 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0435\u0433\u043e \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 \u043f\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c \u0441\u0441\u044b\u043b\u043a\u0430\u043c:\u00a0<\/p>\n

1.\u00a0https:\/\/www.kaggle.com\/datasets\/keyush06\/telecom-churncsv<\/a><\/p>\n

2.\u00a0https:\/\/www.kaggle.com\/datasets\/nikkitha8\/telecom-churn<\/a><\/p>\n

3.\u00a0https:\/\/www.kaggle.com\/code\/kashnitsky\/topic-1-exploratory-data-analysis-with-pandas<\/a><\/p>\n

4.\u00a0https:\/\/habr.com\/ru\/companies\/ods\/articles\/322626\/<\/a><\/p>\n

\u041d\u0438\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0448\u0430\u0433\u0438 \u0434\u043b\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 telecom_churn \u0432 \u0446\u0435\u043b\u044f\u0445 \u0435\u0435 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f:<\/p>\n

1. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0438\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u0443\u0435\u043c \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0440\u0438\u0433\u043e\u0434\u044f\u0442\u0441\u044f \u0434\u043b\u044f \u043d\u0430\u0448\u0435\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f.<\/p>\n

2. \u0414\u0430\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0434\u0430\u0442\u0430\u0444\u0440\u0435\u0439\u043c data \u0441 \u0432\u044b\u0431\u043e\u0440\u043a\u043e\u0439 telecom_churn, \u0441\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u0443\u0435\u043c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0441\u0442\u0440\u043e\u043a \u0438 \u043f\u0440\u0438\u0441\u0432\u043e\u0438\u043c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0439 \u0442\u0438\u043f \u0434\u0430\u043d\u043d\u044b\u0445 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 churn. \u0414\u0435\u0442\u0430\u043b\u044c\u043d\u044b\u0439 EDA (Explanatory Data Analysis) \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c \u043d\u0435 \u0431\u0443\u0434\u0435\u043c, \u0442.\u043a. \u0446\u0435\u043b\u044c \u0441\u0442\u0430\u0442\u044c\u0438 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0442\u043e\u043c \u0447\u0442\u043e\u0431\u044b\u00a0\u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0434\u043b\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0444\u0438\u0447\u0435\u0439.<\/p>\n

3. \u0414\u043b\u044f \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u044f \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0440\u044f\u0434 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

4. \u0421\u0434\u0435\u043b\u0430\u0435\u043c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043f\u0440\u0435\u0434\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0442\u0438\u043f\u043e\u0432 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n

5. \u0421\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442 \u0444\u0438\u0447\u0435\u0439 features \u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439 cat_feat.\u00a0<\/p>\n

6. \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u0441\u043e \u0441\u0442\u0440\u0430\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u043f\u043e churn \u043d\u0430 train (75%) \u0438 test (25%) \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435.<\/p>\n

7. \u0412\u044b\u0431\u043e\u0440\u043a\u0443 train \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u043d\u0430 train (60%) \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 val (15%) \u0434\u043b\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u044f \u0440\u0430\u043d\u043d\u043e\u0439 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438.<\/p>\n

\u041a\u043e\u0434 \u043d\u0430 Python \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441 \u0432\u044b\u0431\u043e\u0440\u043a\u043e\u0439 \u0441\u043c. \u043d\u0438\u0436\u0435:<\/p>\n

import<\/strong> pandas as<\/strong> pd import<\/strong> re import<\/strong> shap import<\/strong> numpy as<\/strong> np import<\/strong> matplotlib.pyplot as<\/strong> plt import<\/strong> seaborn as<\/strong> sns from<\/strong> catboost import<\/strong> CatBoostClassifier from<\/strong> sklearn.model_selection import<\/strong> train_test_split from<\/strong> sklearn import<\/strong> preprocessing from<\/strong> sklearn.metrics import<\/strong> make_scorer, roc_auc_score from<\/strong> scipy import<\/strong> stats import<\/strong> warnings warnings.<\/strong>filterwarnings('ignore') data =<\/strong> pd.<\/strong>read_csv('telecom_churn.csv', sep=<\/strong>',') # \u0447\u0442\u0435\u043d\u0438\u0435 \u0434\u0430\u0442\u0430\u0444\u0440\u0435\u0439\u043c\u0430<\/em> data.<\/strong>columns =<\/strong> data.<\/strong>columns.<\/strong>str.<\/strong>replace(' ', '_') # \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u043a\u0430 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0439 \u0441\u0442\u0440\u043e\u043a<\/em> data['churn'] =<\/strong> data['churn'].<\/strong>map({True<\/strong>: 1, False<\/strong>: 0}).<\/strong>astype('int32') #\u0440\u0430\u0441\u0447\u0435\u0442 \u0441\u0443\u043c\u043c\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0435\u0439 \u0437\u0430 \u0432\u0441\u0435 \u0432\u0440\u0435\u043c\u044f <\/em> col_minutes =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_minutes', x)) !=<\/strong> 0] col_calls =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_calls', x)) !=<\/strong> 0] col_charge =<\/strong> [x for<\/strong> x in<\/strong> data.<\/strong>columns if<\/strong> len(re.<\/strong>findall('total_\\w*_charge', x)) !=<\/strong> 0] data['total_minutes'] =<\/strong> data[col_minutes].<\/strong>sum(axis=<\/strong>1) data['total_calls'] =<\/strong> data[col_calls].<\/strong>sum(axis=<\/strong>1) data['total_charge'] =<\/strong> data[col_charge].<\/strong>sum(axis=<\/strong>1) data['charge_per_minute'] =<\/strong> data['total_charge'] \/<\/strong> data['total_minutes'] #\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u043e\u0439 \u043c\u0438\u043d\u0443\u0442\u044b<\/em> data['charge_per_call'] =<\/strong> data['total_charge'] \/<\/strong> data['total_calls'] #\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0432\u043e\u043d\u043a\u0430<\/em> data['minutes_per_call'] =<\/strong> data['total_minutes'] \/<\/strong> data['total_calls'] #\u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0432\u043e\u043d\u043a\u0430<\/em> #\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0444\u0438\u0447\u0438 \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043e\u0442 3 \u0434\u043e 9 \u0432\u043a\u043b\u044e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e<\/em> for<\/strong> column in<\/strong> data.<\/strong>columns: if<\/strong> data[column].<\/strong>nunique() <<\/strong> 10 and<\/strong> data[column].<\/strong>nunique() >=<\/strong> 3: data[column] =<\/strong> data[column].<\/strong>astype('str') #\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c\u0438 \u0444\u0438\u0447\u0438 \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c 2 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043e\u043d\u0438 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0442\u0438\u043f\u0430\u043c\u0438 'object' \u0438\u043b\u0438 'bool'<\/em> bool_columns =<\/strong> [] for<\/strong> column in<\/strong> data.<\/strong>dtypes[(data.<\/strong>dtypes==<\/strong>'object')|<\/strong>(data.<\/strong>dtypes==<\/strong>'bool')].<\/strong>index: if<\/strong> data[column].<\/strong>nunique() ==<\/strong> 2: bool_columns.<\/strong>append(column) le =<\/strong> preprocessing.<\/strong>LabelEncoder() for<\/strong> column in<\/strong> bool_columns: data[column] =<\/strong> le.<\/strong>fit_transform(data[column]) # \u0434\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0441 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0435\u0439 \u0444\u0438\u0447\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043d\u0430 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0430\u0445<\/em> # \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0435\u043c \u0444\u0438\u0447\u0443 'customer_service_calls' \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u043e\u0439 (\u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u0432\u0435\u0434\u0435\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 <\/em> # \u043e\u0442 'A' \u0434\u043e 'F', \u0430 \u0434\u043b\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 6 \u0438 \u0431\u043e\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0443\u044e \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044e 'G' \u0432 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043f\u043e\u043f\u0430\u0434\u0435\u0442 \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u0435\u0435 1% \u0432\u044b\u0431\u043e\u0440\u043a\u0438<\/em> data['customer_service_calls'] =<\/strong> data['customer_service_calls'].<\/strong>replace( {0: 'A', 1: 'B', 2: 'C', 3: 'D', 4: 'E', 5: 'F'}).<\/strong>mask(data['customer_service_calls'] >=<\/strong> 6, 'G') # \u0421\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u043b\u043e\u043d\u0433-\u043b\u0438\u0441\u0442 \u0444\u0438\u0447\u0435\u0439 features \u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439 cat_feat (\u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 phone_number \u0438 \u0442\u0430\u0440\u0433\u0435\u0442 churn)<\/em> features =<\/strong> data.<\/strong>columns.<\/strong>to_list() features =<\/strong> [x for<\/strong> x in<\/strong> features if<\/strong> x not<\/strong> in<\/strong> ['phone_number','churn']] cat_feat =<\/strong> data.<\/strong>select_dtypes(exclude =<\/strong> [np.<\/strong>number]).<\/strong>columns.<\/strong>to_list() cat_feat =<\/strong> [x for<\/strong> x in<\/strong> cat_feat if<\/strong> x not<\/strong> in<\/strong> ['phone_number','churn']] # \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u043c \u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u0441\u043e \u0441\u0442\u0440\u0430\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u043f\u043e churn \u043d\u0430 \u0442\u0440\u0435\u0439\u043d(75%) \u0438 \u0442\u0435\u0441\u0442(25%) \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435:<\/em> x_train,x_test,y_train,y_test=<\/strong>train_test_split(data, data['churn'], stratify =<\/strong> data['churn'], test_size =<\/strong> 0.25, random_state=<\/strong>42) x_train,x_val,y_train,y_val=<\/strong>train_test_split(x_train, y_train, stratify =<\/strong> y_train, test_size =<\/strong> 0.20, random_state =<\/strong> 42)<\/code><\/p>\n

\u0414\u0430\u043b\u0435\u0435 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445 \u0438\u0437 \u043b\u043e\u043d\u0433\u2013\u043b\u0438\u0441\u0442\u0430 \u043e\u0431\u0443\u0447\u0438\u043c Catboost \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0438 c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u0434\u0435\u0440\u0435\u0432\u044c\u0435\u0432.\u00a0\u041d\u0430\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u043f\u0438\u0441\u043a\u0430 \u043d\u0430\u0431\u043e\u043b\u0435\u0435 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0414\u0436\u0438\u043d\u0438 83,08%.<\/p>\n

\u0417\u043d\u0430\u0447\u0438\u043c\u043e\u0441\u0442\u044c \u043e\u0446\u0435\u043d\u0438\u043c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e get_feature_importance() \u0432 \u043e\u0441\u043d\u043e\u0432\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c PredictionValueChange,\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u0441\u044f \u043f\u0440\u043e\u0433\u043d\u043e\u0437 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0444\u0438\u0447\u0435\u0439.<\/p>\n

\u041f\u0440\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0444\u0438\u0447\u0438 \u0437\u0430\u043c\u0435\u043d\u0430 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0444\u0438\u0447\u0438 \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u043a\u0435,\u00a0\u0430 \u0434\u043b\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u043e\u0432 \u2014 \u043d\u0430 \u0441\u0430\u043c\u044b\u0439 \u0447\u0430\u0441\u0442\u044b\u0439 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441.<\/p>\n

\u0412\u044b\u0431\u0435\u0440\u0435\u043c \u043f\u044f\u0442\u044c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447. \u0418\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u043d\u0438\u0445 \u043c\u044b \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u043c \u043d\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0434\u043b\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u0438.<\/p>\n

\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043f\u044f\u0442\u044c\u044e \u0441\u0430\u043c\u044b\u043c\u0438 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u043c\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c: ‘total_charge’, ‘customer_service_calls’, ‘international_plan’, ‘total_intl_calls’ \u0438 ‘number_vmail_messages’.<\/p>\n

\u0414\u043b\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u0432\u044b\u0432\u0435\u0434\u0435\u043c \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0443 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445.\u00a0\u0421\u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 describe \u0441 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u043e\u0439 \u0434\u043b\u044f \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438.<\/p>\n

\u041a\u043e\u0434 \u043d\u0430 Python \u0434\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u0441\u043c. \u043d\u0438\u0436\u0435:<\/p>\n

def<\/strong> gini(y_true, y_pred): gini =<\/strong> 2 roc_auc_score(y_true, y_pred) <\/em>-<\/em><\/strong> 1 <\/em>return<\/em><\/strong> gini<\/em>
gini_scorer <\/em>=<\/em><\/strong> make_scorer(gini, greater_is_better <\/em>=<\/em><\/strong> <\/em>True<\/em><\/strong>)<\/em>
params <\/em>=<\/em><\/strong> { \"verbose\": <\/em>False<\/em><\/strong>, \"eval_metric\": 'Logloss', 'iterations': 1000, 'random_state': 42, 'early_stopping_rounds': 10, 'max_depth': 4<\/em>
}<\/em>
model <\/em>=<\/em><\/strong> CatBoostClassifier(<\/em>*<\/strong>params)
model.<\/strong>fit(x_train[features], y_train, eval_set =<\/strong> (x_val[features], y_val), cat_features =<\/strong> cat_feat)
y_pred_train =<\/strong> model.<\/strong>predict_proba(x_train[features]).<\/strong>T[1]
y_pred_val =<\/strong> model.<\/strong>predict_proba(x_val[features]).<\/strong>T[1]
y_pred_test =<\/strong> model.<\/strong>predict_proba(x_test[features]).<\/strong>T[1]
gini_train =<\/strong> np.<\/strong>round(gini(y_train, y_pred_train),3)
gini_val =<\/strong> np.<\/strong>round(gini(y_val, y_pred_val),3)
gini_test =<\/strong> np.<\/strong>round(gini(y_test, y_pred_test),3)
print('\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445:', 'train', gini_train, 'val', gini_val, 'test', gini_test)
fe_stats =<\/strong> pd.<\/strong>DataFrame({'feature_importance': model.<\/strong>get_feature_importance(), 'feature_names':features}).<\/strong>sort_values(by=<\/strong>['feature_importance'], ascending=False<\/strong>)
display(fe_stats[0:5])
features =<\/strong> fe_stats[0:5].<\/strong>feature_names.<\/strong>to_list()
cat_feat =<\/strong> ['customer_service_calls']<\/code><\/p>\n


target =<\/strong> ['churn']
data =<\/strong> data[features +<\/strong> target].<\/strong>copy()
data_info =<\/strong> data.<\/strong>describe(percentiles =<\/strong> [0.01, 0.05, 0.5, 0.95, 0.99], include=<\/strong>list(np.<\/strong>unique(data[data.<\/strong>columns].<\/strong>dtypes.<\/strong>astype('str').<\/strong>values))).<\/strong>T
data_info['type'] =<\/strong> data[data.<\/strong>columns].<\/strong>dtypes
data_info['null'] =<\/strong> data[data.<\/strong>columns].<\/strong>isnull().<\/strong>sum()
data_info['null%'] =<\/strong> np.<\/strong>round(data[data.<\/strong>columns].<\/strong>isnull().<\/strong>mean() *<\/strong> 100, 1)
data_info['nunique'] =<\/strong> data[data.<\/strong>columns].<\/strong>nunique()
data_info['count'] =<\/strong> data_info['count'].<\/strong>astype('int')
data_info =<\/strong> data_info.<\/strong>drop('unique', axis =<\/strong> 1)
data_info.<\/strong>sort_values(by =<\/strong> ['type','nunique'], ascending =<\/strong> [False<\/strong>, False<\/strong>], inplace =<\/strong> True<\/strong>)
data_info=<\/strong>data_info.<\/strong>loc[:,['type','count','nunique','null','null%','top','freq','min','max','mean','std','1%','5%','50%','95%','99%']]
data_info[['min','max','mean','std','1%','5%','50%','95%','99%']] =<\/strong> data_info[['min','max','mean','std','1%','5%','50%','95%','99%']].<\/strong>astype(float).<\/strong>round(4)
display(data_info)<\/code><\/p>\n

\u0414\u0436\u0438\u043d\u0438 \u0431\u0443\u0441\u0442\u0438\u043d\u0433\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0444\u0438\u0447\u0430\u0445: train 0.934 val 0.859 test 0.831<\/u><\/p>\n

\n
\n\n\n\n\n\n\n\n\n
\n

\n<\/td>\n

\n

feature_importance<\/strong><\/p>\n<\/td>\n

\n

feature_names<\/strong><\/p>\n<\/td>\n<\/tr>\n

\n

21<\/strong><\/p>\n<\/td>\n

\n

39.692171<\/p>\n<\/td>\n

\n

total_charge<\/p>\n<\/td>\n<\/tr>\n

\n

18<\/strong><\/p>\n<\/td>\n

\n

17.874816<\/p>\n<\/td>\n

\n

customer_service_calls<\/p>\n<\/td>\n<\/tr>\n

\n

3<\/strong><\/p>\n<\/td>\n

\n

14.006796<\/p>\n<\/td>\n

\n

international_plan<\/p>\n<\/td>\n<\/tr>\n

\n

16<\/strong><\/p>\n<\/td>\n

\n

6.891904<\/p>\n<\/td>\n

\n

total_intl_calls<\/p>\n<\/td>\n<\/tr>\n

\n

5<\/strong><\/p>\n<\/td>\n

\n

5.593090<\/p>\n<\/td>\n

\n

number_vmail_messages<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n

\n
\n\n\n\n\n\n\n\n\n\n
\n

\n<\/td>\n

\n

type<\/strong><\/p>\n<\/td>\n

\n

count<\/strong><\/p>\n<\/td>\n

\n

nunique<\/strong><\/p>\n<\/td>\n

\n

null<\/strong><\/p>\n<\/td>\n

\n

null%<\/strong><\/p>\n<\/td>\n

\n

top<\/strong><\/p>\n<\/td>\n

\n

freq<\/strong><\/p>\n<\/td>\n

\n

min<\/strong><\/p>\n<\/td>\n

\n

max<\/strong><\/p>\n<\/td>\n

\n

mean<\/strong><\/p>\n<\/td>\n

\n

std<\/strong><\/p>\n<\/td>\n

\n

1%<\/strong><\/p>\n<\/td>\n

\n

5%<\/strong><\/p>\n<\/td>\n

\n

50%<\/strong><\/p>\n<\/td>\n

\n

95%<\/strong><\/p>\n<\/td>\n

\n

99%<\/strong><\/p>\n<\/td>\n<\/tr>\n

\n

customer_service_calls<\/strong><\/p>\n<\/td>\n

\n

object<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

7<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

B<\/p>\n<\/td>\n

\n

1181<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n<\/tr>\n

\n

total_charge<\/strong><\/p>\n<\/td>\n

\n

float64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2678<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

22.93<\/p>\n<\/td>\n

\n

96.15<\/p>\n<\/td>\n

\n

59.4498<\/p>\n<\/td>\n

\n

10.5023<\/p>\n<\/td>\n

\n

33.8532<\/p>\n<\/td>\n

\n

42.338<\/p>\n<\/td>\n

\n

59.47<\/p>\n<\/td>\n

\n

76.516<\/p>\n<\/td>\n

\n

83.8396<\/p>\n<\/td>\n<\/tr>\n

\n

number_vmail_messages<\/strong><\/p>\n<\/td>\n

\n

int64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

46<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

51.00<\/p>\n<\/td>\n

\n

8.0990<\/p>\n<\/td>\n

\n

13.6884<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

36.000<\/p>\n<\/td>\n

\n

43.0000<\/p>\n<\/td>\n<\/tr>\n

\n

total_intl_calls<\/strong><\/p>\n<\/td>\n

\n

int64<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

21<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

20.00<\/p>\n<\/td>\n

\n

4.4794<\/p>\n<\/td>\n

\n

2.4612<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

4.00<\/p>\n<\/td>\n

\n

9.000<\/p>\n<\/td>\n

\n

13.0000<\/p>\n<\/td>\n<\/tr>\n

\n

international_plan<\/strong><\/p>\n<\/td>\n

\n

int32<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.00<\/p>\n<\/td>\n

\n

0.0969<\/p>\n<\/td>\n

\n

0.2959<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n<\/tr>\n

\n

churn<\/strong><\/p>\n<\/td>\n

\n

int32<\/p>\n<\/td>\n

\n

3333<\/p>\n<\/td>\n

\n

2<\/p>\n<\/td>\n

\n

0<\/p>\n<\/td>\n

\n

0.0<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

NaN<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.00<\/p>\n<\/td>\n

\n

0.1449<\/p>\n<\/td>\n

\n

0.3521<\/p>\n<\/td>\n

\n

0.0000<\/p>\n<\/td>\n

\n

0.000<\/p>\n<\/td>\n

\n

0.00<\/p>\n<\/td>\n

\n

1.000<\/p>\n<\/td>\n

\n

1.0000<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n

\u0414\u0430\u043b\u0435\u0435 \u043e\u0431\u0443\u0447\u0438\u043c catboost \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u044f\u0442\u0438 \u0441\u0430\u043c\u044b\u0445 \u0437\u043d\u0430\u0447\u0438\u043c\u044b\u0445 \u0444\u0438\u0447\u0430\u0445.\u00a0\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0414\u0436\u0438\u043d\u0438 82,5%.<\/p>\n

params\u00a0=<\/strong>\u00a0{<\/code><\/p>\n

\u00a0 <\/code><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-471435","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/471435","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=471435"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/471435\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=471435"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=471435"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=471435"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}