{"id":444165,"date":"2025-01-08T03:00:37","date_gmt":"2025-01-08T03:00:37","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=444165"},"modified":"-0001-11-30T00:00:00","modified_gmt":"2025-01-08T03:00:37","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=444165","title":{"rendered":"<span>\u041a\u0430\u043a \u043c\u044b \u0434\u0435\u043f\u043b\u043e\u0438\u043c Apache Airflow \u0434\u043b\u044f \u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432 Kubernetes<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<blockquote>\n<p>\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 \u0438\u043d\u0436\u0435\u043d\u0435\u0440, \u0435\u0441\u043b\u0438 DAG \u043d\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f? \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 Airflow 50 \u0440\u0430\u0437, \u0430 \u043f\u043e\u0442\u043e\u043c \u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442, \u0447\u0442\u043e \u0437\u0430\u0431\u044b\u043b \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c @dag \u043d\u0430\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439.  <\/p>\n<\/blockquote>\n<p>\u0420\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 Apache Airflow \u0432 \u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u2014 \u044d\u0442\u043e \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0442\u0440\u0435\u0431\u0443\u044e\u0449\u0430\u044f \u0443\u0447\u0435\u0442\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0430\u0441\u043f\u0435\u043a\u0442\u043e\u0432: \u043e\u0442 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0435\u043d\u0438\u044f \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c\u0438. \u041e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u043f\u0440\u043e\u0431\u043b\u0435\u043c, \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u044b, \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u0430\u043c\u0438, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 \u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0441\u0442\u044c.<\/p>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a Sops \u0438 YAML-\u044f\u043a\u043e\u0440\u044f, \u0434\u043b\u044f \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u0447\u0438\u0442\u0430\u0435\u043c\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439. \u0410 \u0442\u0430\u043a \u0436\u0435 \u043a\u0430\u043a \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u0443\u044e \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0438\u043d\u0441\u0442\u0430\u043b\u043b\u044f\u0446\u0438\u0438 Apache Airflow<\/p>\n<p>\u041a\u043e\u043b\u043b\u0435\u0433\u0438, \u0437\u0434\u0430\u0440\u043e\u0432\u0430! <\/p>\n<p>\u041c\u043d\u0435 \u0447\u0430\u0441\u0442\u043e \u0441\u0442\u0430\u043b\u0438 \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c\u0441\u044f \u043d\u043e\u0432\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0434\u0435\u043f\u043b\u043e\u044f\u0442 Apache Airflow \u0440\u0430\u0437\u043d\u044b\u0435 \u0440\u0435\u0431\u044f\u0442\u0430 \u0443 \u0441\u0435\u0431\u044f \u0432 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044f\u0445. \u041a\u0442\u043e-\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Docker Compose, \u043a\u0442\u043e-\u0442\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u044d\u0442\u043e \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u043d\u043e\u0434\u0430\u0445, \u043a\u0442\u043e-\u0442\u043e \u0434\u0430\u0436\u0435 \u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u0443\u0435\u0442 \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0441\u0432\u043e\u044e \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e Python (\u0445\u043e\u0442\u044f, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0441\u0442\u0430\u0442\u044c\u044f \u043e\u0442 2022 \u0433\u043e\u0434\u0430 \u0443\u0436\u0435 \u043d\u0435\u043c\u043d\u043e\u0436\u043a\u043e \u0443\u0441\u0442\u0430\u0440\u0435\u043b\u0430). <\/p>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u044f \u0445\u043e\u0447\u0443 \u0432\u0430\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u043c\u044b \u0434\u0435\u043f\u043b\u043e\u0435\u043c \u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e Apache Airflow \u0432 Kubernetes.<\/p>\n<p>\u0427\u0442\u043e \u043c\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c: <\/p>\n<p>1. \u0421\u043e\u0431\u0435\u0440\u0435\u043c \u0441\u0432\u043e\u0439 Helm Chart \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0432\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u0432\u0441\u0435 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b.<br \/>2. \u041f\u043e\u043a\u0440\u043e\u0435\u043c Airflow \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u043e\u043c \u0438 \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c.<br \/>3. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0435\u0441\u0442\u044c \u043f\u0430\u0440\u043e\u0447\u043a\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u043c\u043e\u043c\u0435\u043d\u0442\u043e\u0432. <br \/>4. \u0418 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0435 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432, \u0434\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u043e\u0434\u043e\u0432.<\/p>\n<p>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u043f\u0440\u0430\u0432\u043e\u0447\u043a\u0430 \u043e\u0442 \u043c\u0435\u043d\u044f \u043f\u043e \u043f\u043e\u0432\u043e\u0434\u0443 \u0440\u0443\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438:  <br \/>\u0421\u0435\u043a\u0440\u0435\u0442 = \u043a\u0430\u043a\u0430\u044f-\u043d\u0438\u0431\u0443\u0434\u044c \u0442\u0430\u0439\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043b\u0443\u0447\u0448\u0435 \u043d\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0436\u0435\u043d\u0435 \u0438\u043b\u0438 \u043b\u044e\u0431\u043e\u0432\u043d\u0438\u0446\u0435 \ud83d\ude42 .<br \/>\u0421\u0438\u043a\u0440\u0435\u0442 = \u042d\u0442\u043e \u043f\u043e\u043b\u0435 \u0432 \u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442\u0435 K8s, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0438\u043f \u0440\u0435\u0441\u0443\u0440\u0441\u0430 <code>Secret<\/code><br \/>\u042f \u0442\u0430\u043a \u0438 \u043d\u0435 \u0441\u043c\u043e\u0433 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u0441\u044f \u0441 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u043c \u0442\u0435\u0440\u043c\u0438\u043d\u043e\u0432 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438\u043b\u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041f\u043e \u044d\u0442\u043e\u043c\u0443 \u0432\u044b \u0443\u0432\u0438\u0434\u0438\u0442\u0435 \u0432 \u0442\u0435\u043a\u0441\u0442\u0435 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u044f \u043f\u0438\u0448\u0443 \u0447\u0442\u043e-\u0442\u043e \u043d\u0430 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 \u0442\u043e\u0436\u0435 \u0441\u0430\u043c\u043e\u0435 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435.<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u043d\u0430\u0447\u0430\u043b\u043e\u043c, \u044f \u0432\u0430\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043f\u0440\u043e \u0441\u043f\u043e\u0441\u043e\u0431 \u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u044f Secret \u0432 k8s. \u0412\u0435\u0434\u044c \u043e\u0431\u044b\u0447\u043d\u043e \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0435\u043c \u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442 \u0441  <code>kind: Secret<\/code> , \u0442\u043e \u0432\u0441\u0435 \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043c\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0447\u0442\u043e \u043d\u0435 \u0435\u0441\u0442\u044c \u0445\u043e\u0440\u043e\u0448\u043e, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e \u043f\u043e\u0442\u043e\u043c \u043f\u043e\u043f\u0430\u0434\u0435\u0442 \u0432 \u043a\u0430\u043a\u043e\u0439-\u043d\u0438\u0431\u0443\u0434\u044c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 Git.<\/p>\n<p>\u041c\u043e\u0438 \u043a\u043e\u043b\u043b\u0435\u0433\u0438 \u0441\u0432\u043e\u0435\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b\u0438 \u043c\u043d\u0435 \u043f\u0440\u043e \u0442\u0430\u043a\u043e\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442, \u043a\u0430\u043a Sops <a href=\"https:\/\/github.com\/getsops\/sops\" rel=\"noopener noreferrer nofollow\">https:\/\/github.com\/getsops\/sops<\/a><\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 Sops:<\/p>\n<ul>\n<li>\n<p>\u0428\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0444\u0430\u0439\u043b\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p>\u0418\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044f \u0441 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u0442\u0430\u043a\u0438\u043c\u0438 \u043a\u0430\u043a Helm \u0438 Terraform.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u043e\u0432 \u043a\u043b\u044e\u0447\u0435\u0439 (AWS KMS, GCP KMS, Azure Key Vault).<\/p>\n<\/li>\n<\/ul>\n<h3>\u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f Sops<\/h3>\n<p>\u0421\u043e\u0437\u0434\u0430\u0439\u0442\u0435 \u0444\u0430\u0439\u043b <code>secrets.yaml<\/code>, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u0439 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u044b:<\/p>\n<pre><code>secrets:   mysql-root-password: ENC[AES256_GCM,data:2nLud5nDZEmm\/sCW,...]   mysql-password: ENC[AES256_GCM,data:e4m5nwmy+zknWtWJ,...]   airflow-user-username: ENC[AES256_GCM,data:8RiizFAMKh+9LWM=,...]   airflow-user-password: ENC[AES256_GCM,data:lkjasd98adf7...]<\/code><\/pre>\n<p>\u0412\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0437\u0430\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u044b \u0438 \u0431\u0443\u0434\u0443\u0442 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438 \u0434\u0435\u043f\u043b\u043e\u0435. \u0414\u043b\u044f \u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u0443 <code>sops -e secrets.yaml<\/code>.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0432 \u0444\u0430\u0439\u043b\u0435 <code>values.yaml<\/code> \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u0442\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u044b:<br \/><code>secrets: {}<\/code><\/p>\n<p>\u0411\u043e\u043b\u044c\u0448\u0438\u043c \u043f\u043b\u044e\u0441\u043e\u043c \u044f\u0432\u043b\u044f\u0435\u0442 \u0442\u043e, \u0447\u0442\u043e \u043e\u043d \u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u043d \u0441 Helm \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u0435\u043f\u043b\u043e\u0438\u0442\u044c \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0441 \u0437\u0430\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u0441\u0438\u043a\u0440\u0435\u0442\u0430\u043c\u0438 \u0438 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u0438\u0437 \u0432 \u0432\u0430\u0448\u0435\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u0432\u0435\u0440\u0441\u0438\u0439, \u0435\u0441\u043b\u0438 \u0432\u044b \u043f\u043e \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0435 \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c<\/p>\n<p>\u041c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0432\u043e\u0439 \u0447\u0430\u0440\u0442 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0447\u0430\u0440\u0442\u0430:<br \/><a href=\"https:\/\/github.com\/airflow-helm\/charts\" rel=\"noopener noreferrer nofollow\">https:\/\/github.com\/airflow-helm\/charts<\/a><\/p>\n<p>\u042d\u0442\u043e \u0447\u0430\u0440\u0442 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u043c\u044c\u044e\u043d\u0438\u0442\u0438 \u0438 \u0431\u044b\u043b \u0432\u044b\u0431\u0440\u0430\u043d \u043c\u043d\u043e\u0439, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e, \u043a\u0430\u043a \u043c\u043d\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u043e\u043d \u0431\u043e\u043b\u0435\u0435 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u044b\u0439 \u0438 \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044e\u0449\u0438\u0439, \u0447\u0435\u043c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0447\u0430\u0440\u0442 Apache Airflow.<\/p>\n<pre><code class=\"yaml\">apiVersion: v2 name: airflow description: A Helm chart for Kubernetes with Apache Airflow type: application sources:   - https:\/\/github.com\/airflow-helm\/charts\/tree\/main\/charts\/airflow version: 8.8.0 dependencies:   - condition: mysql.enabled     name: mysql     repository: bitnamicharts     version: 9.14.1   - condition: prometheus-statsd-exporter.enable     name: prometheus-statsd-exporter     repository: https:\/\/prometheus-community.github.io\/helm-charts     version: 0.10.1   - condition: airflow.enable     name: airflow     repository: https:\/\/airflow-helm.github.io\/charts     version: 8.8.0   - condition: fluent-bit.enabled     name: fluent-bit     repository: https:\/\/fluent.github.io\/helm-charts     version: 0.39.0   - condition: minio.enable     name: minio     repository: bitnamicharts     version: 12.8.17<\/code><\/pre>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0447\u0430\u0440\u0442\u044b \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c <code>helm upgrade<\/code><\/p>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u043e\u0431\u0435\u0440\u0435\u043c \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0447\u0430\u0440\u0442, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0431\u0443\u0434\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e Airflow \u0438 \u0434\u0430\u043b\u044c\u0448\u0435 \u043f\u043e \u0445\u043e\u0434\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438. \u0412 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u043f\u0440\u0438\u043a\u0440\u0435\u043f\u043b\u044e \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0433\u043e\u0442\u043e\u0432\u044b\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u0431\u0443\u0434\u0435\u0442 \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c.<\/p>\n<pre><code class=\"yaml\">airflow:   airflow:     legacyCommands: false     image:       repository: apache\/airflow       tag: v2.7.1<\/code><\/pre>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c Kubernetes, \u0442\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0432\u044b\u0431\u0440\u0430\u0442\u044c Executor \u0434\u043b\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f. Kubernetes Executor \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0442\u0430\u0441\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0434\u0430\u0433\u043e\u0432 \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u043f\u043e\u0434\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u043e\u0434 \u043a\u0430\u0436\u0434\u0443\u044e \u0442\u0430\u0441\u043a\u0443.<\/p>\n<pre><code class=\"yaml\">executor: KubernetesExecutor<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f \u0441 \u043a\u043e\u043d\u0444\u0438\u0433\u0430\u043c\u0438 \u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438. \u041c\u044b \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0414\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445.<\/p>\n<pre><code class=\"yaml\">config:       AIRFLOW__WEBSERVER__EXPOSE_CONFIG: \"True\"       AIRFLOW__CORE__LOAD_EXAMPLES: \"False\"       AIRFLOW__METRICS__STATSD_ON: \"True\"       AIRFLOW__METRICS__STATSD_HOST: airflow-cluster-prometheus-statsd-exporter       AIRFLOW__METRICS__STATSD_PORT: \"9125\"       AIRFLOW__LOGGING__LOGGING_LEVEL: INFO       AIRFLOW__LOGGING__REMOTE_LOGGING: True       AIRFLOW__LOGGING__REMOTE_LOG_CONN_ID: \"minio_S3\"       AIRFLOW__LOGGING__REMOTE_BASE_LOG_FOLDER: s3:\/\/airflow-logs\/       AIRFLOW__WEBSERVER__BASE_URL: \"https:\/\/airflow.hramoff.local\"       AIRFLOW__WEBSERVER__SHOW_TRIGGER_FORM_IF_NO_PARAMS: True<\/code><\/pre>\n<p>\u0423\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0430\u0434\u0440\u0435\u0441, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c\u0441\u044f Airflow.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__WEBSERVER__BASE_URL: \"https:\/\/airflow.hramoff.local\"<\/code><\/pre>\n<p>\u0414\u0430\u043d\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u043c \u043d\u0435 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0414\u0430\u0433\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u043d\u0430\u043c \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__CORE__LOAD_EXAMPLES: \"False\"<\/code><\/pre>\n<p>\u0414\u0430\u043d\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u043c \u0441\u043a\u0440\u044b\u0432\u0430\u0442\u044c \u0432\u0441. \u041a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0437\u0432\u0435\u0437\u0434\u043e\u0447\u043a\u0430\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0437\u0430\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0430\u043b\u0435\u0435, \u0434\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u0443.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__WEBSERVER__EXPOSE_CONFIG: \"True\"<\/code><\/pre>\n<p>\u0421 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u043f\u043e \u0445\u043e\u0434\u0443 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f.  <\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0442\u0430\u043a\u0430\u044f \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u043a KubernetesPodTemplate, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u044b \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c \u0434\u0430\u043b\u044c\u0448\u0435. \u041d\u0430\u043c \u0432 \u043d\u0435\u0439, \u0432 \u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0442 \u0440\u0435\u0441\u0443\u0440\u0441\u044b, \u0432\u044b\u0434\u0430\u0432\u0430\u0435\u043c\u044b \u043f\u043e\u0434\u0430\u043c. \u041a\u0430\u043a\u0438\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u043f\u043e\u0434\u0430\u043c? \u0410 \u0442\u0435\u043c \u043f\u043e\u0434\u0430\u043c, \u0432\u043d\u0443\u0442\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0434\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u0433\u043e\u0432 \u0438 \u0438\u0445 \u0442\u0430\u0441\u043e\u043a, \u0442\u043e \u0435\u0441\u0442\u044c, \u043f\u043e \u0437\u0430\u0434\u0443\u043c\u043a\u0435, \u044d\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043a \u043f\u043e\u0434\u0430\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0442 \u0437\u0430 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441, \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435. \u041c\u044b \u043f\u0440\u0438\u0448\u043b\u0438 \u043a \u0432\u044b\u0432\u043e\u0434\u0443, \u0447\u0442\u043e \u044d\u0442\u0438 \u043f\u043e\u0434\u044b \u043d\u0430\u043c \u043b\u0443\u0447\u0448\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043d\u0430 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u043d\u043e\u0434\u0430\u0445, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0443\u043a\u0430\u0436\u0435\u043c \u0435\u0449\u0435 \u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b\u00a0 \u0438 tolerations.<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e\u0435 \u0443\u0442\u043e\u0447\u043d\u0435\u043d\u0438\u0435. \u041a\u0430\u043a \u0432\u044b \u0437\u043d\u0430\u0435\u0442\u0435 Apache Airflow \u043d\u0430\u043f\u0438\u0441\u0430\u043d \u043d\u0430 Python. \u0410 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u0441\u0440\u0435\u0434\u0430 \u0434\u043b\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u0433\u043e\u0432 \u043e\u0434\u043d\u043e\u043f\u043e\u0442\u043e\u0447\u043d\u0430\u044f. \u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u044f\u0434\u0440\u0430 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e, \u0435\u0441\u043b\u0438 \u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0432\u0430\u043c\u0438 \u0434\u0430\u0433, \u044d\u0442\u043e\u0433\u043e \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442, \u043d\u043e \u0442\u0430\u043a\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u043c, \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 Airflow. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u043b\u0438\u043c\u0438\u0442\u0430\u0445 \u043c\u044b \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 <code>cpu: 1<\/code>, \u0442\u0430\u043a \u043a\u0430\u043a \u0431\u043e\u043b\u044c\u0448\u0435 \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u0438 \u0440\u0435\u0437\u0435\u0440\u0432\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0448\u0435 \u044d\u0442\u043e\u0433\u043e \u043b\u0438\u043c\u0438\u0442\u0430 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b\u0430. <\/p>\n<pre><code class=\"yaml\">kubernetesPodTemplate:       resources:         requests:           memory: 512Mi           cpu: 100m         limits:           memory: 16Gi           cpu: 1       nodeSelector:         node-role\/airflowKubernetesExecutor: \"\"       tolerations:         - key: node-role\/airflowKubernetesExecutor           operator: Exists<\/code><\/pre>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0443 \u043d\u0430\u0441 \u0438\u0434\u0435\u0442 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 scheduler. \u042d\u0442\u043e \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0435\u0442 \u0432\u0441\u0435 \u0442\u0430\u0441\u043a\u0438 \u0438 \u0434\u0430\u0433\u0438, \u0442\u0430\u043a \u0436\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435.<\/p>\n<pre><code class=\"yaml\">scheduler:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     logCleanup:       enabled: false     livenessProbe:       enabled: true       initialDelaySeconds: 30<\/code><\/pre>\n<p>\u0412\u043d\u0443\u0442\u0440\u0438 \u044d\u0442\u043e\u0433\u043e \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u0430 \u043c\u044b \u0442\u0430\u043a \u0436\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043f\u0440\u043e\u0431\u044b. \u0422\u0430\u043a \u0436\u0435 \u043c\u044b \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043c LogCleanup \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430. <\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0443 \u043d\u0430\u0441 \u0438\u0434\u0435\u0442 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441.<\/p>\n<pre><code class=\"yaml\">web:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     livenessProbe:       enabled: true       initialDelaySeconds: 30     readinessProbe:       enabled: true       initialDelaySeconds: 30     webserverConfig:       existingSecret: *basic     service:       type: ClusterIP       externalPort: 8080<\/code><\/pre>\n<p>\u042d\u0442\u043e\u043c\u0443 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b \u043c\u044b \u0442\u0430\u043a \u0436\u0435 \u0437\u0430\u0434\u0430\u0435\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u043f\u0440\u043e\u0431\u044b.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u0432\u044b \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0443\u0432\u0438\u0434\u0435\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u043a\u043b\u044e\u0447 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043a\u0430\u043a <code>existingSecret: *basic<\/code><\/p>\n<p>\u0417\u043d\u0430\u0442\u043e\u043a\u0438 Yaml-\u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0443\u0436\u0435 \u0437\u043d\u0430\u044e\u0442, \u0447\u0442\u043e \u044d\u0442\u043e\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u044f\u043a\u043e\u0440\u0435\u043c, \u0430 \u0434\u043b\u044f \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u044f \u043f\u043e\u044f\u0441\u043d\u044e. \u0415\u0441\u043b\u0438 \u0432 \u043d\u0430\u0448\u0435\u043c \u0447\u0430\u0440\u0442\u0435 \u0438\u043b\u0438 \u043b\u044e\u0431\u043e\u043c \u0434\u0440\u0443\u0433\u043e\u043c yaml \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0435 \u0435\u0441\u0442\u044c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u0435\u0441\u044f \u0440\u0430\u0437\u0434\u0435\u043b\u044b, \u0442\u043e \u043c\u044b \u0441\u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u043c\u043d\u043e\u0439, \u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435. \u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u044d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 yaml \u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u0441\u0441\u044b\u043b\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043d\u0435\u0435 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0432 \u043d\u0435\u0439. \u0427\u0442\u043e \u043d\u0430\u043c \u044d\u0442\u043e \u0434\u0430\u0441\u0442? \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u0435\u0437\u0434\u0435, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0443\u0436\u043d\u044b\u0439 \u043d\u0430\u043c \u043a\u043b\u044e\u0447 \u0438 \u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u043d\u0435\u0433\u043e. <\/p>\n<p>YAML-\u044f\u043a\u043e\u0440\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u0434\u0443\u0431\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439, \u0443\u043f\u0440\u043e\u0449\u0430\u044f \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438 \u0432\u043d\u0435\u0441\u0435\u043d\u0438\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439. \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u0438\u043c\u0435\u0440 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0441\u0435\u043a\u0440\u0435\u0442\u043e\u0432.<\/p>\n<p>\u0412 \u043d\u0430\u0447\u0430\u043b\u0435 \u0444\u0430\u0439\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u0435 \u043a\u043b\u044e\u0447:<\/p>\n<pre><code class=\"yaml\">basic_secret: &amp;basic airflow-secret<\/code><\/pre>\n<p>\u0410 \u0432 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0447\u0430\u0441\u0442\u044f\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0441\u0441\u044b\u043b\u0430\u0439\u0442\u0435\u0441\u044c \u043d\u0430 \u044d\u0442\u043e\u0442 \u044f\u043a\u043e\u0440\u044c:<\/p>\n<pre><code class=\"yaml\">web:   webserverConfig:     existingSecret: *basic  externalDatabase:   passwordSecret: *basic   passwordSecretKey: mysql-password  gitSync:   httpSecret: *basic   httpSecretUsernameKey: airflow-gitcync-username   httpSecretPasswordKey: airflow-gitcync-user-token<\/code><\/pre>\n<h3>\u041f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u044f\u043a\u043e\u0440\u0435\u0439 YAML:<\/h3>\n<ul>\n<li>\n<p>\u0426\u0435\u043d\u0442\u0440\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u043c\u0438\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041b\u0435\u0433\u043a\u043e\u0441\u0442\u044c \u0432 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 (\u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432 \u043e\u0434\u043d\u043e\u043c \u043c\u0435\u0441\u0442\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0432\u0435\u0441\u044c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442).<\/p>\n<\/li>\n<li>\n<p>\u0423\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0435 \u0447\u0442\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0444\u0430\u0439\u043b, \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c, secrets.yaml \u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u0433\u043e \u0431\u0443\u0434\u0435\u043c \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043d\u0443\u0436\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f:<\/p>\n<pre><code>secrets:   airflow-user-username: ENC[AES256_GCM,data:...]   airflow-user-password: ENC[AES256_GCM,data:...]   AWS_KEY_ID: ENC[AES256_GCM,data:...]   AWS_ACCESS_KEY: ENC[AES256_GCM,data:...]<\/code><\/pre>\n<p>\u0410 \u0434\u0435\u043f\u043b\u043e\u0438\u0442\u044c \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p><code>helm secrets upgrade airflow-cluster . --namespace apache-airflow --install -f values.yaml -f secrets.yaml<\/code><\/p>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0443 \u043d\u0430\u0441 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0438 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u0441\u0438\u043a\u0440\u0435\u0442\u044b \u0438 \u0434\u0440\u0443\u0433\u0430\u044f \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u043a\u0430\u043a workers. \u041c\u044b \u0435\u0433\u043e \u0430\u0432\u0430\u043d\u0441\u043e\u043c \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c KubernetesExecutor. \u0415\u0441\u043b\u0438 \u043c\u043d\u0435 \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0430\u043c\u044f\u0442\u044c, \u0442\u043e \u0434\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0431\u0443\u0434\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0435 \u043f\u043e\u0434\u044b, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0431\u0443\u0434\u0443\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u0441\u044f \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u043d\u0430\u043c \u0434\u0430\u0433\u0438.<\/p>\n<pre><code class=\"yaml\">  workers:     enabled: false<\/code><\/pre>\n<p>\u0415\u0441\u0442\u044c \u0435\u0449\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0441 \u0442\u0440\u0438\u0433\u0433\u0435\u0440\u0430\u043c\u0438. \u0412 Apache Airflow \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 Trigger \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u043b\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0443\u0441\u043b\u043e\u0432\u0438\u0439, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u0442\u0430\u0441\u043a\u0438 \u043c\u043e\u0433\u0443\u0442 \u0431\u044b\u0442\u044c \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u044b. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0438 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u043d\u044b\u0435 \u0440\u0430\u0431\u043e\u0447\u0438\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b, \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043d\u0430 \u0441\u043e\u0431\u044b\u0442\u0438\u044f\u0445 \u0438\u043b\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445, \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b\u0430\u0445 \u0438\u043b\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f.<\/p>\n<pre><code class=\"yaml\">triggerer:     enabled: true     replicas: 1     resources:       limits:         memory: 6Gi         cpu: 2       requests:         memory: 6Gi         cpu: 2     capacity: 1000     livenessProbe:       enabled: true       initialDelaySeconds: 30<\/code><\/pre>\n<p>\u0423 \u043d\u0435\u0433\u043e \u043c\u044b \u0442\u0430\u043a \u0436\u0435 \u0437\u0430\u0434\u0430\u0435\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043f\u0440\u043e\u0431\u044b.<\/p>\n<p>\u0415\u0441\u0442\u044c \u0435\u0449\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 flower, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 \u0434\u043b\u044f \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 \u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0442\u0430\u0441\u043a\u0430\u043c\u0438 \u0432 apache airflow. \u0415\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0434 \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c, \u0432\u0440\u043e\u0434\u0435 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0445\u043e\u0440\u043e\u0448\u0438\u0439, \u0443\u043c\u0435\u0435\u0442 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438, \u043d\u043e \u043f\u0430\u0440\u0443 \u0440\u0430\u0437 \u043d\u0430\u0442\u044b\u043a\u0430\u043b\u0438\u0441\u044c \u0432 \u043d\u0435\u043c \u043d\u0430 \u0431\u0430\u0433\u0438, \u0434\u0430 \u0438 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043e\u0441\u043e\u0431\u043e \u0432\u0430\u0436\u043d\u043e\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043e\u043d \u043d\u0430\u043c \u043d\u0435 \u0434\u0430\u0435\u0442, \u043f\u043e \u044d\u0442\u043e\u043c\u0443 \u0440\u0435\u0448\u0438\u043b\u0438 \u0435\u0433\u043e \u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c, \u043d\u043e \u044f \u0432\u0430\u043c \u043f\u0440\u0438\u043b\u043e\u0436\u0443 \u0444\u043e\u0442\u043e\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443 \u0438\u0437 \u0441\u0442\u0430\u0442\u044c\u0438 \u0441 medium, \u0447\u0442\u043e\u0431\u044b \u0431\u044b\u043b\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u044d\u0442\u043e \u0437\u0430 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0442\u0430\u043a\u043e\u0439. <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/669\/3ee\/dc0\/6693eedc09cc13deb48b76f3cdcf4d4b.png\" alt=\"\u0412\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 Flower\" title=\"\u0412\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 Flower\" width=\"974\" height=\"635\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/669\/3ee\/dc0\/6693eedc09cc13deb48b76f3cdcf4d4b.png\"\/><\/p>\n<div><figcaption>\u0412\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 Flower<\/figcaption><\/div>\n<\/figure>\n<pre><code class=\"yaml\">  flower:     enabled: false<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0443 \u043d\u0430\u0441 \u0438\u0434\u0435\u0442 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u043b\u043e\u0433\u043e\u0432. \u041c\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u043f\u0443\u0442\u044c \u043a \u043d\u0438\u043c \u0438 \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0435.<\/p>\n<pre><code class=\"yaml\">logs:     path: \/opt\/airflow\/logs     persistence:       enabled: false<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0438\u0440\u0443\u0435\u043c \u0441\u0440\u0435\u0434\u0443 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u0433\u043e\u0432.<\/p>\n<pre><code class=\"yaml\">dags:     path: \/opt\/airflow\/dags     persistence:       enabled: false      gitSync:       enabled: true       image:         repository: \/git-sync\/git-sync       repo: http:\/\/git.hramoff.local\/airflow\/airflow.git       branch: main       syncWait: 30       httpSecret: *basic       httpSecretUsernameKey: airflow-gitcync-username       httpSecretPasswordKey: airflow-gitcync-user-token<\/code><\/pre>\n<p>\u041d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u043f\u0443\u0442\u044c \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 airflow \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043a\u0430\u0442\u044c \u0434\u0430\u0433\u0438 \u0438 \u043e\u0442\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u0438\u0445 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0435. \u0414\u0435\u043b\u0430\u0435\u043c \u044d\u0442\u043e \u043c\u044b \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0443 \u043d\u0430\u0441 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 git-sync, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0431\u0443\u0434\u0435\u0442 \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u043d\u0430\u043c \u0434\u0430\u0433\u0438 \u0438\u0437 \u043d\u0430\u0448\u0435\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f.<\/p>\n<p>\u0423 \u043d\u0435\u0433\u043e \u043c\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u043e\u0431\u0440\u0430\u0437, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f, \u0430 \u0442\u0430\u043a \u0436\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0434\u043b\u044f \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u044b, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b, \u0432\u0435\u0442\u043a\u0443 \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0431\u0443\u0434\u0435\u043c \u043a\u043b\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u0440\u0435\u043a\u0432\u0438\u0437\u0438\u0442\u044b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0441\u0430\u043c\u044b\u043c \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0438\u043d\u0433\u0440\u0435\u0441.<\/p>\n<pre><code class=\"yaml\">ingress:     enabled: true     web:       enabled: true       host: airflow.hramoff.local       ingressClassName: nginx<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0432\u043a\u043b\u044e\u0447\u0438\u043c Service Account.<\/p>\n<pre><code class=\"yaml\">serviceAccount:     create: true     name: \"\"     annotations: { }<\/code><\/pre>\n<p>\u041f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e Apache Airflow \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 PostgreSQL, \u043d\u043e \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u0430\u0434\u0430\u0442\u044c \u0434\u0440\u0443\u0433\u0443\u044e \u0431\u0430\u0437\u0443 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f. \u042f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e MySQL \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043d \u043c\u043d\u0435 \u0440\u043e\u0434\u043d\u0435\u0435 \u0438 \u0431\u043e\u043b\u0435\u0435 \u0437\u043d\u0430\u043a\u043e\u043c :).<\/p>\n<pre><code class=\"yaml\">pgbouncer:     enabled: false    postgresql:     enabled: false    externalDatabase:     type: mysql     host: airflow-cluster-mysql     port: 3306     database: airflow     user: airflow     passwordSecret: *basic     passwordSecretKey: mysql-password     properties: \"\" <\/code><\/pre>\n<p>\u0418 \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 Redis, \u043a\u0430\u043a \u0431\u0440\u043e\u043a\u0435\u0440\u0430 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u0432\u043d\u0443\u0442\u0440\u0438 Kubernetes \u0438 KubernetesExecutor \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0435\u0442 \u043f\u043e\u0442\u0440\u0435\u0431\u043d\u043e\u0441\u0442\u044c \u0432 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u0431\u0440\u043e\u043a\u0435\u0440\u0435.<\/p>\n<pre><code class=\"yaml\">redis:     enabled: false<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c MySQL.<\/p>\n<pre><code class=\"yaml\">mysql:   image:     registry: \"\"     repository: bitnami\/mysql   enabled: true   auth:     username: airflow     database: airflow   existingSecret: *basic   defaultAuthPlugin: caching_sha2_password    primary:     persistence:       storageClass: \"vsphere-csi-sc\"       size: 50Gi    secondary:     replicaCount: 1     persistence:       storageClass: \"vsphere-csi-sc\"       size: 50Gi<\/code><\/pre>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043e\u0442\u043a\u0430\u0437\u043e\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0443\u044e \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e mysql \u0441 \u0440\u0435\u043f\u043b\u0438\u043a\u043e\u0439.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u043c\u044b \u0432\u043a\u043b\u044e\u0447\u0438\u043c ServiceMonitor \u0434\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0431\u0438\u0440\u0430\u0442\u044c \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043e\u0442 Apache Airflow.<\/p>\n<pre><code class=\"yaml\">serviceMonitor:   enabled: true   interval: 25s   path: \/metrics   port: http   selector:     component: prometheus-statsd-exporter<\/code><\/pre>\n<p>\u0410 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0432 Prometheus StatsD exporter.<\/p>\n<pre><code class=\"yaml\">prometheus-statsd-exporter:   image:     repository: prom\/statsd-exporter   enable: true   statsd:     mappingConfigMapName: airflow-cluster-statsd     mappingConfigMapKey: mappingConf<\/code><\/pre>\n<p>\u041a\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 apache airflow \u0435\u0441\u0442\u044c \u0432\u0441\u044f \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u0430\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f.<\/p>\n<p><a href=\"https:\/\/airflow.apache.org\/docs\/apache-airflow\/stable\/administration-and-deployment\/logging-monitoring\/metrics.html\" rel=\"noopener noreferrer nofollow\">https:\/\/airflow.apache.org\/docs\/apache-airflow\/stable\/administration-and-deployment\/logging-monitoring\/metrics.html<\/a><\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0438 \u043f\u043e\u0432\u044b\u0448\u0435 \u0438 \u0432\u043a\u043b\u044e\u0447\u0438\u043c \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0432 apache airflow.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__METRICS__STATSD_ON: \"True\" AIRFLOW__METRICS__STATSD_HOST: airflow-cluster-prometheus-statsd-exporter AIRFLOW__METRICS__STATSD_PORT: \"9125\"<\/code><\/pre>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043c\u044b \u0431\u0443\u0434\u0435\u043c <a href=\"https:\/\/github.com\/data-burst\/airflow-monitoring-and-alerting\" rel=\"noopener noreferrer nofollow\">\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0443\u044e \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e<\/a>.<\/p>\n<p>\u0412 \u043d\u0435\u0439 \u043d\u0435\u0439 \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u043f\u043f\u0438\u043d\u0433 \u0434\u043b\u044f StatsD. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043c\u044b \u0432\u043e\u0437\u044c\u043c\u0435\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u043a\u043e\u0434 \u0438 \u043f\u043e\u043b\u043e\u0436\u0438\u043c \u0435\u0433\u043e \u0432 ConfigMap.<\/p>\n<p>\u0412\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043a<\/p>\n<pre><code class=\"yaml\">--- apiVersion: v1 kind: ConfigMap metadata:   name: {{ include \"airflow.fullname\" . }}-statsd data:   mappingConf: |     mappings:     # Airflow StatsD metrics mappings (https:\/\/airflow.apache.org\/docs\/apache-airflow\/stable\/logging-monitoring\/metrics.html)     # === Counters ===     - match: \"(.+)\\\\.(.+)_start$\"       match_metric_type: counter       name: \"af_agg_job_start\"       match_type: regex       labels:         airflow_id: \"$1\"         job_name: \"$2\" <\/code><\/pre>\n<p><em>\u044d\u0442\u043e \u043d\u0435 \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043a\u043e\u043d\u0444\u0438\u0433\u0430<\/em><\/p>\n<p>\u0414\u0443\u043c\u0430\u044e \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0432\u0430\u0448 \u0441\u0435\u0440\u0432\u0438\u0441 \u043c\u043e\u043d\u0438\u0442\u043e\u0440 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043d\u0430\u0442\u0440\u0430\u0432\u043b\u0435\u043d \u043d\u0430 Prometheus, \u0430 \u043a\u0430\u043a \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u0434\u0430\u0448\u0431\u043e\u0440\u044b \u0432 Grafana \u0432\u044b \u0438 \u0442\u0430\u043a \u0437\u043d\u0430\u0435\u0442\u0435. <a href=\"https:\/\/github.com\/data-burst\/airflow-monitoring-and-alerting\/tree\/main\/config_files\/grafana\/var\/lib\/grafana\/dashboards\" rel=\"noopener noreferrer nofollow\">\u0412\u043e\u0442 \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 Dashboards<\/a>.<\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u0434\u043e\u0432, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u0434\u0430\u0433\u0438.<br \/>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0431\u0443\u0434\u0435\u043c FluentBit \u0441\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u043c.<\/p>\n<pre><code class=\"yaml\">fluent-bit:   image:     repository: fluent\/fluent-bit     tag: 2.1.10   extraVolumes:     - name: statedir       hostPath:         path: \/opt\/data\/airflow\/fluentbit   extraVolumeMounts:     - name: statedir       mountPath: \/opt\/data\/    nodeSelector:     node-role\/airflowKubernetesExecutor: \"\"   tolerations:     - key: node-role\/airflowKubernetesExecutor       operator: Exists    config:     inputs: |       [INPUT]           Name tail           Path \/var\/log\/containers\/*_apache-airflow_base*.log           multiline.parser docker, cri           Tag kube.*           Mem_Buf_Limit 5MB           Skip_Long_Lines On           Refresh_Interval    1           read_from_head  true           DB \/opt\/data\/airflow_state.db      filters: |       [FILTER]           Name grep           Match kube.*           Exclude log \/.*MYSQL_OPT_RECONNECT.*\/           Exclude log \/\\s200\\s\\d.*kube-probe\/           Exclude log \/input:tail:tail\/        [FILTER]           Name kubernetes           Match kube.*           Merge_Log On           Keep_Log Off           K8S-Logging.Parser On           K8S-Logging.Exclude On        [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under kubernetes           Add_prefix k8s:              [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under k8s:labels           Add_prefix k8s:labels:              [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under k8s:annotations           Add_prefix k8s:annotations:              [FILTER]           Name           record_modifier           Match          kube.*           Allowlist_key  k8s:annotations:dag_id           Allowlist_key  k8s:labels:task_id           Allowlist_key  log           Allowlist_key  stream           Allowlist_key  message      outputs: |       [OUTPUT]           Name                    gelf           Match                   kube.*           Host                    graylog.hramoff.local           Port                    12205           Mode                    UDP           Gelf_Short_Message_Key  log <\/code><\/pre>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c \u0447\u0442\u043e \u043c\u044b \u0442\u0443\u0442 \u0432\u0438\u0434\u0438\u043c. \u041d\u0430\u0447\u043d\u0435\u043c \u0441 \u0441\u0435\u043a\u0446\u0438\u0438 Input. \u041c\u044b \u0431\u0443\u0434\u0435\u043c \u0447\u0438\u0442\u0430\u0442\u044c \u0444\u0430\u0439\u043b\u044b \u0441 \u043b\u043e\u0433\u0430\u043c\u0438 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f. \u041d\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0442 \u0444\u0430\u0439\u043b\u044b \u043f\u043e \u0442\u0430\u043a\u043e\u043c\u0443 \u043f\u0443\u0442\u0438 \u0438 \u0441 \u0442\u0430\u043a\u043e\u0439 \u043c\u0430\u0441\u043a\u043e\u0439 <code>\/var\/log\/containers\/*_apache-airflow_base*.log<\/code><\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0444\u0438\u043b\u044c\u0442\u0440\u044b. \u0412\u043e \u043f\u0435\u0440\u0432\u044b\u0445 \u043c\u044b \u0438\u0437\u0431\u0430\u0432\u043b\u044f\u0435\u043c\u0441\u044f \u043e\u0442 \u043b\u043e\u0433\u043e\u0432 \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0435\u0441\u0442\u044c MYSQL_OPT_RECONNECT<\/p>\n<p>\u0425\u043e\u0442\u044c \u043c\u044b \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0432\u0435\u0440\u0441\u0438\u044e, \u043d\u043e \u0432 \u043b\u043e\u0433\u0430\u0445 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0435\u0441\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u043e \u043d\u0435\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438. <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/02c\/bba\/049\/02cbba049265bc34e312eb223b2f8021.png\" alt=\"\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0441 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u043c Apache Airflow\" title=\"\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0441 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u043c Apache Airflow\" width=\"974\" height=\"525\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/02c\/bba\/049\/02cbba049265bc34e312eb223b2f8021.png\"\/><\/p>\n<div><figcaption>\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0441 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u043c Apache Airflow<\/figcaption><\/div>\n<\/figure>\n<p><em>\u041d\u0435 \u043f\u043e\u043d\u044f\u0442\u043d\u043e \u0435\u0449\u0435, \u043a\u043e\u0433\u0434\u0430 \u0443\u0436\u0435 \u0438\u0441\u043f\u0440\u0430\u0432\u044f\u0442 \u0442\u0430\u043a\u0443\u044e \u0448\u0442\u0443\u0447\u043a\u0443<\/em><\/p>\n<p>\u0410 \u0442\u0430\u043a \u0436\u0435 \u0438\u0437\u0431\u0430\u0432\u0438\u043c\u0441\u044f \u043e\u0442 \u043b\u043e\u0433\u043e\u0432, \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u0440\u043e\u0431\u0430\u043c\u0438 Kubernetes.<br \/>\u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0444\u0438\u043b\u044c\u0442\u0440\u044b. \u041f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043f\u043e\u043b\u044f \u0441 labels \u0438 annotations \u0438\u043c\u0435\u044e\u0442 \u043e\u0447\u0435\u043d\u044c \u043d\u0435 \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0434\u043b\u044f \u0447\u0442\u0435\u043d\u0438\u044f \u0432\u0438\u0434. \u0412\u0441\u0435\u043c\u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u043c\u0438 \u043c\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u043c \u0432 \u0447\u0438\u0442\u0430\u0435\u043c\u044b\u0439 \u0432\u0438\u0434 \u043b\u043e\u0433\u0438, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0443\u0434\u043e\u0431\u043d\u043e \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u0442\u044c \u0437\u0430\u043f\u0438\u0441\u0438 \u043f\u043e \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044e DAG \u0438\u043b\u0438 \u0442\u0430\u0441\u043a\u0438 \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0442\u0430\u043c \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cc8\/732\/d40\/cc8732d405f339bed1192392f66aee4c.png\" alt=\"\u0422\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043b\u043e\u0433 \u0432 Graylog\" title=\"\u0422\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043b\u043e\u0433 \u0432 Graylog\" width=\"974\" height=\"378\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cc8\/732\/d40\/cc8732d405f339bed1192392f66aee4c.png\"\/><\/p>\n<div><figcaption>\u0422\u0430\u043a \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043b\u043e\u0433 \u0432 Graylog<\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043c \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0443\u0434\u043e\u0431\u043d\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u044c \u043f\u043e\u0438\u0441\u043a \u043f\u043e \u043f\u043e\u043b\u044f\u043c: \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0434\u0430\u0433\u0430 \u0438 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0442\u0430\u0441\u043a\u0438.<\/p>\n<p>\u041d\u0443 \u0438 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u043d\u0430\u043c \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f Minio.<\/p>\n<pre><code class=\"yaml\">minio:   enabled: true    persistence:     enabled: true     existingClaim: \"minio\"    podAnnotations:     prometheus.io\/scrape: \"true\"     prometheus.io\/path: \"\/minio\/v2\/metrics\/cluster\"     prometheus.io\/port: \"9000\"    metrics:     serviceMonitor:       enabled: true       interval: 25s       paths:         - \/minio\/v2\/metrics\/cluster         - \/minio\/v2\/metrics\/node    resources:     limits:       cpu: 1       memory: 8Gi     requests:       cpu: 300m       memory: 512Mi    ingress:       enabled: true       ingressClassName: \"nginx\"       hostname: airflow-minio.hramoff.local <\/code><\/pre>\n<p>\u0417\u0430\u0447\u0435\u043c \u0432 \u0434\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u043d\u0430\u043c \u043f\u043e\u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u043c\u0438\u043d\u0438\u043e? \u0410 \u0434\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043b\u043e\u0433\u0438. \u041d\u043e \u043d\u0435 \u0442\u0435 \u043b\u043e\u0433\u0438 \u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043c\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 \u0432\u044b\u0448\u0435. <\/p>\n<p>\u0420\u0430\u043d\u0435\u0435 \u043c\u044b \u0445\u0440\u0430\u043d\u0438\u043b\u0438 \u043b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0441\u044f Airflow. \u0410 \u0442\u0435\u043f\u0435\u0440\u044c \u043c\u044b \u0445\u0440\u0430\u043d\u0438\u043c \u043b\u043e\u0433\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0414\u0430\u0433\u0430. <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/9e7\/8bc\/54c\/9e78bc54c69a09989d373c4c990feb33.png\" alt=\"\u041b\u043e\u0433 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0442\u0430\u0441\u043a\u0438\" title=\"\u041b\u043e\u0433 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0442\u0430\u0441\u043a\u0438\" width=\"974\" height=\"574\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9e7\/8bc\/54c\/9e78bc54c69a09989d373c4c990feb33.png\"\/><\/p>\n<div><figcaption>\u041b\u043e\u0433 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0442\u0430\u0441\u043a\u0438<\/figcaption><\/div>\n<\/figure>\n<p><a href=\"https:\/\/airflow.apache.org\/docs\/apache-airflow-providers-amazon\/stable\/logging\/s3-task-handler.html\" rel=\"noopener noreferrer nofollow\">\u041e\u0437\u043d\u0430\u043a\u043e\u043c\u0438\u0442\u044c\u0441\u044f \u0441 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0435\u0439 \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0437\u0434\u0435\u0441\u044c<\/a>.<\/p>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a \u043c\u044b \u043d\u0435 \u0445\u0440\u0430\u043d\u0438\u043c \u0432\u0441\u0435 \u043b\u043e\u0433\u0438 \u0432 Persistence Volume, \u0442\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043a\u0430\u043a\u043e\u0435-\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435. Airflow \u0443\u043c\u0435\u0435\u0442 \u043a\u043b\u0430\u0441\u0442\u044c \u043b\u043e\u0433\u0438 \u0432 Amazon S3.<br \/>\u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043c\u044b \u0435\u0449\u0435 \u0440\u0430\u0437 \u0432\u0435\u0440\u043d\u0435\u043c\u0441\u044f \u043a \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043c \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u043b\u043e\u0433\u043e\u0432.    <\/p>\n<pre><code class=\"yaml\">AIRFLOW__LOGGING__LOGGING_LEVEL: INFO AIRFLOW__LOGGING__REMOTE_LOGGING: True AIRFLOW__LOGGING__REMOTE_LOG_CONN_ID: \"minio_S3\" AIRFLOW__LOGGING__REMOTE_BASE_LOG_FOLDER: s3:\/\/airflow-logs\/<\/code><\/pre>\n<p>\u041f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0442\u044c\u0441\u044f \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u043a \u043a\u043e\u043d\u043d\u0435\u043a\u0448\u0435\u043d\u0443 minio_s3, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0434\u0430\u043b\u0435\u0435. \u0418 \u043a\u043b\u0430\u0441\u0442\u044c \u043b\u043e\u0433\u0438 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u0430\u043a\u0435\u0442.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u044f \u0432\u0430\u043c \u043f\u043e\u043a\u0430\u0436\u0443 \u043a\u0430\u043a \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u043a\u043e\u043d\u043d\u0435\u043a\u0448\u0435\u043d\u044b \u0432 Airflow, \u043f\u0440\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0438, \u0447\u0442\u043e \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0438 \u0437\u0430\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438.<\/p>\n<p>\u041c\u044b \u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e connections <\/p>\n<pre><code class=\"yaml\">connections:       - id: minio_S3         type: aws         description: Minio_S3_connection         extra: |-           { \"aws_access_key_id\": \"${AWS_KEY_ID}\",           \"aws_secret_access_key\": \"${AWS_ACCESS_KEY}\",           \"endpoint_url\": \"http:\/\/airflow-cluster-minio:9000\" } <\/code><\/pre>\n<p>\u0418 \u0437\u0430\u0434\u0430\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f. \u041a\u0430\u043a \u0432\u044b \u0432\u0438\u0434\u0438\u0442\u0435 \u043a\u043b\u044e\u0447\u0438 \u0434\u043b\u044f \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u0447\u0430\u0440\u0442\u0435 \u0443 \u043d\u0430\u0441 \u0441\u043a\u0440\u044b\u0442\u044b \u0437\u0430 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e.<\/p>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0434\u0430\u0442\u044c \u0438\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c ConnectionsTemplates<\/p>\n<pre><code class=\"yaml\">connectionsTemplates:   AWS_KEY_ID:     kind: secret     name: *basic     key: AWS_KEY_ID   AWS_ACCESS_KEY:     kind: secret     name: *basic     key: AWS_ACCESS_KEY <\/code><\/pre>\n<p>\u0417\u0434\u0435\u0441\u044c \u043c\u044b \u043e\u0431\u044a\u044f\u0432\u043b\u044f\u0435\u043c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u044d\u0442\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445, \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0438\u043c \u0442\u0438\u043f \u043a\u0430\u043a \u0441\u0438\u043a\u0440\u0435\u0442 \u0438 \u043e\u043f\u044f\u0442\u044c \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u043c \u044f\u043a\u043e\u0440\u044f.<\/p>\n<p>\u0414\u043b\u044f \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0434\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u043c \u043a\u043b\u044e\u0447\u0430\u043c \u043c\u044b \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u043c \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0444\u0430\u0439\u043b \u0441 \u0441\u0438\u043a\u0440\u0435\u0442\u0430\u043c\u0438 \u0438 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0442\u0430\u043a\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c.<\/p>\n<pre><code class=\"yaml\">secrets:   mysql-root-password: mysql-root-password   mysql-password: mysql-password   airflowUser-username: airflowUser-username   airflowUser-password: airflowUser-password   airflow-gitcync-username: airflow-git-user   airflow-gitcync-user-token: airflow-git-user-token   webserver_config.py: sample-webserver-config   AWS_KEY_ID: AWS_KEY_ID   AWS_ACCESS_KEY: AWS_ACCESS_KEY <\/code><\/pre>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u0430\u0434\u0435\u043f\u043b\u043e\u0438\u0442\u044c Apache Airflow <\/p>\n<p><code>helm secrets upgrade airflow-cluster . --namespace apache-airflow --install -f values.yaml -f secrets.yaml<\/code><\/p>\n<p>\u0427\u0442\u043e \u043c\u044b \u043e\u0436\u0438\u0434\u0430\u0435\u043c \u0443\u0432\u0438\u0434\u0435\u0442\u044c.<br \/>1. \u0420\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0439 Apache airflow <\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d69\/661\/a0a\/d69661a0adaf9fcd67d706590e5d684f.png\" alt=\"Apache Airflow\" title=\"Apache Airflow\" width=\"974\" height=\"282\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d69\/661\/a0a\/d69661a0adaf9fcd67d706590e5d684f.png\"\/><\/p>\n<div><figcaption>Apache Airflow<\/figcaption><\/div>\n<\/figure>\n<p>2. \u041c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 \u0432\u0441\u0435\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 Grafana.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/674\/589\/49a\/67458949a638654f5581ca893043bf2d.png\" alt=\"Cluster Dashboard\" title=\"Cluster Dashboard\" width=\"974\" height=\"327\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/674\/589\/49a\/67458949a638654f5581ca893043bf2d.png\"\/><\/p>\n<div><figcaption>Cluster Dashboard<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7bf\/323\/dfa\/7bf323dfa88d719488b0004ff6830a5c.png\" alt=\"Dag Dashboard\" title=\"Dag Dashboard\" width=\"974\" height=\"474\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7bf\/323\/dfa\/7bf323dfa88d719488b0004ff6830a5c.png\"\/><\/p>\n<div><figcaption>Dag Dashboard<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/47e\/217\/edc\/47e217edc5c53468fa81cbb91be84750.png\" alt=\"MinIO Dashboard\" title=\"MinIO Dashboard\" width=\"974\" height=\"390\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/47e\/217\/edc\/47e217edc5c53468fa81cbb91be84750.png\"\/><\/p>\n<div><figcaption>MinIO Dashboard<\/figcaption><\/div>\n<\/figure>\n<p>3. \u041b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u0434\u043e\u0432.<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ea3\/df4\/15a\/ea3df415ae621621ec4bd1d4fe65658e.png\" alt=\"\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0432\u043d\u0443\u0442\u0440\u0438 GrayLog\" title=\"\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0432\u043d\u0443\u0442\u0440\u0438 GrayLog\" width=\"974\" height=\"495\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ea3\/df4\/15a\/ea3df415ae621621ec4bd1d4fe65658e.png\"\/><\/p>\n<div><figcaption>\u041b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430 \u0432\u043d\u0443\u0442\u0440\u0438 GrayLog<\/figcaption><\/div>\n<\/figure>\n<p>4. \u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u043e\u0432 \u0432 Minio<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/026\/2e2\/a17\/0262e2a1763af4ddb9eefe9fa5ebf148.png\" alt=\"\u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u043e\u0432 \u0432 MinIO\" title=\"\u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u043e\u0432 \u0432 MinIO\" width=\"974\" height=\"268\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/026\/2e2\/a17\/0262e2a1763af4ddb9eefe9fa5ebf148.png\"\/><\/p>\n<div><figcaption>\u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u043b\u043e\u0433\u043e\u0432 \u0432 MinIO<\/figcaption><\/div>\n<\/figure>\n<p>\u0412 \u0437\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435, \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0435 \u0440\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 Apache Airflow \u0432 Kubernetes \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043a\u043e\u043c\u043f\u043b\u0435\u043a\u0441\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430, \u043e\u0445\u0432\u0430\u0442\u044b\u0432\u0430\u044e\u0449\u0435\u0433\u043e \u0432\u0441\u0435 \u0430\u0441\u043f\u0435\u043a\u0442\u044b observability, \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c\u0438 \u0438 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0433\u043e \u043e\u0431\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438. \u041f\u0440\u0438\u043c\u0435\u043d\u044f\u044f \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0438 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0438, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0432\u044b\u0441\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u043e\u0441\u0442\u044c \u0438 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u043d\u0430\u0448\u0438\u0445 ETL-\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0442\u044c \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u044c \u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c\u043e\u0441\u0442\u044c \u043d\u0430\u0448\u0435\u0439 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b. \u041d\u0430\u0434\u0435\u0435\u043c\u0441\u044f, \u0447\u0442\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0431\u0443\u0434\u0443\u0442 \u043f\u043e\u043b\u0435\u0437\u043d\u044b \u0434\u043b\u044f \u0432\u0430\u0448\u0435\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0438 \u043f\u043e\u043c\u043e\u0433\u0443\u0442 \u0432\u0430\u043c \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432 \u043d\u0430 \u0431\u0430\u0437\u0435 Apache Airflow \u0432 Kubernetes.<\/p>\n<p>\u041f\u0440\u0438\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e \u0433\u043e\u0442\u043e\u0432\u044b\u0439 helm \u0447\u0430\u0440\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0443 \u043d\u0430\u0441 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f.<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043a\u0440\u044b\u0442\u044b\u0439 \u0442\u0435\u043a\u0441\u0442<\/summary>\n<div class=\"spoiler__content\">\n<pre><code class=\"yaml\">existingSecret: &amp;basic airflow-secret  airflow:   airflow:     legacyCommands: false     image:       repository: apache\/airflow      executor: KubernetesExecutor      config:       AIRFLOW__WEBSERVER__EXPOSE_CONFIG: \"True\"       AIRFLOW__CORE__LOAD_EXAMPLES: \"False\"       AIRFLOW__METRICS__STATSD_ON: \"True\"       AIRFLOW__METRICS__STATSD_HOST: airflow-cluster-prometheus-statsd-exporter       AIRFLOW__METRICS__STATSD_PORT: \"9125\"       AIRFLOW__LOGGING__LOGGING_LEVEL: INFO       AIRFLOW__LOGGING__REMOTE_LOGGING: True       AIRFLOW__LOGGING__REMOTE_LOG_CONN_ID: \"minio_S3\"       AIRFLOW__LOGGING__REMOTE_BASE_LOG_FOLDER: s3:\/\/airflow-logs\/       AIRFLOW__WEBSERVER__BASE_URL: \"https:\/\/airflow.hramoff.local\"       AIRFLOW__WEBSERVER__SHOW_TRIGGER_FORM_IF_NO_PARAMS: True      users: []      connections:       - id: minio_S3         type: aws         description: Minio_S3_connection         extra: |-           { \"aws_access_key_id\": \"${AWS_KEY_ID}\",           \"aws_secret_access_key\": \"${AWS_ACCESS_KEY}\",           \"endpoint_url\": \"http:\/\/airflow-cluster-minio:9000\" }       connectionsTemplates:       AWS_KEY_ID:         kind: secret         name: *basic         key: AWS_KEY_ID       AWS_ACCESS_KEY:         kind: secret         name: *basic         key: AWS_ACCESS_KEY            extraVolumeMounts: [ ]      extraVolumes: [ ]      kubernetesPodTemplate:       resources:         requests:           memory: 512Mi           cpu: 100m         limits:           memory: 16Gi           cpu: 1       nodeSelector:         node-role\/airflowKubernetesExecutor: \"\"       tolerations:         - key: node-role\/airflowKubernetesExecutor           operator: Exists    scheduler:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     logCleanup:       enabled: false       retentionMinutes: 21600     livenessProbe:       enabled: true       initialDelaySeconds: 30    web:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     livenessProbe:       enabled: true       initialDelaySeconds: 30     readinessProbe:       enabled: true       initialDelaySeconds: 30     webserverConfig:       existingSecret: *basic     service:       type: ClusterIP       externalPort: 8080    workers:     enabled: false    triggerer:     enabled: true     replicas: 1     resources:       limits:         memory: 6Gi         cpu: 2       requests:         memory: 6Gi         cpu: 2     capacity: 1000     livenessProbe:       enabled: true       initialDelaySeconds: 30    flower:     enabled: false    logs:     path: \/opt\/airflow\/logs     persistence:       enabled: false    dags:     path: \/opt\/airflow\/dags     persistence:       enabled: false      gitSync:       enabled: true       image:         repository: git-sync\/git-sync       repo: http:\/\/git.hramoff.local\/airflow\/airflow.git       branch: main       syncWait: 30       httpSecret: *basic       httpSecretUsernameKey: airflow-gitcync-username       httpSecretPasswordKey: airflow-gitcync-user-token    ingress:     enabled: true     web:       enabled: true       host: airflow.hramoff.local       ingressClassName: nginx    serviceAccount:     create: true     name: \"\"     annotations: { }    extraManifests: [ ]    pgbouncer:     enabled: false    postgresql:     enabled: false    externalDatabase:     type: mysql     host: airflow-cluster-mysql     port: 3306     database: airflow     user: airflow     passwordSecret: *basic     passwordSecretKey: mysql-password     properties: \"\"    redis:     enabled: false  mysql:   image:     registry: \"\"     repository: bitnami\/mysql   enabled: true   auth:     username: airflow     database: airflow   existingSecret: *basic   defaultAuthPlugin: caching_sha2_password    primary:     persistence:       storageClass: \"vsphere-csi-sc\"       size: 50Gi    secondary:     replicaCount: 1     persistence:       storageClass: \"vsphere-csi-sc\"       size: 50Gi  serviceMonitor:   enabled: true   interval: 25s   path: \/metrics   port: http   selector:     component: prometheus-statsd-exporter  prometheus-statsd-exporter:   image:     repository: prom\/statsd-exporter   enable: true   statsd:     mappingConfigMapName: airflow-cluster-statsd     mappingConfigMapKey: mappingConf  fluent-bit:   image:     repository: fluent\/fluent-bit     tag: 2.1.10   extraVolumes:     - name: statedir       hostPath:         path: \/opt\/data\/airflow\/fluentbit   extraVolumeMounts:     - name: statedir       mountPath: \/opt\/data\/    nodeSelector:     node-role\/airflowKubernetesExecutor: \"\"   tolerations:     - key: node-role\/airflowKubernetesExecutor       operator: Exists    config:     inputs: |       [INPUT]           Name tail           Path \/var\/log\/containers\/*_apache-airflow_base*.log           multiline.parser docker, cri           Tag kube.*           Mem_Buf_Limit 5MB           Skip_Long_Lines On           Refresh_Interval    1           read_from_head  true           DB \/opt\/data\/airflow_state.db      filters: |       [FILTER]           Name grep           Match kube.*           Exclude log \/.*MYSQL_OPT_RECONNECT.*\/           Exclude log \/\\s200\\s\\d.*kube-probe\/           Exclude log \/input:tail:tail\/        [FILTER]           Name kubernetes           Match kube.*           Merge_Log On           Keep_Log Off           K8S-Logging.Parser On           K8S-Logging.Exclude On        [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under kubernetes           Add_prefix k8s:              [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under k8s:labels           Add_prefix k8s:labels:              [FILTER]           Name nest           Match kube.*           Operation lift           Nested_under k8s:annotations           Add_prefix k8s:annotations:              [FILTER]           Name           record_modifier           Match          kube.*           Allowlist_key  k8s:annotations:dag_id           Allowlist_key  k8s:labels:task_id           Allowlist_key  log           Allowlist_key  stream           Allowlist_key  message      outputs: |       [OUTPUT]           Name                    gelf           Match                   kube.*           Host                    graylog.hramoff.local           Port                    12205           Mode                    UDP           Gelf_Short_Message_Key  log  minio:   enabled: true    persistence:     enabled: true     existingClaim: \"minio\"    podAnnotations:     prometheus.io\/scrape: \"true\"     prometheus.io\/path: \"\/minio\/v2\/metrics\/cluster\"     prometheus.io\/port: \"9000\"    metrics:     serviceMonitor:       enabled: true       interval: 25s       paths:         - \/minio\/v2\/metrics\/cluster         - \/minio\/v2\/metrics\/node    resources:     limits:       cpu: 1       memory: 8Gi     requests:       cpu: 300m       memory: 512Mi    ingress:     enabled: true     ingressClassName: \"nginx\"     hostname: airflow-minio.hramoff.local  secrets: { }<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<hr\/>\n<blockquote>\n<p>\u0422\u0430\u043b\u0430\u043d\u0442 \u2014 \u044d\u0442\u043e\u00a0\u043f\u0440\u0435\u0436\u0434\u0435 \u0432\u0441\u0435\u0433\u043e \u0442\u0440\u0443\u0434<\/p>\n<p> \u0410\u043d\u0442\u043e\u043d \u041f\u0430\u0432\u043b\u043e\u0432\u0438\u0447 \u0427\u0435\u0445\u043e\u0432 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u043f\u0438\u0441\u0430\u0442\u0435\u043b\u044c, \u0434\u0440\u0430\u043c\u0430\u0442\u0443\u0440\u0433, \u0432\u0440\u0430\u0447 1860\u20131904<\/p>\n<\/blockquote>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/871660\/\"> https:\/\/habr.com\/ru\/articles\/871660\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<blockquote>\n<p>\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 \u0438\u043d\u0436\u0435\u043d\u0435\u0440, \u0435\u0441\u043b\u0438 DAG \u043d\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f? \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442 Airflow 50 \u0440\u0430\u0437, \u0430 \u043f\u043e\u0442\u043e\u043c \u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442, \u0447\u0442\u043e \u0437\u0430\u0431\u044b\u043b \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c @dag \u043d\u0430\u0434 \u0444\u0443\u043d\u043a\u0446\u0438\u0435\u0439.  <\/p>\n<\/blockquote>\n<p>\u0420\u0430\u0437\u0432\u0435\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 Apache Airflow \u0432 \u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u2014 \u044d\u0442\u043e \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430, \u0442\u0440\u0435\u0431\u0443\u044e\u0449\u0430\u044f \u0443\u0447\u0435\u0442\u0430 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0430\u0441\u043f\u0435\u043a\u0442\u043e\u0432: \u043e\u0442 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0435\u043d\u0438\u044f \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c\u0438. \u041e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u043f\u0440\u043e\u0431\u043b\u0435\u043c, \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u044b, \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u0430\u043c\u0438, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 \u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0441\u0442\u044c.<\/p>\n<p>\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u043c\u044b \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c, \u043a\u0430\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a Sops \u0438 YAML-\u044f\u043a\u043e\u0440\u044f, \u0434\u043b\u044f \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u044f \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u0447\u0438\u0442\u0430\u0435\u043c\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439. \u0410 \u0442\u0430\u043a \u0436\u0435 \u043a\u0430\u043a \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u0443\u044e \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0438\u043d\u0441\u0442\u0430\u043b\u043b\u044f\u0446\u0438\u0438 Apache Airflow<\/p>\n<p>\u041a\u043e\u043b\u043b\u0435\u0433\u0438, \u0437\u0434\u0430\u0440\u043e\u0432\u0430! <\/p>\n<p>\u041c\u043d\u0435 \u0447\u0430\u0441\u0442\u043e \u0441\u0442\u0430\u043b\u0438 \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c\u0441\u044f \u043d\u043e\u0432\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0434\u0435\u043f\u043b\u043e\u044f\u0442 Apache Airflow \u0440\u0430\u0437\u043d\u044b\u0435 \u0440\u0435\u0431\u044f\u0442\u0430 \u0443 \u0441\u0435\u0431\u044f \u0432 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044f\u0445. \u041a\u0442\u043e-\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Docker Compose, \u043a\u0442\u043e-\u0442\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u044d\u0442\u043e \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u043d\u043e\u0434\u0430\u0445, \u043a\u0442\u043e-\u0442\u043e \u0434\u0430\u0436\u0435 \u043a\u043e\u043c\u043f\u0438\u043b\u0438\u0440\u0443\u0435\u0442 \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0441\u0432\u043e\u044e \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e Python (\u0445\u043e\u0442\u044f, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0441\u0442\u0430\u0442\u044c\u044f \u043e\u0442 2022 \u0433\u043e\u0434\u0430 \u0443\u0436\u0435 \u043d\u0435\u043c\u043d\u043e\u0436\u043a\u043e \u0443\u0441\u0442\u0430\u0440\u0435\u043b\u0430). <\/p>\n<p>\u0421\u0435\u0433\u043e\u0434\u043d\u044f \u044f \u0445\u043e\u0447\u0443 \u0432\u0430\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u043c\u044b \u0434\u0435\u043f\u043b\u043e\u0435\u043c \u043f\u0440\u043e\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e Apache Airflow \u0432 Kubernetes.<\/p>\n<p>\u0427\u0442\u043e \u043c\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c: <\/p>\n<p>1. \u0421\u043e\u0431\u0435\u0440\u0435\u043c \u0441\u0432\u043e\u0439 Helm Chart \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0432\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u0432\u0441\u0435 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b.<br \/>2. \u041f\u043e\u043a\u0440\u043e\u0435\u043c Airflow \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u043e\u043c \u0438 \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c.<br \/>3. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043f\u0440\u043e \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435, \u0435\u0441\u0442\u044c \u043f\u0430\u0440\u043e\u0447\u043a\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u043c\u043e\u043c\u0435\u043d\u0442\u043e\u0432. <br \/>4. \u0418 \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e\u0435 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432, \u0434\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u043e\u0434\u043e\u0432.<\/p>\n<p>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u043f\u0440\u0430\u0432\u043e\u0447\u043a\u0430 \u043e\u0442 \u043c\u0435\u043d\u044f \u043f\u043e \u043f\u043e\u0432\u043e\u0434\u0443 \u0440\u0443\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438:  <br \/>\u0421\u0435\u043a\u0440\u0435\u0442 = \u043a\u0430\u043a\u0430\u044f-\u043d\u0438\u0431\u0443\u0434\u044c \u0442\u0430\u0439\u043d\u0430, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043b\u0443\u0447\u0448\u0435 \u043d\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0436\u0435\u043d\u0435 \u0438\u043b\u0438 \u043b\u044e\u0431\u043e\u0432\u043d\u0438\u0446\u0435 \ud83d\ude42 .<br \/>\u0421\u0438\u043a\u0440\u0435\u0442 = \u042d\u0442\u043e \u043f\u043e\u043b\u0435 \u0432 \u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442\u0435 K8s, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0438\u043f \u0440\u0435\u0441\u0443\u0440\u0441\u0430 <code>Secret<\/code><br \/>\u042f \u0442\u0430\u043a \u0438 \u043d\u0435 \u0441\u043c\u043e\u0433 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u0441\u044f \u0441 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u043c \u0442\u0435\u0440\u043c\u0438\u043d\u043e\u0432 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438\u043b\u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041f\u043e \u044d\u0442\u043e\u043c\u0443 \u0432\u044b \u0443\u0432\u0438\u0434\u0438\u0442\u0435 \u0432 \u0442\u0435\u043a\u0441\u0442\u0435 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u044f \u043f\u0438\u0448\u0443 \u0447\u0442\u043e-\u0442\u043e \u043d\u0430 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 \u0442\u043e\u0436\u0435 \u0441\u0430\u043c\u043e\u0435 \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435.<\/p>\n<p>\u041f\u0435\u0440\u0435\u0434 \u043d\u0430\u0447\u0430\u043b\u043e\u043c, \u044f \u0432\u0430\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043f\u0440\u043e \u0441\u043f\u043e\u0441\u043e\u0431 \u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u044f Secret \u0432 k8s. \u0412\u0435\u0434\u044c \u043e\u0431\u044b\u0447\u043d\u043e \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0435\u043c \u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442 \u0441  <code>kind: Secret<\/code> , \u0442\u043e \u0432\u0441\u0435 \u0447\u0430\u0441\u0442\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043c\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c \u0432\u0438\u0434\u0435, \u0447\u0442\u043e \u043d\u0435 \u0435\u0441\u0442\u044c \u0445\u043e\u0440\u043e\u0448\u043e, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e \u043f\u043e\u0442\u043e\u043c \u043f\u043e\u043f\u0430\u0434\u0435\u0442 \u0432 \u043a\u0430\u043a\u043e\u0439-\u043d\u0438\u0431\u0443\u0434\u044c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 Git.<\/p>\n<p>\u041c\u043e\u0438 \u043a\u043e\u043b\u043b\u0435\u0433\u0438 \u0441\u0432\u043e\u0435\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b\u0438 \u043c\u043d\u0435 \u043f\u0440\u043e \u0442\u0430\u043a\u043e\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442, \u043a\u0430\u043a Sops <a href=\"https:\/\/github.com\/getsops\/sops\" rel=\"noopener noreferrer nofollow\">https:\/\/github.com\/getsops\/sops<\/a><\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 Sops:<\/p>\n<ul>\n<li>\n<p>\u0428\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0444\u0430\u0439\u043b\u043e\u0432.<\/p>\n<\/li>\n<li>\n<p>\u0418\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044f \u0441 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438, \u0442\u0430\u043a\u0438\u043c\u0438 \u043a\u0430\u043a Helm \u0438 Terraform.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0432\u0430\u0439\u0434\u0435\u0440\u043e\u0432 \u043a\u043b\u044e\u0447\u0435\u0439 (AWS KMS, GCP KMS, Azure Key Vault).<\/p>\n<\/li>\n<\/ul>\n<h3>\u041f\u0440\u0438\u043c\u0435\u0440 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f Sops<\/h3>\n<p>\u0421\u043e\u0437\u0434\u0430\u0439\u0442\u0435 \u0444\u0430\u0439\u043b <code>secrets.yaml<\/code>, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u0439 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u044b:<\/p>\n<pre><code>secrets:   mysql-root-password: ENC[AES256_GCM,data:2nLud5nDZEmm\/sCW,...]   mysql-password: ENC[AES256_GCM,data:e4m5nwmy+zknWtWJ,...]   airflow-user-username: ENC[AES256_GCM,data:8RiizFAMKh+9LWM=,...]   airflow-user-password: ENC[AES256_GCM,data:lkjasd98adf7...]<\/code><\/pre>\n<p>\u0412\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0437\u0430\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u044b \u0438 \u0431\u0443\u0434\u0443\u0442 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438 \u0434\u0435\u043f\u043b\u043e\u0435. \u0414\u043b\u044f \u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u0443 <code>sops -e secrets.yaml<\/code>.<\/p>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0432 \u0444\u0430\u0439\u043b\u0435 <code>values.yaml<\/code> \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u0442\u0435 \u0441\u0435\u043a\u0440\u0435\u0442\u044b:<br \/><code>secrets: {}<\/code><\/p>\n<p>\u0411\u043e\u043b\u044c\u0448\u0438\u043c \u043f\u043b\u044e\u0441\u043e\u043c \u044f\u0432\u043b\u044f\u0435\u0442 \u0442\u043e, \u0447\u0442\u043e \u043e\u043d \u0438\u043d\u0442\u0435\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u043d \u0441 Helm \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u0435\u043f\u043b\u043e\u0438\u0442\u044c \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0441 \u0437\u0430\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u0441\u0438\u043a\u0440\u0435\u0442\u0430\u043c\u0438 \u0438 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u0438\u0437 \u0432 \u0432\u0430\u0448\u0435\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u0432\u0435\u0440\u0441\u0438\u0439, \u0435\u0441\u043b\u0438 \u0432\u044b \u043f\u043e \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0435 \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043d\u0430\u0447\u0438\u043d\u0430\u0442\u044c<\/p>\n<p>\u041c\u044b \u0431\u0443\u0434\u0435\u043c \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0432\u043e\u0439 \u0447\u0430\u0440\u0442 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0447\u0430\u0440\u0442\u0430:<br \/><a href=\"https:\/\/github.com\/airflow-helm\/charts\" rel=\"noopener noreferrer nofollow\">https:\/\/github.com\/airflow-helm\/charts<\/a><\/p>\n<p>\u042d\u0442\u043e \u0447\u0430\u0440\u0442 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u043c\u044c\u044e\u043d\u0438\u0442\u0438 \u0438 \u0431\u044b\u043b \u0432\u044b\u0431\u0440\u0430\u043d \u043c\u043d\u043e\u0439, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e, \u043a\u0430\u043a \u043c\u043d\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u043e\u043d \u0431\u043e\u043b\u0435\u0435 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u044b\u0439 \u0438 \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044e\u0449\u0438\u0439, \u0447\u0435\u043c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0447\u0430\u0440\u0442 Apache Airflow.<\/p>\n<pre><code class=\"yaml\">apiVersion: v2 name: airflow description: A Helm chart for Kubernetes with Apache Airflow type: application sources:   - https:\/\/github.com\/airflow-helm\/charts\/tree\/main\/charts\/airflow version: 8.8.0 dependencies:   - condition: mysql.enabled     name: mysql     repository: bitnamicharts     version: 9.14.1   - condition: prometheus-statsd-exporter.enable     name: prometheus-statsd-exporter     repository: https:\/\/prometheus-community.github.io\/helm-charts     version: 0.10.1   - condition: airflow.enable     name: airflow     repository: https:\/\/airflow-helm.github.io\/charts     version: 8.8.0   - condition: fluent-bit.enabled     name: fluent-bit     repository: https:\/\/fluent.github.io\/helm-charts     version: 0.39.0   - condition: minio.enable     name: minio     repository: bitnamicharts     version: 12.8.17<\/code><\/pre>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0447\u0430\u0440\u0442\u044b \u0438 \u0441\u0434\u0435\u043b\u0430\u0435\u043c <code>helm upgrade<\/code><\/p>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u043e\u0431\u0435\u0440\u0435\u043c \u0434\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0447\u0430\u0440\u0442, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0431\u0443\u0434\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e Airflow \u0438 \u0434\u0430\u043b\u044c\u0448\u0435 \u043f\u043e \u0445\u043e\u0434\u0443 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438. \u0412 \u043a\u043e\u043d\u0446\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u043f\u0440\u0438\u043a\u0440\u0435\u043f\u043b\u044e \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0433\u043e\u0442\u043e\u0432\u044b\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u0431\u0443\u0434\u0435\u0442 \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c.<\/p>\n<pre><code class=\"yaml\">airflow:   airflow:     legacyCommands: false     image:       repository: apache\/airflow       tag: v2.7.1<\/code><\/pre>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c Kubernetes, \u0442\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0432\u044b\u0431\u0440\u0430\u0442\u044c Executor \u0434\u043b\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f. Kubernetes Executor \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0442\u0430\u0441\u043a\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0434\u0430\u0433\u043e\u0432 \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u043f\u043e\u0434\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0431\u0443\u0434\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u043e\u0434 \u043a\u0430\u0436\u0434\u0443\u044e \u0442\u0430\u0441\u043a\u0443.<\/p>\n<pre><code class=\"yaml\">executor: KubernetesExecutor<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f \u0441 \u043a\u043e\u043d\u0444\u0438\u0433\u0430\u043c\u0438 \u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438. \u041c\u044b \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0414\u0435\u0442\u0430\u043b\u044c\u043d\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043c\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445.<\/p>\n<pre><code class=\"yaml\">config:       AIRFLOW__WEBSERVER__EXPOSE_CONFIG: \"True\"       AIRFLOW__CORE__LOAD_EXAMPLES: \"False\"       AIRFLOW__METRICS__STATSD_ON: \"True\"       AIRFLOW__METRICS__STATSD_HOST: airflow-cluster-prometheus-statsd-exporter       AIRFLOW__METRICS__STATSD_PORT: \"9125\"       AIRFLOW__LOGGING__LOGGING_LEVEL: INFO       AIRFLOW__LOGGING__REMOTE_LOGGING: True       AIRFLOW__LOGGING__REMOTE_LOG_CONN_ID: \"minio_S3\"       AIRFLOW__LOGGING__REMOTE_BASE_LOG_FOLDER: s3:\/\/airflow-logs\/       AIRFLOW__WEBSERVER__BASE_URL: \"https:\/\/airflow.hramoff.local\"       AIRFLOW__WEBSERVER__SHOW_TRIGGER_FORM_IF_NO_PARAMS: True<\/code><\/pre>\n<p>\u0423\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u0430\u0434\u0440\u0435\u0441, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c\u0441\u044f Airflow.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__WEBSERVER__BASE_URL: \"https:\/\/airflow.hramoff.local\"<\/code><\/pre>\n<p>\u0414\u0430\u043d\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u043c \u043d\u0435 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0414\u0430\u0433\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u043d\u0430\u043c \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__CORE__LOAD_EXAMPLES: \"False\"<\/code><\/pre>\n<p>\u0414\u0430\u043d\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u0438\u0442 \u043d\u0430\u043c \u0441\u043a\u0440\u044b\u0432\u0430\u0442\u044c \u0432\u0441. \u041a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u0437\u0432\u0435\u0437\u0434\u043e\u0447\u043a\u0430\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0437\u0430\u0434\u0430\u0432\u0430\u0442\u044c \u0434\u0430\u043b\u0435\u0435, \u0434\u0430\u043d\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u0443.<\/p>\n<pre><code class=\"yaml\">AIRFLOW__WEBSERVER__EXPOSE_CONFIG: \"True\"<\/code><\/pre>\n<p>\u0421 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u043c\u044b \u0431\u0443\u0434\u0435\u043c \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u043f\u043e \u0445\u043e\u0434\u0443 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f.  <\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0442\u0430\u043a\u0430\u044f \u0441\u0443\u0449\u043d\u043e\u0441\u0442\u044c \u043a\u0430\u043a KubernetesPodTemplate, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043c\u044b \u043d\u0430\u0441\u0442\u0440\u043e\u0438\u043c \u0434\u0430\u043b\u044c\u0448\u0435. \u041d\u0430\u043c \u0432 \u043d\u0435\u0439, \u0432 \u043f\u0435\u0440\u0432\u0443\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u044e\u0442 \u0440\u0435\u0441\u0443\u0440\u0441\u044b, \u0432\u044b\u0434\u0430\u0432\u0430\u0435\u043c\u044b \u043f\u043e\u0434\u0430\u043c. \u041a\u0430\u043a\u0438\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u043f\u043e\u0434\u0430\u043c? \u0410 \u0442\u0435\u043c \u043f\u043e\u0434\u0430\u043c, \u0432\u043d\u0443\u0442\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0434\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u0433\u043e\u0432 \u0438 \u0438\u0445 \u0442\u0430\u0441\u043e\u043a, \u0442\u043e \u0435\u0441\u0442\u044c, \u043f\u043e \u0437\u0430\u0434\u0443\u043c\u043a\u0435, \u044d\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043d\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043a \u043f\u043e\u0434\u0430\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0442 \u0437\u0430 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441, \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435. \u041c\u044b \u043f\u0440\u0438\u0448\u043b\u0438 \u043a \u0432\u044b\u0432\u043e\u0434\u0443, \u0447\u0442\u043e \u044d\u0442\u0438 \u043f\u043e\u0434\u044b \u043d\u0430\u043c \u043b\u0443\u0447\u0448\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043d\u0430 \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u043d\u043e\u0434\u0430\u0445, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0443\u043a\u0430\u0436\u0435\u043c \u0435\u0449\u0435 \u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b\u00a0 \u0438 tolerations.<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e\u0435 \u0443\u0442\u043e\u0447\u043d\u0435\u043d\u0438\u0435. \u041a\u0430\u043a \u0432\u044b \u0437\u043d\u0430\u0435\u0442\u0435 Apache Airflow \u043d\u0430\u043f\u0438\u0441\u0430\u043d \u043d\u0430 Python. \u0410 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u0441\u0440\u0435\u0434\u0430 \u0434\u043b\u044f \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u0433\u043e\u0432 \u043e\u0434\u043d\u043e\u043f\u043e\u0442\u043e\u0447\u043d\u0430\u044f. \u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u044f\u0434\u0440\u0430 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e, \u0435\u0441\u043b\u0438 \u043a\u043e\u043d\u0435\u0447\u043d\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0432\u0430\u043c\u0438 \u0434\u0430\u0433, \u044d\u0442\u043e\u0433\u043e \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442, \u043d\u043e \u0442\u0430\u043a\u043e\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u043c, \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 Airflow. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u043b\u0438\u043c\u0438\u0442\u0430\u0445 \u043c\u044b \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 <code>cpu: 1<\/code>, \u0442\u0430\u043a \u043a\u0430\u043a \u0431\u043e\u043b\u044c\u0448\u0435 \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u043c \u0438 \u0440\u0435\u0437\u0435\u0440\u0432\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u044b\u0448\u0435 \u044d\u0442\u043e\u0433\u043e \u043b\u0438\u043c\u0438\u0442\u0430 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b\u0430. <\/p>\n<pre><code class=\"yaml\">kubernetesPodTemplate:       resources:         requests:           memory: 512Mi           cpu: 100m         limits:           memory: 16Gi           cpu: 1       nodeSelector:         node-role\/airflowKubernetesExecutor: \"\"       tolerations:         - key: node-role\/airflowKubernetesExecutor           operator: Exists<\/code><\/pre>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0443 \u043d\u0430\u0441 \u0438\u0434\u0435\u0442 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 scheduler. \u042d\u0442\u043e \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0449\u0438\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0435\u0442 \u0432\u0441\u0435 \u0442\u0430\u0441\u043a\u0438 \u0438 \u0434\u0430\u0433\u0438, \u0442\u0430\u043a \u0436\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435.<\/p>\n<pre><code class=\"yaml\">scheduler:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     logCleanup:       enabled: false     livenessProbe:       enabled: true       initialDelaySeconds: 30<\/code><\/pre>\n<p>\u0412\u043d\u0443\u0442\u0440\u0438 \u044d\u0442\u043e\u0433\u043e \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u0430 \u043c\u044b \u0442\u0430\u043a \u0436\u0435 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u043c \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043f\u0440\u043e\u0431\u044b. \u0422\u0430\u043a \u0436\u0435 \u043c\u044b \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043c LogCleanup \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043b\u043e\u0433\u0438 \u043f\u043e\u0434\u0430. <\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0443 \u043d\u0430\u0441 \u0438\u0434\u0435\u0442 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u0437\u0430 \u0432\u0435\u0431-\u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441.<\/p>\n<pre><code class=\"yaml\">web:     replicas: 1     resources:       limits:         memory: 8Gi         cpu: 2       requests:         memory: 8Gi         cpu: 2     livenessProbe:       enabled: true       initialDelaySeconds: 30     readinessProbe:       enabled: true       initialDelaySeconds: 30     webserverConfig:       existingSecret: *basic     service:       type: ClusterIP       externalPort: 8080<\/code><\/pre>\n<p>\u042d\u0442\u043e\u043c\u0443 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b \u043c\u044b \u0442\u0430\u043a \u0436\u0435 \u0437\u0430\u0434\u0430\u0435\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u043f\u0440\u043e\u0431\u044b.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u0432\u044b \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0443\u0432\u0438\u0434\u0435\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u043a\u043b\u044e\u0447 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043a\u0430\u043a <code>existingSecret: *basic<\/code><\/p>\n<p>\u0417\u043d\u0430\u0442\u043e\u043a\u0438 Yaml-\u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0443\u0436\u0435 \u0437\u043d\u0430\u044e\u0442, \u0447\u0442\u043e \u044d\u0442\u043e\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u044f\u043a\u043e\u0440\u0435\u043c, \u0430 \u0434\u043b\u044f \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u044f \u043f\u043e\u044f\u0441\u043d\u044e. \u0415\u0441\u043b\u0438 \u0432 \u043d\u0430\u0448\u0435\u043c \u0447\u0430\u0440\u0442\u0435 \u0438\u043b\u0438 \u043b\u044e\u0431\u043e\u043c \u0434\u0440\u0443\u0433\u043e\u043c yaml \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0435 \u0435\u0441\u0442\u044c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u0435\u0441\u044f \u0440\u0430\u0437\u0434\u0435\u043b\u044b, \u0442\u043e \u043c\u044b \u0441\u043c\u043e\u0436\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0435 \u043c\u043d\u043e\u0439, \u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435. \u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u044d\u0442\u043e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c: \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043e\u0431\u044a\u044f\u0432\u0438\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 yaml \u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437 \u0441\u0441\u044b\u043b\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043d\u0435\u0435 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0443\u0436\u0435 \u0432 \u043d\u0435\u0439. \u0427\u0442\u043e \u043d\u0430\u043c \u044d\u0442\u043e \u0434\u0430\u0441\u0442? \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u0435\u0437\u0434\u0435, \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0443\u0436\u043d\u044b\u0439 \u043d\u0430\u043c \u043a\u043b\u044e\u0447 \u0438 \u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0442 \u043d\u0435\u0433\u043e. <\/p>\n<p>YAML-\u044f\u043a\u043e\u0440\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u0434\u0443\u0431\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439, \u0443\u043f\u0440\u043e\u0449\u0430\u044f \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438 \u0432\u043d\u0435\u0441\u0435\u043d\u0438\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439. \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043f\u0440\u0438\u043c\u0435\u0440 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0441\u0435\u043a\u0440\u0435\u0442\u043e\u0432.<\/p>\n<p>\u0412 \u043d\u0430\u0447\u0430\u043b\u0435 \u0444\u0430\u0439\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u0435 \u043a\u043b\u044e\u0447:<\/p>\n<pre><code class=\"yaml\">basic_secret: &amp;basic airflow-secret<\/code><\/pre>\n<p>\u0410 \u0432 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0447\u0430\u0441\u0442\u044f\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0441\u0441\u044b\u043b\u0430\u0439\u0442\u0435\u0441\u044c \u043d\u0430 \u044d\u0442\u043e\u0442 \u044f\u043a\u043e\u0440\u044c:<\/p>\n<pre><code class=\"yaml\">web:   webserverConfig:     existingSecret: *basic  externalDatabase:   passwordSecret: *basic   passwordSecretKey: mysql-password  gitSync:   httpSecret: *basic   httpSecretUsernameKey: airflow-gitcync-username   httpSecretPasswordKey: airflow-gitcync-user-token<\/code><\/pre>\n<h3>\u041f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u044f\u043a\u043e\u0440\u0435\u0439 YAML:<\/h3>\n<ul>\n<li>\n<p>\u0426\u0435\u043d\u0442\u0440\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u044e\u0449\u0438\u043c\u0438\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041b\u0435\u0433\u043a\u043e\u0441\u0442\u044c \u0432 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 (\u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0432 \u043e\u0434\u043d\u043e\u043c \u043c\u0435\u0441\u0442\u0435 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u0432\u0435\u0441\u044c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442).<\/p>\n<\/li>\n<li>\n<p>\u0423\u043f\u0440\u043e\u0449\u0435\u043d\u0438\u0435 \u0447\u0442\u0435\u043d\u0438\u044f \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0444\u0430\u0439\u043b, \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c, secrets.yaml \u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0435\u0433\u043e \u0431\u0443\u0434\u0435\u043c \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043d\u0443\u0436\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f:<\/p>\n<pre><code>secrets:   airflow-user-username: ENC[AES256_GCM,data:...]   airflow-user-password: ENC[AES256_GCM,data:...]   AWS_KEY_ID:<\/code><\/pre>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-444165","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/444165","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=444165"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/444165\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=444165"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=444165"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=444165"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}