{"id":436004,"date":"2024-10-19T15:01:00","date_gmt":"2024-10-19T15:01:00","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=436004"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=436004","title":{"rendered":"<span>\u0421\u043e\u0437\u0434\u0430\u0451\u043c \u0441\u0432\u043e\u0439 \u0440\u0435\u0435\u0441\u0442\u0440 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0424\u0413\u0418\u0421 \u00ab\u0410\u0440\u0448\u0438\u043d\u00bb. \u0427\u0430\u0441\u0442\u044c 1 \u2014 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 PostgreSQL \u0438 \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440 \u0411\u0414<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442. \u042d\u0442\u043e\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0446\u0438\u043a\u043b \u0441\u0442\u0430\u0442\u0435\u0439 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0449\u0438\u0445. \u042f \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u0432\u043e\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0440\u0435\u0435\u0441\u0442\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0433\u043e\u0441\u0443\u0434\u0430\u0440\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e. \u0414\u0430\u043d\u043d\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u0445\u0440\u0430\u043d\u0438\u0442\u044c\u0441\u044f \u0432 \u0431\u0430\u0437\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 PostgreSQL, \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043d\u0438\u043c \u0431\u0443\u0434\u0435\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0447\u0435\u0440\u0435\u0437 Fast\u00a0API. \u0412 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0437\u0430\u0439\u043c\u0451\u043c\u0441\u044f \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0431\u0430\u0437\u0443 \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435\u043c \u0435\u0451 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u0432.<\/p>\n<h2>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435<\/h2>\n<p>\u041d\u0430\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u043e\u0438\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u043e\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u0445 \u043f\u043e\u0432\u0435\u0440\u043a\u0438 \u0441\u0440\u0435\u0434\u0441\u0442\u0432 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u0443\u0434\u0435\u043c \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0438\u0437\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0430 \u0441\u0430\u0439\u0442\u0430 \u00ab<a href=\"https:\/\/fgis.gost.ru\/fundmetrology\/cm\/results\" rel=\"noopener noreferrer nofollow\">\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418<\/a>\u00bb \u0424\u0413\u0418\u0421 \u0410\u0420\u0428\u0418\u041d. \u0412\u043a\u0440\u0430\u0442\u0446\u0435\u00a0\u2014 \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437\u043c\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u0431\u043e\u0440 \u0438\u0437\u00a0\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u0438\u0438 \u0434\u043e\u043b\u0436\u0435\u043d \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0441\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e. \u0414\u043b\u044f\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0435\u0439 \u0438\u0437\u043c\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u0431\u043e\u0440\u0430 \u043d\u0430\u00a0\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u044b\u043c \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u043c, \u043e\u043d \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u00a0\u043c\u0435\u0442\u0440\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043e\u0440\u0433\u0430\u043d, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u0442\u0435\u043c \u0447\u0435\u0440\u0435\u0437 \u00ab\u0410\u0420\u0428\u0418\u041d\u00bb \u0440\u0430\u0437\u043c\u0435\u0449\u0430\u0435\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e\u0431\u00a0\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435 \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043a\u0438 (\u043f\u0440\u043e\u0439\u0434\u0435\u043d\u0430 \u0438\u043b\u0438 \u043d\u0435\u0442).<\/p>\n<p>\u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 \u0434\u0430\u043d\u043d\u044b\u0445, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0445\u0440\u0430\u043d\u044f\u0442\u0441\u044f \u0432 \u0440\u0435\u0435\u0441\u0442\u0440\u0435:<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/99b\/60c\/36f\/99b60c36f3ee3db0fa2be3528efc4177.png\" alt=\"\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418\" title=\"\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418\" width=\"1429\" height=\"704\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99b\/60c\/36f\/99b60c36f3ee3db0fa2be3528efc4177.png\"\/><\/p>\n<div><figcaption>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418<\/figcaption><\/div>\n<\/figure>\n<h2>\u0421\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u0438 \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0411\u0414<\/h2>\n<p>\u041d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u044d\u0442\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u044f \u0441\u043e\u0437\u0434\u0430\u043b \u0431\u0430\u0437\u0443 \u0434\u0430\u043d\u043d\u044b\u0445 &#171;Habrdb&#187;\u00a0\u0441 \u0442\u0430\u0431\u043b\u0438\u0446\u0435\u0439 &#171;Info&#187;:<\/p>\n<pre><code class=\"pgsql\">CREATE TABLE IF NOT EXISTS \"Info\" ( \u00a0\u00a0\u00a0\u00a0id bigint NOT NULL GENERATED ALWAYS AS IDENTITY\u00a0PRIMARY KEY, \u00a0\u00a0\u00a0\u00a0\"org_title\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_number\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_title\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mi_number\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_notation\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mi_modification\" TEXT, \u00a0\u00a0\u00a0\u00a0\"verification_date\" date, \u00a0\u00a0\u00a0\u00a0\"valid_date\" date, \u00a0\u00a0\u00a0\u00a0\"result_docnum\" TEXT, \u00a0\u00a0\u00a0\u00a0\"applicability\" boolean, \u00a0\u00a0\u00a0\u00a0\"vri_id\" bigint );<\/code><\/pre>\n<p>\u0410\u0420\u0428\u0418\u041d \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 API\u00a0\u0434\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0434\u0430\u043d\u043d\u044b\u043c, \u0442\u0430\u043a\u0436\u0435 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u044b\u0433\u0440\u0443\u0436\u0430\u0435\u0442 \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 zip\u00a0\u0430\u0440\u0445\u0438\u0432\u0430\u0445 \u043f\u043e <a href=\"https:\/\/fgis.gost.ru\/fundmetrology\/cm\/exporter\" rel=\"noopener noreferrer nofollow\">\u044d\u0442\u043e\u043c\u0443<\/a>\u00a0\u043f\u0443\u0442\u0438.\u00a0\u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0444\u0430\u0439\u043b poverki.snapshot\u2026zip, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 csv \u0444\u0430\u0439\u043b\u044b \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u043e \u043f\u043e\u0432\u0435\u0440\u043a\u0435 \u0437\u0430 \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0424\u0413\u0418\u0421. \u042d\u0442\u043e\u0442 \u0430\u0440\u0445\u0438\u0432 \u0438\u043c\u0435\u0435\u0442 \u0442\u0430\u043a\u0443\u044e \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c:<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/08d\/785\/59c\/08d78559ca870542eb05e23abca883d7.png\" alt=\"\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0430\u0440\u0445\u0438\u0432\u043e\u0432\" title=\"\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0430\u0440\u0445\u0438\u0432\u043e\u0432\" width=\"592\" height=\"557\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/08d\/785\/59c\/08d78559ca870542eb05e23abca883d7.png\"\/><\/p>\n<div><figcaption>\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0430\u0440\u0445\u0438\u0432\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u0412 \u0441\u043a\u0430\u0447\u0430\u043d\u043d\u043e\u043c \u0430\u0440\u0445\u0438\u0432\u0435 \u0435\u0441\u0442\u044c 3 \u043f\u0430\u043f\u043a\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043b\u0435\u0436\u0438\u0442 \u043e\u043a\u043e\u043b\u043e 30 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0430\u0440\u0445\u0438\u0432\u043e\u0432, \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0434\u0438\u043d csv \u0444\u0430\u0439\u043b \u0441 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0435\u0439 \u043e \u043f\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0445 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0437\u0430 \u043e\u0434\u0438\u043d \u0434\u0435\u043d\u044c. \u0415\u0449\u0451 \u0432 \u043d\u0451\u043c \u043b\u0435\u0436\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0430\u0440\u0445\u0438\u0432 poverki.snapshot, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 3 \u043f\u0430\u043f\u043a\u0438, 30 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0430\u0440\u0445\u0438\u0432\u043e\u0432 \u0437\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043c\u0435\u0441\u044f\u0446 \u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0430\u0440\u0445\u0438\u0432 poverki.snapshot, \u0434\u0430\u043b\u0435\u0435 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e. \u041a\u0430\u0436\u0434\u044b\u0439\u00a0csv \u0444\u0430\u0439\u043b \u0437\u0430\u0447\u0430\u0441\u0442\u0443\u044e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0434\u0430\u043d\u043d\u044b\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0432\u0438\u0434\u0430:<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d40\/a3e\/77e\/d40a3e77ea5148e2cc772b42850458f8.png\" alt=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 csv \u0444\u0430\u0439\u043b\u0430\" title=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 csv \u0444\u0430\u0439\u043b\u0430\" width=\"1517\" height=\"225\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d40\/a3e\/77e\/d40a3e77ea5148e2cc772b42850458f8.png\"\/><\/p>\n<div><figcaption>\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 csv \u0444\u0430\u0439\u043b\u0430<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u0440\u0430\u0437\u0443 \u0441\u043a\u0430\u0436\u0443, \u0447\u0442\u043e \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u0431\u0435\u0437 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f, \u0442\u0430\u043a \u043a\u0430\u043a \u0432\u043e-\u043f\u0435\u0440\u0432\u044b\u0445 \u043d\u0430\u043c \u043f\u043e\u043a\u0430 \u043d\u0435 \u043d\u0443\u0436\u043d\u044b \u043a\u043e\u043b\u043e\u043d\u043a\u0438 \u043f\u043e\u0434 \u043d\u043e\u043c\u0435\u0440\u043e\u043c 1, 12, 13 \u0438 15 (\u044d\u0442\u0443 \u043a\u043e\u043b\u043e\u043d\u043a\u0443 \u043d\u0430 \u0441\u043a\u0440\u0438\u043d\u0435 \u043d\u0435 \u0432\u0438\u0434\u043d\u043e, \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u043d\u0430 \u043f\u0443\u0441\u0442\u0430\u044f \u0438\u043b\u0438 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043d\u0435\u043d\u0443\u0436\u043d\u0443\u044e \u043d\u0430\u043c \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e). \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u043d\u0435\u0440\u0435\u0434\u043a\u043e \u043f\u0440\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u043f\u043e\u0432\u0435\u0440\u043a\u0443 \u0437\u0430\u0434\u0430\u0432\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0432\u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0438 \u0432 \u0431\u0430\u0437\u0435 \u0442\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0438\u043b\u0438 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f.<\/p>\n<p>\u041a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0444\u0430\u0439\u043b\u0430\u0445 \u043d\u0430\u0438\u043c\u0435\u043d\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u043b\u043e\u043d\u043e\u043a \u043d\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u043c\u0443, \u0442\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0442\u044c. \u041f\u0440\u0438\u0432\u0435\u0434\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043d\u0435\u0432\u0430\u043b\u0438\u0434\u043d\u044b\u0445 \u0441\u0442\u0440\u043e\u043a\u00a0(\u0438\u043c\u0435\u043d\u0430 \u043a\u043e\u043b\u043e\u043d\u043a\u0430\u043c \u043f\u0440\u0438\u0441\u0432\u043e\u0435\u043d\u044b \u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430, 1 \u0438 0 \u0443\u0436\u0435 \u0437\u0430\u043c\u0435\u043d\u0435\u043d\u044b \u043d\u0430 \u0431\u0443\u043b\u0435\u0432\u044b\u0435 True \u0438 False).<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6a5\/589\/747\/6a5589747d60abfe81b91a78d013fe99.png\" alt=\"\u041f\u0440\u0438\u043c\u0435\u0440 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439\" title=\"\u041f\u0440\u0438\u043c\u0435\u0440 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439\" width=\"1378\" height=\"326\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/6a5\/589\/747\/6a5589747d60abfe81b91a78d013fe99.png\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b:<\/strong><\/p>\n<ol>\n<li>\n<p>\u0412 \u044d\u0442\u0438\u0445 \u0441\u0442\u0440\u043e\u043a\u0430\u0445\u00a0\u0438\u0437 \u0444\u0430\u0439\u043b\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 \u043a\u043e\u043b\u043e\u043d\u043a\u0435 &#8216;result_docnum&#8217; \u044d\u0442\u043e \u0442\u0438\u0440\u0435, \u043e\u0434\u043d\u0430\u043a\u043e \u043a\u043e\u043b\u043e\u043d\u043a\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u00a0\u0438\u0437 \u0431\u0443\u043a\u0432 \u0438 \u0446\u0438\u0444\u0440.<\/p>\n<\/li>\n<li>\n<p>\u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0437\u0430\u0434\u0430\u043d\u044b \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f &#8216;verification_date&#8217;, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c &#8216;appliciability&#8217;\u00a0= True. \u0422\u043e \u0435\u0441\u0442\u044c \u0434\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043a\u0438 \u043d\u0435\u0442, \u043d\u043e \u0437\u0430\u0442\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u043e\u043d\u043e \u043f\u0440\u043e\u0448\u043b\u043e \u043f\u043e\u0432\u0435\u0440\u043a\u0443. \u0422\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u0442\u043e\u0436\u0435 \u0441\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0438\u0437 \u0410\u0440\u0448\u0438\u043d. \u041a\u043e \u0432\u0441\u0435\u043c\u0443 \u043f\u0440\u043e\u0447\u0435\u043c\u0443 \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u0431\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e \u043f\u043e\u043b\u0435 date\u00a0\u0432 postgresql\u00a0\u0438\u043c\u0435\u0435\u0442 \u0435\u0434\u0438\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 &#171;YYYY-MM-DD&#187;, \u0430 \u0432 \u0444\u0430\u0439\u043b\u0430\u0445 \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441 \u0434\u0440\u0443\u0433\u0438\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u043c.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u0435\u0440\u0435\u0434 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0432 \u0411\u0414, \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 pandas \u0438 sqlalchemy.\u00a0\u0422\u0430\u043a \u043a\u0430\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e \u0432\u043e\u0437\u044c\u043c\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430 2023 \u0438 2024 \u0433\u043e\u0434.<\/p>\n<details class=\"spoiler\">\n<summary>\u041a\u043e\u0434 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0411\u0414<\/summary>\n<div class=\"spoiler__content\">\n<pre><code class=\"python\">import pandas as pd import re, os, zipfile from sqlalchemy import BigInteger, TEXT, Boolean, Date, create_engine, create_engine from sqlalchemy.orm import sessionmaker  # \u0421\u043e\u0437\u0434\u0430\u0451\u043c \u0441\u0435\u0441\u0441\u0438\u044e \u043a \u0411\u0414 engine = create_engine('postgresql:\/\/\u0418\u041c\u042f:\u041f\u0410\u0420\u041e\u041b\u042c@localhost:5432\/Habrdb') Session = sessionmaker(bind=engine) session = Session()   class DataLoader:      def __unzip_file(self, zip_filename, extract_to):         '''\u0420\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u0442 \u0438 \u0443\u0434\u0430\u043b\u044f\u0435\u0442 zip \u0430\u0440\u0445\u0438\u0432'''         with zipfile.ZipFile(zip_filename, 'r') as zip_ref:             zip_ref.extractall(extract_to)             # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0440\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0430\u0440\u0445\u0438\u0432         os.remove(zip_filename)       def __add_file_to_db(self, path):         '''\u0427\u0438\u0442\u0430\u0435\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u0435 \u0444\u0430\u0439\u043b\u0430, \u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u0435\u0442 \u0438 \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0432 \u0411\u0414'''          def convert_to_date_with_limitation(xVal):             '''\u041f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0434\u0430\u0442\u0443 \u043a \u0444\u043e\u0440\u043c\u0430\u0442\u0443 YYYY-MM-DD \u0438 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0435\u0442 \u0433\u043e\u0434\u0430 &lt; 2023'''             xVals = str(xVal).split(' ')             for x in xVals:                 if len(x) == 10:                     x = re.sub(r\"[.,:;]\", \"-\", x)                     year, month, day = x.split(\"-\")                     if int(year) == 2023 or int(year) == 2024:                         return f\"{year}-{month}-{day}\"                 else:                     return pd.NaT  # \u0415\u0441\u043b\u0438 \u0444\u043e\u0440\u043c\u0430\u0442 \u043d\u0435 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d, \u0432\u0435\u0440\u043d\u0443\u0442\u044c NaT (Not a Time)                          def convert_to_date(xVal):             '''\u041f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0434\u0430\u0442\u0443 \u043a \u0444\u043e\u0440\u043c\u0430\u0442\u0443 YYYY-MM-DD'''             xVals = str(xVal).split(' ')             for x in xVals:                 if len(x) == 10:                     x = re.sub(r\"[.,:;]\", \"-\", x)                     year, month, day = x.split(\"-\")                     return f\"{year}-{month}-{day}\"                 else:                     return pd.NaT          names = ['Number', 'org_title', 'mit_number', 'mit_title', 'mit_notation', 'mi_modification',                         'mi_number', 'verification_date', 'valid_date', 'result_docnum', 'appliciability',                         'Date1', 'Date2', 'Pusto', 'vri_id', 'rabbish']            # \u0427\u0438\u0442\u0430\u0435\u043c \u0444\u0430\u0439\u043b \u0447\u0430\u0441\u0442\u044f\u043c\u0438 \u043f\u043e 100000 \u0441\u0442\u0440\u043e\u043a         df = pd.read_csv(path, chunksize = 100000, on_bad_lines='skip', delimiter=';',quotechar='\"', header=None, names=names)          # \u041f\u0440\u043e\u0431\u0435\u0433\u0430\u0435\u043c\u0441\u044f \u043f\u043e \u0447\u0430\u0441\u0442\u044f\u043c         for chunk in df:                # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u043d\u0435\u043d\u0443\u0436\u043d\u044b\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u044b 1, 12, 13, 15             chunk = chunk.drop(columns=['Number', 'Date1', 'Date2', 'Pusto', 'rabbish'])              # \u0412\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u0435\u043c \u0434\u0430\u0442\u044b             chunk['verification_date'] = chunk['verification_date'].map(convert_to_date_with_limitation)             chunk['valid_date'] = chunk['valid_date'].map(convert_to_date)                          # \u0411\u0443\u0434\u0435\u043c \u0431\u0440\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u0438 \u043a\u043e\u043b\u043e\u043d\u043a\u0438             allColumns = ['org_title', 'mit_number', 'mit_title', 'mit_notation', 'mi_modification',             'mi_number', 'verification_date', 'valid_date', 'result_docnum', 'appliciability', 'vri_id']              # \u0423\u0431\u0438\u0440\u0430\u0435\u043c \u0434\u0432\u043e\u0439\u043d\u044b\u0435 \u043f\u0440\u043e\u0431\u0435\u043b\u044b \u0438\u0437 \u0432\u0441\u0435\u0445 \u043a\u043e\u043b\u043e\u043d\u043e\u043a             chunk[allColumns].replace('  ', ' ')              # \u042f\u0432\u043d\u043e \u0437\u0430\u0434\u0430\u0451\u043c \u0442\u0438\u043f\u044b \u0434\u043b\u044f \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 errors='coerce' \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438             chunk['verification_date'] = pd.to_datetime(chunk['verification_date'], errors='coerce')             chunk['valid_date'] = pd.to_datetime(chunk['valid_date'], errors='coerce')              # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0432\u0441\u0435 NaT \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u0441\u0442\u043e\u043b\u0431\u0446\u0430 'verification_date'              chunk = chunk.dropna(subset=['verification_date'])              # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0441\u0442\u0440\u043e\u043a\u0438, \u0433\u0434\u0435 'result_docnum' \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0437 \u0434\u0435\u0444\u0438\u0441\u043e\u0432 \u0438 \u043f\u0440\u043e\u0431\u0435\u043b\u043e\u0432             chunk = chunk[~chunk['result_docnum'].str.fullmatch(r'[-\\s]+', na=False)]              # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u043f\u0440\u0438\u0433\u043e\u0434\u043d\u043e\u0441\u0442\u044c \u0438\u0437 1 \u0438 0 \u0432 True \u0438 False             chunk['appliciability'] = chunk['appliciability'].astype('bool')             # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c 'vri_id' \u0438\u0437 \u0441\u0442\u0440\u043e\u043a \u0432 bigInt              chunk['vri_id'] = pd.to_numeric(chunk['vri_id'], errors='coerce').astype('Int64')              # \u0417\u0430\u043c\u0435\u043d\u044f\u0435\u043c \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f NaN \u043d\u0430 None (\u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0443 \u043a\u0430\u043a null)             chunk = chunk.where(pd.notnull(chunk), None)              # \u0422\u0438\u043f\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b             infoTypes = {             'mi_number': TEXT,             'result_docnum': TEXT,             'mit_number': TEXT,             'mit_title': TEXT,             'mit_notation': TEXT,             'mi_modification': TEXT,             'org_title': TEXT,             'verification_date': Date,             'valid_date': Date,             'vri_id': BigInteger,             'appliciability': Boolean             }             # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0447\u0430\u0441\u0442\u044c \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0443             chunk.to_sql('Info', engine, if_exists='append', index=False, dtype=infoTypes)       def extract_and_add_to_db_old_files(self, rootPath):         \"\"\" \u0420\u0430\u0437\u0430\u0440\u0445\u0438\u0432\u0438\u0440\u0443\u0435\u0442 \u0432\u0441\u0435 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0432\u044b, \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 \u0432 \u0411\u0414 \u0438 \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u0432\u0441\u0435 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u0432 \u043d\u0438\u0445 \u0444\u0430\u0439\u043b\u044b\"\"\"                  for z, dirs, files in os.walk(rootPath):             # \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043b\u0438 \u043f\u0430\u043f\u043a\u0430 \u0444\u0430\u0439\u043b\u044b             for filename in files:                 fileSpec = os.path.join(z, filename)                                  # \u0415\u0441\u043b\u0438 \u044d\u0442\u043e \u0430\u0440\u0445\u0438\u0432                 if filename.endswith('.zip'):                     # \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u043d\u0430 \u043d\u0430\u043b\u0438\u0447\u0438\u0435 'snapshot' \u0432 \u0438\u043c\u0435\u043d\u0438 \u0444\u0430\u0439\u043b\u0430                     if 'snapshot' in fileSpec.split('\\\\')[-1]:                         self.__unzip_file(fileSpec, self.rootPath)                         # \u0420\u0435\u043a\u0443\u0440\u0441\u0438\u044f \u0434\u043b\u044f \u043d\u043e\u0432\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 snapshot                         if self.extract_and_add_to_db_old_files(self.rootPath) == 0:                             # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u043f\u0443\u0441\u0442\u044b\u0435 \u043f\u0430\u043f\u043a\u0438                             self.__remove_empty_dirs(self.rootPath)                             return 0                     else:                         # \u0420\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u043c \u0430\u0440\u0445\u0438\u0432                         self.__unzip_file(fileSpec, z)                                          # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438\u0437 \u0444\u0430\u0439\u043b\u0430 \u0432 \u0411\u0414                     self.__add_file_to_db(fileSpec[:-4])                     print(f'\u0424\u0430\u0439\u043b {filename[:-4]} \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0432 \u0411\u0414')                     # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0444\u0430\u0439\u043b                     os.remove(fileSpec[:-4])                                  # \u0415\u0441\u043b\u0438 \u044d\u0442\u043e \u0440\u0430\u0437\u0430\u0440\u0445\u0438\u0432\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0444\u0430\u0439\u043b                 elif filename.endswith('.csv'):                     self.__add_file_to_db(fileSpec)                     print(f'\u0424\u0430\u0439\u043b {filename} \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0432 \u0411\u0414')                     os.remove(fileSpec)         return 0          def __remove_empty_dirs(self, rootPath):         \"\"\" \u0420\u0435\u043a\u0443\u0440\u0441\u0438\u0432\u043d\u043e \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u0432\u0441\u0435 \u043f\u0443\u0441\u0442\u044b\u0435 \u043f\u0430\u043f\u043a\u0438, \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441 \u0441\u0430\u043c\u043e\u0439 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0439\"\"\"         for dirpath, dirnames, filenames in os.walk(rootPath, topdown=False):  # topdown=False \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0438\u0434\u0442\u0438 \u0441 \u0441\u0430\u043c\u043e\u0433\u043e \u043a\u043e\u043d\u0446\u0430             # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u043f\u0430\u043f\u043a\u0443, \u0435\u0441\u043b\u0438 \u0432 \u043d\u0435\u0439 \u043d\u0435\u0442 \u0444\u0430\u0439\u043b\u043e\u0432 \u0438 \u043f\u0430\u043f\u043e\u043a             if not dirnames and not filenames:                 os.rmdir(dirpath)                 print(f'\u0423\u0434\u0430\u043b\u0435\u043d\u0430 \u043f\u0443\u0441\u0442\u0430\u044f \u043f\u0430\u043f\u043a\u0430: {dirpath}')                 # \u0412\u044b\u0445\u043e\u0434\u0438\u043c, \u0435\u0441\u043b\u0438 \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0438\u0441\u044c \u043d\u0430 \u0440\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0443\u044e \u043f\u0430\u043f\u043a\u0443 \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043b\u0435\u0436\u0430\u043b\u0438 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435                 if dirpath == self.rootPath:                     return 0                 self.__remove_empty_dirs(self.rootPath)      def Main(self):         self.rootPath = '\u041f\u041e\u041b\u041d\u042b\u0419_\u041f\u0423\u0422\u042c_\u041a_\u0420\u0410\u0417\u0410\u0420\u0425\u0418\u0412\u0418\u0420\u041e\u0412\u0410\u041d\u041d\u041e\u0419_\u041f\u0410\u041f\u041a\u0415'         self.extract_and_add_to_db_old_files(self.rootPath)  # \u0421\u043e\u0437\u0434\u0430\u0451\u043c \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440 \u043a\u043b\u0430\u0441\u0441\u0430 ekz = DataLoader() # \u0412\u044b\u0437\u044b\u0432\u0430\u0435\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u0447\u043a\u043e\u0439 \u0432\u0445\u043e\u0434\u0430  ekz.Main()<\/code><\/pre>\n<\/p>\n<\/div>\n<\/details>\n<p>\u041f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u0438\u0442 \u043d\u0430\u0448\u0430 \u0431\u0430\u0437\u0430, \u0443 \u043c\u0435\u043d\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c 38 \u0413\u0411.<\/p>\n<pre><code class=\"pgsql\">SELECT pg_size_pretty(pg_database_size('Habrdb');<\/code><\/pre>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/29e\/f15\/a13\/29ef15a1359ae1e0d836f86485453bc1.png\" alt=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b &quot;Info&quot;\" title=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b &quot;Info&quot;\" width=\"1917\" height=\"814\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/29e\/f15\/a13\/29ef15a1359ae1e0d836f86485453bc1.png\"\/><\/p>\n<div><figcaption>\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 \u0442\u0430\u0431\u043b\u0438\u0446\u044b &#171;Info&#187;<\/figcaption><\/div>\n<\/figure>\n<h2>\u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0437\u044b \u0434\u0430\u043d\u043d\u044b\u0445<\/h2>\n<p>\u041c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0441\u0442\u0440\u043e\u043a\u0438 \u0432 \u043a\u043e\u043b\u043e\u043d\u043a\u0430\u0445 &#171;mit_title&#187;\u00a0(\u043d\u0430\u0438\u043c\u0435\u043d\u043e\u0432\u0430\u043d\u0438\u0435 \u0442\u0438\u043f\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430), &#171;org_title&#187;\u00a0(\u043f\u043e\u0432\u0435\u0440\u044f\u044e\u0449\u0430\u044f \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u044f), &#171;mit_number&#187;\u00a0(\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u043d\u043e\u043c\u0435\u0440 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430), &#171;mit_notaion&#187;\u00a0(\u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0442\u0438\u043f\u0430), &#171;mi_modification&#187;\u00a0(\u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f \u0442\u0438\u043f\u0430) \u0431\u044b\u0432\u0430\u044e\u0442 \u0434\u043b\u0438\u043d\u043d\u044b\u043c\u0438 \u0438 \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c\u0441\u044f. \u0414\u0430\u0436\u0435 \u0431\u0435\u0437 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c &#8212; \u0441\u0442\u0440\u043e\u043a\u0438 \u0432 \u043a\u043e\u043b\u043e\u043d\u043a\u0435 &#171;mit_title&#187; \u0441\u0430\u043c\u044b\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0435, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0447\u043d\u0451\u043c \u0441 \u043d\u0435\u0451.<\/p>\n<p>\u0421\u043e\u0437\u0434\u0430\u0434\u0438\u043c \u0442\u0430\u0431\u043b\u0438\u0446\u0443, \u0432 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0437\u0430\u043a\u0438\u043d\u0435\u043c \u043d\u0435\u043d\u0443\u043b\u0435\u0432\u044b\u0435 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 &#171;mit_title&#187;<\/p>\n<pre><code class=\"pgsql\">CREATE TABLE IF NOT EXISTS \"UniqueMitTitles\" (     id integer NOT NULL GENERATED ALWAYS AS IDENTITY PRIMARY KEY,     \"mit_title\" TEXT NOT NULL );<\/code><\/pre>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0442\u0443\u0434\u0430 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u0441\u0442\u043e\u043b\u0431\u0446\u0430 &#171;mit_title&#187;\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u044b &#171;Info&#187;<\/p>\n<pre><code class=\"pgsql\">INSERT INTO \"UniqueMitTitles\" (\"mit_title\") SELECT DISTINCT \"mit_title\" FROM \"Info\" WHERE COALESCE(\"mit_title\") IS NOT NULL;<\/code><\/pre>\n<p>\u0421\u043e\u0437\u0434\u0430\u0451\u043c \u0432 &#171;Info&#187;\u00a0\u043a\u043e\u043b\u043e\u043d\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0431\u0443\u0434\u0435\u0442 \u0445\u0440\u0430\u043d\u0438\u0442\u044c \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438\u0437 \u0431\u0430\u0437\u044b &#171;UniqueMitTitles&#187;<\/p>\n<pre><code class=\"pgsql\">ALTER TABLE \"Info\" ADD COLUMN \"mit_titleId\" INT;<\/code><\/pre>\n<p>\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0442\u0443\u0434\u0430 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438\u0437 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b<\/p>\n<pre><code class=\"pgsql\">UPDATE \"Info\" SET \"mit_titleId\" = \"UniqueMitTitles\".id FROM \"UniqueMitTitles\" WHERE \"Info\".\"mit_title\" = \"UniqueMitTitles\".\"mit_title\";<\/code><\/pre>\n<p>\u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0438\u0437 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043b\u0438\u0448\u043d\u044e\u044e \u043a\u043e\u043b\u043e\u043d\u043a\u0443<\/p>\n<pre><code class=\"pgsql\">ALTER TABLE \"Info\" DROP COLUMN \"mit_title\";<\/code><\/pre>\n<p>\u0421\u0440\u0430\u0437\u0443 \u0441\u043a\u0430\u0436\u0443, \u0447\u0442\u043e \u0432 &#171;Info&#187; \u043c\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u0441\u0442\u0440\u043e\u043a \u0432\u043d\u0443\u0448\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. \u0412 PostgreSQL \u0441\u0442\u0440\u043e\u043a\u0438 (\u0442\u0438\u043f \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u043d\u043e\u0439), \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0432 \u0441\u0436\u0430\u0442\u043e\u043c \u0432\u0438\u0434\u0435 \u043f\u0440\u0435\u0432\u044b\u0448\u0430\u0435\u0442 2 \u041a\u0431\u0430\u0439\u0442\u0430, \u043d\u0430\u0440\u0435\u0437\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0447\u0430\u0441\u0442\u0438, \u0441\u0436\u0438\u043c\u0430\u044e\u0442\u0441\u044f \u0438 \u0445\u0440\u0430\u043d\u044f\u0442\u0441\u044f \u0432 \u043a\u043e\u0440\u0442\u0435\u0436\u0430\u0445 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 TOAST \u0442\u0430\u0431\u043b\u0438\u0446\u044b. \u042d\u0442\u0430 \u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u0441\u043a\u0440\u044b\u0442\u0430 \u043e\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u043e\u043d\u0430 \u043f\u0440\u0438\u043a\u0440\u0435\u043f\u043b\u044f\u0435\u0442\u0441\u044f \u043a \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0438 \u043d\u0430\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438. \u041d\u0430\u043c \u0432\u0430\u0436\u043d\u043e \u0437\u043d\u0430\u0442\u044c \u043b\u0438\u0448\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e \u0442\u0430\u043a\u0438\u0435 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043c\u043e\u0433\u0443\u0442 \u0441\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0438 \u0432 \u0440\u0430\u0437\u043c\u0435\u0440\u0430\u0445, \u0442\u0430\u043a \u043a\u0430\u043a \u043f\u0440\u0438 UPDATE\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0432 TOAST\u00a0\u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u043d\u043e\u0432\u044b\u0435 \u043a\u043e\u0440\u0442\u0435\u0436\u0438, \u0430 \u0441\u0442\u0430\u0440\u044b\u0435 (dead tuples) \u043d\u0435 \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0438 \u0438\u0445 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0447\u0438\u0441\u0442\u0438\u0442\u044c \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u043e\u043c\u0430\u043d\u0434\u044b VACUUM. \u0410 \u0432\u043e\u043e\u0431\u0449\u0435 TOAST \u044d\u0442\u043e \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u0441\u0436\u0438\u043c\u0430\u044e\u0442\u0441\u044f \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430, \u043e\u0431 \u044d\u0442\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c <a href=\"https:\/\/postgrespro.ru\/docs\/postgrespro\/9.5\/storage-toast\" rel=\"noopener noreferrer nofollow\">\u0437\u0434\u0435\u0441\u044c<\/a> \u0438 <a href=\"https:\/\/habr.com\/ru\/companies\/postgrespro\/articles\/710104\/\" rel=\"noopener noreferrer nofollow\">\u0437\u0434\u0435\u0441\u044c<\/a>. \u0421\u0430\u043c\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u0438\u0442 \u0442\u0430\u0431\u043b\u0438\u0446\u0430 &#171;Info&#187; \u0438 \u0447\u0442\u043e \u0442\u0430\u043c \u0441 TOAST<\/p>\n<pre><code class=\"pgsql\">SELECT l.metric, l.nr AS bytes      , CASE WHEN is_size THEN pg_size_pretty(nr) END AS bytes_pretty      , CASE WHEN is_size THEN nr \/ NULLIF(x.ct, 0) END AS bytes_per_row FROM  ( SELECT min(tableoid)        AS tbl      -- = 'public.tbl'::regclass::oid      , count(*)             AS ct      , sum(length(t::text)) AS txt_len  -- length in characters    FROM \"Info\" t    ) x CROSS  JOIN LATERAL (    VALUES      (true , 'core_relation_size'               , pg_relation_size(tbl))    , (true , 'free_space_map'                   , pg_relation_size(tbl, 'fsm'))    , (true , 'total_size_incl_toast_and_indexes', pg_total_relation_size(tbl))    , (true , 'live_rows_in_text_representation' , txt_len)    , (false, 'row_count'                        , ct)    , (false, 'live_tuples'                      , pg_stat_get_live_tuples(tbl))    , (false, 'dead_tuples'                      , pg_stat_get_dead_tuples(tbl))    ) l(is_size, metric, nr);<\/code><\/pre>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5e7\/f17\/d38\/5e7f17d38a7f26c66e6fa20686e33b39.png\" alt=\"\u0418\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u043e \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043f\u043e\u0441\u043b\u0435 UPDATE\" title=\"\u0418\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u043e \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043f\u043e\u0441\u043b\u0435 UPDATE\" width=\"771\" height=\"328\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5e7\/f17\/d38\/5e7f17d38a7f26c66e6fa20686e33b39.png\"\/><\/p>\n<div><figcaption>\u0418\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u043e \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043f\u043e\u0441\u043b\u0435 UPDATE<\/figcaption><\/div>\n<\/figure>\n<ul>\n<li>\n<p><code>core_relation_size<\/code> \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0431\u0435\u0437 \u0443\u0447\u0435\u0442\u0430 \u0438\u043d\u0434\u0435\u043a\u0441\u043e\u0432 \u0438 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<\/li>\n<li>\n<p><code>free_space_map<\/code> \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u0430\u0440\u0442\u044b \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430, \u0441\u043a\u0430\u0436\u0435\u0442 \u043e \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435 \u0432 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0430\u0445 \u0442\u0430\u0431\u043b\u0438\u0446\u044b, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0447\u0430\u0441\u0442\u044b\u0445 \u0432\u0441\u0442\u0430\u0432\u043e\u043a, \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0439 \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<li>\n<p><code>total_size_incl_toast_and_indexes<\/code> \u2014 \u043e\u0431\u0449\u0438\u0439 \u0440\u0430\u0437\u043c\u0435\u0440, \u0432\u043a\u043b\u044e\u0447\u0430\u044f TOAST \u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u044b. \u0418\u043d\u0434\u0435\u043a\u0441\u043e\u0432 \u043c\u044b \u043d\u0435 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0440\u0430\u0432\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0443 TOAST.<\/p>\n<\/li>\n<li>\n<p><code>live_rows_in_text_representation<\/code> \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 &#171;\u0436\u0438\u0432\u044b\u0445&#187; \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u0441\u0442\u0440\u043e\u043a, \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e \u043e\u043d \u0431\u0443\u0434\u0435\u0442 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0442\u044c\u0441\u044f \u0437\u0430 \u0441\u0447\u0435\u0442 \u0437\u0430\u043c\u0435\u043d\u044b \u0441\u0442\u0440\u043e\u043a \u043d\u0430 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b.<\/p>\n<\/li>\n<li>\n<p><code>row_count<\/code> \u2014 \u043e\u0431\u0449\u0435\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0441\u0442\u0440\u043e\u043a \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.<\/p>\n<\/li>\n<li>\n<p><code>live_tuples<\/code> \u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e &#171;\u0436\u0438\u0432\u044b\u0445&#187; \u043a\u043e\u0440\u0442\u0435\u0436\u0435\u0439 (\u0441\u0442\u0440\u043e\u043a) \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.<\/p>\n<\/li>\n<li>\n<p><code>dead_tuples<\/code> \u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e &#171;\u043c\u0435\u0440\u0442\u0432\u044b\u0445&#187; \u043a\u043e\u0440\u0442\u0435\u0436\u0435\u0439 (\u0441\u0442\u0440\u043e\u043a) \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435, \u043e\u043d\u0438 \u0442\u043e \u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0442 \u0432\u043d\u0443\u0448\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0430<\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u0435\u043f\u0435\u0440\u044c \u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u0432\u0435\u0441\u0438\u0442 \u0446\u0435\u043b\u044b\u0445 77\u00a0\u0413\u0411! \u041d\u0443\u0436\u043d\u043e \u043e\u0447\u0438\u0441\u0442\u0438\u0442\u044c \u043c\u0451\u0440\u0442\u0432\u044b\u0435 \u043a\u043e\u0440\u0442\u0435\u0436\u0438, \u043a\u0430\u043a \u0440\u0430\u043d\u0435\u0435 \u043e\u0442\u043c\u0435\u0447\u0430\u043b\u043e\u0441\u044c \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u0430 VACUUM. \u0415\u0441\u0442\u044c 2 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430: \u043f\u043e\u0434\u043e\u0436\u0434\u0430\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u043e\u0432 \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u0441\u044f AUTOVACUUM \u0438\u043b\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c VACUUM \u0432\u0440\u0443\u0447\u043d\u0443\u044e. \u0410\u0432\u0442\u043e\u043e\u0447\u0438\u0441\u0442\u043a\u0443 \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0436\u0434\u0430\u0442\u044c \u0442\u0430\u043a \u0434\u043e\u043b\u0433\u043e \u0435\u0441\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f postgresql \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0442\u0430\u0439\u043c\u0435\u0440\u044b \u0434\u043b\u044f \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438 \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0438\u043d\u0442\u0435\u043d\u0441\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u043e\u0447\u0438\u0441\u0442\u043a\u0438, \u044d\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u043d\u043e \u0434\u043b\u044f \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0430 \u0431\u0430\u0437\u0443 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<p>\u0421\u043b\u0435\u0434\u0438\u0442\u044c \u0437\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u043c \u043e\u0447\u0438\u0441\u0442\u043a\u0438 \u043c\u043e\u0436\u043d\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e pg_stat_progress_vacuum, \u043d\u0430 \u043c\u043e\u0435\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u0443\u0436\u0435 \u0447\u0435\u0440\u0435\u0437 \u043c\u0438\u043d\u0443\u0442\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b\u0441\u044f \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043e\u0447\u0438\u0441\u0442\u043a\u0438 <\/p>\n<pre><code class=\"pgsql\">SELECT * FROM pg_stat_progress_vacuum;<\/code><\/pre>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/2eb\/a7f\/074\/2eba7f074bc9940eb63d88aee913c8d4.png\" alt=\"\u0414\u0430\u043d\u043d\u044b\u0435 \u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 VACUUM\" title=\"\u0414\u0430\u043d\u043d\u044b\u0435 \u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 VACUUM\" width=\"1496\" height=\"101\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2eb\/a7f\/074\/2eba7f074bc9940eb63d88aee913c8d4.png\"\/><\/p>\n<div><figcaption>\u0414\u0430\u043d\u043d\u044b\u0435 \u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 VACUUM<\/figcaption><\/div>\n<\/figure>\n<p>\u0411\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e \u0444\u0430\u0437\u0430\u0445 VACUUM \u0438 \u044d\u0442\u0438\u0445 \u0441\u0442\u043e\u043b\u0431\u0446\u0430\u0445 \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0439\u0442\u0438 <a href=\"https:\/\/postgrespro.ru\/docs\/postgresql\/9.6\/progress-reporting#vacuum-phases\" rel=\"noopener noreferrer nofollow\">\u0437\u0434\u0435\u0441\u044c<\/a><\/p>\n<p>\u041c\u044b \u0432\u0438\u0434\u0438\u043c, \u0447\u0442\u043e \u0441\u0435\u0439\u0447\u0430\u0441 VACUUM \u043d\u0430 \u0441\u0442\u0430\u0434\u0438\u0438 \u0441\u043a\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u0443\u0447\u0438 \u0438 \u043f\u043e\u043a\u0430 \u043f\u0440\u043e\u0441\u043a\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043e \u0432\u0441\u0435\u0433\u043e 10%, \u0437\u0430\u0442\u0435\u043c \u043d\u0430\u0441\u0442\u0443\u043f\u0438\u0442 \u0444\u0430\u0437\u0430 \u043e\u0447\u0438\u0441\u0442\u043a\u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u043e\u0432 (vacuuming indexes) \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0442\u043e\u043c \u0441\u0442\u0430\u0434\u0438\u044f \u043e\u0447\u0438\u0441\u0442\u043a\u0438 \u043a\u0443\u0447\u0438 (vacuuming heap). \u0412 \u043e\u0431\u0449\u0435\u043c \u0432\u043c\u0435\u0441\u0442\u043e \u043c\u043d\u043e\u0433\u043e\u0447\u0430\u0441\u043e\u0432\u043e\u0433\u043e \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u0438\u043b\u0438 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u043e\u0447\u0438\u0441\u0442\u0438\u043c \u043c\u0451\u0440\u0442\u0432\u044b\u0435 \u043a\u043e\u0440\u0442\u0435\u0436\u0438 \u0438 \u0437\u0430\u043f\u0438\u0441\u0438 \u043f\u043e\u0441\u043b\u0435 DROP \u0432\u0440\u0443\u0447\u043d\u0443\u044e<\/p>\n<pre><code class=\"pgsql\">VACUUM;<\/code><\/pre>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b80\/6e5\/926\/b806e592617b2a8fc23e2ae1406e8d15.png\" alt=\"\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u0442\u0435 dead_tuples = 0\" title=\"\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u0442\u0435 dead_tuples = 0\" width=\"771\" height=\"324\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b80\/6e5\/926\/b806e592617b2a8fc23e2ae1406e8d15.png\"\/><\/p>\n<div><figcaption>\u041a\u0430\u043a \u0432\u0438\u0434\u0438\u0442\u0435 dead_tuples = 0<\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u0430\u043a \u043a\u0430\u043a \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438\u0437 \u043a\u043e\u043b\u043e\u043d\u043a\u0438 &#171;mit_titleId&#187; \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0441\u0432\u044f\u0437\u0443\u044e\u0449\u0438\u043c \u0437\u0432\u0435\u043d\u043e\u043c \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u043c\u0438, \u0442\u043e \u0441\u043e\u0437\u0434\u0430\u0451\u043c \u0432\u043d\u0435\u0448\u043d\u0438\u0439 \u043a\u043b\u044e\u0447 \u043d\u0430 \u043a\u043e\u043b\u043e\u043d\u043a\u0443 \u0438\u0437 \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b. \u041f\u0440\u0438\u00a0\u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0438\u00a0\u0441\u0442\u0440\u043e\u043a \u0432\u00a0&#171;UniqueMitTitles&#187;\u00a0\u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 &#171;Info&#187;\u00a0\u0443\u0434\u0430\u043b\u044f\u0442\u0441\u044f \u0441\u0442\u0440\u043e\u043a\u0438 \u0441 \u0442\u0430\u043a\u0438\u043c Id.<\/p>\n<pre><code class=\"pgsql\">ALTER TABLE \"Info\" ADD CONSTRAINT \"Info_mit_titleId_fkey\" FOREIGN KEY (\"mit_titleId\") REFERENCES \"UniqueMitTitles\" (\"id\") ON DELETE CASCADE;<\/code><\/pre>\n<p>\u0414\u0430\u043b\u0435\u0435\u00a0\u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u043c \u0442\u0435 \u0436\u0435 \u0448\u0430\u0433\u0438 \u0434\u043b\u044f \u043e\u0441\u0442\u0430\u0432\u0448\u0438\u0445\u0441\u044f \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u043a\u043e\u043b\u043e\u043d\u043e\u043a &#171;mit_notation&#187;, &#171;org_title&#187;, &#171;mit_number&#187;, &#171;mi_modification&#187; (\u0441\u043e\u0437\u0434\u0430\u0435\u043c \u0442\u0430\u0431\u043b\u0438\u0446\u044b &#171;UniqueMitNotations&#187;, &#171;UniqueOrgTitles&#187;, &#171;UniqueMitNumbers&#187; \u0438 &#171;UniqueMiModifications&#187;).<\/p>\n<figure class=\"full-width\"><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/edf\/da9\/e1c\/edfda9e1c2960bd6ddd85f71fb9a934f.png\" alt=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 &quot;Info&quot; \u043f\u043e\u0441\u043b\u0435 \u0432\u0441\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\" title=\"\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 &quot;Info&quot; \u043f\u043e\u0441\u043b\u0435 \u0432\u0441\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\" width=\"1625\" height=\"721\" data-src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/edf\/da9\/e1c\/edfda9e1c2960bd6ddd85f71fb9a934f.png\"\/><\/p>\n<div><figcaption>\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 &#171;Info&#187; \u043f\u043e\u0441\u043b\u0435 \u0432\u0441\u0435\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0432\u0441\u0435\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u043c \u043e\u0447\u0438\u0441\u0442\u043a\u0443 \u0441 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0438\u0441\u044c\u044e (VACUUM FULL), \u043f\u0440\u0438 \u0442\u0430\u043a\u043e\u0439 \u043e\u0447\u0438\u0441\u0442\u043a\u0435 \u0441\u0442\u0430\u0440\u0430\u044f \u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u043d\u0435 \u0431\u0443\u0434\u0435\u0442 \u0443\u0434\u0430\u043b\u044f\u0442\u044c\u0441\u044f \u0434\u043e \u043f\u043e\u043b\u043d\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u0438 \u043d\u043e\u0432\u043e\u0439, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0432\u0430\u0448\u0435\u043c \u0434\u0438\u0441\u043a\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0434\u043b\u044f \u043d\u043e\u0432\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b. \u041f\u043e\u0441\u043b\u0435 \u043f\u043e\u043b\u043d\u043e\u0439 \u043e\u0447\u0438\u0441\u0442\u043a\u0438 \u0431\u0430\u0437\u0430 \u0432\u0435\u0441\u0438\u0442 17 \u0413\u0411, \u0447\u0442\u043e \u043c\u0435\u043d\u044c\u0448\u0435 \u0432 2,2 \u0440\u0430\u0437\u0430 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0432 38 \u0413\u0411.<\/p>\n<p>\u041c\u0438\u043d\u0443\u0441\u044b \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u00a0\u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043c\u0435\u0440\u0430:<\/p>\n<ol>\n<li>\n<p>\u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f JOIN\u00a0\u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0442\u0430\u0431\u043b\u0438\u0446 \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<\/li>\n<li>\n<p>\u0421\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0443.<\/p>\n<\/li>\n<li>\n<p>\u0421\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 &#8212; \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0438\u0442\u044c \u0437\u0430 6-\u044e \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u043c\u0438, \u0430 \u043d\u0435 \u0437\u0430 \u043e\u0434\u043d\u043e\u0439.<\/p>\n<\/li>\n<\/ol>\n<p>\u0415\u0441\u043b\u0438 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0434\u043b\u044f \u0432\u0430\u0441 \u043d\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u043d\u043e, \u0442\u043e \u044d\u0442\u0438 \u043c\u0438\u043d\u0443\u0441\u044b \u0441 \u043b\u0438\u0445\u0432\u043e\u0439 \u043e\u043a\u0443\u043f\u0430\u044e\u0442\u0441\u044f \u043c\u0430\u043b\u044b\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0431\u0430\u0437\u044b.<\/p>\n<p>\u0412\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u0431\u0443\u0434\u0435\u043c \u0443\u0441\u043a\u043e\u0440\u044f\u0442\u044c \u043f\u043e\u0438\u0441\u043a \u043f\u043e \u0442\u0430\u0431\u043b\u0438\u0446\u0430\u043c \u0438 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c API.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/851858\/\"> https:\/\/habr.com\/ru\/articles\/851858\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442. \u042d\u0442\u043e\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0446\u0438\u043a\u043b \u0441\u0442\u0430\u0442\u0435\u0439 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0449\u0438\u0445. \u042f \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441\u0432\u043e\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u0440\u0435\u0435\u0441\u0442\u0440\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0433\u043e\u0441\u0443\u0434\u0430\u0440\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e. \u0414\u0430\u043d\u043d\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u0445\u0440\u0430\u043d\u0438\u0442\u044c\u0441\u044f \u0432 \u0431\u0430\u0437\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 PostgreSQL, \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043d\u0438\u043c \u0431\u0443\u0434\u0435\u0442 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u0447\u0435\u0440\u0435\u0437 Fast\u00a0API. \u0412 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0437\u0430\u0439\u043c\u0451\u043c\u0441\u044f \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0431\u0430\u0437\u0443 \u0438 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435\u043c \u0435\u0451 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u0432.<\/p>\n<h2>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435<\/h2>\n<p>\u041d\u0430\u043c \u043f\u0440\u0435\u0434\u0441\u0442\u043e\u0438\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u043e\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u0445 \u043f\u043e\u0432\u0435\u0440\u043a\u0438 \u0441\u0440\u0435\u0434\u0441\u0442\u0432 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u0443\u0434\u0435\u043c \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0438\u0437\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0430 \u0441\u0430\u0439\u0442\u0430 \u00ab<a href=\"https:\/\/fgis.gost.ru\/fundmetrology\/cm\/results\" rel=\"noopener noreferrer nofollow\">\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418<\/a>\u00bb \u0424\u0413\u0418\u0421 \u0410\u0420\u0428\u0418\u041d. \u0412\u043a\u0440\u0430\u0442\u0446\u0435\u00a0\u2014 \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437\u043c\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u0431\u043e\u0440 \u0438\u0437\u00a0\u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u0438\u0438 \u0434\u043e\u043b\u0436\u0435\u043d \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0441\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e. \u0414\u043b\u044f\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u043e\u0433\u0440\u0435\u0448\u043d\u043e\u0441\u0442\u0435\u0439 \u0438\u0437\u043c\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u0431\u043e\u0440\u0430 \u043d\u0430\u00a0\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u044b\u043c \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u043c, \u043e\u043d \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u00a0\u043c\u0435\u0442\u0440\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043e\u0440\u0433\u0430\u043d, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u0442\u0435\u043c \u0447\u0435\u0440\u0435\u0437 \u00ab\u0410\u0420\u0428\u0418\u041d\u00bb \u0440\u0430\u0437\u043c\u0435\u0449\u0430\u0435\u0442 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e \u043e\u0431\u00a0\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435 \u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043a\u0438 (\u043f\u0440\u043e\u0439\u0434\u0435\u043d\u0430 \u0438\u043b\u0438 \u043d\u0435\u0442).<\/p>\n<p>\u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 \u0434\u0430\u043d\u043d\u044b\u0445, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0445\u0440\u0430\u043d\u044f\u0442\u0441\u044f \u0432 \u0440\u0435\u0435\u0441\u0442\u0440\u0435:<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043e\u043a \u0421\u0418<\/figcaption><\/div>\n<\/figure>\n<h2>\u0421\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u0438 \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u0411\u0414<\/h2>\n<p>\u041d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u044d\u0442\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u044f \u0441\u043e\u0437\u0434\u0430\u043b \u0431\u0430\u0437\u0443 \u0434\u0430\u043d\u043d\u044b\u0445 &#171;Habrdb&#187;\u00a0\u0441 \u0442\u0430\u0431\u043b\u0438\u0446\u0435\u0439 &#171;Info&#187;:<\/p>\n<pre><code class=\"pgsql\">CREATE TABLE IF NOT EXISTS \"Info\" ( \u00a0\u00a0\u00a0\u00a0id bigint NOT NULL GENERATED ALWAYS AS IDENTITY\u00a0PRIMARY KEY, \u00a0\u00a0\u00a0\u00a0\"org_title\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_number\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_title\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mi_number\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mit_notation\" TEXT, \u00a0\u00a0\u00a0\u00a0\"mi_modification\" TEXT, \u00a0\u00a0\u00a0\u00a0\"verification_date\" date, \u00a0\u00a0\u00a0\u00a0\"valid_date\" date, \u00a0\u00a0\u00a0\u00a0\"result_docnum\" TEXT, \u00a0\u00a0\u00a0\u00a0\"applicability\" boolean, \u00a0\u00a0\u00a0\u00a0\"vri_id\" bigint );<\/code><\/pre>\n<p>\u0410\u0420\u0428\u0418\u041d \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 API\u00a0\u0434\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0434\u0430\u043d\u043d\u044b\u043c, \u0442\u0430\u043a\u0436\u0435 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u044b\u0433\u0440\u0443\u0436\u0430\u0435\u0442 \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 zip\u00a0\u0430\u0440\u0445\u0438\u0432\u0430\u0445 \u043f\u043e <a href=\"https:\/\/fgis.gost.ru\/fundmetrology\/cm\/exporter\" rel=\"noopener noreferrer nofollow\">\u044d\u0442\u043e\u043c\u0443<\/a>\u00a0\u043f\u0443\u0442\u0438.\u00a0\u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u0444\u0430\u0439\u043b poverki.snapshot\u2026zip, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 csv \u0444\u0430\u0439\u043b\u044b \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u043e \u043f\u043e\u0432\u0435\u0440\u043a\u0435 \u0437\u0430 \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0424\u0413\u0418\u0421. \u042d\u0442\u043e\u0442 \u0430\u0440\u0445\u0438\u0432 \u0438\u043c\u0435\u0435\u0442 \u0442\u0430\u043a\u0443\u044e \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c:<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0430\u0440\u0445\u0438\u0432\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u0412 \u0441\u043a\u0430\u0447\u0430\u043d\u043d\u043e\u043c \u0430\u0440\u0445\u0438\u0432\u0435 \u0435\u0441\u0442\u044c 3 \u043f\u0430\u043f\u043a\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043b\u0435\u0436\u0438\u0442 \u043e\u043a\u043e\u043b\u043e 30 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0430\u0440\u0445\u0438\u0432\u043e\u0432, \u043a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0434\u0438\u043d csv \u0444\u0430\u0439\u043b \u0441 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0435\u0439 \u043e \u043f\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0445 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0437\u0430 \u043e\u0434\u0438\u043d \u0434\u0435\u043d\u044c. \u0415\u0449\u0451 \u0432 \u043d\u0451\u043c \u043b\u0435\u0436\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0430\u0440\u0445\u0438\u0432 poverki.snapshot, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 3 \u043f\u0430\u043f\u043a\u0438, 30 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0430\u0440\u0445\u0438\u0432\u043e\u0432 \u0437\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043c\u0435\u0441\u044f\u0446 \u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0430\u0440\u0445\u0438\u0432 poverki.snapshot, \u0434\u0430\u043b\u0435\u0435 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u043e. \u041a\u0430\u0436\u0434\u044b\u0439\u00a0csv \u0444\u0430\u0439\u043b \u0437\u0430\u0447\u0430\u0441\u0442\u0443\u044e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0434\u0430\u043d\u043d\u044b\u0435 \u0442\u0430\u043a\u043e\u0433\u043e \u0432\u0438\u0434\u0430:<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u041e\u0442\u0440\u044b\u0432\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0437 csv \u0444\u0430\u0439\u043b\u0430<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u0440\u0430\u0437\u0443 \u0441\u043a\u0430\u0436\u0443, \u0447\u0442\u043e \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u0431\u0435\u0437 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f, \u0442\u0430\u043a \u043a\u0430\u043a \u0432\u043e-\u043f\u0435\u0440\u0432\u044b\u0445 \u043d\u0430\u043c \u043f\u043e\u043a\u0430 \u043d\u0435 \u043d\u0443\u0436\u043d\u044b \u043a\u043e\u043b\u043e\u043d\u043a\u0438 \u043f\u043e\u0434 \u043d\u043e\u043c\u0435\u0440\u043e\u043c 1, 12, 13 \u0438 15 (\u044d\u0442\u0443 \u043a\u043e\u043b\u043e\u043d\u043a\u0443 \u043d\u0430 \u0441\u043a\u0440\u0438\u043d\u0435 \u043d\u0435 \u0432\u0438\u0434\u043d\u043e, \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u043d\u0430 \u043f\u0443\u0441\u0442\u0430\u044f \u0438\u043b\u0438 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043d\u0435\u043d\u0443\u0436\u043d\u0443\u044e \u043d\u0430\u043c \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e). \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u043d\u0435\u0440\u0435\u0434\u043a\u043e \u043f\u0440\u0438 \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u043f\u043e\u0432\u0435\u0440\u043a\u0443 \u0437\u0430\u0434\u0430\u0432\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0432\u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0438 \u0432 \u0431\u0430\u0437\u0435 \u0442\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0438\u043b\u0438 \u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f.<\/p>\n<p>\u041a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0444\u0430\u0439\u043b\u0430\u0445 \u043d\u0430\u0438\u043c\u0435\u043d\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u043b\u043e\u043d\u043e\u043a \u043d\u0435 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u043c\u0443, \u0442\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0442\u044c. \u041f\u0440\u0438\u0432\u0435\u0434\u0443 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043d\u0435\u0432\u0430\u043b\u0438\u0434\u043d\u044b\u0445 \u0441\u0442\u0440\u043e\u043a\u00a0(\u0438\u043c\u0435\u043d\u0430 \u043a\u043e\u043b\u043e\u043d\u043a\u0430\u043c \u043f\u0440\u0438\u0441\u0432\u043e\u0435\u043d\u044b \u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430, 1 \u0438 0 \u0443\u0436\u0435 \u0437\u0430\u043c\u0435\u043d\u0435\u043d\u044b \u043d\u0430 \u0431\u0443\u043b\u0435\u0432\u044b\u0435 True \u0438 False).<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b:<\/strong><\/p>\n<ol>\n<li>\n<p>\u0412 \u044d\u0442\u0438\u0445 \u0441\u0442\u0440\u043e\u043a\u0430\u0445\u00a0\u0438\u0437 \u0444\u0430\u0439\u043b\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432 \u043a\u043e\u043b\u043e\u043d\u043a\u0435 &#8216;result_docnum&#8217; \u044d\u0442\u043e \u0442\u0438\u0440\u0435, \u043e\u0434\u043d\u0430\u043a\u043e \u043a\u043e\u043b\u043e\u043d\u043a\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u00a0\u0438\u0437 \u0431\u0443\u043a\u0432 \u0438 \u0446\u0438\u0444\u0440.<\/p>\n<\/li>\n<li>\n<p>\u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0437\u0430\u0434\u0430\u043d\u044b \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f &#8216;verification_date&#8217;, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c &#8216;appliciability&#8217;\u00a0= True. \u0422\u043e \u0435\u0441\u0442\u044c \u0434\u0430\u0442\u044b \u043f\u043e\u0432\u0435\u0440\u043a\u0438 \u043d\u0435\u0442, \u043d\u043e \u0437\u0430\u0442\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u043e\u043d\u043e \u043f\u0440\u043e\u0448\u043b\u043e \u043f\u043e\u0432\u0435\u0440\u043a\u0443. \u0422\u0430\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u0442\u043e\u0436\u0435 \u0441\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0438\u0437 \u0410\u0440\u0448\u0438\u043d. \u041a\u043e \u0432\u0441\u0435\u043c\u0443 \u043f\u0440\u043e\u0447\u0435\u043c\u0443 \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u0431\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e \u043f\u043e\u043b\u0435 date\u00a0\u0432 postgresql\u00a0\u0438\u043c\u0435\u0435\u0442 \u0435\u0434\u0438\u043d\u044b\u0439 \u0444\u043e\u0440\u043c\u0430\u0442 &#171;YYYY-MM-DD&#187;, \u0430 \u0432 \u0444\u0430\u0439\u043b\u0430\u0445 \u043c\u043e\u0433\u0443\u0442 \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441 \u0434\u0440\u0443\u0433\u0438\u043c \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u043c.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u043f\u0435\u0440\u0435\u0434 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u0432 \u0411\u0414, \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 pandas \u0438 sqlalchemy.\u00a0\u0422\u0430\u043a \u043a\u0430\u043a \u0434\u0430\u043d\u043d\u044b\u0445 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e \u0432\u043e\u0437\u044c\u043c\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430 2023 \u0438 2024 \u0433\u043e\u0434.<\/p>\n<details class=\"spoiler\">\n<summary>\u041a\u043e\u0434 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0411\u0414<\/summary>\n<div class=\"spoiler__content\">\n<pre><code class=\"python\">import pandas as pd import re, os, zipfile from sqlalchemy import BigInteger, TEXT, Boolean, Date, create_engine, create_engine from sqlalchemy.orm import sessionmaker  # \u0421\u043e\u0437\u0434\u0430\u0451\u043c \u0441\u0435\u0441\u0441\u0438\u044e \u043a \u0411\u0414 engine = create_engine('postgresql:\/\/\u0418\u041c\u042f:\u041f\u0410\u0420\u041e\u041b\u042c@localhost:5432\/Habrdb') Session = sessionmaker(bind=engine) session = Session()   class DataLoader:      def __unzip_file(self, zip_filename, extract_to):         '''\u0420\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u0442 \u0438 \u0443\u0434\u0430\u043b\u044f\u0435\u0442 zip \u0430\u0440\u0445\u0438\u0432'''         with zipfile.ZipFile(zip_filename, 'r') as zip_ref:             zip_ref.extractall(extract_to)             # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0440\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0430\u0440\u0445\u0438\u0432         os.remove(zip_filename)       def __add_file_to_db(self, path):         '''\u0427\u0438\u0442\u0430\u0435\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u043c\u043e\u0435 \u0444\u0430\u0439\u043b\u0430, \u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u0435\u0442 \u0438 \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0432 \u0411\u0414'''          def convert_to_date_with_limitation(xVal):             '''\u041f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0434\u0430\u0442\u0443 \u043a \u0444\u043e\u0440\u043c\u0430\u0442\u0443 YYYY-MM-DD \u0438 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0435\u0442 \u0433\u043e\u0434\u0430 &lt; 2023'''             xVals = str(xVal).split(' ')             for x in xVals:                 if len(x) == 10:                     x = re.sub(r\"[.,:;]\", \"-\", x)                     year, month, day = x.split(\"-\")                     if int(year) == 2023 or int(year) == 2024:                         return f\"{year}-{month}-{day}\"                 else:                     return pd.NaT  # \u0415\u0441\u043b\u0438 \u0444\u043e\u0440\u043c\u0430\u0442 \u043d\u0435 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d, \u0432\u0435\u0440\u043d\u0443\u0442\u044c NaT (Not a Time)                          def convert_to_date(xVal):             '''\u041f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0434\u0430\u0442\u0443 \u043a \u0444\u043e\u0440\u043c\u0430\u0442\u0443 YYYY-MM-DD'''             xVals = str(xVal).split(' ')             for x in xVals:                 if len(x) == 10:                     x = re.sub(r\"[.,:;]\", \"-\", x)                     year, month, day = x.split(\"-\")                     return f\"{year}-{month}-{day}\"                 else:                     return pd.NaT          names = ['Number', 'org_title', 'mit_number', 'mit_title', 'mit_notation', 'mi_modification',                         'mi_number', 'verification_date', 'valid_date', 'result_docnum', 'appliciability',                         'Date1', 'Date2', 'Pusto', 'vri_id', 'rabbish']            # \u0427\u0438\u0442\u0430\u0435\u043c \u0444\u0430\u0439\u043b \u0447\u0430\u0441\u0442\u044f\u043c\u0438 \u043f\u043e 100000 \u0441\u0442\u0440\u043e\u043a         df = pd.read_csv(path, chunksize = 100000, on_bad_lines='skip', delimiter=';',quotechar='\"', header=None, names=names)          # \u041f\u0440\u043e\u0431\u0435\u0433\u0430\u0435\u043c\u0441\u044f \u043f\u043e \u0447\u0430\u0441\u0442\u044f\u043c         for chunk in df:                # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u043d\u0435\u043d\u0443\u0436\u043d\u044b\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u044b 1, 12, 13, 15             chunk = chunk.drop(columns=['Number', 'Date1', 'Date2', 'Pusto', 'rabbish'])              # \u0412\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u0435\u043c \u0434\u0430\u0442\u044b             chunk['verification_date'] = chunk['verification_date'].map(convert_to_date_with_limitation)             chunk['valid_date'] = chunk['valid_date'].map(convert_to_date)                          # \u0411\u0443\u0434\u0435\u043c \u0431\u0440\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u0438 \u043a\u043e\u043b\u043e\u043d\u043a\u0438             allColumns = ['org_title', 'mit_number', 'mit_title', 'mit_notation', 'mi_modification',             'mi_number', 'verification_date', 'valid_date', 'result_docnum', 'appliciability', 'vri_id']              # \u0423\u0431\u0438\u0440\u0430\u0435\u043c \u0434\u0432\u043e\u0439\u043d\u044b\u0435 \u043f\u0440\u043e\u0431\u0435\u043b\u044b \u0438\u0437 \u0432\u0441\u0435\u0445 \u043a\u043e\u043b\u043e\u043d\u043e\u043a             chunk[allColumns].replace('  ', ' ')              # \u042f\u0432\u043d\u043e \u0437\u0430\u0434\u0430\u0451\u043c \u0442\u0438\u043f\u044b \u0434\u043b\u044f \u0441\u0442\u043e\u043b\u0431\u0446\u043e\u0432, \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 errors='coerce' \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438             chunk['verification_date'] = pd.to_datetime(chunk['verification_date'], errors='coerce')             chunk['valid_date'] = pd.to_datetime(chunk['valid_date'], errors='coerce')              # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0432\u0441\u0435 NaT \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437 \u0441\u0442\u043e\u043b\u0431\u0446\u0430 'verification_date'              chunk = chunk.dropna(subset=['verification_date'])              # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u0441\u0442\u0440\u043e\u043a\u0438, \u0433\u0434\u0435 'result_docnum' \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0437 \u0434\u0435\u0444\u0438\u0441\u043e\u0432 \u0438 \u043f\u0440\u043e\u0431\u0435\u043b\u043e\u0432             chunk = chunk[~chunk['result_docnum'].str.fullmatch(r'[-\\s]+', na=False)]              # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c \u043f\u0440\u0438\u0433\u043e\u0434\u043d\u043e\u0441\u0442\u044c \u0438\u0437 1 \u0438 0 \u0432 True \u0438 False             chunk['appliciability'] = chunk['appliciability'].astype('bool')             # \u041f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u043c 'vri_id' \u0438\u0437 \u0441\u0442\u0440\u043e\u043a \u0432 bigInt              chunk['vri_id'] = pd.to_numeric(chunk['vri_id'], errors='coerce').astype('Int64')              # \u0417\u0430\u043c\u0435\u043d\u044f\u0435\u043c \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f NaN \u043d\u0430 None (\u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438\u0441\u044c \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0443 \u043a\u0430\u043a null)             chunk = chunk.where(pd.notnull(chunk), None)              # \u0422\u0438\u043f\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b             infoTypes = {             'mi_number': TEXT,             'result_docnum': TEXT,             'mit_number': TEXT,             'mit_title': TEXT,             'mit_notation': TEXT,             'mi_modification': TEXT,             'org_title': TEXT,             'verification_date': Date,             'valid_date': Date,             'vri_id': BigInteger,             'appliciability': Boolean             }             # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0447\u0430\u0441\u0442\u044c \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0443             chunk.to_sql('Info', engine, if_exists='append', index=False, dtype=infoTypes)       def extract_and_add_to_db_old_files(self, rootPath):         \"\"\" \u0420\u0430\u0437\u0430\u0440\u0445\u0438\u0432\u0438\u0440\u0443\u0435\u0442 \u0432\u0441\u0435 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u0430\u0440\u0445\u0438\u0432\u044b, \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 \u0432 \u0411\u0414 \u0438 \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u0432\u0441\u0435 \u0432\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0435 \u0432 \u043d\u0438\u0445 \u0444\u0430\u0439\u043b\u044b\"\"\"                  for z, dirs, files in os.walk(rootPath):             # \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043b\u0438 \u043f\u0430\u043f\u043a\u0430 \u0444\u0430\u0439\u043b\u044b             for filename in files:                 fileSpec = os.path.join(z, filename)                                  # \u0415\u0441\u043b\u0438 \u044d\u0442\u043e \u0430\u0440\u0445\u0438\u0432                 if filename.endswith('.zip'):                     # \u041f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c \u043d\u0430 \u043d\u0430\u043b\u0438\u0447\u0438\u0435 'snapshot' \u0432 \u0438\u043c\u0435\u043d\u0438 \u0444\u0430\u0439\u043b\u0430                     if 'snapshot' in fileSpec.split('\\\\')[-1]:                         self.__unzip_file(fileSpec, self.rootPath)                         # \u0420\u0435\u043a\u0443\u0440\u0441\u0438\u044f \u0434\u043b\u044f \u043d\u043e\u0432\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432 \u0432\u043d\u0443\u0442\u0440\u0438 snapshot                         if self.extract_and_add_to_db_old_files(self.rootPath) == 0:                             # \u0423\u0434\u0430\u043b\u044f\u0435\u043c \u043f\u0443\u0441\u0442\u044b\u0435 \u043f\u0430\u043f\u043a\u0438                             self.__remove_empty_dirs(self.rootPath)                             return 0                     else:                         # \u0420\u0430\u0441\u043f\u0430\u043a\u043e\u0432\u044b\u0432\u0430\u0435\u043c \u0430\u0440\u0445\u0438\u0432                         self.__unzip_file(fileSpec, z)                                          # \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0434\u0430\u043d\u043d\u044b\u0435 \u0438\u0437 \u0444\u0430\u0439\u043b\u0430 \u0432 \u0411\u0414                     self.__add_file_to_db(fileSpec[:-4])                     print(f'\u0424\u0430\u0439\u043b {filename[:-4]} \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d \u0432 \u0411\u0414') <\/code><\/pre>\n<\/div>\n<\/details>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-436004","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/436004","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=436004"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/436004\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=436004"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=436004"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=436004"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}