{"id":289225,"date":"2018-09-11T11:15:03","date_gmt":"2018-09-11T07:15:03","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=289225"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=289225","title":{"rendered":"\u0410 \u0432\u043e\u0442 \u0432\u044b \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u0435 Ceph\u2026 \u0430 \u0442\u0430\u043a \u043b\u0438 \u043e\u043d \u0445\u043e\u0440\u043e\u0448?"},"content":{"rendered":"\n<div class=\"post__text post__text-html js-mediator-article\">\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/fm\/pp\/3b\/fmpp3bma4xf_j2pxwystnjgezc0.png\"><\/p>\n<p>  <\/p>\n<p>\u042f \u043b\u044e\u0431\u043b\u044e Ceph. \u042f \u0440\u0430\u0431\u043e\u0442\u0430\u044e \u0441 \u043d\u0438\u043c \u0443\u0436\u0435 4 \u0433\u043e\u0434\u0430 (0.80.x \u2014 <del>12.2.6<\/del>, 12.2.5). \u041f\u043e\u0440\u043e\u0439 \u044f \u0442\u0430\u043a \u0443\u0432\u043b\u0435\u0447\u0435\u043d \u0438\u043c, \u0447\u0442\u043e \u043f\u0440\u043e\u0432\u043e\u0436\u0443 \u0432\u0435\u0447\u0435\u0440\u0430 \u0438 \u043d\u043e\u0447\u0438 \u0432 \u0435\u0433\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438, \u0430 \u043d\u0435 \u0441\u043e \u0441\u0432\u043e\u0435\u0439 \u0434\u0435\u0432\u0443\u0448\u043a\u043e\u0439.\u2028\u042f \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u043b\u0441\u044f \u0441 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438 \u0432 \u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0435, \u0430 \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e \u0436\u0438\u0442\u044c \u0438 \u043f\u043e \u0441\u0435\u0439 \u0434\u0435\u043d\u044c. \u041f\u043e\u0440\u043e\u0439 \u044f \u0440\u0430\u0434\u043e\u0432\u0430\u043b\u0441\u044f \u043b\u0435\u0433\u043a\u0438\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u044f\u043c, \u0430 \u0438\u043d\u043e\u0433\u0434\u0430 \u043c\u0435\u0447\u0442\u0430\u043b \u043e \u0432\u0441\u0442\u0440\u0435\u0447\u0435 \u0441 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430\u043c\u0438, \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0440\u0430\u0437\u0438\u0442\u044c \u0441\u0432\u043e\u0435 \u043d\u0435\u0433\u043e\u0434\u043e\u0432\u0430\u043d\u0438\u0435. \u041d\u043e Ceph \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u043d\u0430\u0448\u0435\u043c \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u0438 \u043d\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u043e, \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u043d\u043e\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u043c\u043d\u043e\u0439. \u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0435 \u044f \u043f\u043e\u0434\u0435\u043b\u044e\u0441\u044c \u043d\u0430\u0448\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438 Ceph, \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0440\u043e\u0434\u0435 \u0432\u044b\u0441\u043a\u0430\u0436\u0443\u0441\u044c \u043d\u0430 \u0442\u0435\u043c\u0443 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043c\u043d\u0435 \u043d\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f \u0432 \u044d\u0442\u043e\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u0438 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043c\u043e\u0433\u0443 \u0442\u0435\u043c, \u043a\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u043d\u0435\u043c\u0443. \u041a \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044e \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043c\u0435\u043d\u044f \u043f\u043e\u0434\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0438 \u0441\u043e\u0431\u044b\u0442\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430\u0447\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0433\u043e\u0434 \u043d\u0430\u0437\u0430\u0434, \u043a\u043e\u0433\u0434\u0430 \u0432 \u043d\u0430\u0448 \u043f\u0440\u043e\u0435\u043a\u0442 \u0437\u0430\u0432\u0435\u0437\u043b\u0438 Dell EMC ScaleIO, \u043d\u044b\u043d\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u043a\u0430\u043a Dell EMC VxFlex OS.<\/p>\n<p>  <\/p>\n<p>\u042d\u0442\u043e \u043d\u0438 \u0432 \u043a\u043e\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0435 \u0440\u0435\u043a\u043b\u0430\u043c\u0430 Dell EMC \u0438\u043b\u0438 \u0438\u0445 \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430! \u041b\u0438\u0447\u043d\u043e \u044f \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0442\u043d\u043e\u0448\u0443\u0441\u044c \u043a \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0446\u0438\u044f\u043c, \u0438 \u0447\u0435\u0440\u043d\u044b\u043c \u044f\u0449\u0438\u043a\u0430\u043c \u0432\u0440\u043e\u0434\u0435 VxFlex OS. \u041d\u043e \u043a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u0432\u0441\u00eb \u0432 \u043c\u0438\u0440\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 VxFlex OS \u043e\u0447\u0435\u043d\u044c \u0443\u0434\u043e\u0431\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a\u043e\u0432 Ceph \u0441 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438, \u0438 \u044f \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u044e \u044d\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c. <a name=\"habracut\"><\/a><\/p>\n<p>  <\/p>\n<h2 id=\"parametry-rech-idet-o-4-h-znachnyh-chislah\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0420\u0435\u0447\u044c \u0438\u0434\u0435\u0442 \u043e 4-\u0445 \u0437\u043d\u0430\u0447\u043d\u044b\u0445 \u0447\u0438\u0441\u043b\u0430\u0445!<\/h2>\n<p>  <\/p>\n<p>\u0421\u0435\u0440\u0432\u0438\u0441\u044b Ceph \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a MON, OSD \u0438 \u0442.\u0434. \u0438\u043c\u0435\u044e\u0442 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0434\u043b\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0432\u0441\u044f\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u043e\u0434\u0441\u0438\u0441\u0442\u0435\u043c. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u043c \u0444\u0430\u0439\u043b\u0435, \u0434\u0435\u043c\u043e\u043d\u044b \u0441\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442 \u0438\u0445 \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0437\u0430\u043f\u0443\u0441\u043a\u0430. \u041d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0436\u043d\u043e \u0443\u0434\u043e\u0431\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0430\u043b\u0435\u0442\u0443 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u0430 &#171;\u0438\u043d\u0436\u0435\u043a\u0442\u0430&#187;, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0447\u0443\u0442\u044c \u043d\u0438\u0436\u0435. \u0412\u0441\u0435 \u043f\u043e\u0447\u0442\u0438 \u0441\u0443\u043f\u0435\u0440, \u0435\u0441\u043b\u0438 \u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0442\u043e\u0442 \u043c\u043e\u043c\u0435\u043d\u0442, \u0447\u0442\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0441\u043e\u0442\u043d\u0438:<br \/>  \u2028<br \/>  Hammer:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">&gt; ceph daemon mon.a config show | wc -l 863<\/code><\/pre>\n<p>  <\/p>\n<p>Luminous:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">&gt; ceph daemon mon.a config show | wc -l 1401<\/code><\/pre>\n<p>  <\/p>\n<p>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f ~500 \u043d\u043e\u0432\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0437\u0430 \u0434\u0432\u0430 \u0433\u043e\u0434\u0430. \u0412 \u0446\u0435\u043b\u043e\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u2014 \u044d\u0442\u043e \u043a\u0440\u0443\u0442\u043e, \u043d\u0435 \u043a\u0440\u0443\u0442\u043e \u0442\u043e, \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u0442\u0440\u0443\u0434\u043d\u043e\u0441\u0442\u0438 \u0441 \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435\u043c 80% \u0438\u0437 \u044d\u0442\u043e\u0433\u043e \u0441\u043f\u0438\u0441\u043a\u0430. \u0412 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u043e \u043f\u043e \u043c\u043e\u0438\u043c \u043f\u0440\u0438\u043a\u0438\u0434\u043a\u0430\u043c ~20% \u0438 \u043c\u0435\u0441\u0442\u0430\u043c\u0438 \u043d\u0435\u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e. \u041f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0441\u043c\u044b\u0441\u043b\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0438\u0441\u043a\u0430\u0442\u044c \u0432 github&#8217;\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u0438\u043b\u0438 \u0432 \u043b\u0438\u0441\u0442\u0430\u0445 \u0440\u0430\u0441\u0441\u044b\u043b\u043a\u0438, \u043d\u043e \u0438 \u044d\u0442\u043e \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442. <\/p>\n<p>  <\/p>\n<p>\u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043d\u0435 \u0431\u044b\u043b\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u043d\u0435\u0434\u0430\u0432\u043d\u043e, \u044f \u043d\u0430\u0448\u0435\u043b \u0438\u0445 \u0432 \u0431\u043b\u043e\u0433\u0435 \u043e\u0434\u043d\u043e\u0433\u043e Ceph-\u043e\u0432\u043e\u0434\u0430:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">throttler_perf_counter = false  \/\/ enable\/disable throttler perf counter osd_enable_op_tracker = false   \/\/ enable\/disable OSD op tracking<\/code><\/pre>\n<p>  <\/p>\n<p>\u041a\u043e\u043c\u043c\u0435\u043d\u0442\u044b \u0432 \u043a\u043e\u0434\u0435 \u0432 \u0434\u0443\u0445\u0435 \u043b\u0443\u0447\u0448\u0438\u0445 \u043f\u0440\u0430\u043a\u0442\u0438\u043a. \u041a\u0430\u043a \u0431\u044b, \u0441\u043b\u043e\u0432\u0430 \u044f \u043f\u043e\u043d\u0438\u043c\u0430\u044e \u0438 \u0434\u0430\u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043e \u0447\u0451\u043c \u043e\u043d\u0438, \u043d\u043e \u0447\u0442\u043e \u043c\u043d\u0435 \u044d\u0442\u043e \u0434\u0430\u0441\u0442 \u2014 \u043d\u0435\u0442.<\/p>\n<p>  <\/p>\n<p>\u0418\u043b\u0438 \u0432\u043e\u0442: <strong>osd_op_threads<\/strong> \u0432 Luminous \u043d\u0435 \u0441\u0442\u0430\u043b\u043e \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438 \u043f\u043e\u043c\u043e\u0433\u043b\u0438 \u043d\u0430\u0439\u0442\u0438 \u043d\u043e\u0432\u043e\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435: <strong>osd_peering_wq threads<\/strong><\/p>\n<p>  <\/p>\n<p>\u0415\u0449\u0451 \u043c\u043d\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f, \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0445\u043e\u043b\u0438\u0432\u0430\u0440\u043d\u044b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b. \u0422\u0443\u0442 \u0447\u0443\u0432\u0430\u043a \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 <strong>rgw_num _rados_handles<\/strong> \u044d\u0442\u043e <a href=\"http:\/\/www.osris.org\/performance\/rgw.html\">\u0431\u043b\u0430\u0433\u043e<\/a>:<\/p>\n<p>  <\/p>\n<p>\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 \u0447\u0443\u0432\u0430\u043a \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e &gt; 1 \u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f \u0438 \u0434\u0430\u0436\u0435 <a href=\"https:\/\/github.com\/ceph\/ceph-medic\/issues\/79\">\u043e\u043f\u0430\u0441\u043d\u043e<\/a>.<\/p>\n<p>  <\/p>\n<p>\u0418 \u0441\u0430\u043c\u043e\u0435 \u043c\u043e\u0435 \u043b\u044e\u0431\u0438\u043c\u043e\u0435 \u2014 \u044d\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0449\u0438\u0435 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0441\u0442\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u0432 \u0441\u0432\u043e\u0438\u0445 \u0431\u043b\u043e\u0433-\u043f\u043e\u0441\u0442\u0430\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043a\u043e\u043d\u0444\u0438\u0433\u0430, \u0433\u0434\u0435 \u0432\u0441\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0431\u0435\u0437\u0434\u0443\u043c\u043d\u043e(\u043c\u043d\u0435 \u0442\u0430\u043a \u043a\u0430\u0436\u0435\u0442\u0441\u044f) \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0441 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0442\u0430\u043a\u043e\u0433\u043e \u0436\u0435 \u0431\u043b\u043e\u0433\u0430, \u0438 \u0442\u0430\u043a \u043a\u0443\u0447\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043e \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0438\u043a\u0442\u043e \u043d\u0435 \u0437\u043d\u0430\u0435\u0442 \u043a\u0440\u043e\u043c\u0435 \u0430\u0432\u0442\u043e\u0440\u0430 \u043a\u043e\u0434\u0430 \u2014 \u043a\u043e\u0447\u0443\u0435\u0442 \u0438\u0437 \u043a\u043e\u043d\u0444\u0438\u0433\u0430 \u0432 \u043a\u043e\u043d\u0444\u0438\u0433.<\/p>\n<p>  <\/p>\n<p>\u0415\u0449\u0435 \u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u0438\u043a\u043e \u0433\u043e\u0440\u044e \u0441 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d\u0438 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0432 Luminous. \u0415\u0441\u0442\u044c \u0441\u0443\u043f\u0435\u0440\u043a\u0440\u0443\u0442\u0430\u044f \u0444\u0438\u0447\u0430 \u2014 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430 \u043b\u0435\u0442\u0443, \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432. \u041c\u043e\u0436\u043d\u043e, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e OSD:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">&gt; ceph tell osd.12 injectargs '--filestore_fd_cache_size=512'<\/code><\/pre>\n<p>  <\/p>\n<p>\u0438\u043b\u0438 \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c &#8216;*&#8217; \u0432\u043c\u0435\u0441\u0442\u043e 12 \u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u043e \u043d\u0430 \u0432\u0441\u0435\u0445 OSD. \u042d\u0442\u043e \u043e\u0447 \u043a\u0440\u0443\u0442\u043e, \u043f\u0440\u0430\u0432\u0434\u0430. \u041d\u043e, \u043a\u0430\u043a \u0438 \u043c\u043d\u043e\u0433\u043e\u0435 \u0432 Ceph, \u044d\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u043d\u043e \u043b\u0435\u0432\u043e\u0439 \u043d\u043e\u0433\u043e\u0439. \u0411\u0430\u0439 \u0434\u0438\u0437\u0430\u0439\u043d \u043d\u0435 \u0432\u0441\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u043d\u0430 \u043b\u0435\u0442\u0443. \u0422\u043e\u0447\u043d\u0435\u0435, \u0438\u0445 \u043c\u043e\u0436\u043d\u043e \u0441\u0435\u0442\u0438\u0442\u044c \u0438 \u043e\u043d\u0438 \u043f\u043e\u044f\u0432\u044f\u0442\u0441\u044f \u0432 \u0432\u044b\u0432\u043e\u0434\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u043d\u044b\u043c\u0438, \u043d\u043e \u043f\u043e \u0444\u0430\u043a\u0442\u0443, \u043f\u0435\u0440\u0435\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0438 \u043f\u0435\u0440\u0435-\u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043b\u0438\u0448\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043d\u0435\u043b\u044c\u0437\u044f \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u0442\u0440\u0435\u0434-\u043f\u0443\u043b\u0430 \u0431\u0435\u0437 \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430. \u0427\u0442\u043e\u0431\u044b \u0438\u0441\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u043f\u043e\u043d\u0438\u043c\u0430\u043b, \u0447\u0442\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0431\u0435\u0441\u043f\u043e\u043b\u0435\u0437\u043d\u043e \u043c\u0435\u043d\u044f\u0442\u044c \u0442\u0430\u043a\u0438\u043c \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u043c \u2014 \u0440\u0435\u0448\u0438\u043b\u0438 \u043f\u0435\u0447\u0430\u0442\u0430\u0442\u044c \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435. \u0417\u0434\u0440\u0430\u0432\u043e.<\/p>\n<p>  <\/p>\n<p>\u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">&gt; ceph tell mon.* injectargs '--mon_allow_pool_delete=true' mon.c: injectargs:mon_allow_pool_delete = 'true' (not observed, change may require restart) mon.a: injectargs:mon_allow_pool_delete = 'true' (not observed, change may require restart) mon.b: injectargs:mon_allow_pool_delete = 'true' (not observed, change may require restart)<\/code><\/pre>\n<p>  <\/p>\n<p>\u041d\u0435\u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e. \u041f\u043e \u0444\u0430\u043a\u0442\u0443 \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u043f\u0443\u043b\u043e\u0432 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u043c \u043f\u043e\u0441\u043b\u0435 \u0438\u043d\u0436\u0435\u043a\u0442\u0430. \u0422\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e\u0442 warning \u043d\u0435 \u0430\u043a\u0442\u0443\u0430\u043b\u0435\u043d \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430. \u041e\u043a, \u043d\u043e \u0435\u0441\u0442\u044c \u0435\u0449\u0435 \u0441\u043e\u0442\u043d\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u0438 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0435, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0442\u043e\u0436\u0435 warning \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0438\u0445 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043c\u043e\u0441\u0442\u044c \u043d\u0435\u0442 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438. \u041d\u0430 \u0442\u0435\u043a\u0443\u0449\u0438\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u044f \u043d\u0435 \u043c\u043e\u0433\u0443 \u043f\u043e\u043d\u044f\u0442\u044c \u0434\u0430\u0436\u0435 \u043f\u043e \u043a\u043e\u0434\u0443, \u043a\u0430\u043a\u0438\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044e\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435 \u0438\u043d\u0436\u0435\u043a\u0442\u0430, \u0430 \u043a\u0430\u043a\u0438\u0435 \u043d\u0435\u0442. \u0414\u043b\u044f \u043d\u0430\u0434\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u0438\u0442\u044c \u0441\u0435\u0440\u0432\u0438\u0441\u044b \u0438 \u044d\u0442\u043e, \u0437\u043d\u0430\u0435\u0442\u0435 \u043b\u0438, \u0431\u0435\u0441\u0438\u0442. \u0411\u0435\u0441\u0438\u0442 \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0438\u043d\u0436\u0435\u043a\u0442\u0430.<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0441 \u044d\u0442\u0438\u043c \u0443 VxFlex OS? \u0423 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432 \u0442\u0438\u043f\u0430 MON (\u0432 VxFlex \u044d\u0442\u043e MDM), OSD (SDS \u0432 VxFlex) \u0442\u043e\u0436\u0435 \u0435\u0441\u0442\u044c \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0441 \u0434\u0435\u0441\u044f\u0442\u043e\u043a \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u041f\u0440\u0430\u0432\u0434\u0430 \u0438\u0445 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u043e\u0436\u0435 \u043d\u0438 \u043e \u0447\u0435\u043c \u043d\u0435 \u0433\u043e\u0432\u043e\u0440\u044f\u0442, \u043d\u043e \u0440\u0430\u0434\u0443\u0435\u0442 \u0442\u043e, \u0447\u0442\u043e \u043c\u044b \u043a \u043d\u0438\u043c \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u043f\u0440\u0438\u0431\u0435\u0433\u0430\u043b\u0438, \u0447\u0442\u043e\u0431\u044b \u0442\u0430\u043a \u0433\u043e\u0440\u0435\u0442\u044c \u043a\u0430\u043a \u0441 Ceph.<\/p>\n<p>  <\/p>\n<h2 id=\"tehnicheskiy-dolg\">\u0422\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0434\u043e\u043b\u0433<\/h2>\n<p>  <\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u0432\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0435 \u0441\u0432\u043e\u0435 \u0437\u043d\u0430\u043a\u043e\u043c\u0441\u0442\u0432\u043e \u0441 Ceph \u0441 \u0441\u0430\u043c\u043e\u0439 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u0439 \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u0435\u0440\u0441\u0438\u0438, \u0442\u043e \u0432\u0441\u0435 \u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b\u043c, \u0442\u0430\u043a \u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u0443\u044e \u0441\u0442\u0430\u0442\u044c\u044e. \u041d\u043e \u043a\u043e\u0433\u0434\u0430 \u0442\u044b \u0436\u0438\u0432\u0435\u0448\u044c \u0441 \u043d\u0438\u043c \u0432 \u043f\u0440\u043e\u0434\u0435 \u0441 \u0432\u0435\u0440\u0441\u0438\u0438 0.80, \u0442\u043e \u0432\u0441\u0435 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u0435 \u0442\u0430\u043a \u0440\u0430\u0434\u0443\u0436\u043d\u043e.<\/p>\n<p>  <\/p>\n<p>\u0414\u043e Jewel, \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b Ceph \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043e\u0442 root&#8217;\u0430. \u0412 Jewel \u0431\u044b\u043b\u043e \u0440\u0435\u0448\u0435\u043d\u043e, \u0447\u0442\u043e \u043e\u043d\u0438 \u0434\u043e\u043b\u0436\u043d\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043e\u0442 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f &#8216;ceph&#8217; \u0438 \u044d\u0442\u043e \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u043e \u0441\u043c\u0435\u043d\u044b \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0430 \u0443 \u0432\u0441\u0435\u0445 \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c\u0438 Ceph.\u2028\u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0431\u044b, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0433\u043e? \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435 \u0441\u0435\u0431\u0435 OSD, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442 \u043c\u0430\u0433\u043d\u0438\u0442\u043d\u044b\u0439 SATA-\u0434\u0438\u0441\u043a \u0435\u043c\u043a\u043e\u0441\u0442\u044c\u044e 2 TB, \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 70%. \u0422\u0430\u043a \u0432\u043e\u0442, chown \u0442\u0430\u043a\u043e\u0433\u043e \u0434\u0438\u0441\u043a\u0430, \u0432 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c (\u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u043e\u0434\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0438) \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u0439 \u0443\u0442\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0434\u0438\u0441\u043a\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 3-4 \u0447\u0430\u0441\u0430. \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u044c\u0442\u0435, \u0447\u0442\u043e \u0443 \u0432\u0430\u0441, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, 3 \u0441\u043e\u0442\u043d\u0438 \u0442\u0430\u043a\u0438\u0445 \u0434\u0438\u0441\u043a\u043e\u0432. \u0414\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c \u043d\u043e\u0434\u0430\u043c\u0438 (chown&#8217;\u0438\u0442\u044c \u0441\u0440\u0430\u0437\u0443 8-12 \u0434\u0438\u0441\u043a\u043e\u0432) \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0434\u043e\u043b\u0433\u043e\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435 \u0431\u0443\u0434\u0443\u0442 OSD \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0435\u0440\u0441\u0438\u0439 \u0438 \u043d\u0430 \u043e\u0434\u043d\u0443 \u0440\u0435\u043f\u043b\u0438\u043a\u0443 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u0435\u043d\u044c\u0448\u0435 \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u044b\u0432\u043e\u0434\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u043d\u0430 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435. \u0412 \u043e\u0431\u0449\u0435\u043c \u043c\u044b \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043b\u0438, \u0447\u0442\u043e \u044d\u0442\u043e \u0430\u0431\u0441\u0443\u0440\u0434, \u043f\u0435\u0440\u0435\u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u043f\u0430\u043a\u0435\u0442\u044b Ceph \u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c OSD \u043f\u043e\u0434 root&#8217;\u043e\u043c. \u0420\u0435\u0448\u0438\u043b\u0438, \u0447\u0442\u043e \u043f\u043e \u043c\u0435\u0440\u0435 \u0432\u0432\u043e\u0434\u0430 \u0438\u043b\u0438 \u0437\u0430\u043c\u0435\u043d\u044b OSD \u0431\u0443\u0434\u0435\u043c \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u0442\u044c \u0438\u0445 \u043d\u0430 \u043d\u043e\u0432\u043e\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f. \u0421\u0435\u0439\u0447\u0430\u0441 \u043c\u044b \u043c\u0435\u043d\u044f\u0435\u043c 2-3 \u0434\u0438\u0441\u043a\u0430 \u0432 \u043c\u0435\u0441\u044f\u0446 \u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c 1-2, \u0434\u0443\u043c\u0430\u044e \u043a 2022 \u0433\u043e\u0434\u0443 \u0441\u043f\u0440\u0430\u0432\u0438\u043c\u0441\u044f).<\/p>\n<p>  <\/p>\n<p>CRUSH Tunables<\/p>\n<p>  <\/p>\n<p><strong>CRUSH<\/strong> \u2014 \u0441\u0435\u0440\u0434\u0446\u0435 Ceph, \u0432\u0441\u0451 \u0432\u0435\u0440\u0442\u0438\u0442\u0441\u044f \u0432\u043e\u043a\u0440\u0443\u0433 \u043d\u0435\u0433\u043e. \u042d\u0442\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c, \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e, \u043f\u0441\u0435\u0432\u0434\u043e\u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043c\u0435\u0441\u0442\u043e \u0440\u0430\u0437\u043c\u0435\u0449\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u043a\u043b\u0438\u0435\u043d\u0442\u044b, \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0435 \u0441 RADOS-\u043a\u043b\u0430\u0441\u0442\u0435\u0440\u043e\u043c \u0443\u0437\u043d\u0430\u044e\u0442 \u043d\u0430 \u043a\u0430\u043a\u0438\u0445 OSD \u0445\u0440\u0430\u043d\u044f\u0442\u0441\u044f \u043d\u0443\u0436\u043d\u044b\u0435 \u0438\u043c \u0434\u0430\u043d\u043d\u044b\u0435 (\u043e\u0431\u044a\u0435\u043a\u0442\u044b). \u041a\u043b\u044e\u0447\u0435\u0432\u0430\u044f \u0444\u0438\u0448\u043a\u0430 CRUSH \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043d\u0435\u0442 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u0438 \u0432 \u043a\u0430\u043a\u0438\u0445-\u0442\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430\u0445 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0445, \u043a\u0430\u043a \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 \u0432 Lustre \u0438\u043b\u0438 IBM GPFS (\u043d\u044b\u043d\u0435 Spectrum Scale). CRUSH \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c \u0438 OSD \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0434\u0440\u0443\u0433 \u0441 \u0434\u0440\u0443\u0433\u043e\u043c \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e. \u0425\u043e\u0442\u044f, \u043a\u043e\u043d\u0435\u0447\u043d\u043e, \u0441\u043b\u043e\u0436\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043f\u0440\u0438\u043c\u0438\u0442\u0438\u0432\u043d\u043e\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u043d\u043e\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 RADOS \u0438 \u0444\u0430\u0439\u043b\u043e\u0432\u044b\u0435 \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u0447\u0442\u043e \u044f \u043f\u0440\u0438\u0432\u0451\u043b \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u0430, \u043d\u043e \u0434\u0443\u043c\u0430\u044e \u043c\u044b\u0441\u043b\u044c \u043f\u043e\u043d\u044f\u0442\u043d\u0430.<\/p>\n<p>  <\/p>\n<p>\u0412 \u0441\u0432\u043e\u044e \u043e\u0447\u0435\u0440\u0435\u0434\u044c, CRUSH tunables \u2014 \u044d\u0442\u043e \u043d\u0430\u0431\u043e\u0440 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432\/\u0444\u043b\u0430\u0433\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u043b\u0438\u044f\u044e\u0442 \u043d\u0430 \u0440\u0430\u0431\u043e\u0442\u0443 CRUSH, \u0434\u0435\u043b\u0430\u044e\u0442 \u0435\u0433\u043e \u0431\u043e\u043b\u0435\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u043c \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u0432 \u0442\u0435\u043e\u0440\u0438\u0438.<\/p>\n<p>  <\/p>\n<p>\u0422\u0430\u043a \u0432\u043e\u0442, \u043f\u0440\u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0438 \u0441 Hammer \u043d\u0430 Jewel (\u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e) \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f warning, \u043c\u043e\u043b tunables \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u0438\u043c\u0435\u0435\u0442 \u043d\u0435 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u043b\u044f \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 (Jewel) \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442\u0441\u044f \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439. \u0412 \u0446\u0435\u043b\u043e\u043c \u0432\u0441\u0435 \u043f\u043e\u043d\u044f\u0442\u043d\u043e. \u0412 \u0434\u043e\u043a\u0435 \u0441\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u044d\u0442\u043e \u043e\u0447\u0435\u043d\u044c \u0432\u0430\u0436\u043d\u043e \u0438 \u044d\u0442\u043e \u0432\u0435\u0440\u043d\u044b\u0439 \u043f\u0443\u0442\u044c, \u043d\u043e \u0442\u0430\u043a\u0436\u0435 \u0441\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0431\u0443\u0434\u0435\u0442 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 10% \u0434\u0430\u043d\u043d\u044b\u0445. 10% \u2014 \u0437\u0432\u0443\u0447\u0438\u0442 \u043d\u0435 \u0441\u0442\u0440\u0430\u0448\u043d\u043e, \u043d\u043e \u043c\u044b \u0440\u0435\u0448\u0438\u043b\u0438 \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c. \u0414\u043b\u044f \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430, \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 10 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043d\u0430 \u043f\u0440\u043e\u0434\u0435, \u0441 \u0442\u0430\u043a\u0438\u043c \u0436\u0435 \u0447\u0438\u0441\u043b\u043e\u043c PG \u043d\u0430 \u043e\u0434\u043d\u0443 OSD, \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u043c\u0438 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u043c\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 60%! \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0435, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0440\u0438 100TB \u0434\u0430\u043d\u043d\u044b\u0445, 60TB \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u043f\u0435\u0440\u0435\u043c\u0435\u0449\u0430\u0442\u044c\u0441\u044f \u043c\u0435\u0436\u0434\u0443 OSD \u0438 \u044d\u0442\u043e \u043f\u0440\u0438 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u0438\u0434\u0443\u0449\u0435\u0439 \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043a latency! \u0415\u0441\u043b\u0438 \u044f \u0435\u0449\u0435 \u043d\u0435 \u0441\u043a\u0430\u0437\u0430\u043b, \u043c\u044b \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c s3 \u0438 \u0443 \u043d\u0430\u0441 \u0434\u0430\u0436\u0435 \u043d\u043e\u0447\u044c\u044e \u043d\u0435 \u043e\u0441\u043e\u0431\u043e \u0441\u043d\u0438\u0436\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 rgw, \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u0435\u0439\u0447\u0430\u0441 8 \u0438 \u0435\u0449\u0451 4 \u043f\u043e\u0434 \u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u0430\u0439\u0442\u044b (static websites). \u0412 \u043e\u0431\u0449\u0435\u043c \u043c\u044b \u0440\u0435\u0448\u0438\u043b\u0438, \u0447\u0442\u043e \u044d\u0442\u043e \u043d\u0435 \u043d\u0430\u0448 \u043f\u0443\u0442\u044c \u0442\u0435\u043c \u0431\u043e\u043b\u0435\u0435, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 \u043d\u0430 \u043d\u043e\u0432\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0435\u0449\u0435 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0432 \u043f\u0440\u043e\u0434\u0435 \u2014 \u043a\u0430\u043a \u043c\u0438\u043d\u0438\u043c\u0443\u043c \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043e\u043f\u0442\u0438\u043c\u0438\u0441\u0442\u0438\u0447\u043d\u043e. \u041a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0443 \u043d\u0430\u0441 \u0431\u044b\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0431\u0430\u043a\u0435\u0442-\u0438\u043d\u0434\u0435\u043a\u0441\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0447\u0435\u043d\u044c \u043f\u043b\u043e\u0445\u043e \u043f\u0435\u0440\u0435\u0436\u0438\u0432\u0430\u044e\u0442 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 \u0438 \u044d\u0442\u043e \u0442\u043e\u0436\u0435 \u0431\u044b\u043b\u043e \u043f\u0440\u0438\u0447\u0438\u043d\u043e\u0439 \u043e\u0442\u0441\u0440\u043e\u0447\u043a\u0438 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0444\u0438\u043b\u044f. \u041e\u0431 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0445 \u0431\u0443\u0434\u0435\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0447\u0443\u0442\u044c \u043d\u0438\u0436\u0435. \u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0443\u0431\u0440\u0430\u043b\u0438 warning \u0438 \u0440\u0435\u0448\u0438\u043b\u0438 \u0432\u0435\u0440\u043d\u0443\u0442\u044c\u0441\u044f \u043a \u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u0437\u0436\u0435.<\/p>\n<p>  <\/p>\n<p>\u0410 \u0435\u0449\u0435 \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0438 \u043f\u0440\u043e\u0444\u0438\u043b\u044f \u0432 \u0442\u0435\u0441\u0442\u0438\u043d\u0433\u0435 \u0443 \u043d\u0430\u0441 \u043e\u0442\u0432\u0430\u043b\u0438\u043b\u0438\u0441\u044c cephfs-\u043a\u043b\u0438\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432 \u044f\u0434\u0440\u0430\u0445 CentOS 7.2, \u0442\u0430\u043a \u043a\u0430\u043a \u043e\u043d\u0438 \u043d\u0435 \u043c\u043e\u0433\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441 \u0431\u043e\u043b\u0435\u0435 \u043d\u043e\u0432\u044b\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u043c \u0445\u0435\u0448\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u0440\u0438\u0448\u0435\u0434\u0448\u0435\u0433\u043e \u0441 \u043d\u043e\u0432\u044b\u043c \u043f\u0440\u043e\u0444\u0438\u043b\u0435\u043c. \u041c\u044b \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c cephfs \u0432 \u043f\u0440\u043e\u0434\u0435, \u043d\u043e, \u0435\u0441\u043b\u0438 \u0431\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438, \u0442\u043e \u044d\u0442\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0435\u0449\u0451 \u043e\u0434\u043d\u043e\u0439 \u043f\u0440\u0438\u0447\u0438\u043d\u043e\u0439 \u043d\u0435 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u043f\u0440\u043e\u0444\u0438\u043b\u044c.<\/p>\n<p>  <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0432 \u0434\u043e\u043a\u0435 \u0441\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u0442\u043e, \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442\u044c \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0430 \u0432\u0430\u0441 \u043d\u0435 \u0443\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0442\u043a\u0430\u0442\u0438\u0442\u044c \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043e\u0431\u0440\u0430\u0442\u043d\u043e. \u0412 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u0441\u043b\u0435 \u0447\u0438\u0441\u0442\u043e\u0439 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0432\u0435\u0440\u0441\u0438\u0438 Hammer \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u043d\u0430 Jewel \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">&gt; ceph osd crush show-tunables {     ...     \"straw_calc_version\": 1,     \"allowed_bucket_algs\": 22,     \"profile\": \"unknown\",     \"optimal_tunables\": 0,     ... }<\/code><\/pre>\n<p>  <\/p>\n<p>\u0422\u0443\u0442 \u0432\u0430\u0436\u043d\u043e, \u0447\u0442\u043e \u043e\u043d &#171;unknown&#187; \u0438, \u0435\u0441\u043b\u0438 \u043f\u043e\u043f\u044b\u0442\u0430\u0442\u044c\u0441\u044f \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435\u043c \u0435\u0433\u043e \u043d\u0430 &#171;legacy&#187; (\u043a\u0430\u043a \u0441\u043a\u0430\u0437\u0430\u043d\u043e \u0432 \u0434\u043e\u043a\u0435) \u0438\u043b\u0438 \u0434\u0430\u0436\u0435 \u043d\u0430 &#171;hammer&#187;, \u0442\u043e \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441 \u043d\u0435 \u043f\u0440\u0435\u043a\u0440\u0430\u0442\u0438\u0442\u0441\u044f, \u043e\u043d \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u0442\u0441\u044f \u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 tunables, \u0430 \u043d\u0435 &#171;\u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u043c\u0438&#187;. \u0412 \u043e\u0431\u0449\u0435\u043c \u0432\u0441\u0451 \u043d\u0443\u0436\u043d\u043e \u0434\u043e\u0441\u043a\u043e\u043d\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u0438 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c, ceph \u0434\u043e\u0432\u0435\u0440\u0438\u044f \u043d\u0435\u0442.<\/p>\n<p>  <\/p>\n<p>CRUSH trade-of<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u0432\u0441\u0451 \u0432 \u044d\u0442\u043e\u043c \u043c\u0438\u0440\u0435 \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e \u0438 \u043a\u043e \u0432\u0441\u0435\u043c \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430\u043c \u043f\u0440\u0438\u043b\u0430\u0433\u0430\u044e\u0442\u0441\u044f \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043a\u0438. \u041d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u043a CRUSH \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e PG \u0440\u0430\u0437\u043c\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u043e \u0440\u0430\u0437\u043d\u044b\u043c OSD \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0434\u0430\u0436\u0435 \u043f\u0440\u0438 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e\u043c \u0432\u0435\u0441\u0435 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445. \u041f\u043b\u044e\u0441 \u043a \u044d\u0442\u043e\u043c\u0443, \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u043c\u0435\u0448\u0430\u0435\u0442 \u0440\u0430\u0437\u043d\u044b\u043c PG \u0440\u0430\u0441\u0442\u0438 \u0441 \u0440\u0430\u0437\u043d\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e, \u0442\u0443\u0442 \u043a\u0430\u043a \u0445\u0435\u0448-\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043b\u044f\u0436\u0435\u0442. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e \u0443 \u043d\u0430\u0441 \u0440\u0430\u0437\u0431\u0440\u043e\u0441 \u0443\u0442\u0438\u043b\u0438\u0437\u0430\u0446\u0438\u0438 OSD 48-84% \u043f\u0440\u0438 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043d\u0438 \u0438\u043c\u0435\u044e\u0442 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0440\u0430\u0437\u043c\u0435\u0440 \u0438, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0432\u0435\u0441. \u0414\u0430\u0436\u0435 \u0441\u0435\u0440\u0432\u0435\u0440\u044b \u043c\u044b \u0441\u0442\u0430\u0440\u0430\u0435\u043c\u0441\u044f \u0434\u0435\u043b\u0430\u0442\u044c \u0440\u0430\u0432\u043d\u044b\u043c\u0438 \u043f\u043e \u0432\u0435\u0441\u0443, \u043d\u043e \u044d\u0442\u043e \u0442\u0430\u043a, \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0430\u0448 \u043f\u0435\u0440\u0444\u0435\u043a\u0446\u0438\u043e\u043d\u0438\u0437\u043c, \u043d\u0435 \u0431\u043e\u043b\u0435\u0435.\u2028\u0418 \u0444\u0438\u0433 \u0431\u044b \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e IO \u043f\u043e \u0434\u0438\u0441\u043a\u0430\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e, \u0441\u0430\u043c\u043e\u0435 \u0441\u0442\u0440\u0430\u0448\u043d\u043e\u0435 \u0442\u043e, \u0447\u0442\u043e \u043f\u0440\u0438 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u0438 \u0441\u0442\u0430\u0442\u0443\u0441\u0430 full (95%) \u0445\u043e\u0442\u044f \u0431\u044b \u043e\u0434\u043d\u043e\u0439 OSD \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435, \u0432\u0441\u044f \u0437\u0430\u043f\u0438\u0441\u044c \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0438 \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u0432 readonly. \u0412\u0435\u0441\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440! \u0418 \u043d\u0435 \u0432\u0430\u0436\u043d\u043e, \u0447\u0442\u043e \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435 \u0435\u0449\u0435 \u043f\u043e\u043b\u043d\u043e \u043c\u0435\u0441\u0442\u0430. \u0412\u0441\u0451, \u043a\u043e\u043d\u0435\u0447\u043d\u0430\u044f, \u0432\u044b\u0445\u043e\u0434\u0438\u043c! \u042d\u0442\u043e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u0430\u044f \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u044c CRUSH. \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0435, \u0432\u044b \u0442\u0430\u043a\u0438\u0435 \u0432 \u043e\u0442\u043f\u0443\u0441\u043a\u0435, \u043a\u0430\u043a\u0430\u044f-\u0442\u043e OSD \u043f\u0440\u043e\u0431\u0438\u043b\u0430 \u043e\u0442\u043c\u0435\u0442\u043a\u0443 \u0432 85% (\u043f\u0435\u0440\u0432\u044b\u0439 warning \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e), \u0438 \u0443 \u0432\u0430\u0441 \u0435\u0441\u0442\u044c 10% \u0432 \u0437\u0430\u043f\u0430\u0441\u0435, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0437\u0430\u043f\u0438\u0441\u0438. \u0410 10% \u043f\u0440\u0438 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0438\u0434\u0443\u0449\u0435\u0439 \u0437\u0430\u043f\u0438\u0441\u0438 \u2014 \u044d\u0442\u043e \u043d\u0435 \u0442\u0430\u043a \u0443\u0436 \u043c\u043d\u043e\u0433\u043e\/\u0434\u043e\u043b\u0433\u043e. \u0412 \u0438\u0434\u0435\u0430\u043b\u0435, \u0441 \u0442\u0430\u043a\u0438\u043c \u0434\u0438\u0437\u0430\u0439\u043d\u043e\u043c, \u0434\u043b\u044f Ceph \u043d\u0443\u0436\u0435\u043d \u0434\u0435\u0436\u0443\u0440\u043d\u044b\u0439, \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b\u0439 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442\u044c \u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043b\u0435\u043d\u043d\u0443\u044e \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044e \u0432 \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445.<\/p>\n<p>  <\/p>\n<p>\u0422\u0430\u043a \u0432\u043e\u0442, \u0440\u0435\u0448\u0438\u043b\u0438 \u043c\u044b \u0437\u043d\u0430\u0447\u0438\u0442 \u0440\u0430\u0437\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435, \u0442.\u043a. \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e OSD \u0431\u044b\u043b\u0438 \u0431\u043b\u0438\u0437\u043a\u0438 \u043a nearfull-\u043e\u0442\u043c\u0435\u0442\u043a\u0435 (85%). <\/p>\n<p>  <\/p>\n<p>\u0415\u0441\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0443\u0442\u0435\u0439:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0414\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u0434\u0438\u0441\u043a\u0438<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041f\u0440\u043e\u0449\u0435 \u0432\u0441\u0435\u0433\u043e, \u0441\u043b\u0435\u0433\u043a\u0430 \u0440\u0430\u0441\u0442\u043e\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0435 \u0441\u0438\u043b\u044c\u043d\u043e \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e, \u0442.\u043a. \u0441\u0430\u043c\u0438 \u043f\u043e \u0441\u0435\u0431\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u043c\u043e\u0433\u0443\u0442 \u0438 \u043d\u0435 \u043f\u0435\u0440\u0435\u043c\u0435\u0441\u0442\u0438\u0442\u044c\u0441\u044f \u0441 \u043f\u0435\u0440\u0435\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u044b\u0445 OSD \u0438\u043b\u0438 \u043f\u0435\u0440\u0435\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435\u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c. <\/p>\n<p>  <\/p>\n<ul>\n<li>\u041c\u0435\u043d\u044f\u0442\u044c \u043f\u0435\u0440\u043c\u0430\u043d\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0435\u0441 OSD (WEIGHT)<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u042d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044e \u0432\u0435\u0441\u0430 \u0432\u0441\u0435\u0445 \u0432\u044b\u0448\u0435\u0441\u0442\u043e\u044f\u0449\u0438\u0445 \u0431\u0430\u043a\u0435\u0442\u043e\u0432 (\u0442\u0435\u0440\u043c\u0438\u043d\u043e\u043b\u043e\u0433\u0438\u044f CRUSH) \u043f\u043e \u0438\u0435\u0440\u0430\u0440\u0445\u0438\u0438, OSD \u0441\u0435\u0440\u0432\u0435\u0440\u0430, \u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440\u0430 \u0438 \u0442.\u0434. \u0438, \u043a\u0430\u043a \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435, \u043a \u043f\u0435\u0440\u0435\u043c\u0435\u0449\u0435\u043d\u0438\u044e \u0434\u0430\u043d\u043d\u044b\u0445, \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043d\u0435 \u0441 \u0442\u0435\u0445 OSD, \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0430\u0434\u043e.<br \/>  \u041c\u044b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438, \u0441\u043d\u0438\u0437\u0438\u043b\u0438 \u0432\u0435\u0441 \u043e\u0434\u043d\u043e\u0439 OSD, \u043f\u043e\u0441\u043b\u0435 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430\u043f\u043e\u043b\u043d\u0438\u043b\u0430\u0441\u044c \u0434\u0440\u0443\u0433\u0430\u044f, \u0441\u043d\u0438\u0437\u0438\u043b\u0438 \u0435\u0439, \u0437\u0430\u0442\u0435\u043c \u0442\u0440\u0435\u0442\u044c\u044f \u0438 \u043c\u044b \u043f\u043e\u043d\u044f\u043b\u0438, \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u043c \u0434\u043e\u043b\u0433\u043e \u0442\u0430\u043a \u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f.<\/p>\n<p>  <\/p>\n<ul>\n<li>\u041c\u0435\u043d\u044f\u0442\u044c \u043d\u0435-\u043f\u0435\u0440\u043c\u0430\u043d\u0435\u043d\u0442\u043d\u044b\u0439 \u0432\u0435\u0441 OSD (REWEIGHT)<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u042d\u0442\u043e \u0442\u043e, \u0447\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438 \u0432\u044b\u0437\u043e\u0432\u0435 &#8216;ceph osd reweight-by-utilization&#8217;. \u042d\u0442\u043e \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0441\u043c\u0435\u043d\u0435 \u0442\u0430\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u043e\u0433\u043e \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u043e\u0433\u043e \u0432\u0435\u0441\u0430 OSD \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0435 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0432\u0435\u0441 \u0432\u044b\u0448\u0435\u0441\u0442\u043e\u044f\u0449\u0438\u0445 \u0431\u0430\u043a\u0435\u0442\u043e\u0432. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u0443\u044e\u0442 \u043c\u0435\u0436\u0434\u0443 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 OSD \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430, \u043a\u0430\u043a \u0431\u044b, \u043d\u0435 \u0432\u044b\u0445\u043e\u0434\u044f \u0437\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u044b \u0431\u0430\u043a\u0435\u0442\u0430 CRUSH. \u041d\u0430\u043c \u044d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434 \u043e\u0447\u0435\u043d\u044c \u043f\u043e\u043d\u0440\u0430\u0432\u0438\u043b\u0441\u044f, \u043c\u044b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0438 \u0432 dry-run&#8217;\u0435 \u043a\u0430\u043a\u0438\u0435 \u0431\u0443\u0434\u0443\u0442 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u043b\u0438 \u043d\u0430 \u043f\u0440\u043e\u0434\u0435. \u0412\u0441\u0435 \u0431\u044b\u043b\u043e \u0445\u043e\u0440\u043e\u0448\u043e, \u043f\u043e\u043a\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0430 \u043d\u0435 \u0432\u0441\u0442\u0430\u043b \u043a\u043e\u043b\u043e\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0435. \u041e\u043f\u044f\u0442\u044c \u0433\u0443\u0433\u043b\u0435\u043d\u0438\u0435, \u0447\u0442\u0435\u043d\u0438\u0435 \u0440\u0430\u0441\u0441\u044b\u043b\u043e\u043a, \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043e\u043f\u0446\u0438\u044f\u043c\u0438 \u0438 \u0432 \u043a\u043e\u043d\u0446\u0435 \u043a\u043e\u043d\u0446\u043e\u0432 \u0432\u044b\u044f\u0441\u043d\u044f\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0432\u044b\u0437\u0432\u0430\u043d\u0430 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435\u043c \u0443 \u043d\u0430\u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 tunables \u0432 \u043f\u0440\u043e\u0444\u0438\u043b\u0435 \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u043e\u0441\u044c \u0432\u044b\u0448\u0435. \u041e\u043f\u044f\u0442\u044c \u043d\u0430\u0441 \u0434\u043e\u0433\u043d\u0430\u043b \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0434\u043e\u043b\u0433. \u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u044b \u043f\u043e\u0448\u043b\u0438 \u043f\u043e \u043f\u0443\u0442\u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u0438\u0441\u043a\u043e\u0432 \u0438 \u0441\u0430\u043c\u043e\u0433\u043e \u043d\u0435\u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0430. \u0411\u043b\u0430\u0433\u043e \u043d\u0430\u043c \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0442.\u043a. \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 CRUSH-\u043f\u0440\u043e\u0444\u0438\u043b\u044f \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0434\u0435\u043b\u0430\u0442\u044c \u0441 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u044b\u043c \u0437\u0430\u043f\u0430\u0441\u043e\u043c \u043f\u043e \u0451\u043c\u043a\u043e\u0441\u0442\u0438.<\/p>\n<p>  <\/p>\n<p>\u0414\u0430, \u043c\u044b \u0437\u043d\u0430\u0435\u043c \u043f\u0440\u043e balancer (Luminous \u0438 \u0432\u044b\u0448\u0435) \u0432\u043e\u0448\u0435\u0434\u0448\u0438\u0439 \u0432 \u0441\u043e\u0441\u0442\u0430\u0432 mgr, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u0438\u0437\u0432\u0430\u043d \u0440\u0435\u0448\u0438\u0442\u044c \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u0443\u0442\u0435\u043c \u043f\u0435\u0440\u0435\u043c\u0435\u0449\u0435\u043d\u0438\u044f PG \u043c\u0435\u0436\u0434\u0443 OSD, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u043e \u043d\u043e\u0447\u0430\u043c. \u041d\u043e \u044f \u043d\u0435 \u0441\u043b\u044b\u0448\u0430\u043b \u0435\u0449\u0451 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043e\u0442\u0437\u044b\u0432\u043e\u0432 \u043e \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u0435 \u0434\u0430\u0436\u0435 \u0432 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u043c Mimic. <\/p>\n<p>  <\/p>\n<p>\u0412\u044b, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0441\u043a\u0430\u0436\u0435\u0442\u0435, \u0447\u0442\u043e \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0434\u043e\u043b\u0433 \u2014 \u044d\u0442\u043e \u0441\u0443\u0433\u0443\u0431\u043e \u043d\u0430\u0448\u0430 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0438 \u044f, \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0441\u043e\u0433\u043b\u0430\u0448\u0443\u0441\u044c. \u041d\u043e \u0437\u0430 \u0447\u0435\u0442\u044b\u0440\u0435 \u0433\u043e\u0434\u0430 \u0441 Ceph \u0432 \u043f\u0440\u043e\u0434\u0435 \u0443 \u043d\u0430\u0441 \u0431\u044b\u043b \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0434\u0438\u043d downtime s3, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u043e\u0434\u043b\u0438\u043b\u0441\u044f \u0446\u0435\u043b\u044b\u0439 1 \u0447\u0430\u0441. \u0418 \u0442\u043e, \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0431\u044b\u043b\u0430 \u043d\u0435 \u0432 RADOS&#8217;\u0435, \u0430 \u0432 RGW, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430\u0431\u0440\u0430\u0432 \u0441\u0432\u043e\u0438 \u0434\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0435 100 \u0442\u0440\u0435\u0434\u043e\u0432 \u0432\u0435\u0448\u0430\u043b\u0438\u0441\u044c \u043d\u0430\u043c\u0435\u0440\u0442\u0432\u043e \u0438 \u0443 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u043d\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u043b\u0438\u0441\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u044b. \u042d\u0442\u043e \u0431\u044b\u043b\u043e \u0435\u0449\u0435 \u043d\u0430 Hammer. \u041d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434, \u044d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c \u0438 \u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442 \u043e\u043d \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u044b \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u043c \u0440\u0435\u0437\u043a\u0438\u0445 \u0434\u0432\u0438\u0436\u0435\u043d\u0438\u0439 \u0438 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0441\u043a\u0435\u043f\u0442\u0438\u0447\u043d\u044b \u043d\u0430 \u0441\u0447\u0451\u0442 \u0432\u0441\u0435\u0433\u043e \u0432 Ceph.<\/p>\n<p>  <\/p>\n<h2 id=\"dikiy-gc\">\u0414\u0438\u043a\u0438\u0439 GC<\/h2>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441 \u0434\u0438\u0441\u043a\u0430 \u2014 \u044d\u0442\u043e \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0451\u043c\u043a\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u0438 \u0432 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0445 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0445 \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043e\u0442\u043b\u043e\u0436\u0435\u043d\u043e \u0438\u043b\u0438 \u043d\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0432\u043e\u043e\u0431\u0449\u0435. Ceph \u0442\u043e\u0436\u0435 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0438 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u0441 RGW, \u043f\u0440\u0438 \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0438 s3-\u043e\u0431\u044a\u0435\u043a\u0442\u0430, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 RADOS-\u043e\u0431\u044a\u0435\u043a\u0442\u044b \u043d\u0435 \u0443\u0434\u0430\u043b\u044f\u044e\u0442\u0441\u044f \u0441 \u0434\u0438\u0441\u043a\u0430 \u0441\u0440\u0430\u0437\u0443. RGW \u043f\u043e\u043c\u0435\u0447\u0430\u0435\u0442 s3-\u043e\u0431\u044a\u0435\u043a\u0442\u044b \u043a\u0430\u043a \u0443\u0434\u0430\u043b\u0435\u043d\u043d\u044b\u0435, \u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 gc-\u043f\u043e\u0442\u043e\u043a \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0435\u043c \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0438\u0437 RADOS \u043f\u0443\u043b\u043e\u0432 \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441 \u0434\u0438\u0441\u043a\u043e\u0432 \u043e\u0442\u043b\u043e\u0436\u0435\u043d\u043e. \u041f\u043e\u0441\u043b\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u043d\u0430 Luminous \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 gc \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043f\u043e\u043c\u0435\u043d\u044f\u043b\u043e\u0441\u044c, \u043e\u043d \u0441\u0442\u0430\u043b \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u0435\u0435, \u0445\u043e\u0442\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b gc \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0435\u0436\u043d\u0438\u043c\u0438. \u041f\u043e\u0434 \u0441\u043b\u043e\u0432\u043e\u043c \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u044f \u0438\u043c\u0435\u044e \u0432\u0432\u0438\u0434\u0443, \u0447\u0442\u043e \u043c\u044b \u0441\u0442\u0430\u043b\u0438 \u0432\u0438\u0434\u0435\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0443 gc \u043d\u0430 \u0432\u043d\u0435\u0448\u043d\u0435\u043c \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u043f\u043e \u043f\u043e\u0434\u0441\u043a\u0430\u043a\u0438\u0432\u0430\u044e\u0449\u0435\u043c\u0443 latency. \u042d\u0442\u043e \u0441\u043e\u043f\u0440\u043e\u0432\u043e\u0436\u0434\u0430\u043b\u043e\u0441\u044c \u0432\u044b\u0441\u043e\u043a\u0438\u043c IO \u0432 \u043f\u0443\u043b\u0435 rgw.gc. \u041d\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0441\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0438\u0441\u044c \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u044d\u043f\u0438\u0447\u043d\u0435\u0435 \u0447\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u043e IO. \u041f\u0440\u0438 \u0440\u0430\u0431\u043e\u0442\u0435 gc \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e \u043b\u043e\u0433\u043e\u0432 \u0432\u0438\u0434\u0430:<\/p>\n<p>  <\/p>\n<pre><code class=\"html\">0 &lt;cls&gt; \/builddir\/build\/BUILD\/ceph-12.2.5\/src\/cls\/rgw\/cls_rgw.cc:3284: gc_iterate_entries end_key=1_01530264199.726582828<\/code><\/pre>\n<p>  <\/p>\n<p>\u0413\u0434\u0435 0 \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u2014 \u044d\u0442\u043e \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043f\u0435\u0447\u0430\u0442\u0430\u0435\u0442\u0441\u044f \u0434\u0430\u043d\u043d\u043e\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435. \u041a\u0430\u043a \u0431\u044b, \u043d\u0438\u0436\u0435 \u043d\u0443\u043b\u044f \u043e\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0443\u0436\u0435 \u043d\u0435\u043a\u0443\u0434\u0430. \u0412 \u0438\u0442\u043e\u0433\u0435 ~1 GB \u043b\u043e\u0433\u043e\u0432 \u0443 \u043d\u0430\u0441 \u0433\u0435\u043d\u0435\u0440\u0438\u043b\u0441\u044f \u043e\u0434\u043d\u043e\u0439 OSD \u0437\u0430 \u043f\u0430\u0440\u0443 \u0447\u0430\u0441\u043e\u0432, \u0438 \u0432\u0441\u0451 \u0431\u044b \u043d\u0438\u0447\u0435\u0433\u043e, \u0435\u0441\u043b\u0438 \u0431\u044b ceph-\u043d\u043e\u0434\u044b \u043d\u0435 \u0431\u044b\u043b\u0438 \u0431\u044b \u0431\u0435\u0437\u0434\u0438\u0441\u043a\u043e\u0432\u044b\u043c\u0438\u2026 \u041c\u044b \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u043c OS \u043f\u043e PXE \u043f\u0440\u044f\u043c\u043e \u0432 \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u0438\u0441\u043a \u0438\u043b\u0438 NFS, NBD \u0434\u043b\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0430 (\/). \u041f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f stateless-\u0441\u0435\u0440\u0432\u0435\u0440\u044b. \u041f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0432\u0441\u0451 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043d\u0430\u043a\u0430\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0437\u0430\u0446\u0438\u0435\u0439. \u041a\u0430\u043a \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u044f \u043a\u0430\u043a-\u043d\u0438\u0431\u0443\u0434\u044c \u043e\u043f\u0438\u0448\u0443 \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0435, \u0441\u0435\u0439\u0447\u0430\u0441 \u0432\u0430\u0436\u043d\u043e \u0442\u043e, \u0447\u0442\u043e \u043f\u043e\u0434 &#171;\/&#187; \u043e\u0442\u0432\u0435\u0434\u0435\u043d\u043e 6 GB \u043f\u0430\u043c\u044f\u0442\u0438, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043e\u0431\u044b\u0447\u043d\u043e \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e ~4. \u041c\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u043c \u0432\u0441\u0435 \u043b\u043e\u0433\u0438 \u0432 Graylog \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u0443\u044e \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0443 \u0440\u043e\u0442\u0430\u0446\u0438\u0438 \u043b\u043e\u0433\u043e\u0432 \u0438 \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u0435 \u0438\u0441\u043f\u044b\u0442\u044b\u0432\u0430\u0435\u043c \u043a\u0430\u043a\u0438\u0445-\u043b\u0438\u0431\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c \u0441 \u043f\u0435\u0440\u0435\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435\u043c \u0434\u0438\u0441\u043a\u043e\u0432\/RAM. \u041d\u043e \u043a \u0442\u0430\u043a\u043e\u043c\u0443 \u043c\u044b \u0431\u044b\u043b\u0438 \u043d\u0435 \u0433\u043e\u0442\u043e\u0432\u044b, \u043f\u0440\u0438 12 OSD \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 &#171;\/&#187; \u0437\u0430\u043f\u043e\u043b\u043d\u0438\u043b\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u0431\u044b\u0441\u0442\u0440\u043e, \u0434\u0435\u0436\u0443\u0440\u043d\u044b\u0435 \u0432\u043e\u0432\u0440\u0435\u043c\u044f \u043d\u0435 \u0441\u0440\u0435\u0430\u0433\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043d\u0430 \u0442\u0440\u0438\u0433\u0433\u0435\u0440 \u0432 Zabbix \u0438 OSD \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0430\u0447\u0430\u043b\u0438 \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0438\u0437-\u0437\u0430 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u0438\u0441\u0430\u0442\u044c \u043b\u043e\u0433. \u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u044b \u043f\u043e\u043d\u0438\u0437\u0438\u043b\u0438 \u0438\u043d\u0442\u0435\u043d\u0441\u0438\u0432\u043d\u043e\u0441\u0442\u044c gc, \u0442\u0438\u043a\u0435\u0442 \u043d\u0435 \u0437\u0430\u0432\u043e\u0434\u0438\u043b\u0438 \u0442.\u043a. \u0442\u0430\u043a\u043e\u0432\u043e\u0439 \u0443\u0436\u0435 \u0431\u044b\u043b, \u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b\u0438 \u0441\u043a\u0440\u0438\u043f\u0442 \u0432 cron, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0434\u0435\u043b\u0430\u0435\u043c \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 truncate \u043b\u043e\u0433\u043e\u0432 OSD \u043f\u0440\u0438 \u043f\u0440\u0435\u0432\u044b\u0448\u0435\u043d\u0438\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u044a\u0435\u043c\u0430 \u043d\u0435 \u0434\u043e\u0436\u0438\u0434\u0430\u044f\u0441\u044c logrotate. \u041a\u0441\u0442\u0430\u0442\u0438, \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f <a href=\"http:\/\/tracker.ceph.com\/issues\/26922\">\u043f\u043e\u0432\u044b\u0441\u0438\u043b\u0438<\/a>.<\/p>\n<p>  <\/p>\n<h2 id=\"placement-groups-i-hvalyonaya-masshtabiruemost\">Placement Groups \u0438 \u0445\u0432\u0430\u043b\u0451\u043d\u0430\u044f \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u044c<\/h2>\n<p>  <\/p>\n<p>\u041d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434, PG \u2014 \u044d\u0442\u043e \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u044f \u0434\u043b\u044f \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f. PG \u043d\u0443\u0436\u043d\u044b \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b CRUSH \u0431\u044b\u043b \u0431\u043e\u043b\u0435\u0435 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u043c. \u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 PG \u2014 \u0433\u0440\u0443\u043f\u043f\u0438\u0440\u043e\u0432\u043a\u0430 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0434\u043b\u044f \u0441\u043d\u0438\u0436\u0435\u043d\u0438\u044f \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u043f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u044f, \u043f\u043e\u0432\u044b\u0448\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438. \u0410\u0434\u0440\u0435\u0441\u0430\u0446\u0438\u044f \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0434\u0438\u0440\u0435\u043a\u0442\u043d\u043e, \u043f\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u0431\u0435\u0437 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u044f \u0438\u0445 \u0432 PG \u0431\u044b\u043b\u0430 \u0431\u044b \u043e\u0447\u0435\u043d\u044c \u0437\u0430\u0442\u0440\u0430\u0442\u043d\u043e\u0439.<\/p>\n<p>  <\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 PG \u2014 \u044d\u0442\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0438\u0445 \u0447\u0438\u0441\u043b\u0430 \u0434\u043b\u044f \u043d\u043e\u0432\u043e\u0433\u043e \u043f\u0443\u043b\u0430. \u0418\u0437 \u0431\u043b\u043e\u0433\u0430 Ceph:<\/p>\n<p>  <\/p>\n<blockquote><p>&#171;Choosing the right number of PGs for your cluster is a bit of black art-and a usability nightmare&#187;.<\/p><\/blockquote>\n<p>\u042d\u0442\u043e \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0447\u0435\u043d\u044c \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u043e \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0438\u043d\u0441\u0442\u0430\u043b\u043b\u044f\u0446\u0438\u0438 \u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0440\u0430\u0437\u0434\u0443\u043c\u0438\u0439 \u0438 \u043f\u043e\u0434\u0441\u0447\u0435\u0442\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0421\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e PG \u043d\u0430 OSD \u2014 \u043f\u043b\u043e\u0445\u043e, \u0431\u0443\u0434\u0435\u0442 \u043f\u0435\u0440\u0435\u0440\u0430\u0441\u0445\u043e\u0434 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 \u043d\u0430 \u0438\u0445 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u043d\u0438\u0435 \u0438 \u0442\u043e\u0440\u043c\u043e\u0437\u0430 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0440\u0435\u0431\u0430\u043b\u0430\u043d\u0441\u0430\/\u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f.<\/li>\n<li>\u041c\u0430\u043b\u043e PG \u043d\u0430 OSD \u2014 \u043f\u043b\u043e\u0445\u043e, \u0431\u0443\u0434\u0435\u0442 \u0441\u0442\u0440\u0430\u0434\u0430\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c, \u0438 OSD \u0431\u0443\u0434\u0443\u0442 \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e.<\/li>\n<li>\u0427\u0438\u0441\u043b\u043e PG \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c \u043a\u0440\u0430\u0442\u043d\u043e \u0441\u0442\u0435\u043f\u0435\u043d\u0438 2. \u042d\u0442\u043e \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c &#171;power of CRUSH&#187;.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0443 \u043c\u0435\u043d\u044f \u043f\u043e\u0434\u0433\u043e\u0440\u0430\u0435\u0442. PG \u043d\u0435 \u0438\u043c\u0435\u044e\u0442 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 \u043f\u043e \u043e\u0431\u044a\u0435\u043c\u0443 \u0438\u043b\u0438 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432. \u0421\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 (\u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0445 \u0447\u0438\u0441\u043b\u0430\u0445) \u043d\u0443\u0436\u043d\u043e \u043d\u0430 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u043d\u0438\u0435 \u043e\u0434\u043d\u043e\u0439 PG? \u0417\u0430\u0432\u0438\u0441\u0438\u0442 \u043b\u0438 \u044d\u0442\u043e \u043e\u0442 \u0435\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430? \u0417\u0430\u0432\u0438\u0441\u0438\u0442 \u043b\u0438 \u044d\u0442\u043e \u043e\u0442 \u0447\u0438\u0441\u043b\u0430 \u0440\u0435\u043f\u043b\u0438\u043a \u044d\u0442\u043e\u0439 PG? \u0421\u0442\u043e\u0438\u0442 \u043b\u0438 \u043c\u043d\u0435 \u043f\u0430\u0440\u0438\u0442\u044c\u0441\u044f, \u0435\u0441\u043b\u0438 \u0443 \u043c\u0435\u043d\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0430\u043c\u044f\u0442\u0438, \u0431\u044b\u0441\u0442\u0440\u044b\u0435 CPU \u0438 \u0445\u043e\u0440\u043e\u0448\u0430\u044f \u0441\u0435\u0442\u044c?<br \/>  \u0418 \u0435\u0449\u0451 \u043d\u0443\u0436\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u043e \u0431\u0443\u0434\u0443\u0449\u0435\u043c \u0440\u043e\u0441\u0442\u0435 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430. \u0427\u0438\u0441\u043b\u043e PG \u043d\u0435\u043b\u044c\u0437\u044f \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u2014 \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0434\u0435\u043b\u0430\u0442\u044c \u044d\u0442\u043e \u043d\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442\u0441\u044f, \u0442\u0430\u043a \u043a\u0430\u043a \u044d\u0442\u043e \u043f\u043e\u0432\u043b\u0435\u0447\u0435\u0442, \u043f\u043e \u0441\u0443\u0442\u0438, \u043a \u0441\u043f\u043b\u0438\u0442\u0442\u0438\u043d\u0433\u0443 \u0447\u0430\u0441\u0442\u0438 PG \u043d\u0430 \u043d\u043e\u0432\u044b\u0435 \u0438 \u0434\u0438\u043a\u043e\u043c\u0443 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0443.<\/p>\n<p>  <\/p>\n<blockquote><p>&#171;Increasing the PG Count of a pool is one of the most impactful events in a Ceph Cluster, and should be avoided for production clusters if possible&#187;.<\/p><\/blockquote>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e \u0431\u0443\u0434\u0443\u0449\u0435\u043c \u043d\u0443\u0436\u043d\u043e \u0434\u0443\u043c\u0430\u0442\u044c \u0441\u0440\u0430\u0437\u0443, \u0435\u0441\u043b\u0438 \u044d\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e.<\/p>\n<p>  <\/p>\n<p>\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440.<\/p>\n<p>  <\/p>\n<p>\u041a\u043b\u0430\u0441\u0442\u0435\u0440 \u0438\u0437 3 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432 \u043f\u043e 14&#215;2 TB OSD \u0432 \u043a\u0430\u0436\u0434\u043e\u043c, \u0432\u0441\u0435\u0433\u043e 42 OSD. \u0420\u0435\u043f\u043b\u0438\u043a\u0430 3, \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0433\u043e \u043c\u0435\u0441\u0442\u0430 ~28 TB. \u0411\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u043f\u043e\u0434 S3, \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0447\u0438\u0441\u043b\u043e PG \u0434\u043b\u044f \u043f\u0443\u043b\u0430 \u0441 \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u043d\u043e\u0433\u043e \u043f\u0443\u043b\u0430. RGW \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0443\u043b\u043e\u0432, \u043d\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0435 \u0434\u0432\u0430 \u2014 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435.<\/p>\n<p>  <\/p>\n<p>\u0417\u0430\u0445\u043e\u0434\u0438\u043c \u0432 <a href=\"https:\/\/ceph.com\/pgcalc\/\">\u043a\u0430\u043b\u044c\u043a\u0443\u043b\u044f\u0442\u043e\u0440 PG<\/a> (\u0435\u0441\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u043a\u0430\u043b\u044c\u043a\u0443\u043b\u044f\u0442\u043e\u0440), \u0441\u0447\u0438\u0442\u0430\u0435\u043c \u0441 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u043c\u044b\u043c\u0438 100 PG \u043d\u0430 OSD, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0432\u0441\u0435\u0433\u043e 1312 PG. \u041d\u043e \u043d\u0435 \u0432\u0441\u0435 \u0442\u0430\u043a \u043f\u0440\u043e\u0441\u0442\u043e: \u0443 \u043d\u0430\u0441 \u0435\u0441\u0442\u044c \u0432\u0432\u043e\u0434\u043d\u0430\u044f \u2014 \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0435 \u0433\u043e\u0434\u0430 \u0442\u043e\u0447\u043d\u043e \u0432\u044b\u0440\u0430\u0441\u0442\u0435\u0442 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430, \u043d\u043e \u0436\u0435\u043b\u0435\u0437\u043e \u0434\u043e\u043a\u0443\u043f\u044f\u0442 \u0447\u0443\u0442\u044c \u043f\u043e\u0437\u0436\u0435. \u0423\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u043c &#171;Target PGs per OSD&#187; \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430, \u0434\u043e 300 \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 4480 PG.<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ce\/o3\/bo\/ceo3boailgnmcx_2_w6un6_covi.png\"><\/p>\n<p>  <\/p>\n<p>\u0423\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u043c \u0447\u0438\u0441\u043b\u043e PG \u0434\u043b\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u043f\u0443\u043b\u043e\u0432 \u2014 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c warning: too many PG Per OSD\u2026 \u043f\u0440\u0438\u0435\u0445\u0430\u043b\u0438. \u041f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 ~300 PG \u043d\u0430 OSD \u043f\u0440\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0438 \u0432 200 (Luminous). \u0420\u0430\u043d\u044c\u0448\u0435 \u0431\u044b\u043b\u043e 300, \u043a\u0441\u0442\u0430\u0442\u0438. \u0418 \u0441\u0430\u043c\u043e\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435, \u0447\u0442\u043e \u0432\u0441\u0435\u043c \u0438\u0437\u043b\u0438\u0448\u043d\u0438\u043c PG \u043d\u0435 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u0438\u0440\u0438\u0442\u044c\u0441\u044f (peering), \u0442\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e warning. \u0412 \u0438\u0442\u043e\u0433\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e \u043c\u044b \u0432\u0441\u0435 \u0434\u0435\u043b\u0430\u0435\u043c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e, \u043f\u043e\u0432\u044b\u0448\u0430\u0435\u043c \u043b\u0438\u043c\u0438\u0442\u044b, \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u043c \u043f\u0440\u0435\u0434\u0443\u043f\u0440\u0435\u0436\u0434\u0435\u043d\u0438\u0435 \u0438 \u0438\u0434\u0435\u043c \u0434\u0430\u043b\u044c\u0448\u0435.<\/p>\n<p>  <\/p>\n<p>\u0414\u0440\u0443\u0433\u043e\u0439 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u043e\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435.<\/p>\n<p>  <\/p>\n<p>S3, 152 TB \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0433\u043e \u043e\u0431\u044a\u0435\u043c\u0430, 252 OSD \u043f\u043e 1.81 TB, ~105 PG \u043d\u0430 OSD. \u041a\u043b\u0430\u0441\u0442\u0435\u0440 \u0440\u043e\u0441 \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e, \u0432\u0441\u0451 \u0431\u044b\u043b\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u043e\u043a\u0430 \u0441 \u043d\u043e\u0432\u044b\u043c\u0438 \u0437\u0430\u043a\u043e\u043d\u0430\u043c\u0438 \u0432 \u043d\u0430\u0448\u0435\u0439 \u0441\u0442\u0440\u0430\u043d\u0435 \u043d\u0435 \u0432\u043e\u0437\u043d\u0438\u043a\u043b\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u043d\u043e\u0441\u0442\u044c \u0432 \u0440\u043e\u0441\u0442\u0435 \u0434\u043e 1 PB, \u0442\u043e \u0435\u0441\u0442\u044c + ~850 TB, \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0443\u0436\u043d\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u0435\u0439\u0447\u0430\u0441 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u0430\u044f \u0434\u043b\u044f S3. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c \u043c\u044b \u0432\u043e\u0437\u044c\u043c\u0451\u043c \u0434\u0438\u0441\u043a\u0438 \u043f\u043e 6 (5.7 \u0440\u0435\u0430\u043b\u044c\u043d\u043e) TB \u0438 \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u0440\u0435\u043f\u043b\u0438\u043a\u0438 3 \u043f\u043e\u043b\u0443\u0447\u0438\u043c + 447 OSD. \u0421 \u0443\u0447\u0435\u0442\u043e\u043c \u0442\u0435\u043a\u0443\u0449\u0438\u0445 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f 699 OSD \u043f\u043e 37 PG \u043d\u0430 \u043a\u0430\u0436\u0434\u0443\u044e, \u0430 \u0435\u0441\u043b\u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0439 \u0432\u0435\u0441, \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f, \u0447\u0442\u043e \u043d\u0430 \u0441\u0442\u0430\u0440\u044b\u0435 OSD \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0432\u0441\u0435\u0433\u043e \u0434\u0435\u0441\u044f\u0442\u043e\u043a PG. \u0418 \u0432\u043e\u0442 \u0432\u044b \u043c\u043d\u0435 \u0441\u043a\u0430\u0436\u0438\u0442\u0435, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043d\u043e\u0441\u043d\u043e \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c? \u041f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c \u0447\u0438\u0441\u043b\u043e\u043c PG \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0441\u043b\u043e\u0436\u043d\u043e \u043f\u043e\u043c\u0435\u0440\u0438\u0442\u044c \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u043d\u043e \u0442\u0435 \u0442\u0435\u0441\u0442\u044b, \u0447\u0442\u043e \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b \u044f \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u0434\u043b\u044f \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043d\u0443\u0436\u043d\u043e \u043e\u0442 50 PG \u043d\u0430 2 TB OSD. \u0410 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0438\u0439 \u0440\u043e\u0441\u0442? \u0411\u0435\u0437 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044f \u0447\u0438\u0441\u043b\u0430 PG \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0439\u0442\u0438 \u0434\u043e \u043c\u0430\u043f\u0438\u043d\u0433\u0430 PG \u043a OSD 1:1. \u041c\u043e\u0436\u0435\u0442 \u044f \u0447\u0435\u0433\u043e-\u0442\u043e \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u044e?<\/p>\n<p>  <\/p>\n<p>\u0414\u0430, \u043c\u043e\u0436\u043d\u043e \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u043d\u043e\u0432\u044b\u0439 \u043f\u0443\u043b \u0434\u043b\u044f RGW \u0441 \u043d\u0443\u0436\u043d\u044b\u043c \u0447\u0438\u0441\u043b\u043e\u043c PG \u0438 \u043d\u0430\u043c\u0430\u043f\u0438\u0442\u044c \u043d\u0430 \u043d\u0435\u0433\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 S3-\u0440\u0435\u0433\u0438\u043e\u043d. \u0418\u043b\u0438 \u0438 \u0432\u043e\u0432\u0441\u0435 \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0440\u044f\u0434\u043e\u043c \u043d\u043e\u0432\u044b\u0439 \u043a\u043b\u0430\u0441\u0442\u0435\u0440. \u041d\u043e \u0441\u043e\u0433\u043b\u0430\u0441\u0438\u0442\u0435\u0441\u044c, \u0447\u0442\u043e \u0432\u0441\u0451 \u044d\u0442\u043e \u043a\u043e\u0441\u0442\u044b\u043b\u0438. \u0418 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u0440\u043e\u0434\u0435 \u043a\u0430\u043a \u0445\u043e\u0440\u043e\u0448\u043e \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u044b\u0439 Ceph \u0438\u0437-\u0437\u0430 \u0441\u0432\u043e\u0435\u0439 \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 PG \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0441 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u0430\u043c\u0438. \u0412\u0430\u043c \u043b\u0438\u0431\u043e \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0436\u0438\u0442\u044c \u0441 \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u0432\u043e\u0440\u043d\u0438\u043d\u0433\u0430\u043c\u0438 \u0433\u043e\u0442\u043e\u0432\u044f\u0441\u044c \u043a \u0440\u043e\u0441\u0442\u0443, \u043b\u0438\u0431\u043e \u0432 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043c\u043e\u043c\u0435\u043d\u0442 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0438\u0442\u044c \u0432\u0441\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435, \u043b\u0438\u0431\u043e \u0437\u0430\u0431\u0438\u0442\u044c \u043d\u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0438 \u0436\u0438\u0442\u044c \u0441 \u0442\u0435\u043c, \u0447\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f. \u041b\u0438\u0431\u043e \u043f\u0440\u043e\u0439\u0442\u0438 \u0447\u0435\u0440\u0435\u0437 \u0432\u0441\u0451 \u044d\u0442\u043e.<\/p>\n<p>  <\/p>\n<p>\u0420\u0430\u0434\u0443\u0435\u0442, \u0447\u0442\u043e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 Ceph <a href=\"https:\/\/ceph.com\/community\/new-luminous-pg-overdose-protection\/\">\u043f\u043e\u043d\u0438\u043c\u0430\u044e\u0442<\/a>, \u0447\u0442\u043e PG \u0441\u043b\u043e\u0436\u043d\u0430\u044f \u0438 \u043b\u0438\u0448\u043d\u044f\u044f \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u044f \u0434\u043b\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0438 \u0435\u043c\u0443 \u043e \u043d\u0435\u0439 \u043b\u0443\u0447\u0448\u0435 \u043d\u0435 \u0437\u043d\u0430\u0442\u044c.<\/p>\n<p>  <\/p>\n<blockquote><p>&#171;In Luminous we&#8217;ve taken major steps to finally eliminate one of the most common ways to drive your cluster into a ditch, and looking forward we aim to eventually hide PGs entirely so that they are not something most users will ever have to know or think about&#187;.<\/p><\/blockquote>\n<p>\u0412 vxFlex \u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u0438\u044f PG \u0438\u043b\u0438 \u043a\u0430\u043a\u0438\u0445-\u0442\u043e \u0430\u043d\u0430\u043b\u043e\u0433\u043e\u0432. \u0412\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442\u0435 \u0434\u0438\u0441\u043a\u0438 \u0432 \u043f\u0443\u043b \u0438 \u0432\u0441\u0451. \u0418 \u0442\u0430\u043a \u0434\u043e 16 PB. \u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0435, \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c, \u043d\u0435\u0442 \u043a\u0443\u0447\u0438 \u0441\u0442\u0430\u0442\u0443\u0441\u043e\u0432 \u044d\u0442\u0438\u0445 PG, \u0434\u0438\u0441\u043a\u0438 \u0443\u0442\u0438\u043b\u0438\u0437\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u043d\u0430 \u0432\u0441\u0451\u043c \u043f\u0440\u043e\u0442\u044f\u0436\u0435\u043d\u0438\u0438 \u0440\u043e\u0441\u0442\u0430. \u0422.\u043a. \u0434\u0438\u0441\u043a\u0438 \u043e\u0442\u0434\u0430\u044e\u0442\u0441\u044f \u0432 vxFlex \u0446\u0435\u043b\u0438\u043a\u043e\u043c (\u043d\u0435\u0442 \u0444\u0430\u0439\u043b\u043e\u0432\u043e\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u043f\u043e\u0432\u0435\u0440\u0445 \u043d\u0438\u0445) \u043d\u0435\u0442 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0438 \u043d\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435 \u0442\u0430\u043a\u043e\u0439 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b. \u042f \u0434\u0430\u0436\u0435 \u043d\u0435 \u0437\u043d\u0430\u044e, \u043a\u0430\u043a \u043f\u0435\u0440\u0435\u0434\u0430\u0442\u044c \u0432\u0430\u043c \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u043f\u0440\u0438\u044f\u0442\u043d\u043e.<\/p>\n<p>  <\/p>\n<h2 id=\"nuzhno-zhdat-sp1\">&#171;\u041d\u0443\u0436\u043d\u043e \u0436\u0434\u0430\u0442\u044c SP1&#187;<\/h2>\n<p>  <\/p>\n<p>\u0415\u0449\u0451 \u043e\u0434\u043d\u0430 \u0438\u0441\u0442\u043e\u0440\u0438\u044f &#171;\u0443\u0441\u043f\u0435\u0445\u0430&#187;. \u041a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, RADOS \u2014 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0438\u0442\u0438\u0432\u043d\u0435\u0439\u0448\u0435\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u043a\u043b\u044e\u0447-\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435. S3, \u0440\u0435\u0430\u043b\u0438\u0437\u0443\u0435\u043c\u044b\u0439 \u043f\u043e\u0432\u0435\u0440\u0445 RADOS&#8217;\u0430 \u0442\u043e\u0436\u0435 \u043f\u0440\u0438\u043c\u0438\u0442\u0438\u0432\u043d\u044b\u0439, \u043d\u043e \u0432\u0441\u0435 \u0436\u0435 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0431\u043e\u043b\u0435\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u0435\u043d. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 S3 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0441\u043f\u0438\u0441\u043e\u043a \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043f\u043e \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0443. \u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e, RGW \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0441\u0432\u043e\u0439 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0434\u0435\u043a\u0441 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0431\u0430\u043a\u0435\u0442\u0430. \u042d\u0442\u043e\u0442 \u0438\u043d\u0434\u0435\u043a\u0441 \u2014 \u043e\u0434\u0438\u043d RADOS-\u043e\u0431\u044a\u0435\u043a\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043e\u0434\u043d\u043e\u0439 OSD. \u0421 \u0440\u043e\u0441\u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0430 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0432 \u0431\u0430\u043a\u0435\u0442\u0435 \u0440\u0430\u0441\u0442\u0451\u0442 \u043e\u0431\u044a\u0435\u043a\u0442 \u0438\u043d\u0434\u0435\u043a\u0441\u0430. \u041f\u043e \u043d\u0430\u0448\u0438\u043c \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f\u043c, \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u043e\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043c\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0432 \u0431\u0430\u043a\u0435\u0442\u0435 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u044b\u0435 \u0442\u043e\u0440\u043c\u043e\u0437\u0430 \u043f\u0440\u0438 \u0437\u0430\u043f\u0438\u0441\u0438 \u0432 \u044d\u0442\u043e\u0442 \u0431\u0430\u043a\u0435\u0442. OSD \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u044e\u0449\u0430\u044f \u043e\u0431\u044a\u0435\u043a\u0442 \u0438\u043d\u0434\u0435\u043a\u0441\u0430 \u0435\u0441\u0442 \u043c\u043d\u043e\u0433\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u043c\u043e\u0436\u0435\u0442 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0443\u0445\u043e\u0434\u0438\u0442\u044c \u0432 down. \u0422\u043e\u0440\u043c\u043e\u0437\u0430 \u0432\u044b\u0437\u0432\u0430\u043d\u044b \u0442\u0435\u043c, \u0447\u0442\u043e \u0438\u043d\u0434\u0435\u043a\u0441 \u0431\u043b\u043e\u043a\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435, \u0434\u0430\u0431\u044b \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043a\u043e\u043d\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c. \u041a\u0440\u043e\u043c\u0435 \u044d\u0442\u043e\u0433\u043e, \u043f\u0440\u0438 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u044f\u0445 scrub&#8217;\u0438\u043d\u0433\u0430 \u0438\u043b\u0438 \u0440\u0435\u0431\u0435\u043b\u0430\u043d\u0441\u0430 \u043e\u0431\u044a\u0435\u043a\u0442 \u0438\u043d\u0434\u0435\u043a\u0441\u0430 \u0442\u0430\u043a\u0436\u0435 \u0431\u043b\u043e\u043a\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043d\u0430 \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438. \u0412\u0441\u0451 \u044d\u0442\u043e \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u043a \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043a\u043b\u0438\u0435\u043d\u0442\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u0442\u0430\u0439\u043c-\u0430\u0443\u0442\u044b \u0438 503&#8217;\u0435 \u043e\u0448\u0438\u0431\u043a\u0438, \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0431\u0430\u043a\u0435\u0442\u043e\u0432 \u0441\u0442\u0440\u0430\u0434\u0430\u0435\u0442 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435.<\/p>\n<p>  <\/p>\n<p><strong>Bucket Index resharding<\/strong> \u2014 \u044d\u0442\u043e \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0439 \u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c \u0438\u043d\u0434\u0435\u043a\u0441 \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u0442\u0435\u0439 (RADOS-\u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432) \u0438, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0440\u0430\u0437\u043b\u043e\u0436\u0438\u0442\u044c \u043f\u043e \u0440\u0430\u0437\u043d\u044b\u043c OSD, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438 \u0438 \u0441\u043d\u0438\u0437\u0438\u0442\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0441\u043b\u0443\u0436\u0435\u0431\u043d\u044b\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439.<\/p>\n<p>  <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0441\u0442\u043e\u0438\u0442 \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0440\u0443\u0447\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0430\u0440\u0434\u0438\u043d\u0433\u0430 \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0432 Jewel \u0438 \u0431\u044b\u043b\u0430 \u0431\u0435\u043a\u043f\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0432 \u043e\u0434\u043d\u0443 \u0438\u0437 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445 \u0431\u0430\u0433\u0444\u0438\u043a\u0441\u043d\u044b\u0445! \u0441\u0431\u043e\u0440\u043e\u043a Hammer, \u0447\u0442\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0443\u044e \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u044c \u0442.\u043a. \u044d\u0442\u043e \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0431\u0430\u0433-\u0444\u0438\u043a\u0441\u043e\u043c. \u041a\u0430\u043a \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0431\u0430\u043a\u0435\u0442\u044b?<\/p>\n<p>  <\/p>\n<p>\u0412 Hammer \u0443 \u043d\u0430\u0441 \u0431\u044b\u043b\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0431\u0430\u043a\u0435\u0442\u043e\u0432 \u0441 20+ \u043c\u043b\u043d \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432, \u0438 \u043c\u044b \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u043e \u0438\u0441\u043f\u044b\u0442\u044b\u0432\u0430\u043b\u0438 \u0441 \u043d\u0438\u043c\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b, \u043c\u044b \u0437\u043d\u0430\u043b\u0438 \u043d\u043e\u043c\u0435\u0440\u0430 \u0437\u0430\u0432\u0435\u0442\u043d\u044b\u0445 OSD \u0438 \u043f\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c \u0438\u0437 Graylog \u043f\u043e\u043d\u0438\u043c\u0430\u043b\u0438, \u0447\u0442\u043e \u0441 \u043d\u0438\u043c\u0438 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442. \u0420\u0443\u0447\u043d\u043e\u0439 \u0440\u0435\u0448\u0430\u0440\u0434\u0438\u043d\u0433 \u043d\u0430\u043c \u043d\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u043b, \u0442.\u043a. \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 IO \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0431\u0430\u043a\u0435\u0442\u0430. \u041d\u0430\u043c \u043d\u0443\u0436\u0435\u043d \u0431\u044b\u043b Luminous, \u0442.\u043a. \u0432 \u043d\u0435\u043c \u0440\u0435\u0448\u0430\u0440\u0434\u0438\u043d\u0433 \u0441\u0442\u0430\u043b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u0438 \u043f\u0440\u043e\u0437\u0440\u0430\u0447\u043d\u044b\u043c \u0434\u043b\u044f \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432. \u041c\u044b \u043e\u0431\u043d\u043e\u0432\u0438\u043b\u0438\u0441\u044c \u043d\u0430 Luminous, \u043d\u043e \u0440\u0435\u0448\u0430\u0440\u0434\u0438\u043d\u0433 \u043d\u0435 \u0432\u043a\u043b\u044e\u0447\u0430\u043b\u0438, \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438. \u0412\u0441\u0451 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0438 \u043c\u044b \u0432\u043a\u043b\u044e\u0447\u0438\u043b\u0438 \u0435\u0433\u043e \u0432 \u043f\u0440\u043e\u0434\u0435. IO \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e \u043f\u043e\u0434\u0440\u043e\u0441\u043b\u043e \u0432 index-\u043f\u0443\u043b\u0435, \u0431\u0430\u043a\u0435\u0442\u044b \u043d\u0430\u0447\u0430\u043b\u0438 \u0448\u0430\u0440\u0434\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u0441\u044f, \u044f \u043e\u0442\u043a\u0440\u044b\u043b \u0431\u0443\u0442\u044b\u043b\u043e\u0447\u043a\u0443 \u043f\u0438\u0432\u043a\u0430 \u0438 \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0434\u0435\u043d\u044c \u043f\u043e\u0440\u0430\u043d\u044c\u0448\u0435. \u0421\u043f\u0443\u0441\u0442\u044f \u0434\u0435\u043d\u044c \u043c\u044b \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e IO \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e \u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u0441\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043d\u044b\u0435 \u0431\u0430\u043a\u0435\u0442\u044b \u0440\u0430\u0441\u0448\u0430\u0440\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u044b. \u0412\u044b\u044f\u0441\u043d\u044f\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0438\u043d\u0434\u0435\u043a\u0441\u044b \u0448\u0430\u0440\u0434\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043f\u043e \u043a\u0440\u0443\u0433\u0443\u2026 \u0412\u0441\u043a\u043e\u0440\u0435 \u043d\u0430\u0448\u043b\u0438\u0441\u044c \u0442\u0438\u043a\u0435\u0442\u044b; <a href=\"https:\/\/tracker.ceph.com\/issues\/24551\">\u0440\u0430\u0437<\/a>, <a href=\"https:\/\/tracker.ceph.com\/issues\/24937\">\u0434\u0432\u0430<\/a>:<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0442\u044c, \u0431\u043b\u0430\u0433\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u043d\u044b\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u044b \u0431\u044b\u043b\u0438 \u0443\u0436\u0435 \u0448\u0430\u0440\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u044b. \u0415\u0449\u0435 \u043e\u0434\u0438\u043d \u043f\u0443\u043d\u043a\u0442 \u0432 \u043a\u043e\u043f\u0438\u043b\u043a\u0443 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0434\u043e\u043b\u0433\u0430, \u0442.\u043a. \u0431\u0430\u043a\u0435\u0442\u044b \u043c\u043e\u0433\u0443\u0442 \u0440\u0430\u0441\u0442\u0438 \u0434\u0430\u043b\u044c\u0448\u0435 \u0438 \u0448\u0430\u0440\u0434\u0438\u043d\u0433 \u0431\u0443\u0434\u0435\u0442 \u043d\u0443\u0436\u0435\u043d \u0441\u043d\u043e\u0432\u0430 \u043d\u0435 \u0437\u0430\u0432\u0442\u0440\u0430, \u0442\u0430\u043a \u0447\u0435\u0440\u0435\u0437 \u043c\u0435\u0441\u044f\u0446.<\/p>\n<p>  <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435 Hammer-&gt;Jewel \u0431\u044b\u043b\u043e \u0432\u0435\u0441\u0451\u043b\u044b\u043c \u0438\u0437-\u0437\u0430 \u044d\u0442\u0438\u0445 \u0436\u0438\u0440\u043d\u044b\u0445 \u0438\u043d\u0434\u0435\u043a\u0441\u043e\u0432. OSD \u0434\u0435\u0440\u0436\u0430\u0449\u0430\u044f \u0438\u043d\u0434\u0435\u043a\u0441 \u043f\u0440\u043e\u0431\u0438\u0432\u0430\u043b\u0430 \u0432\u0441\u0435 \u0442\u0430\u0439\u043c-\u0430\u0443\u0442\u044b \u043d\u0430 \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u0435. \u041d\u0430\u043c \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043a\u0440\u0443\u0447\u0438\u0432\u0430\u0442\u044c \u0442\u0430\u0439\u043c\u0430\u0443\u0442\u044b \u0442\u0440\u0435\u0434\u043e\u0432 \u043f\u0440\u044f\u043c \u043d\u0430 \u043f\u0440\u043e\u0434\u0435, \u0447\u0442\u043e\u0431\u044b \u044d\u0442\u0438 \u0437\u0430\u0432\u0435\u0442\u043d\u044b\u0435 OSD \u043c\u043e\u0433\u043b\u0438 \u043f\u043e\u0434\u043d\u044f\u0442\u044c\u0441\u044f \u0438 \u043d\u0435 \u0443\u0431\u0438\u0432\u0430\u043b\u0438 \u0441\u0430\u043c\u0438 \u0441\u0435\u0431\u044f.<\/p>\n<p>  <\/p>\n<p>\u0418\u0441\u0442\u043e\u0440\u0438\u044f \u0441 \u0430\u0432\u0442\u043e\u0440\u0435\u0448\u0430\u0440\u0434\u0438\u043d\u0433\u043e\u043c \u2014 \u043d\u0435 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0441\u043b\u0443\u0447\u0430\u0439, \u043a\u043e\u0433\u0434\u0430 \u043d\u043e\u0432\u0430\u044f \u0444\u0438\u0447\u0430 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0442\u0430\u043a, \u0447\u0442\u043e \u043b\u0443\u0447\u0448\u0435 \u0431\u044b \u043e\u043d\u0430 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0432\u043e\u043e\u0431\u0449\u0435. \u0412 \u0432\u0435\u0440\u0441\u0438\u0438 Hammer \u0431\u044b\u043b\u0430 \u0442\u0430\u043a\u0430\u044f \u0444\u0438\u0447\u0430 s3, \u043a\u0430\u043a \u0432\u0435\u0440\u0441\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432. \u042d\u0442\u043e \u043f\u0440\u0438\u043d\u0435\u0441\u043b\u043e \u043d\u0430\u043c \u0441\u0438\u043b\u044c\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u0440\u0435\u0434\u0430, \u0447\u0435\u043c \u043f\u043e\u043b\u044c\u0437\u044b. \u0423 \u043c\u043d\u043e\u0433\u0438\u0445 \u0431\u0430\u043a\u0435\u0442\u043e\u0432 \u0441 \u0432\u043a\u043b\u044e\u0447\u0435\u043d\u043d\u044b\u043c \u0432\u0435\u0440\u0441\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u043f\u043e\u0441\u0442\u0435\u043f\u0435\u043d\u043d\u043e, \u0441 \u0440\u043e\u0441\u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0430 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432, \u043d\u0430\u0447\u0438\u043d\u0430\u043b\u0438 \u043f\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043e\u0431\u044a\u0435\u043a\u0442\u044b \u0441 \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u043c etag, \u0441 \u043d\u0443\u043b\u0435\u0432\u044b\u043c body, \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u043b\u0438 \u043e\u0448\u0438\u0431\u043a\u0438 \u043f\u0440\u0438 \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u0438 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432. \u041d\u0430 \u0442\u043e\u0442 \u043c\u043e\u043c\u0435\u043d\u0442 \u043c\u044b \u043d\u0430\u0448\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0445 \u0440\u0435\u043f\u043e\u0440\u0442\u043e\u0432 \u0441 \u043f\u043e\u0445\u043e\u0436\u0438\u043c\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438. \u041c\u044b \u0442\u0449\u0435\u0442\u043d\u043e \u043f\u044b\u0442\u0430\u043b\u0438\u0441\u044c \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438 \u044d\u0442\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b, \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u043b\u0438 \u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0431\u0435\u0437 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430. Suspend \u0432\u0435\u0440\u0441\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043d\u0435 \u0440\u0435\u0448\u0430\u043b \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443. \u0412 \u0438\u0442\u043e\u0433\u0435 &#171;\u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c&#187; \u0431\u044b\u043b\u043e \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 \u043d\u043e\u0432\u044b\u0445 \u0431\u0430\u043a\u0435\u0442\u043e\u0432 \u0431\u0435\u0437 \u0432\u0435\u0440\u0441\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0432 \u043d\u0438\u0445. \u042d\u0442\u043e \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0443\u0434\u0430\u0440\u0438\u043b\u043e \u043f\u043e \u043d\u0430\u0448\u0435\u0439 \u0440\u0435\u043f\u0443\u0442\u0430\u0446\u0438\u0438 \u0438 \u0434\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u043e \u043d\u0435\u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u043d\u0430\u0448\u0438\u043c \u0437\u0430\u043a\u0430\u0437\u0447\u0438\u043a\u0430\u043c, \u0430 \u043c\u044b \u043f\u043e\u0442\u0440\u0430\u0442\u0438\u043b\u0438 \u043c\u043d\u043e\u0433\u043e \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 \u043d\u0430 \u043f\u043e\u043c\u043e\u0449\u044c \u0438\u043c.<\/p>\n<p>  <\/p>\n<h2 id=\"holivary-na-temu-chisla-replik\">\u0425\u043e\u043b\u0438\u0432\u0430\u0440\u044b \u043d\u0430 \u0442\u0435\u043c\u0443 \u0447\u0438\u0441\u043b\u0430 \u0440\u0435\u043f\u043b\u0438\u043a<\/h2>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u0445\u043e\u0434\u044f\u0442 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u044b \u043e \u0447\u0438\u0441\u043b\u0435 \u0440\u0435\u043f\u043b\u0438\u043a, \u0442\u0430\u043a \u0441\u0440\u0430\u0437\u0443 \u0440\u0435\u043f\u043b\u0438\u043a\u0430 2 \u2014 \u044d\u0442\u043e \u0438\u0434\u0438\u043e\u0442\u0438\u0437\u043c, \u043d\u0430\u0440\u043a\u043e\u043c\u0430\u043d\u0438\u044f \u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0442\u0430\u043a\u0443\u044e \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044e \u0441\u043a\u043e\u0440\u043e \u0436\u0434\u0435\u0442 \u0443\u0447\u0430\u0441\u0442\u044c Cloudmouse. \u0414\u0430, \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 Ceph, \u0442\u043e, \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e.<\/p>\n<p>  <\/p>\n<p>\u0412 vxFlex OS \u0444\u0430\u043a\u0442\u043e\u0440 \u0440\u0435\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u0438 2 \u0438 \u044d\u0442\u043e \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043c\u0435\u043d\u044f\u0442\u044c. \u0415\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0438\u043c\u0435\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0439 \u043e\u0431\u044a\u0435\u043c \u043c\u0435\u0441\u0442\u0430 \u0432 \u0440\u0435\u0437\u0435\u0440\u0432\u0435 \u0434\u043b\u044f \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u0430\u0432\u0430\u0440\u0438\u0438. \u042d\u0442\u043e\u0442 \u043e\u0431\u044a\u0435\u043c \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0440\u0430\u0432\u0435\u043d \u0434\u0438\u0441\u043a\u043e\u0432\u043e\u043c\u0443 \u043e\u0431\u044a\u0435\u043c\u0443, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u043a\u0430\u0437\u0430\u0442\u044c \u0435\u0434\u0438\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e. \u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u0432\u0441\u044f \u0441\u0442\u043e\u0439\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0430 \u043f\u043e \u043f\u0438\u0442\u0430\u043d\u0438\u044e, \u0442\u043e \u0438 \u0440\u0435\u0437\u0435\u0440\u0432\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043e\u0431\u044a\u0435\u043c \u0441\u0430\u043c\u043e\u0439 \u0436\u0438\u0440\u043d\u043e\u0439 \u0441\u0442\u043e\u0439\u043a\u0438. \u041c\u043e\u0436\u043d\u043e \u0441\u043f\u043e\u0440\u0438\u0442\u044c \u043e\u0431 \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u0438 \u043d\u0430\u0434\u0435\u0436\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0439 \u0441\u0445\u0435\u043c\u044b, \u043d\u043e \u043d\u0435 \u0437\u043d\u0430\u044f \u0442\u043e\u0447\u043d\u043e, \u043a\u0430\u043a \u044d\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432\u043d\u0443\u0442\u0440\u0438, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0432\u0435\u0440\u0438\u0442\u044c\u0441\u044f \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430\u043c Dell EMC.<\/p>\n<p>  <\/p>\n<h2 id=\"proizvoditelnost\">\u041f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c<\/h2>\n<p>  <\/p>\n<p>\u0415\u0449\u0451 \u043e\u0434\u043d\u0430 \u0445\u043e\u043b\u0438\u0432\u0430\u0440\u043d\u0430\u044f \u0442\u0435\u043c\u0430. \u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445, \u0434\u0430 \u0435\u0449\u0451 \u0438 \u0441 \u0440\u0435\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u043f\u043e \u0441\u0435\u0442\u0438? \u0425\u043e\u0440\u043e\u0448\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441. \u041f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u0443 \u0442\u0430\u043a\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043e\u0432\u0435\u0440\u0445\u0435\u0434. \u041d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434, \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0441\u0438\u0441\u0442\u0435\u043c \u0442\u0438\u043f\u0430 Ceph, vxFlex \u043d\u0443\u0436\u043d\u043e \u0438\u0437\u043c\u0435\u0440\u044f\u0442\u044c \u0432 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0438 \u0438\u0445 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0435\u0439 \u043a \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044f\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u043e\u0433\u043e \u043e\u0431\u043e\u0440\u0443\u0434\u043e\u0432\u0430\u043d\u0438\u044f. \u0412\u0430\u0436\u043d\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043c\u044b \u0442\u0435\u0440\u044f\u0435\u043c \u0438\u0437-\u0437\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u043e\u0439 \u043f\u0440\u043e\u0441\u043b\u043e\u0439\u043a\u0438. \u042d\u0442\u0430 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435, \u043e\u0442 \u043d\u0435\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u043a\u0443\u043f\u0438\u0442\u044c \u0434\u0438\u0441\u043a\u043e\u0432 \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432 \u0434\u043b\u044f \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u043d\u0443\u0436\u043d\u044b\u0445 \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439.<\/p>\n<p>  <\/p>\n<p>\u041f\u0438\u0441\u044c\u043c\u043e \u043e\u0442 9 \u0430\u0432\u0433\u0443\u0441\u0442\u0430 \u0438\u0437 ceph-devel <a href=\"https:\/\/www.spinics.net\/lists\/ceph-devel\/msg42337.html\">\u0440\u0430\u0441\u0441\u044b\u043b\u043a\u0438<\/a>:. \u0412\u043a\u0440\u0430\u0442\u0446\u0435, \u0440\u0435\u0431\u044f\u0442\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u0443\u0442\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043f\u043e CPU \u0441\u0435\u0440\u0432\u0435\u0440\u044b (\u043f\u043e \u0434\u0432\u0430 Xeon&#8217;\u0430 \u0432 \u0441\u0435\u0440\u0432\u0435\u0440\u0435!) \u0438 \u0441\u043c\u0435\u0448\u043d\u044b\u0435 IOPS \u043d\u0430 All-NVMe \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435 \u043d\u0430 Ceph 12.2.7 \u0438 bluestore.<\/p>\n<p>  <\/p>\n<p>\u0421\u0442\u0430\u0442\u0435\u0439, \u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0439 \u0438 \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0439 \u0432 \u043b\u0438\u0441\u0442\u0430\u0445 \u0440\u0430\u0441\u0441\u044b\u043b\u043a\u0438 \u0432\u0430\u043b\u043e\u043c, \u043d\u043e &#171;\u043b\u0435\u0442\u0438\u0442&#187; Ceph \u0432\u0441\u0451 \u0435\u0449\u0451 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043d\u0438\u0437\u043a\u043e. \u041d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u043d\u0430\u0437\u0430\u0434 (\u0432\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0430 Hammer) \u043c\u044b \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u0431\u043b\u043e\u0447\u043d\u043e\u0433\u043e \u0441\u0442\u043e\u0440\u0430\u0434\u0436\u0430 \u0438 Ceph \u0431\u044b\u043b \u0443 \u043d\u0430\u0441 \u0444\u0430\u0432\u043e\u0440\u0438\u0442\u043e\u043c, \u0442\u0430\u043a \u043a\u0430\u043a \u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0435\u0433\u043e \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 s3 \u0438 \u043d\u0430\u0434\u0435\u044f\u043b\u0438\u0441\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043a\u0430\u043a \u0431\u043b\u043e\u0447\u043d\u044b\u0439. \u041a \u0441\u043e\u0436\u0430\u043b\u0435\u043d\u0438\u044e, \u0442\u043e\u0433\u0434\u0430\u0448\u043d\u0438\u0439 ScaleIO \u0440\u0430\u0441\u0442\u043e\u043f\u0442\u0430\u043b Ceph RBD \u0441 \u043f\u043e\u0440\u0430\u0437\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c\u0438. \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 Ceph, \u0441 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u044b \u0441\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0438\u0441\u044c \u2014 \u044d\u0442\u043e \u043d\u0435\u0434\u043e\u0443\u0442\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0434\u0438\u0441\u043a\u0438 \u0438 \u043f\u0435\u0440\u0435\u0443\u0442\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 CPU. \u042f \u0445\u043e\u0440\u043e\u0448\u043e \u043f\u043e\u043c\u043d\u044e \u043d\u0430\u0448\u0438 \u043f\u0440\u0438\u0441\u0435\u0434\u0430\u043d\u0438\u044f \u0441 RDMA \u043f\u043e\u0432\u0435\u0440\u0445 InfiniBand, jemalloc \u0438 \u043f\u0440\u043e\u0447\u0438\u043c\u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f\u043c\u0438. \u0414\u0430, \u0435\u0441\u043b\u0438 \u043f\u0438\u0441\u0430\u0442\u044c \u0441 10-20 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0435 \u0441\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0435 iops, \u043d\u043e \u0432 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0438 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c\u0430 \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u043e\u0433\u043e io, Ceph \u0441\u043e\u0432\u0441\u0435\u043c \u043f\u043b\u043e\u0445 \u0434\u0430\u0436\u0435 \u043d\u0430 \u0431\u044b\u0441\u0442\u0440\u044b\u0445 \u0434\u0438\u0441\u043a\u0430\u0445. vxFlex \u0436\u0435 \u0443\u043c\u0443\u0434\u0440\u044f\u0435\u0442\u0441\u044f \u0445\u043e\u0440\u043e\u0448\u043e \u0443\u0442\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0441\u0435 \u0434\u0438\u0441\u043a\u0438 \u0438 \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442 \u0432\u044b\u0441\u043e\u043a\u0443\u044e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u041f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u043f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 \u2014 \u0443 Ceph \u0432\u044b\u0441\u043e\u043a\u0438\u0439 system time, \u0443 scaleio \u2014 io wait. \u0414\u0430, \u0442\u043e\u0433\u0434\u0430 \u043d\u0435 \u0431\u044b\u043b\u043e bluestore, \u043d\u043e \u0441\u0443\u0434\u044f \u043f\u043e \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c \u0432 \u0440\u0430\u0441\u0441\u044b\u043b\u043a\u0435, \u043e\u043d \u043d\u0435 \u0441\u0435\u0440\u0435\u0431\u0440\u044f\u043d\u0430\u044f \u043f\u0443\u043b\u044f, \u0438 \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u0434\u0430\u0436\u0435 \u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u0431\u0430\u0433-\u0440\u0435\u043f\u043e\u0440\u0442\u043e\u0432, \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u043e\u043d \u043b\u0438\u0434\u0435\u0440 \u0432 \u0442\u0440\u0435\u043a\u0435\u0440\u0435 Ceph. \u041c\u044b \u0432\u044b\u0431\u0440\u0430\u043b\u0438 \u0442\u043e\u0433\u0434\u0430\u0448\u043d\u0438\u0439 ScaleIO \u043d\u0435 \u0441\u043e\u043c\u043d\u0435\u0432\u0430\u044f\u0441\u044c. \u0423\u0447\u0438\u0442\u044b\u0432\u0430\u044f \u043c\u0435\u0442\u0440\u0438\u043a\u0443, \u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u043e\u0441\u044c \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u0430, Ceph \u0431\u044b\u043b \u0431\u044b \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0432\u044b\u0433\u043e\u0434\u0435\u043d \u0434\u0430\u0436\u0435 \u0441 \u0443\u0447\u0435\u0442\u043e\u043c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0439 Dell EMC.<\/p>\n<p>  <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0435\u0441\u043b\u0438 \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0434\u0438\u0441\u043a\u0438 \u0440\u0430\u0437\u043d\u043e\u0439 \u0435\u043c\u043a\u043e\u0441\u0442\u0438, \u0442\u043e \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0438\u0445 \u0432\u0435\u0441\u0430 \u0431\u0443\u0434\u0443\u0442 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u044b PG. \u042d\u0442\u043e \u0441\u043f\u0440\u0430\u0432\u0435\u0434\u043b\u0438\u0432\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0441 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u043e\u0431\u044a\u0435\u043c\u0430 (\u0442\u0438\u043f\u0430), \u043d\u043e \u043d\u0435 \u0441\u043f\u0440\u0430\u0432\u0435\u0434\u043b\u0438\u0432\u043e\u0435 \u043f\u043e IO. \u0418\u0437-\u0437\u0430 \u043c\u0435\u043d\u044c\u0448\u0435\u0433\u043e \u0447\u0438\u0441\u043b\u0430 PG \u043d\u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u0434\u0438\u0441\u043a\u0438 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u044c\u0441\u044f \u043c\u0435\u043d\u044c\u0448\u0435 IO, \u0447\u0435\u043c \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u043f\u0440\u0438 \u0442\u043e\u043c, \u0447\u0442\u043e \u0443 \u043d\u0438\u0445 \u043e\u0431\u044b\u0447\u043d\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0440\u0430\u0437\u0443\u043c\u043d\u044b\u043c \u0431\u0443\u0434\u0435\u0442 \u0437\u0430\u0432\u044b\u0441\u0438\u0442\u044c \u0432\u0435\u0441 \u043c\u0435\u043d\u044c\u0448\u0438\u0445 \u0434\u0438\u0441\u043a\u043e\u0432 \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 \u0438 \u043f\u043e\u043d\u0438\u0436\u0430\u0442\u044c \u0435\u0433\u043e \u043f\u0440\u0438 \u043f\u0440\u0438\u0431\u043b\u0438\u0436\u0435\u043d\u0438\u0438 \u043a nearfull. \u0422\u0430\u043a \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0441\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439, \u043d\u043e \u044d\u0442\u043e \u043d\u0435 \u0442\u043e\u0447\u043d\u043e.<\/p>\n<p>  <\/p>\n<p>\u0412 vxFlex \u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u0438\u044f \u0436\u0443\u0440\u043d\u0430\u043b\u0430 \u0438\u043b\u0438 \u043a\u0430\u043a\u043e\u0433\u043e-\u0442\u043e \u043a\u0435\u0448\u0430 \u0438\u043b\u0438 \u0442\u0438\u0440\u0438\u043d\u0433\u0430, \u0432\u0441\u044f \u0437\u0430\u043f\u0438\u0441\u044c \u0441\u0440\u0430\u0437\u0443 \u0438\u0434\u0451\u0442 \u043d\u0430 \u0434\u0438\u0441\u043a\u0438. \u0422\u0430\u043a\u0436\u0435 \u043d\u0435\u0442 \u043f\u0440\u043e\u0446\u0435\u0434\u0443\u0440\u044b \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0434\u0438\u0441\u043a\u0430 (\u0441\u043c\u043e\u0442\u0440\u044e \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 ceph-volume), \u0432\u044b \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u0434\u0430\u0451\u0442\u0435 \u0435\u043c\u0443 \u0431\u043b\u043e\u0447\u043d\u043e\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0432 \u043c\u043e\u043d\u043e\u043f\u043e\u043b\u044c\u043d\u043e\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435, \u0432\u0441\u0451 \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u0438 \u0443\u0434\u043e\u0431\u043d\u043e.<\/p>\n<p>  <\/p>\n<h2 id=\"scrub\">Scrub<\/h2>\n<p>  <\/p>\n<p>\u0411\u0430\u043d\u0430\u043b\u044c\u043d\u043e, \u0441\u043e\u0433\u043b\u0430\u0441\u0435\u043d. \u0427\u0435\u0440\u0435\u0437 \u044d\u0442\u043e, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u043f\u0440\u043e\u0448\u0435\u043b \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u0442\u043e \u0436\u0438\u0432\u0435\u0442 \u0441 Ceph.<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0432\u0430\u0448\u0435\u043c \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043c\u043d\u043e\u0433\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u0438\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435, \u043d\u0435 \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u0441\u043a\u0440\u0430\u0431\u0430 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0441\u043b\u043e\u0436\u043d\u043e. &#171;\u041c\u043d\u043e\u0433\u043e \u0434\u0430\u043d\u043d\u044b\u0445&#187; \u0432 \u043c\u043e\u0435\u043c \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u0438 \u2014 \u044d\u0442\u043e \u043d\u0435 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043e\u0431\u0449\u0438\u0439 \u043e\u0431\u044a\u0451\u043c \u0432 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0435, \u0430 \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u044b\u0445 \u0434\u0438\u0441\u043a\u043e\u0432. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u0434\u0438\u0441\u043a\u0438 \u043f\u043e 2 TB \u0438 \u043e\u043d\u0438 \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u043d\u0430 &gt;50%, \u0442\u043e \u0443 \u0432\u0430\u0441 \u043c\u043d\u043e\u0433\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 Ceph, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0434\u0438\u0441\u043a\u0430 \u0432\u0441\u0435\u0433\u043e \u0434\u0432\u0430. \u041c\u044b \u0432 \u0441\u0432\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u043e\u0447\u0435\u043d\u044c \u043d\u0430\u0441\u0442\u0440\u0430\u0434\u0430\u043b\u0438\u0441\u044c \u043e\u0442 \u0441\u043a\u0440\u0430\u0431\u0430 \u0438 \u0434\u043e\u043b\u0433\u043e \u0438\u0441\u043a\u0430\u043b\u0438 \u0440\u0435\u0448\u0435\u043d\u0438\u0435. \u041d\u0430\u0448 <a href=\"https:\/\/ivirt-it.ru\/ceph-reduce-osd-scrub-impact\/\">\u0440\u0435\u0446\u0435\u043f\u0442<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u043f\u043e \u0441\u0435\u0439 \u0434\u0435\u043d\u044c.<\/p>\n<p>  <\/p>\n<p>\u0423 vxFlex OS \u0442\u043e\u0436\u0435 \u0435\u0441\u0442\u044c \u0442\u0430\u043a\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0438 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u043e\u043d \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d, \u043a\u0430\u043a \u0438 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0451, \u0447\u0442\u043e \u043d\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e. \u041f\u0440\u0438 \u0432\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0438 \u043c\u043e\u0436\u043d\u043e \u0437\u0430\u0434\u0430\u0442\u044c \u0432\u0441\u0435\u0433\u043e \u043e\u0434\u0438\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u2014 bandwidth \u0432 \u043a\u0438\u043b\u043e\u0431\u0430\u0439\u0442\u0430\u0445. \u041c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043e\u043d \u043d\u0430 \u043b\u0435\u0442\u0443 \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0434\u043b\u044f \u0432\u0430\u0448\u0435\u0433\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435. \u041c\u044b \u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0438 \u043f\u043e\u043a\u0430 \u0432\u0441\u0451 \u0445\u043e\u0440\u043e\u0448\u043e, \u0434\u0430\u0436\u0435 \u043c\u0435\u043d\u044f\u0435\u043c \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0434\u0438\u0441\u043a\u0438 \u043f\u043e\u0441\u043b\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u043e\u0431 \u043e\u0448\u0438\u0431\u043a\u0430\u0445.<\/p>\n<p>  <\/p>\n<p>\u041a\u0441\u0442\u0430\u0442\u0438, \u0447\u0442\u043e \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e, vxFlex \u0441\u0430\u043c \u0440\u0430\u0437\u0440\u0443\u043b\u0438\u0432\u0430\u0435\u0442 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438 \u0442\u0438\u043f\u0430 scrub-error. Ceph \u0436\u0435 \u0441 \u0442\u043e\u0439 \u0436\u0435 \u0440\u0435\u043f\u043b\u0438\u043a\u043e\u0439 2 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0440\u0443\u0447\u043d\u043e\u0433\u043e \u0432\u043c\u0435\u0448\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430.<\/p>\n<p>  <\/p>\n<h2 id=\"monitoring\">\u041c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433<\/h2>\n<p>  <\/p>\n<p>Luminous \u2014 \u0437\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0432\u043e \u043c\u043d\u043e\u0433\u0438\u0445 \u0441\u043c\u044b\u0441\u043b\u0430\u0445 \u0440\u0435\u043b\u0438\u0437. \u0412 \u044d\u0442\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u043f\u043e\u044f\u0432\u0438\u043b\u0438\u0441\u044c \u0440\u043e\u0434\u043d\u044b\u0435 \u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0430 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430. \u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u043e\u0433\u043e MGR-\u043f\u043b\u0430\u0433\u0438\u043d\u0430 \u0438 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0448\u0430\u0431\u043b\u043e\u043d\u0430 \u0434\u043b\u044f Zabbix \u043c\u043e\u0436\u043d\u043e \u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 \u0441 \u0433\u0440\u0430\u0444\u0438\u043a\u0430\u043c\u0438 \u0438 \u0441\u0430\u043c\u044b\u043c\u0438 \u0432\u0430\u0436\u043d\u044b\u043c\u0438 \u0430\u043b\u0435\u0440\u0442\u0430\u043c\u0438 (3 \u0448\u0442\u0443\u043a\u0438). \u0422\u0430\u043a\u0436\u0435 \u0435\u0441\u0442\u044c \u043f\u043b\u0430\u0433\u0438\u043d\u044b \u0438 \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u0438\u0445 \u0441\u0438\u0441\u0442\u0435\u043c. \u042d\u0442\u043e \u043f\u0440\u0430\u0432\u0434\u0430 \u043a\u0440\u0443\u0442\u043e, \u043c\u044b \u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f \u044d\u0442\u0438\u043c, \u043d\u043e \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u043d\u0443\u0436\u043d\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u0441\u0432\u043e\u0438 \u0441\u043a\u0440\u0438\u043f\u0442\u044b \u0438 \u0448\u0430\u0431\u043b\u043e\u043d\u044b \u0434\u043b\u044f \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 IO \u043f\u043e \u043f\u0443\u043b\u0430\u043c, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u043a\u043e\u0433\u0434\u0430 \u043e\u0437\u043e\u0440\u043d\u0438\u0447\u0430\u0435\u0442 gc, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0442\u0435\u043c\u0430 \u2014 \u044d\u0442\u043e \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 RGW \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432.<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ys\/ya\/xq\/ysyaxqffjukjtgkv3ecnu0_q2ro.png\"><\/p>\n<p>  <\/p>\n<p>\u0411\u0435\u0437 \u043d\u0435\u0433\u043e \u044f \u043f\u0440\u043e\u0441\u0442\u043e \u043a\u0430\u043a \u0441\u043b\u0435\u043f\u043e\u0439 \u043a\u043e\u0442\u0435\u043d\u043e\u043a. \u0415\u0433\u043e \u0442\u043e\u0436\u0435 \u043d\u0443\u0436\u043d\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u0441\u0430\u043c\u043e\u043c\u0443.<br \/>  \u0410 \u044d\u0442\u043e \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442 \u0432\u043d\u0435\u0448\u043d\u0435\u0433\u043e \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 S3, \u0442\u043e \u043a\u0430\u043a \u043a\u043b\u0438\u0435\u043d\u0442\u044b &#171;\u0432\u0438\u0434\u044f\u0442&#187; \u0441\u0435\u0440\u0432\u0438\u0441:<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ax\/ge\/u5\/axgeu5iyyjami3qszjo97akj6oc.png\"><\/p>\n<p>  <\/p>\n<p>\u041a \u0441\u0430\u043c\u043e\u043c\u0443 Ceph \u044d\u0442\u043e\u0442 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433, \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044f, \u043d\u043e \u044f \u043e\u0447\u0435\u043d\u044c \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u044e \u0432\u0430\u043c \u0435\u0433\u043e \u0437\u0430\u0432\u0435\u0441\u0442\u0438, \u0435\u0441\u043b\u0438 \u0442\u0430\u043a\u043e\u0432\u043e\u0433\u043e \u0435\u0449\u0451 \u043d\u0435\u0442.<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0438\u044f\u0442\u043d\u043e \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u044b \u0421eph \u0443\u043c\u0435\u044e\u0442 \u0432 Graylog \u043f\u043e \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0443 GELF \u0438 \u043c\u044b \u044d\u0442\u0438\u043c \u043f\u043e\u043b\u044c\u0437\u0443\u0435\u043c\u0441\u044f. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0430\u043b\u0435\u0440\u0442\u044b, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u0433\u0434\u0430 OSD down, out, failed \u0438 \u0434\u0440\u0443\u0433\u0438\u0435. \u041f\u0440\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u043e\u043c \u043f\u0430\u0440\u0441\u0438\u043d\u0433\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u043c\u043e\u0436\u0435\u043c \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043b\u043e\u0433\u0438 \u0437\u0430 \u043f\u0435\u0440\u0438\u043e\u0434 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0437\u043d\u0430\u0442\u044c \u0442\u043e\u043f OSD \u043f\u043e \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0443 \u0432 down \u0437\u0430 \u043c\u0435\u0441\u044f\u0446, \u0438\u043b\u0438 \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a \u0438\u043d\u0442\u0435\u043d\u0441\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u0441\u043a\u0440\u0430\u0431\u0431\u0438\u043d\u0433\u0430.<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/sd\/hz\/av\/sdhzavl-jyjrmajz5zlsjamujzo.png\"><\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a-\u0442\u043e \u0431\u044b\u043b\u043e, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 OSD \u043f\u043e\u0434\u0432\u0438\u0441\u0430\u043b\u0438 \u0438 \u043d\u0435 \u0443\u0441\u043f\u0435\u0432\u0430\u043b\u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u043d\u0430 heartbeat \u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u044b \u0438\u0445 \u043e\u0442\u043c\u0435\u0447\u0430\u043b\u0438 \u043a\u0430\u043a failed (\u0441\u043c. \u0441\u043a\u0440\u0438\u043d \u0432\u044b\u0448\u0435). \u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u0431\u044b\u043b\u0430 \u0432 <code>vm.zone_reclaim_mode=1<\/code> \u043d\u0430 \u0434\u0432\u0443\u0445\u0441\u043e\u043a\u0435\u0442\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0435\u0440\u0430\u0445 \u0441 NUMA.<\/p>\n<p>  <\/p>\n<p>\u0412\u043e\u0442 \u0432\u0440\u043e\u0434\u0435 \u0438 \u043f\u043e\u0445\u0432\u0430\u043b\u0438\u043b Ceph. \u041f\u0440\u0430\u0432\u0434\u0430 c vxFlex \u044d\u0442\u043e \u0442\u043e\u0436\u0435 \u043c\u043e\u0436\u043d\u043e. \u0410 \u0435\u0449\u0451 \u0443 \u043d\u0435\u0433\u043e \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0434\u0435\u0448\u0431\u043e\u0430\u0440\u0434:<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hu\/nz\/e2\/hunze2e6ucygc4anzyep2wku050.png\"><\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u043d\u044f\u0442\u043d\u043e \u043a\u0430\u043a\u043e\u0439 \u043a\u043b\u0438\u0435\u043d\u0442 \u0433\u0435\u043d\u0435\u0440\u0438\u0442 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443:<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/jv\/fa\/ey\/jvfaeyd7ql3kalcrcabrckekuqg.png\"><\/p>\n<p>  <\/p>\n<p>\u0414\u0435\u0442\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f IO \u043f\u043e \u043d\u043e\u0434\u0430\u043c \u0438 \u0434\u0438\u0441\u043a\u0430\u043c:<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/sy\/vp\/lq\/syvplqbfmjtek_wii033vszoq9s.png\"><\/p>\n<p>  <\/p>\n<p>\u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043a\u0430\u043a \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u0434\u0438\u0441\u043a\u0438 \u0438 \u043a\u0430\u043a \u043f\u043e\u0447\u0442\u0438 \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u043d\u0430 \u043d\u0438\u0445 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f IO, \u0442\u043e \u0447\u0435\u0433\u043e \u0442\u0430\u043a \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 Ceph.<\/p>\n<p>  <\/p>\n<p>\u0412\u0441\u0435 \u043a\u0440\u0443\u0442\u0438\u043b\u043a\u0438 \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0439:<\/p>\n<p>  <\/p>\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/h2\/8j\/ff\/h28jff_jzpstuucf5wfx8vrrmay.png\"><\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u043e \u0434\u0435\u0448\u0431\u043e\u0430\u0440\u0434 Ceph, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0434\u0432\u0435\u0437\u043b\u0438 \u0432 Luminous \u044f \u0438 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043d\u0435 \u0431\u0443\u0434\u0443. \u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0432 2.0, \u0447\u0442\u043e \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u0432 Mimic \u0431\u0443\u0434\u0435\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435, \u043d\u043e \u044f \u0435\u0433\u043e \u0435\u0449\u0451 \u043d\u0435 \u0441\u043c\u043e\u0442\u0440\u0435\u043b.<\/p>\n<p>  <\/p>\n<h2 id=\"vxflex-tozhe-ne-idealen\">vxFlex \u0442\u043e\u0436\u0435 \u043d\u0435 \u0438\u0434\u0435\u0430\u043b\u0435\u043d<\/h2>\n<p>  <\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u043a\u043b\u0430\u0441\u0442\u0435\u0440 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u0432 <strong>Degraded state<\/strong> \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u0433\u0434\u0430 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0434\u0438\u0441\u043a \u0438\u043b\u0438 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u0441\u0435\u0440\u0432\u0435\u0440 \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u043e\u0432\u044b\u0435 \u0432\u043e\u043b\u044e\u043c\u044b.<br \/>  \u041a\u043b\u0438\u0435\u043d\u0442 vxFlex \u2014 \u043c\u043e\u0434\u0443\u043b\u044c \u044f\u0434\u0440\u0430 \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u043d\u043e\u0432\u044b\u0445 \u044f\u0434\u0435\u0440 \u043e\u0442 RH \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439. \u041e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 7.5 \u0435\u0449\u0451 \u043d\u0435\u0442, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440. \u0412 Ceph \u043a\u043b\u0438\u0435\u043d\u0442\u044b \u0434\u043b\u044f RBD \u0438 cephfs \u2014 \u043c\u043e\u0434\u0443\u043b\u0438 \u0430\u043f\u0441\u0442\u0440\u0438\u043c\u043d\u043e\u0433\u043e \u044f\u0434\u0440\u0430 \u0438 \u0441 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0435\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u043e\u043d\u0438 \u0442\u043e\u0436\u0435 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u044e\u0442\u0441\u044f.<br \/>  vxFlex \u0431\u0435\u0434\u0435\u043d \u043d\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438 \u0441 Ceph. vxFlex \u2014 \u044d\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0431\u043b\u043e\u0447\u043d\u044b\u0439 \u0441\u0442\u043e\u0440\u0430\u0434\u0436, \u0443 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043d\u0435\u0442, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0438\u0440\u0438\u043d\u0433\u0430.<br \/>  \u0420\u0430\u0441\u0442\u0438 \u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043e 16 PB, \u0442\u0430\u043a\u043e\u0435 \u0432\u043e\u0442 \u0435\u0449\u0451 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0435\u0441\u0442\u044c. \u0421 \u0421eph \u0431\u044b \u0445\u0432\u0430\u0442\u0438\u043b\u043e \u043d\u0435\u0440\u0432\u043e\u0432 \u0434\u043e 2 PB \u0432\u044b\u0440\u0430\u0441\u0442\u0438\u2026<\/p>\n<p>  <\/p>\n<h2 id=\"zaklyuchenie\">\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435<\/h2>\n<p>  <\/p>\n<p>\u0427\u0430\u0441\u0442\u043e \u0441\u043b\u044b\u0448\u0443, \u0447\u0442\u043e Ceph \u044d\u0442\u043e \u0430\u043a\u0430\u0434\u0435\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0435\u043a\u0442 \u0441 \u043a\u0443\u0447\u0435\u0439 \u043d\u0435\u0440\u0435\u0448\u0451\u043d\u043d\u044b\u0445 \u043f\u0440\u043e\u0431\u043b\u0435\u043c, \u0447\u0442\u043e \u044d\u0442\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a \u0431\u0435\u0437 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u0447\u0442\u043e \u0435\u0433\u043e \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e\u0441\u0442\u044c \u043a\u043e\u043c\u043f\u0435\u043d\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0435\u0433\u043e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e, \u0447\u0442\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0438\u0442\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0442\u043e\u0440\u0430\u0434\u0436 \u043d\u0430 Ceph \u2014 \u0443\u0442\u043e\u043f\u0438\u044f. \u0412 \u0446\u0435\u043b\u043e\u043c \u044f \u0441\u043e\u0433\u043b\u0430\u0441\u0435\u043d \u0441\u043e \u0432\u0441\u0435\u043c.<\/p>\n<p>  <\/p>\n<p>\u041d\u0435\u0434\u0430\u0432\u043d\u043e \u043d\u0430 \u0445\u0430\u0431\u0440\u0435 \u0431\u044b\u043b\u0430 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u044f \u043e \u0442\u043e\u043c, \u043a\u0430\u043a\u043e\u0439 Ceph \u0437\u0434\u043e\u0440\u043e\u0432\u0441\u043a\u0438\u0439 \u0438 \u0447\u0442\u043e \u0438\u043c \u043c\u043e\u0436\u0435\u0442 \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c &#171;\u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0430\u0434\u043c\u0438\u043d&#187;. \u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043c\u043e\u0439 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u0438\u043a \u043f\u043e\u0434\u043a\u0430\u043b\u044b\u0432\u0430\u043b \u043c\u0435\u043d\u044f, \u043c\u043e\u043b &#171;\u043a\u0430\u043a \u0442\u0430\u043a \u0421\u0430\u043d\u044f, \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0430\u0434\u043c\u0438\u043d \u043c\u043e\u0436\u0435\u0442, \u0430 \u0443 \u0442\u0435\u0431\u044f \u0432\u0435\u0447\u043d\u043e R&amp;D, \u0432\u0435\u0447\u043d\u043e \u043a\u0430\u043a\u0438\u0435-\u0442\u043e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b&#187;. \u041c\u043d\u0435 \u0431\u044b\u043b\u043e \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u043e\u0431\u0438\u0434\u043d\u043e. \u041d\u0435 \u0437\u043d\u0430\u044e \u043a\u0430\u043a\u0438\u0435 \u0442\u0430\u043c \u0443 \u0440\u0435\u0431\u044f\u0442 &#171;\u043e\u0431\u044b\u0447\u043d\u044b\u0435 \u0430\u0434\u043c\u0438\u043d\u044b&#187;, \u043d\u043e Ceph \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u043d\u0443\u0436\u043d\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043a\u0432\u0430\u043b\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u0430, \u043e\u043d \u043a\u0430\u043a \u0436\u0438\u0432\u043e\u0439 \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u043e \u0438 \u0434\u0435\u043b\u043e \u0431\u043e\u043b\u0435\u0435\u0442. <\/p>\n<p>  <\/p>\n<p>\u0415\u0441\u043b\u0438 \u0432\u044b \u0441\u043f\u0440\u043e\u0441\u0438\u0442\u0435 \u043c\u0435\u043d\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c Ceph \u0432 2k18 \u0438\u043b\u0438 \u043d\u0435\u0442, \u0442\u043e \u044f \u043e\u0442\u0432\u0435\u0447\u0443 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448 \u0441\u0435\u0440\u0432\u0438\u0441 \u0434\u043e\u043b\u0436\u0435\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c 24\/7 \u0438 \u043f\u043b\u0430\u043d\u043e\u0432\u0430\u044f \u0438\u043b\u0438 \u043d\u0435\u043f\u043b\u0430\u043d\u043e\u0432\u0430\u044f \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u043d\u0435\u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u0430 (\u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0439 S3, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0438\u043b\u0438 EBS), \u0430 \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u044f \u0432 \u0440\u0430\u0431\u043e\u0442\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u043f\u043e\u0432\u043b\u0435\u0447\u0435\u0442 \u0437\u0430 \u0441\u043e\u0431\u043e\u0439 \u043d\u0435\u0433\u043e\u0434\u043e\u0432\u0430\u043d\u0438\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432 \u0438 \u043d\u0430\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0440\u0443\u0431\u043b\u0435\u043c, \u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c Ceph \u043e\u0447\u0435\u043d\u044c \u0438 \u043e\u0447\u0435\u043d\u044c \u043e\u043f\u0430\u0441\u043d\u043e. \u0421\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u0432\u044b \u0431\u0443\u0434\u0435\u0442\u0435 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u0442\u0440\u0430\u0434\u0430\u0442\u044c. \u0410 \u0435\u0441\u043b\u0438 \u043a \u0442\u043e\u043c\u0443 \u0436\u0435 \u043d\u0443\u0436\u043d\u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u2014 \u0442\u043e \u044d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0432\u044b\u0433\u043e\u0434\u043d\u043e. \u0415\u0441\u043b\u0438 \u0436\u0435 \u0432\u044b \u0441\u0442\u0440\u043e\u0438\u0442\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u0434\u043b\u044f \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0445 \u043d\u0443\u0436\u0434 \u043f\u0440\u043e\u0435\u043a\u0442\u0430\/\u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438 \u0438 \u0435\u0441\u0442\u044c \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c maintenance \u0441 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u043e\u0439 \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u0438\u043b\u0438 \u0432\u044b\u043a\u0440\u0443\u0447\u0438\u0432\u0430\u0442\u044c \u043d\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c backfilling \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445, \u0442\u043e c Ceph \u0432\u044b \u0443\u0436\u0438\u0432\u0435\u0442\u0435\u0441\u044c \u0438, \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u043e\u043d \u0434\u043e\u0431\u0430\u0432\u0438\u0442 \u043d\u0435\u043a\u043e\u0439 \u043f\u0438\u043a\u0430\u043d\u0442\u043d\u043e\u0441\u0442\u0438 \u0432 \u0432\u0430\u0448\u0443 \u0436\u0438\u0437\u043d\u044c.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443 \u0436\u0435 \u043c\u044b \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c Ceph \u043e\u0442\u043d\u043e\u0441\u044f\u0441\u044c \u043a \u043f\u0435\u0440\u0432\u043e\u0439 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0438? \u041a\u0430\u043a \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u0441\u044f, &#171;\u043e\u0442 \u043d\u0435\u043d\u0430\u0432\u0438\u0441\u0442\u0438 \u0434\u043e \u043b\u044e\u0431\u0432\u0438 \u043e\u0434\u0438\u043d \u0448\u0430\u0433&#187;. \u0422\u0430\u043a \u0438 \u0443 \u043c\u0435\u043d\u044f \u0441 Ceph. \u041b\u044e\u0431\u043b\u044e \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0437\u043d\u0430\u044e. \u0421\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0439\u0434\u0435\u043d\u043e \u0441 \u043d\u0438\u043c \u0432\u043c\u0435\u0441\u0442\u0435, \u0447\u0442\u043e\u0431\u044b \u0432\u0437\u044f\u0442\u044c \u0438 \u0434\u0440\u043e\u043f\u043d\u0443\u0442\u044c \u044d\u0442\u0438 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044f \u0438 \u043d\u0430\u043a\u043e\u043f\u0438\u0432\u0448\u0443\u044e\u0441\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0442\u0438\u0437\u0443, \u0442\u0435\u043c \u0431\u043e\u043b\u0435\u0435 \u0441\u0435\u0439\u0447\u0430\u0441, \u043a\u043e\u0433\u0434\u0430 \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u0441\u0435 \u043f\u043e\u0434 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0435\u043c\u2026<br \/>  \u041d\u043e \u0431\u0443\u043b\u043a\u0438 \u0440\u0430\u0441\u0441\u043b\u0430\u0431\u043b\u044f\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f!<br \/>  \u0412\u0441\u0435\u043c HEALTH_OK!<\/p>\n<\/div>\n<p>        <script class=\"js-mediator-script\">!function(e){function t(t,n){if(!(n in e)){for(var r,a=e.document,i=a.scripts,o=i.length;o--;)if(-1!==i[o].src.indexOf(t)){r=i[o];break}if(!r){r=a.createElement(\"script\"),r.type=\"text\/javascript\",r.async=!0,r.defer=!0,r.src=t,r.charset=\"UTF-8\";var d=function(){var e=a.getElementsByTagName(\"script\")[0];e.parentNode.insertBefore(r,e)};\"[object Opera]\"==e.opera?a.addEventListener?a.addEventListener(\"DOMContentLoaded\",d,!1):e.attachEvent(\"onload\",d):d()}}}t(\"\/\/mediator.mail.ru\/script\/2820404\/\",\"_mediator\")}(window);<\/script>     <br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/post\/422905\/\"> https:\/\/habr.com\/post\/422905\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"\n<div class=\"post__text post__text-html js-mediator-article\">\n<p><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/fm\/pp\/3b\/fmpp3bma4xf_j2pxwystnjgezc0.png\"><\/p>\n<p>  <\/p>\n<p>\u042f \u043b\u044e\u0431\u043b\u044e Ceph. \u042f \u0440\u0430\u0431\u043e\u0442\u0430\u044e \u0441 \u043d\u0438\u043c \u0443\u0436\u0435 4 \u0433\u043e\u0434\u0430 (0.80.x \u2014 <del>12.2.6<\/del>, 12.2.5). \u041f\u043e\u0440\u043e\u0439 \u044f \u0442\u0430\u043a \u0443\u0432\u043b\u0435\u0447\u0435\u043d \u0438\u043c, \u0447\u0442\u043e \u043f\u0440\u043e\u0432\u043e\u0436\u0443 \u0432\u0435\u0447\u0435\u0440\u0430 \u0438 \u043d\u043e\u0447\u0438 \u0432 \u0435\u0433\u043e \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438, \u0430 \u043d\u0435 \u0441\u043e \u0441\u0432\u043e\u0435\u0439 \u0434\u0435\u0432\u0443\u0448\u043a\u043e\u0439.\u2028\u042f \u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u043b\u0441\u044f \u0441 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430\u043c\u0438 \u0432 \u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0435, \u0430 \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e \u0436\u0438\u0442\u044c \u0438 \u043f\u043e \u0441\u0435\u0439 \u0434\u0435\u043d\u044c. \u041f\u043e\u0440\u043e\u0439 \u044f \u0440\u0430\u0434\u043e\u0432\u0430\u043b\u0441\u044f \u043b\u0435\u0433\u043a\u0438\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u044f\u043c, \u0430 \u0438\u043d\u043e\u0433\u0434\u0430 \u043c\u0435\u0447\u0442\u0430\u043b \u043e \u0432\u0441\u0442\u0440\u0435\u0447\u0435 \u0441 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430\u043c\u0438, \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0440\u0430\u0437\u0438\u0442\u044c \u0441\u0432\u043e\u0435 \u043d\u0435\u0433\u043e\u0434\u043e\u0432\u0430\u043d\u0438\u0435. \u041d\u043e Ceph \u043f\u043e-\u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u043d\u0430\u0448\u0435\u043c \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u0438 \u043d\u0435 \u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u043e, \u0447\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u043d\u043e\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445, \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u043c\u043d\u043e\u0439. \u0412 \u044d\u0442\u043e\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0435 \u044f \u043f\u043e\u0434\u0435\u043b\u044e\u0441\u044c \u043d\u0430\u0448\u0438\u043c \u043e\u043f\u044b\u0442\u043e\u043c \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438 Ceph, \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0440\u043e\u0434\u0435 \u0432\u044b\u0441\u043a\u0430\u0436\u0443\u0441\u044c \u043d\u0430 \u0442\u0435\u043c\u0443 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043c\u043d\u0435 \u043d\u0435 \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f \u0432 \u044d\u0442\u043e\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u0438 \u0438 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043c\u043e\u0433\u0443 \u0442\u0435\u043c, \u043a\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u0438\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a \u043d\u0435\u043c\u0443. \u041a \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044e \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043c\u0435\u043d\u044f \u043f\u043e\u0434\u0442\u043e\u043b\u043a\u043d\u0443\u043b\u0438 \u0441\u043e\u0431\u044b\u0442\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430\u0447\u0430\u043b\u0438\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0433\u043e\u0434 \u043d\u0430\u0437\u0430\u0434, \u043a\u043e\u0433\u0434\u0430 \u0432 \u043d\u0430\u0448 \u043f\u0440\u043e\u0435\u043a\u0442 \u0437\u0430\u0432\u0435\u0437\u043b\u0438 Dell EMC ScaleIO, \u043d\u044b\u043d\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u043a\u0430\u043a Dell EMC VxFlex OS.<\/p>\n<p>  <\/p>\n<p>\u042d\u0442\u043e \u043d\u0438 \u0432 \u043a\u043e\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043d\u0435 \u0440\u0435\u043a\u043b\u0430\u043c\u0430 Dell EMC \u0438\u043b\u0438 \u0438\u0445 \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430! \u041b\u0438\u0447\u043d\u043e \u044f \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0442\u043d\u043e\u0448\u0443\u0441\u044c \u043a \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0446\u0438\u044f\u043c, \u0438 \u0447\u0435\u0440\u043d\u044b\u043c \u044f\u0449\u0438\u043a\u0430\u043c \u0432\u0440\u043e\u0434\u0435 VxFlex OS. \u041d\u043e \u043a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u0432\u0441\u00eb \u0432 \u043c\u0438\u0440\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0438 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 VxFlex OS \u043e\u0447\u0435\u043d\u044c \u0443\u0434\u043e\u0431\u043d\u043e \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u043a\u0430\u043a\u043e\u0432 Ceph \u0441 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u0438, \u0438 \u044f \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u044e \u044d\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c. <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-289225","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/289225","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=289225"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/289225\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=289225"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=289225"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=289225"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}