{"id":474382,"date":"2025-09-09T15:00:43","date_gmt":"2025-09-09T15:00:43","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=474382"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=474382","title":{"rendered":"<span>\u0418\u0433\u0440\u0430\u0435\u043c\u0441\u044f \u0441 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u043e\u0439 Tesla H100 (GH100)<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/203\/bfc\/1ce\/203bfc1ce6e14c7a9fc5fe0b3d069cdd.png\" width=\"1400\" height=\"739\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/203\/bfc\/1ce\/203bfc1ce6e14c7a9fc5fe0b3d069cdd.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/203\/bfc\/1ce\/203bfc1ce6e14c7a9fc5fe0b3d069cdd.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0442\u0435\u0441\u0442\u044b \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u043e\u043d\u043e\u043a \u043e\u0442\u00a0Nvidia (<a href=\"https:\/\/habr.com\/ru\/articles\/913174\/\" rel=\"noopener noreferrer nofollow\">RTX 5090<\/a>, <a href=\"https:\/\/habr.com\/ru\/articles\/789394\/\" rel=\"noopener noreferrer nofollow\">A5000\u00a0Ada<\/a>,\u00a0<a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">A100<\/a>,\u00a0<a href=\"https:\/\/habr.com\/ru\/articles\/597911\/\" rel=\"noopener noreferrer nofollow\">3090\u00a0\u0438 A10<\/a>). \u0412 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u043c\u043d\u0435 \u0443\u0436\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u043f\u043e\u043a\u0440\u0443\u0442\u0438\u0442\u044c \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u0438\u043a\u043e\u0432 H100 \u0441 80 GB VRAM.<\/p>\n<p>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0431\u0443\u0434\u0435\u043c, \u0441\u043d\u0438\u043c\u0435\u043c \u043f\u043e\u043f\u0443\u0433\u0430\u0435\u0432 \u0447\u0435\u0440\u0435\u0437\u00a0<code>gpu-burn<\/code>\u00a0, \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c MIG (multi-instance GPU) \u0438 \u0442\u0430\u043a\u0436\u0435 \u0437\u0430\u043c\u0435\u0440\u0438\u043c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043e\u0434\u043d\u043e\u0439 \u043d\u0430\u0448\u0435\u0439 \u043f\u0440\u043e\u0436\u043e\u0440\u043b\u0438\u0432\u043e\u0439 \u0441\u0435\u0442\u043a\u0438.<\/p>\n<p>\u0421 <a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">A100<\/a> \u043c\u043d\u0435 \u043a\u0430\u043a-\u0442\u043e \u0442\u043e\u0436\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f, \u043d\u043e \u044f \u043d\u0435 \u0434\u0443\u043c\u0430\u043b, \u0447\u0442\u043e \u0432 \u0420\u043e\u0441\u0441\u0438\u0438 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435 \u043f\u043e\u044f\u0432\u044f\u0442\u0441\u044f H100. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u0448\u0443\u0442\u043a\u0430 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u043e \u0441\u0430\u043d\u043a\u0446\u0438\u0438 \u0438 \u043f\u0440\u043e <a href=\"https:\/\/gamegpu.com\/%D0%B6%D0%B5%D0%BB%D0%B5%D0%B7%D0%BE\/prodazha-sumok-iz-nvidia-h100-aksessuar-za-65-536-shokiroval-internet\" rel=\"noopener noreferrer nofollow\">\u0441\u0443\u043c\u043e\u0447\u043a\u0443<\/a>, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u0443\u044e \u0438\u0437 H100. <\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0432 \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0435\u043c \u043f\u0440\u043e &#171;\u0444\u0438\u0448\u043a\u0443&#187; MIG, <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#supported-gpus\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0443\u044e <\/a>\u0434\u043b\u044f \u0441\u0430\u043c\u044b\u0445 \u0442\u043e\u043b\u0441\u0442\u044b\u0445 \u043a\u0430\u0440\u0442 \u0432 \u043b\u0438\u043d\u0435\u0439\u043a\u0430\u0445 NVIDIA (\u0438\u0437 &#171;\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445&#187; \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c A100 \u0438 H100, \u043d\u043e \u0435\u0441\u0442\u044c \u0438 \u044d\u043a\u0437\u043e\u0442\u0438\u043a\u0430 \u0442\u0438\u043f\u0430 RTX PRO 6000 Blackwell Workstation Edition, GB200, B200, H200, A30).<\/p>\n<p>\u0412 \u043a\u043e\u043d\u0446\u0435 \u0434\u0430\u0436\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0434\u0435\u0442\u0435\u043a\u0442\u0438\u0432\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f.<\/p>\n<h3>\u0417\u0430\u043f\u0440\u0435\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0446\u0435\u043d\u0430 \u0438 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438<\/h3>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u043e \u0434\u0435\u0436\u0443\u0440\u043d\u0430\u044f \u0448\u0443\u0442\u043a\u0430 \u043f\u0440\u043e \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0443 \u0446\u0435\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f Nvidia:<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043c\u0435\u0448\u043d\u0430\u044f \u0448\u0443\u0442\u043a\u0430<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ed3\/69a\/8ff\/ed369a8ff88fb654c72a3efc1e212ecb.png\" width=\"799\" height=\"519\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/ed3\/69a\/8ff\/ed369a8ff88fb654c72a3efc1e212ecb.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/ed3\/69a\/8ff\/ed369a8ff88fb654c72a3efc1e212ecb.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<\/div>\n<\/details>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fec\/365\/e52\/fec365e521b3cc56747c1437d4377698.png\" alt=\"\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0432\u0441\u0435\u0445 \u043a\u0430\u0440\u0442\u043e\u0447\u0435\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0442\u044b\u043a\u0430\u043b \u0438\u043b\u0438 \u0434\u0435\u0440\u0436\u0430\u043b \u0432 \u0440\u0443\u043a\u0430\u0445 \" title=\"\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0432\u0441\u0435\u0445 \u043a\u0430\u0440\u0442\u043e\u0447\u0435\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0442\u044b\u043a\u0430\u043b \u0438\u043b\u0438 \u0434\u0435\u0440\u0436\u0430\u043b \u0432 \u0440\u0443\u043a\u0430\u0445 \" width=\"2665\" height=\"763\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/fec\/365\/e52\/fec365e521b3cc56747c1437d4377698.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fec\/365\/e52\/fec365e521b3cc56747c1437d4377698.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0432\u0441\u0435\u0445 \u043a\u0430\u0440\u0442\u043e\u0447\u0435\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0442\u044b\u043a\u0430\u043b \u0438\u043b\u0438 \u0434\u0435\u0440\u0436\u0430\u043b \u0432 \u0440\u0443\u043a\u0430\u0445 <\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u0435 \u0432\u0435\u0449\u0438:<\/strong><\/p>\n<ul>\n<li>\n<p>80 GB VRAM;<\/p>\n<\/li>\n<li>\n<p>\u041f\u0430\u0441\u0441\u0438\u0432\u043d\u0430\u044f 2-\u0441\u043b\u043e\u0442\u043e\u0432\u0430\u044f (!) \u043a\u0430\u0440\u0442\u0430 \u0441 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0438\u0437\u043a\u0438\u043c TDP;<\/p>\n<\/li>\n<li>\n<p>\u041d\u043e\u0432\u044b\u0439 &#171;\u043f\u043b\u043e\u0445\u043e\u0439&#187; \u0440\u0430\u0437\u044a\u0435\u043c \u043f\u0438\u0442\u0430\u043d\u0438\u044f (\u0434\u0430\u0436\u0435 \u044f \u0443\u0436\u0435 \u043f\u0438\u0441\u0430\u043b \u043f\u0440\u043e \u044d\u0442\u043e, \u043c\u0430\u043b\u043e \u0441\u043c\u044b\u0441\u043b\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c\u0441\u044f);<\/p>\n<\/li>\n<li>\n<p>\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 CUDA \u0438\u043b\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u0442\u0443\u0442 \u0432\u0440\u044f\u0434 \u043b\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b;<\/p>\n<\/li>\n<\/ul>\n<p>\u0418\u043d\u0442\u0435\u0440\u0435\u0441 \u0442\u0443\u0442 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u0430\u044f \u0446\u0435\u043d\u0430, \u0437\u0430 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0435\u0451 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043c\u043e\u0436\u043d\u043e \u043a\u0443\u043f\u0438\u0442\u044c \u0432 \u0420\u043e\u0441\u0441\u0438\u0438. \u041e\u043d\u0430 \u0440\u043e\u0432\u043d\u043e \u0432 2 \u0440\u0430\u0437\u0430 \u0432\u044b\u0448\u0435 \u0446\u0435\u043d\u044b \u043d\u0430 A100 (\u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0435\u0451 \u0432\u044b\u0445\u043e\u0434\u0430) \u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 3\u041c \u0440\u0443\u0431\u043b\u0435\u0439. \u0410\u0440\u0435\u043d\u0434\u0430 \u043e\u0434\u043d\u043e\u0439 \u0442\u0430\u043a\u043e\u0439 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u0441\u0442\u043e\u0438\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 300 &#8212; 350 \u043a\u0438\u043b\u043e\u0440\u0443\u0431\u043b\u0435\u0439 \u0432 \u043c\u0435\u0441\u044f\u0446. \u0427\u0443\u0442\u044c \u0437\u0430\u0431\u0435\u0433\u0430\u044f \u0432\u043f\u0435\u0440\u0451\u0434 \u2026 \u0446\u0435\u043d\u0430 \u043f\u0440\u043e\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u043e\u0442 \u0446\u0435\u043d\u044b A100 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u043d\u043e \u0437\u0430 \u043e\u0447\u0435\u043d\u044c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u044b \u043d\u0435 \u0441\u043c\u043e\u0433\u043b\u0438 \u0440\u0430\u0441\u043a\u0440\u044b\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b.<\/p>\n<h3>\u041f\u0430\u0440\u0430 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e MIG<\/h3>\n<p>\u0414\u043b\u044f \u043e\u0447\u0435\u043d\u044c \u0442\u043e\u043b\u0441\u0442\u044b\u0445 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0445 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442, \u0443 Nvidia \u0435\u0441\u0442\u044c \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044f MIG, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 &#171;\u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c&#187; 1 \u0442\u043e\u043b\u0441\u0442\u0443\u044e \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443 \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044f\u043a\u043e\u0431\u044b \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445. \u0421\u043e\u0433\u043b\u0430\u0441\u043d\u043e <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 <\/a>\u0438\u0437\u043e\u043b\u044f\u0446\u0438\u044f \u044f\u043a\u043e\u0431\u044b \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043b\u043d\u043e\u0439:<\/p>\n<details class=\"spoiler\">\n<summary>\u0423\u043c\u043d\u0430\u044f \u0446\u0438\u0442\u0430\u0442\u0430<\/summary>\n<div class=\"spoiler__content\">\n<p>For Cloud Service Providers (CSPs), who have multi-tenant use cases, MIG ensures one client cannot impact the work or scheduling of other clients, in addition to providing enhanced isolation for customers.<\/p>\n<p>With MIG, each instance\u2019s processors have separate and isolated paths through the entire memory system &#8212; the on-chip crossbar ports, L2 cache banks, memory controllers, and DRAM address busses are all assigned uniquely to an individual instance. This ensures that an individual user\u2019s workload can run with predictable throughput and latency, with the same L2 cache allocation and DRAM bandwidth, even if other tasks are thrashing their own caches or saturating their DRAM interfaces. MIG can partition available GPU compute resources (including streaming multiprocessors or SMs, and GPU engines such as copy engines or decoders), to provide a defined quality of service (QoS) with fault isolation for different clients such as VMs, containers or processes. MIG enables multiple GPU Instances to run in parallel on a single, physical NVIDIA Ampere architecture GPU.<\/p>\n<p>With MIG, users will be able to see and schedule jobs on their new virtual GPU Instances as if they were physical GPUs. MIG works with Linux operating systems, supports containers using Docker Engine, with support for Kubernetes and virtual machines using hypervisors such as Red Hat Virtualization and VMware vSphere. MIG supports the following deployment configurations:<\/p>\n<ul>\n<li>\n<p>Bare-metal, including containers<\/p>\n<\/li>\n<li>\n<p>GPU pass-through virtualization to Linux guests on top of supported hypervisors<\/p>\n<\/li>\n<li>\n<p>vGPU on top of supported hypervisors<\/p>\n<\/li>\n<\/ul>\n<p>MIG allows multiple vGPUs (and thereby VMs) to run in parallel on a single GPU, while preserving the isolation guarantees that vGPU provides. For more information on GPU partitioning using vGPU and MIG, refer to the\u00a0<a href=\"https:\/\/www.nvidia.com\/content\/dam\/en-zz\/Solutions\/design-visualization\/solutions\/resources\/documents1\/TB-10226-001_v01.pdf\" rel=\"noopener noreferrer nofollow\">technical brief<\/a>.<\/p>\n<\/div>\n<\/details>\n<p>\u0422\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044f \u0432\u0441\u0451 \u0435\u0449\u0451 \u043d\u0435 \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0430 \u0434\u043b\u044f \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 (\u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u044f \u043c\u043e\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">\u0438\u0437\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f <\/a>\u043d\u0430 A100), \u043d\u043e \u043a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u0430\u0440\u0442 \u0435\u0441\u0442\u044c \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u0435 \u0441\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f:<\/p>\n<details class=\"spoiler\">\n<summary>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f MIG<\/summary>\n<div class=\"spoiler__content\">\n<ul>\n<li>\n<p><strong>No graphics APIs are supported<\/strong> (for example, OpenGL, Vulkan and so on). The exception to this is RTX Pro 6000 Blackwell GPUs where certain MIG profiles support graphics.<\/p>\n<\/li>\n<li>\n<p><strong>No GPU to GPU P2P (either PCIe or NVLink) is supported.<\/strong><\/p>\n<\/li>\n<li>\n<p>CUDA applications treat a Compute Instance and its parent GPU Instance as a single CUDA device. See\u00a0<a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#cuda-device-enumeration\" rel=\"noopener noreferrer nofollow\">this section<\/a>\u00a0on device enumeration by CUDA.<\/p>\n<\/li>\n<li>\n<p>CUDA IPC across GPU instances is not supported. CUDA IPC across Compute instances is supported.<\/p>\n<\/li>\n<li>\n<p>CUDA debugging (e.g. using cuda-gdb) and memory\/race checking (for example, using cuda-memcheck or compute-sanitizer) is supported.<\/p>\n<\/li>\n<li>\n<p>CUDA MPS is supported on top of MIG. The only limitation is that the maximum number of clients (48) is lowered proportionally to the Compute Instance size.<\/p>\n<\/li>\n<li>\n<p>GPUDirect RDMA is supported when used from GPU Instances.<\/p>\n<\/li>\n<\/ul>\n<p>MIG supports running CUDA applications by specifying the CUDA device on which the application should be run. With CUDA 11\/R450 and CUDA 12\/R525, only enumeration of a single MIG instance is supported. In other words, regardless of how many MIG devices are created (or made available to a container), <strong>a single CUDA process can only enumerate a single MIG device<\/strong>. CUDA applications treat a CI and its parent GI as a single CUDA device. CUDA is limited to use a single CI and will pick the first one available if several of them are visible. To summarize, there are two constraints:<\/p>\n<ol>\n<li>\n<p>CUDA can only enumerate a single compute instance<\/p>\n<\/li>\n<li>\n<p>CUDA will not enumerate non-MIG GPU if any compute instance is enumerated on any other GPU<\/p>\n<\/li>\n<\/ol>\n<p>Note that these constraints may be relaxed in future NVIDIA driver releases for MIG.\u00a0<code>CUDA_VISIBLE_DEVICES<\/code>\u00a0has been extended to add support for MIG. Depending on the driver versions being used, two formats are supported:<\/p>\n<ol>\n<li>\n<p>With drivers &gt;= R470 (470.42.01+), each MIG device is assigned a GPU UUID starting with\u00a0<code>MIG-&lt;UUID&gt;<\/code>.<\/p>\n<\/li>\n<li>\n<p>With drivers &lt; R470 (for example, R450 and R460), each MIG device is enumerated by specifying the CI and the corresponding parent GI. The format follows this convention:\u00a0<code>MIG-&lt;GPU-UUID&gt;\/&lt;GPU\u00a0instance\u00a0ID&gt;\/&lt;compute\u00a0instance\u00a0ID&gt;<\/code>.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n<\/details>\n<p><strong>\u041c\u043e\u0439 \u043d\u0430\u0434\u043c\u043e\u0437\u0433 \u0442\u0443\u0442 \u0432\u044b\u0434\u0435\u043b\u044f\u0435\u0442 \u0441\u0430\u043c\u044b\u0435 \u0432\u0430\u0436\u043d\u044b\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f:<\/strong><\/p>\n<ul>\n<li>\n<p>\u0413\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0410\u041f\u0418 \u043d\u0435\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b;<\/p>\n<\/li>\n<li>\n<p>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 GPU to GPU P2P (PCIe \u0438\u043b\u0438 NVLink) \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f;<\/p>\n<\/li>\n<li>\n<p>\u0412 \u0440\u0430\u043c\u043a\u0430\u0445 \u043e\u0434\u043d\u043e\u0433\u043e CUDA-\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u043e\u0434\u043d\u043e MIG-\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e;<\/p>\n<\/li>\n<li>\n<p>\u041d\u0435\u043b\u044c\u0437\u044f \u043c\u0435\u0448\u0430\u0442\u044c MIG-\u043f\u043e\u0434\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 CUDA-\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430;<\/p>\n<\/li>\n<li>\n<p><code>CUDA_VISIBLE_DEVICES<\/code>\u00a0\u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u043d\u0438\u0435 MIG-\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043f\u043e UUID, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 <code>MIG-42753a49-5c48-5303-b7fa-1b474afcfe6a<\/code>.<\/p>\n<\/li>\n<\/ul>\n<h3>\u041a\u0430\u043a \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h3>\n<p>\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043e\u0431\u0448\u0438\u0440\u043d\u0430\u044f \u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0430\u044f, \u043d\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0432\u0441\u0451 \u0441\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0432\u044b\u0437\u043e\u0432\u0443 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#getting-started-with-mig\" rel=\"noopener noreferrer nofollow\">\u043a\u043e\u043c\u0430\u043d\u0434<\/a>, \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0445 \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438.<\/p>\n<p>\u041d\u0435 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0438\u0445. \u0412\u0430\u0436\u043d\u043e \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437\u043d\u044b\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u0435\u0439 &#171;\u0440\u0430\u0441\u043f\u0438\u043b\u0438\u0432\u0430\u043d\u0438\u044f&#187; \u043a\u0430\u0440\u0442\u044b \u043d\u0430 \u043a\u0443\u0441\u043e\u0447\u043a\u0438, \u0438 \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430 4 \u0438 7 &#171;\u043f\u043e\u0434\u043a\u0430\u0440\u0442&#187; \u0438\u043c\u0435\u0435\u0442 \u0440\u0430\u0437\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0430\u043c\u044f\u0442\u0438, \u043d\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u0435\u043a. \u0421\u043c\u0435\u0448\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u0440\u043e\u0444\u0438\u043b\u0438 \u043c\u044b \u043d\u0435 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438, \u043d\u043e \u044d\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e.<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043f\u0438\u0441\u043e\u043a \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u0435\u0439 <\/summary>\n<div class=\"spoiler__content\">\n<pre><code>ubuntu@h100-test:~\/gpu-burn$  nvidia-smi mig -lgip  +-------------------------------------------------------------------------------+  | GPU instance profiles:                                                        |  | GPU   Name               ID    Instances   Memory     P2P    SM    DEC   ENC  |  |                                Free\/Total   GiB              CE    JPEG  OFA  |  |===============================================================================|  |   0  MIG 1g.10gb         19     7\/7        9.75       No     14     1     0   |  |                                                               1     1     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 1g.10gb+me      20     1\/1        9.75       No     14     1     0   |  |                                                               1     1     1   |  +-------------------------------------------------------------------------------+  |   0  MIG 1g.20gb         15     4\/4        19.62      No     14     1     0   |  |                                                               1     1     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 2g.20gb         14     3\/3        19.62      No     30     2     0   |  |                                                               2     2     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 3g.40gb          9     2\/2        39.50      No     46     3     0   |  |                                                               3     3     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 4g.40gb          5     1\/1        39.50      No     62     4     0   |  |                                                               4     4     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 7g.80gb          0     1\/1        79.25      No     114    7     0   |  |                                                               8     7     1   |  +-------------------------------------------------------------------------------+  <\/code><\/pre>\n<\/div>\n<\/details>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0440\u0430\u0441\u043f\u0438\u043b\u0438\u0432\u0430\u043d\u0438\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432\u0438\u0434\u0438\u0442 &#171;\u043f\u043e\u0434\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438&#187; \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c (\u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u043f\u0440\u0435\u0441\u0435\u0442\u043e\u0432):<\/p>\n<details class=\"spoiler\">\n<summary>\u041f\u043e\u0434\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438<\/summary>\n<div class=\"spoiler__content\">\n<pre><code>ubuntu@h100-test:~\/gpu-burn$ nvidia-smi -L GPU 0: NVIDIA H100 PCIe (UUID: GPU-b7993cf0-88bc-732c-4f8a-12f4234a7cf9)   MIG 7g.80gb     Device  0: (UUID: MIG-761616d7-1d64-58ca-bd17-0c0134f5e1bb)  ubuntu@h100-test:~\/gpu-burn$ sudo nvidia-smi mig -lgi +---------------------------------------------------------+ | GPU instances:                                          | | GPU   Name               Profile  Instance   Placement  | |                            ID       ID       Start:Size | |=========================================================| |   0  MIG 3g.40gb            9        1          4:4     | +---------------------------------------------------------+ |   0  MIG 3g.40gb            9        2          0:4     | +---------------------------------------------------------+  ubuntu@h100-test:~$ nvidia-smi -L GPU 0: NVIDIA H100 PCIe (UUID: GPU-b7993cf0-88bc-732c-4f8a-12f4234a7cf9)   MIG 3g.40gb     Device  0: (UUID: MIG-42753a49-5c48-5303-b7fa-1b474afcfe6a)   MIG 3g.40gb     Device  1: (UUID: MIG-ae71f6a7-5253-5734-8cbc-5e6ebd157675)  ubuntu@h100-test:~$ nvidia-smi -L GPU 0: NVIDIA H100 PCIe (UUID: GPU-b7993cf0-88bc-732c-4f8a-12f4234a7cf9)   MIG 2g.20gb     Device  0: (UUID: MIG-5c355e34-9007-538c-93e8-28d4ceb6d442)   MIG 2g.20gb     Device  1: (UUID: MIG-457964b3-a935-5f29-bdb7-2699e8ebf53a)   MIG 2g.20gb     Device  2: (UUID: MIG-003358eb-f6d9-5d95-aa83-313e49258456)  ubuntu@h100-test:~$ nvidia-smi -L GPU 0: NVIDIA H100 PCIe (UUID: GPU-b7993cf0-88bc-732c-4f8a-12f4234a7cf9)   MIG 1g.10gb     Device  0: (UUID: MIG-4fb27904-f37d-53eb-a625-6bbc5a2d37fe)   MIG 1g.10gb     Device  1: (UUID: MIG-9829f3a0-98c5-54a1-8060-8b4f8df7cee4)   MIG 1g.10gb     Device  2: (UUID: MIG-743a0c03-4b20-5785-8787-35ac6a127f0c)   MIG 1g.10gb     Device  3: (UUID: MIG-5041ede5-a7ef-5e4b-a22b-65af1b1f6d5e)   MIG 1g.10gb     Device  4: (UUID: MIG-1d1275b7-1da5-5c1e-aab2-58c6020c595a)   MIG 1g.10gb     Device  5: (UUID: MIG-75e14770-31e9-5475-9100-7507ebf533ca)   MIG 1g.10gb     Device  6: (UUID: MIG-59ae9f20-3c64-5e48-b2f2-799246bafeb3) <\/code><\/pre>\n<\/div>\n<\/details>\n<h3>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e\u043f\u0443\u0433\u0430\u0435\u0432<\/h3>\n<p>\u0417\u0430\u043f\u0443\u0441\u043a \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u0435\u043d \u0437\u0430\u043f\u0443\u0441\u043a\u0443 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0439 <a href=\"https:\/\/habr.com\/ru\/articles\/913174\/\" rel=\"noopener noreferrer nofollow\">\u0441\u0442\u0430\u0442\u044c\u0438<\/a>. \u0412 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u043d\u0435 \u043d\u0430\u0448\u043b\u0438\u0441\u044c \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u043c\u044b\u0435 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 <code>*-580<\/code>, \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c<em> <\/em><code>*-575<\/code>. \u042d\u0442\u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0441\u043d\u0438\u043c\u0430\u043b\u0438\u0441\u044c \u0441 CUDA 12.9.<\/p>\n<p>\u041d\u0438\u043a\u0430\u043a\u043e\u0433\u043e \u043e\u0432\u0435\u0440\u043a\u043b\u043e\u043a\u0438\u043d\u0433\u0430 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043b\u043e\u0441\u044c, \u0432\u0441\u0451 \u043a\u0430\u043a \u0431\u044b\u043b\u043e &#171;\u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438&#187; \u043a\u0430\u043a \u0431\u044b\u043b\u043e.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/80b\/54d\/0a1\/80b54d0a1031b79a0fdba5bcbf59277f.png\" alt=\"Glop\/s \u043a\u0430\u043a \u0432 FP32, \u0442\u0430\u043a \u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440  \" title=\"Glop\/s \u043a\u0430\u043a \u0432 FP32, \u0442\u0430\u043a \u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440  \" width=\"1444\" height=\"650\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/80b\/54d\/0a1\/80b54d0a1031b79a0fdba5bcbf59277f.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/80b\/54d\/0a1\/80b54d0a1031b79a0fdba5bcbf59277f.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Glop\/s \u043a\u0430\u043a \u0432 FP32, \u0442\u0430\u043a \u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440  <\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b27\/706\/f77\/b27706f77da4df650d87e1ce6a9fa550.png\" alt=\"\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u043d\u0430 &quot;\u043f\u043b\u0430\u0442\u043e&quot;\" title=\"\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u043d\u0430 &quot;\u043f\u043b\u0430\u0442\u043e&quot;\" width=\"1326\" height=\"564\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/b27\/706\/f77\/b27706f77da4df650d87e1ce6a9fa550.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b27\/706\/f77\/b27706f77da4df650d87e1ce6a9fa550.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u043d\u0430 &#171;\u043f\u043b\u0430\u0442\u043e&#187;<\/figcaption><\/div>\n<\/figure>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/24c\/384\/7a6\/24c3847a6e78aee83944952f5c2702fe.png\" alt=\"\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c MIG\" title=\"\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c MIG\" width=\"1821\" height=\"758\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/24c\/384\/7a6\/24c3847a6e78aee83944952f5c2702fe.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/24c\/384\/7a6\/24c3847a6e78aee83944952f5c2702fe.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c MIG<\/figcaption><\/div>\n<\/figure>\n<p>\u041a\u0430\u0440\u0442\u043e\u0447\u043a\u0430 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0445\u043e\u043b\u043e\u0434\u043d\u0430\u044f, \u043d\u043e \u044d\u0442\u043e \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u043d\u0438\u0437\u043a\u043e\u0433\u043e TDP, \u043d\u0438\u0437\u043a\u043e\u0439 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u044b \u0432 \u0414\u0426 \u0438 \u043c\u043e\u0449\u043d\u043e\u0433\u043e \u043a\u0443\u043b\u0435\u0440\u0430 \u0432 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 (\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0430 \u043f\u0430\u0441\u0441\u0438\u0432\u043d\u0430\u044f). \u0412\u043e\u043e\u0431\u0449\u0435 \u0432\u0441\u0435 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438, \u0447\u0442\u043e \u044f \u0442\u0440\u043e\u0433\u0430\u043b \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441 \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u044f Ampere &#8212; \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e &#171;\u0445\u043e\u043b\u043e\u0434\u043d\u044b\u0435&#187;. <\/p>\n<p>\u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044f \u043f\u043e\u043f\u0443\u0433\u0430\u0435\u0432 \u0441 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u043c\u0438 \u044f\u0434\u0440\u0430\u043c\u0438 \u043d\u0430 1 \u0440\u0443\u0431\u043b\u044c \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0442\u0440\u043e\u0441\u043f\u0435\u043a\u0442\u0438\u0432\u0435 (\u0446\u0435\u043d\u044b \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u044b\u0435 \u043d\u0430 \u043c\u043e\u043c\u0435\u043d\u0442 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f, \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0447\u0442\u043e \u0431\/\u0443 \u0438\u043b\u0438 new old stock \u0431\u0443\u0434\u0435\u0442 \u0434\u0435\u0448\u0435\u0432\u043b\u0435) \u0441 \u043c\u043e\u043c\u0435\u043d\u0442\u0430 \u043d\u0430\u0447\u0430\u043b\u0430 &#171;\u043f\u0443\u0437\u044b\u0440\u044f&#187;. \u0414\u0435\u0440\u0436\u0438\u043c \u0432 \u0433\u043e\u043b\u043e\u0432\u0435 \u0442\u0443\u0442, \u0447\u0442\u043e 5090 \u043f\u0430\u043c\u044f\u0442\u0438 \u0447\u0443\u0442\u044c \u043d\u0435\u0434\u043e\u0434\u0430\u043b\u0438, \u0438 \u0447\u0442\u043e \u043e\u043d\u0430 \u0432 \u0431\u0430\u0437\u0435 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 4 \u0441\u043b\u043e\u0442\u0430. \u0415\u0441\u043b\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0431\u0435\u0437 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0439 \u0434\u043e &#171;\u043f\u0443\u0437\u044b\u0440\u044f&#187; \u2026 \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438 \u0437\u0430\u0433\u0440\u0443\u0441\u0442\u0438\u0442\u044c. \u041d\u043e \u0443 H100 \u043c\u0430\u043b\u043e \u043e\u0431\u044b\u0447\u043d\u044b\u0445 CUDA-\u044f\u0434\u0435\u0440 \u0438 \u043e\u043d\u0430 \u0441\u043e\u0432\u0441\u0435\u043c \u0442\u043e\u0433\u0434\u0430 \u0437\u0430\u0433\u0440\u0443\u0441\u0442\u0438\u0442.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/261\/c6b\/88a\/261c6b88aa158612aa1c3064320d2f58.png\" alt=\"\u041f\u043e\u043f\u0443\u0433\u0430\u0438 \u043d\u0430 1 \u0440\u0443\u0431\u043b\u044c\" title=\"\u041f\u043e\u043f\u0443\u0433\u0430\u0438 \u043d\u0430 1 \u0440\u0443\u0431\u043b\u044c\" width=\"750\" height=\"450\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/261\/c6b\/88a\/261c6b88aa158612aa1c3064320d2f58.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/261\/c6b\/88a\/261c6b88aa158612aa1c3064320d2f58.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u043e\u043f\u0443\u0433\u0430\u0438 \u043d\u0430 1 \u0440\u0443\u0431\u043b\u044c<\/figcaption><\/div>\n<\/figure>\n<h3>\u0422\u0435\u0441\u0442 \u043d\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u043e\u0432\u043e\u043c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435<\/h3>\n<p>\u0422\u0443\u0442 \u0443 \u043d\u0430\u0441 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u0447\u0442\u043e-\u0442\u043e \u0441\u0442\u0440\u0430\u043d\u043d\u043e\u0435. \u041c\u044b \u0437\u0430\u0432\u0435\u043b\u0438 \u0442\u0435\u0441\u0442 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438, \u043d\u0430\u0434\u0435\u044f\u0441\u044c \u043d\u0430 \u043f\u0440\u0438\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 20 \u043c\u0438\u043d\u0443\u0442.<\/p>\n<details class=\"spoiler\">\n<summary>\u041f\u0440\u0438\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 20 \u043c\u0438\u043d\u0443\u0442<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d1e\/439\/db7\/d1e439db7c5f7ad9177498ae5ce2021d.png\" alt=\"\" title=\"\" width=\"640\" height=\"687\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d1e\/439\/db7\/d1e439db7c5f7ad9177498ae5ce2021d.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d1e\/439\/db7\/d1e439db7c5f7ad9177498ae5ce2021d.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<\/div>\n<\/details>\n<p>\u041c\u044b \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0441\u0430\u043c\u044b\u0435 \u043d\u043e\u0432\u044b\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435 \u0432 ppa \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430, \u043d\u0430\u043a\u0430\u0442\u0438\u043b\u0438 \u0441\u0430\u043c\u0443\u044e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u044e\u044e \u0432\u0435\u0440\u0441\u0438\u044e \u0432\u0441\u0435\u0445 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a, \u043d\u043e \u0434\u0430\u0436\u0435 \u0431\u0435\u0437 MIG (\u0447\u0442\u043e\u0431\u044b \u0438\u0441\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u0443\u044e &#171;\u043a\u0440\u0438\u0432\u0438\u0437\u043d\u0443&#187; \u043d\u0430\u0448\u0435\u0433\u043e \u043a\u043e\u0434\u0430 \u0438\u043b\u0438 \u044d\u0444\u0444\u0435\u043a\u0442\u044b \u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438) \u2026 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0445\u0443\u0436\u0435, \u0447\u0435\u043c 5090 \u0438 RTX A5000 (\u043c\u044b \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0440\u0430\u0437\u043d\u044b\u0435 \u0432\u0435\u0440\u0441\u0438\u0438 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a):<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cac\/448\/089\/cac4480895b85cf6a39f55afc43a3c73.PNG\" alt=\"\u041f\u0435\u0440\u0432\u044b\u0439 \u0442\u0435\u0441\u0442 - \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0430\u0445 \u0430\u0443\u0434\u0438\u043e \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443\" title=\"\u041f\u0435\u0440\u0432\u044b\u0439 \u0442\u0435\u0441\u0442 - \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0430\u0445 \u0430\u0443\u0434\u0438\u043e \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443\" width=\"3264\" height=\"1416\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/cac\/448\/089\/cac4480895b85cf6a39f55afc43a3c73.PNG 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cac\/448\/089\/cac4480895b85cf6a39f55afc43a3c73.PNG 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0435\u0440\u0432\u044b\u0439 \u0442\u0435\u0441\u0442 &#8212; \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0430\u0445 \u0430\u0443\u0434\u0438\u043e \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443<\/figcaption><\/div>\n<\/figure>\n<p>\u041d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0436\u0435 \u0442\u0430\u043a \u0431\u044b\u0442\u044c, \u0447\u0442\u043e\u0431\u044b \u043a\u0430\u0440\u0442\u0430 \u0437\u0430 3000 \u043a\u0438\u043b\u043e\u0440\u0443\u0431\u043b\u0435\u0439 \u0431\u044b\u043b\u0430 \u0445\u0443\u0436\u0435 \u043a\u0430\u0440\u0442\u044b \u0437\u0430 300 \u043a\u0438\u043b\u043e\u0440\u0443\u0431\u043b\u0435\u0439 (\u0430 5090 \u043f\u043e \u043d\u0430\u0448\u0438\u043c \u0442\u0435\u0441\u0442\u0430\u043c \u043f\u043e\u043b\u0443\u0447\u0448\u0435 \u0447\u0435\u043c RTX A5000 Ada)? \u041a\u043e\u043d\u0435\u0447\u043d\u043e \u0442\u0430\u043a \u0431\u044b\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u0438 \u044d\u0442\u043e \u043d\u0430 \u044f\u0437\u044b\u043a\u0435 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u043a\u0438 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <s>\u043a\u0430\u043f\u0438\u0442\u0430\u043b\u0438\u0437\u043c<\/s> \u0446\u0435\u043d\u043e\u0432\u0430\u044f \u0434\u0438\u0441\u043a\u0440\u0438\u043c\u0438\u043d\u0430\u0446\u0438\u044f \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0440\u044b\u043d\u043a\u0430. \u0418\u0433\u0440\u043e\u0432\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435, \u0447\u0435\u043c \u044f\u043a\u043e\u0431\u044b &#171;\u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u0430\u044f&#187;. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 Nvidia \u043b\u0435\u0437\u0435\u0442 \u0438\u0437 \u043a\u043e\u0436\u0438 \u0432\u043e\u043d, \u0447\u0442\u043e\u0431\u044b \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0433\u0440\u043e\u0432\u044b\u0435 \u043a\u0430\u0440\u0442\u044b \u043d\u0435\u044e\u0437\u0430\u0431\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0432 ML. \u041d\u043e \u044d\u0442\u043e\u043c\u0443 \u0431\u044b\u043b\u0430 \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d\u0430 \u043f\u0440\u043e\u0448\u043b\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f.<\/p>\n<details class=\"spoiler\">\n<summary>\u041c\u0435\u043c \u043f\u0440\u043e \u043a\u0430\u043f\u0438\u0442\u0430\u043b\u0438\u0437\u043c<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1fb\/265\/4f0\/1fb2654f03cf7ea31c17189e334a765a.png\" width=\"700\" height=\"1120\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/1fb\/265\/4f0\/1fb2654f03cf7ea31c17189e334a765a.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1fb\/265\/4f0\/1fb2654f03cf7ea31c17189e334a765a.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<\/div>\n<\/details>\n<p>\u041c\u044b \u0443\u0431\u0435\u0434\u0438\u043b\u0438\u0441\u044c, \u0447\u0442\u043e \u0434\u0435\u043b\u043e \u043d\u0435 \u0432 \u0442\u0440\u0430\u043d\u0441\u043f\u043e\u0440\u0442\u0435, \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0438\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u0430, \u043a\u043e\u0434\u0438\u0440\u043e\u0432\u043a\u0435 \u0430\u0443\u0434\u0438\u043e \u0438 \u043f\u0440\u043e\u0447\u0435\u0439 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0439. \u0411\u0435\u0437 MIG \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u0430\u043c\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c.<\/p>\n<p>\u0412\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0434\u0435\u043b\u043e \u0432 \u0431\u043e\u043b\u0435\u0435 \u043f\u043b\u043e\u0445\u043e\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a \u0434\u043b\u044f \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f? \u0418\u043b\u0438 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0434\u043b\u044f \u0442\u0430\u043a\u0438\u0445 \u043a\u0430\u0440\u0442\u043e\u0447\u0435\u043a \u0431\u043e\u043b\u0435 \u0437\u0430\u0442\u043e\u0447\u0435\u043d\u044b \u043f\u043e\u0434 \u0434\u0440\u0443\u0433\u0438\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439? \u0418\u043b\u0438 \u0432\u0441\u0451-\u0442\u0430\u043a\u0438 \u0434\u0435\u043b\u043e \u0432 \u043a\u0440\u0438\u0432\u0438\u0437\u043d\u0435 \u043d\u0430\u0448\u0438\u0445 \u0440\u0443\u043a? \u041e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0432\u0435\u0440\u043d\u044b \u043e\u0431\u0435 \u043f\u0440\u0438\u0447\u0438\u043d\u044b. <\/p>\n<p>\u041c\u044b \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0437\u0430\u0433\u0440\u0443\u0441\u0442\u0438\u043b\u0438, \u0447\u0442\u043e \u0431\u0435\u0437 MIG H100 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u043d\u0430 \u044d\u0442\u043e\u043c \u0442\u0435\u0441\u0442\u0435, \u0447\u0435\u043c A5000 Ada (\u0438 \u043a\u0430\u043a \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435 5090). \u0410 \u043f\u043e\u0442\u043e\u043c \u043e\u0431\u0440\u0430\u0442\u0438\u043b\u0438 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435, \u0447\u0442\u043e \u043f\u0440\u0438 \u0442\u0435\u0441\u0442\u0435 \u043d\u0430 \u043f\u043e\u043b\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u043e\u043d\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u0430 \u043d\u0430 30-50%. \u0410 \u043a\u0430\u0440\u0442\u044b \u0442\u0438\u043f\u0430 5090 \u0438\u043b\u0438 A5000 Ada &#8212; \u0431\u043b\u0438\u0437\u043a\u043e \u043a 100%. \u041f\u043e\u0432\u043e\u0434 \u0437\u0430\u0434\u0443\u043c\u0430\u0442\u044c\u0441\u044f. \u0410 \u043f\u043e\u0442\u043e\u043c \u043c\u044b \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438 \u2026 \u0447\u0442\u043e \u043d\u0430\u0448 \u043a\u043e\u0434 \u0434\u043b\u044f \u043e\u0442\u043f\u0440\u0430\u0432\u043a\u0438 \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432, \u043a\u043e\u0433\u0434\u0430 \u043c\u044b \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u043c N \u0438\u043d\u0441\u0442\u0430\u043d\u0441\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 MIG \u2026 \u043f\u043e\u0441\u044b\u043b\u0430\u0435\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e.  \u041d\u0435 \u0431\u0435\u0434\u0430. \u0421\u043e\u0437\u0434\u0430\u0451\u043c \u043d\u0430 N MIG-\u043a\u0443\u0441\u043e\u0447\u043a\u043e\u0432 N \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0432 \u0441 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u0438 \u0448\u043b\u0451\u043c:<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/659\/3c3\/47d\/6593c347de8f79ccef35370d97f134e7.PNG\" alt=\"\u0412\u0442\u043e\u0440\u043e\u0439 \u0442\u0435\u0441\u0442 - \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u043c N \u0432\u043e\u0440\u043a\u0435\u0440\u043e\u0432 \u0441 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043d\u0430 N \u043a\u0443\u0441\u043e\u0447\u043a\u043e\u0432 MIG\" title=\"\u0412\u0442\u043e\u0440\u043e\u0439 \u0442\u0435\u0441\u0442 - \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u043c N \u0432\u043e\u0440\u043a\u0435\u0440\u043e\u0432 \u0441 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043d\u0430 N \u043a\u0443\u0441\u043e\u0447\u043a\u043e\u0432 MIG\" width=\"3246\" height=\"1404\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/659\/3c3\/47d\/6593c347de8f79ccef35370d97f134e7.PNG 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/659\/3c3\/47d\/6593c347de8f79ccef35370d97f134e7.PNG 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u0442\u043e\u0440\u043e\u0439 \u0442\u0435\u0441\u0442 &#8212; \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u043c N \u0432\u043e\u0440\u043a\u0435\u0440\u043e\u0432 \u0441 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043d\u0430 N \u043a\u0443\u0441\u043e\u0447\u043a\u043e\u0432 MIG<\/figcaption><\/div>\n<\/figure>\n<p>\u0422\u0430\u043a, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u043e\u0442\u0432\u0435\u0442\u0430 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f, \u0435\u0441\u043b\u0438 \u043c\u044b \u0441\u043e\u0437\u0434\u0430\u0451\u043c 1, 2 \u0438\u043b\u0438 3 MIG-\u043f\u043e\u0434\u043a\u0430\u0440\u0442\u044b! \u0418\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442\u0441\u044f \u0443\u0436\u0435 \u043d\u0430 7 &#171;\u043a\u0443\u0441\u043e\u0447\u043a\u0430\u0445&#187;. \u0425\u043c, \u043d\u043e \u044d\u0442\u043e \u0436\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0435\u0441\u043b\u0438 \u043c\u044b \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u043d\u0430 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c, \u0442\u043e \u2026 \u042d\u0432\u0440\u0438\u043a\u0430!<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d63\/4c5\/7d2\/d634c57d248dc9752dd6f8cb9a527e93.png\" alt=\"\u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c\" title=\"\u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c\" width=\"3269\" height=\"1378\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d63\/4c5\/7d2\/d634c57d248dc9752dd6f8cb9a527e93.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d63\/4c5\/7d2\/d634c57d248dc9752dd6f8cb9a527e93.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043d\u043d\u0430\u044f \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0431\u0435\u0437 \u0440\u0430\u0437\u0431\u0438\u0432\u043a\u0438 \u043d\u0430 &#171;\u043a\u0443\u0441\u043e\u0447\u043a\u0438&#187;, \u043a\u0430\u0440\u0442\u0430 \u0438\u043c\u0435\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u043d\u0438\u0437\u043a\u0443\u044e \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c. \u041d\u043e \u0435\u0441\u043b\u0438 \u0440\u0430\u0437\u0431\u0438\u0442\u044c \u043d\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0445 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e &#8212; \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0430\u044f \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u0434\u043e 80 \u0441\u0435\u043a\u0443\u043d\u0434 \u0430\u0443\u0434\u0438\u043e \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 35 \u0443 Ada A5000 (\u044d\u0442\u043e \u0441\u0440\u0435\u0434\u043d\u0438\u0435 \u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u0442\u0435\u0441\u0442\u0443, \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0430\u0443\u0434\u0438\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u0448\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 2 \u0440\u0430\u0437\u0430). <\/p>\n<p>\u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043c\u044b \u0438\u043c\u0435\u0435\u043c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 2 \u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u2026 \u0446\u0435\u043d\u043e\u0439 \u0440\u043e\u0441\u0442\u0430 \u0446\u0435\u043d\u044b \u043a\u0430\u0440\u0442\u044b \u0432 10 \u0440\u0430\u0437. \u0412\u043f\u043e\u043b\u043d\u0435 \u0434\u043e\u043f\u0443\u0441\u043a\u0430\u044e \u0435\u0449\u0451 \u043f\u0430\u0440\u0430 \u0438\u043a\u0441\u043e\u0432 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u0433\u0440\u0430\u043c\u043e\u0442\u043d\u043e\u0439 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a \u0434\u043b\u044f \u0440\u0430\u0437\u0433\u043e\u043d\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439.<\/p>\n<h3>\u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u043d\u043e\u0441\u0442\u044c<\/h3>\n<p>\u0412\u044b\u0440\u0430\u0436\u0430\u0435\u043c \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u043d\u043e\u0441\u0442\u044c <a href=\"https:\/\/immers.cloud\" rel=\"noopener noreferrer nofollow\">\u0441\u0435\u0440\u0432\u0438\u0441\u0443<\/a> Immers Cloud \u0437\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/945290\/\"> https:\/\/habr.com\/ru\/articles\/945290\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><\/figure>\n<p>\u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0442\u0435\u0441\u0442\u044b \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u043e\u043d\u043e\u043a \u043e\u0442\u00a0Nvidia (<a href=\"https:\/\/habr.com\/ru\/articles\/913174\/\" rel=\"noopener noreferrer nofollow\">RTX 5090<\/a>, <a href=\"https:\/\/habr.com\/ru\/articles\/789394\/\" rel=\"noopener noreferrer nofollow\">A5000\u00a0Ada<\/a>,\u00a0<a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">A100<\/a>,\u00a0<a href=\"https:\/\/habr.com\/ru\/articles\/597911\/\" rel=\"noopener noreferrer nofollow\">3090\u00a0\u0438 A10<\/a>). \u0412 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u043c\u043d\u0435 \u0443\u0436\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u043f\u043e\u043a\u0440\u0443\u0442\u0438\u0442\u044c \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0430\u0441\u0438\u043a\u043e\u0432 H100 \u0441 80 GB VRAM.<\/p>\n<p>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0431\u0443\u0434\u0435\u043c, \u0441\u043d\u0438\u043c\u0435\u043c \u043f\u043e\u043f\u0443\u0433\u0430\u0435\u0432 \u0447\u0435\u0440\u0435\u0437\u00a0<code>gpu-burn<\/code>\u00a0, \u043f\u043e\u043f\u0440\u043e\u0431\u0443\u0435\u043c MIG (multi-instance GPU) \u0438 \u0442\u0430\u043a\u0436\u0435 \u0437\u0430\u043c\u0435\u0440\u0438\u043c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043e\u0434\u043d\u043e\u0439 \u043d\u0430\u0448\u0435\u0439 \u043f\u0440\u043e\u0436\u043e\u0440\u043b\u0438\u0432\u043e\u0439 \u0441\u0435\u0442\u043a\u0438.<\/p>\n<p>\u0421 <a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">A100<\/a> \u043c\u043d\u0435 \u043a\u0430\u043a-\u0442\u043e \u0442\u043e\u0436\u0435 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f, \u043d\u043e \u044f \u043d\u0435 \u0434\u0443\u043c\u0430\u043b, \u0447\u0442\u043e \u0432 \u0420\u043e\u0441\u0441\u0438\u0438 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435 \u043f\u043e\u044f\u0432\u044f\u0442\u0441\u044f H100. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u0448\u0443\u0442\u043a\u0430 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u043e \u0441\u0430\u043d\u043a\u0446\u0438\u0438 \u0438 \u043f\u0440\u043e <a href=\"https:\/\/gamegpu.com\/%D0%B6%D0%B5%D0%BB%D0%B5%D0%B7%D0%BE\/prodazha-sumok-iz-nvidia-h100-aksessuar-za-65-536-shokiroval-internet\" rel=\"noopener noreferrer nofollow\">\u0441\u0443\u043c\u043e\u0447\u043a\u0443<\/a>, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u0443\u044e \u0438\u0437 H100. <\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u043f\u0430\u0440\u0443 \u0441\u043b\u043e\u0432 \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0435\u043c \u043f\u0440\u043e &#171;\u0444\u0438\u0448\u043a\u0443&#187; MIG, <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#supported-gpus\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0443\u044e <\/a>\u0434\u043b\u044f \u0441\u0430\u043c\u044b\u0445 \u0442\u043e\u043b\u0441\u0442\u044b\u0445 \u043a\u0430\u0440\u0442 \u0432 \u043b\u0438\u043d\u0435\u0439\u043a\u0430\u0445 NVIDIA (\u0438\u0437 &#171;\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445&#187; \u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c A100 \u0438 H100, \u043d\u043e \u0435\u0441\u0442\u044c \u0438 \u044d\u043a\u0437\u043e\u0442\u0438\u043a\u0430 \u0442\u0438\u043f\u0430 RTX PRO 6000 Blackwell Workstation Edition, GB200, B200, H200, A30).<\/p>\n<p>\u0412 \u043a\u043e\u043d\u0446\u0435 \u0434\u0430\u0436\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0434\u0435\u0442\u0435\u043a\u0442\u0438\u0432\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f.<\/p>\n<h3>\u0417\u0430\u043f\u0440\u0435\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0446\u0435\u043d\u0430 \u0438 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438<\/h3>\n<p>\u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430, \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u043e \u0434\u0435\u0436\u0443\u0440\u043d\u0430\u044f \u0448\u0443\u0442\u043a\u0430 \u043f\u0440\u043e \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0443 \u0446\u0435\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f Nvidia:<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043c\u0435\u0448\u043d\u0430\u044f \u0448\u0443\u0442\u043a\u0430<\/summary>\n<div class=\"spoiler__content\">\n<figure class=\"full-width\"><\/figure>\n<\/div>\n<\/details>\n<figure class=\"full-width\">\n<div><figcaption>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0432\u0441\u0435\u0445 \u043a\u0430\u0440\u0442\u043e\u0447\u0435\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0442\u044b\u043a\u0430\u043b \u0438\u043b\u0438 \u0434\u0435\u0440\u0436\u0430\u043b \u0432 \u0440\u0443\u043a\u0430\u0445 <\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u0435 \u0432\u0435\u0449\u0438:<\/strong><\/p>\n<ul>\n<li>\n<p>80 GB VRAM;<\/p>\n<\/li>\n<li>\n<p>\u041f\u0430\u0441\u0441\u0438\u0432\u043d\u0430\u044f 2-\u0441\u043b\u043e\u0442\u043e\u0432\u0430\u044f (!) \u043a\u0430\u0440\u0442\u0430 \u0441 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0438\u0437\u043a\u0438\u043c TDP;<\/p>\n<\/li>\n<li>\n<p>\u041d\u043e\u0432\u044b\u0439 &#171;\u043f\u043b\u043e\u0445\u043e\u0439&#187; \u0440\u0430\u0437\u044a\u0435\u043c \u043f\u0438\u0442\u0430\u043d\u0438\u044f (\u0434\u0430\u0436\u0435 \u044f \u0443\u0436\u0435 \u043f\u0438\u0441\u0430\u043b \u043f\u0440\u043e \u044d\u0442\u043e, \u043c\u0430\u043b\u043e \u0441\u043c\u044b\u0441\u043b\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c\u0441\u044f);<\/p>\n<\/li>\n<li>\n<p>\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 CUDA \u0438\u043b\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u0442\u0443\u0442 \u0432\u0440\u044f\u0434 \u043b\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b;<\/p>\n<\/li>\n<\/ul>\n<p>\u0418\u043d\u0442\u0435\u0440\u0435\u0441 \u0442\u0443\u0442 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u0430\u044f \u0446\u0435\u043d\u0430, \u0437\u0430 \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0435\u0451 \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043c\u043e\u0436\u043d\u043e \u043a\u0443\u043f\u0438\u0442\u044c \u0432 \u0420\u043e\u0441\u0441\u0438\u0438. \u041e\u043d\u0430 \u0440\u043e\u0432\u043d\u043e \u0432 2 \u0440\u0430\u0437\u0430 \u0432\u044b\u0448\u0435 \u0446\u0435\u043d\u044b \u043d\u0430 A100 (\u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0435\u0451 \u0432\u044b\u0445\u043e\u0434\u0430) \u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 3\u041c \u0440\u0443\u0431\u043b\u0435\u0439. \u0410\u0440\u0435\u043d\u0434\u0430 \u043e\u0434\u043d\u043e\u0439 \u0442\u0430\u043a\u043e\u0439 \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438 \u0441\u0442\u043e\u0438\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 300 &#8212; 350 \u043a\u0438\u043b\u043e\u0440\u0443\u0431\u043b\u0435\u0439 \u0432 \u043c\u0435\u0441\u044f\u0446. \u0427\u0443\u0442\u044c \u0437\u0430\u0431\u0435\u0433\u0430\u044f \u0432\u043f\u0435\u0440\u0451\u0434 \u2026 \u0446\u0435\u043d\u0430 \u043f\u0440\u043e\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u043e\u0442 \u0446\u0435\u043d\u044b A100 \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0435 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u0430 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438, \u043d\u043e \u0437\u0430 \u043e\u0447\u0435\u043d\u044c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u044b \u043d\u0435 \u0441\u043c\u043e\u0433\u043b\u0438 \u0440\u0430\u0441\u043a\u0440\u044b\u0442\u044c \u044d\u0442\u043e\u0442 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b.<\/p>\n<h3>\u041f\u0430\u0440\u0430 \u0441\u043b\u043e\u0432 \u043f\u0440\u043e MIG<\/h3>\n<p>\u0414\u043b\u044f \u043e\u0447\u0435\u043d\u044c \u0442\u043e\u043b\u0441\u0442\u044b\u0445 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0445 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442, \u0443 Nvidia \u0435\u0441\u0442\u044c \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044f MIG, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 &#171;\u0440\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c&#187; 1 \u0442\u043e\u043b\u0441\u0442\u0443\u044e \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443 \u043d\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044f\u043a\u043e\u0431\u044b \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445. \u0421\u043e\u0433\u043b\u0430\u0441\u043d\u043e <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 <\/a>\u0438\u0437\u043e\u043b\u044f\u0446\u0438\u044f \u044f\u043a\u043e\u0431\u044b \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u043b\u043d\u043e\u0439:<\/p>\n<details class=\"spoiler\">\n<summary>\u0423\u043c\u043d\u0430\u044f \u0446\u0438\u0442\u0430\u0442\u0430<\/summary>\n<div class=\"spoiler__content\">\n<p>For Cloud Service Providers (CSPs), who have multi-tenant use cases, MIG ensures one client cannot impact the work or scheduling of other clients, in addition to providing enhanced isolation for customers.<\/p>\n<p>With MIG, each instance\u2019s processors have separate and isolated paths through the entire memory system &#8212; the on-chip crossbar ports, L2 cache banks, memory controllers, and DRAM address busses are all assigned uniquely to an individual instance. This ensures that an individual user\u2019s workload can run with predictable throughput and latency, with the same L2 cache allocation and DRAM bandwidth, even if other tasks are thrashing their own caches or saturating their DRAM interfaces. MIG can partition available GPU compute resources (including streaming multiprocessors or SMs, and GPU engines such as copy engines or decoders), to provide a defined quality of service (QoS) with fault isolation for different clients such as VMs, containers or processes. MIG enables multiple GPU Instances to run in parallel on a single, physical NVIDIA Ampere architecture GPU.<\/p>\n<p>With MIG, users will be able to see and schedule jobs on their new virtual GPU Instances as if they were physical GPUs. MIG works with Linux operating systems, supports containers using Docker Engine, with support for Kubernetes and virtual machines using hypervisors such as Red Hat Virtualization and VMware vSphere. MIG supports the following deployment configurations:<\/p>\n<ul>\n<li>\n<p>Bare-metal, including containers<\/p>\n<\/li>\n<li>\n<p>GPU pass-through virtualization to Linux guests on top of supported hypervisors<\/p>\n<\/li>\n<li>\n<p>vGPU on top of supported hypervisors<\/p>\n<\/li>\n<\/ul>\n<p>MIG allows multiple vGPUs (and thereby VMs) to run in parallel on a single GPU, while preserving the isolation guarantees that vGPU provides. For more information on GPU partitioning using vGPU and MIG, refer to the\u00a0<a href=\"https:\/\/www.nvidia.com\/content\/dam\/en-zz\/Solutions\/design-visualization\/solutions\/resources\/documents1\/TB-10226-001_v01.pdf\" rel=\"noopener noreferrer nofollow\">technical brief<\/a>.<\/p>\n<\/div>\n<\/details>\n<p>\u0422\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u044f \u0432\u0441\u0451 \u0435\u0449\u0451 \u043d\u0435 \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0430 \u0434\u043b\u044f \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 (\u0432\u0441\u043f\u043e\u043c\u0438\u043d\u0430\u044f \u043c\u043e\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/530986\/\" rel=\"noopener noreferrer nofollow\">\u0438\u0437\u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f <\/a>\u043d\u0430 A100), \u043d\u043e \u043a\u0430\u0441\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043a\u0430\u0440\u0442 \u0435\u0441\u0442\u044c \u0432\u043e\u0442 \u0442\u0430\u043a\u0438\u0435 \u0441\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f:<\/p>\n<details class=\"spoiler\">\n<summary>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f MIG<\/summary>\n<div class=\"spoiler__content\">\n<ul>\n<li>\n<p><strong>No graphics APIs are supported<\/strong> (for example, OpenGL, Vulkan and so on). The exception to this is RTX Pro 6000 Blackwell GPUs where certain MIG profiles support graphics.<\/p>\n<\/li>\n<li>\n<p><strong>No GPU to GPU P2P (either PCIe or NVLink) is supported.<\/strong><\/p>\n<\/li>\n<li>\n<p>CUDA applications treat a Compute Instance and its parent GPU Instance as a single CUDA device. See\u00a0<a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#cuda-device-enumeration\" rel=\"noopener noreferrer nofollow\">this section<\/a>\u00a0on device enumeration by CUDA.<\/p>\n<\/li>\n<li>\n<p>CUDA IPC across GPU instances is not supported. CUDA IPC across Compute instances is supported.<\/p>\n<\/li>\n<li>\n<p>CUDA debugging (e.g. using cuda-gdb) and memory\/race checking (for example, using cuda-memcheck or compute-sanitizer) is supported.<\/p>\n<\/li>\n<li>\n<p>CUDA MPS is supported on top of MIG. The only limitation is that the maximum number of clients (48) is lowered proportionally to the Compute Instance size.<\/p>\n<\/li>\n<li>\n<p>GPUDirect RDMA is supported when used from GPU Instances.<\/p>\n<\/li>\n<\/ul>\n<p>MIG supports running CUDA applications by specifying the CUDA device on which the application should be run. With CUDA 11\/R450 and CUDA 12\/R525, only enumeration of a single MIG instance is supported. In other words, regardless of how many MIG devices are created (or made available to a container), <strong>a single CUDA process can only enumerate a single MIG device<\/strong>. CUDA applications treat a CI and its parent GI as a single CUDA device. CUDA is limited to use a single CI and will pick the first one available if several of them are visible. To summarize, there are two constraints:<\/p>\n<ol>\n<li>\n<p>CUDA can only enumerate a single compute instance<\/p>\n<\/li>\n<li>\n<p>CUDA will not enumerate non-MIG GPU if any compute instance is enumerated on any other GPU<\/p>\n<\/li>\n<\/ol>\n<p>Note that these constraints may be relaxed in future NVIDIA driver releases for MIG.\u00a0<code>CUDA_VISIBLE_DEVICES<\/code>\u00a0has been extended to add support for MIG. Depending on the driver versions being used, two formats are supported:<\/p>\n<ol>\n<li>\n<p>With drivers &gt;= R470 (470.42.01+), each MIG device is assigned a GPU UUID starting with\u00a0<code>MIG-&lt;UUID&gt;<\/code>.<\/p>\n<\/li>\n<li>\n<p>With drivers &lt; R470 (for example, R450 and R460), each MIG device is enumerated by specifying the CI and the corresponding parent GI. The format follows this convention:\u00a0<code>MIG-&lt;GPU-UUID&gt;\/&lt;GPU\u00a0instance\u00a0ID&gt;\/&lt;compute\u00a0instance\u00a0ID&gt;<\/code>.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n<\/details>\n<p><strong>\u041c\u043e\u0439 \u043d\u0430\u0434\u043c\u043e\u0437\u0433 \u0442\u0443\u0442 \u0432\u044b\u0434\u0435\u043b\u044f\u0435\u0442 \u0441\u0430\u043c\u044b\u0435 \u0432\u0430\u0436\u043d\u044b\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f:<\/strong><\/p>\n<ul>\n<li>\n<p>\u0413\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0410\u041f\u0418 \u043d\u0435\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b;<\/p>\n<\/li>\n<li>\n<p>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 GPU to GPU P2P (PCIe \u0438\u043b\u0438 NVLink) \u043d\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f;<\/p>\n<\/li>\n<li>\n<p>\u0412 \u0440\u0430\u043c\u043a\u0430\u0445 \u043e\u0434\u043d\u043e\u0433\u043e CUDA-\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u043e\u0434\u043d\u043e MIG-\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e;<\/p>\n<\/li>\n<li>\n<p>\u041d\u0435\u043b\u044c\u0437\u044f \u043c\u0435\u0448\u0430\u0442\u044c MIG-\u043f\u043e\u0434\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0443 \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 CUDA-\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430;<\/p>\n<\/li>\n<li>\n<p><code>CUDA_VISIBLE_DEVICES<\/code>\u00a0\u0442\u0435\u043f\u0435\u0440\u044c \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0443\u043a\u0430\u0437\u044b\u0432\u0430\u043d\u0438\u0435 MIG-\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043f\u043e UUID, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 <code>MIG-42753a49-5c48-5303-b7fa-1b474afcfe6a<\/code>.<\/p>\n<\/li>\n<\/ul>\n<h3>\u041a\u0430\u043a \u044d\u0442\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435<\/h3>\n<p>\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043e\u0431\u0448\u0438\u0440\u043d\u0430\u044f \u0438 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u0430\u044f, \u043d\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0432\u0441\u0451 \u0441\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0432\u044b\u0437\u043e\u0432\u0443 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 <a href=\"https:\/\/docs.nvidia.com\/datacenter\/tesla\/mig-user-guide\/#getting-started-with-mig\" rel=\"noopener noreferrer nofollow\">\u043a\u043e\u043c\u0430\u043d\u0434<\/a>, \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0445 \u0432 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438.<\/p>\n<p>\u041d\u0435 \u0431\u0443\u0434\u0435\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0438\u0445. \u0412\u0430\u0436\u043d\u043e \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0437\u043d\u044b\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u0435\u0439 &#171;\u0440\u0430\u0441\u043f\u0438\u043b\u0438\u0432\u0430\u043d\u0438\u044f&#187; \u043a\u0430\u0440\u0442\u044b \u043d\u0430 \u043a\u0443\u0441\u043e\u0447\u043a\u0438, \u0438 \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430 4 \u0438 7 &#171;\u043f\u043e\u0434\u043a\u0430\u0440\u0442&#187; \u0438\u043c\u0435\u0435\u0442 \u0440\u0430\u0437\u043d\u043e\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0430\u043c\u044f\u0442\u0438, \u043d\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u0443\u0441\u043e\u0447\u0435\u043a. \u0421\u043c\u0435\u0448\u0438\u0432\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u0440\u043e\u0444\u0438\u043b\u0438 \u043c\u044b \u043d\u0435 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438, \u043d\u043e \u044d\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e.<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u043f\u0438\u0441\u043e\u043a \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u0435\u0439 <\/summary>\n<div class=\"spoiler__content\">\n<pre><code>ubuntu@h100-test:~\/gpu-burn$  nvidia-smi mig -lgip  +-------------------------------------------------------------------------------+  | GPU instance profiles:                                                        |  | GPU   Name               ID    Instances   Memory     P2P    SM    DEC   ENC  |  |                                Free\/Total   GiB              CE    JPEG  OFA  |  |===============================================================================|  |   0  MIG 1g.10gb         19     7\/7        9.75       No     14     1     0   |  |                                                               1     1     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 1g.10gb+me      20     1\/1        9.75       No     14     1     0   |  |                                                               1     1     1   |  +-------------------------------------------------------------------------------+  |   0  MIG 1g.20gb         15     4\/4        19.62      No     14     1     0   |  |                                                               1     1     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 2g.20gb         14     3\/3        19.62      No     30     2     0   |  |                                                               2     2     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 3g.40gb          9     2\/2        39.50      No     46     3     0   |  |                                                               3     3     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 4g.40gb          5     1\/1        39.50      No     62     4     0   |  |                                                               4     4     0   |  +-------------------------------------------------------------------------------+  |   0  MIG 7g.80gb          0     1\/1        79.25      No     114    7     0   |  |                                                               8     7     1   |  +-------------------------------------------------------------------------------+  <\/code><\/pre>\n<\/div>\n<\/details>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0440\u0430\u0441\u043f\u0438\u043b\u0438\u0432\u0430\u043d\u0438\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432\u0438\u0434\u0438\u0442 &#171;\u043f\u043e\u0434\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438&#187; \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c (\u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u043f\u0440\u0435\u0441\u0435\u0442\u043e\u0432):<\/p>\n<details class=\"spoiler\">\n<summary>\u041f\u043e\u0434\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0438<\/summary>\n<div class=\"spoiler__content\">\n<pre><code>ubuntu@h100-test:~\/gpu-burn$ nvidia-smi -L GPU 0: NVIDIA H100 PCIe (UUID: GPU-b7993cf0-88bc-732c-4f8a-12f4234a7cf9)   MIG 7g.80gb     Device  0: (UUID: MIG-761616d7-1d64-58ca-bd17-0c0134f5e1bb)  ubuntu@h100-test:~\/gpu-burn$ sudo nvidia-smi mig -lgi +---------------------------------------------------------+ | GPU instances:                                          | | GPU   Name               Profile  Instance   Placement  | |                            ID       ID       Start:Size | |=========================================================| |   0  MIG 3g.40gb            9        1          4:4     | +---------------------------------------------------------+ |   0  MIG 3g.40gb            9        2          0:4     |<\/code><\/pre>\n<\/div>\n<\/details>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-474382","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/474382","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=474382"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/474382\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=474382"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=474382"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=474382"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}