{"id":502344,"date":"2026-11-09T18:31:57","date_gmt":"2026-11-09T15:31:57","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=502344"},"modified":"2026-11-09T18:31:57","modified_gmt":"2026-11-09T15:31:57","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=502344","title":{"rendered":"gpu-unlock: \u043a\u0430\u043a \u0441\u043d\u044f\u0442\u044c \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043b\u043e\u043a FP16\/BF16 \u043d\u0430 RTX 20\/30\/40 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0438"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0423 \u0432\u0430\u0441 \u0432 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435 \u043c\u043e\u0436\u0435\u0442 \u0441\u0442\u043e\u044f\u0442\u044c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u043c\u043e\u0433\u043b\u0430 \u0431\u044b \u2014 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c \u0442\u0430\u043a \u0440\u0435\u0448\u0438\u043b \u0432 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0435. \u041f\u0440\u043e\u0435\u043a\u0442 <a href=\"https:\/\/github.com\/zagitta\/gpu-unlock\" rel=\"noopener nofollow\">gpu-unlock<\/a> \u043e\u0442 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430 \u0441 \u043d\u0438\u043a\u043e\u043c Zagitta \u0441\u043d\u0438\u043c\u0430\u0435\u0442 \u044d\u0442\u043e\u0442 \u043b\u0438\u043c\u0438\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e, \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u044f\u0434\u0440\u0430 Linux, \u0431\u0435\u0437 \u043f\u0430\u0442\u0447\u0435\u043d\u043e\u0433\u043e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0438 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0438 VBIOS.<\/p>\n<p>\u0414\u0438\u0441\u043a\u043b\u0435\u0439\u043c\u0435\u0440 \u0441\u0440\u0430\u0437\u0443: \u0441\u0430\u043c \u044f \u044d\u0442\u043e\u0442 \u043c\u043e\u0434\u0443\u043b\u044c \u043d\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b (\u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e Qwen3.8 \u043d\u0430 1070, \u0433\u0434\u0435 \u0432\u0441\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u043c\u043e\u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b). \u0412\u0441\u0451 \u043d\u0438\u0436\u0435 \u2014 \u0440\u0430\u0437\u0431\u043e\u0440 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u0438 README \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0441 \u0443\u043a\u0430\u0437\u0430\u043d\u0438\u0435\u043c, \u0433\u0434\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0430\u0432\u0442\u043e\u0440\u0430 \u0438 \u043a\u043e\u043c\u043c\u044c\u044e\u043d\u0438\u0442\u0438, \u0430 \u043d\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a.<\/p>\n<h3>\u0412 \u0447\u0451\u043c \u0441\u0443\u0442\u044c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f<\/h3>\n<p>NVIDIA \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u0435\u0442 \u043b\u0438\u043d\u0435\u0439\u043a\u0443 \u043d\u0430 \u0433\u0435\u0439\u043c\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GeForce RTX \u0438 \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435\/\u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440\u043e\u0432\u044b\u0435 \u043a\u0430\u0440\u0442\u044b (Tesla, A100, H100 \u0438 \u0442.\u0434.) \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e \u0446\u0435\u043d\u0435, \u043d\u043e \u0438 \u043f\u043e \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u043d\u0430 FP16\/BF16\/TF32 \u0441 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u0438\u0435\u043c \u0432 FP32. \u0416\u0435\u043b\u0435\u0437\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435 (\u0438\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e\u0435), \u043d\u043e \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u043a\u0430\u0440\u0442\u0430\u0445 \u044d\u0442\u0430 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0443\u0440\u0435\u0437\u0430\u043d\u0430 \u2014 \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0432\u0434\u0432\u043e\u0435 \u043e\u0442 \u043f\u0430\u0441\u043f\u043e\u0440\u0442\u043d\u043e\u0439 \u043f\u0438\u043a\u043e\u0432\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440.<\/p>\n<p>\u0414\u043b\u044f \u0438\u0433\u0440 \u044d\u0442\u043e \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u2014 \u0442\u0430\u043c \u044d\u0442\u043e\u0442 \u0440\u0435\u0436\u0438\u043c \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f. \u0410 \u0432\u043e\u0442 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM, \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u043d\u0433\u0430, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438 \u0432\u0438\u0434\u0435\u043e \u2014 \u044d\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u043e, \u0447\u0442\u043e \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0438 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 prefill (\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430).<\/p>\n<h3>\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 gpu-unlock \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438<\/h3>\n<p>\u042d\u0442\u043e \u043c\u043e\u0434\u0443\u043b\u044c \u044f\u0434\u0440\u0430 Linux, \u043a\u043e\u0442\u043e\u0440\u044b\u0439:<\/p>\n<ol>\n<li>\n<p>\u0412\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0432 initramfs (mkinitcpio\/initramfs-tools\/dracut) \u0438 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f <strong>\u0434\u043e<\/strong> \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043f\u0440\u0438\u0432\u044f\u0436\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440 <code>nvidia<\/code>.<\/p>\n<\/li>\n<li>\n<p>\u0417\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0432 \u043a\u0430\u0440\u0442\u0443 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u044b-\u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438: <code>SS0 = 0x88888888<\/code> (\u043f\u043e\u043b\u043d\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c BF16) \u0438 4-\u0431\u0438\u0442\u043d\u044b\u0439 <code>SS1 = 0x8<\/code> (\u0440\u0435\u0436\u0438\u043c IMLA4).<\/p>\n<\/li>\n<li>\n<p>\u0412\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 FLR (Function-Level Reset) \u043a\u0430\u0440\u0442\u044b, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043e\u0442\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u0435\u0451 \u2014 \u0438 \u0443\u0436\u0435 \u043d\u0435\u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440 NVIDIA \u0446\u0435\u043f\u043b\u044f\u0435\u0442\u0441\u044f \u043a \u043a\u0430\u0440\u0442\u0435 \u043a\u0430\u043a \u043d\u0438 \u0432 \u0447\u0451\u043c \u043d\u0435 \u0431\u044b\u0432\u0430\u043b\u043e.<\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u043e\u0434\u0445\u043e\u0434 \u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u0445\u043d\u0438\u043a\u0443 \u0438\u0437 \u0431\u043e\u043b\u0435\u0435 \u0441\u0442\u0430\u0440\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430 cmpunlocker (\u0440\u0430\u0431\u043e\u0442\u0430 \u0441 V67\/PLM-\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430\u043c\u0438) \u0441 \u0438\u0434\u0435\u0435\u0439 \u043f\u0435\u0440\u0435\u0445\u0432\u0430\u0442\u0430 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u0434\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 UEFI. \u0414\u0440\u0430\u0439\u0432\u0435\u0440 NVIDIA \u043c\u043e\u0434\u0443\u043b\u044c \u043d\u0435 \u043f\u0430\u0442\u0447\u0438\u0442 \u0438 \u043d\u0435 \u043f\u043e\u0434\u043c\u0435\u043d\u044f\u0435\u0442 \u2014 \u0430\u0440\u0445\u0438\u0432 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0442\u0430\u0449\u0438\u0442\u044c \u0438\u0437 \u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0443, \u043e\u0442 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430. \u041f\u043e \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044e \u0430\u0432\u0442\u043e\u0440\u0430, \u043f\u0440\u0438\u0432\u044f\u0437\u043a\u0438 \u043a \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u043d\u0435\u0442.<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e: \u044d\u0442\u043e \u043d\u0435 \u0445\u0430\u043a \u0438 \u043d\u0435 \u0447\u0438\u0442\u0435\u0440\u0441\u0442\u0432\u043e \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u2014 \u0430\u0432\u0442\u043e\u0440 \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442, \u0447\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043f\u043e\u0431\u0438\u0442\u043e\u0432\u043e \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u044b \u0434\u043e \u0438 \u043f\u043e\u0441\u043b\u0435, \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c.<\/p>\n<h3>\u041a\u0430\u043a\u0438\u0435 \u043a\u0430\u0440\u0442\u044b \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041a\u0430\u0440\u0442\u044b<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0421\u0442\u0430\u0442\u0443\u0441<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Ampere (RTX 30)<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTX 3050 \u2014 3090 Ti, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0435 3070\/3080<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Ada Lovelace (RTX 40)<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTX 4060 \u2014 4090 (\u0432\u043a\u043b\u044e\u0447\u0430\u044f 4090 D), \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0435 4050\/4060<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Turing (RTX 20)<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTX 2060 \u2014 2080 Ti, Titan RTX<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Blackwell (RTX 50)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2014<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u043c \u0430\u0432\u0442\u043e\u0440\u0430 \u2014 \u201c\u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u0438 \u043d\u0435 \u0431\u0443\u0434\u0435\u0442\u201d<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u043e\u0447\u043d\u044b\u0435 PCI device ID \u2014 \u0432 \u0444\u0430\u0439\u043b\u0435 <code>kernel\/gpu_unlock\/recipes.c<\/code> \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f.<\/p>\n<p>\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e, Pascal (10-\u0441\u0435\u0440\u0438\u044f, \u0442\u0430 \u0441\u0430\u043c\u0430\u044f GTX 1070 \u0438\u0437 \u043c\u043e\u0435\u0439 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0438) \u0432 \u0441\u043f\u0438\u0441\u043a\u0435 \u043d\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435 \u2014 \u0443 \u044d\u0442\u0438\u0445 \u043a\u0430\u0440\u0442 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043d\u0435\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430 tensor-core BF16, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c (\u0443 Pascal \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u0442 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u0432 \u043d\u0443\u0436\u043d\u043e\u043c \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0432\u0438\u0434\u0435). \u0422\u0430\u043a \u0447\u0442\u043e \u0434\u043b\u044f 1070 \u044d\u0442\u043e\u0442 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435 \u0430\u043a\u0442\u0443\u0430\u043b\u0435\u043d, \u0430 \u0432\u043e\u0442 \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0430\u043c 20\/30\/40 \u0441\u0435\u0440\u0438\u0439 \u2014 \u0441\u0430\u043c\u043e\u0435 \u0442\u043e.<\/p>\n<h3>\u0426\u0438\u0444\u0440\u044b \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 (\u043f\u043e \u0434\u0430\u043d\u043d\u044b\u043c README)<\/h3>\n<p><strong>\u0427\u0438\u0441\u0442\u044b\u0439 BF16 matmul \u043d\u0430 \u0441\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043b\u0438\u043c\u0438\u0442\u0430\u0445 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438:<\/strong><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u0430\u0440\u0442\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0414\u043e<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u043e\u0441\u043b\u0435<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u0440\u0438\u0440\u043e\u0441\u0442<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 3060 12 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">27 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">51 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">+87%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 3080 10 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">65 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">113 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">+73%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 3090<\/p>\n<\/td>\n<td>\n<p align=\"left\">75 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">125 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">+65%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 4080<\/p>\n<\/td>\n<td>\n<p align=\"left\">104 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">193 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">+87%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTX 4090<\/p>\n<\/td>\n<td>\n<p align=\"left\">165 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">329 TFLOPS<\/p>\n<\/td>\n<td>\n<p align=\"left\">+100% (\u043f\u0438\u043a\u043e\u0432\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c)<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0414\u043b\u044f RTX 4090 \u0430\u0432\u0442\u043e\u0440 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442: \u043a\u0430\u0440\u0442\u0430 \u0440\u0430\u043d\u044c\u0448\u0435 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043b\u0438\u043c\u0438\u0442 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438, \u0447\u0435\u043c \u0432 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 GEMM \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u043f\u0438\u043a\u043e\u0432\u0430\u044f \u0446\u0438\u0444\u0440\u0430 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.<\/p>\n<p><strong>\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 (\u0442\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u044b, \u043f\u043e \u043e\u0442\u0447\u0451\u0442\u0430\u043c \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430, \u043d\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a):<\/strong><\/p>\n<ul>\n<li>\n<p>Prefill LLM (FP16\/BF16, AWQ\/GPTQ): +25\u201355%, \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0438\u0436\u0435 \u043d\u0430 25\u201330%<\/p>\n<\/li>\n<li>\n<p>LoRA \u0438 full-finetuning (BF16): +25\u201350%<\/p>\n<\/li>\n<li>\n<p>\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 (FP16\/BF16): +30\u201355%<\/p>\n<\/li>\n<li>\n<p>\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0432\u0438\u0434\u0435\u043e (Wan 2.2, BF16): +15\u201320%<\/p>\n<\/li>\n<li>\n<p>FlashAttention\/SDPA: +50\u201360%<\/p>\n<\/li>\n<li>\n<p>llama.cpp\/Ollama \u0441 GGUF: 0\u201315%, \u0437\u0430\u043c\u0435\u0442\u043d\u0435\u0435 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435<\/p>\n<\/li>\n<li>\n<p>\u0411\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439: decode LLM (\u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u044c, \u0430 \u043d\u0435 \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f), INT8\/FP8\/INT4-\u043c\u043e\u0434\u0435\u043b\u0438, \u0438\u0433\u0440\u044b, FP32 CUDA<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043f\u0443\u043d\u043a\u0442 \u2014 \u044d\u0442\u043e \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM. \u0415\u0441\u043b\u0438 \u0432\u044b \u0433\u043e\u043d\u044f\u0435\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 INT8\/INT4-\u043a\u0432\u0430\u043d\u0442\u0430\u0445 (\u043a\u0430\u043a \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 setup\u2019\u043e\u0432 \u043d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u0435) \u0438 \u0432\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 (decode), \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e prefill \u2014 \u0431\u0443\u0441\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0443\u043b\u0435\u0432\u044b\u043c. \u0412\u044b\u0438\u0433\u0440\u044b\u0448 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u0435\u043d \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 BF16\/FP16 \u0432\u0435\u0441\u0430\u0445 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438\u043b\u0438 \u043d\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438.<\/p>\n<h3>\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430<\/h3>\n<pre><code class=\"bash\">git clone https:\/\/github.com\/zagitta\/gpu-unlockcd gpu-unlockmake install<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper\"><\/span><\/a><\/div><\/pre>\n<p>\u0421\u043a\u0440\u0438\u043f\u0442 \u0441\u0430\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432 \u0438 \u0441\u0442\u0430\u0432\u0438\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438. \u0415\u0441\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0442\u0430\u0440\u0433\u0435\u0442\u044b \u043f\u043e\u0434 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u043f\u0430\u043a\u0435\u0442\u043d\u044b\u0435 \u043c\u0435\u043d\u0435\u0434\u0436\u0435\u0440\u044b: <code>make install-arch<\/code>, <code>make install-deb<\/code> (Debian\/Ubuntu), <code>make install-rpm<\/code> (Fedora\/RHEL, \u043d\u0443\u0436\u0435\u043d DNF).<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043d\u0443\u0436\u043d\u043e \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u044f\u0434\u0440\u0430 (\u043d\u0435 \u0437\u0430\u0442\u0438\u0440\u0430\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043e\u043f\u0446\u0438\u0438):<\/p>\n<pre><code>gpu_unlock.targets=all<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u0421\u043f\u043e\u0441\u043e\u0431 \u043f\u0440\u043e\u043f\u0438\u0441\u0430\u0442\u044c \u044d\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043a\u0430: GRUB, <code>grubby<\/code> \u043d\u0430 Fedora, systemd-boot, \u043b\u0438\u0431\u043e <code>\/etc\/kernel\/cmdline<\/code> \u0434\u043b\u044f UKI-\u0441\u0431\u043e\u0440\u043e\u043a. \u041c\u043e\u0436\u043d\u043e \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u0438 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u044b \u043f\u043e PCI-\u0430\u0434\u0440\u0435\u0441\u0443 \u0432\u043c\u0435\u0441\u0442\u043e <code>all<\/code>:<\/p>\n<pre><code>gpu_unlock.targets=0000:21:00.0,0000:22:00.0<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u041a\u0430\u0440\u0442\u044b, \u0443\u0436\u0435 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u043a \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0443 \u0438\u043b\u0438 \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d\u043d\u044b\u0435, \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u0431\u0435\u0437 \u043e\u0448\u0438\u0431\u043e\u043a.<\/p>\n<p>\u041f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430:<\/p>\n<pre><code class=\"bash\">journalctl -k -b | grep gpu_unlocklspci -nnk -s 0000:XX:00.0<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><span class=\"sc-logo-wrapper icon-only\"><\/span><\/a><\/div><\/pre>\n<p>\u041e\u0442\u043a\u0430\u0442\u0438\u0442\u044c \u2014 \u0443\u0431\u0440\u0430\u0442\u044c <code>gpu_unlock.targets=<\/code> \u0438\u0437 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u044f\u0434\u0440\u0430 \u0438\u043b\u0438 \u0443\u0434\u0430\u043b\u0438\u0442\u044c \u043f\u0430\u043a\u0435\u0442.<\/p>\n<h3>\u0420\u0438\u0441\u043a\u0438 \u0438 \u043d\u044e\u0430\u043d\u0441\u044b<\/h3>\n<ul>\n<li>\n<p><strong>\u041d\u043e\u0443\u0442\u0431\u0443\u043a\u0438.<\/strong> \u0420\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430 \u0442\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u043c \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0438 \u043f\u0438\u0442\u0430\u043d\u0438\u044f \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0439 GPU. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 runtime power management (<code>NVreg_DynamicPowerManagement=0x00<\/code>), \u043d\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0435\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u044b\u0439.<\/p>\n<\/li>\n<li>\n<p><strong>Suspend\/resume.<\/strong> \u0421\u043e\u043d \u0432 \u041e\u0417\u0423 \u0441\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0435\u0442 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u044b-\u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438, \u043c\u043e\u0434\u0443\u043b\u044c \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u0440\u0442\u0443 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u043f\u0440\u0438 \u043f\u0440\u043e\u0431\u0443\u0436\u0434\u0435\u043d\u0438\u0438 (~1 \u0441\u0435\u043a\u0443\u043d\u0434\u0430 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438). \u041e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c <code>gpu_unlock.resume=0<\/code>. \u0413\u0438\u0431\u0435\u0440\u043d\u0430\u0446\u0438\u044f \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>\u0415\u0441\u043b\u0438 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0430 \u201c\u0437\u0430\u0432\u0438\u0441\u043b\u0430\u201d.<\/strong> \u041c\u043e\u0434\u0443\u043b\u044c \u043b\u043e\u0433\u0438\u0440\u0443\u0435\u0442 \u044d\u0442\u043e \u0438 \u0434\u0435\u0440\u0436\u0438\u0442 DMA-\u0431\u0443\u0444\u0435\u0440\u044b \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0434\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u0431\u0435\u0441\u0442\u043e\u0447\u0438\u0432\u0430\u043d\u0438\u044f \u043a\u0430\u0440\u0442\u044b \u2014 \u043f\u0435\u0440\u0435\u0434 \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u043c \u043d\u0443\u0436\u043d\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u043f\u0438\u0442\u0430\u043d\u0438\u0435, \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0430\u0433\u0440\u0435\u0432.<\/strong> \u041a\u0430\u0440\u0442\u0430 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0442\u0435\u043f\u043b\u0435\u0435 \u0438\u0437-\u0437\u0430 \u0432\u043e\u0437\u0440\u043e\u0441\u0448\u0435\u0439 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438, \u043d\u043e \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433 \u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u0438\u0442\u0430\u043d\u0438\u0435\u043c \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p><strong>Windows.<\/strong> \u0410\u0432\u0442\u043e\u0440\u043e\u043c \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f. \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0439 \u043f\u043e\u0440\u0442, \u043d\u043e \u0432 FAQ \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0443\u043f\u0440\u0435\u0436\u0434\u0435\u043d\u0438\u0435: \u043a \u043b\u044e\u0431\u044b\u043c \u201c\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a\u0430\u043c \u043f\u043e\u0434 Windows\u201d, \u0433\u0443\u043b\u044f\u044e\u0449\u0438\u043c \u043f\u043e \u0441\u0435\u0442\u0438, \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u044c\u0441\u044f \u0441 \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043e\u0441\u0442\u043e\u0440\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u2014 \u044d\u0442\u043e \u043d\u0435 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0434\u0443\u043a\u0442 \u043f\u0440\u043e\u0435\u043a\u0442\u0430.<\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u043a\u0430\u043c.<\/strong> \u0412 FAQ \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e: \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u043a\u0440\u0438\u043f\u0442\u043e\u0432\u0430\u043b\u044e\u0442\u044b, \u0441\u0430\u0439\u0442\u043e\u0432 \u0438\u043b\u0438 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a\u043e\u0432, \u043a\u0440\u043e\u043c\u0435 \u0441\u0430\u043c\u043e\u0433\u043e GitHub-\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f.<\/p>\n<\/li>\n<\/ul>\n<h3>\u041b\u0438\u0446\u0435\u043d\u0437\u0438\u044f<\/h3>\n<p>\u0421\u0430\u043c \u043c\u043e\u0434\u0443\u043b\u044c \u044f\u0434\u0440\u0430 \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u2014 GPL-2.0-only. \u0421\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0431\u0443\u0444\u0435\u0440 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0438 \u0441\u043e\u0431\u0440\u0430\u043d \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0440\u0435\u0444\u0435\u0440\u0435\u043d\u0441\u0430 CMP; \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0430 NVIDIA \u0432\u043d\u0443\u0442\u0440\u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u0434 \u0435\u0451 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0435\u0439 (\u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u2014 <code>firmware\/NOTICE.md<\/code> \u0438 <code>licenses\/<\/code> \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438).<\/p>\n<h3>\u0418\u0442\u043e\u0433\u043e<\/h3>\n<p>\u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 RTX 20\/30\/40-\u0441\u0435\u0440\u0438\u0438 \u0438 \u0432\u044b \u0433\u043e\u043d\u044f\u0435\u0442\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 LLM, \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438\/\u0432\u0438\u0434\u0435\u043e \u0432 FP16\/BF16 \u2014 \u044d\u0442\u043e \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u0439 \u0438, \u0441\u0443\u0434\u044f \u043f\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044e, \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c +25-90% \u043d\u0430 \u0441\u0430\u043c\u044b\u0445 \u0434\u043e\u0440\u043e\u0433\u0438\u0445 \u043f\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u043c \u044d\u0442\u0430\u043f\u0430\u0445, \u0431\u0435\u0437 \u0434\u043e\u043f\u043b\u0430\u0442\u044b \u0437\u0430 \u043d\u043e\u0432\u0443\u044e \u043a\u0430\u0440\u0442\u0443. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u2014 \u0447\u0435\u0441\u0442\u043d\u043e \u0441\u0432\u0435\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u0441\u0432\u043e\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0441\u043e \u0441\u043f\u0438\u0441\u043a\u043e\u043c \u201c\u0433\u0434\u0435 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u201d: decode \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM \u0432 \u043a\u0432\u0430\u043d\u0442\u0435 INT8\/INT4 \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u0430 \u043d\u0435 \u0434\u0430\u0441\u0442 \u0432\u043e\u043e\u0431\u0449\u0435, \u0438 \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u0441\u0430\u043c\u044b\u0439 \u0447\u0430\u0441\u0442\u044b\u0439 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439. \u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0442\u0430\u0449\u0438\u0442\u044c \u044d\u0442\u043e \u0432 \u043f\u0440\u043e\u0434 \u0438\u043b\u0438 \u043d\u0430 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0447\u0443\u044e \u043c\u0430\u0448\u0438\u043d\u0443 \u2014 \u043f\u043e\u0447\u0438\u0442\u0430\u0439\u0442\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u0441\u0430\u043c\u0438 \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044c\u0442\u0435 \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u0441\u0442\u0435\u043d\u0434\u0435, \u0446\u0438\u0444\u0440\u044b \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u2014 \u044d\u0442\u043e \u043f\u0435\u0440\u0435\u0441\u043a\u0430\u0437 README \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0430 \u043d\u0435 \u043c\u043e\u0439 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0437\u0430\u043c\u0435\u0440.<\/p>\n<p>\u0421\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439: <a href=\"https:\/\/github.com\/zagitta\/gpu-unlock\" rel=\"noopener nofollow\">github.com\/zagitta\/gpu-unlock<\/a><\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1105598\/\">https:\/\/habr.com\/ru\/articles\/1105598\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0423 \u0432\u0430\u0441 \u0432 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435 \u043c\u043e\u0436\u0435\u0442 \u0441\u0442\u043e\u044f\u0442\u044c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u043c\u043e\u0433\u043b\u0430 \u0431\u044b \u2014 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c \u0442\u0430\u043a \u0440\u0435\u0448\u0438\u043b \u0432 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0435. \u041f\u0440\u043e\u0435\u043a\u0442 gpu-unlock \u043e\u0442 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430 \u0441 \u043d\u0438\u043a\u043e\u043c Zagitta \u0441\u043d\u0438\u043c\u0430\u0435\u0442 \u044d\u0442\u043e\u0442 \u043b\u0438\u043c\u0438\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e, \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u044f\u0434\u0440\u0430 Linux, \u0431\u0435\u0437 \u043f\u0430\u0442\u0447\u0435\u043d\u043e\u0433\u043e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0438 \u0431\u0435\u0437 \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0438 VBIOS.\u0414\u0438\u0441\u043a\u043b\u0435\u0439\u043c\u0435\u0440 \u0441\u0440\u0430\u0437\u0443: \u0441\u0430\u043c \u044f \u044d\u0442\u043e\u0442 \u043c\u043e\u0434\u0443\u043b\u044c \u043d\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043b (\u0432 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e Qwen3.8 \u043d\u0430 1070, \u0433\u0434\u0435 \u0432\u0441\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u043c\u043e\u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b). \u0412\u0441\u0451 \u043d\u0438\u0436\u0435 \u2014 \u0440\u0430\u0437\u0431\u043e\u0440 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u0438 README \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0441 \u0443\u043a\u0430\u0437\u0430\u043d\u0438\u0435\u043c, \u0433\u0434\u0435 \u0446\u0438\u0444\u0440\u044b \u2014 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0430\u0432\u0442\u043e\u0440\u0430 \u0438 \u043a\u043e\u043c\u043c\u044c\u044e\u043d\u0438\u0442\u0438, \u0430 \u043d\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a.\u0412 \u0447\u0451\u043c \u0441\u0443\u0442\u044c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044fNVIDIA \u0440\u0430\u0437\u0434\u0435\u043b\u044f\u0435\u0442 \u043b\u0438\u043d\u0435\u0439\u043a\u0443 \u043d\u0430 \u0433\u0435\u0439\u043c\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GeForce RTX \u0438 \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0435\/\u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440\u043e\u0432\u044b\u0435 \u043a\u0430\u0440\u0442\u044b (Tesla, A100, H100 \u0438 \u0442.\u0434.) \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e \u0446\u0435\u043d\u0435, \u043d\u043e \u0438 \u043f\u043e \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u043d\u0430 FP16\/BF16\/TF32 \u0441 \u043d\u0430\u043a\u043e\u043f\u043b\u0435\u043d\u0438\u0435\u043c \u0432 FP32. \u0416\u0435\u043b\u0435\u0437\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435 (\u0438\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043b\u0438\u0437\u043a\u043e\u0435), \u043d\u043e \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u043a\u0430\u0440\u0442\u0430\u0445 \u044d\u0442\u0430 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0443\u0440\u0435\u0437\u0430\u043d\u0430 \u2014 \u0447\u0430\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0432\u0434\u0432\u043e\u0435 \u043e\u0442 \u043f\u0430\u0441\u043f\u043e\u0440\u0442\u043d\u043e\u0439 \u043f\u0438\u043a\u043e\u0432\u043e\u0439 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440.\u0414\u043b\u044f \u0438\u0433\u0440 \u044d\u0442\u043e \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u2014 \u0442\u0430\u043c \u044d\u0442\u043e\u0442 \u0440\u0435\u0436\u0438\u043c \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f. \u0410 \u0432\u043e\u0442 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM, \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u043d\u0433\u0430, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438 \u0432\u0438\u0434\u0435\u043e \u2014 \u044d\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u043e, \u0447\u0442\u043e \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0438 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 prefill (\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430).\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0435\u0442 gpu-unlock \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u042d\u0442\u043e \u043c\u043e\u0434\u0443\u043b\u044c \u044f\u0434\u0440\u0430 Linux, \u043a\u043e\u0442\u043e\u0440\u044b\u0439:\u0412\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0432 initramfs (mkinitcpio\/initramfs-tools\/dracut) \u0438 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u0441\u044f \u0434\u043e \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043f\u0440\u0438\u0432\u044f\u0436\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440 nvidia.\u0417\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0432 \u043a\u0430\u0440\u0442\u0443 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u044b-\u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438: SS0 = 0x88888888 (\u043f\u043e\u043b\u043d\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c BF16) \u0438 4-\u0431\u0438\u0442\u043d\u044b\u0439 SS1 = 0x8 (\u0440\u0435\u0436\u0438\u043c IMLA4).\u0412\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 FLR (Function-Level Reset) \u043a\u0430\u0440\u0442\u044b, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043e\u0442\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u0435\u0451 \u2014 \u0438 \u0443\u0436\u0435 \u043d\u0435\u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440 NVIDIA \u0446\u0435\u043f\u043b\u044f\u0435\u0442\u0441\u044f \u043a \u043a\u0430\u0440\u0442\u0435 \u043a\u0430\u043a \u043d\u0438 \u0432 \u0447\u0451\u043c \u043d\u0435 \u0431\u044b\u0432\u0430\u043b\u043e.\u041f\u043e\u0434\u0445\u043e\u0434 \u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u0445\u043d\u0438\u043a\u0443 \u0438\u0437 \u0431\u043e\u043b\u0435\u0435 \u0441\u0442\u0430\u0440\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430 cmpunlocker (\u0440\u0430\u0431\u043e\u0442\u0430 \u0441 V67\/PLM-\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0430\u043c\u0438) \u0441 \u0438\u0434\u0435\u0435\u0439 \u043f\u0435\u0440\u0435\u0445\u0432\u0430\u0442\u0430 \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u0434\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 UEFI. \u0414\u0440\u0430\u0439\u0432\u0435\u0440 NVIDIA \u043c\u043e\u0434\u0443\u043b\u044c \u043d\u0435 \u043f\u0430\u0442\u0447\u0438\u0442 \u0438 \u043d\u0435 \u043f\u043e\u0434\u043c\u0435\u043d\u044f\u0435\u0442 \u2014 \u0430\u0440\u0445\u0438\u0432 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0432\u044b\u0442\u0430\u0449\u0438\u0442\u044c \u0438\u0437 \u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0443, \u043e\u0442 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430. \u041f\u043e \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044e \u0430\u0432\u0442\u043e\u0440\u0430, \u043f\u0440\u0438\u0432\u044f\u0437\u043a\u0438 \u043a \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430 \u043d\u0435\u0442.\u0412\u0430\u0436\u043d\u043e: \u044d\u0442\u043e \u043d\u0435 \u0445\u0430\u043a \u0438 \u043d\u0435 \u0447\u0438\u0442\u0435\u0440\u0441\u0442\u0432\u043e \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u2014 \u0430\u0432\u0442\u043e\u0440 \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442, \u0447\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043f\u043e\u0431\u0438\u0442\u043e\u0432\u043e \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u044b \u0434\u043e \u0438 \u043f\u043e\u0441\u043b\u0435, \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c.\u041a\u0430\u043a\u0438\u0435 \u043a\u0430\u0440\u0442\u044b \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f\u041f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435\u041a\u0430\u0440\u0442\u044b\u0421\u0442\u0430\u0442\u0443\u0441Ampere (RTX 30)RTX 3050 \u2014 3090 Ti, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0435 3070\/3080\u0421\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043eAda Lovelace (RTX 40)RTX 4060 \u2014 4090 (\u0432\u043a\u043b\u044e\u0447\u0430\u044f 4090 D), \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0435 4050\/4060\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043eTuring (RTX 20)RTX 2060 \u2014 2080 Ti, Titan RTX\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u043eBlackwell (RTX 50)\u2014\u041d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u043c \u0430\u0432\u0442\u043e\u0440\u0430 \u2014 \u201c\u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u0438 \u043d\u0435 \u0431\u0443\u0434\u0435\u0442\u201d\u0422\u043e\u0447\u043d\u044b\u0435 PCI device ID \u2014 \u0432 \u0444\u0430\u0439\u043b\u0435 kernel\/gpu_unlock\/recipes.c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f.\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e, Pascal (10-\u0441\u0435\u0440\u0438\u044f, \u0442\u0430 \u0441\u0430\u043c\u0430\u044f GTX 1070 \u0438\u0437 \u043c\u043e\u0435\u0439 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0438) \u0432 \u0441\u043f\u0438\u0441\u043a\u0435 \u043d\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435 \u2014 \u0443 \u044d\u0442\u0438\u0445 \u043a\u0430\u0440\u0442 \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043d\u0435\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0440\u0435\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430 tensor-core BF16, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u0430\u0442\u044c (\u0443 Pascal \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435\u0442 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440 \u0432 \u043d\u0443\u0436\u043d\u043e\u043c \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0432\u0438\u0434\u0435). \u0422\u0430\u043a \u0447\u0442\u043e \u0434\u043b\u044f 1070 \u044d\u0442\u043e\u0442 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435 \u0430\u043a\u0442\u0443\u0430\u043b\u0435\u043d, \u0430 \u0432\u043e\u0442 \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0430\u043c 20\/30\/40 \u0441\u0435\u0440\u0438\u0439 \u2014 \u0441\u0430\u043c\u043e\u0435 \u0442\u043e.\u0426\u0438\u0444\u0440\u044b \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 (\u043f\u043e \u0434\u0430\u043d\u043d\u044b\u043c README)\u0427\u0438\u0441\u0442\u044b\u0439 BF16 matmul \u043d\u0430 \u0441\u0442\u043e\u043a\u043e\u0432\u044b\u0445 \u043b\u0438\u043c\u0438\u0442\u0430\u0445 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438:\u041a\u0430\u0440\u0442\u0430\u0414\u043e\u041f\u043e\u0441\u043b\u0435\u041f\u0440\u0438\u0440\u043e\u0441\u0442RTX 3060 12 \u0413\u041127 TFLOPS51 TFLOPS+87%RTX 3080 10 \u0413\u041165 TFLOPS113 TFLOPS+73%RTX 309075 TFLOPS125 TFLOPS+65%RTX 4080104 TFLOPS193 TFLOPS+87%RTX 4090165 TFLOPS329 TFLOPS+100% (\u043f\u0438\u043a\u043e\u0432\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c)\u0414\u043b\u044f RTX 4090 \u0430\u0432\u0442\u043e\u0440 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442: \u043a\u0430\u0440\u0442\u0430 \u0440\u0430\u043d\u044c\u0448\u0435 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043b\u0438\u043c\u0438\u0442 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u0438, \u0447\u0435\u043c \u0432 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 GEMM \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0431\u0443\u0434\u0435\u0442 \u043c\u0435\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u043f\u0438\u043a\u043e\u0432\u0430\u044f \u0446\u0438\u0444\u0440\u0430 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 (\u0442\u0438\u043f\u0438\u0447\u043d\u044b\u0435 \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u044b, \u043f\u043e \u043e\u0442\u0447\u0451\u0442\u0430\u043c \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430, \u043d\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0439 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a):Prefill LLM (FP16\/BF16, AWQ\/GPTQ): +25\u201355%, \u0432\u0440\u0435\u043c\u044f \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430 \u043d\u0438\u0436\u0435 \u043d\u0430 25\u201330%LoRA \u0438 full-finetuning (BF16): +25\u201350%\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 (FP16\/BF16): +30\u201355%\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0432\u0438\u0434\u0435\u043e (Wan 2.2, BF16): +15\u201320%FlashAttention\/SDPA: +50\u201360%llama.cpp\/Ollama \u0441 GGUF: 0\u201315%, \u0437\u0430\u043c\u0435\u0442\u043d\u0435\u0435 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435\u0411\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439: decode LLM (\u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u044c, \u0430 \u043d\u0435 \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f), INT8\/FP8\/INT4-\u043c\u043e\u0434\u0435\u043b\u0438, \u0438\u0433\u0440\u044b, FP32 CUDA\u041e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043f\u0443\u043d\u043a\u0442 \u2014 \u044d\u0442\u043e \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM. \u0415\u0441\u043b\u0438 \u0432\u044b \u0433\u043e\u043d\u044f\u0435\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 INT8\/INT4-\u043a\u0432\u0430\u043d\u0442\u0430\u0445 (\u043a\u0430\u043a \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 setup\u2019\u043e\u0432 \u043d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u0435) \u0438 \u0432\u0430\u0441 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u0443\u0435\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 (decode), \u0430 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e prefill \u2014 \u0431\u0443\u0441\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0443\u043b\u0435\u0432\u044b\u043c. \u0412\u044b\u0438\u0433\u0440\u044b\u0448 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u0435\u043d \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 BF16\/FP16 \u0432\u0435\u0441\u0430\u0445 \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438\u043b\u0438 \u043d\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438.\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430git clone https:\/\/github.com\/zagitta\/gpu-unlockcd gpu-unlockmake install\u0421\u043a\u0440\u0438\u043f\u0442 \u0441\u0430\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432 \u0438 \u0441\u0442\u0430\u0432\u0438\u0442 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438. \u0415\u0441\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0442\u0430\u0440\u0433\u0435\u0442\u044b \u043f\u043e\u0434 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u043f\u0430\u043a\u0435\u0442\u043d\u044b\u0435 \u043c\u0435\u043d\u0435\u0434\u0436\u0435\u0440\u044b: make install-arch, make install-deb (Debian\/Ubuntu), make install-rpm (Fedora\/RHEL, \u043d\u0443\u0436\u0435\u043d DNF).\u0414\u0430\u043b\u044c\u0448\u0435 \u043d\u0443\u0436\u043d\u043e \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u044f\u0434\u0440\u0430 (\u043d\u0435 \u0437\u0430\u0442\u0438\u0440\u0430\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043e\u043f\u0446\u0438\u0438):gpu_unlock.targets=all\u0421\u043f\u043e\u0441\u043e\u0431 \u043f\u0440\u043e\u043f\u0438\u0441\u0430\u0442\u044c \u044d\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043a\u0430: GRUB, grubby \u043d\u0430 Fedora, systemd-boot, \u043b\u0438\u0431\u043e \/etc\/kernel\/cmdline \u0434\u043b\u044f UKI-\u0441\u0431\u043e\u0440\u043e\u043a. \u041c\u043e\u0436\u043d\u043e \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u0438 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u044b \u043f\u043e PCI-\u0430\u0434\u0440\u0435\u0441\u0443 \u0432\u043c\u0435\u0441\u0442\u043e all:gpu_unlock.targets=0000:21:00.0,0000:22:00.0\u041a\u0430\u0440\u0442\u044b, \u0443\u0436\u0435 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u0435 \u043a \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0443 \u0438\u043b\u0438 \u0432\u044b\u043a\u043b\u044e\u0447\u0435\u043d\u043d\u044b\u0435, \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u0431\u0435\u0437 \u043e\u0448\u0438\u0431\u043e\u043a.\u041f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0447\u0442\u043e \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430:journalctl -k -b | grep gpu_unlocklspci -nnk -s 0000:XX:00.0\u041e\u0442\u043a\u0430\u0442\u0438\u0442\u044c \u2014 \u0443\u0431\u0440\u0430\u0442\u044c gpu_unlock.targets= \u0438\u0437 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u044f\u0434\u0440\u0430 \u0438\u043b\u0438 \u0443\u0434\u0430\u043b\u0438\u0442\u044c \u043f\u0430\u043a\u0435\u0442.\u0420\u0438\u0441\u043a\u0438 \u0438 \u043d\u044e\u0430\u043d\u0441\u044b\u041d\u043e\u0443\u0442\u0431\u0443\u043a\u0438. \u0420\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u043e\u0432\u043a\u0430 \u0442\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u0438 \u043f\u043e\u043b\u043d\u043e\u043c \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0438 \u043f\u0438\u0442\u0430\u043d\u0438\u044f \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0439 GPU. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 runtime power management (NVreg_DynamicPowerManagement=0x00), \u043d\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0435\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u044b\u0439.Suspend\/resume. \u0421\u043e\u043d \u0432 \u041e\u0417\u0423 \u0441\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u0435\u0442 \u0440\u0435\u0433\u0438\u0441\u0442\u0440\u044b-\u0441\u0435\u043b\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438, \u043c\u043e\u0434\u0443\u043b\u044c \u0440\u0430\u0437\u0431\u043b\u043e\u043a\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u0440\u0442\u0443 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u043e \u043f\u0440\u0438 \u043f\u0440\u043e\u0431\u0443\u0436\u0434\u0435\u043d\u0438\u0438 (~1 \u0441\u0435\u043a\u0443\u043d\u0434\u0430 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u0438). \u041e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c gpu_unlock.resume=0. \u0413\u0438\u0431\u0435\u0440\u043d\u0430\u0446\u0438\u044f \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f.\u0415\u0441\u043b\u0438 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0430 \u201c\u0437\u0430\u0432\u0438\u0441\u043b\u0430\u201d. \u041c\u043e\u0434\u0443\u043b\u044c \u043b\u043e\u0433\u0438\u0440\u0443\u0435\u0442 \u044d\u0442\u043e \u0438 \u0434\u0435\u0440\u0436\u0438\u0442 DMA-\u0431\u0443\u0444\u0435\u0440\u044b \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u043c\u0438 \u0434\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u0431\u0435\u0441\u0442\u043e\u0447\u0438\u0432\u0430\u043d\u0438\u044f \u043a\u0430\u0440\u0442\u044b \u2014 \u043f\u0435\u0440\u0435\u0434 \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u043c \u043d\u0443\u0436\u043d\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u044c \u043f\u0438\u0442\u0430\u043d\u0438\u0435, \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c\u0441\u044f.\u041d\u0430\u0433\u0440\u0435\u0432. \u041a\u0430\u0440\u0442\u0430 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0442\u0435\u043f\u043b\u0435\u0435 \u0438\u0437-\u0437\u0430 \u0432\u043e\u0437\u0440\u043e\u0441\u0448\u0435\u0439 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438, \u043d\u043e \u0448\u0442\u0430\u0442\u043d\u044b\u0439 \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433 \u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u043f\u0438\u0442\u0430\u043d\u0438\u0435\u043c \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u044e\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u043e.Windows. \u0410\u0432\u0442\u043e\u0440\u043e\u043c \u043d\u0435 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f. \u0421\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0439 \u043f\u043e\u0440\u0442, \u043d\u043e \u0432 FAQ \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0443\u043f\u0440\u0435\u0436\u0434\u0435\u043d\u0438\u0435: \u043a \u043b\u044e\u0431\u044b\u043c \u201c\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a\u0430\u043c \u043f\u043e\u0434 Windows\u201d, \u0433\u0443\u043b\u044f\u044e\u0449\u0438\u043c \u043f\u043e \u0441\u0435\u0442\u0438, \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u044c\u0441\u044f \u0441 \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043e\u0441\u0442\u043e\u0440\u043e\u0436\u043d\u043e\u0441\u0442\u044c\u044e \u2014 \u044d\u0442\u043e \u043d\u0435 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0434\u0443\u043a\u0442 \u043f\u0440\u043e\u0435\u043a\u0442\u0430.\u0421\u043a\u0430\u043c. \u0412 FAQ \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e: \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043d\u0438\u043a\u0430\u043a\u043e\u0439 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0439 \u043a\u0440\u0438\u043f\u0442\u043e\u0432\u0430\u043b\u044e\u0442\u044b, \u0441\u0430\u0439\u0442\u043e\u0432 \u0438\u043b\u0438 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a\u043e\u0432, \u043a\u0440\u043e\u043c\u0435 \u0441\u0430\u043c\u043e\u0433\u043e GitHub-\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f.\u041b\u0438\u0446\u0435\u043d\u0437\u0438\u044f\u0421\u0430\u043c \u043c\u043e\u0434\u0443\u043b\u044c \u044f\u0434\u0440\u0430 \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u0443\u043f\u0430\u043a\u043e\u0432\u043a\u0430 \u2014 GPL-2.0-only. \u0421\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0431\u0443\u0444\u0435\u0440 \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0438 \u0441\u043e\u0431\u0440\u0430\u043d \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0440\u0435\u0444\u0435\u0440\u0435\u043d\u0441\u0430 CMP; \u043f\u0440\u043e\u0448\u0438\u0432\u043a\u0430 NVIDIA \u0432\u043d\u0443\u0442\u0440\u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043f\u043e\u0434 \u0435\u0451 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0435\u0439 (\u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u2014 firmware\/NOTICE.md \u0438 licenses\/ \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438).\u0418\u0442\u043e\u0433\u043e\u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 RTX 20\/30\/40-\u0441\u0435\u0440\u0438\u0438 \u0438 \u0432\u044b \u0433\u043e\u043d\u044f\u0435\u0442\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 LLM, \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438\/\u0432\u0438\u0434\u0435\u043e \u0432 FP16\/BF16 \u2014 \u044d\u0442\u043e \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u0439 \u0438, \u0441\u0443\u0434\u044f \u043f\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044e, \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c +25-90% \u043d\u0430 \u0441\u0430\u043c\u044b\u0445 \u0434\u043e\u0440\u043e\u0433\u0438\u0445 \u043f\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u043c \u044d\u0442\u0430\u043f\u0430\u0445, \u0431\u0435\u0437 \u0434\u043e\u043f\u043b\u0430\u0442\u044b \u0437\u0430 \u043d\u043e\u0432\u0443\u044e \u043a\u0430\u0440\u0442\u0443. \u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u2014 \u0447\u0435\u0441\u0442\u043d\u043e \u0441\u0432\u0435\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u0441\u0432\u043e\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0441\u043e \u0441\u043f\u0438\u0441\u043a\u043e\u043c \u201c\u0433\u0434\u0435 \u043d\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u201d: decode \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM \u0432 \u043a\u0432\u0430\u043d\u0442\u0435 INT8\/INT4 \u043f\u0440\u0438\u0440\u043e\u0441\u0442\u0430 \u043d\u0435 \u0434\u0430\u0441\u0442 \u0432\u043e\u043e\u0431\u0449\u0435, \u0438 \u044d\u0442\u043e \u043a\u0430\u043a \u0440\u0430\u0437 \u0441\u0430\u043c\u044b\u0439 \u0447\u0430\u0441\u0442\u044b\u0439 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439. \u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0442\u0430\u0449\u0438\u0442\u044c \u044d\u0442\u043e \u0432 \u043f\u0440\u043e\u0434 \u0438\u043b\u0438 \u043d\u0430 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u0443\u044e \u0440\u0430\u0431\u043e\u0447\u0443\u044e \u043c\u0430\u0448\u0438\u043d\u0443 \u2014 \u043f\u043e\u0447\u0438\u0442\u0430\u0439\u0442\u0435 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u0441\u0430\u043c\u0438 \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u044c\u0442\u0435 \u043d\u0430 \u0442\u0435\u0441\u0442\u043e\u0432\u043e\u043c \u0441\u0442\u0435\u043d\u0434\u0435, \u0446\u0438\u0444\u0440\u044b \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u2014 \u044d\u0442\u043e \u043f\u0435\u0440\u0435\u0441\u043a\u0430\u0437 README \u043f\u0440\u043e\u0435\u043a\u0442\u0430, \u0430 \u043d\u0435 \u043c\u043e\u0439 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0437\u0430\u043c\u0435\u0440.\u0421\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439: github.com\/zagitta\/gpu-unlock\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/1105598\/<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-502344","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/502344","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=502344"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/502344\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=502344"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=502344"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=502344"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}