{"id":487077,"date":"2026-07-13T10:11:15","date_gmt":"2026-07-13T10:11:15","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=487077"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=487077","title":{"rendered":"\u0414\u0432\u0430 AMD Strix Halo \u0432\u00a0AI\u2011\u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435: 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u043c, ~70\u00a0tok\/s Qwen3.6\u00a0\u043d\u0430\u00a0\u0434\u0440\u0443\u0433\u043e\u043c"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p><em>\u041d\u0430\u00a0\u0443\u0437\u043b\u0435 \u043c\u043e\u0435\u0439 AI\u2011\u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b \u043a\u0440\u0443\u0442\u044f\u0442\u0441\u044f 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430: Dify, RAGFlow, \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0435 \u0431\u0430\u0437\u044b, \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 \u0438 SSO. \u0411\u043e\u043b\u044c\u0448\u043e\u0439 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0435\u0434\u0438 \u043d\u0438\u0445 \u043d\u0435\u0442: \u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0441\u0442\u0435\u043a \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u043f\u043e\u00a0LAN \u0441\u00a0DGX Spark. \u041d\u0430\u00a0\u0432\u0442\u043e\u0440\u043e\u043c \u0442\u0430\u043a\u043e\u043c\u00a0\u0436\u0435 \u043c\u0438\u043d\u0438\u2011\u041f\u041a \u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0434\u043d\u044f\u043b \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e Qwen3.6\u201335B\u2011A3B \u0438 \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0441\u0435\u0440\u0438\u044e \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u043e\u0442 1K \u0434\u043e 64K \u043f\u0440\u0438\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u043e\u043a\u043d\u0435 256K.<\/em><\/p>\n<p><em>\u041e\u0431\u0435 \u043c\u0430\u0448\u0438\u043d\u044b\u00a0\u2014 Beelink GTR9\u00a0Pro \u043d\u0430\u00a0Ryzen AI Max+ 395\u00a0(Strix Halo). \u041d\u0438\u0436\u0435\u00a0\u2014 \u0447\u0442\u043e\u00a0\u044d\u0442\u0438 \u043a\u043e\u0440\u043e\u0431\u043a\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u044e\u0442: 117,4\u00a0\u0413\u0438\u0411 GTT \u043f\u043e\u0441\u043b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438\u00a0<\/em><code><em>ttm.pages_limit<\/em><\/code><em>, p50\/p95\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0430, \u043e\u043a\u043e\u043b\u043e 70\u00a0tok\/s \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0447\u0435\u0440\u0435\u0437 Vulkan\/RADV \u0438 \u0442\u0440\u0438 \u0433\u0440\u0430\u0431\u043b\u0438 gfx1151.<\/em><\/p>\n<hr\/>\n<h3>\u0427\u0442\u043e\u00a0\u044f \u0445\u043e\u0442\u0435\u043b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c<\/h3>\n<ul>\n<li>\n<p>\u0414\u0435\u0440\u0436\u0438\u0442\u00a0\u043b\u0438 \u043c\u0430\u0448\u0438\u043d\u0430 \u043f\u043e\u043b\u043d\u044b\u0439 Docker\u2011\u0441\u0442\u0435\u043a \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0439 AI\u2011\u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b \u0432\u00a0\u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0415\u0441\u0442\u044c\u00a0\u043b\u0438\u00a0<code>linux\/amd64<\/code>\u2011\u043e\u0431\u0440\u0430\u0437\u044b \u0434\u043b\u044f\u00a0\u0432\u0441\u0435\u0433\u043e \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0430, \u0438\u043b\u0438\u00a0\u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0432\u043e\u0451.<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u00a0\u043b\u0438 Radeon 8060S (gfx1151) \u0447\u0435\u0440\u0435\u0437 Vulkan \u043a\u0430\u043a\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043f\u0443\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u0437 128\u00a0\u0413\u0411 \u043e\u0431\u0449\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0434\u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f GPU \u0438 \u043a\u0430\u043a\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u043e\u0439.<\/p>\n<\/li>\n<li>\n<p>\u041f\u0440\u0438\u0433\u043e\u0434\u043d\u044b\u00a0\u043b\u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0434\u043b\u044f\u00a0\u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e RAG\u2011\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430.<\/p>\n<\/li>\n<li>\n<p>\u041a\u0430\u043a\u0438\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0443\u00a0ROCm \u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0435.<\/p>\n<\/li>\n<\/ul>\n<h3>\u0421\u0442\u0435\u043d\u0434 \u0438 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u0441\u0432\u044f\u0437\u043a\u0430 \u0432\u0435\u0440\u0441\u0438\u0439<\/h3>\n<p>\u041e\u0431\u0430 \u0443\u0437\u043b\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b \u043f\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0443 \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u043c\u0443 \u041f\u041e:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041c\u0430\u0448\u0438\u043d\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">Beelink GTR9\u00a0Pro<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">APU<\/p>\n<\/td>\n<td>\n<p align=\"left\">Ryzen AI Max+ 395\u00a0(Strix Halo)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CPU<\/p>\n<\/td>\n<td>\n<p align=\"left\">16C\/32T Zen 5<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GPU<\/p>\n<\/td>\n<td>\n<p align=\"left\">Radeon 8060S, 40\u00a0CU RDNA 3.5,\u00a0<code>gfx1151<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041f\u0430\u043c\u044f\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">128\u00a0\u0413\u0411 LPDDR5X (\u0435\u0434\u0438\u043d\u044b\u0439 \u043f\u0443\u043b)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041d\u0430\u043a\u043e\u043f\u0438\u0442\u0435\u043b\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">NVMe Crucial P310 2\u00a0\u0422\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041e\u0421<\/p>\n<\/td>\n<td>\n<p align=\"left\">Ubuntu 24.04.4\u00a0LTS<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u042f\u0434\u0440\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">6.17.0\u201335-generic (HWE)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Mesa \/ RADV<\/p>\n<\/td>\n<td>\n<p align=\"left\">25.2.8<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ROCm<\/p>\n<\/td>\n<td>\n<p align=\"left\">7.2.3\u00a0(\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0441\u0442\u0435\u043d\u0434\u0430)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">BIOS<\/p>\n<\/td>\n<td>\n<p align=\"left\">GTRPR05; \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f \u0432\u00a0BIOS \u043f\u0430\u043c\u044f\u0442\u044c GPU (UMA)\u00a0\u2014 512\u00a0\u041c\u0438\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">linux\u2011firmware<\/p>\n<\/td>\n<td>\n<p align=\"left\">20240318.git3b128b60-0ubuntu2.27\u00a0(\u043f\u0430\u043a\u0435\u0442 Ubuntu 24.04)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GTT<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>ttm.pages_limit=30788203<\/code>\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446: 117,4\u00a0\u0413\u0438\u0411 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u043b\u044f\u00a0GPU; \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0435\u0436\u0438\u043c \u043f\u0438\u0442\u0430\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">BIOS\u2011\u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0435\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f; \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 \u0440\u0435\u0436\u0438\u043c\u044b 120\/140\u00a0\u0412\u0442<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0420\u043e\u043b\u0438 \u0443\u0437\u043b\u043e\u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u044b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u043d\u0435\u00a0\u0441\u043c\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0423\u0437\u0435\u043b<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u043e\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0427\u0442\u043e\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u043e\u0441\u044c<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Strix\u2011A<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u0435\u0440\u0432\u0438\u0441\u043d\u044b\u0439 \u0441\u043b\u043e\u0439, 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u043d\u0438\u043c\u043e\u043a \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432,\u00a0\u043b\u0438\u043c\u0438\u0442\u044b, GTT\u2011\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430, embed\/rerank, \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u043e\u0432<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Strix\u2011B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f Qwen3.6\u201335B\u2011A3B<\/p>\n<\/td>\n<td>\n<p align=\"left\">prompt processing, decode, \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u0438 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0412\u043e\u00a0\u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u043d\u0430\u00a0Strix\u2011B \u0432\u00a0GTT \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u043b\u0438\u0441\u044c \u0434\u0432\u0430 llama\u2011\u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430: \u043c\u043e\u0434\u0435\u043b\u0438 8B Q5_K_M \u0438 4B Q8_0. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u043f\u0440\u043e\u0447\u0438\u043c\u0438 \u0431\u0443\u0444\u0435\u0440\u0430\u043c\u0438 \u043e\u043d\u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 11,8\u00a0\u0413\u0438\u0411 GTT. \u0417\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043a\u00a0\u043d\u0438\u043c \u043d\u0435\u00a0\u0431\u044b\u043b\u043e, \u0430\u00a0\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU \u0432\u00a0\u043f\u0430\u0443\u0437\u0430\u0445 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0430 0%.<\/p>\n<h3>\u0427\u0442\u043e\u00a0\u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b\u043e\u0441\u044c: 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 (Strix\u2011A)<\/h3>\n<p>\u0412\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442\u00a0<strong>34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430<\/strong>:<\/p>\n<ul>\n<li>\n<p>Dify: api, worker, web, plugin\u2011daemon \u0438 sandbox; \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e Docling;<\/p>\n<\/li>\n<li>\n<p>RAGFlow \u0441\u00a0MySQL, Elasticsearch \u0438 MinIO;<\/p>\n<\/li>\n<li>\n<p>Milvus \u0441\u00a0etcd \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c MinIO, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 PostgreSQL \u0438 Redis;<\/p>\n<\/li>\n<li>\n<p>llama\u2011embed \u0438 llama\u2011rerank;<\/p>\n<\/li>\n<li>\n<p>Prometheus, Grafana, Loki, Alloy, cAdvisor, Alertmanager \u0438 \u0442\u0440\u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0451\u0440\u0430;<\/p>\n<\/li>\n<li>\n<p>Authelia, Traefik, n8n, Phoenix, Open WebUI, Portainer, SSRF\u2011\u043f\u0440\u043e\u043a\u0441\u0438 \u0438 Docker socket proxy.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u0435\u043a\u0442\u043e\u0440\u043d\u043e\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u044d\u0442\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438: Milvus. Qdrant \u0438 Weaviate \u0435\u0441\u0442\u044c \u0432\u00a0\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435, \u043d\u043e\u00a0\u043d\u0430\u00a0\u044d\u0442\u043e\u043c \u0443\u0437\u043b\u0435 \u043d\u0435\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u044b.<\/p>\n<p>\u0415\u0449\u0451 \u0442\u0440\u0438 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u043d\u0430\u0445\u043e\u0434\u044f\u0442\u0441\u044f \u0432\u043d\u0435 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438: ASR\u2011\u0441\u0435\u0440\u0432\u0438\u0441, \u0442\u0443\u043d\u043d\u0435\u043b\u044c \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440 \u0411\u0414 \u0430\u0433\u0435\u043d\u0442\u043e\u0432. \u0414\u0435\u0442\u0435\u043a\u0442\u043e\u0440 \u0434\u0440\u0435\u0439\u0444\u0430 (\u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0443\u0437\u043b\u0430 \u0441\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0435\u0439) \u0432\u0438\u0434\u0438\u0442 \u0438\u0445 \u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u044f\u0432\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f: \u0438\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u00a0\u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u0438\u043b\u0438\u00a0\u0443\u0434\u0430\u043b\u0438\u0442\u044c.<\/p>\n<p>Radeon 8060S \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u0432\u0435 GPU\u2011\u0437\u0430\u0434\u0430\u0447\u0438 \u0447\u0435\u0440\u0435\u0437 llama.cpp\/Vulkan:\u00a0<code>bge-m3-Q8_0<\/code>\u00a0\u0434\u043b\u044f\u00a0\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438\u00a0<code>bge-reranker-v2-m3-Q8_0<\/code>\u00a0\u0434\u043b\u044f\u00a0\u0440\u0435\u0440\u0430\u043d\u043a\u0430. \u041e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430\u00a0CPU. \u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u0441\u043e Spark \u0447\u0435\u0440\u0435\u0437 OpenAI\u2011\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 API \u043f\u043e\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0435\u0442\u0438.<\/p>\n<p>\u0421\u0442\u0435\u043a \u0440\u0430\u0437\u0432\u0451\u0440\u043d\u0443\u0442 7\u00a0\u0438\u044e\u043d\u044f. \u0425\u043e\u0441\u0442 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0436\u0430\u043b\u0441\u044f 25\u00a0\u0438\u044e\u043d\u044f, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u043d\u044f\u043b systemd\u2011\u044e\u043d\u0438\u0442. 30\u00a0\u0438\u044e\u043d\u044f Dify \u043f\u0435\u0440\u0435\u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0441\u044f \u043f\u0440\u0438\u00a0\u043f\u043b\u0430\u043d\u043e\u0432\u043e\u043c \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0438. 5\u00a0\u0438\u044e\u043b\u044f \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0441\u044f \u0434\u0435\u043c\u043e\u043d Docker; \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f live\u2011restore \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0443.<\/p>\n<p>\u041d\u0430 10\u00a0\u0438\u044e\u043b\u044f \u0430\u043f\u0442\u0430\u0439\u043c \u0445\u043e\u0441\u0442\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b 15\u00a0\u0434\u043d\u0435\u0439, \u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 25\u00a0\u0438\u044e\u043d\u044f. \u0423\u00a0\u0442\u0435\u043a\u0443\u0449\u0438\u0445 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u043e\u0432 33\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432 \u0438\u0437 34\u00a0<code>RestartCount=0<\/code>; \u0443\u00a0dify\u2011plugin\u2011daemon \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0440\u0430\u0432\u043d\u043e 5. \u042d\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u043c\u0435\u0441\u044f\u0446\u0430, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043f\u0435\u0440\u0435\u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 Dify 30\u00a0\u0438\u044e\u043d\u044f \u0437\u0430\u0432\u0435\u043b\u043e \u043d\u043e\u0432\u044b\u0435 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u044b \u0438 \u043e\u0431\u043d\u0443\u043b\u0438\u043b\u043e \u0438\u0445 \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0434\u0435\u043c\u043e\u043d\u0430 \u0441\u00a0live\u2011restore \u043a\u043e\u043c\u0430\u043d\u0434\u0430\u00a0<code>docker ps<\/code>\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430\u00a0<code>Up 46 hours<\/code>, \u0445\u043e\u0442\u044f \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u0430\u043b\u0438 25\u00a0\u0438\u044e\u043d\u044f. \u0412\u00a0\u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u044f \u0441\u0432\u0435\u0440\u044f\u043b \u0447\u0435\u0440\u0435\u0437\u00a0<code>docker inspect \u2026 State.StartedAt<\/code>; \u043a\u043e\u043b\u043e\u043d\u043a\u0430 STATUS \u0432\u0432\u043e\u0434\u0438\u043b\u0430 \u0432\u00a0\u0437\u0430\u0431\u043b\u0443\u0436\u0434\u0435\u043d\u0438\u0435.<\/p>\n<p>\u0421\u043d\u0438\u043c\u043e\u043a \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 \u0441\u0434\u0435\u043b\u0430\u043d 10\u00a0\u0438\u044e\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439\u00a0<code>docker stats --no-stream<\/code>; \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u044b \u043f\u0440\u043e\u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u044b. \u041f\u0430\u043c\u044f\u0442\u044c \u0432\u00a0<code>docker stats<\/code>\u00a0\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 working set, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 CLI, \u0430\u00a0\u043d\u0435\u00a0\u0441\u0443\u043c\u043c\u0443 RSS. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0451 \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u0441\u00a0<code>MemAvailable<\/code>.<\/p>\n<ul>\n<li>\n<p>\u041a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0441\u0442\u0435\u043a\u0430 \u0437\u0430\u043d\u044f\u043b\u0438 \u043e\u043a\u043e\u043b\u043e 21\u00a0\u0413\u0438\u0411 \u043f\u0430\u043c\u044f\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0439 CPU \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043e\u043a\u043e\u043b\u043e 4% \u043f\u043e\u00a0\u0448\u043a\u0430\u043b\u0435 Docker, \u0433\u0434\u0435 100% \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u043e\u0434\u043d\u043e\u043c\u0443 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u043c\u0443 CPU. \u0412\u00a0\u044d\u0442\u043e\u043c \u0441\u043d\u0438\u043c\u043a\u0435 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 0,04\u00a0\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0437\u0430\u043d\u044f\u0442\u043e\u0433\u043e \u044f\u0434\u0440\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 load average \u0437\u0430\u00a0\u043c\u0438\u043d\u0443\u0442\u0443: 1,49\u00a0\u043f\u0440\u0438 32\u00a0\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0445 CPU. \u042d\u0442\u043e \u0447\u0438\u0441\u043b\u043e runnable\u2011 \u0438 uninterruptible\u2011\u0437\u0430\u0434\u0430\u0447, \u0430\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043c\u0435\u0440 \u0447\u0435\u0440\u0435\u0437\u00a0<code>mpstat<\/code>\u00a0\u044f \u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b.<\/p>\n<\/li>\n<li>\n<p>\u042f\u0434\u0440\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u043b\u043e\u00a0<strong>98,8\u00a0\u0438\u0437 124,9\u00a0\u0413\u0438\u0411<\/strong>\u00a0\u043a\u0430\u043a\u00a0\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435 \u0431\u0435\u0437\u00a0\u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u0445\u043e\u0434\u0430 \u0432\u00a0swap.<\/p>\n<\/li>\n<li>\n<p>\u0412\u00a0\u043f\u0440\u043e\u0441\u0442\u043e\u0435 GPU \u0434\u0435\u0440\u0436\u0430\u043b\u0441\u044f \u043d\u0430 43\u00b0C,\u00a0<code>gpu_busy_percent<\/code>\u00a0\u0431\u044b\u043b \u0440\u0430\u0432\u0435\u043d 0.<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u0435\u0441\u044f\u0446 \u0440\u0430\u0431\u043e\u0442\u044b \u0443\u0436\u0435 \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u0437\u0430\u00a0\u0440\u0430\u043c\u043a\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0433\u043e smoke\u2011\u0442\u0435\u0441\u0442\u0430, \u043d\u043e\u00a0\u0440\u0430\u0431\u043e\u0442\u043e\u0439 \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0435\u0433\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f: \u0442\u0440\u0430\u0444\u0438\u043a \u0432\u0441\u0451 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f\u00a0\u0431\u044b\u043b \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u043c.<\/p>\n<h4>\u0417\u0430\u043f\u0430\u0441 \u043f\u043e\u00a0\u043b\u0438\u043c\u0438\u0442\u0430\u043c \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439<\/h4>\n<p>\u0423\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u0432\u00a0\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435 \u043f\u0440\u043e\u043f\u0438\u0441\u0430\u043d\u00a0<code>mem_limit<\/code>. \u042f \u043f\u0440\u043e\u0433\u043d\u0430\u043b 90\u00a0\u0441\u0435\u043a\u0443\u043d\u0434 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 (4\u00a0\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0442\u043e\u043a\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0431\u0430\u0442\u0447\u0430\u043c\u0438 \u043f\u043e 32\u00a0\u043f\u043b\u044e\u0441 2\u00a0\u043f\u043e\u0442\u043e\u043a\u0430 \u0440\u0435\u0440\u0430\u043d\u043a\u0430) \u0438 \u0441\u043d\u044f\u043b\u00a0<code>docker stats<\/code>\u00a0\u0432\u00a0\u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u0430\u043d\u044f\u0442\u043e \/\u00a0\u043b\u0438\u043c\u0438\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u00a0\u043b\u0438\u043c\u0438\u0442\u0430<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">dify\u2011sandbox<\/p>\n<\/td>\n<td>\n<p align=\"left\">973\u00a0\u041c\u0438\u0411 \/ 1\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>95%<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">alloy<\/p>\n<\/td>\n<td>\n<p align=\"left\">341\u00a0\u041c\u0438\u0411 \/ 512\u00a0\u041c\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">67%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">dify\u2011plugin\u2011daemon<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,27\u00a0\u0413\u0438\u0411 \/ 2\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">64%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">elasticsearch<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,7\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">58,5%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">openwebui<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,12\u00a0\u0413\u0438\u0411 \/ 2\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">56%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">llama\u2011embed (\u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439)<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,4\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">18%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">llama\u2011rerank (\u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439)<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,8\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">10%<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2014<\/p>\n<\/td>\n<td>\n<p align=\"left\">&lt; 55%<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0411\u043b\u0438\u0436\u0435 \u0432\u0441\u0435\u0445 \u043a\u00a0\u0441\u0432\u043e\u0435\u043c\u0443 \u043f\u043e\u0442\u043e\u043b\u043a\u0443 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f dify\u2011sandbox: 95% \u0432\u00a0\u043e\u0434\u043d\u043e\u043c \u0441\u043d\u0438\u043c\u043a\u0435. \u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0448\u043b\u0430 \u043d\u0430\u00a0embed\/rerank \u0438 \u043d\u0435\u00a0\u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u043b\u0430 sandbox. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0435\u0433\u043e\u00a0<code>memory.current<\/code>,\u00a0<code>memory.peak<\/code>\u00a0\u0438\u00a0<a href=\"http:\/\/memory.events\" rel=\"noopener noreferrer nofollow\"><code>memory.events<\/code><\/a>, \u0430\u00a0\u0437\u0430\u0442\u0435\u043c \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0441\u00a0\u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u0434\u0430. \u041e\u0434\u043d\u043e\u0433\u043e \u0441\u043d\u0438\u043c\u043a\u0430 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0432\u044b\u0448\u0430\u0442\u044c\u00a0\u043b\u0438\u043c\u0438\u0442.<\/p>\n<p>\u041d\u0438\u0437\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u00a0<code>docker stats<\/code>\u00a0\u0443\u00a0GPU\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u043d\u0435\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u044e\u0442 \u043c\u0430\u043b\u044b\u0439 \u0440\u0430\u0441\u0445\u043e\u0434 GPU\u2011\u043f\u0430\u043c\u044f\u0442\u0438. \u041f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 Radeon\u00a0\u0431\u044b\u043b\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u0430 \u043d\u0430 100%, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b\u0430 60\u00b0C, \u0430\u00a0<code>power1_average<\/code>\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u043e\u043a\u043e\u043b\u043e 120\u00a0\u0412\u0442 \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u043d\u0435 APU\/socket. Docker CLI \u0432\u044b\u0447\u0438\u0442\u0430\u0435\u0442\u00a0<code>inactive_file<\/code>\u00a0\u0438\u0437\u00a0\u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u043c\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0430\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043e\u0431\u044a\u0451\u043c \u0437\u0430\u043d\u044f\u0442 \u0432\u00a0GTT. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 cgroup \u0438 GTT \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043e \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e.<\/p>\n<h3>\u041a\u0430\u043a\u00a0Strix Halo \u043e\u0442\u0434\u0430\u0451\u0442 128\u00a0\u0413\u0411: TTM, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e BIOS<\/h3>\n<p>\u041a\u043b\u044e\u0447\u0435\u0432\u043e\u0439 \u043c\u043e\u043c\u0435\u043d\u0442, \u0431\u0435\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434 \u043d\u0435\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438. \u0421\u043d\u0438\u043c\u043e\u043a \u0441\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u0433\u043e Strix\u2011A:<\/p>\n<pre><code>MemTotal:     131014476 kB   # 124.9 GiBMemAvailable: 103555740 kB   #  98.8 GiB \u043f\u0440\u0438 34 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0445 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430\u0445mem_info_vram_total:  0.5 GiB   # \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043e \u0432 BIOS (UMA), \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043emem_info_gtt_total: 117.4 GiB   # GTT-\u043f\u0443\u043b, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e GPU \u0431\u0435\u0440\u0451\u0442 \u043f\u0430\u043c\u044f\u0442\u044c<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p><strong>117,4\u00a0\u0413\u0438\u0411 \u043d\u0435\u00a0\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u043f\u043e\u00a0\u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e.<\/strong>\u00a0GTT (Graphics Translation Table)\u00a0\u2014 \u043f\u0443\u043b \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0434\u0440\u0430\u0439\u0432\u0435\u0440 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442 \u0434\u043b\u044f\u00a0GPU; \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u043c TTM, \u043f\u043e\u0434\u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043f\u0430\u043c\u044f\u0442\u0438 GPU \u0432\u00a0\u044f\u0434\u0440\u0435 Linux. \u0411\u0435\u0437\u00a0\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0440\u0430\u0437\u043c\u0435\u0440 GTT \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0435 \u043e\u0431\u044b\u0447\u043d\u043e \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u00a0<code>ttm.pages_limit=30788203<\/code>\u00a0\u0437\u0430\u0434\u0430\u0451\u0442 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0445 \u0441\u0442\u0440\u0430\u043d\u0438\u0446, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 TTM \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u043e\u0431\u0440\u0430\u0437\u0438\u0442\u044c \u0434\u043b\u044f\u00a0GPU. \u041d\u0430\u0448\u0430 Ansible\u2011\u0440\u043e\u043b\u044c \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u0435\u0433\u043e \u043a\u0430\u043a 94% RAM; \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u00a0<code>mem_info_gtt_total<\/code>.<\/p>\n<p>AMD \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442 \u0434\u043b\u044f\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e GPU\u2011\u043f\u0443\u043b\u0430 \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0443\u044e \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0443\u044e \u0432\u00a0BIOS \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c\u00a0<code>pages_limit<\/code>. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u043d\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u044f\u0434\u0440\u0430:<\/p>\n<pre><code>$ cat \/proc\/cmdline... amd_iommu=off ttm.pages_limit=30788203 ttm.page_pool_size=30788203 zswap.enabled=0 ...<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p><a href=\"http:\/\/ttm.page\" rel=\"noopener noreferrer nofollow\"><code>ttm.page<\/code><\/a><code>_pool_size<\/code>\u00a0\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442 \u043a\u044d\u0448\u0438\u0440\u0443\u044e\u0449\u0438\u043c \u043f\u0443\u043b\u043e\u043c WC\/UC\/DMA\u2011\u0441\u0442\u0440\u0430\u043d\u0438\u0446 TTM \u0438 \u043d\u0435\u00a0\u0437\u0430\u0434\u0430\u0451\u0442 \u0440\u0430\u0437\u043c\u0435\u0440 GTT. \u0412\u00a0\u043d\u0430\u0448\u0435\u0439 \u0440\u043e\u043b\u0438 \u043e\u043d \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0442\u0435\u043c\u00a0\u0436\u0435 \u0447\u0438\u0441\u043b\u043e\u043c, \u043d\u043e\u00a0\u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430. \u0422\u043e\u00a0\u0436\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0<code>zswap.enabled=0<\/code>\u00a0\u0438\u00a0<code>amd_iommu=off<\/code>.<\/p>\n<p>\u041e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 IOMMU \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430\u00a0DMA\u2011\u0438\u0437\u043e\u043b\u044f\u0446\u0438\u044e \u0438 \u0432\u0438\u0440\u0442\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043d\u0435\u043b\u044c\u0437\u044f \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442\u044c \u043d\u0430\u00a0\u0445\u043e\u0441\u0442 \u0441\u00a0\u0432\u0438\u0440\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u043c\u0430\u0448\u0438\u043d\u0430\u043c\u0438 \u0438\u043b\u0438\u00a0PCI passthrough. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u0444\u0444\u0435\u043a\u0442 \u043e\u0442\u00a0\u043d\u0435\u0433\u043e \u043d\u0430\u00a0\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u044d\u0442\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434\u0430 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0441\u044f. \u0414\u043b\u044f\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e GTT \u0438\u0437\u00a0\u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u0435\u043d \u0442\u043e\u043b\u044c\u043a\u043e\u00a0<code>pages_limit<\/code>; \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043d\u0435\u00a0\u043e\u0431\u0440\u0430\u0437\u0443\u044e\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0441\u0435\u0442\u0430.<\/p>\n<p>CPU\u2011\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0438 GPU\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043e\u0434\u0438\u043d \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0443\u043b \u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0438\u0440\u0443\u044e\u0442 \u043a\u0430\u043a\u00a0\u0437\u0430\u00a0\u043e\u0431\u044a\u0451\u043c, \u0442\u0430\u043a \u0438 \u0437\u0430\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438.\u00a0<code>MemAvailable<\/code>\u00a0\u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c \u0431\u0435\u0437\u00a0\u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u0445\u043e\u0434\u0430 \u0432\u00a0swap; \u044d\u0442\u043e \u043d\u0435\u00a0\u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043a\u0432\u043e\u0442\u0430 \u0434\u043b\u044f\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043f\u0430\u043c\u044f\u0442\u0438 GPU. \u041d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u043d\u0438\u043c\u043a\u0430 \u0443\u00a0\u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u043d\u043e\u0433\u043e \u0441\u0442\u0435\u043a\u0430 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0441\u044f \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0437\u0430\u043f\u0430\u0441 \u043e\u0431\u0449\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438.<\/p>\n<h3>\u041a\u0430\u043a\u00a0\u0437\u0430\u0432\u0451\u043b\u0441\u044f GPU: RADV \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439, ROCm \u0437\u0430\u043f\u0430\u0441\u043d\u043e\u0439<\/h3>\n<p>\u041d\u0430\u00a0Spark \u043c\u044b\u00a0\u0431\u044b\u043b\u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u044b \u043a\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0432\u0435\u0442\u043a\u0435 \u043f\u0440\u043e\u043f\u0440\u0438\u0435\u0442\u0430\u0440\u043d\u043e\u0433\u043e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430; \u044d\u0442\u0443 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u044f \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e. \u041d\u0430\u00a0Strix Halo \u0432\u043e\u043f\u0440\u043e\u0441 \u0441\u0442\u043e\u044f\u043b \u0438\u043d\u0430\u0447\u0435: \u043a\u0430\u043a\u043e\u0439 GPU\u2011\u043f\u0443\u0442\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d \u0434\u043b\u044f\u00a0\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u043e\u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u043f\u0443\u0442\u0451\u043c \u0441\u0442\u0430\u043b Vulkan \u0447\u0435\u0440\u0435\u0437 RADV. \u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 Mesa\u2011\u0434\u0440\u0430\u0439\u0432\u0435\u0440 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u044b\u043c\u00a0<code>apt upgrade<\/code>:<\/p>\n<pre><code>Available: ['vulkan', 'rocm', 'cpu']Selected:  vulkan \/ llama_cppDevice:    AMD Radeon 8060S (Strix Halo, gfx1151)Memory:    117.4 GiB  driver_id: DRIVER_ID_MESA_RADV     mesa_version: 25.2.8  cooperative_matrix: True           is_strix_halo: True  engine_implementation: llama-cpp-python (GGML_VULKAN)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p><code>cooperative_matrix: True<\/code>\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0438 \u0441\u0431\u043e\u0440\u043a\u0430 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 llama.cpp \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0448\u0435\u0439\u0434\u0435\u0440\u044b cooperative matrix. \u0420\u0430\u0437\u043d\u0438\u0446\u0443 \u0441\u00a0\u043e\u0442\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u044b\u043c \u043f\u0443\u0442\u0451\u043c \u044f \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u0430 \u0441\u0442\u0440\u043e\u043a\u0430 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u043d\u0430\u043b\u0438\u0447\u0438\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438, \u0430\u00a0\u043d\u0435\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442. \u0417\u0430\u00a0\u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0443\u0437\u043b\u043e\u0432 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c Mesa \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 \u043d\u0435\u00a0\u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c.<\/p>\n<p>ROCm \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d \u043a\u0430\u043a\u00a0\u0437\u0430\u043f\u0430\u0441\u043d\u043e\u0439 \u043f\u0443\u0442\u044c. AMD \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0432\u043a\u043b\u044e\u0447\u0438\u043b\u0430 gfx1151\u00a0\u0438 Ryzen AI Max+ 395\u00a0\u0432\u00a0\u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 ROCm \u0434\u043b\u044f\u00a0Ryzen \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441 6.4.4. \u0422\u0435\u043a\u0443\u0449\u0430\u044f \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u0442 ROCm 7.2.1\u00a0\u043d\u0430\u00a0Ubuntu 24.04\u00a0\u0441\u00a0\u044f\u0434\u0440\u0430\u043c\u0438, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u043c\u0438 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 KFD\u2011\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041d\u0430\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u0430\u0445 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0439 \u043f\u0430\u043a\u0435\u0442 7.2.3\u00a0\u0438\u0437\u00a0\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f, \u0438 \u044d\u0442\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e. gfx1151\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443\u00a0<code>HSA_OVERRIDE_GFX_VERSION<\/code>\u00a0\u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f. \u042d\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434\u0430, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0434\u043b\u044f\u00a0\u043b\u044e\u0431\u043e\u0433\u043e \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432\u0430.<\/p>\n<h3>\u0422\u0440\u0438 \u0433\u0440\u0430\u0431\u043b\u0438 gfx1151<\/h3>\n<p><strong>1. ROCm \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0433\u043e \u0441\u043e\u0447\u0435\u0442\u0430\u043d\u0438\u044f \u0432\u0435\u0440\u0441\u0438\u0439.<\/strong>\u00a0\u041d\u0430\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u0430\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f: Ubuntu 24.04.4, HWE\u2011\u044f\u0434\u0440\u043e 6.17.0\u201335, ROCm 7.2.3\u00a0\u0438 \u043f\u0430\u043a\u0435\u0442\u00a0<code>linux-firmware 20240318.git3b128b60-0ubuntu2.27<\/code>.<\/p>\n<p>\u0421\u0447\u0438\u0442\u0430\u0442\u044c \u0435\u0451 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u043c \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u043e\u043c \u043d\u0435\u043b\u044c\u0437\u044f. AMD \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043e\u0433\u043e\u0432\u0430\u0440\u0438\u0432\u0430\u0435\u0442 \u0432\u0435\u0440\u0441\u0438\u0438 \u044f\u0434\u0440\u0430 \u0434\u043b\u044f\u00a0gfx1151, \u0430\u00a0\u043e\u0442\u0447\u0451\u0442\u044b \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 \u0441\u0432\u044f\u0437\u044b\u0432\u0430\u044e\u0442 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u043d\u0438\u043c\u043a\u0438 firmware \u0438\u0437\u00a0upstream \u0441\u00a0\u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u044f\u043c\u0438 \u043d\u0430\u00a0Strix Halo, \u0432\u00a0\u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438\u00a0<a href=\"https:\/\/github.com\/kyuz0\/amd-strix-halo-toolboxes\" rel=\"noopener noreferrer nofollow\">20251125<\/a>. \u041d\u043e\u043c\u0435\u0440 Ubuntu\u2011\u043f\u0430\u043a\u0435\u0442\u0430 \u0441\u00a0\u0431\u0430\u0437\u043e\u0439 20\u00a0240\u00a0318\u00a0\u0438 \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432\u043d\u044b\u043c\u0438 backports \u043d\u0435\u043b\u044c\u0437\u044f \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0441\u00a0\u0434\u0430\u0442\u043e\u0439 upstream\u2011\u0441\u043d\u0438\u043c\u043a\u0430. \u0414\u043b\u044f\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0432\u0430\u0436\u043d\u0430 \u043f\u043e\u043b\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u0430\u043a\u0435\u0442\u0430.<\/p>\n<p>\u0414\u043b\u044f\u00a0ROCm 7.1\u00a0\u043f\u0443\u0431\u043b\u0438\u0447\u043d\u043e \u043e\u043f\u0438\u0441\u0430\u043d GPU hang \u043f\u0440\u0438\u00a0\u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 AI\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u0438 \u0430\u043f\u043f\u0430\u0440\u0430\u0442\u043d\u043e\u043c \u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0432\u0438\u0434\u0435\u043e (<a href=\"https:\/\/github.com\/ROCm\/ROCm\/issues\/5665\" rel=\"noopener noreferrer nofollow\">ROCm\/ROCm#5665<\/a>). Issue \u0437\u0430\u043a\u0440\u044b\u0442, \u043d\u043e\u00a0\u043f\u0443\u0431\u043b\u0438\u0447\u043d\u043e\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0441\u0432\u044f\u0437\u0430\u0442\u044c \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u043c\u0435\u043d\u043d\u043e \u0441\u00a0ROCm 7.2.3. \u042d\u0442\u043e\u0442 \u0441\u043b\u0443\u0447\u0430\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u0430 \u0432\u0441\u044f \u0441\u0432\u044f\u0437\u043a\u0430 \u044f\u0434\u0440\u0430, firmware \u0438 userspace.<\/p>\n<p><strong>2.\u00a0<\/strong><code><strong>amd-smi<\/strong><\/code><strong>\u00a0\u043d\u0435\u00a0\u0432\u0438\u0434\u0438\u0442 \u043c\u0435\u0442\u0440\u0438\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u0432\u00a0sysfs.<\/strong>\u00a0\u041d\u0430\u00a0gfx1151\u00a0<code>amd-smi<\/code>\u00a0\u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 N\/A \u043f\u043e\u00a0\u043a\u043b\u044e\u0447\u0435\u0432\u044b\u043c \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044f\u043c; \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u043e\u043f\u0438\u0441\u0430\u043d\u0430 \u0432\u00a0\u043e\u0442\u043a\u0440\u044b\u0442\u043e\u043c\u00a0<a href=\"https:\/\/github.com\/ROCm\/ROCm\/issues\/6035\" rel=\"noopener noreferrer nofollow\">ROCm\/ROCm#6035<\/a>. \u041e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439\u00a0<a href=\"https:\/\/instinct.docs.amd.com\/projects\/device-metrics-exporter\/en\/latest\/\" rel=\"noopener noreferrer nofollow\">AMD Device Metrics Exporter<\/a>\u00a0\u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430\u00a0MI2xx\/MI3xx, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u00a0\u044d\u0442\u0438 \u0443\u0437\u043b\u044b \u043c\u044b \u0435\u0433\u043e \u043d\u0435\u00a0\u0441\u0442\u0430\u0432\u0438\u043c.<\/p>\n<p>\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430, \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u044c \u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b \u0447\u0435\u0440\u0435\u0437 sysfs\/hwmon. \u041d\u043e\u043c\u0435\u0440\u00a0<code>hwmonN<\/code>\u00a0\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430\u043c\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0441\u043a\u0440\u0438\u043f\u0442 \u043f\u0435\u0440\u0435\u0431\u0438\u0440\u0430\u0435\u0442\u00a0<code>card*<\/code>\u00a0\u0438 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0441\u00a0vendor ID AMD\u00a0<code>0x1002<\/code>. \u041d\u0430\u00a0\u044d\u0442\u043e\u043c \u0445\u043e\u0441\u0442\u0435 Radeon \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442\u00a0<code>card0<\/code>:<\/p>\n<pre><code>\/sys\/class\/drm\/card0\/device\/hwmon\/hwmon*\/temp1_input      \u2192 50000   (50\u00b0C)\/sys\/class\/drm\/card0\/device\/hwmon\/hwmon*\/power1_average   \u2192 ~40 \u0412\u0442  # scope: APU\/socket, \u043d\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 iGPU\/sys\/class\/drm\/card0\/device\/gpu_busy_percent              \u2192 0\u2026100<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u0441\u043a\u0440\u0438\u043f\u0442 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442 \u044d\u0442\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0432\u00a0textfile\u2011\u0444\u043e\u0440\u043c\u0430\u0442 \u0434\u043b\u044f\u00a0node\u2011exporter, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u0438\u0445 \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u0442 Prometheus. \u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043e \u043d\u0430\u00a0\u043d\u0430\u0448\u0435\u0439 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u0441\u0432\u044f\u0437\u043a\u0435 amdgpu \u0438 sysfs \u0438 \u043d\u0435\u00a0\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u043f\u043e\u043b\u043d\u043e\u0442\u044b\u00a0<code>amd-smi<\/code>.\u00a0<code>power1_average<\/code>\u00a0\u043d\u0435\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u043f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 iGPU; \u043f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 \u0432\u0441\u0435\u0439 \u043c\u0430\u0448\u0438\u043d\u044b \u0438\u0437\u00a0\u0440\u043e\u0437\u0435\u0442\u043a\u0438 \u0442\u0430\u043a\u0436\u0435 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u043e\u0441\u044c.<\/p>\n<p><strong>3. \u041d\u0435\u0432\u0435\u0440\u043d\u043e\u0435 \u0438\u043c\u044f ICD\u2011\u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442\u0430 \u043e\u0442\u043a\u043b\u044e\u0447\u0430\u0435\u0442 GPU \u0431\u0435\u0437\u00a0\u044f\u0432\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u0438.<\/strong>\u00a0\u0412\u00a0\u043e\u0431\u0440\u0430\u0437\u0435 llama.cpp server\u2011vulkan RADV\u2011\u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f\u00a0<code>radeon_icd.json<\/code>. \u041f\u0440\u0438\u0432\u044b\u0447\u043d\u043e\u0433\u043e Debian\u2011multiarch \u0438\u043c\u0435\u043d\u0438\u00a0<code>radeon_icd.x86_64.json<\/code>\u00a0\u0442\u0430\u043c \u043d\u0435\u0442. \u0415\u0441\u043b\u0438 \u0443\u043a\u0430\u0437\u0430\u0442\u044c \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u0444\u0430\u0439\u043b \u0432\u00a0<code>VK_DRIVER_FILES<\/code>, Vulkan loader \u043d\u0435\u00a0\u043d\u0430\u0445\u043e\u0434\u0438\u0442 \u0434\u0440\u0430\u0439\u0432\u0435\u0440.<\/p>\n<p>\u042d\u0442\u0443 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 \u043c\u044b \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438 \u043d\u0430\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u043c \u0443\u0437\u043b\u0435. \u0421\u0442\u0440\u043e\u043a\u0430\u00a0<code>loaded Vulkan backend<\/code>\u00a0\u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437\u00a0\u0434\u0432\u0443\u0445 \u0447\u0430\u0441\u0442\u0435\u0439: llama.cpp \u0434\u043e\u043b\u0436\u0435\u043d \u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0438\u0442\u044c \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0438 \u0441\u043e\u043e\u0431\u0449\u0438\u0442\u044c \u043e\u00a0\u0432\u044b\u0433\u0440\u0443\u0437\u043a\u0435 \u0441\u043b\u043e\u0451\u0432 \u043d\u0430\u00a0GPU (offload).<\/p>\n<pre><code>llama_prepare_model_devices: using device Vulkan0 (Radeon 8060S Graphics (RADV STRIX_HALO))load_tensors: offloaded 25\/25 layers to GPU<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0421\u0435\u0440\u0432\u0438\u0441 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u043c \u043d\u0430\u00a0GPU \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435 \u043e\u0431\u0435\u0438\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u043e\u043a. \u041e\u043f\u0438\u0440\u0430\u0442\u044c\u0441\u044f \u043d\u0430\u00a0\u043e\u0434\u043d\u0443 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0441\u0442\u0440\u043e\u043a\u0443 \u043d\u0435\u043b\u044c\u0437\u044f, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0444\u043e\u0440\u043c\u0430\u0442 \u043b\u043e\u0433\u043e\u0432 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443 \u0432\u0435\u0440\u0441\u0438\u044f\u043c\u0438 llama.cpp.<\/p>\n<h3>\u042d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440: p50\/p95\u00a0(Strix\u2011A)<\/h3>\n<p>\u041e\u0431\u0440\u0430\u0437 llama.cpp:\u00a0<code>server-vulkan-b9049<\/code>. Embed\u2011\u0441\u0435\u0440\u0432\u0438\u0441 \u0437\u0430\u043f\u0443\u0449\u0435\u043d \u0441\u00a0<code>--pooling cls<\/code>,\u00a0<code>--ctx-size 8192<\/code>,\u00a0<code>--parallel 4<\/code>, KV f16\u00a0\u0438\u00a0<code>-ngl 999<\/code>.<\/p>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0434\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/lm-kit\/bge-m3-gguf\" rel=\"noopener noreferrer nofollow\"><code>lm-kit\/bge-m3-gguf<\/code><\/a>, \u0444\u0430\u0439\u043b\u00a0<code>bge-m3-Q8_0.gguf<\/code>, SHA-256\u00a0<code>6fae7a1e5c8039c7aff595830fc7b5551b4426bc679f5e526f737e2f63811afa<\/code>;<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/gpustack\/bge-reranker-v2-m3-GGUF\" rel=\"noopener noreferrer nofollow\"><code>gpustack\/bge-reranker-v2-m3-GGUF<\/code><\/a>, \u0444\u0430\u0439\u043b\u00a0<code>bge-reranker-v2-m3-Q8_0.gguf<\/code>, SHA-256\u00a0<code>a43c7c9b11a4c1517e5bf95151960e1621d1b72f7a493364b01e386cf1aaa1d3<\/code>.<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0430\u043f\u0440\u043e\u0441\u044b \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u043b\u0438\u0441\u044c \u0441 <a href=\"http:\/\/localhost\" rel=\"noopener noreferrer nofollow\">localhost<\/a> \u0431\u0435\u0437\u00a0reverse proxy. \u0414\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442\u00a0\u0436\u0435 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0442\u0435\u043a\u0441\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 40\u00a0\u0441\u043b\u043e\u0432: 5\u00a0\u043f\u0440\u043e\u0433\u0440\u0435\u0432\u043e\u0447\u043d\u044b\u0445 \u0438 50\u00a0\u0438\u0437\u043c\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u0432. \u0412\u00a0rerank\u2011\u0442\u0435\u0441\u0442\u0435 \u0434\u043b\u0438\u043d\u0430 1840\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u0437\u044f\u0442\u0430 \u0438\u0437\u00a0<code>usage.prompt_tokens<\/code>\u00a0\u043e\u0442\u0432\u0435\u0442\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0430. \u041b\u043e\u0433 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442\u00a0<code>offloaded 25\/25 layers to GPU<\/code>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0417\u0430\u0434\u0430\u0447\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">p50<\/p>\n<\/th>\n<th>\n<p align=\"left\">p95<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">embed, 1\u00a0\u0442\u0435\u043a\u0441\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,9\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">12,3\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">embed, \u0431\u0430\u0442\u0447 32\u00a0\u0442\u0435\u043a\u0441\u0442\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">182\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">184\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">rerank, \u0437\u0430\u043f\u0440\u043e\u0441 + 20\u00a0\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 (1840\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432)<\/p>\n<\/td>\n<td>\n<p align=\"left\">141\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">142\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0430 43\u00b0C \u0432\u00a0\u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u0438 53\u201360\u00b0C \u0432\u043e\u00a0\u0432\u0440\u0435\u043c\u044f 75-\u0441\u0435\u043a\u0443\u043d\u0434\u043d\u043e\u0433\u043e \u0446\u0438\u043a\u043b\u0430 embed+rerank \u043f\u0440\u0438\u00a0\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435 GPU 88\u201390%. \u0427\u0435\u0440\u0435\u0437 10\u00a0\u0441\u0435\u043a\u0443\u043d\u0434 \u043f\u043e\u0441\u043b\u0435 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0442\u0435\u0441\u0442\u0430 \u043e\u043d\u0430 \u0441\u043d\u0438\u0437\u0438\u043b\u0430\u0441\u044c \u0434\u043e 51\u00b0C. \u042d\u0442\u043e \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u0442\u0435\u0441\u0442, \u0430\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043c\u043d\u043e\u0433\u043e\u0447\u0430\u0441\u043e\u0432\u043e\u0433\u043e \u0442\u0435\u043f\u043b\u043e\u0432\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430.<\/p>\n<p>\u0412\u00a0\u043d\u0430\u0448\u0435\u043c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u0441\u00a0\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u043a\u043e\u043b\u043e 140\u00a0\u043c\u0441 \u043d\u0430\u00a0\u0440\u0435\u0440\u0430\u043d\u043a \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u0438 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u043d\u0435\u00a0\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u044e\u0449\u0435\u0439 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439. \u041f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u043f\u043e\u0434\u00a0\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c\u0438 \u0438 p99\u00a0\u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0438\u0441\u044c.<\/p>\n<h3>Qwen3.6\u201335B\u2011A3B: \u043e\u043a\u043d\u043e 256K, \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0434\u043e 64K (Strix\u2011B)<\/h3>\n<p>\u041d\u0430\u00a0\u0432\u0442\u043e\u0440\u043e\u043c \u0443\u0437\u043b\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f LLM \u0434\u043b\u044f\u00a0\u0430\u0432\u0442\u043e\u043d\u043e\u043c\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0431\u0435\u0437\u00a0Spark. \u041f\u043e\u043a\u0430 \u043f\u0438\u0441\u0430\u043b\u0430\u0441\u044c \u0441\u0442\u0430\u0442\u044c\u044f, \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u00a0\u0431\u044b\u043b \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d \u0440\u0430\u0434\u0438 \u0434\u0440\u0443\u0433\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430. \u042f \u0441\u043d\u043e\u0432\u0430 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b \u0435\u0433\u043e \u0438 \u043f\u0440\u043e\u0432\u0451\u043b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0442\u0435\u0441\u0442.<\/p>\n<p><strong>\u041c\u0435\u0442\u043e\u0434\u0438\u043a\u0430.<\/strong>\u00a0\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f Strix\u2011B \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0430 \u0432\u044b\u0448\u0435; \u0440\u0435\u0436\u0438\u043c \u043f\u0438\u0442\u0430\u043d\u0438\u044f BIOS \u043d\u0435\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f.<\/p>\n<p>\u041e\u0431\u0440\u0430\u0437:\u00a0<code>ghcr.io\/ggml-org\/llama.cpp:server-vulkan-b9049@sha256:e359c01203861cf1d802795b8d443ed44660b6ff3f61ba04d7de6ead781c580a<\/code>.<\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c:\u00a0<a href=\"https:\/\/huggingface.co\/0xSero\/Qwen3.6-35B-GGUF\" rel=\"noopener noreferrer nofollow\"><code>0xSero\/Qwen3.6-35B-GGUF<\/code><\/a>, \u0444\u0430\u0439\u043b\u00a0<code>Qwen3.6-35B-A3B-Q4_K_M.gguf<\/code>, \u043e\u043a\u043e\u043b\u043e 20\u00a0\u0413\u0411, SHA-256\u00a0<code>1d8eda2b6616d1b163d3b8cf9e0ba2cb627b98fe8553190e3183e1553ec82130<\/code>. \u0410\u0432\u0442\u043e\u0440 GGUF\u2011\u0441\u0431\u043e\u0440\u043a\u0438 \u043f\u0443\u0431\u043b\u0438\u043a\u0443\u0435\u0442 \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430 70,2\u00a0tok\/s \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u043a\u043b\u0430\u0441\u0441\u0435\u00a0\u0436\u0435\u043b\u0435\u0437\u0430: Ryzen AI Max+ 395, Vulkan, KV q8_0, batch\/ubatch 2048. \u042d\u0442\u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b.<\/p>\n<p>\u0421\u0435\u0440\u0432\u0435\u0440 \u0437\u0430\u043f\u0443\u0449\u0435\u043d \u0441\u00a0<code>-ngl 999<\/code>,\u00a0<code>--flash-attn on<\/code>, KV q8_0\u00a0\u0434\u043b\u044f\u00a0K \u0438 V, batch\/ubatch 2048,\u00a0<code>--no-mmap<\/code>,\u00a0<code>--ctx-size 262144<\/code>\u00a0\u0438\u00a0<code>--parallel 1<\/code>. Vision projector \u0438 MTP (multi\u2011token prediction) \u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c.<\/p>\n<p>\u0417\u0430\u043f\u0440\u043e\u0441\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u043b\u0438\u0441\u044c \u0432\u00a0raw\u00a0<code>POST \/completion<\/code>\u00a0\u0431\u0435\u0437\u00a0\u0448\u0430\u0431\u043b\u043e\u043d\u0430 \u0447\u0430\u0442\u0430 (chat template). \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e \u0442\u0435\u0441\u0442 \u0440\u0435\u0436\u0438\u043c\u0430 completion, \u0430\u00a0\u043d\u0435\u00a0\u0448\u0442\u0430\u0442\u043d\u043e\u0433\u043e \u0447\u0430\u0442\u2011\u0440\u0435\u0436\u0438\u043c\u0430 Qwen \u0441\u00a0\u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f\u043c\u0438 (thinking). \u041f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0430\u0442\u0435\u043b\u044c\u00a0<code>enable_thinking<\/code>\u00a0\u043d\u0435\u00a0\u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0441\u044f. \u0412\u00a0\u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 \u043f\u0440\u0438\u00a0<code>t=0.7<\/code>\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430\u00a0<code>&lt;think&gt;<\/code>\u2011\u0431\u043b\u043e\u043a\u0438; \u0434\u043b\u044f\u00a0\u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u044d\u0442\u043e \u043e\u0431\u044b\u0447\u043d\u044b\u0435 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b, \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0438\u0445 \u043d\u0435\u00a0\u0432\u044b\u0447\u0438\u0442\u0430\u043b\u0438.<\/p>\n<p>\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0433\u043e \u0442\u0435\u0441\u0442\u0430:\u00a0<code>n_predict=128<\/code>,\u00a0<code>temperature=0<\/code>,\u00a0<code>cache_prompt=false<\/code>. Seed \u043d\u0435\u00a0\u0437\u0430\u0434\u0430\u0432\u0430\u043b\u0441\u044f.<\/p>\n<p>\u041f\u0440\u043e\u043c\u043f\u0442\u044b \u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0447\u0435\u0440\u0435\u0437\u00a0<code>\/tokenize<\/code>\u00a0\u0438\u00a0<code>\/detokenize<\/code>. \u0412\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0443\u043a\u0430\u0437\u0430\u043d\u0430 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0434\u043b\u0438\u043d\u0430 \u0438\u0437\u00a0\u043e\u0442\u0432\u0435\u0442\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 (<code>timings.prompt_n<\/code>). \u0414\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u043e \u043f\u043e\u00a0\u0434\u0432\u0430 \u043f\u0440\u043e\u0433\u043e\u043d\u0430; \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u00a0\u0431\u043e\u043b\u0435\u0435 \u0447\u0435\u043c \u043d\u0430 2%, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043e \u0441\u0440\u0435\u0434\u043d\u0435\u0435. \u0414\u043b\u044f 64K\u00a0\u0431\u044b\u043b \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u0431\u0435\u0437\u00a0\u043e\u0446\u0435\u043d\u043a\u0438 \u0440\u0430\u0437\u0431\u0440\u043e\u0441\u0430.<\/p>\n<p><code>ignore_eos<\/code>\u00a0\u043d\u0435\u00a0\u0437\u0430\u0434\u0430\u0432\u0430\u043b\u0441\u044f, \u0430\u00a0<code>tokens_predicted<\/code>\u00a0\u0438\u00a0<code>stop_type<\/code>\u00a0\u043d\u0435\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u044f\u043b\u0438\u0441\u044c. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f decode \u0432\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u0442\u0435\u0441\u0442\u0435 \u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u043c\u0438. \u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u044e\u0442 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043f\u0440\u043e\u0433\u043e\u043d\u044b \u043d\u0430 1024\u00a0\u0438 2048\u00a0\u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>PP \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 prompt processing, \u0442\u043e \u0435\u0441\u0442\u044c \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043f\u0440\u043e\u043c\u043f\u0442\u0430; \u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u00abPrompt processing, \u0441\u00bb \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0435\u00a0<code>prompt_ms<\/code>, \u0430\u00a0\u043d\u0435\u00a0\u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0439 TTFT (time to first token\u00a0\u2014 \u0432\u0440\u0435\u043c\u044f \u0434\u043e\u00a0\u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0442\u043e\u043a\u0435\u043d\u0430). Decode\u00a0\u2014 \u044d\u0442\u0430\u043f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0440\u043e\u043c\u043f\u0442, \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/p>\n<\/th>\n<th>\n<p align=\"left\">Prompt processing, \u0441<\/p>\n<\/th>\n<th>\n<p align=\"left\">PP, tok\/s<\/p>\n<\/th>\n<th>\n<p align=\"left\">Decode \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u0433\u043b\u0443\u0431\u0438\u043d\u0435, tok\/s<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">1\u202f006<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,91<\/p>\n<\/td>\n<td>\n<p align=\"left\">1\u202f100<\/p>\n<\/td>\n<td>\n<p align=\"left\">70,5<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4\u202f078<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,4<\/p>\n<\/td>\n<td>\n<p align=\"left\">935<\/p>\n<\/td>\n<td>\n<p align=\"left\">69,2<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">8\u202f174<\/p>\n<\/td>\n<td>\n<p align=\"left\">9,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">905<\/p>\n<\/td>\n<td>\n<p align=\"left\">67,8<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">16\u202f366<\/p>\n<\/td>\n<td>\n<p align=\"left\">19,4<\/p>\n<\/td>\n<td>\n<p align=\"left\">843<\/p>\n<\/td>\n<td>\n<p align=\"left\">65,5<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">32\u202f749<\/p>\n<\/td>\n<td>\n<p align=\"left\">44,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">735<\/p>\n<\/td>\n<td>\n<p align=\"left\">61,4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">65\u202f518<\/p>\n<\/td>\n<td>\n<p align=\"left\">116,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">561<\/p>\n<\/td>\n<td>\n<p align=\"left\">54,2<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>TTFT \u0432\u00a0\u0441\u0442\u0440\u0438\u043c\u0438\u043d\u0433\u0435 \u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e: 1,01\u00a0\u0441\u00a0\u043f\u0440\u0438 1K \u0438 8,96\u00a0\u0441\u00a0\u043f\u0440\u0438 8K. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u0441\u00a0<code>prompt_ms<\/code>\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430 \u043e\u043a\u043e\u043b\u043e 0,1\u00a0\u0441\u00a0\u0432 \u043e\u0431\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b, \u043d\u043e\u00a0\u044d\u0442\u043e\u0442 \u0442\u0435\u0441\u0442 \u043d\u0435\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u044f\u0435\u0442 \u0441\u0435\u0442\u0435\u0432\u044b\u0435, \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0435 \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0435 \u043d\u0430\u043a\u043b\u0430\u0434\u043d\u044b\u0435 \u0440\u0430\u0441\u0445\u043e\u0434\u044b.<\/p>\n<p>\u0420\u0430\u0431\u043e\u0447\u0438\u0435 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u0432\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435 \u043a\u00a0\u0437\u0430\u043c\u0435\u0440\u0430\u043c \u043f\u043e\u00a0\u0433\u043b\u0443\u0431\u0438\u043d\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0439<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043a\u043e\u0434\u0430: \u043f\u043e\u0442\u043e\u043a\u043e\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u044b\u0439 LRU\u2011\u043a\u044d\u0448 \u0441\u00a0TTL, \u0442\u0438\u043f\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0438 pytest (1024\u00a0\u0442\u043e\u043a\u0435\u043d\u0430 \u043a\u043e\u0434\u0430, \u043f\u0440\u043e\u043c\u043f\u0442 71\u00a0\u0442\u043e\u043a\u0435\u043d)<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>70,3\u00a0tok\/s<\/strong>; \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 \u0442\u0438\u043f\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e \u0441\u00a0<code>RLock<\/code>\u00a0\u0438\u00a0<code>OrderedDict<\/code>\u00a0\u043f\u043b\u044e\u0441 pytest\u2011\u0442\u0435\u0441\u0442\u044b; \u0441\u0430\u043c\u0438 \u0442\u0435\u0441\u0442\u044b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043d\u0435\u00a0\u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0438\u0441\u044c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0414\u043b\u0438\u043d\u043d\u0430\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f: \u0440\u0430\u0437\u0431\u043e\u0440 8K\u2011\u043f\u0440\u043e\u043c\u043f\u0442\u0430, 2048\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432,\u00a0<code>t=0.7<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u0440\u0435\u0434\u043d\u044f\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0437\u0430 2048\u00a0\u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432:\u00a0<strong>67,1\u00a0tok\/s<\/strong>; \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043e\u043a, \u043e\u0448\u0438\u0431\u043e\u043a \u0438 \u0432\u0438\u0434\u0438\u043c\u044b\u0445 \u0437\u0430\u043c\u0438\u0440\u0430\u043d\u0438\u0439 \u043d\u0435\u00a0\u0431\u044b\u043b\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0417\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU \u043f\u0440\u0438\u00a0decode;\u00a0<code>power1_average<\/code>\u00a0(APU\/socket)<\/p>\n<\/td>\n<td>\n<p align=\"left\">96\u201397%; 52\u201353\u00b0C; 77\u201385\u00a0\u0412\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0417\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU \u043f\u0440\u0438\u00a0PP \u043d\u0430 64K;\u00a0<code>power1_average<\/code>\u00a0(APU\/socket)<\/p>\n<\/td>\n<td>\n<p align=\"left\">100%; 62\u201367\u00b0C; 101\u2013104\u00a0\u0412\u0442<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><strong>\u041f\u0430\u043c\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438: cgroup, Docker CLI \u0438 GTT.<\/strong>\u00a0\u0423\u00a0\u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u0430 Qwen, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u043b\u0438\u0441\u044c \u0442\u0435\u0441\u0442\u044b,\u00a0<code>memory.current<\/code>\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b 18,63\u00a0\u0413\u0438\u0411, \u0430\u00a0<code>memory.peak<\/code>\u00a0\u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b 19,77\u00a0\u0413\u0438\u0411. \u0412\u00a0\u0442\u043e\u00a0\u0436\u0435 \u0432\u0440\u0435\u043c\u044f\u00a0<code>docker stats<\/code>\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b 1,5\u00a0\u0413\u0438\u0411, \u0430\u00a0\u043e\u0431\u0449\u0438\u0439\u00a0<code>mem_info_gtt_used<\/code>\u00a0\u0443\u0437\u043b\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b 39,5\u00a0\u0413\u0438\u0411.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435\u00a0<code>docker stop<\/code>\u00a0\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 GTT \u0441\u0442\u0430\u0431\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0430 11,8\u00a0\u0413\u0438\u0411, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 \u0444\u043e\u043d\u043e\u0432\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u043e\u0441\u0435\u0434\u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0430\u00a0<strong>27,7\u00a0\u0413\u0438\u0411<\/strong>\u00a0GTT.<\/p>\n<p>\u0412\u00a0\u043b\u043e\u0433\u0430\u0445 llama.cpp \u0443\u043a\u0430\u0437\u0430\u043d\u043e \u043e\u043a\u043e\u043b\u043e 25,4\u00a0\u0413\u0438\u0411 \u0431\u0443\u0444\u0435\u0440\u043e\u0432: 19,4\u00a0\u0413\u0438\u0411 \u0432\u0435\u0441\u043e\u0432 (19 902,9\u00a0MiB), 2,7\u00a0\u0413\u0438\u0411 KV \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 3,3\u00a0\u0413\u0438\u0411 \u0440\u0430\u0431\u043e\u0447\u0438\u0445 \u0431\u0443\u0444\u0435\u0440\u043e\u0432. \u041e\u0441\u0442\u0430\u0432\u0448\u0438\u0435\u0441\u044f ~2,3\u00a0\u0413\u0438\u0411 \u0432\u00a0\u044d\u0442\u043e\u043c \u043b\u043e\u0433\u0435 \u043d\u0435\u00a0\u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u0430\u043d\u044b. \u041e\u043d\u0438 \u043c\u043e\u0433\u0443\u0442 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u044c\u0441\u044f \u043a\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u044f\u043c \u043f\u0430\u043c\u044f\u0442\u0438 \u0431\u044d\u043a\u0435\u043d\u0434\u0430 \u0438\u043b\u0438\u00a0\u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430\u00a0\u043b\u0438\u0431\u043e \u043a\u00a0\u0440\u0430\u0437\u043d\u0438\u0446\u0435 \u0432\u043e\u00a0\u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0439.<\/p>\n<p>\u041a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043c\u0435\u0440 \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0434\u0440\u0443\u0433\u0443\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u0443. \u041c\u043e\u0434\u0435\u043b\u044c \u0441\u043d\u043e\u0432\u0430 \u043d\u0430\u0445\u043e\u0434\u0438\u043b\u0430\u0441\u044c \u0432\u00a0GTT, \u043d\u043e\u00a0<code>memory.current<\/code>\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b \u0432\u0441\u0435\u0433\u043e 0,59\u00a0\u0413\u0438\u0411: anon 0,57\u00a0\u0413\u0438\u0411 \u0438 inactive_file 0,01\u00a0\u0413\u0438\u0411. \u0412\u00a0\u044d\u0442\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435 GTT\u2011\u0441\u0442\u0440\u0430\u043d\u0438\u0446\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0443\u0447\u0438\u0442\u044b\u0432\u0430\u043b\u0438\u0441\u044c \u0432\u00a0memory cgroup (memcg) \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430. \u0417\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c 18,6\u00a0\u0413\u0438\u0411 \u043f\u0440\u0435\u0436\u043d\u0435\u0433\u043e \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u0430, \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e, \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u0430\u0441\u044c \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0447\u043d\u044b\u0439 \u043a\u044d\u0448 \u043f\u043e\u0441\u043b\u0435 \u0447\u0442\u0435\u043d\u0438\u044f 20-\u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u043d\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430 \u043c\u043e\u0434\u0435\u043b\u0438. \u0418\u043c\u0435\u043d\u043d\u043e \u0435\u0433\u043e (<code>inactive_file<\/code>)\u00a0<code>docker stats<\/code>\u00a0\u0432\u044b\u0447\u0438\u0442\u0430\u0435\u0442 \u0438\u0437\u00a0\u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u043c\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f.<\/p>\n<p><code>memory.current<\/code>\u00a0\u0438\u00a0<code>mem_info_gtt_used<\/code>\u00a0\u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0443\u0440\u043e\u0432\u043d\u0438 \u0443\u0447\u0451\u0442\u0430. \u041d\u0430\u00a0\u044d\u0442\u043e\u043c \u0441\u0442\u0435\u043d\u0434\u0435 \u043d\u0443\u0436\u043d\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0442\u044c \u043e\u0431\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044f \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0<a href=\"http:\/\/memory.events\" rel=\"noopener noreferrer nofollow\"><code>memory.events<\/code><\/a>, \u0430\u00a0GPU\u2011\u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u00a0<code>mem_info_gtt_used<\/code>. \u042d\u0442\u043e\u0442 \u0432\u044b\u0432\u043e\u0434 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0441\u0432\u044f\u0437\u043a\u0435 \u044f\u0434\u0440\u0430, amdgpu \u0438 \u0431\u044d\u043a\u0435\u043d\u0434\u0430.<\/p>\n<p>GTT \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u043c\u0435\u043d\u044f\u043b\u0441\u044f \u043f\u0440\u0438\u00a0\u0437\u0430\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0441\u0435\u0440\u0432\u0435\u0440\u00a0\u0431\u044b\u043b \u0437\u0430\u043f\u0443\u0449\u0435\u043d \u0441\u0440\u0430\u0437\u0443 \u0441\u00a0\u043e\u043a\u043d\u043e\u043c 256K \u0438 \u0432\u044b\u0434\u0435\u043b\u0438\u043b \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0435 \u0431\u0443\u0444\u0435\u0440\u044b \u043f\u0440\u0438\u00a0\u0441\u0442\u0430\u0440\u0442\u0435.<\/p>\n<p><strong>\u041f\u043e\u0447\u0435\u043c\u0443 KV \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e 2,7\u00a0\u0413\u0438\u0411 \u043f\u0440\u0438\u00a0\u043e\u043a\u043d\u0435 256K.<\/strong>\u00a0\u0412\u00a0\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u043a\u0430\u0437\u0430\u043d\u043e 40\u00a0\u0441\u043b\u043e\u0451\u0432, \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0432\u00a0\u0434\u0435\u0441\u044f\u0442\u044c \u0433\u0440\u0443\u043f\u043f, \u0432\u00a0\u043a\u0430\u0436\u0434\u043e\u0439\u00a0\u2014 \u0442\u0440\u0438 \u0441\u043b\u043e\u044f Gated DeltaNet \u0438 \u043e\u0434\u0438\u043d \u043e\u0431\u044b\u0447\u043d\u044b\u0439 attention. \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 KV\u2011\u043a\u044d\u0448 \u043d\u0443\u0436\u0435\u043d \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0435\u0441\u044f\u0442\u0438 attention\u2011\u0441\u043b\u043e\u044f\u043c, \u0443\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043f\u043e\u00a0\u0434\u0432\u0435 KV\u2011\u0433\u043e\u043b\u043e\u0432\u044b \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c\u044e 256.<\/p>\n<p>\u0421\u00a0\u0443\u0447\u0451\u0442\u043e\u043c \u0441\u043b\u0443\u0436\u0435\u0431\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 q8_0\u00a0\u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 1,0625\u00a0\u0431\u0430\u0439\u0442\u0430 \u043d\u0430\u00a0\u044d\u043b\u0435\u043c\u0435\u043d\u0442: 34\u00a0\u0431\u0430\u0439\u0442\u0430 \u043d\u0430\u00a0\u0431\u043b\u043e\u043a \u0438\u0437 32\u00a0\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439. \u0420\u0430\u0441\u0447\u0451\u0442\u00a0<code>262 144 \u00d7 10 \u00d7 2 \u00d7 256 \u00d7 2 \u00d7 1,0625<\/code>\u00a0\u0434\u0430\u0451\u0442 \u043e\u043a\u043e\u043b\u043e 2,66\u00a0\u0413\u0438\u0411\u00a0\u2014 \u0440\u043e\u0432\u043d\u043e \u0442\u0435 2\u202f720\u00a0MiB, \u0447\u0442\u043e\u00a0\u0441\u0435\u0440\u0432\u0435\u0440 \u0441\u043e\u043e\u0431\u0449\u0438\u043b \u0432\u00a0\u043b\u043e\u0433\u0435.<\/p>\n<p>\u0412\u00a0\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u043a\u0430\u0437\u0430\u043d\u043e 40\u00a0transformer\u2011\u0441\u043b\u043e\u0451\u0432. \u0421\u0442\u0440\u043e\u043a\u0430\u00a0<code>offloaded 41\/41 layers to GPU<\/code>\u00a0\u043e\u0442\u0440\u0430\u0436\u0430\u0435\u0442 \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0439 \u0441\u0447\u0451\u0442\u0447\u0438\u043a \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 offload \u0432\u00a0\u044d\u0442\u043e\u0439 \u0441\u0431\u043e\u0440\u043a\u0435 llama.cpp, \u0430\u00a0\u043d\u0435\u00a0\u0434\u0440\u0443\u0433\u0443\u044e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p><strong>\u0418\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u044f.<\/strong>\u00a0\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c decode \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 13% \u043a 32K \u0438 \u043d\u0430 23% \u043a 64K. \u0414\u043b\u044f\u00a0\u0438\u043d\u0442\u0435\u0440\u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u043b\u0438\u044f\u0435\u0442 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043f\u0440\u043e\u043c\u043f\u0442\u0430: \u0435\u0451 \u0432\u0440\u0435\u043c\u044f \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u0441 0,9\u00a0\u0434\u043e 116,9\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u0421\u0446\u0435\u043d\u0430\u0440\u0438\u0439 \u00ab\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0442\u044c \u043a\u043d\u0438\u0433\u0443 \u0438 \u0441\u0440\u0430\u0437\u0443 \u0437\u0430\u0434\u0430\u0442\u044c \u0432\u043e\u043f\u0440\u043e\u0441\u00bb \u0431\u0435\u0437\u00a0\u043a\u044d\u0448\u0430 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043d\u0435\u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u044b\u043c.<\/p>\n<p>\u041f\u0440\u0438\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u043e\u043c \u043a\u044d\u0448\u0435 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0441\u00a0\u0442\u0435\u043c\u00a0\u0436\u0435 \u043d\u0430\u0447\u0430\u043b\u043e\u043c \u043c\u043e\u0433\u0443\u0442 \u043d\u0435\u00a0\u043f\u0435\u0440\u0435\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u044c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442. \u0422\u0430\u043a\u043e\u0439 \u043a\u044d\u0448 \u043d\u0435\u00a0\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u0435\u043d: \u043e\u043d \u0432\u044b\u0442\u0435\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u0438 \u0442\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u00a0\u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0435. \u0413\u043b\u0443\u0431\u0438\u043d\u0443 \u0431\u043e\u043b\u044c\u0448\u0435 64K \u044f \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b. \u041f\u043e\u00a0\u044d\u043a\u0441\u0442\u0440\u0430\u043f\u043e\u043b\u044f\u0446\u0438\u0438 \u0442\u0435\u043a\u0443\u0449\u0435\u0439 \u043a\u0440\u0438\u0432\u043e\u0439 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 128K \u0437\u0430\u043d\u044f\u043b\u00a0\u0431\u044b \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0438\u043d\u0443\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0\u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u043f\u0440\u043e\u043c\u043f\u0442\u0430.<\/p>\n<p>\u041e\u043a\u043e\u043b\u043e 70\u00a0tok\/s \u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u0441 35\u00a0\u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u044e\u0442\u0441\u044f MoE: \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435 \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 3\u00a0\u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0431\u044a\u0451\u043c \u0447\u0442\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043c\u043e\u0434\u0435\u043b\u0438. \u0414\u043b\u044f\u00a0\u043f\u043b\u043e\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u00a0\u0432\u0435\u0441\u0430\u043c\u0438 \u043e\u043a\u043e\u043b\u043e 20\u00a0\u0413\u0411 \u0438\u0434\u0435\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043e\u0446\u0435\u043d\u043a\u0430 \u043f\u043e\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 256\u00a0\u0413\u0411\/\u0441 \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 12\u00a0tok\/s. \u042d\u0442\u043e \u0432\u0435\u0440\u0445\u043d\u044f\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430, \u0430\u00a0\u043d\u0435\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f.<\/p>\n<h3>\u0410\u0443\u0434\u0438\u0442 \u043e\u0431\u0440\u0430\u0437\u043e\u0432: \u043a\u043e\u0440\u043e\u0442\u043a\u043e<\/h3>\n<p>\u0412\u00a0\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b 47\u00a0\u0441\u0435\u0440\u0432\u0438\u0441\u2011\u0434\u0435\u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0440\u043e\u0432. \u0422\u0440\u0438 \u043e\u0431\u0440\u0430\u0437\u0430 \u0441\u043e\u0431\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, 44\u00a0\u0437\u0430\u0433\u0440\u0443\u0436\u0430\u044e\u0442\u0441\u044f \u0438\u0437\u00a0registry. \u041f\u043e\u0441\u043b\u0435 \u0434\u0435\u0434\u0443\u043f\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043e\u0431\u0449\u0438\u0445 \u043e\u0431\u0440\u0430\u0437\u043e\u0432 \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c\u00a0<strong>40\u00a0\u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u043f\u0438\u043d\u043e\u0432<\/strong>. \u0410\u0443\u0434\u0438\u0442 \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0441\u044f \u043f\u043e\u00a0digest, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0440\u0430\u043d\u0442\u0430\u0439\u043c, \u0430\u00a0\u043d\u0435\u00a0\u043f\u043e\u00a0\u0438\u0437\u043c\u0435\u043d\u044f\u0435\u043c\u044b\u043c \u0442\u0435\u0433\u0430\u043c. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430 10\u00a0\u0438\u044e\u043b\u044f 2026\u00a0\u0433\u043e\u0434\u0430, commit\u00a0<code>e04aad6<\/code>:<\/p>\n<ul>\n<li>\n<p><code>linux\/amd64<\/code>: 40\u00a0\u0438\u0437 40\u00a0\u043f\u0438\u043d\u043e\u0432; \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0435 ARM\u2011\u0441\u0431\u043e\u0440\u043a\u0438 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u0434\u043b\u044f\u00a0\u044d\u0442\u0438\u0445 \u0443\u0437\u043b\u043e\u0432 \u043d\u0435\u00a0\u043d\u0443\u0436\u043d\u044b;<\/p>\n<\/li>\n<li>\n<p><code>linux\/arm64<\/code>: 37\u00a0\u0438\u0437 40. \u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 arm64\u00a0\u043d\u0435\u0442 \u0443\u00a0upstream\u2011\u043e\u0431\u0440\u0430\u0437\u0430 RAGFlow, \u043d\u0430\u0448\u0435\u0433\u043e hotfix\u2011\u043f\u0438\u043d\u0430 MinIO \u0438 \u043f\u0438\u043d\u0430 Squid, \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043d\u0430\u00a0\u043e\u0434\u043d\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443; upstream\u2011\u0442\u0435\u0433 Squid \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043c\u0443\u043b\u044c\u0442\u0438\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0439;<\/p>\n<\/li>\n<li>\n<p>\u0443\u00a0\u0442\u0440\u0451\u0445 \u0442\u0435\u0433\u043e\u0432 \u0442\u0435\u043a\u0443\u0449\u0438\u0439 digest \u043d\u0435\u00a0\u0441\u043e\u0432\u043f\u0430\u043b \u0441\u00a0\u043f\u0438\u043d\u043e\u043c. \u042d\u0442\u043e\u00a0<code>pgvector:pg17<\/code>,\u00a0<code>squid:7.2-26.04_edge<\/code>\u00a0\u0438\u00a0<code>elasticsearch:8.19.16<\/code>. \u0414\u043b\u044f\u00a0Squid \u0441\u00a0\u043f\u0438\u043d\u043e\u043c \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b\u0441\u044f amd64-\u043c\u0430\u043d\u0438\u0444\u0435\u0441\u0442 \u0438\u0437\u00a0\u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e OCI\u2011\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u00a0\u2014 \u043e\u0431\u044a\u0435\u043a\u0442\u044b \u043e\u0434\u043d\u043e\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f. \u041f\u0440\u043e\u00a0Elasticsearch \u043c\u043e\u0436\u043d\u043e \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e, \u0447\u0442\u043e\u00a0\u0442\u0435\u0433 \u0441\u0435\u0439\u0447\u0430\u0441 \u0432\u0435\u0434\u0451\u0442 \u043d\u0435\u00a0\u043d\u0430\u00a0\u043d\u0430\u0448 digest. \u0411\u0435\u0437\u00a0\u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u0438 \u043d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u043f\u0438\u043d\u043d\u0438\u043d\u0433\u0430 \u043d\u0435\u043b\u044c\u0437\u044f \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0semver\u2011\u0442\u0435\u0433\u00a0\u0431\u044b\u043b \u043f\u0435\u0440\u0435\u0434\u0432\u0438\u043d\u0443\u0442.<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u0430\u00a0\u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u044d\u0442\u0438 \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043d\u0435\u00a0\u043f\u043e\u0432\u043b\u0438\u044f\u043b\u0438, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0440\u0430\u043d\u0442\u0430\u0439\u043c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 digest.<\/p>\n<p>\u0412\u0441\u0435 40\u00a0\u043f\u0438\u043d\u043e\u0432 \u043b\u0435\u0436\u0430\u0442 \u0432\u00a0\u0434\u0435\u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0440\u0430\u0445\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind64\/tree\/main\/templates\/services\" rel=\"noopener noreferrer nofollow\">\u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f<\/a>; \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439\u00a0<code>docker buildx imagetools inspect &lt;repo&gt;@sha256:&lt;digest&gt;<\/code>.<\/p>\n<h3>\u0427\u0442\u043e\u00a0\u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u00a0Spark \u0438 \u043a\u0430\u043a\u00a0\u043c\u0430\u0448\u0438\u043d\u044b \u0441\u0432\u044f\u0437\u0430\u043d\u044b<\/h3>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0\u043f\u0430\u0440\u0435 DGX Spark; \u0441\u0432\u044f\u0437\u043a\u0443 \u043f\u043e 200G \u044f \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b \u0432\u00a0<a href=\"https:\/\/habr.com\/ru\/articles\/1050470\/\" rel=\"noopener noreferrer nofollow\">\u0441\u0442\u0430\u0442\u044c\u0435 \u043f\u0440\u043e\u00a0multi\u2011user<\/a>. \u0421\u0435\u0440\u0432\u0438\u0441\u043d\u044b\u0439 \u0441\u0442\u0435\u043a \u043e\u0431\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u043a\u00a0\u043d\u0435\u0439 \u0447\u0435\u0440\u0435\u0437 OpenAI\u2011\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 API \u043f\u043e\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0435\u0442\u0438.<\/p>\n<p>\u0412\u00a0\u043e\u0431\u044b\u0447\u043d\u043e\u0439 Compose bridge\u2011\u0441\u0435\u0442\u0438 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u043d\u0430\u0445\u043e\u0434\u044f\u0442 \u0434\u0440\u0443\u0433 \u0434\u0440\u0443\u0433\u0430 \u043f\u043e\u00a0\u0438\u043c\u0435\u043d\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u0430. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440,\u00a0<a href=\"http:\/\/llama-llm:8080\/v1\" rel=\"noopener noreferrer nofollow\"><code>http:\/\/llama-llm:8080\/v1<\/code><\/a>\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Docker DNS. \u041c\u0435\u0436\u0434\u0443 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c\u0438 Compose\u2011\u0445\u043e\u0441\u0442\u0430\u043c\u0438 \u0442\u0430\u043a\u043e\u0435 \u0438\u043c\u044f \u043d\u0435\u00a0\u0440\u0435\u0437\u043e\u043b\u0432\u0438\u0442\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0443\u0436\u0435\u043d \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 LAN\u2011\u0430\u0434\u0440\u0435\u0441 \u0438\u043b\u0438\u00a0FQDN. \u0418\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u0430\u044f multi\u2011host overlay\u2011\u0441\u0435\u0442\u044c, \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0443\u00a0\u043d\u0430\u0441 \u043d\u0435\u0442.<\/p>\n<p>\u041f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0439 URL \u0437\u0430\u00a0\u0430\u0443\u0442\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0435\u0439 \u0434\u043b\u044f\u00a0\u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e API \u0442\u043e\u0436\u0435 \u043d\u0435\u00a0\u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442. \u041d\u0435\u0430\u0432\u0442\u043e\u0440\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0440\u0435\u0434\u0438\u0440\u0435\u043a\u0442 \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0443 \u0432\u0445\u043e\u0434\u0430, \u0438 \u043a\u043b\u0438\u0435\u043d\u0442 \u043d\u0435\u00a0\u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u0415\u0434\u0438\u043d\u043e\u0439 \u043f\u043b\u043e\u0441\u043a\u043e\u0441\u0442\u0438 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f (control plane) \u0443\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u043c\u0430\u0448\u0438\u043d \u043f\u043e\u043a\u0430 \u043d\u0435\u0442. \u041c\u0435\u0436\u0445\u043e\u0441\u0442\u043e\u0432\u0430\u044f \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0430\u0446\u0438\u044f, \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u00a0\u043e\u0442\u043a\u0430\u0437\u0435 (failover) \u0438 \u043e\u0442\u043a\u0430\u0442 \u0432\u0441\u0435\u0433\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u043c\u0438. \u0421\u0435\u0439\u0447\u0430\u0441 \u044d\u0442\u043e \u0443\u0437\u043b\u044b \u0441\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u0440\u043e\u043b\u044f\u043c\u0438 \u0438 LAN\u2011\u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0438\u0437\u0430\u0446\u0438\u0435\u0439.<\/p>\n<p>\u0421\u0442\u0435\u043a \u0440\u0430\u0437\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0435\u0442 \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u043d\u043d\u0430\u044f \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430 \u043d\u0430\u00a0\u0432\u0430\u043b\u0438\u0434\u0438\u0440\u0443\u0435\u043c\u044b\u0445 YAML\u2011\u0434\u0435\u0441\u043a\u0440\u0438\u043f\u0442\u043e\u0440\u0430\u0445 \u0441\u00a0digest\u2011\u043f\u0438\u043d\u0430\u043c\u0438\u00a0\u2014 \u043d\u0430\u00a0\u0441\u043c\u0435\u043d\u0443 \u043f\u0440\u0435\u0436\u043d\u0435\u043c\u0443 Bash\u2011\u0438\u043d\u0441\u0442\u0430\u043b\u043b\u044f\u0442\u043e\u0440\u0443. \u0415\u0451 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438 \u043c\u0438\u0433\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0434\u0435\u0444\u0435\u043a\u0442\u044b \u0431\u0443\u0434\u0443\u0442 \u0442\u0435\u043c\u043e\u0439 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<details class=\"spoiler\">\n<summary>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0441\u00a0DGX Spark: \u043a\u043e\u0440\u043e\u0442\u043a\u043e, \u0434\u043b\u044f\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430<\/summary>\n<div class=\"spoiler__content\">\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\n<\/th>\n<th>\n<p align=\"left\">DGX Spark (GB10)<\/p>\n<\/th>\n<th>\n<p align=\"left\">Beelink GTR9\u00a0Pro (Ryzen AI Max+ 395)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">ISA<\/p>\n<\/td>\n<td>\n<p align=\"left\">AArch64<\/p>\n<\/td>\n<td>\n<p align=\"left\">x86-64<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GPU\u2011\u0441\u0442\u0435\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">CUDA (\u043f\u0440\u043e\u043f\u0440\u0438\u0435\u0442\u0430\u0440\u043d\u044b\u0439 \u0434\u0440\u0430\u0439\u0432\u0435\u0440)<\/p>\n<\/td>\n<td>\n<p align=\"left\">Vulkan\/RADV (Mesa) + ROCm \u0432\u0442\u043e\u0440\u0438\u0447\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041f\u0430\u043c\u044f\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">128\u00a0\u0413\u0411 unified, 273\u00a0\u0413\u0411\/\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">128\u00a0\u0413\u0411 unified, ~256\u00a0\u0413\u0411\/\u0441 (\u0442\u0435\u043e\u0440., 256-\u0431\u0438\u0442 LPDDR5X-8000)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u043e\u043b\u044c \u0443\u00a0\u043d\u0430\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043e\u0434\u043d\u043e\u0439 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0438\u0441\u043d\u044b\u0439 \u0443\u0437\u0435\u043b<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0426\u0435\u043d\u044b \u043d\u0430 10\u00a0\u0438\u044e\u043b\u044f 2026\u00a0\u0433\u043e\u0434\u0430: Spark \u0441 128\u00a0\u0413\u0411 \/ 4\u00a0\u0422\u0411 \u0441\u0442\u043e\u0438\u043b $4 699; GTR9\u00a0Pro \u0441 128\u00a0\u0413\u0411 \/ 2\u00a0\u0422\u0411 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u043b\u0441\u044f \u0437\u0430 $4 349\u00a0\u043f\u043e\u00a0pre\u2011sale \u043f\u0440\u0438\u00a0\u0437\u0430\u0447\u0451\u0440\u043a\u043d\u0443\u0442\u043e\u0439 \u0446\u0435\u043d\u0435 $4 699. \u041c\u043e\u0449\u043d\u043e\u0441\u0442\u044c \u0431\u043b\u043e\u043a\u043e\u0432 \u043f\u0438\u0442\u0430\u043d\u0438\u044f \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 240\u00a0\u0438 230\u00a0\u0412\u0442. \u041f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 \u0438\u0437\u00a0\u0440\u043e\u0437\u0435\u0442\u043a\u0438 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u043e\u0441\u044c, \u0430\u00a0\u043f\u0440\u044f\u043c\u044b\u0445 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u043c\u0435\u0436\u0434\u0443 \u043c\u0430\u0448\u0438\u043d\u0430\u043c\u0438 \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u043d\u0435\u0442: \u043e\u043d\u0438 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0440\u043e\u043b\u0438.<\/p>\n<\/div>\n<\/details>\n<h3>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442, \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0438 \u0447\u0442\u043e\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043e<\/h3>\n<p><strong>\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442.<\/strong>\u00a0\u041d\u0430\u00a0Strix\u2011A \u0437\u0430\u043f\u0443\u0449\u0435\u043d\u044b 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438. \u0414\u043b\u044f\u00a0\u0432\u0441\u0435\u0445 40\u00a0\u0432\u043d\u0435\u0448\u043d\u0438\u0445 \u043f\u0438\u043d\u043e\u0432 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442\u00a0<code>linux\/amd64<\/code>. \u042d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u043d\u0430\u00a0Radeon 8060S \u0447\u0435\u0440\u0435\u0437 RADV; p95\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b 12,3\u00a0\u043c\u0441 \u0434\u043b\u044f\u00a0embed \u0438 142\u00a0\u043c\u0441 \u0434\u043b\u044f\u00a0rerank. \u041d\u0430\u00a0Strix\u2011B Qwen3.6\u201335B\u2011A3B \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 70,5\u00a0tok\/s \u043d\u0430\u00a0\u043a\u043e\u0440\u043e\u0442\u043a\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u0438 54,2\u00a0tok\/s \u043d\u0430\u00a0\u0433\u043b\u0443\u0431\u0438\u043d\u0435 64K \u043f\u0440\u0438\u00a0\u043e\u043a\u043d\u0435 256K. \u0412\u00a0\u0442\u0435\u0441\u0442\u0435 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043a\u043e\u0434\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u00a0\u0431\u044b\u043b\u0430 \u043e\u043a\u043e\u043b\u043e 70\u00a0tok\/s.<\/p>\n<p>\u041f\u0440\u0438\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u043c \u0441\u0442\u0435\u043a\u0435 \u044f\u0434\u0440\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u043b\u043e 98,8\u00a0\u0413\u0438\u0411 \u043f\u0430\u043c\u044f\u0442\u0438 \u043a\u0430\u043a\u00a0\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435. \u041d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u043d\u0438\u043c\u043a\u0430 \u0443 33\u00a0\u0438\u0437 34\u00a0\u0442\u0435\u043a\u0443\u0449\u0438\u0445 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u043e\u0432\u00a0<code>RestartCount<\/code>\u00a0\u0431\u044b\u043b \u0440\u0430\u0432\u0435\u043d \u043d\u0443\u043b\u044e; \u043f\u043e\u043b\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u043c\u0435\u0441\u044f\u0446\u0430 \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u043f\u043b\u0430\u043d\u043e\u0432\u043e\u0435 \u043f\u0435\u0440\u0435\u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 Dify 30\u00a0\u0438\u044e\u043d\u044f. \u0421\u0442\u0435\u043a \u043f\u0435\u0440\u0435\u0436\u0438\u043b \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0445\u043e\u0441\u0442\u0430 \u0441\u00a0\u0430\u0432\u0442\u043e\u0437\u0430\u043f\u0443\u0441\u043a\u043e\u043c \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432 \u0447\u0435\u0440\u0435\u0437 systemd\u2011\u044e\u043d\u0438\u0442 \u0438 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a \u0434\u0435\u043c\u043e\u043d\u0430 Docker \u0441\u00a0live\u2011restore. \u0410\u043f\u0442\u0430\u0439\u043c \u0445\u043e\u0441\u0442\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b 15\u00a0\u0434\u043d\u0435\u0439.<\/p>\n<p><strong>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f.<\/strong>\u00a0\u041c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 gfx1151\u00a0\u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043d\u0435\u0437\u0440\u0435\u043b\u044b\u043c:\u00a0<code>amd-smi<\/code>\u00a0\u043d\u0435\u00a0\u043e\u0442\u0434\u0430\u0451\u0442 \u043d\u0443\u0436\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0434\u0430\u043d\u043d\u044b\u0435 sysfs. ROCm \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u0435\u043d \u043a\u00a0\u0441\u043e\u0447\u0435\u0442\u0430\u043d\u0438\u044e \u044f\u0434\u0440\u0430, firmware \u0438 userspace \u0438 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0437\u0430\u043f\u0430\u0441\u043d\u044b\u043c \u043f\u0443\u0442\u0451\u043c. \u0411\u043e\u043b\u044c\u0448\u043e\u0439 GTT \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438\u00a0<code>ttm.pages_limit<\/code>\u00a0\u0438 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438.<\/p>\n<p>\u0412\u00a0\u043e\u0434\u043d\u043e\u043c \u0441\u043d\u0438\u043c\u043a\u0435 dify\u2011sandbox \u0434\u043e\u0441\u0442\u0438\u0433 95%\u00a0\u043b\u0438\u043c\u0438\u0442\u0430; \u0435\u043c\u0443 \u043d\u0443\u0436\u0435\u043d \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0442\u0435\u0441\u0442 \u0441\u00a0\u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u0434\u0430. dify\u2011plugin\u2011daemon \u0438\u043c\u0435\u0435\u0442 \u043f\u044f\u0442\u044c \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u043e\u0432 \u0443\u00a0\u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u0430. GPU\u2011\u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u043e\u00a0<code>mem_info_gtt_used<\/code>, \u0430\u00a0\u043d\u0435\u00a0\u043f\u043e\u00a0<code>docker stats<\/code>.<\/p>\n<p><strong>\u041d\u0435\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043e.<\/strong>\u00a0\u041f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 \u0438\u0437\u00a0\u0440\u043e\u0437\u0435\u0442\u043a\u0438; \u0444\u0438\u043a\u0441\u0430\u0446\u0438\u044f \u0440\u0435\u0436\u0438\u043c\u0430 \u043f\u0438\u0442\u0430\u043d\u0438\u044f BIOS; \u0432\u0440\u0435\u043c\u044f \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u044a\u0451\u043c\u0430 \u0441\u0442\u0435\u043a\u0430 \u0441\u00a0\u043d\u0443\u043b\u044f \u043d\u0430\u00a0\u044d\u0442\u043e\u043c\u00a0\u0436\u0435\u043b\u0435\u0437\u0435; \u0433\u043b\u0443\u0431\u0438\u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0437\u0430 64K \u0438 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0435 \u043f\u043e\u0442\u043e\u043a\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 (<code>--parallel 1<\/code>); embed\/rerank \u043f\u043e\u0434\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u043c\u0438 (p99); multi\u2011node\u2011\u0440\u0435\u0436\u0438\u043c \u043a\u0430\u043a\u00a0\u0435\u0434\u0438\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0442\u0435\u0440; \u043c\u043d\u043e\u0433\u043e\u0447\u0430\u0441\u043e\u0432\u044b\u0435 \u0442\u0435\u043f\u043b\u043e\u0432\u044b\u0435 \u0440\u0435\u0436\u0438\u043c\u044b; \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 Vulkan \u0438 ROCm \u043d\u0430\u00a0\u044d\u0442\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445.<\/p>\n<hr\/>\n<p>Strix Halo \u043d\u0435\u00a0\u0437\u0430\u043c\u0435\u043d\u0438\u043b Spark \u043a\u0430\u043a\u00a0\u0443\u0441\u043a\u043e\u0440\u0438\u0442\u0435\u043b\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 LLM. \u0414\u0432\u0435 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u043c\u0430\u0448\u0438\u043d\u044b \u0437\u0430\u043a\u0440\u044b\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0440\u043e\u043b\u0438: \u043f\u043b\u043e\u0442\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0438\u0441\u043d\u044b\u0439 \u0441\u0442\u0435\u043a \u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 Vulkan\u2011\u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 MoE\u2011\u043c\u043e\u0434\u0435\u043b\u0438. \u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0441\u0432\u044f\u0437\u0430\u043d\u044b \u0441\u00a0\u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u043e\u043c gfx1151\u00a0\u0438 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e ROCm \u043a\u00a0\u0432\u0435\u0440\u0441\u0438\u044f\u043c \u044f\u0434\u0440\u0430 \u0438 firmware.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u0441\u0435\u0440\u0432\u0438\u0441\u043d\u043e\u0433\u043e \u0443\u0437\u043b\u0430 \u0432\u0430\u0436\u043d\u0435\u0435 \u043e\u043a\u0430\u0437\u0430\u043b\u0438\u0441\u044c 128\u00a0\u0413\u0411 \u043e\u0431\u0449\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u043e\u0431\u044b\u0447\u043d\u0430\u044f x86-64-\u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u0430, \u0430\u00a0\u043d\u0435\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c GPU.<\/p>\n<p>\u041a\u043e\u0434 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b \u043e\u0442\u043a\u0440\u044b\u0442 \u043f\u043e\u0434\u00a0Apache 2.0:\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind64\" rel=\"noopener noreferrer nofollow\">github.com\/botAGI\/AGmind64<\/a>\u00a0(\u0443\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u043c\u044b\u0439 commit\u00a0<code>e04aad6<\/code>\u00a0\u2014 \u043e\u0442\u0442\u0443\u0434\u0430). \u0412\u043e\u043f\u0440\u043e\u0441\u044b \u0438 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0435 \u0433\u0440\u0430\u0431\u043b\u0438 \u043e\u0431\u0441\u0443\u0434\u0438\u043c \u0432\u00a0\u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1058502\/\">https:\/\/habr.com\/ru\/articles\/1058502\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u041d\u0430\u00a0\u0443\u0437\u043b\u0435 \u043c\u043e\u0435\u0439 AI\u2011\u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b \u043a\u0440\u0443\u0442\u044f\u0442\u0441\u044f 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430: Dify, RAGFlow, \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0435 \u0431\u0430\u0437\u044b, \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433 \u0438 SSO. \u0411\u043e\u043b\u044c\u0448\u043e\u0439 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u0440\u0435\u0434\u0438 \u043d\u0438\u0445 \u043d\u0435\u0442: \u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0441\u0442\u0435\u043a \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u043f\u043e\u00a0LAN \u0441\u00a0DGX Spark. \u041d\u0430\u00a0\u0432\u0442\u043e\u0440\u043e\u043c \u0442\u0430\u043a\u043e\u043c\u00a0\u0436\u0435 \u043c\u0438\u043d\u0438\u2011\u041f\u041a \u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0434\u043d\u044f\u043b \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e Qwen3.6\u201335B\u2011A3B \u0438 \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u0441\u0435\u0440\u0438\u044e \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u043e\u0442 1K \u0434\u043e 64K \u043f\u0440\u0438\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u043c \u043e\u043a\u043d\u0435 256K.\u041e\u0431\u0435 \u043c\u0430\u0448\u0438\u043d\u044b\u00a0\u2014 Beelink GTR9\u00a0Pro \u043d\u0430\u00a0Ryzen AI Max+ 395\u00a0(Strix Halo). \u041d\u0438\u0436\u0435\u00a0\u2014 \u0447\u0442\u043e\u00a0\u044d\u0442\u0438 \u043a\u043e\u0440\u043e\u0431\u043a\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u044e\u0442: 117,4\u00a0\u0413\u0438\u0411 GTT \u043f\u043e\u0441\u043b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438\u00a0ttm.pages_limit, p50\/p95\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0430, \u043e\u043a\u043e\u043b\u043e 70\u00a0tok\/s \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0447\u0435\u0440\u0435\u0437 Vulkan\/RADV \u0438 \u0442\u0440\u0438 \u0433\u0440\u0430\u0431\u043b\u0438 gfx1151.\u0427\u0442\u043e\u00a0\u044f \u0445\u043e\u0442\u0435\u043b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c\u0414\u0435\u0440\u0436\u0438\u0442\u00a0\u043b\u0438 \u043c\u0430\u0448\u0438\u043d\u0430 \u043f\u043e\u043b\u043d\u044b\u0439 Docker\u2011\u0441\u0442\u0435\u043a \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0439 AI\u2011\u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u044b \u0432\u00a0\u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u0435.\u0415\u0441\u0442\u044c\u00a0\u043b\u0438\u00a0linux\/amd64\u2011\u043e\u0431\u0440\u0430\u0437\u044b \u0434\u043b\u044f\u00a0\u0432\u0441\u0435\u0433\u043e \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0430, \u0438\u043b\u0438\u00a0\u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0432\u043e\u0451.\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u00a0\u043b\u0438 Radeon 8060S (gfx1151) \u0447\u0435\u0440\u0435\u0437 Vulkan \u043a\u0430\u043a\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043f\u0443\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430.\u0421\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u0437 128\u00a0\u0413\u0411 \u043e\u0431\u0449\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0434\u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f GPU \u0438 \u043a\u0430\u043a\u043e\u0439 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u043e\u0439.\u041f\u0440\u0438\u0433\u043e\u0434\u043d\u044b\u00a0\u043b\u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0434\u043b\u044f\u00a0\u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e RAG\u2011\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0430.\u041a\u0430\u043a\u0438\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u0443\u00a0ROCm \u0438 \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433\u0430 \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0435.\u0421\u0442\u0435\u043d\u0434 \u0438 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u0441\u0432\u044f\u0437\u043a\u0430 \u0432\u0435\u0440\u0441\u0438\u0439\u041e\u0431\u0430 \u0443\u0437\u043b\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b \u043f\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0443 \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u043c\u0443 \u041f\u041e:\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u041c\u0430\u0448\u0438\u043d\u0430Beelink GTR9\u00a0ProAPURyzen AI Max+ 395\u00a0(Strix Halo)CPU16C\/32T Zen 5GPURadeon 8060S, 40\u00a0CU RDNA 3.5,\u00a0gfx1151\u041f\u0430\u043c\u044f\u0442\u044c128\u00a0\u0413\u0411 LPDDR5X (\u0435\u0434\u0438\u043d\u044b\u0439 \u043f\u0443\u043b)\u041d\u0430\u043a\u043e\u043f\u0438\u0442\u0435\u043b\u044cNVMe Crucial P310 2\u00a0\u0422\u0411\u041e\u0421Ubuntu 24.04.4\u00a0LTS\u042f\u0434\u0440\u043e6.17.0\u201335-generic (HWE)Mesa \/ RADV25.2.8ROCm7.2.3\u00a0(\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u0430\u044f \u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0441\u0442\u0435\u043d\u0434\u0430)BIOSGTRPR05; \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0430\u044f \u0432\u00a0BIOS \u043f\u0430\u043c\u044f\u0442\u044c GPU (UMA)\u00a0\u2014 512\u00a0\u041c\u0438\u0411linux\u2011firmware20240318.git3b128b60-0ubuntu2.27\u00a0(\u043f\u0430\u043a\u0435\u0442 Ubuntu 24.04)GTTttm.pages_limit=30788203\u00a0\u0441\u0442\u0440\u0430\u043d\u0438\u0446: 117,4\u00a0\u0413\u0438\u0411 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438 \u0434\u043b\u044f\u00a0GPU; \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438\u0420\u0435\u0436\u0438\u043c \u043f\u0438\u0442\u0430\u043d\u0438\u044fBIOS\u2011\u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0435\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f; \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 \u0440\u0435\u0436\u0438\u043c\u044b 120\/140\u00a0\u0412\u0442\u0420\u043e\u043b\u0438 \u0443\u0437\u043b\u043e\u0432 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u044b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u043d\u0435\u00a0\u0441\u043c\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f:\u0423\u0437\u0435\u043b\u0420\u043e\u043b\u044c\u0427\u0442\u043e\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u043e\u0441\u044cStrix\u2011A\u0441\u0435\u0440\u0432\u0438\u0441\u043d\u044b\u0439 \u0441\u043b\u043e\u0439, 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430\u0441\u043d\u0438\u043c\u043e\u043a \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432,\u00a0\u043b\u0438\u043c\u0438\u0442\u044b, GTT\u2011\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430, embed\/rerank, \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u0440\u0435\u0441\u0442\u0430\u0440\u0442\u043e\u0432Strix\u2011B\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f Qwen3.6\u201335B\u2011A3Bprompt processing, decode, \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u0438 \u043c\u043e\u0449\u043d\u043e\u0441\u0442\u044c\u0412\u043e\u00a0\u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u043d\u0430\u00a0Strix\u2011B \u0432\u00a0GTT \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u043d\u0430\u0445\u043e\u0434\u0438\u043b\u0438\u0441\u044c \u0434\u0432\u0430 llama\u2011\u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430: \u043c\u043e\u0434\u0435\u043b\u0438 8B Q5_K_M \u0438 4B Q8_0. \u0412\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u043f\u0440\u043e\u0447\u0438\u043c\u0438 \u0431\u0443\u0444\u0435\u0440\u0430\u043c\u0438 \u043e\u043d\u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u0438 11,8\u00a0\u0413\u0438\u0411 GTT. \u0417\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043a\u00a0\u043d\u0438\u043c \u043d\u0435\u00a0\u0431\u044b\u043b\u043e, \u0430\u00a0\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 GPU \u0432\u00a0\u043f\u0430\u0443\u0437\u0430\u0445 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0430 0%.\u0427\u0442\u043e\u00a0\u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b\u043e\u0441\u044c: 34\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 (Strix\u2011A)\u0412\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442\u00a034\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430:Dify: api, worker, web, plugin\u2011daemon \u0438 sandbox; \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e Docling;RAGFlow \u0441\u00a0MySQL, Elasticsearch \u0438 MinIO;Milvus \u0441\u00a0etcd \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c MinIO, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 PostgreSQL \u0438 Redis;llama\u2011embed \u0438 llama\u2011rerank;Prometheus, Grafana, Loki, Alloy, cAdvisor, Alertmanager \u0438 \u0442\u0440\u0438 \u044d\u043a\u0441\u043f\u043e\u0440\u0442\u0451\u0440\u0430;Authelia, Traefik, n8n, Phoenix, Open WebUI, Portainer, SSRF\u2011\u043f\u0440\u043e\u043a\u0441\u0438 \u0438 Docker socket proxy.\u0412\u0435\u043a\u0442\u043e\u0440\u043d\u043e\u0435 \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0435 \u044d\u0442\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438: Milvus. Qdrant \u0438 Weaviate \u0435\u0441\u0442\u044c \u0432\u00a0\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435, \u043d\u043e\u00a0\u043d\u0430\u00a0\u044d\u0442\u043e\u043c \u0443\u0437\u043b\u0435 \u043d\u0435\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u044b.\u0415\u0449\u0451 \u0442\u0440\u0438 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430 \u043d\u0430\u0445\u043e\u0434\u044f\u0442\u0441\u044f \u0432\u043d\u0435 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438: ASR\u2011\u0441\u0435\u0440\u0432\u0438\u0441, \u0442\u0443\u043d\u043d\u0435\u043b\u044c \u0438 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440 \u0411\u0414 \u0430\u0433\u0435\u043d\u0442\u043e\u0432. \u0414\u0435\u0442\u0435\u043a\u0442\u043e\u0440 \u0434\u0440\u0435\u0439\u0444\u0430 (\u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0443\u0437\u043b\u0430 \u0441\u00a0\u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0435\u0439) \u0432\u0438\u0434\u0438\u0442 \u0438\u0445 \u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u044f\u0432\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f: \u0438\u043c\u043f\u043e\u0440\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u00a0\u0440\u0430\u0437\u0432\u0451\u0440\u0442\u044b\u0432\u0430\u043d\u0438\u0435 \u0438\u043b\u0438\u00a0\u0443\u0434\u0430\u043b\u0438\u0442\u044c.Radeon 8060S \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u0432\u0435 GPU\u2011\u0437\u0430\u0434\u0430\u0447\u0438 \u0447\u0435\u0440\u0435\u0437 llama.cpp\/Vulkan:\u00a0bge-m3-Q8_0\u00a0\u0434\u043b\u044f\u00a0\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0438\u00a0bge-reranker-v2-m3-Q8_0\u00a0\u0434\u043b\u044f\u00a0\u0440\u0435\u0440\u0430\u043d\u043a\u0430. \u041e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430\u00a0CPU. \u0413\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u0441\u043e Spark \u0447\u0435\u0440\u0435\u0437 OpenAI\u2011\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 API \u043f\u043e\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0435\u0442\u0438.\u0421\u0442\u0435\u043a \u0440\u0430\u0437\u0432\u0451\u0440\u043d\u0443\u0442 7\u00a0\u0438\u044e\u043d\u044f. \u0425\u043e\u0441\u0442 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0436\u0430\u043b\u0441\u044f 25\u00a0\u0438\u044e\u043d\u044f, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u043d\u044f\u043b systemd\u2011\u044e\u043d\u0438\u0442. 30\u00a0\u0438\u044e\u043d\u044f Dify \u043f\u0435\u0440\u0435\u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0441\u044f \u043f\u0440\u0438\u00a0\u043f\u043b\u0430\u043d\u043e\u0432\u043e\u043c \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u0438. 5\u00a0\u0438\u044e\u043b\u044f \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0441\u044f \u0434\u0435\u043c\u043e\u043d Docker; \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f live\u2011restore \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0443.\u041d\u0430 10\u00a0\u0438\u044e\u043b\u044f \u0430\u043f\u0442\u0430\u0439\u043c \u0445\u043e\u0441\u0442\u0430 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b 15\u00a0\u0434\u043d\u0435\u0439, \u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u0441 25\u00a0\u0438\u044e\u043d\u044f. \u0423\u00a0\u0442\u0435\u043a\u0443\u0449\u0438\u0445 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u043e\u0432 33\u00a0\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043e\u0432 \u0438\u0437 34\u00a0RestartCount=0; \u0443\u00a0dify\u2011plugin\u2011daemon \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0440\u0430\u0432\u043d\u043e 5. \u042d\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u043c\u0435\u0441\u044f\u0446\u0430, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043f\u0435\u0440\u0435\u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 Dify 30\u00a0\u0438\u044e\u043d\u044f \u0437\u0430\u0432\u0435\u043b\u043e \u043d\u043e\u0432\u044b\u0435 \u044d\u043a\u0437\u0435\u043c\u043f\u043b\u044f\u0440\u044b \u0438 \u043e\u0431\u043d\u0443\u043b\u0438\u043b\u043e \u0438\u0445 \u0441\u0447\u0451\u0442\u0447\u0438\u043a\u0438.\u041f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0434\u0435\u043c\u043e\u043d\u0430 \u0441\u00a0live\u2011restore \u043a\u043e\u043c\u0430\u043d\u0434\u0430\u00a0docker ps\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0430\u00a0Up 46 hours, \u0445\u043e\u0442\u044f \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u0442\u0430\u0440\u0442\u043e\u0432\u0430\u043b\u0438 25\u00a0\u0438\u044e\u043d\u044f. \u0412\u00a0\u044d\u0442\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u044f \u0441\u0432\u0435\u0440\u044f\u043b \u0447\u0435\u0440\u0435\u0437\u00a0docker inspect \u2026 State.StartedAt; \u043a\u043e\u043b\u043e\u043d\u043a\u0430 STATUS \u0432\u0432\u043e\u0434\u0438\u043b\u0430 \u0432\u00a0\u0437\u0430\u0431\u043b\u0443\u0436\u0434\u0435\u043d\u0438\u0435.\u0421\u043d\u0438\u043c\u043e\u043a \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432 \u0441\u0434\u0435\u043b\u0430\u043d 10\u00a0\u0438\u044e\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439\u00a0docker stats &#8212;no-stream; \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u044b \u043f\u0440\u043e\u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u044b. \u041f\u0430\u043c\u044f\u0442\u044c \u0432\u00a0docker stats\u00a0\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 working set, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 CLI, \u0430\u00a0\u043d\u0435\u00a0\u0441\u0443\u043c\u043c\u0443 RSS. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0451 \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0442\u044c \u0441\u00a0MemAvailable.\u041a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0441\u0442\u0435\u043a\u0430 \u0437\u0430\u043d\u044f\u043b\u0438 \u043e\u043a\u043e\u043b\u043e 21\u00a0\u0413\u0438\u0411 \u043f\u0430\u043c\u044f\u0442\u0438.\u0421\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0439 CPU \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043e\u043a\u043e\u043b\u043e 4% \u043f\u043e\u00a0\u0448\u043a\u0430\u043b\u0435 Docker, \u0433\u0434\u0435 100% \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u043e\u0434\u043d\u043e\u043c\u0443 \u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u043c\u0443 CPU. \u0412\u00a0\u044d\u0442\u043e\u043c \u0441\u043d\u0438\u043c\u043a\u0435 \u044d\u0442\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 0,04\u00a0\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0437\u0430\u043d\u044f\u0442\u043e\u0433\u043e \u044f\u0434\u0440\u0430.\u0421\u0440\u0435\u0434\u043d\u0435\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 load average \u0437\u0430\u00a0\u043c\u0438\u043d\u0443\u0442\u0443: 1,49\u00a0\u043f\u0440\u0438 32\u00a0\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0445 CPU. \u042d\u0442\u043e \u0447\u0438\u0441\u043b\u043e runnable\u2011 \u0438 uninterruptible\u2011\u0437\u0430\u0434\u0430\u0447, \u0430\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u0414\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043c\u0435\u0440 \u0447\u0435\u0440\u0435\u0437\u00a0mpstat\u00a0\u044f \u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b.\u042f\u0434\u0440\u043e \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u043b\u043e\u00a098,8\u00a0\u0438\u0437 124,9\u00a0\u0413\u0438\u0411\u00a0\u043a\u0430\u043a\u00a0\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435 \u0431\u0435\u0437\u00a0\u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u0445\u043e\u0434\u0430 \u0432\u00a0swap.\u0412\u00a0\u043f\u0440\u043e\u0441\u0442\u043e\u0435 GPU \u0434\u0435\u0440\u0436\u0430\u043b\u0441\u044f \u043d\u0430 43\u00b0C,\u00a0gpu_busy_percent\u00a0\u0431\u044b\u043b \u0440\u0430\u0432\u0435\u043d 0.\u041c\u0435\u0441\u044f\u0446 \u0440\u0430\u0431\u043e\u0442\u044b \u0443\u0436\u0435 \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u0437\u0430\u00a0\u0440\u0430\u043c\u043a\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0433\u043e smoke\u2011\u0442\u0435\u0441\u0442\u0430, \u043d\u043e\u00a0\u0440\u0430\u0431\u043e\u0442\u043e\u0439 \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0435\u0433\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f: \u0442\u0440\u0430\u0444\u0438\u043a \u0432\u0441\u0451 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f\u00a0\u0431\u044b\u043b \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u043c.\u0417\u0430\u043f\u0430\u0441 \u043f\u043e\u00a0\u043b\u0438\u043c\u0438\u0442\u0430\u043c \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439\u0423\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u0432\u00a0\u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435 \u043f\u0440\u043e\u043f\u0438\u0441\u0430\u043d\u00a0mem_limit. \u042f \u043f\u0440\u043e\u0433\u043d\u0430\u043b 90\u00a0\u0441\u0435\u043a\u0443\u043d\u0434 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 (4\u00a0\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0442\u043e\u043a\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0431\u0430\u0442\u0447\u0430\u043c\u0438 \u043f\u043e 32\u00a0\u043f\u043b\u044e\u0441 2\u00a0\u043f\u043e\u0442\u043e\u043a\u0430 \u0440\u0435\u0440\u0430\u043d\u043a\u0430) \u0438 \u0441\u043d\u044f\u043b\u00a0docker stats\u00a0\u0432\u00a0\u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0435:\u041a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0417\u0430\u043d\u044f\u0442\u043e \/\u00a0\u043b\u0438\u043c\u0438\u0442\u00a0\u043b\u0438\u043c\u0438\u0442\u0430dify\u2011sandbox973\u00a0\u041c\u0438\u0411 \/ 1\u00a0\u0413\u0438\u041195%alloy341\u00a0\u041c\u0438\u0411 \/ 512\u00a0\u041c\u0438\u041167%dify\u2011plugin\u2011daemon1,27\u00a0\u0413\u0438\u0411 \/ 2\u00a0\u0413\u0438\u041164%elasticsearch4,7\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u041158,5%openwebui1,12\u00a0\u0413\u0438\u0411 \/ 2\u00a0\u0413\u0438\u041156%llama\u2011embed (\u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439)1,4\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u041118%llama\u2011rerank (\u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439)0,8\u00a0\u0413\u0438\u0411 \/ 8\u00a0\u0413\u0438\u041110%\u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435\u2014&lt; 55%\u0411\u043b\u0438\u0436\u0435 \u0432\u0441\u0435\u0445 \u043a\u00a0\u0441\u0432\u043e\u0435\u043c\u0443 \u043f\u043e\u0442\u043e\u043b\u043a\u0443 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f dify\u2011sandbox: 95% \u0432\u00a0\u043e\u0434\u043d\u043e\u043c \u0441\u043d\u0438\u043c\u043a\u0435. \u041d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0448\u043b\u0430 \u043d\u0430\u00a0embed\/rerank \u0438 \u043d\u0435\u00a0\u0437\u0430\u0442\u0440\u0430\u0433\u0438\u0432\u0430\u043b\u0430 sandbox. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0435\u0433\u043e\u00a0memory.current,\u00a0memory.peak\u00a0\u0438\u00a0memory.events, \u0430\u00a0\u0437\u0430\u0442\u0435\u043c \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0443 \u0441\u00a0\u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u0434\u0430. \u041e\u0434\u043d\u043e\u0433\u043e \u0441\u043d\u0438\u043c\u043a\u0430 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u0447\u0442\u043e\u0431\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0432\u044b\u0448\u0430\u0442\u044c\u00a0\u043b\u0438\u043c\u0438\u0442.\u041d\u0438\u0437\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u00a0docker stats\u00a0\u0443\u00a0GPU\u2011\u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432 \u043d\u0435\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u044e\u0442 \u043c\u0430\u043b\u044b\u0439 \u0440\u0430\u0441\u0445\u043e\u0434 GPU\u2011\u043f\u0430\u043c\u044f\u0442\u0438. \u041f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 Radeon\u00a0\u0431\u044b\u043b\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u0430 \u043d\u0430 100%, \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u043b\u0430 60\u00b0C, \u0430\u00a0power1_average\u00a0\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u043e\u043a\u043e\u043b\u043e 120\u00a0\u0412\u0442 \u043d\u0430\u00a0\u0443\u0440\u043e\u0432\u043d\u0435 APU\/socket. Docker CLI \u0432\u044b\u0447\u0438\u0442\u0430\u0435\u0442\u00a0inactive_file\u00a0\u0438\u0437\u00a0\u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u043c\u043e\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u0430\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043e\u0431\u044a\u0451\u043c \u0437\u0430\u043d\u044f\u0442 \u0432\u00a0GTT. \u0421\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 cgroup \u0438 GTT \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043e \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e.\u041a\u0430\u043a\u00a0Strix Halo \u043e\u0442\u0434\u0430\u0451\u0442 128\u00a0\u0413\u0411: TTM, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e BIOS\u041a\u043b\u044e\u0447\u0435\u0432\u043e\u0439 \u043c\u043e\u043c\u0435\u043d\u0442, \u0431\u0435\u0437\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434 \u043d\u0435\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0441\u0442\u0438. \u0421\u043d\u0438\u043c\u043e\u043a \u0441\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u0433\u043e Strix\u2011A:MemTotal:     131014476 kB   # 124.9 GiBMemAvailable: 103555740 kB   #  98.8 GiB \u043f\u0440\u0438 34 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0445 \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u0430\u0445mem_info_vram_total:  0.5 GiB   # \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043e \u0432 BIOS (UMA), \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043emem_info_gtt_total: 117.4 GiB   # GTT-\u043f\u0443\u043b, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e GPU \u0431\u0435\u0440\u0451\u0442 \u043f\u0430\u043c\u044f\u0442\u044c117,4\u00a0\u0413\u0438\u0411 \u043d\u0435\u00a0\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435\u043c \u043f\u043e\u00a0\u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e.\u00a0GTT (Graphics Translation Table)\u00a0\u2014 \u043f\u0443\u043b \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0434\u0440\u0430\u0439\u0432\u0435\u0440 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442 \u0434\u043b\u044f\u00a0GPU; \u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u043c TTM, \u043f\u043e\u0434\u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043f\u0430\u043c\u044f\u0442\u0438 GPU \u0432\u00a0\u044f\u0434\u0440\u0435 Linux. \u0411\u0435\u0437\u00a0\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0440\u0430\u0437\u043c\u0435\u0440 GTT \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0435 \u043e\u0431\u044b\u0447\u043d\u043e \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u043e\u0439 \u043f\u0430\u043c\u044f\u0442\u0438. \u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u00a0ttm.pages_limit=30788203\u00a0\u0437\u0430\u0434\u0430\u0451\u0442 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0445 \u0441\u0442\u0440\u0430\u043d\u0438\u0446, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 TTM \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u043e\u0431\u0440\u0430\u0437\u0438\u0442\u044c \u0434\u043b\u044f\u00a0GPU. \u041d\u0430\u0448\u0430 Ansible\u2011\u0440\u043e\u043b\u044c \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u0435\u0442 \u0435\u0433\u043e \u043a\u0430\u043a 94% RAM; \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u00a0mem_info_gtt_total.AMD \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442 \u0434\u043b\u044f\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e GPU\u2011\u043f\u0443\u043b\u0430 \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0443\u044e \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u043d\u0443\u044e \u0432\u00a0BIOS \u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0442\u044c\u00a0pages_limit. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u043d\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u044f\u0434\u0440\u0430:$ cat \/proc\/cmdline&#8230; amd_iommu=off ttm.pages_limit=30788203 ttm.page_pool_size=30788203 zswap.enabled=0 &#8230;ttm.page_pool_size\u00a0\u0443\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442 \u043a\u044d\u0448\u0438\u0440\u0443\u044e\u0449\u0438\u043c \u043f\u0443\u043b\u043e\u043c WC\/UC\/DMA\u2011\u0441\u0442\u0440\u0430\u043d\u0438\u0446 TTM \u0438 \u043d\u0435\u00a0\u0437\u0430\u0434\u0430\u0451\u0442 \u0440\u0430\u0437\u043c\u0435\u0440 GTT. \u0412\u00a0\u043d\u0430\u0448\u0435\u0439 \u0440\u043e\u043b\u0438 \u043e\u043d \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0442\u0435\u043c\u00a0\u0436\u0435 \u0447\u0438\u0441\u043b\u043e\u043c, \u043d\u043e\u00a0\u044d\u0442\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430. \u0422\u043e\u00a0\u0436\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0zswap.enabled=0\u00a0\u0438\u00a0amd_iommu=off.\u041e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 IOMMU \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430\u00a0DMA\u2011\u0438\u0437\u043e\u043b\u044f\u0446\u0438\u044e \u0438 \u0432\u0438\u0440\u0442\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u043e\u0442 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u043d\u0435\u043b\u044c\u0437\u044f \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u0442\u044c \u043d\u0430\u00a0\u0445\u043e\u0441\u0442 \u0441\u00a0\u0432\u0438\u0440\u0442\u0443\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u043c\u0430\u0448\u0438\u043d\u0430\u043c\u0438 \u0438\u043b\u0438\u00a0PCI passthrough. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u044d\u0444\u0444\u0435\u043a\u0442 \u043e\u0442\u00a0\u043d\u0435\u0433\u043e \u043d\u0430\u00a0\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u044d\u0442\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434\u0430 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u0441\u044f. \u0414\u043b\u044f\u00a0\u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e GTT \u0438\u0437\u00a0\u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u0435\u043d \u0442\u043e\u043b\u044c\u043a\u043e\u00a0pages_limit; \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043d\u0435\u00a0\u043e\u0431\u0440\u0430\u0437\u0443\u044e\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0441\u0435\u0442\u0430.CPU\u2011\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u0438 GPU\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043e\u0434\u0438\u043d \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0443\u043b \u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0438\u0440\u0443\u044e\u0442 \u043a\u0430\u043a\u00a0\u0437\u0430\u00a0\u043e\u0431\u044a\u0451\u043c, \u0442\u0430\u043a \u0438 \u0437\u0430\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u0438.\u00a0MemAvailable\u00a0\u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0435\u0442, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043c\u043e\u0436\u0435\u0442 \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c \u0431\u0435\u0437\u00a0\u0430\u043a\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0443\u0445\u043e\u0434\u0430 \u0432\u00a0swap; \u044d\u0442\u043e \u043d\u0435\u00a0\u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043a\u0432\u043e\u0442\u0430 \u0434\u043b\u044f\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0432\u044b\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043f\u0430\u043c\u044f\u0442\u0438 GPU. \u041d\u0430\u00a0\u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u043d\u0438\u043c\u043a\u0430 \u0443\u00a0\u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u043d\u043e\u0433\u043e \u0441\u0442\u0435\u043a\u0430 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0441\u044f \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0437\u0430\u043f\u0430\u0441 \u043e\u0431\u0449\u0435\u0439 \u043f\u0430\u043c\u044f\u0442\u0438.\u041a\u0430\u043a\u00a0\u0437\u0430\u0432\u0451\u043b\u0441\u044f GPU: RADV \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439, ROCm \u0437\u0430\u043f\u0430\u0441\u043d\u043e\u0439\u041d\u0430\u00a0Spark \u043c\u044b\u00a0\u0431\u044b\u043b\u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u044b \u043a\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0432\u0435\u0442\u043a\u0435 \u043f\u0440\u043e\u043f\u0440\u0438\u0435\u0442\u0430\u0440\u043d\u043e\u0433\u043e \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u0430; \u044d\u0442\u0443 \u0438\u0441\u0442\u043e\u0440\u0438\u044e \u044f \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u043b \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e. \u041d\u0430\u00a0Strix Halo \u0432\u043e\u043f\u0440\u043e\u0441 \u0441\u0442\u043e\u044f\u043b \u0438\u043d\u0430\u0447\u0435: \u043a\u0430\u043a\u043e\u0439 GPU\u2011\u043f\u0443\u0442\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d \u0434\u043b\u044f\u00a0\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430.\u0414\u043b\u044f\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u043e\u0432 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c \u043f\u0443\u0442\u0451\u043c \u0441\u0442\u0430\u043b Vulkan \u0447\u0435\u0440\u0435\u0437 RADV. \u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 Mesa\u2011\u0434\u0440\u0430\u0439\u0432\u0435\u0440 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u044b\u043c\u00a0apt upgrade:Available: [&#8216;vulkan&#8217;, &#8216;rocm&#8217;, &#8216;cpu&#8217;]Selected:  vulkan \/ llama_cppDevice:    AMD Radeon 8060S (Strix Halo, gfx1151)Memory:    117.4 GiB  driver_id: DRIVER_ID_MESA_RADV     mesa_version: 25.2.8  cooperative_matrix: True           is_strix_halo: True  engine_implementation: llama-cpp-python (GGML_VULKAN)cooperative_matrix: True\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0438 \u0441\u0431\u043e\u0440\u043a\u0430 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 llama.cpp \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0448\u0435\u0439\u0434\u0435\u0440\u044b cooperative matrix. \u0420\u0430\u0437\u043d\u0438\u0446\u0443 \u0441\u00a0\u043e\u0442\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u044b\u043c \u043f\u0443\u0442\u0451\u043c \u044f \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u044d\u0442\u0430 \u0441\u0442\u0440\u043e\u043a\u0430 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442 \u043d\u0430\u043b\u0438\u0447\u0438\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438, \u0430\u00a0\u043d\u0435\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442. \u0417\u0430\u00a0\u0432\u0440\u0435\u043c\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0443\u0437\u043b\u043e\u0432 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c Mesa \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0439 \u0432\u0435\u0440\u0441\u0438\u0438 \u043d\u0435\u00a0\u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c.ROCm \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d \u043a\u0430\u043a\u00a0\u0437\u0430\u043f\u0430\u0441\u043d\u043e\u0439 \u043f\u0443\u0442\u044c. AMD \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0432\u043a\u043b\u044e\u0447\u0438\u043b\u0430 gfx1151\u00a0\u0438 Ryzen AI Max+ 395\u00a0\u0432\u00a0\u043c\u0430\u0442\u0440\u0438\u0446\u0443 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0438 ROCm \u0434\u043b\u044f\u00a0Ryzen \u043d\u0430\u0447\u0438\u043d\u0430\u044f \u0441 6.4.4. \u0422\u0435\u043a\u0443\u0449\u0430\u044f \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u0442 ROCm 7.2.1\u00a0\u043d\u0430\u00a0Ubuntu 24.04\u00a0\u0441\u00a0\u044f\u0434\u0440\u0430\u043c\u0438, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u043c\u0438 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u044b\u0435 KFD\u2011\u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f.\u041d\u0430\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u0430\u0445 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0437\u0434\u043d\u0438\u0439 \u043f\u0430\u043a\u0435\u0442 7.2.3\u00a0\u0438\u0437\u00a0\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f, \u0438 \u044d\u0442\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e. gfx1151\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442\u0441\u044f \u0448\u0442\u0430\u0442\u043d\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443\u00a0HSA_OVERRIDE_GFX_VERSION\u00a0\u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f. \u042d\u0442\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0441\u0442\u0435\u043d\u0434\u0430, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0435\u0449\u0430\u043d\u0438\u0435 \u0434\u043b\u044f\u00a0\u043b\u044e\u0431\u043e\u0433\u043e \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432\u0430.\u0422\u0440\u0438 \u0433\u0440\u0430\u0431\u043b\u0438 gfx11511. ROCm \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0442\u043e\u0447\u043d\u043e\u0433\u043e \u0441\u043e\u0447\u0435\u0442\u0430\u043d\u0438\u044f \u0432\u0435\u0440\u0441\u0438\u0439.\u00a0\u041d\u0430\u00a0\u043d\u0430\u0448\u0438\u0445 \u0443\u0437\u043b\u0430\u0445 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f: Ubuntu 24.04.4, HWE\u2011\u044f\u0434\u0440\u043e 6.17.0\u201335, ROCm 7.2.3\u00a0\u0438 \u043f\u0430\u043a\u0435\u0442\u00a0linux-firmware 20240318.git3b128b60-0ubuntu2.27.\u0421\u0447\u0438\u0442\u0430\u0442\u044c \u0435\u0451&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-487077","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/487077","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=487077"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/487077\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=487077"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=487077"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=487077"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}