{"id":486054,"date":"2026-07-03T10:14:43","date_gmt":"2026-07-03T10:14:43","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=486054"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=486054","title":{"rendered":"\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c LLM \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0435 \u0438\u0437 4 GPU"},"content":{"rendered":"
\n

\u0412 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0432\u0441\u0435 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a LLM. \u0423 \u043a\u0430\u0436\u0434\u043e\u0433\u0433 \u0441\u0432\u043e\u0438 \u043f\u0440\u0438\u0447\u0438\u043d\u044b, \u043d\u043e \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u044d\u0442\u043e: \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0441 \u0437\u0430\u043f\u0430\u0434\u043d\u044b\u043c\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c\u0438, \u043d\u0435\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442 \u0438 \u0443\u0442\u0435\u0447\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 \u0434\u043e\u0441\u0442\u0443\u043f (\u043f\u0440\u0435\u0446\u0435\u043d\u0434\u0435\u043d\u0442\u044b \u0443\u0436\u0435 \u0431\u044b\u043b\u0438).<\/p>\n

\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b LLM \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u043a\u0430\u043a\u0438\u0435 \u0442\u043e\u043d\u043a\u043e\u0441\u0442\u0438 \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0435. \u0420\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0435\u0439 \u0441\u0431\u043e\u0440\u043a\u0438 \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u0443\u044e \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0436\u0435\u043b\u0435\u0437\u0430. \u0422\u0430\u043a\u0436\u0435 \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u0443\u044e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u044b \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 MoE LLM, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442 \u0433\u0443\u0433\u043b\u0430 \u0438 ChatGPT. \u041f\u043e \u043f\u043e\u0432\u043e\u0434\u0443 \u0446\u0435\u043b\u0435\u0441\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0445 \u0441\u0431\u043e\u0440\u043e\u043a \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0442 \u0441\u0430\u043c \u0438\u0441\u0445\u043e\u0434\u044f \u0438\u0437 \u0441\u0432\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u0444\u0438\u043d\u0430\u043d\u0441\u043e\u0432\u044b\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432.<\/p>\n

\u041d\u0430 \u0445\u0430\u0431\u0440\u0435 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u0440\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a LLM \u043d\u0430 \u0441\u0431\u043e\u0440\u043a\u0430\u0445 \u0438\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 GPU<\/p>\n

\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0418\u0418: \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u043f\u043b\u0430\u0442\u0430+ 3 RTX 3090<\/a> \u0422\u0443\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u044b GPT-oss-120B \u043e\u043a\u043e\u043b\u043e 100 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. <\/p>\n

\u041a\u0430\u043a \u044f \u0441\u043e\u0431\u0440\u0430\u043b LLM-\u043f\u0435\u0447\u043a\u0443 \u043d\u0430 4 GPU \u0438 \u043d\u0430 \u0447\u0442\u043e \u043e\u043d\u0430 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u0430<\/a>. \u0422\u0443\u0442 4 \u043a\u0430\u0440\u0442\u044b 3090 \u043d\u0430 \u0438\u0433\u0440\u043e\u0432\u043e\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 55\u0442\/\u0441\u0435\u043a \u043d\u0430 Qwen-35B-a3b-Q8 \u0438 19 \u0442\/\u0441\u0435\u043a \u043d\u0430 Qwen 122B-Q5 \u043f\u0440\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430\u0445.<\/p>\n

\u0422\u0435\u043c\u043d\u044b\u0435 \u043b\u043e\u0448\u0430\u0434\u043a\u0438 \u0418\u0418 — \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 LLM \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0445 Nvidia CMP40HX, CMP50HX, CMP90HX<\/a> \u0422\u0443\u0442 cmp50hx+cmp90hx \u043e\u0431\u043e\u0433\u043d\u0430\u043b\u0438 \u043e\u0434\u043d\u0443 rtx3060 12g \u0432 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 gpt-oss 20b. 55\u0442\/c \u043f\u0440\u043e\u0442\u0438\u0432 19 \u0442\/\u0441<\/p>\n

\u0412 \u044d\u0442\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u0438\u0433\u0440\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445 \u043b\u0438\u0431\u043e \u0438\u0433\u0440\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445. \u042f \u0436\u0435 \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445. \u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0435.<\/p>\n

\u041f\u0435\u0440\u0435\u0439\u0434\u0435\u043c \u043a \u0436\u0435\u043b\u0435\u0437\u0443: \u0443 \u043c\u0435\u043d\u044f \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u0430\u044f \u0444\u0435\u0440\u043c\u0430 \u0438\u0437 2016 \u0433\u043e\u0434\u0430. \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 5 \u043b\u0435\u0442 \u0442\u0430\u043a\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u043f\u0440\u043e\u0434\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0431\u0430\u0440\u0430\u0445\u043e\u043b\u043a\u0430\u0445 \u043f\u043e \u0446\u0435\u043d\u0435 10-20% \u043e\u0442 \u0446\u0435\u043d\u044b \u0432 2016 \u0433\u043e\u0434\u0443.<\/p>\n

\"\u043c\u0430\u0442\u0435\u0440\u0438\u043d\u0441\u043a\u0430\u044f<\/p>\n
\u043c\u0430\u0442\u0435\u0440\u0438\u043d\u0441\u043a\u0430\u044f \u043f\u043b\u0430\u0442\u0430:H510 Pro BTC<\/em>+. \u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b: 3 \u0448\u0442\u0443\u043a\u0438 p106-100 \u0438 \u043e\u0434\u043d\u0430 p104-100 (\u043a\u0430\u0436\u0434\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u043f\u043e 1000-2000\u0440\u0443\u0431 \u043d\u0430 \u0430\u0432\u0438\u0442\u043e). \u041a\u043e\u0440\u043f\u0443\u0441 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0439 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043d\u0435 \u043f\u043e\u043c\u043d\u044e. \u041f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 i3-10100 , \u041e\u0417\u0423 32\u0413\u0411 ddr3 \u043a\u0430\u0436\u0435\u0442\u0441\u044f. ssd 1tb. \u041a\u043e\u043b\u0435\u0441\u0438\u043a\u0438 \u0434\u043b\u044f \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u0438\u0437 \u043b\u0435\u0440\u0443\u0430. \u041a\u0443\u043b\u0435\u0440\u044b 5 \u0448\u0442 \u0441 \u0440\u0443\u0447\u043d\u043e\u0439 \u0440\u0435\u0433\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u043e\u0439 \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f.<\/figcaption><\/div>\n<\/figure>\n

\u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0440\u0430\u0431\u043e\u0442\u044b:<\/p>\n

    \n
  1. \n

    \u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0432\u0438\u043d\u0434\u043e\u0432\u0441<\/p>\n<\/li>\n

  2. \n

    \u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u043d\u0435\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u0432 \u043f\u043e\u0434 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b (\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0443 \u043d\u0432\u0438\u0434\u0438\u0430 \u043d\u0435\u0442 \u0434\u043b\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u0430\u0445 \u043a\u0430\u0440\u0442 \u043f\u043e\u0434 \u0432\u0438\u043d\u0434\u0443)<\/p>\n<\/li>\n

  3. \n

    \u0423\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u043c LM studio \u043b\u0438\u0431\u043e Kubold.ccp (\u0441\u0442\u0430\u0440\u044b\u0435 gpu \u0441 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 pascal \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0447\u0443\u0442\u044c \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0432 Kubold, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0441\u0435 \u0442\u0435\u0441\u0442\u044b \u044f \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b \u0442\u0430\u043c)<\/p>\n<\/li>\n

  4. \n

    \u041f\u0440\u044f\u043c\u043e \u0432 LM studio \u043d\u0430\u0445\u043e\u0434\u0438\u043c \u0438 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u043d\u0443\u0436\u043d\u044b\u0435 LLM. \u042f \u0441\u043a\u0430\u0447\u0430\u043b gemma-4-26B-A4B-it-QAT-GGUF \u0432 Q4 Qwen3.6-35B-A3B-GGUF \u0442\u043e\u0436\u0435 \u0432 Q4 \u0438 \u0435\u0449\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e.<\/p>\n<\/li>\n<\/ol>\n

    \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c gemma 26B \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 GPU p106-100 \u0447\u0442\u043e\u0431\u044b \u0431\u044b\u043b\u043e \u043e\u0442 \u0447\u0435\u0433\u043e \u043e\u0442\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f.<\/p>\n

    \"\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c<\/p>\n
    \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 11,52 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u0415\u0441\u043b\u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u0447\u0438\u0442\u0430\u0435\u0442 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0441\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e 5-10 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u0442\u043e \u044d\u0442\u0438\u043c \u0443\u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f. \u0412\u0441\u0435, \u0447\u0442\u043e \u043d\u0438\u0436\u0435 10 \u0443\u0436\u0435 \u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043c\u0443\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u043e\u043b\u0433\u043e \u0434\u043b\u044f \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430.<\/figcaption><\/div>\n<\/figure>\n

    \u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043d\u0430 \u0434\u0432\u0443\u0445 GPU p106-100. Gemma 26B \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 14 \u0433\u0431 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 2 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u043f\u043e 6\u0433\u0431 \u043e\u043d\u0430 \u043d\u0435 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f. \u0427\u0430\u0441\u0442\u044c \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u0432 \u041e\u0417\u0423.<\/p>\n

    \"\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c<\/p>\n
    \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c 9,67 \u0442\/\u0441 \u0447\u0442\u043e \u043d\u0438\u0436\u0435, \u0447\u0435\u043c \u0441 \u043e\u0434\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u043e\u0439. \u0420\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 LLM \u043f\u043e \u0434\u0432\u0443\u043c GPU \u0438 \u041e\u0417\u0423 \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0445\u0443\u0436\u0435, \u0447\u0435\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u0439 \u0436\u0435 LLM \u043c\u0435\u0436\u0434\u0443 \u043e\u0434\u043d\u0438\u043c GPU \u0438 \u041e\u0417\u0423.<\/figcaption><\/div>\n<\/figure>\n

    \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043d\u0430 3 p106-100. \u041d\u0430 \u0434\u0435\u0444\u0444\u043e\u043b\u0442\u043d\u044b\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u0445 14 \u0433\u0431 gemma \u043d\u0435 \u0443\u043c\u0435\u0448\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u0440\u0435\u0445 \u043a\u0430\u0440\u0442\u0430\u0445 \u043f\u043e 6 \u0433\u0431, \u043d\u043e \u0441 \u0440\u0443\u0447\u043d\u044b\u043c\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u0443\u043c\u0435\u0441\u0442\u0438\u0442\u044c.<\/p>\n

    \"\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c<\/p>\n
    \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 12.16 \u0442\/c \u0435\u0441\u043b\u0438 \u043d\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c LLM \u043f\u043e \u0442\u0440\u0435\u043c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0438 \u0438 19,11 \u0442\/c \u0435\u0441\u043b\u0438 \u0443\u043c\u0435\u0441\u0442\u0438\u0442\u044c LLM \u0432 GPU<\/figcaption><\/div>\n<\/figure>\n

    \u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0434\u0430\u0435\u0442 \u043d\u0430\u043c \u0442\u0435 \u0436\u0435 19-20 \u0442\/\u0441, \u043d\u043e LLM \u0443\u0436\u0435 \u043f\u043e \u0434\u0435\u0444\u043e\u043b\u0442\u0443 \u0443\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u0418 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0442\u044c, \u043e\u043d \u0432 kubold 12000 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e.<\/p>\n

    \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043a\u0430\u0440\u0442\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u0441\u0442\u0430\u0431\u0438\u043d\u044c\u043d\u043e, \u0432\u044b\u0434\u0430\u0432\u0430\u044f \u0442\u043e 20, \u0442\u043e 15, \u0442\u043e 10 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443.<\/p>\n

    \"\u043d\u0430<\/p>\n
    \u043d\u0430 \u0434\u0432\u0443\u0445 \u0432\u0435\u0440\u0445\u043d\u0438\u0445 \u0433\u0440\u0430\u0444\u0438\u043a\u0430\u0445 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043a\u0430\u0440\u0442\u044b \u0441\u043a\u0438\u0434\u044b\u0432\u0430\u044e\u0442 \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u043f\u043e \u043d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e\u0439 \u043f\u0440\u0438\u0447\u0438\u043d\u0435. \u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0432 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0434\u043b\u044f\u0435\u0442\u0441\u044f.<\/figcaption><\/div>\n<\/figure>\n

    \u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u0436\u0435\u0441\u0442\u043a\u043e \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u043a\u0430\u0440\u0442 \u0447\u0435\u0440\u0435\u0437 MSI afterburner.<\/p>\n

    \"\u044d\u0442\u043e<\/p>\n
    \u044d\u0442\u043e \u043c\u043e\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u043e \u0440\u0430\u0437\u0433\u043e\u043d\u0443 gpu \u0432 msi afterburner<\/figcaption><\/div>\n<\/figure>\n

    \u0412 \u0438\u0442\u043e\u0433\u0435 gemma26B \u0432 Q4 c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 12000 \u0432\u044b\u0434\u0430\u0435\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0435 19-20 \u0442\/\u0441 \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 GPU.<\/p>\n

    \u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0442\u0443\u0442 \u0437\u0430\u043f\u0443\u0441\u043a gemma4 26b \u043d\u0430 4 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 GPU cmp50hx \u0447\u0435\u0440\u0435\u0437 \u0440\u0430\u0439\u0437\u0435\u0440\u044b. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c 22\u0442\/c:( https:\/\/youtube.com\/watch?v=tqaw5HJMFxU&si=lU5Rn-nQrGVvFzuY<\/a> Gemma 4 26\u0412 \u0438 31\u0412 \u043d\u0430 2\u0445 \u0421\u041c\u0420 50\u041d\u0425: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\/\u0441\u0435\u043a \u0432\u044b\u0436\u043c\u0435\u0442 \u043c\u0430\u0439\u043d\u0438\u043d\u0433-\u043a\u0430\u0440\u0442\u0430? )<\/p>\n

    Qwen3.6-35B-A3B \u0432Q4 \u0432\u044b\u0434\u0430\u0435\u0442 \u0443 \u043c\u0435\u043d\u044f \u0442\u0435 \u0436\u0435 19-20 \u0442\/\u0441 c \u0442\u0430\u043a\u0438\u043c \u0436\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c.<\/p>\n

    \u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f: \u0442\u043e\u0442 \u0436\u0435 qwen35b \u0432\u044b\u0434\u0430\u0435\u0442 27 \u0442\/\u0441 \u043d\u0430 3060 12 \u0433\u0431 \u043d\u0430 \u0434\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u0445 LM studio. ( \u0438\u043d\u0444\u0430 \u043e\u0442\u0441\u044e\u0434\u0430: https:\/\/youtube.com\/watch?v=QxpRuOAw-BE&si=7nQsYeg8sJtv-f96<\/a> )<\/p>\n

    MiniPC \u0441 AMD AI395+ 128\u0433\u0431 \u041e\u0417\u0423 \u0441 qwen35b \u0432\u044b\u0434\u0430\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 60 \u0442\/c <\/p>\n

    \u041d\u0443 \u0438 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0442\u0435\u0441\u0442\u0438\u043c GPT-oss 20B: \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f 25\u0442\/\u0441 \u0441 \u0442\u0435\u043c \u0436\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 12288<\/p>\n

    \u0412\u044b\u0432\u043e\u0434\u044b:<\/strong><\/p>\n

      \n
    1. \n

      \u0412\u0441\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0444\u0435\u0440\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0441\u043e\u0431\u0438\u0440\u0430\u043b \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0438\u0434\u0435\u043b \u0432 \u0441\u0435\u0442\u0438 \u0432\u044b\u0434\u0430\u0432\u0430\u043b\u0438 15-20 \u0442\/\u0441. \u0415\u0441\u043b\u0438 \u0412\u0430\u0441 \u0442\u0430\u043a\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0443\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442-\u0442\u043e \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c LLM \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0430\u0445.<\/p>\n<\/li>\n

    2. \n

      \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 20-40B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043e\u0441\u043e\u0431\u043e\u0433\u043e \u0441\u043c\u044b\u0441\u043b\u0430 \u043d\u0430 \u0444\u0435\u0440\u043c\u0430\u0445. \u041e\u0431\u044b\u0447\u043d\u044b\u0435 \u0438\u0433\u0440\u043e\u0432\u044b\u0435 \u041f\u041a \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0430\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0432\u044b\u0448\u0435 15-20 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u043b\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a\u0443\u044e \u0436\u0435.<\/p>\n<\/li>\n

    3. \n

      \u0417\u0430\u043f\u0443\u0441\u043a \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u0431\u043e\u043b\u0435\u0435 100 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432( \u0442\u0438\u043f\u0430 Qwen122B 75GB \u0438\u043b\u0438 gpt-oss120B 63GB) \u043c\u043e\u0436\u0435\u0442 \u0438\u043c\u0435\u0442\u044c \u0441\u043c\u044b\u0441\u043b \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0430\u0445. \u0415\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u0443\u0436\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b-\u043f\u043e\u0436\u0430\u043b\u0443\u0439\u0441\u0442\u0430 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u0435\u0441\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0445.<\/p>\n<\/li>\n<\/ol>\n<\/div>\n

      \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/1055222\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

      \u0412 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0435 \u0432\u0440\u0435\u043c\u044f \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0432\u0441\u0435 \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a LLM. \u0423 \u043a\u0430\u0436\u0434\u043e\u0433\u0433 \u0441\u0432\u043e\u0438 \u043f\u0440\u0438\u0447\u0438\u043d\u044b, \u043d\u043e \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u044d\u0442\u043e: \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0441 \u0437\u0430\u043f\u0430\u0434\u043d\u044b\u043c\u0438 \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c\u0438, \u043d\u0435\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442 \u0438 \u0443\u0442\u0435\u0447\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 \u0434\u043e\u0441\u0442\u0443\u043f (\u043f\u0440\u0435\u0446\u0435\u043d\u0434\u0435\u043d\u0442\u044b \u0443\u0436\u0435 \u0431\u044b\u043b\u0438).\u0412 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u044f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043a\u0430\u043a \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b LLM \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u043a\u0430\u043a\u0438\u0435 \u0442\u043e\u043d\u043a\u043e\u0441\u0442\u0438 \u0435\u0441\u0442\u044c \u043f\u0440\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0435. \u0420\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0435\u0439 \u0441\u0431\u043e\u0440\u043a\u0438 \u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u0443\u044e \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0436\u0435\u043b\u0435\u0437\u0430. \u0422\u0430\u043a\u0436\u0435 \u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u0443\u044e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u044b \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c\u0438 MoE LLM, \u0432\u043a\u043b\u044e\u0447\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442 \u0433\u0443\u0433\u043b\u0430 \u0438 ChatGPT. \u041f\u043e \u043f\u043e\u0432\u043e\u0434\u0443 \u0446\u0435\u043b\u0435\u0441\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0445 \u0441\u0431\u043e\u0440\u043e\u043a \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0442 \u0441\u0430\u043c \u0438\u0441\u0445\u043e\u0434\u044f \u0438\u0437 \u0441\u0432\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u0444\u0438\u043d\u0430\u043d\u0441\u043e\u0432\u044b\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432.\u041d\u0430 \u0445\u0430\u0431\u0440\u0435 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u0440\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0437\u0430\u043f\u0443\u0441\u043a LLM \u043d\u0430 \u0441\u0431\u043e\u0440\u043a\u0430\u0445 \u0438\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 GPU\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0418\u0418: \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u043f\u043b\u0430\u0442\u0430+ 3 RTX 3090 \u0422\u0443\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u044b GPT-oss-120B \u043e\u043a\u043e\u043b\u043e 100 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u041a\u0430\u043a \u044f \u0441\u043e\u0431\u0440\u0430\u043b LLM-\u043f\u0435\u0447\u043a\u0443 \u043d\u0430 4 GPU \u0438 \u043d\u0430 \u0447\u0442\u043e \u043e\u043d\u0430 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u0430. \u0422\u0443\u0442 4 \u043a\u0430\u0440\u0442\u044b 3090 \u043d\u0430 \u0438\u0433\u0440\u043e\u0432\u043e\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 55\u0442\/\u0441\u0435\u043a \u043d\u0430 Qwen-35B-a3b-Q8 \u0438 19 \u0442\/\u0441\u0435\u043a \u043d\u0430 Qwen 122B-Q5 \u043f\u0440\u0438 \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430\u0445.\u0422\u0435\u043c\u043d\u044b\u0435 \u043b\u043e\u0448\u0430\u0434\u043a\u0438 \u0418\u0418 — \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 LLM \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0445 Nvidia CMP40HX, CMP50HX, CMP90HX \u0422\u0443\u0442 cmp50hx+cmp90hx \u043e\u0431\u043e\u0433\u043d\u0430\u043b\u0438 \u043e\u0434\u043d\u0443 rtx3060 12g \u0432 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 gpt-oss 20b. 55\u0442\/c \u043f\u0440\u043e\u0442\u0438\u0432 19 \u0442\/\u0441\u0412 \u044d\u0442\u0438\u0445 \u0441\u0442\u0430\u0442\u044c\u044f\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u0438\u0433\u0440\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445 \u043b\u0438\u0431\u043e \u0438\u0433\u0440\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445. \u042f \u0436\u0435 \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0435 GPU \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0430\u0445. \u0422\u043e \u0435\u0441\u0442\u044c \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u0439 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0435.\u041f\u0435\u0440\u0435\u0439\u0434\u0435\u043c \u043a \u0436\u0435\u043b\u0435\u0437\u0443: \u0443 \u043c\u0435\u043d\u044f \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u0430\u044f \u0444\u0435\u0440\u043c\u0430 \u0438\u0437 2016 \u0433\u043e\u0434\u0430. \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 5 \u043b\u0435\u0442 \u0442\u0430\u043a\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u043f\u0440\u043e\u0434\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0431\u0430\u0440\u0430\u0445\u043e\u043b\u043a\u0430\u0445 \u043f\u043e \u0446\u0435\u043d\u0435 10-20% \u043e\u0442 \u0446\u0435\u043d\u044b \u0432 2016 \u0433\u043e\u0434\u0443.\u043c\u0430\u0442\u0435\u0440\u0438\u043d\u0441\u043a\u0430\u044f \u043f\u043b\u0430\u0442\u0430:H510 Pro BTC+. \u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b: 3 \u0448\u0442\u0443\u043a\u0438 p106-100 \u0438 \u043e\u0434\u043d\u0430 p104-100 (\u043a\u0430\u0436\u0434\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u043f\u043e 1000-2000\u0440\u0443\u0431 \u043d\u0430 \u0430\u0432\u0438\u0442\u043e). \u041a\u043e\u0440\u043f\u0443\u0441 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0439 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043d\u0435 \u043f\u043e\u043c\u043d\u044e. \u041f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 i3-10100 , \u041e\u0417\u0423 32\u0413\u0411 ddr3 \u043a\u0430\u0436\u0435\u0442\u0441\u044f. ssd 1tb. \u041a\u043e\u043b\u0435\u0441\u0438\u043a\u0438 \u0434\u043b\u044f \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u0438\u0437 \u043b\u0435\u0440\u0443\u0430. \u041a\u0443\u043b\u0435\u0440\u044b 5 \u0448\u0442 \u0441 \u0440\u0443\u0447\u043d\u043e\u0439 \u0440\u0435\u0433\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u043e\u0439 \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u0432\u0440\u0430\u0449\u0435\u043d\u0438\u044f.\u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0440\u0430\u0431\u043e\u0442\u044b:\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0432\u0438\u043d\u0434\u043e\u0432\u0441\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u043d\u0435\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0434\u0440\u0430\u0439\u0432\u0435\u0440\u043e\u0432 \u043f\u043e\u0434 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b (\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0443 \u043d\u0432\u0438\u0434\u0438\u0430 \u043d\u0435\u0442 \u0434\u043b\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u0430\u0445 \u043a\u0430\u0440\u0442 \u043f\u043e\u0434 \u0432\u0438\u043d\u0434\u0443)\u0423\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u043c LM studio \u043b\u0438\u0431\u043e Kubold.ccp (\u0441\u0442\u0430\u0440\u044b\u0435 gpu \u0441 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 pascal \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0447\u0443\u0442\u044c \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0432 Kubold, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u0441\u0435 \u0442\u0435\u0441\u0442\u044b \u044f \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b \u0442\u0430\u043c)\u041f\u0440\u044f\u043c\u043e \u0432 LM studio \u043d\u0430\u0445\u043e\u0434\u0438\u043c \u0438 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u043c \u043d\u0443\u0436\u043d\u044b\u0435 LLM. \u042f \u0441\u043a\u0430\u0447\u0430\u043b gemma-4-26B-A4B-it-QAT-GGUF \u0432 Q4 Qwen3.6-35B-A3B-GGUF \u0442\u043e\u0436\u0435 \u0432 Q4 \u0438 \u0435\u0449\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e.\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c gemma 26B \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 GPU p106-100 \u0447\u0442\u043e\u0431\u044b \u0431\u044b\u043b\u043e \u043e\u0442 \u0447\u0435\u0433\u043e \u043e\u0442\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c\u0441\u044f.\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 11,52 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u0415\u0441\u043b\u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c, \u0447\u0442\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u0447\u0438\u0442\u0430\u0435\u0442 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0441\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e 5-10 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u0442\u043e \u044d\u0442\u0438\u043c \u0443\u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f. \u0412\u0441\u0435, \u0447\u0442\u043e \u043d\u0438\u0436\u0435 10 \u0443\u0436\u0435 \u043a\u0430\u0436\u0435\u0442\u0441\u044f \u043c\u0443\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u043e\u043b\u0433\u043e \u0434\u043b\u044f \u0441\u0440\u0435\u0434\u043d\u0435\u0433\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430.\u0422\u0435\u043f\u0435\u0440\u044c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043d\u0430 \u0434\u0432\u0443\u0445 GPU p106-100. Gemma 26B \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u043e\u0440\u044f\u0434\u043a\u0430 14 \u0433\u0431 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 2 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u043f\u043e 6\u0433\u0431 \u043e\u043d\u0430 \u043d\u0435 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f. \u0427\u0430\u0441\u0442\u044c \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u0432 \u041e\u0417\u0423.\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c 9,67 \u0442\/\u0441 \u0447\u0442\u043e \u043d\u0438\u0436\u0435, \u0447\u0435\u043c \u0441 \u043e\u0434\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u043e\u0439. \u0420\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 LLM \u043f\u043e \u0434\u0432\u0443\u043c GPU \u0438 \u041e\u0417\u0423 \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0445\u0443\u0436\u0435, \u0447\u0435\u043c \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u0439 \u0436\u0435 LLM \u043c\u0435\u0436\u0434\u0443 \u043e\u0434\u043d\u0438\u043c GPU \u0438 \u041e\u0417\u0423.\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u043d\u0430 3 p106-100. \u041d\u0430 \u0434\u0435\u0444\u0444\u043e\u043b\u0442\u043d\u044b\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u0445 14 \u0433\u0431 gemma \u043d\u0435 \u0443\u043c\u0435\u0448\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u0440\u0435\u0445 \u043a\u0430\u0440\u0442\u0430\u0445 \u043f\u043e 6 \u0433\u0431, \u043d\u043e \u0441 \u0440\u0443\u0447\u043d\u044b\u043c\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c\u0438 \u043c\u043e\u0436\u043d\u043e \u0443\u043c\u0435\u0441\u0442\u0438\u0442\u044c.\u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c 12.16 \u0442\/c \u0435\u0441\u043b\u0438 \u043d\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c LLM \u043f\u043e \u0442\u0440\u0435\u043c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0438 \u0438 19,11 \u0442\/c \u0435\u0441\u043b\u0438 \u0443\u043c\u0435\u0441\u0442\u0438\u0442\u044c LLM \u0432 GPU\u0414\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b \u0434\u0430\u0435\u0442 \u043d\u0430\u043c \u0442\u0435 \u0436\u0435 19-20 \u0442\/\u0441, \u043d\u043e LLM \u0443\u0436\u0435 \u043f\u043e \u0434\u0435\u0444\u043e\u043b\u0442\u0443 \u0443\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b. \u0418 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u0442\u044c, \u043e\u043d \u0432 kubold 12000 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e.\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043a\u0430\u0440\u0442\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043d\u0435 \u043e\u0447\u0435\u043d\u044c \u0441\u0442\u0430\u0431\u0438\u043d\u044c\u043d\u043e, \u0432\u044b\u0434\u0430\u0432\u0430\u044f \u0442\u043e 20, \u0442\u043e 15, \u0442\u043e 10 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443.\u043d\u0430 \u0434\u0432\u0443\u0445 \u0432\u0435\u0440\u0445\u043d\u0438\u0445 \u0433\u0440\u0430\u0444\u0438\u043a\u0430\u0445 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043a\u0430\u0440\u0442\u044b \u0441\u043a\u0438\u0434\u044b\u0432\u0430\u044e\u0442 \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u043f\u043e \u043d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e\u0439 \u043f\u0440\u0438\u0447\u0438\u043d\u0435. \u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u0432 \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u0437\u0430\u043c\u0435\u0434\u043b\u044f\u0435\u0442\u0441\u044f.\u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u0436\u0435\u0441\u0442\u043a\u043e \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u043a\u0430\u0440\u0442 \u0447\u0435\u0440\u0435\u0437 MSI afterburner.\u044d\u0442\u043e \u043c\u043e\u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u043e \u0440\u0430\u0437\u0433\u043e\u043d\u0443 gpu \u0432 msi afterburner\u0412 \u0438\u0442\u043e\u0433\u0435 gemma26B \u0432 Q4 c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 12000 \u0432\u044b\u0434\u0430\u0435\u0442 \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0435 19-20 \u0442\/\u0441 \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 GPU.\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0442\u0443\u0442 \u0437\u0430\u043f\u0443\u0441\u043a gemma4 26b \u043d\u0430 4 \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u043e\u0432\u044b\u0445 GPU cmp50hx \u0447\u0435\u0440\u0435\u0437 \u0440\u0430\u0439\u0437\u0435\u0440\u044b. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c 22\u0442\/c:( https:\/\/youtube.com\/watch?v=tqaw5HJMFxU&si=lU5Rn-nQrGVvFzuY Gemma 4 26\u0412 \u0438 31\u0412 \u043d\u0430 2\u0445 \u0421\u041c\u0420 50\u041d\u0425: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u043e\u043a\u0435\u043d\/\u0441\u0435\u043a \u0432\u044b\u0436\u043c\u0435\u0442 \u043c\u0430\u0439\u043d\u0438\u043d\u0433-\u043a\u0430\u0440\u0442\u0430? )Qwen3.6-35B-A3B \u0432Q4 \u0432\u044b\u0434\u0430\u0435\u0442 \u0443 \u043c\u0435\u043d\u044f \u0442\u0435 \u0436\u0435 19-20 \u0442\/\u0441 c \u0442\u0430\u043a\u0438\u043c \u0436\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c.\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f: \u0442\u043e\u0442 \u0436\u0435 qwen35b \u0432\u044b\u0434\u0430\u0435\u0442 27 \u0442\/\u0441 \u043d\u0430 3060 12 \u0433\u0431 \u043d\u0430 \u0434\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0445 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u0445 LM studio. ( \u0438\u043d\u0444\u0430 \u043e\u0442\u0441\u044e\u0434\u0430: https:\/\/youtube.com\/watch?v=QxpRuOAw-BE&si=7nQsYeg8sJtv-f96 )MiniPC \u0441 AMD AI395+ 128\u0433\u0431 \u041e\u0417\u0423 \u0441 qwen35b \u0432\u044b\u0434\u0430\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 60 \u0442\/c \u041d\u0443 \u0438 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0442\u0435\u0441\u0442\u0438\u043c GPT-oss 20B: \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f 25\u0442\/\u0441 \u0441 \u0442\u0435\u043c \u0436\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c 12288\u0412\u044b\u0432\u043e\u0434\u044b:\u0412\u0441\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0444\u0435\u0440\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0441\u043e\u0431\u0438\u0440\u0430\u043b \u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u0438\u0434\u0435\u043b \u0432 \u0441\u0435\u0442\u0438 \u0432\u044b\u0434\u0430\u0432\u0430\u043b\u0438 15-20 \u0442\/\u0441. \u0415\u0441\u043b\u0438 \u0412\u0430\u0441 \u0442\u0430\u043a\u0430\u044f \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0443\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u0442-\u0442\u043e \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c LLM \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0430\u0445.\u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 20-40B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u043e\u0441\u043e\u0431\u043e\u0433\u043e \u0441\u043c\u044b\u0441\u043b\u0430 \u043d\u0430 \u0444\u0435\u0440\u043c\u0430\u0445. \u041e\u0431\u044b\u0447\u043d\u044b\u0435 \u0438\u0433\u0440\u043e\u0432\u044b\u0435 \u041f\u041a \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0430\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0432\u044b\u0448\u0435 15-20 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438\u043b\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0442\u0430\u043a\u0443\u044e \u0436\u0435.\u0417\u0430\u043f\u0443\u0441\u043a \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 \u0431\u043e\u043b\u0435\u0435 100 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432( \u0442\u0438\u043f\u0430 Qwen122B 75GB \u0438\u043b\u0438 gpt-oss120B 63GB) \u043c\u043e\u0436\u0435\u0442 \u0438\u043c\u0435\u0442\u044c \u0441\u043c\u044b\u0441\u043b \u043d\u0430 \u043c\u0430\u0439\u043d\u0438\u043d\u0433 \u0444\u0435\u0440\u043c\u0430\u0445. \u0415\u0441\u043b\u0438 \u043a\u0442\u043e-\u0442\u043e \u0443\u0436\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b-\u043f\u043e\u0436\u0430\u043b\u0443\u0439\u0441\u0442\u0430 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u0435\u0441\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u043c \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0445.\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/1055222\/<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-486054","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/486054","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=486054"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/486054\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=486054"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=486054"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=486054"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}