{"id":477697,"date":"2026-04-28T07:06:01","date_gmt":"2026-04-28T07:06:01","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=477697"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=477697","title":{"rendered":"\u0422\u043e\u043f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \ufe0e\u25cd 2026: \u043f\u043e\u0434\u0431\u043e\u0440\u043a\u0430 \u0418\u0418 \u0434\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0438\u0437 \u0434\u043e\u043c\u0430"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3af\/528\/a01\/3af528a0184d4bca32c58091c6629733.jpg\" width=\"2752\" height=\"1536\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/3af\/528\/a01\/3af528a0184d4bca32c58091c6629733.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3af\/528\/a01\/3af528a0184d4bca32c58091c6629733.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0421\u043e\u0437\u043d\u0430\u044e\u0441\u044c: \u043a\u043e\u0433\u0434\u0430 \u044f \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u043f\u043e\u043f\u044b\u0442\u0430\u043b\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u0432\u0441\u0451 \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u043e\u0441\u044c \u0432\u0435\u0440\u0442\u0443\u0448\u043a\u043e\u0439 \u043a\u0443\u043b\u0435\u0440\u0430, \u0436\u0443\u0442\u043a\u0438\u043c \u043b\u0430\u0433\u043e\u043c \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u043c \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435\u043c \u201c\u041d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0430\u043c\u044f\u0442\u0438\u201d. \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u0418\u0418 \u2013 <strong>\u0443\u0434\u0435\u043b \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0435\u0432 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0441\u0442\u0430\u043d\u0446\u0438\u0439 \u0441 \u0436\u0438\u0434\u043a\u0438\u043c \u0430\u0437\u043e\u0442\u043e\u043c.<\/strong><\/p>\n<p>\u041d\u043e \u043f\u0440\u043e\u0448\u043b\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430\u0441\u044c \u0434\u043e \u043d\u0435\u0443\u0437\u043d\u0430\u0432\u0430\u0435\u043c\u043e\u0441\u0442\u0438. \u0422\u0435\u043f\u0435\u0440\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e <strong>\u043e\u0431\u044b\u0447\u043d\u043e\u0439 RTX 3060<\/strong> \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0441\u0430 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0435\u0447\u0435\u0440\u0430, \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0432\u0435\u0441\u0442\u0438 \u0441\u0435\u0431\u0435 \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0434\u0430\u0447\u0435 \u0431\u0435\u0437 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u0438 \u0443\u043c\u0435\u0435\u0442 \u0448\u0443\u0442\u0438\u0442\u044c (\u0438\u043b\u0438 \u0445\u043e\u0442\u044f \u0431\u044b \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f).<\/p>\n<p>\u042f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043e\u0431\u043e \u0432\u0441\u0451\u043c \u043f\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0443 \u2013 \u0431\u0435\u0437 \u0432\u043e\u0434\u044b \u0438 \u0444\u0430\u043d\u0430\u0442\u0438\u0437\u043c\u0430. \u0427\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u043d\u0430 \u0447\u0451\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u043a\u0430\u043a\u0438\u0435 \u043f\u043e\u0434\u0432\u043e\u0434\u043d\u044b\u0435 \u043a\u0430\u043c\u043d\u0438 \u0436\u0434\u0443\u0442 \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u201c\u0441\u0430\u043c\u0430\u044f \u043d\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c\u201d \u0434\u043e\u043c\u0430 \u2013 \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u044b\u0431\u043e\u0440.<\/p>\n<p><em>\u041f\u043e\u0435\u0445\u0430\u043b\u0438!<\/em><\/p>\n<p><strong><em>\u0413\u043e\u0442\u043e\u0432\u044c\u0442\u0435 \u043e\u0442\u0432\u0451\u0440\u0442\u043a\u0443 \u0438 VRAM \u2013 \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c!<\/em><\/strong><\/p>\n<hr\/>\n<h2>\u0417\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0418\u0418 \u0434\u043e\u043c\u0430 (\u0438 \u0437\u0430\u0447\u0435\u043c \u2013 \u043d\u0435\u0442)<\/h2>\n<p>\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0440\u0430\u0437\u0443 \u043f\u0440\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0435. <strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0441\u043b\u0430\u0431\u0435\u0435, \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u0438 \u0442\u0443\u043f\u0435\u0435<\/strong>, \u0447\u0435\u043c \u0442\u043e, \u0447\u0442\u043e \u0432\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0432 \u043f\u043b\u0430\u0442\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d-\u043f\u043e\u0434\u043f\u0438\u0441\u043a\u0435. \u041d\u0430 \u0432\u0430\u0448\u0435\u043c \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435 \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0440\u043e\u0432\u043d\u044f \u201c\u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u0430\u044f \u0438 \u0441\u0442\u0430\u0440\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f\u201d, \u0430 \u043d\u0435 \u201c\u0432\u0441\u0435\u0432\u0435\u0434\u0443\u0449\u0430\u044f \u0438 \u043c\u043e\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u0430\u044f\u201d. \u0421\u043b\u043e\u0436\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u2013 \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u044b\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043a\u043e\u0434\u0430, \u044e\u0440\u0438\u0434\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0435\u0441\u0451\u0440\u0447, \u043c\u043d\u043e\u0433\u043e\u0441\u0442\u0443\u043f\u0435\u043d\u0447\u0430\u0442\u043e\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u2013 \u043e\u043d\u0430 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0442\u044f\u0433\u0438\u0432\u0430\u0442\u044c \u0441 \u043d\u0430\u0442\u044f\u0436\u043a\u043e\u0439, \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f, \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c API, \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442, \u0438 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u044b \u0432 \u0441\u0442\u0438\u043b\u0435 \u201c\u0448\u043a\u043e\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0435, \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0451\u043d\u043d\u043e\u0435 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u201d. \u042d\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e. \u0422\u0430\u043a \u0438 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c: \u0432\u0430\u0448 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440 \u2013 \u043d\u0435 \u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440 \u043d\u0430 \u0442\u044b\u0441\u044f\u0447\u0443 H100.<\/p>\n<p>\u0422\u043e\u0433\u0434\u0430 \u0437\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u044d\u0442\u043e \u0432\u0441\u0451?<\/p>\n<p>\u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, <strong>\u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/strong>. \u0415\u0441\u043b\u0438 \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u0442\u0440\u043e\u0433\u0430\u0442\u044c \u0440\u0443\u043a\u0430\u043c\u0438, \u043a\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441, \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f\u043c\u0438, \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0441\u0432\u043e\u0439 fine-tune \u2013 \u0431\u0435\u0437 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0432\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0443\u0435\u0434\u0435\u0442\u0435. \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, <strong>\u043e\u0444\u043b\u0430\u0439\u043d-\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438<\/strong>: \u0434\u0430\u0447\u0430 \u0431\u0435\u0437 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430, \u043a\u043e\u043c\u0430\u043d\u0434\u0438\u0440\u043e\u0432\u043a\u0430 \u0432 \u0441\u0430\u043c\u043e\u043b\u0451\u0442\u0435, \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0441 \u0436\u0451\u0441\u0442\u043a\u0438\u043c\u0438 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0430\u043c\u0438 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. \u0412-\u0442\u0440\u0435\u0442\u044c\u0438\u0445, <strong>\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435<\/strong>: \u043e\u0434\u0438\u043d \u0447\u0430\u0441 \u0441 llama.cpp \u043d\u0430\u0443\u0447\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0434\u0435\u0441\u044f\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u0440\u043e \u201c\u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 LLM\u201d. \u0412-\u0447\u0435\u0442\u0432\u0451\u0440\u0442\u044b\u0445, <strong>\u0443\u0437\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438<\/strong>: \u0442\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u043f\u0446\u0438\u044f \u0434\u0438\u043a\u0442\u043e\u0444\u043e\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439 \u0447\u0435\u0440\u0435\u0437 Whisper, \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RAG \u043f\u043e \u0441\u0432\u043e\u0438\u043c \u0437\u0430\u043c\u0435\u0442\u043a\u0430\u043c, \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0447\u0430\u0442-\u0431\u043e\u0442 \u0434\u043b\u044f \u043f\u0440\u043e\u0435\u043a\u0442\u0430.<\/p>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u2013 \u044d\u0442\u043e \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447, \u0430 \u043d\u0435 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u0430\u044f \u0437\u0430\u043c\u0435\u043d\u0430 ChatGPT. \u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bcb\/45b\/bb8\/bcb45bbb837ee223f3e92b2ab422ad47.jpg\" width=\"1536\" height=\"1024\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/bcb\/45b\/bb8\/bcb45bbb837ee223f3e92b2ab422ad47.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bcb\/45b\/bb8\/bcb45bbb837ee223f3e92b2ab422ad47.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<hr\/>\n<p>\u041a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u0441 \u0418\u0418 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u0433\u0434\u0430, \u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0435\u0442\u0435 \u0436\u0434\u0430\u0442\u044c \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0435 \u0434\u0443\u043c\u0430\u0442\u044c \u043d\u0430\u0434 \u0437\u0430\u0434\u0430\u0447\u0435\u0439. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448\u0430 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u043d\u0435 \u0432\u044b\u0434\u0430\u0451\u0442 80+ \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u044d\u0442\u043e \u043d\u0435 \u043f\u043e\u0432\u043e\u0434 \u043c\u0438\u0440\u0438\u0442\u044c\u0441\u044f \u0441 \u043c\u0435\u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e. <strong>BotHub<\/strong> \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u201c\u0441\u0442\u0440\u043e\u0447\u0430\u0442 \u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0435\u0442\u201d \u0431\u0435\u0437 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0430 \u0432\u0430\u0448\u0435 \u043b\u0438\u0447\u043d\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e. <em>\u041f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0440\u043e\u0439\u0442\u0435 \u0432\u043a\u043b\u0430\u0434\u043a\u0443 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0439\u0442\u0435 \u0441 GPT-5.5, Gemini 3.1 Pro, Claude Opus 4.7 \u0438 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u043f\u043e\u0432\u044b\u043c\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438<\/em>, \u043f\u043e\u043a\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u043e\u043c\u043f\u0442.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d5e\/1c1\/0cc\/d5e1c10cc8c512330352a5d1efae09fb.png\" width=\"1560\" height=\"711\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d5e\/1c1\/0cc\/d5e1c10cc8c512330352a5d1efae09fb.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d5e\/1c1\/0cc\/d5e1c10cc8c512330352a5d1efae09fb.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0414\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f VPN, \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0443\u044e \u043a\u0430\u0440\u0442\u0443.<\/p>\n<blockquote>\n<p><a href=\"https:\/\/bothub.ru\/?invitedBy=iTNi-351UcHgc1BxGFWim\"><strong>\u041f\u043e \u0441\u0441\u044b\u043b\u043a\u0435 \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 300 000 \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/strong><\/a> <strong>\u0434\u043b\u044f \u043f\u0435\u0440\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u043f\u0440\u0438\u0441\u0442\u0443\u043f\u0438\u0442\u044c \u043a \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438 \u043f\u0440\u044f\u043c\u043e \u0441\u0435\u0439\u0447\u0430\u0441!<\/strong> <\/p>\n<\/blockquote>\n<hr\/>\n<h2>\u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 vs \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440: \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437<\/h2>\n<p>\u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0441\u0442\u043e\u0438\u0442 \u0443\u0441\u0432\u043e\u0438\u0442\u044c \u0435\u0449\u0451 \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0439 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438: <strong>CPU \u0438 GPU \u2013 \u044d\u0442\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u0438\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438.<\/strong><\/p>\n<p>\u0412\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0441\u0442\u043e \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0435. \u041d\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 3B\u20137B-\u043c\u043e\u0434\u0435\u043b\u044f\u0445 CPU-only \u0432\u043f\u043e\u043b\u043d\u0435 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u2013 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u0431\u0443\u0434\u0435\u0442 \u0434\u0430\u0436\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c. \u041d\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430 CPU \u2013 \u044d\u0442\u043e, \u0432 \u043b\u0443\u0447\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440\u201d, \u043f\u043e \u043c\u0435\u0442\u043a\u043e\u043c\u0443 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u043e\u0434\u043d\u043e\u0433\u043e \u0438\u0437 \u0431\u043b\u043e\u0433\u043e\u0432: \u201c<em>RTX 4090 \u043f\u0438\u0448\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u2018\u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0451\u0442\u2019 (80+ \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443), \u0430 Mac \u2013 \u2018\u043a\u0430\u043a \u0441\u043a\u043e\u0440\u043e\u0447\u0442\u0435\u0446\u2019 (10\u201320 \u0442\u043e\u043a\u0435\u043d\/\u0441)\u201d<\/em>. \u041e\u0431\u044b\u0447\u043d\u044b\u0439 \u0436\u0435 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u043d\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0431\u0435\u0437 GPU-\u043f\u043e\u043c\u043e\u0449\u0438 \u2013 \u044d\u0442\u043e \u0443\u0436\u0435 \u0434\u0430\u0436\u0435 \u043d\u0435 \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440\u201d, \u0430 \u0441\u043a\u043e\u0440\u0435\u0435 \u201c\u043b\u0435\u043d\u0438\u0432\u0435\u0446, \u0447\u0438\u0442\u0430\u044e\u0449\u0438\u0439 \u043f\u043e \u0441\u043b\u043e\u0433\u0430\u043c\u201d. \u041d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c CPU 7B-\u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 5\u201310 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u041d\u0430 \u043f\u0440\u0438\u043b\u0438\u0447\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0435 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u2013 50\u201380 \u0442\u043e\u043a\u0435\u043d\/\u0441, \u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0432\u0441\u0435 100+. \u0422\u043e \u0435\u0441\u0442\u044c <strong>\u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437<\/strong>.<\/p>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a? \u0414\u0435\u043b\u043e \u0432 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435: GPU \u0443\u043c\u0435\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0442\u044b\u0441\u044f\u0447\u0438 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439 \u043d\u0430\u0434 \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u043c\u0438, \u0430 \u044d\u0442\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e, \u0447\u0435\u043c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435. CPU \u0442\u043e\u0436\u0435 \u0443\u043c\u0435\u0435\u0442, \u043d\u043e \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0441\u043b\u0438 \u0432\u044b \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0435\u0442\u0435 \u0447\u0435\u043c-\u0442\u043e \u0432\u0441\u0435\u0440\u044c\u0451\u0437 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f, \u0430 \u043d\u0435 \u201c\u043f\u043e\u0442\u044b\u043a\u0430\u0442\u044c \u0440\u0430\u0437 \u0432 \u043d\u0435\u0434\u0435\u043b\u044e\u201d \u2013 \u043d\u0443\u0436\u043d\u0430 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430.<\/p>\n<hr\/>\n<h2>\u041a\u0430\u043a\u0430\u044f \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u043d\u0443\u0436\u043d\u0430: VRAM \u0440\u0435\u0448\u0430\u0435\u0442 \u0432\u0441\u0451<\/h2>\n<p>\u041a\u043e\u0433\u0434\u0430-\u0442\u043e \u0434\u043b\u044f \u0438\u0433\u0440 \u0433\u043d\u0430\u043b\u0438\u0441\u044c \u0437\u0430 \u0447\u0430\u0441\u0442\u043e\u0442\u0430\u043c\u0438 \u0438 \u0447\u0438\u0441\u043b\u043e\u043c \u044f\u0434\u0435\u0440. \u0414\u043b\u044f \u0418\u0418 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043e\u0434\u043d\u0430 \u2013 <strong>\u0441\u043a\u043e\u043b\u044c\u043a\u043e VRAM<\/strong> \u0432 \u043a\u0430\u0440\u0442\u0435. \u0415\u0441\u043b\u0438 \u0437\u0430\u0434\u0430\u0442\u044c \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0432\u043e\u043f\u0440\u043e\u0441 Claude, GPT \u0438 Gemini \u2013 \u201c\u041a\u0430\u043a\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439?\u201d, \u2013 \u0432\u0441\u0435 \u0442\u0440\u0438 \u043e\u0442\u0432\u0435\u0442\u044f\u0442 \u0445\u043e\u0440\u043e\u043c: GPU VRAM \u0440\u0435\u0448\u0430\u0435\u0442 \u0432\u0441\u0451. \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u0438\u0433\u0440, \u0433\u0434\u0435 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u2013 \u044d\u0442\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0438\u043f\u0430, \u0432 \u0418\u0418 \u043e\u0431\u044a\u0451\u043c \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0434\u0430\u0436\u0435 \u043d\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c, \u0430 \u0441\u0430\u043c \u0444\u0430\u043a\u0442 \u0442\u043e\u0433\u043e, <strong>\u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u043b\u0438 \u043d\u0435\u0442<\/strong>.<\/p>\n<p>\u0418 \u0442\u0443\u0442 \u0435\u0441\u0442\u044c \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043b\u0435\u0437\u043b\u0430 \u0432 VRAM \u2013 \u043b\u0435\u0442\u0430\u0435\u0442. \u041d\u0435 \u0432\u043b\u0435\u0437\u043b\u0430 \u2013 \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0443\u0435\u0437\u0436\u0430\u0435\u0442 \u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u0443\u044e RAM, \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 50\u2013100 \u0440\u0430\u0437. \u0417\u0430\u043c\u0435\u0447\u0443: \u201c50\u2013100x \u043f\u0430\u0434\u0435\u043d\u0438\u044f\u201d \u2013 \u044d\u0442\u043e \u043d\u0435 \u043e\u043f\u0435\u0447\u0430\u0442\u043a\u0430. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0432\u043b\u0435\u0437\u043b\u0430 \u0432 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 RAM, \u0432\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0435 \u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440 \u0443\u0440\u043e\u0432\u043d\u044f \u043b\u0435\u043d\u0438\u0432\u0446\u0430\u201d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 VRAM \u2013 \u044d\u0442\u043e \u201c\u043b\u0438\u0431\u043e \u0435\u0441\u0442\u044c, \u043b\u0438\u0431\u043e \u043d\u0435\u0442\u201d, \u043f\u043e\u043b\u0443\u0442\u043e\u043d\u043e\u0432 \u043c\u0430\u043b\u043e.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u2013 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0430\u0437\u0440\u0435\u0437 \u043f\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\">\u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430<\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">\u0427\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0439<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 3060 (12 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">7B\u201314B \u0432 Q4, Gemma 4 E4B<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u044e\u0434\u0436\u0435\u0442\u043d\u044b\u0439 \u043a\u043e\u0440\u043e\u043b\u044c: 12 \u0413\u0411 VRAM (\u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0443 RTX 3070 \u0438\u043b\u0438 3080 \u043d\u0430 10 \u0413\u0411) \u0437\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0434\u0435\u043d\u044c\u0433\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 4060 \/ 4060 Ti (16 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">13B \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e, 26B MoE \u043d\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">16-\u0433\u0438\u0433\u043e\u0432\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f 4060 Ti \u2013 \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0439 middle-ground<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 5060 (8 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">7B-\u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u0435\u043b\u043a\u0438\u0435 MoE<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u0432\u0435\u0436\u0435\u0435, \u0448\u0443\u0441\u0442\u0440\u043e\u0435, \u043d\u043e 8 \u0413\u0411 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 4070 \/ 4070 Ti (12\/16 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">26B MoE, Qwen3.6 35B-A3B (\u0441 \u0442\u0440\u044e\u043a\u0430\u043c\u0438)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u0430 4070 Ti 16 GB Gemma 4 26B MoE \u0432 Q4_K_M \u0434\u0430\u0451\u0442 ~30 \u0442\u043e\u043a\u0435\u043d\/\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 3090 (24 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">30B\u201334B \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u043e, 70B \u0441 \u0441\u0438\u043b\u044c\u043d\u044b\u043c \u0441\u0436\u0430\u0442\u0438\u0435\u043c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0435\u0447\u043d\u044b\u0439 \u201c\u043a\u043e\u0440\u043e\u043b\u044c \u0446\u0435\u043d\u044b \u0437\u0430 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 VRAM\u201d: \u0431\/\u0443 \u0437\u0430 700\u2013800\u00a0$, \u043f\u0440\u0438 \u0442\u043e\u043c \u0436\u0435 \u043e\u0431\u044a\u0451\u043c\u0435 \u043f\u0430\u043c\u044f\u0442\u0438, \u0447\u0442\u043e \u0438 \u0443 RTX 4090, \u0438 \u043f\u043e\u0447\u0442\u0438 \u0442\u043e\u0439 \u0436\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"229\" width=\"229\">\n<p align=\"left\"><strong>RTX 4090 (24 GB)<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"242\" width=\"242\">\n<p align=\"left\">\u0422\u043e \u0436\u0435, \u0447\u0442\u043e 3090, \u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u043a\u0443\u0441\u043d\u0435\u0435 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438, \u043d\u043e \u0432 2,5 \u0440\u0430\u0437\u0430 \u0434\u043e\u0440\u043e\u0436\u0435<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<blockquote>\n<p><strong>\u041e\u0442\u043a\u0440\u043e\u0432\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0433\u0435\u0439\u043c\u0435\u0440\u043e\u0432.<\/strong> RTX 3090 \u2013 \u0441\u0442\u0430\u0440\u0443\u0448\u043a\u0430 2020 \u0433\u043e\u0434\u0430 \u0432\u044b\u043f\u0443\u0441\u043a\u0430 \u2013 \u0434\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u0432 \u0442\u043e\u043f\u0435 \u0434\u043b\u044f \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u0433\u043e \u0418\u0418 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u0443 \u043d\u0435\u0451 <strong>24 \u0413\u0411 VRAM<\/strong>. \u041d\u043e\u0432\u0435\u043d\u044c\u043a\u0430\u044f RTX 4060 Ti \u0441 8 \u0433\u0438\u0433\u0430\u043c\u0438 \u0432 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 LLM \u0435\u0439 \u043f\u0440\u043e\u0438\u0433\u0440\u0430\u0435\u0442. \u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0442\u0430 \u0438\u0433\u0440\u0430, \u0433\u0434\u0435 \u201c40 &gt; 30 = \u043b\u0443\u0447\u0448\u0435\u201d.<\/p>\n<\/blockquote>\n<p>Apple Silicon \u2013 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043b\u0430\u0433\u0435\u0440\u044c \u0441\u043e \u0441\u0432\u043e\u0438\u043c\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c\u0438. \u0423 Mac unified memory: \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0430 \u0438 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u2013 \u044d\u0442\u043e \u043e\u0434\u043d\u0430 \u0438 \u0442\u0430 \u0436\u0435 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c. Apple-\u0447\u0438\u043f\u044b \u0434\u0435\u043b\u044f\u0442 \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0435\u0436\u0434\u0443 CPU \u0438 GPU, \u0438 \u043d\u0430 M4 Max \u0441 128 \u0413\u0411 unified memory <strong>\u0432\u0438\u0434\u0435\u043e\u044f\u0434\u0440\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d \u0432\u0435\u0441\u044c \u044d\u0442\u043e\u0442 \u043e\u0431\u044a\u0451\u043c<\/strong>, \u0431\u0435\u0437 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043b\u0438\u043c\u0438\u0442\u0430 VRAM. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043a\u0440\u0443\u0442\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430 \u201c\u043e\u0431\u044b\u0447\u043d\u043e\u043c\u201d \u041f\u041a \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0438 \u0431\u044b \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u043e \u0446\u0435\u043d\u0430 \u2013 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c: \u0433\u0440\u0443\u0431\u043e \u0433\u043e\u0432\u043e\u0440\u044f, RTX 4090 \u0441\u0442\u0440\u043e\u0447\u0438\u0442 \u0442\u043e\u043a\u0435\u043d\u044b \u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0451\u0442 (80+ \u0442\u043e\u043a\u0435\u043d\/\u0441), \u0430 Mac \u2013 \u043a\u0430\u043a \u043e\u043f\u044b\u0442\u043d\u044b\u0439 \u0441\u043a\u043e\u0440\u043e\u0447\u0442\u0435\u0446 (10\u201320 \u0442\u043e\u043a\u0435\u043d\/\u0441).<\/p>\n<h4>\u0418 \u0435\u0449\u0451 \u043f\u0440\u043e \u0436\u0435\u043b\u0435\u0437\u043e \u0432 \u0446\u0435\u043b\u043e\u043c<\/h4>\n<ul>\n<li>\n<p><strong>RAM<\/strong> \u2013 \u0431\u0435\u0440\u0438\u0442\u0435 \u043c\u0438\u043d\u0438\u043c\u0443\u043c 32 \u0413\u0411. \u0417\u0430\u043f\u0430\u0441 \u043f\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u0432\u0443\u043a\u0440\u0430\u0442\u043d\u044b\u043c: \u0434\u043b\u044f 4-\u0433\u0438\u0433\u043e\u0432\u043e\u0433\u043e Q4-\u0444\u0430\u0439\u043b\u0430 \u043d\u0443\u0436\u043d\u043e \u043e\u043a\u043e\u043b\u043e 8 \u0413\u0411 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0439 RAM, \u0447\u0442\u043e\u0431\u044b \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u043f\u043b\u0430\u0432\u043d\u043e. \u042d\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043d\u0435 \u043f\u043e\u0436\u0435\u043b\u0430\u043d\u0438\u0435.<\/p>\n<\/li>\n<li>\n<p><strong>\u0414\u0438\u0441\u043a<\/strong> \u2013 \u0442\u043e\u043b\u044c\u043a\u043e NVMe SSD. \u041c\u043e\u0434\u0435\u043b\u0438 \u0432\u0435\u0441\u044f\u0442 \u043e\u0442 4 \u0434\u043e 40+ \u0413\u0411, \u0430 \u0433\u0440\u0443\u0437\u0438\u0442\u044c 22-\u0433\u0438\u0433\u043e\u0432\u044b\u0439 \u0447\u0435\u043a\u043f\u043e\u0439\u043d\u0442 \u0441 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e HDD \u2013 \u0437\u0430\u043d\u044f\u0442\u0438\u0435 \u0434\u043b\u044f \u043e\u0431\u043b\u0430\u0434\u0430\u0442\u0435\u043b\u0435\u0439 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0433\u043e \u0442\u0435\u0440\u043f\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<li>\n<p><strong>CPU<\/strong> \u2013 \u043c\u0435\u043d\u0435\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u043d \u0434\u043b\u044f \u0441\u0430\u043c\u043e\u0439 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u043d\u043e \u0432\u0430\u0436\u0435\u043d \u0434\u043b\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0432 \u043c\u043d\u043e\u0433\u043e\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435. \u0412\u043e\u0441\u0435\u043c\u044c \u044f\u0434\u0435\u0440 \u2013 \u043d\u043e\u0440\u043c, \u0448\u0435\u0441\u0442\u043d\u0430\u0434\u0446\u0430\u0442\u044c \u2013 \u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p><strong>\u0411\u041f<\/strong> \u2013 750 W \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u044b, 850\u20131000 W \u0434\u043b\u044f \u0442\u043e\u043f\u043e\u0432\u043e\u0439, 1200+ \u0434\u043b\u044f \u0434\u0432\u0443\u0445. \u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0418\u0418 \u2013 \u044d\u0442\u043e \u0441\u0443\u0441\u0442\u0435\u0439\u043d\u0434-\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430, \u0430 \u043d\u0435 \u0432\u0441\u043f\u043b\u0435\u0441\u043a, \u043a\u0430\u043a \u0432 \u0438\u0433\u0440\u0430\u0445.<\/p>\n<\/li>\n<\/ul>\n<hr\/>\n<h2>\u041f\u0430\u043c\u044f\u0442\u044c \u2013 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u201c\u043d\u0435 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435\u201d<\/h2>\n<p><strong>\u041c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0430\u043c\u044f\u0442\u044c \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f, \u043f\u043e\u043a\u0430 \u043e\u043d\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u0430.<\/strong> \u041d\u0435 \u201c\u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438\u201d, \u043d\u0435 \u201c\u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043f\u0438\u0448\u0435\u0442\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u201d \u2013 \u0430 <strong>\u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f<\/strong>. \u0417\u0430\u0433\u0440\u0443\u0437\u0438\u043b\u0438 gemma4:26b \u2013 \u043e\u0442\u0434\u0430\u043b\u0438 14 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0438 \u043e\u043d\u0438 \u043d\u0438\u043a\u0443\u0434\u0430 \u043d\u0435 \u0434\u0435\u043d\u0443\u0442\u0441\u044f, \u043f\u043e\u043a\u0430 \u0432\u044b \u043d\u0435 \u0432\u044b\u0433\u0440\u0443\u0437\u0438\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u044f\u0432\u043d\u043e. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0439\u0442\u0435 \u0441\u0432\u043e\u0439 \u0434\u0435\u043d\u044c \u0442\u0430\u043a: \u0435\u0441\u043b\u0438 \u0432\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0435 \u0418\u0418 \u2013 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0439\u0442\u0435 \u0432\u0441\u0451 \u043b\u0438\u0448\u043d\u0435\u0435. \u0418 \u044f \u0433\u043e\u0432\u043e\u0440\u044e \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u043e, \u043a\u0430\u043a \u0434\u0438\u0441\u043f\u0435\u0442\u0447\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u0443\u044e \u043e\u0442\u043a\u0440\u044b\u0442\u0443\u044e \u0432\u043a\u043b\u0430\u0434\u043a\u0443 Chrome.<\/p>\n<p>\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435:<\/p>\n<ul>\n<li>\n<p>\u0418\u0433\u0440\u044b \u2013 \u043d\u0435\u0442. \u0412\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u0437\u0430\u043d\u044f\u0442\u0430.<\/p>\n<\/li>\n<li>\n<p>\u0424\u0438\u043b\u044c\u043c \u0432 4K \u0447\u0435\u0440\u0435\u0437 DaVinci Resolve \u2013 \u043d\u0435 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e.<\/p>\n<\/li>\n<li>\n<p>Stable Diffusion \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0430\u0440\u0442\u0435 \u2013 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0414\u0435\u0441\u044f\u0442\u044c \u0432\u043a\u043b\u0430\u0434\u043e\u043a Chrome \u0441 YouTube \u2013 \u0430 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0443\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u043c. \u041a\u0430\u0436\u0434\u0430\u044f \u201c\u0436\u0438\u0440\u043d\u0430\u044f\u201d \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0430 \u2013 \u044d\u0442\u043e \u0441\u043e\u0442\u043d\u0438 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 RAM, \u0438 \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 32 \u0433\u0438\u0433\u0430 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u0438\u0442 22, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f 10 \u043d\u0430 \u0412\u0421\u0401 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435. \u0412\u043a\u043b\u044e\u0447\u0430\u044f \u0441\u0430\u043c\u0443 Windows.<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u0442\u0441\u044e\u0434\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: <strong>\u0431\u0435\u0440\u0438\u0442\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c<\/strong>. \u041b\u0443\u0447\u0448\u0435 \u0438\u043c\u0435\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b\u0435 8 \u0413\u0411 \u043f\u043e\u0432\u0435\u0440\u0445 \u043c\u043e\u0434\u0435\u043b\u0438, \u0447\u0435\u043c \u043f\u043e\u0442\u043e\u043c \u0433\u0430\u0434\u0430\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u043e\u0439 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f. \u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0430 \u2013 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0443\u0436\u0430\u0442\u044b\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f (Q4 \u0432\u043c\u0435\u0441\u0442\u043e Q8 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u0434\u0432\u043e\u0435-\u0432\u0442\u0440\u043e\u0435 VRAM \u043f\u0440\u0438 \u0443\u043c\u0435\u0440\u0435\u043d\u043d\u043e\u0439 \u043f\u043e\u0442\u0435\u0440\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430), \u043d\u043e \u043e\u0431 \u044d\u0442\u043e\u043c \u043d\u0438\u0436\u0435.<\/p>\n<p>\u0418 \u0435\u0449\u0451 \u043e\u0434\u043d\u0430 \u0442\u043e\u043d\u043a\u043e\u0441\u0442\u044c: <strong>\u0431\u043e\u043b\u044c\u0448\u0438\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2013 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0430\u043c\u044f\u0442\u0438<\/strong>. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0432 32k \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u0435\u0441\u0438\u0442 \u043a\u0443\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0432 4k, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043f\u043e\u0434 KV-\u043a\u044d\u0448 \u043d\u0443\u0436\u043d\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043c\u0435\u0441\u0442\u043e. \u0422\u0430\u043a \u0447\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u0432\u0438\u0434\u0438\u0442\u0435 \u0441\u043e\u0431\u043b\u0430\u0437\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043d\u0430\u0434\u043f\u0438\u0441\u044c \u201ccontext window 256K\u201d, \u043d\u0435 \u0441\u043f\u0435\u0448\u0438\u0442\u0435 \u0440\u0430\u0434\u043e\u0432\u0430\u0442\u044c\u0441\u044f: \u043d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0432\u044b \u0432 \u0436\u0438\u0437\u043d\u0438 \u0441\u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0435. \u041e\u0434\u0438\u043d \u0438\u0437 \u043e\u0431\u043e\u0437\u0440\u0435\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u043f\u0440\u044f\u043c\u043e \u043f\u0438\u0448\u0435\u0442, \u0447\u0442\u043e Gemma 4 \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 256K \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043d\u043e \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0441\u0442\u043e\u0438\u0442 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043d\u0430 ~20K \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2013 \u043f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0432\u044b\u0432\u043e\u0434 \u0440\u0435\u0437\u043a\u043e \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u0435\u0442 \u0438\u0437-\u0437\u0430 \u0434\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043d\u0430 \u043f\u0430\u043c\u044f\u0442\u044c. \u0414\u0432\u0430\u0434\u0446\u0430\u0442\u044c \u0442\u044b\u0441\u044f\u0447 \u2013 \u0438 \u0432\u0441\u0451, \u0434\u0430\u043b\u044c\u0448\u0435 \u0443\u043f\u043e\u0440 \u0432 \u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<hr\/>\n<h2>\u0424\u043e\u0440\u043c\u0430\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439: GGUF, MLX \u0438 \u043f\u0440\u043e\u0447\u0430\u044f \u0430\u043b\u0445\u0438\u043c\u0438\u044f<\/h2>\n<p>\u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u043c\u044b \u043f\u0435\u0440\u0435\u0439\u0434\u0451\u043c \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u0430\u0436\u043d\u044b\u043c \u043f\u043e\u043d\u044f\u0442\u0438\u0435\u043c \u2013 <strong>\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435<\/strong> \u0438 <strong>\u0444\u043e\u0440\u043c\u0430\u0442 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432<\/strong>.<\/p>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u0438\u0438 \u2013 \u044d\u0442\u043e \u043e\u0433\u0440\u043e\u043c\u043d\u0430\u044f \u043f\u0430\u043f\u043a\u0430 PyTorch-\u0444\u0430\u0439\u043b\u043e\u0432, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 16 \u0438\u043b\u0438 32 \u0431\u0438\u0442\u0430. \u0414\u043b\u044f 7B-\u043c\u043e\u0434\u0435\u043b\u0438 \u044d\u0442\u043e 14\u201328 \u0413\u0411 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u043e\u0432. \u0414\u043b\u044f 30B (30 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432) \u2013 60+ \u0413\u0411. \u041d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u041f\u041a \u0442\u0430\u043a\u043e\u0435 \u043d\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442: \u043d\u0430 \u0437\u0430\u043f\u0443\u0441\u043a \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 A100\/H100.<\/p>\n<p>\u0418 \u0442\u0443\u0442 \u043d\u0430 \u0441\u0446\u0435\u043d\u0443 \u0432\u044b\u0445\u043e\u0434\u0438\u0442 <strong>GGUF<\/strong> \u2013 \u0444\u043e\u0440\u043c\u0430\u0442, \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043d\u044b\u0439 \u0413\u0435\u043e\u0440\u0433\u0438\u0435\u043c \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u044b\u043c (\u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 llama.cpp). \u0415\u0441\u043b\u0438 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u2013 \u044d\u0442\u043e \u201c\u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0435 \u043a\u043d\u0438\u0433\u0438 \u043d\u0430 \u044f\u0437\u044b\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0430\u0448 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440 \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442\u201d. \u0418\u0434\u0435\u044f GGUF \u043f\u0440\u043e\u0441\u0442\u0430\u044f: \u0443\u0436\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0434\u043e 4, 5, 6 \u0438\u043b\u0438 8 \u0431\u0438\u0442 \u2013 \u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 <strong>\u043c\u043e\u0433\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438 \u0432 RAM, \u0438 \u0432 VRAM, \u0438 \u0434\u0430\u0436\u0435 \u043d\u0430\u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0442\u0430\u043c, \u043d\u0430\u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0442\u0443\u0442<\/strong>. \u042d\u0442\u043e, \u043a\u0441\u0442\u0430\u0442\u0438, \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 GGUF \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432: \u043e\u043d \u0441\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c. \u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u0441\u043b\u0430\u0431\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u2013 \u0447\u0430\u0441\u0442\u044c \u0441\u043b\u043e\u0451\u0432 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0443 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f, \u043f\u0443\u0441\u0442\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435.<\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u0432\u044b \u0432\u0438\u0434\u0438\u0442\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u0438\u043f\u0430 <strong>Q4_K_M<\/strong>, <strong>Q5_K_S<\/strong>, <strong>Q8_0<\/strong> \u2013 \u044d\u0442\u043e \u0443\u0440\u043e\u0432\u043d\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">\u041a\u0432\u0430\u043d\u0442<\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u0427\u0442\u043e \u044d\u0442\u043e<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\"><strong>Q2_K<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u0421\u0430\u043c\u043e\u0435 \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u0417\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043f\u043e\u0442\u0435\u0440\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">~25% \u043e\u0442 FP16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\"><strong>Q4_K_M<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u201c\u041d\u0430\u0440\u043e\u0434\u043d\u044b\u0439\u201d \u0432\u0430\u0440\u0438\u0430\u043d\u0442<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">~33% \u043e\u0442 FP16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\"><strong>Q5_K_M<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u0427\u0443\u0442\u044c \u043b\u0443\u0447\u0448\u0435 Q4<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0435\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">~40% \u043e\u0442 FP16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\"><strong>Q6_K<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u0414\u043b\u044f \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">~50% \u043e\u0442 FP16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\"><strong>Q8_0<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"203\" width=\"203\">\n<p align=\"left\">\u041f\u043e\u0447\u0442\u0438 \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c<\/p>\n<\/td>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u0418\u0434\u0435\u0430\u043b\u044c\u043d\u043e\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">~55% \u043e\u0442 FP16<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<blockquote>\n<p>\ud83d\udca1 <strong>\u041f\u0440\u0430\u0432\u0438\u043b\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u043f\u0430\u043b\u044c\u0446\u0430.<\/strong> \u041d\u0430\u0447\u0438\u043d\u0430\u0439\u0442\u0435 \u0441 <strong>Q4_K_M<\/strong> \u2013 \u044d\u0442\u043e \u0437\u043e\u043b\u043e\u0442\u0430\u044f \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430 \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0445 \u0437\u0430\u0434\u0430\u0447. Q4 \u2013 \u044d\u0442\u043e, \u043f\u043e \u0441\u0443\u0442\u0438, \u201c\u043b\u0430\u0439\u0442-\u0432\u0435\u0440\u0441\u0438\u044f\u201d \u043c\u043e\u0434\u0435\u043b\u0438: \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0441\u044f \u0431\u044b\u0441\u0442\u0440\u043e, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u043e\u0447\u0442\u0438 \u043d\u0430 \u043b\u044e\u0431\u043e\u043c \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0435, \u0430 \u043f\u043e\u0442\u0435\u0440\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 FP16 \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0437\u0430\u0434\u0430\u0447 \u0435\u0434\u0432\u0430 \u0437\u0430\u043c\u0435\u0442\u043d\u044b. \u0415\u0441\u043b\u0438 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u0430\u044f VRAM \u2013 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0439\u0442\u0435\u0441\u044c \u0434\u043e Q5 \u0438\u043b\u0438 Q6. Q8 \u2013 \u044d\u0442\u043e \u0443\u0436\u0435 \u0434\u043b\u044f \u043f\u0435\u0440\u0444\u0435\u043a\u0446\u0438\u043e\u043d\u0438\u0441\u0442\u043e\u0432.<\/p>\n<\/blockquote>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e GGUF, \u0435\u0441\u0442\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0444\u043e\u0440\u043c\u0430\u0442\u044b: <strong>MLX<\/strong> \u0434\u043b\u044f Apple Silicon (\u043d\u0430\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 Metal), <strong>GPTQ<\/strong> \u0438 <strong>AWQ<\/strong> (\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u043b\u044f GPU-\u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0440\u0430\u043d\u0442\u0430\u0439\u043c\u043e\u0432), <strong>ONNX<\/strong> (\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u043b\u044f WebGPU \u0438 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e). \u041d\u043e \u0434\u043b\u044f \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u0432 95% \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0438\u043c\u0435\u043d\u043d\u043e GGUF \u2013 \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432\u0435\u0437\u0434\u0435 \u0438 \u0431\u0435\u0437 \u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0439 \u0431\u043e\u043b\u0438.<\/p>\n<hr\/>\n<h2>\u041f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b-\u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0438: \u0433\u0434\u0435 \u0438 \u043a\u0430\u043a \u0432\u0441\u0451 \u044d\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c<\/h2>\n<p>\u0422\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0441\u043e\u0431\u0440\u0430\u0442\u044c llama.cpp \u0438\u0437 \u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u043e\u0432, \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u043e\u043d\u0444\u0438\u0433\u0438, \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 CUDA \u2013 \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0430. \u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u2013 \u044d\u0442\u043e\u0433\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0435 \u043d\u0443\u0436\u043d\u043e. \u0423 \u043d\u0430\u0441 2026-\u0439, \u0438 \u0435\u0441\u0442\u044c \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0435 \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0438 \u0434\u043b\u044f \u043b\u044e\u0434\u0435\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0445\u043e\u0442\u044f\u0442 \u043a\u043e\u0440\u043e\u0442\u0430\u0442\u044c \u0432\u0435\u0447\u0435\u0440, \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u044f\u0441\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 cmake \u0440\u0443\u0433\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0435 nvcc.<\/p>\n<p>\u0420\u0430\u0437\u0431\u0435\u0440\u0443 \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u0430\u043c\u044b\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0435.<\/p>\n<h3>LM Studio \u2013 \u043b\u0443\u0447\u0448\u0438\u0439 GUI \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/63b\/a69\/80d\/63ba6980d7623647fc5345963f8f11cb.png\" width=\"1920\" height=\"1200\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/63b\/a69\/80d\/63ba6980d7623647fc5345963f8f11cb.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/63b\/a69\/80d\/63ba6980d7623647fc5345963f8f11cb.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0431\u044b \u044f \u0432\u044b\u0431\u0438\u0440\u0430\u043b \u043e\u0434\u043d\u0443 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 \u0434\u043b\u044f \u043f\u043e\u0434\u0440\u0443\u0433\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u0441\u0430\u0434\u0438\u0442\u0441\u044f \u0437\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0418\u0418, \u2013 \u044f \u0431\u044b \u0432\u044b\u0431\u0440\u0430\u043b <strong>LM Studio<\/strong>. \u042d\u0442\u043e, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0441\u0430\u043c\u044b\u0439 \u043e\u0442\u043f\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 \u0441\u0440\u0435\u0434\u0438 \u0432\u0441\u0435\u0445 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 LLM, \u0438 \u043e\u043d \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0435\u043b\u0430\u0435\u0442 \u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u043c \u0434\u043b\u044f \u043b\u044e\u0434\u0435\u0439 \u0431\u0435\u0437 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0431\u044d\u043a\u0433\u0440\u0430\u0443\u043d\u0434\u0430.<\/p>\n<p>\u0427\u0442\u043e \u0432\u043d\u0443\u0442\u0440\u0438: \u043a\u0440\u0430\u0441\u0438\u0432\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441, \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 \u0431\u0440\u0430\u0443\u0437\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0441 Hugging Face, \u043f\u043e\u043b\u0437\u0443\u043d\u043a\u0438 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0447\u0430\u0442 \u043f\u0440\u044f\u043c\u043e \u0432 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0438 \u0438 \u2013 \u0447\u0442\u043e \u0432\u0430\u0436\u043d\u043e \u2013 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u044b\u0439 API-\u0441\u0435\u0440\u0432\u0435\u0440, \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 \u0441 OpenAI. \u041f\u043e\u0441\u0442\u0430\u0432\u0438\u043b, \u043e\u0442\u043a\u0440\u044b\u043b \u0432\u043a\u043b\u0430\u0434\u043a\u0443 \u201cDiscover\u201d, \u0432\u0432\u0451\u043b \u201cgemma 4\u201d, \u0441\u043a\u0430\u0447\u0430\u043b, \u043d\u0430\u0436\u0430\u043b \u201cLoad\u201d \u2013 \u0438 \u0447\u0435\u0440\u0435\u0437 \u043c\u0438\u043d\u0443\u0442\u0443 \u0443\u0436\u0435 \u043e\u0431\u0449\u0430\u0435\u0448\u044c\u0441\u044f.<\/p>\n<p><strong>\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430<\/strong> \u2013 \u0437\u0430\u0445\u043e\u0434\u0438\u0442\u0435 \u043d\u0430 <a href=\"http:\/\/lmstudio.ai\">lmstudio.ai<\/a>, \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0435\u0442\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a (\u0435\u0441\u0442\u044c \u0434\u043b\u044f Windows, macOS \u043d\u0430 M-\u0447\u0438\u043f\u0430\u0445, Linux). \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0435. \u0412\u0441\u0451.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/034\/0d6\/2f1\/0340d62f197d16698c50498258e93ebe.png\" width=\"1920\" height=\"1200\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/034\/0d6\/2f1\/0340d62f197d16698c50498258e93ebe.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/034\/0d6\/2f1\/0340d62f197d16698c50498258e93ebe.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0427\u0442\u043e \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043f\u0440\u0438\u044f\u0442\u043d\u043e, LM Studio \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0432\u043b\u0435\u0437\u0435\u0442 \u043b\u0438 \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0432\u0430\u0448\u0435 \u0436\u0435\u043b\u0435\u0437\u043e. \u0417\u0435\u043b\u0451\u043d\u0430\u044f \u0433\u0430\u043b\u043e\u0447\u043a\u0430 \u2013 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f. \u0416\u0451\u043b\u0442\u0430\u044f \u2013 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e, \u0447\u0435\u0440\u0435\u0437 offload \u043d\u0430 CPU. \u041a\u0440\u0430\u0441\u043d\u0430\u044f \u2013 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435. \u042d\u0442\u043e \u0441\u043f\u0430\u0441\u0430\u0435\u0442 \u043e\u0442 \u0447\u0430\u0441\u043e\u0432\u044b\u0445 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u043d\u0438\u0439 \u0441 \u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u0440\u0430\u0437\u043e\u0447\u0430\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c.<\/p>\n<p>\u0418\u0437 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0438: <strong>\u0435\u0441\u043b\u0438 \u0432\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0435 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0441 iGPU \u0438\u043b\u0438 \u0441\u043a\u0440\u043e\u043c\u043d\u043e\u0439 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043a\u043e\u0439 \u2013 LM Studio \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u0431\u0435\u0440\u0451\u0442 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u043f\u043e\u0434 \u0432\u0430\u0448\u0443 \u043f\u0430\u043c\u044f\u0442\u044c<\/strong>. \u041c\u043e\u0436\u043d\u043e \u0434\u0430\u0436\u0435 \u043d\u0435 \u0434\u0443\u043c\u0430\u0442\u044c. \u0425\u043e\u0442\u0438\u0442\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u2013 \u0435\u0441\u0442\u044c \u0432\u043a\u043b\u0430\u0434\u043a\u0430 \u201cDeveloper\u201d \u0441 \u043a\u0443\u0447\u0435\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043e\u0442 \u0444\u043b\u044d\u0448-\u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0434\u043e KV-\u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fbb\/450\/fcd\/fbb450fcdb70046712218776c58b0051.png\" width=\"1920\" height=\"1200\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/fbb\/450\/fcd\/fbb450fcdb70046712218776c58b0051.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fbb\/450\/fcd\/fbb450fcdb70046712218776c58b0051.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<h3>Ollama \u2013 \u043a\u043e\u043c\u0430\u043d\u0434\u043d\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u0434\u043b\u044f \u043b\u044e\u0434\u0435\u0439<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5d9\/2e3\/cc3\/5d92e3cc3246b7efe395efc84c6c9265.png\" width=\"1920\" height=\"272\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/5d9\/2e3\/cc3\/5d92e3cc3246b7efe395efc84c6c9265.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/5d9\/2e3\/cc3\/5d92e3cc3246b7efe395efc84c6c9265.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p><strong>Ollama<\/strong> \u2013 \u044d\u0442\u043e, \u043f\u043e \u0441\u0443\u0442\u0438, docker run \u0434\u043b\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439. \u041e\u0434\u043d\u043e\u0441\u0442\u0440\u043e\u0447\u043d\u044b\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u044b, \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0431\u043e\u043b\u0435\u0435 200 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0421\u0442\u0430\u0432\u0438\u0442\u0435, \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u0435\u0442\u0435 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b, \u043f\u0438\u0448\u0435\u0442\u0435:<\/p>\n<pre><code class=\"bash\">ollama run gemma4:26b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0418 \u0447\u0435\u0440\u0435\u0437 \u043f\u0430\u0440\u0443 \u043c\u0438\u043d\u0443\u0442 (\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u2013 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 Q4 \u0432\u0435\u0441\u0438\u0442 ~14 \u0413\u0411) \u0443 \u0432\u0430\u0441 \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435 \u0437\u0430\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0439 \u0447\u0430\u0442 \u0441 Gemma 4.<\/p>\n<p>\u0423\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430:<\/p>\n<ul>\n<li>\n<p><strong>macOS<\/strong>: <code>brew install ollama<\/code> \u0438\u043b\u0438 \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u0441 <a href=\"http:\/\/ollama.com\">ollama.com<\/a><\/p>\n<\/li>\n<li>\n<p><strong>Windows<\/strong>: \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0449\u0438\u043a \u0441 \u0442\u043e\u0433\u043e \u0436\u0435 \u0441\u0430\u0439\u0442\u0430<\/p>\n<\/li>\n<li>\n<p><strong>Linux<\/strong>: <code>curl -fsSL https:\/\/ollama.com\/install.sh | sh<\/code><\/p>\n<\/li>\n<\/ul>\n<p>Ollama \u0441\u0430\u043c \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0435\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 API \u043d\u0430 \u043f\u043e\u0440\u0442\u0443 11434, \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u044b\u0439 \u0441 OpenAI. \u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043b\u044e\u0431\u043e\u0439 \u043a\u043b\u0438\u0435\u043d\u0442, \u0443\u043c\u0435\u044e\u0449\u0438\u0439 \u0445\u043e\u0434\u0438\u0442\u044c \u0432 OpenAI API, \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u0430\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u043d\u0430 Ollama \u0441\u043c\u0435\u043d\u043e\u0439 <code>base_url<\/code>.<\/p>\n<pre><code class=\"python\">from openai import OpenAIclient = OpenAI(\u00a0\u00a0\u00a0 base_url=\"http:\/\/localhost:11434\/v1\", \u00a0\u00a0 api_key=\"ollama\"\u00a0 # \u043b\u044e\u0431\u0430\u044f \u0441\u0442\u0440\u043e\u043a\u0430, \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0438\u0433\u043d\u043e\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f)response = client.chat.completions.create( \u00a0\u00a0 model=\"gemma4:26b\", \u00a0\u00a0 messages=[{\"role\": \"user\", \"content\": \"\u041e\u0431\u044a\u044f\u0441\u043d\u0438 ... \u0432 \u0442\u0440\u0451\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f\u0445.\"}])print(response.choices[0].message.content)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0415\u0441\u043b\u0438 \u0432 LM Studio \u0432\u044b \u201c\u0438\u0433\u0440\u0430\u0435\u0442\u0435\u201d \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u043c, \u0442\u043e \u0432 Ollama \u2013 \u043f\u0438\u0448\u0435\u0442\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u044b. \u0417\u0430\u0442\u043e \u0441\u043a\u0440\u0438\u043f\u0442\u044b \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u0434\u0435\u043b\u0430\u0442\u044c \u043d\u0430 \u043d\u0435\u0439 \u043e\u0434\u043d\u043e \u0443\u0434\u043e\u0432\u043e\u043b\u044c\u0441\u0442\u0432\u0438\u0435.<\/p>\n<h3>Jan \u2013 ChatGPT-\u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0430 \u0432 \u043e\u0434\u043d\u043e\u043c \u043a\u043b\u0438\u043a\u0435<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/88f\/64e\/588\/88f64e5887693e533c5189df60f75816.png\" width=\"1920\" height=\"1205\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/88f\/64e\/588\/88f64e5887693e533c5189df60f75816.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/88f\/64e\/588\/88f64e5887693e533c5189df60f75816.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p><strong>Jan<\/strong> \u2013 \u044d\u0442\u043e \u201cChatGPT, \u043d\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u201d. \u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u2013 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u0432\u0438\u0436\u043e\u043a Cortex, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0430 \u043b\u044e\u0431\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u0438 \u0432\u0441\u0442\u0440\u043e\u0435\u043d\u043d\u0430\u044f \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439: Llama\u26b9, Gemma, Mistral, Qwen \u0438 \u0434\u0440\u0443\u0433\u0438\u0435. \u0421\u0430\u043c \u0436\u0435 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 \u0442\u0430\u043a\u043e\u0439 \u0436\u0435 \u0447\u0438\u0441\u0442\u044b\u0439, \u043a\u0430\u043a \u0443 ChatGPT. \u0421\u043a\u0430\u0447\u0430\u0442\u044c \u2013 <a href=\"http:\/\/jan.ai\">jan.ai<\/a>, \u0435\u0441\u0442\u044c .exe \u0434\u043b\u044f Windows, .dmg \u0434\u043b\u044f Mac (Intel \u0438 Apple Silicon), .AppImage \u0438 .deb \u0434\u043b\u044f Linux.<\/p>\n<p>\u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0443\u0434\u043e\u0431\u043d\u043e \u0434\u043b\u044f \u043d\u043e\u0432\u0438\u0447\u043a\u043e\u0432: Jan \u0441\u0430\u043c \u043f\u043e\u0434\u0431\u0435\u0440\u0451\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043f\u043e\u0434 \u0432\u0430\u0448 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440. \u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0438\u0442\u044c OpenRouter \u0438\u043b\u0438 Groq \u043a\u0430\u043a \u201c\u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 \u0444\u043e\u043b\u0431\u044d\u043a\u201d \u2013 \u043a\u043e\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u043c\u043e\u0449\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043d\u0435 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f.<\/p>\n<h3>Chat with RTX (ChatRTX) \u2013 \u0434\u043b\u044f \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0435\u0432 Nvidia RTX<\/h3>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u2013 <strong>ChatRTX \u043e\u0442 Nvidia<\/strong>. \u042d\u0442\u043e \u0443\u0437\u043a\u043e\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 <strong>\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434 Windows \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434 RTX 30\/40\/50-\u0441\u0435\u0440\u0438\u044e (\u0438 \u043d\u043e\u0432\u0435\u0435)<\/strong> \u0441 \u043c\u0438\u043d\u0438\u043c\u0443\u043c 8 \u0413\u0411 VRAM. \u041f\u043e \u0441\u0443\u0442\u0438, \u044d\u0442\u043e \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u043e\u0435 \u0434\u0435\u043c\u043e-\u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u043e\u0442 Nvidia, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u201c\u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c\u201d \u0447\u0430\u0442-\u0431\u043e\u0442\u0430 \u0441\u0432\u043e\u0438\u043c \u043a\u043e\u043d\u0442\u0435\u043d\u0442\u043e\u043c \u2013 \u0430 \u043f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u0441 TensorRT-LLM \u0438 RAG.<\/p>\n<p>\u0427\u0442\u043e \u043e\u043d\u043e \u0443\u043c\u0435\u0435\u0442, \u0447\u0435\u0433\u043e \u043d\u0435 \u0443\u043c\u0435\u044e\u0442 \u0434\u0440\u0443\u0433\u0438\u0435? <strong>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RAG \u043f\u0440\u044f\u043c\u043e \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438<\/strong>. \u0412\u044b \u043d\u0430\u0442\u0440\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u0442\u0435 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 \u043d\u0430 \u043f\u0430\u043f\u043a\u0443 \u0441 \u0432\u0430\u0448\u0438\u043c\u0438 .pdf, .txt \u0438 .docx-\u0444\u0430\u0439\u043b\u0430\u043c\u0438, \u043e\u043d\u0430 \u0441\u0442\u0440\u043e\u0438\u0442 \u0438\u043d\u0434\u0435\u043a\u0441 \u2013 \u0438 \u043f\u043e\u0442\u043e\u043c \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0441\u0442\u0440\u043e\u0433\u043e \u043f\u043e \u044d\u0442\u0438\u043c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u043c. \u041c\u043e\u0436\u043d\u043e \u0434\u0430\u0436\u0435 \u0441\u043a\u0430\u0440\u043c\u043b\u0438\u0432\u0430\u0442\u044c YouTube-\u0441\u0441\u044b\u043b\u043a\u0438, \u0438 ChatRTX \u0443\u0442\u044f\u043d\u0435\u0442 \u0442\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u043f\u0442\u044b \u0438 \u043f\u0440\u043e\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u0435\u0442 \u0438\u0445.<\/p>\n<p>\u041c\u0438\u043d\u0443\u0441\u044b: \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0438\u0441\u0442\u0440\u0438\u0431\u0443\u0442\u0438\u0432 \u0432\u0435\u0441\u0438\u0442 \u043e\u043a\u043e\u043b\u043e 35 \u0413\u0411, \u0430 \u043f\u043e\u0441\u043b\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u043d\u0443\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c ~100 \u0413\u0411 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u043c\u0435\u0441\u0442\u0430. \u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u2013 Mistral \u0438\u043b\u0438 Llama 2\u26b9, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0447\u0435\u0440\u0435\u0437 TensorRT-LLM. \u042d\u0442\u043e \u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043d\u0430 RTX-\u043a\u0430\u0440\u0442\u0430\u0445 \u0437\u0430 \u0441\u0447\u0451\u0442 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u044b\u0445 \u044f\u0434\u0435\u0440, \u043d\u043e \u0432 \u043e\u0431\u043c\u0435\u043d \u043d\u0430 \u0433\u0438\u0431\u043a\u043e\u0441\u0442\u044c: \u0441\u0432\u043e\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0442\u0443\u0434\u0430 \u043d\u0435 \u043f\u043e\u0434\u043a\u0438\u043d\u0443\u0442\u044c, \u0430 \u0441\u0430\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u043d\u0430\u0431\u043e\u0440\u0435 ChatRTX \u0443\u0436\u0435 \u043d\u0435 \u0441\u0430\u043c\u044b\u0435 \u043d\u043e\u0432\u044b\u0435.<\/p>\n<p>\u0412\u0435\u0440\u0434\u0438\u043a\u0442: \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u2013 \u043f\u043e\u0438\u0441\u043a \u043f\u043e \u0441\u0432\u043e\u0438\u043c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u043c \u0441 \u043e\u0442\u0432\u0435\u0442\u043e\u043c \u043d\u0430 \u0435\u0441\u0442\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u0414\u043b\u044f \u043e\u0431\u0449\u0435\u0433\u043e \u0447\u0430\u0442\u0430, \u043a\u043e\u0434\u0430 \u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u0430 \u2013 \u043b\u0443\u0447\u0448\u0435 \u0431\u0443\u0434\u0435\u0442 LM Studio.<\/p>\n<blockquote>\n<p>\ud83c\udfae <em>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c: ChatRTX \u043f\u043e\u0445\u043e\u0436 \u043d\u0430 \u201c\u043e\u0444\u0438\u0441\u043d\u044b\u0439 \u043f\u0430\u043a\u0435\u0442 \u043e\u0442 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044f \u0436\u0435\u043b\u0435\u0437\u0430\u201d. \u041f\u043e\u043c\u043d\u0438\u0442\u0435, \u043a\u0430\u043a \u0432 \u043d\u0443\u043b\u0435\u0432\u044b\u0435 \u043a \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u0430\u0442\u0435\u0440\u0438\u043d\u043a\u0435 \u0448\u0451\u043b \u0434\u0438\u0441\u043a \u0441 \u0444\u0438\u0440\u043c\u0435\u043d\u043d\u044b\u043c \u0430\u043d\u0442\u0438\u0432\u0438\u0440\u0443\u0441\u043e\u043c? \u0422\u0430\u043a \u0432\u043e\u0442, ChatRTX \u2013 \u044d\u0442\u043e Nvidia, \u0437\u0430\u0431\u043e\u0442\u043b\u0438\u0432\u043e \u043f\u043e\u043b\u043e\u0436\u0438\u0432\u0448\u0430\u044f \u0432 \u043a\u043e\u0440\u043e\u0431\u043a\u0443 \u0441\u0432\u043e\u0439 \u0418\u0418.<\/em><\/p>\n<\/blockquote>\n<hr\/>\n<p><strong><em>Msty<\/em><\/strong><em> \u2013 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u0431\u044b\u0441\u0442\u0440\u043e \u0438 \u0443\u0434\u043e\u0431\u043d\u043e \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0418\u0418-\u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 GGUF. \u0427\u0438\u0442\u0430\u0439\u0442\u0435 \u043e\u0431 \u044d\u0442\u043e\u043c \u043f\u043e \u0441\u0441\u044b\u043b\u043a\u0435:<\/em><\/p>\n<p><a href=\"https:\/\/habr.com\/ru\/companies\/bothub\/articles\/967384\/\" target=\"_blank\" rel=\"noopener noreferrer nofollow\" class=\"embed_link embed_layout-right\"><\/p>\n<div class=\"embed__thumb\" style=\"background-image: url(&quot;https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dee\/eaf\/03a\/deeeaf03a76bb80fc5f4f44610802356.jpg&quot;);\"><\/div>\n<div class=\"embed__caption\">\n<div class=\"embed__caption-title\"><span>\u041e\u0431\u0437\u043e\u0440 Msty: \u0443\u043c\u043d\u044b\u0435 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u044b \u0438\u00a0\u0438\u0445\u00a0\u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u044f \u0441\u00a0BotHub<\/span><\/div>\n<div class=\"embed__caption-description\">Msty Studio \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u043e\u0441\u0442\u044c \u0441\u0440\u0435\u0434\u0438 \u0442\u0435\u0445, \u043a\u0442\u043e \u043e\u0431\u0449\u0430\u0435\u0442\u0441\u044f \u0441\u00a0\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u043c \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u043e\u043c: &#8230;<\/div>\n<p><span class=\"embed__caption-host\">habr.com<\/span><\/div>\n<p><\/a><\/p>\n<hr\/>\n<h2>\u0422\u043e\u043f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 2026 \u0433\u043e\u0434\u0430: \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0441\u0442\u043e\u0438\u0442 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u0434\u043e\u043c\u0430<\/h2>\n<p>\u041e\u043a\u0435\u0439, \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u044b \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043b\u0438 \u2013 \u0442\u0435\u043f\u0435\u0440\u044c \u043a \u0441\u0430\u043c\u043e\u043c\u0443 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u043c\u0443. \u042f \u043e\u0442\u043e\u0431\u0440\u0430\u043b \u0434\u0435\u0441\u044f\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435, \u043d\u0430 \u043c\u043e\u0439 \u0432\u0437\u0433\u043b\u044f\u0434, \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b \u0434\u043b\u044f \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432 2026 \u0433\u043e\u0434\u0443. \u041f\u043e\u0434\u0431\u043e\u0440 \u043e\u0441\u043d\u043e\u0432\u0430\u043d \u043d\u0430 \u0442\u0440\u0451\u0445 \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u044f\u0445: \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u0438\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u0443\u044e \u043d\u0438\u0448\u0443 \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u043c\u0438 \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0430\u043c\u0438. \u041f\u043e\u0435\u0445\u0430\u043b\u0438.<\/p>\n<h3>1. Gemma 4 \u2013 \u0437\u0432\u0435\u0437\u0434\u0430 \u0441\u0435\u0437\u043e\u043d\u0430<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/89e\/c93\/7e7\/89ec937e736f0b1866a1a0fe653a6a74.png\" width=\"1300\" height=\"731\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/89e\/c93\/7e7\/89ec937e736f0b1866a1a0fe653a6a74.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/89e\/c93\/7e7\/89ec937e736f0b1866a1a0fe653a6a74.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0431\u044b \u0443 \u043c\u0435\u043d\u044f \u0441\u043f\u0440\u043e\u0441\u0438\u043b\u0438: \u201c\u041a\u0430\u043a\u0443\u044e \u043e\u0434\u043d\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u043d\u0430 \u043d\u043e\u0432\u044b\u0439 \u043d\u043e\u0443\u0442\u0431\u0443\u043a?\u201d \u2013 \u044f \u0431\u044b \u043d\u0435 \u0437\u0430\u0434\u0443\u043c\u044b\u0432\u0430\u044f\u0441\u044c \u0441\u043a\u0430\u0437\u0430\u043b: <strong>Gemma 4<\/strong>. \u0420\u0435\u043b\u0438\u0437 2 \u0430\u043f\u0440\u0435\u043b\u044f 2026 \u0433\u043e\u0434\u0430 \u043f\u043e\u0434 Apache 2.0, \u0447\u0435\u0442\u044b\u0440\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u2013 E2B, E4B, 26B MoE \u0438 31B Dense. \u041f\u043e \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u043c 31B-\u0432\u0435\u0440\u0441\u0438\u044f \u043f\u0440\u043e\u0431\u0438\u043b\u0430 \u0442\u043e\u043f-3 Arena AI Leaderboard \u0438 \u043f\u043e\u0431\u0435\u0436\u0434\u0430\u043b\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 20 \u0440\u0430\u0437 \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u2013 \u0434\u043b\u044f \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0430 \u044d\u0442\u043e \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u0430\u044f \u0437\u0430\u044f\u0432\u043a\u0430.<\/p>\n<p>\u0421\u0430\u043c\u043e\u0435 \u0441\u043b\u0430\u0434\u043a\u043e\u0435 \u2013 <strong>26B MoE<\/strong>. \u042d\u0442\u043e mixture-of-experts: \u0432\u0441\u0435\u0433\u043e 26 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043d\u043e \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e 4 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u0430 \u043d\u0430 \u0442\u043e\u043a\u0435\u043d. \u041d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442: \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f \u0431\u043b\u0438\u0437\u043a\u043e \u043a \u043f\u043e\u043b\u043d\u043e\u0439 31B-\u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u0441\u0451 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432 14 \u0413\u0411 VRAM \u043f\u0440\u0438 Q4-\u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0438. \u0422\u043e \u0435\u0441\u0442\u044c <strong>\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043a\u0430\u043a \u0443 4B-\u043c\u043e\u0434\u0435\u043b\u0438, \u0443\u043c \u2013 \u043a\u0430\u043a \u0443 30B<\/strong>. \u041d\u0430 RTX 4070 Ti \u0441 16 \u0413\u0411 \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f \u0432 Q4 \u0441\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e \u043e\u043a\u043e\u043b\u043e 30 \u0442\u043e\u043a\u0435\u043d\/\u0441. \u041d\u0430 M4 Pro MacBook \u2013 \u043e\u043a\u043e\u043b\u043e 50 \u0442\u043e\u043a\u0435\u043d\/\u0441.<\/p>\n<p>\u0411\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u044e\u0449\u0438\u0435: 31B-\u0432\u0435\u0440\u0441\u0438\u044f \u0432\u044b\u0434\u0430\u0451\u0442 89,2% \u043d\u0430 AIME 2026 (\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430), 80,0% \u043d\u0430 LiveCodeBench v6 (\u043a\u043e\u0434\u0438\u043d\u0433), 84,3% \u043d\u0430 GPQA Diamond (\u043d\u0430\u0443\u043a\u0430). \u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u2013 \u0443 Gemma 3 \u043d\u0430 \u0442\u0435\u0445 \u0436\u0435 \u0442\u0435\u0441\u0442\u0430\u0445 \u0431\u044b\u043b\u043e 20,8%, 29,% \u0438 42,4%. \u0422\u043e \u0435\u0441\u0442\u044c <strong>\u043a\u0430\u0436\u0434\u0430\u044f \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u0432\u044b\u0440\u043e\u0441\u043b\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u0437\u0430 \u043e\u0434\u043d\u043e \u043f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435<\/strong>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"198\" width=\"198\">\n<p align=\"left\">\u0412\u0430\u0440\u0438\u0430\u043d\u0442<\/p>\n<\/td>\n<td data-colwidth=\"196\" width=\"196\">\n<p align=\"left\">\u0410\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b<\/p>\n<\/td>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">VRAM (Q4)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u0443\u0447\u0448\u0435 \u0432\u0441\u0435\u0433\u043e \u0434\u043b\u044f<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"198\" width=\"198\">\n<p align=\"left\"><strong>Gemma 4 E2B<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"196\" width=\"196\">\n<p align=\"left\">2,3 \u043c\u043b\u0440\u0434<\/p>\n<\/td>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">~1,5 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">Raspberry Pi, \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"198\" width=\"198\">\n<p align=\"left\"><strong>Gemma 4 E4B<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"196\" width=\"196\">\n<p align=\"left\">4,5 \u043c\u043b\u0440\u0434<\/p>\n<\/td>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">~3 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041d\u043e\u0443\u0442\u0431\u0443\u043a\u0438, \u0431\u044b\u0441\u0442\u0440\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438, \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"198\" width=\"198\">\n<p align=\"left\"><strong>Gemma 4 26B MoE<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"196\" width=\"196\">\n<p align=\"left\">3,8 \u043c\u043b\u0440\u0434 (\u0438\u0437 26)<\/p>\n<\/td>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">~14 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u0443\u0447\u0448\u0438\u0439 \u0431\u0430\u043b\u0430\u043d\u0441, \u043e\u0431\u0449\u0438\u0439 \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"198\" width=\"198\">\n<p align=\"left\"><strong>Gemma 4 31B Dense<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"196\" width=\"196\">\n<p align=\"left\">31 \u043c\u043b\u0440\u0434<\/p>\n<\/td>\n<td data-colwidth=\"127\" width=\"127\">\n<p align=\"left\">~18 \u0413\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 (\u043d\u0430 24 \u0413\u0411 GPU)<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><strong>\u0417\u0430\u043f\u0443\u0441\u043a \u0447\u0435\u0440\u0435\u0437 Ollama<\/strong> (\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0434\u043b\u044f Windows\/Mac\/Linux):<\/p>\n<pre><code class=\"bash\">ollama run gemma4:26b\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 # \u043d\u0430\u0440\u043e\u0434\u043d\u044b\u0439 \u0432\u044b\u0431\u043e\u0440ollama run gemma4:e4b\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 # \u0431\u044b\u0441\u0442\u0440\u044b\u0439, \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043bollama run gemma4:31b\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 # \u043c\u0430\u043a\u0441. \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e, \u043d\u0443\u0436\u043d\u043e 24 \u0413\u0411<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>E2B \u0438 E4B \u2013 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435, \u043f\u043e\u043d\u0438\u043c\u0430\u044e\u0442 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0438 \u0437\u0432\u0443\u043a. \u0421\u0442\u0430\u0440\u0448\u0438\u0435 26B \u0438 31B \u2013 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u0435\u043a\u0441\u0442. \u0425\u043e\u0442\u0438\u0442\u0435 \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u2013 \u0431\u0435\u0440\u0438\u0442\u0435 E4B.<\/p>\n<blockquote>\n<p>\u26a0\ufe0f <strong>\u041f\u043e\u0434\u0432\u043e\u0434\u043d\u044b\u0435 \u043a\u0430\u043c\u043d\u0438 \u043d\u0430 \u0430\u043f\u0440\u0435\u043b\u044c 2026-\u0433\u043e.<\/strong> \u0412 Ollama \u0441\u043b\u043e\u043c\u0430\u043d tool calling \u0434\u043b\u044f Gemma 4 \u2013 \u043d\u0430 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0430\u0433\u0435\u043d\u0442\u0441\u043a\u0438\u0445 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 (Codex CLI, opencode) \u043b\u0443\u0447\u0448\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c llama.cpp. \u041f\u0430\u0440\u0441\u0435\u0440 tool-call \u043f\u0430\u0434\u0430\u0435\u0442, \u0430 \u0432 \u0441\u0442\u0440\u0438\u043c\u0438\u043d\u0433\u0435 tool-\u0432\u044b\u0437\u043e\u0432\u044b \u0432\u043e\u043e\u0431\u0449\u0435 \u0442\u0435\u0440\u044f\u044e\u0442\u0441\u044f. \u041d\u0430 Apple Silicon \u2013 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u0431\u0430\u0433 \u0441 Flash Attention: \u043d\u0430 M-\u0441\u0435\u0440\u0438\u0438 \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c <code>OLLAMA_FLASH_ATTENTION=1<\/code>, \u0438\u043d\u0430\u0447\u0435 \u043d\u0430 \u043f\u0440\u043e\u043c\u043f\u0442\u0430\u0445 \u0434\u043b\u0438\u043d\u043d\u0435\u0435 ~500 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 31B-\u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u0432\u0438\u0441\u0430\u0435\u0442.<\/p>\n<\/blockquote>\n<p>\u0414\u043b\u044f \u0430\u0433\u0435\u043d\u0442\u0441\u043a\u043e\u0433\u043e \u043a\u043e\u0434\u0438\u043d\u0433\u0430 \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u044f\u0442\u043d\u0430\u044f \u043d\u043e\u0432\u043e\u0441\u0442\u044c: \u043d\u0430 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0435 tau2-bench \u0432 \u043f\u043b\u0430\u043d\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0432\u044b\u0437\u043e\u0432\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 Gemma 4 31B \u0434\u0430\u0451\u0442 86,4% \u2013 \u044d\u0442\u043e \u0443\u0436\u0435 \u0436\u0438\u0437\u043d\u0435\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u044b\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c. \u0420\u0430\u043d\u044c\u0448\u0435 \u0443 Gemma 3 \u0431\u044b\u043b\u043e 6,6%, \u0438 tool calling \u0443 \u043d\u0435\u0451 \u0431\u044b\u043b, \u043c\u044f\u0433\u043a\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u043c\u0451\u0440\u0442\u0432.<\/p>\n<p>\u0421\u0441\u044b\u043b\u043a\u0438: <a href=\"https:\/\/ai.google.dev\/gemma\">\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0430<\/a>; <a href=\"https:\/\/huggingface.co\/google\/gemma-4-26b-a4b-it\">Gemma 4 26B-A4B \u043d\u0430 Hugging Face<\/a>.<\/p>\n<h3>2. Qwen3.6 35B-A3B \u2013 \u043d\u0430\u0440\u043e\u0434\u043d\u0430\u044f \u043b\u044e\u0431\u043e\u0432\u044c \u0434\u043b\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u043e\u0432<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b22\/95e\/414\/b2295e414b28f9dca4e8b13c515611ab.jpg\" width=\"2752\" height=\"1536\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/b22\/95e\/414\/b2295e414b28f9dca4e8b13c515611ab.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b22\/95e\/414\/b2295e414b28f9dca4e8b13c515611ab.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 Gemma \u2013 \u044d\u0442\u043e \u201c\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u043e\u043b\u0434\u0430\u0442\u201d, \u0442\u043e <strong>Qwen3.6 35B-A3B<\/strong> \u2013 \u044d\u0442\u043e \u043f\u0440\u0438\u0446\u0435\u043b\u044c\u043d\u0430\u044f \u0432\u0438\u043d\u0442\u043e\u0432\u043a\u0430 \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u0430\u0443\u0434\u0438\u0442\u043e\u0440\u0438\u0438: \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u043e\u0432. \u041c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0448\u043b\u0430 \u0432 \u0430\u043f\u0440\u0435\u043b\u0435 2026-\u0433\u043e, MoE-\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, 35 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u043a\u0442\u0438\u0432\u043d\u044b \u0432\u0441\u0435\u0433\u043e 3,5B \u043d\u0430 \u0442\u043e\u043a\u0435\u043d.<\/p>\n<p>\u0421\u0430\u043c\u044b\u0439 \u0432\u044b\u0440\u0430\u0437\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u0435\u0439\u0441 \u2013 <a href=\"https:\/\/habr.com\/ru\/articles\/1026482\/\">\u0441\u0442\u0430\u0442\u044c\u044f \u043d\u0430 \u201c\u0425\u0430\u0431\u0440\u0435\u201d<\/a> \u043f\u0440\u043e \u0437\u0430\u043f\u0443\u0441\u043a \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 <strong>RTX 4070 12 GB + 32 \u0413\u0411 RAM<\/strong> \u0447\u0435\u0440\u0435\u0437 LM Studio. \u042d\u0442\u043e, \u0432 \u043e\u0431\u0449\u0435\u043c-\u0442\u043e, \u043e\u0431\u044b\u0447\u043d\u043e\u0435 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u0433\u0435\u0439\u043c\u0435\u0440\u0430. \u0418 \u0432\u043e\u0442 \u044d\u0442\u0430 \u0441\u0432\u044f\u0437\u043a\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0418\u0418-\u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430 \u0434\u043b\u044f \u043a\u043e\u0434\u0430.<\/p>\n<p>\u0424\u0438\u0448\u043a\u0430 \u2013 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 <code>--cmoe<\/code> (\u0438\u043b\u0438 <code>ngl<\/code> + <code>ncmoe<\/code> \u0432 LM Studio). \u041b\u043e\u0433\u0438\u043a\u0430 \u043a\u043e\u043d\u0442\u0440\u0438\u043d\u0442\u0443\u0438\u0442\u0438\u0432\u043d\u0430\u044f: \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0442\u0434\u0430\u0451\u043c \u0432\u0441\u0435 \u0441\u043b\u043e\u0438 \u043d\u0430 GPU, \u043f\u043e\u0442\u043e\u043c \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0442\u044f\u0436\u0451\u043b\u044b\u0435 MoE-\u0432\u0435\u0441\u0430 \u0432 RAM. \u041d\u0430 GPU \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043b\u0451\u0433\u043a\u0438\u0435 \u0442\u0435\u043d\u0437\u043e\u0440\u044b \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f. \u0412 \u0438\u0442\u043e\u0433\u0435 <strong>6,2 \u0413\u0411 VRAM \u0432\u043c\u0435\u0441\u0442\u043e 12 \u0413\u0411<\/strong>, \u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u2013 42 \u0442\u043e\u043a\u0435\u043d\u0430 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u042d\u0442\u043e \u0432\u043f\u043e\u043b\u043d\u0435 \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u0442\u0435\u043c\u043f.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0417\u0430\u0447\u0435\u043c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\"><code>ngl<\/code><\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">40 (\u043c\u0430\u043a\u0441.)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0441\u0435 \u0441\u043b\u043e\u0438 \u043f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u043e\u0442\u0434\u0430\u0442\u044c GPU<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\"><code>ncmoe<\/code><\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">40<\/p>\n<\/td>\n<td>\n<p align=\"left\">MoE-\u0432\u0435\u0441\u0430 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u043c \u0432 RAM<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">Flash attention<\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">\u0412\u043a\u043b\u044e\u0447\u0451\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042d\u043a\u043e\u043d\u043e\u043c\u0438\u044f \u043f\u0430\u043c\u044f\u0442\u0438 \u043f\u043e\u0434 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">65\u00a0536<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u0430\u043b\u0430\u043d\u0441 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\/\u043f\u0430\u043c\u044f\u0442\u044c<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"205\" width=\"205\">\n<p align=\"left\">Batch size<\/p>\n<\/td>\n<td data-colwidth=\"189\" width=\"189\">\n<p align=\"left\">8192<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0411\u044b\u0441\u0442\u0440\u0430\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0411\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0438 \u0437\u0430\u043c\u0435\u0442\u043d\u044b\u0435: SWE-bench Verified 73,4%, Terminal-Bench 2.0 51,5%, GPQA Diamond 86%. \u041f\u043e \u043a\u043e\u0434\u0438\u043d\u0433\u0443 \u043e\u0431\u0433\u043e\u043d\u044f\u0435\u0442 dense-\u043c\u043e\u0434\u0435\u043b\u0438 \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. \u0418 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u2013 <strong>\u043e\u0442\u043b\u0438\u0447\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 \u0440\u0443\u0441\u0441\u043a\u0438\u043c \u044f\u0437\u044b\u043a\u043e\u043c<\/strong>, \u0447\u0442\u043e \u0434\u043b\u044f \u043d\u0430\u0448\u0435\u0439 \u0430\u0443\u0434\u0438\u0442\u043e\u0440\u0438\u0438 \u043a\u0440\u0430\u0439\u043d\u0435 \u0432\u0430\u0436\u043d\u043e.<\/p>\n<pre><code class=\"bash\"># \u0427\u0435\u0440\u0435\u0437 Ollamaollama run qwen3.6:35b-a3b# \u0418\u043b\u0438 \u0441\u043a\u0430\u0447\u0430\u0442\u044c GGUF \u043e\u0442 unsloth \u0438 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0447\u0435\u0440\u0435\u0437 LM Studio# \u0424\u0430\u0439\u043b: qwen3.6-35b-a3b-Q4_K_M.gguf, ~22 \u0413\u0411<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0417\u0430\u043f\u0443\u0441\u043a \u043a\u0430\u043a \u043a\u043e\u0434\u0438\u043d\u0433-\u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430 \u0432 <strong>opencode<\/strong> \u0447\u0435\u0440\u0435\u0437 LM Studio API:<\/p>\n<pre><code class=\"json\">{ \u00a0 \"$schema\": \"https:\/\/opencode.ai\/config.json\", \u00a0 \"provider\": { \u00a0\u00a0\u00a0 \"lmstudio\": { \u00a0\u00a0\u00a0\u00a0\u00a0 \"npm\": \"@ai-sdk\/openai-compatible\", \u00a0\u00a0\u00a0\u00a0\u00a0 \"name\": \"LM Studio (local)\", \u00a0\u00a0\u00a0\u00a0\u00a0 \"options\": { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"baseURL\": \"http:\/\/172.18.0.1:1234\/v1\" \u00a0\u00a0\u00a0\u00a0\u00a0 }, \u00a0\u00a0\u00a0\u00a0\u00a0 \"models\": { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"qwen\/qwen3.6-35b-a3b\": { \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"name\": \"Qwen3.6 35B a3b (local)\" \u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 } \u00a0\u00a0\u00a0\u00a0\u00a0 } \u00a0\u00a0 \u00a0} \u00a0 } }<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0410 \u0434\u0430\u043b\u044c\u0448\u0435 \u2013 \u043c\u0430\u0433\u0438\u044f: \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0430\u043c\u0430 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442 explore-\u0430\u0433\u0435\u043d\u0442\u0430, \u0434\u0435\u043b\u0430\u0435\u0442 173 \u0432\u044b\u0437\u043e\u0432\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u043f\u0435\u0440\u0435\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u043a\u043e\u0434\u043e\u0432\u0443\u044e \u0431\u0430\u0437\u0443. \u042d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u201c\u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a\u201d, \u0430 \u043f\u043e\u0447\u0442\u0438 \u0434\u0436\u0443\u043d.<\/p>\n<h3>3. Qwen 3.5 9B \u2013 \u043b\u0451\u0433\u043a\u0430\u044f \u0438 \u0445\u0438\u0442\u0440\u0430\u044f<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6aa\/db0\/d7b\/6aadb0d7bbc6536a03544f69c897b5e8.jpg\" width=\"3974\" height=\"2649\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/6aa\/db0\/d7b\/6aadb0d7bbc6536a03544f69c897b5e8.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6aa\/db0\/d7b\/6aadb0d7bbc6536a03544f69c897b5e8.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 35B \u2013 \u044d\u0442\u043e \u201c\u0434\u043b\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u043e\u0432 \u0441 RTX 4070\u201d, \u0442\u043e <strong>Qwen 3.5 9B<\/strong> \u2013 \u044d\u0442\u043e \u201c\u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445, \u0443 \u043a\u043e\u0433\u043e \u0445\u043e\u0442\u044f \u0431\u044b 8 \u0413\u0411 VRAM\u201d. \u0418 \u044d\u0442\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0441\u0430\u043c\u0430\u044f \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u043e\u0431\u0437\u043e\u0440\u0435.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u0444\u0438\u0448\u043a\u0430 \u2013 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 <strong>Gated DeltaNet (GDN)<\/strong>. \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0445 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u043e\u0432, \u0443 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 KV-\u043a\u0435\u0448 \u0440\u0430\u0441\u0442\u0451\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u0441 \u0434\u043b\u0438\u043d\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u0443 GDN \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f. \u0422\u043e \u0435\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u043d\u0435 \u0441\u044a\u0435\u0434\u0430\u044f \u0432\u0441\u0451 \u0431\u043e\u043b\u044c\u0448\u0435 \u0438 \u0431\u043e\u043b\u044c\u0448\u0435 VRAM \u043f\u043e \u043c\u0435\u0440\u0435 \u0443\u0434\u043b\u0438\u043d\u0435\u043d\u0438\u044f \u0441\u0435\u0441\u0441\u0438\u0438. \u041f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u043e 262K \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u0442\u0438\u0432\u043d\u043e \u2013 \u0434\u043b\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 9 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u044d\u0442\u043e, \u043c\u044f\u0433\u043a\u043e \u0433\u043e\u0432\u043e\u0440\u044f, \u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e.<\/p>\n<p>\u0420\u0430\u0437\u043c\u0435\u0440 \u043d\u0430 \u0434\u0438\u0441\u043a\u0435 \u2013 \u043e\u043a\u043e\u043b\u043e 6,6 \u0413\u0411. \u0412 Q4_K_M \u043d\u0443\u0436\u043d\u043e 5,1\u20135,7 \u0413\u0411 VRAM. \u041d\u0430 8-\u0433\u0438\u0433\u043e\u0432\u043e\u0439 \u043a\u0430\u0440\u0442\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0442\u044c \u0434\u043e 60 000 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0431\u0435\u0437 \u043f\u0440\u043e\u0431\u043b\u0435\u043c \u2013 \u0432\u043e\u0442 \u044d\u0442\u043e \u0443\u0436\u0435 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u0434\u043e\u043b\u0433\u0438\u0445 \u0441\u0435\u0441\u0441\u0438\u0439.<\/p>\n<p>\u0418 \u0447\u0442\u043e \u043c\u0435\u043d\u044f \u043b\u0438\u0447\u043d\u043e \u043f\u043e\u0434\u043a\u0443\u043f\u0438\u043b\u043e \u0432 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u2013 <strong>\u043e\u043d\u0430 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0430 \u0438\u0437 \u043a\u043e\u0440\u043e\u0431\u043a\u0438<\/strong>. Qwen 3.5 9B \u043d\u0430\u0442\u0438\u0432\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0441 \u0442\u0435\u043a\u0441\u0442\u043e\u043c, \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u0438 \u0434\u0430\u0436\u0435 \u0432\u0438\u0434\u0435\u043e \u0438\u0437 \u043e\u0434\u043d\u0438\u0445 \u0438 \u0442\u0435\u0445 \u0436\u0435 \u0432\u0435\u0441\u043e\u0432 \u2013 \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0445 vision-\u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u043e\u0432 \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u0442\u044c \u0438\u043b\u0438 \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c \u043d\u0435 \u043d\u0443\u0436\u043d\u043e.<\/p>\n<p>\u0418\u0437 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f: \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u044b\u0441\u0442\u0440\u043e \u0447\u0438\u0442\u0430\u0435\u0442 PDF \u0438 \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u0435\u0442 160-\u0441\u0442\u0440\u0430\u043d\u0438\u0447\u043d\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442. \u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0437 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u2013 \u0434\u0430\u0436\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0435 \u0431\u0435\u0437 \u0447\u0451\u0442\u043a\u043e\u0439 \u043a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u0438 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0440\u043e\u0441\u0442\u043e \u0448\u0435\u0440\u0441\u0442\u044c \u043a\u043e\u0442\u0430 \u043d\u0430 \u043e\u0434\u0435\u044f\u043b\u0435) \u043e\u043d\u0430 \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u043e \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0441\u0446\u0435\u043d\u0443.<\/p>\n<p>\u041f\u0430\u0440\u043e\u0447\u043a\u0430 \u043b\u0430\u0439\u0444\u0445\u0430\u043a\u043e\u0432: <strong>thinking mode \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0432\u043a\u043b\u044e\u0447\u0451\u043d.<\/strong> \u0415\u0441\u043b\u0438 \u0432\u0430\u043c \u043d\u0435 \u043d\u0443\u0436\u043d\u043e \u201c\u0434\u0443\u043c\u0430\u0442\u044c \u0432\u0441\u043b\u0443\u0445\u201d \u2013 \u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u0435. \u0422\u0430\u043a\u0436\u0435 \u0443\u0432\u0435\u043b\u0438\u0447\u044c\u0442\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043d\u043e\u0435 \u043e\u043a\u043d\u043e (\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e runner \u0441\u0442\u0430\u0432\u0438\u0442 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u043e\u0435) \u0438 \u043f\u043e\u0441\u0442\u0430\u0432\u044c\u0442\u0435 <code>presence_penalty<\/code> \u043e\u043a\u043e\u043b\u043e <code>1.5<\/code> \u2013 \u044d\u0442\u043e \u0441\u043f\u0430\u0441\u0430\u0435\u0442 \u043e\u0442 \u201c\u043c\u043d\u043e\u0433\u043e\u0441\u043b\u043e\u0432\u0438\u044f\u201d. \u0412 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u043f\u0440\u043e\u043c\u043f\u0442 \u2013 \u201cBe concise, skip the preamble\u201d.<\/p>\n<pre><code class=\"bash\">ollama run qwen3.5:9b# \u0418\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 LM Studio \u2013 \u0442\u0430\u043c \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043b\u0430\u0439\u0434\u0435\u0440\u044b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h3>4. gpt-oss-20b \u2013 \u0431\u043b\u0438\u0437\u043a\u043e\u0435 \u043a ChatGPT, \u043d\u043e \u0434\u043e\u043c\u0430<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3c6\/229\/1b0\/3c62291b0ab8e2cc71d5dcd180ea49b3.png\" width=\"4640\" height=\"1952\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/3c6\/229\/1b0\/3c62291b0ab8e2cc71d5dcd180ea49b3.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/3c6\/229\/1b0\/3c62291b0ab8e2cc71d5dcd180ea49b3.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0410\u0432\u0433\u0443\u0441\u0442 2025-\u0433\u043e \u0441\u0442\u0430\u043b \u0441\u0442\u0440\u0430\u043d\u043d\u044b\u043c \u043c\u0435\u0441\u044f\u0446\u0435\u043c: <strong>OpenAI, \u0442\u0430 \u0441\u0430\u043c\u0430\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043c\u043d\u043e\u0433\u043e \u043b\u0435\u0442 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0430 \u201copen\u201d \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0438, \u0432\u044b\u043f\u0443\u0441\u0442\u0438\u043b\u0430 open-weight-\u043c\u043e\u0434\u0435\u043b\u0438<\/strong>. \u0418 \u044d\u0442\u043e \u0431\u044b\u043b\u0438 gpt-oss-20b \u0438 gpt-oss-120b. 120B \u2013 \u0434\u043b\u044f \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432. 20B \u2013 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0443\u0436\u0435 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439.<\/p>\n<p>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430: 21 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, MoE \u0441 3,6B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u043c\u0438 \u043d\u0430 \u0442\u043e\u043a\u0435\u043d \u2013 \u0442\u043e \u0435\u0441\u0442\u044c \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043a\u0430\u043a \u0443 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 3-4B-\u043c\u043e\u0434\u0435\u043b\u0438. \u041d\u0430\u0442\u0438\u0432\u043d\u043e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e 128K \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u041f\u0430\u043c\u044f\u0442\u044c: GPT-OSS 20B \u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 high-end \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u2013 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442\u0441\u044f \u043c\u0438\u043d\u0438\u043c\u0443\u043c 32 \u0413\u0411 RAM, \u0438 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u0430 \u043a\u0430\u0440\u0442\u0430 \u0441 12+ \u0413\u0411 VRAM. \u041d\u0430 8-\u0433\u0438\u0433\u043e\u0432\u043e\u0439 3070 \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0440\u0435\u0437\u0430\u0442\u044c (\u043c\u044b \u0443\u0436\u0435 \u043e\u0431\u0441\u0443\u0436\u0434\u0430\u043b\u0438 \u043f\u043e\u0447\u0435\u043c\u0443).<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1cc\/d05\/41f\/1ccd0541f0a909d6bdb4e62b04be3b3c.webp\" width=\"2945\" height=\"1790\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/1cc\/d05\/41f\/1ccd0541f0a909d6bdb4e62b04be3b3c.webp 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1cc\/d05\/41f\/1ccd0541f0a909d6bdb4e62b04be3b3c.webp 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0421\u0442\u0438\u043b\u044c \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u2013 \u0443\u0437\u043d\u0430\u0432\u0430\u0435\u043c\u043e \u201c\u043e\u043f\u0435\u043d\u0430\u0438\u0448\u043d\u044b\u0439\u201d. \u042d\u0442\u043e \u0431\u043b\u0438\u0436\u0435 \u0432\u0441\u0435\u0433\u043e \u043a \u0442\u043e\u043c\u0443 \u0441\u0430\u043c\u043e\u043c\u0443 \u201c\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c\u0443 ChatGPT\u201d \u2013 \u043e\u0442\u0432\u0435\u0442\u044b \u0437\u043d\u0430\u043a\u043e\u043c\u044b \u043f\u043e \u0442\u043e\u043d\u0443, \u0438 \u0431\u0430\u0437\u043e\u0432\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0432\u0430\u043b\u0438\u0442.<\/p>\n<p>\u0413\u0434\u0435 \u0431\u043b\u0438\u0441\u0442\u0430\u0435\u0442: <strong>\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f, \u0440\u0430\u0437\u0431\u043e\u0440 \u043f\u043b\u043e\u0442\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u043e\u0432, \u043a\u043e\u0434\u043e\u0432\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441 \u0446\u0435\u043f\u043e\u0447\u043a\u043e\u0439 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f<\/strong>. \u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442 \u0441 \u0442\u044f\u0436\u0451\u043b\u044b\u043c \u0436\u0430\u0440\u0433\u043e\u043d\u043e\u043c (\u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u0439, \u044e\u0440\u0438\u0434\u0438\u0447\u0435\u0441\u043a\u0438\u0439, \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0439) \u2013 gpt-oss-20b \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u0435\u0433\u043e \u043f\u043e\u0436\u0443\u0451\u0442.<\/p>\n<p>\u0413\u0434\u0435 \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u0435\u0442: <strong>\u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0441\u0435\u0441\u0441\u0438\u0438 \u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442<\/strong>. \u041d\u0430 8 \u0413\u0411 VRAM \u043e\u043a\u043d\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0431\u044b\u0441\u0442\u0440\u043e \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u2013 \u0442\u043e\u043a\u0435\u043d\u044b \u0437\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0440\u0430\u043d\u044c\u0448\u0435, \u0447\u0435\u043c \u0445\u043e\u0447\u0435\u0442\u0441\u044f. \u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 16+ \u0413\u0411 VRAM, \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430 \u0441\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0441\u043a\u0440\u044b\u0432\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>\u041f\u043e\u0434 Apache 2.0, \u0447\u0442\u043e \u0434\u043b\u044f open-weight \u043e\u0442 OpenAI \u2013 \u0441\u0430\u043c\u043e \u043f\u043e \u0441\u0435\u0431\u0435 \u0441\u043e\u0431\u044b\u0442\u0438\u0435 \u0433\u043e\u0434\u0430. \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 Ollama, LM Studio, vLLM, \u0432\u0441\u0451 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e:<\/p>\n<pre><code class=\"bash\">ollama run gpt-oss:20b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h3>5. Mistral Small \/ Mistral 7B \u2013 \u0435\u0432\u0440\u043e\u043f\u0435\u0439\u0441\u043a\u0438\u0439 \u0441\u0435\u0440\u0435\u0434\u043d\u044f\u043a<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fbb\/823\/a68\/fbb823a68132b89debb647242a04916c.png\" width=\"1192\" height=\"667\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/fbb\/823\/a68\/fbb823a68132b89debb647242a04916c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/fbb\/823\/a68\/fbb823a68132b89debb647242a04916c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>Mistral \u2013 \u044d\u0442\u043e, \u043d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0441\u0430\u043c\u044b\u0439 \u201c\u0441\u043f\u043e\u043a\u043e\u0439\u043d\u044b\u0439\u201d \u0431\u0440\u0435\u043d\u0434 \u0432 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u0418\u0418. \u041e\u043d\u0438 \u043d\u0435 \u0434\u0435\u043b\u0430\u044e\u0442 \u0441\u0442\u0430\u0432\u043a\u0443 \u043d\u0430 \u0440\u0435\u0432\u043e\u043b\u044e\u0446\u0438\u044e \u043a\u0430\u0436\u0434\u044b\u0439 \u043c\u0435\u0441\u044f\u0446, \u0430 \u043c\u0435\u0442\u043e\u0434\u0438\u0447\u043d\u043e \u0432\u044b\u043a\u0430\u0442\u044b\u0432\u0430\u044e\u0442 \u043d\u0430\u0434\u0451\u0436\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0443\u043f\u043e\u0440\u043e\u043c \u043d\u0430 \u0435\u0432\u0440\u043e\u043f\u0435\u0439\u0441\u043a\u0438\u0435 \u044f\u0437\u044b\u043a\u0438 \u0438 \u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438.<\/p>\n<p>\u0414\u043b\u044f \u0434\u043e\u043c\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b \u0434\u0432\u0430 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430:<\/p>\n<ul>\n<li>\n<p><strong>Mistral 7B<\/strong> \u2013 \u0432\u0435\u0442\u0435\u0440\u0430\u043d, \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439, \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c. \u0418\u0434\u0435\u0430\u043b\u0435\u043d \u043a\u0430\u043a \u0434\u0435\u0444\u043e\u043b\u0442, \u043a\u043e\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442.<\/p>\n<\/li>\n<li>\n<p><strong>Mistral Small (22B)<\/strong> \u2013 \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u043a\u0430. \u041c\u0438\u043d\u0438\u043c\u0443\u043c 16 \u0413\u0411 RAM, \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u043c\u0430\u044f VRAM ~12 \u0413\u0411, \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u043e\u043a\u043e\u043b\u043e 13 \u0413\u0411. \u041b\u0443\u0447\u0448\u0435 \u0441 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u044f\u043c\u0438, \u043b\u0443\u0447\u0448\u0435 \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c.<\/p>\n<\/li>\n<\/ul>\n<p>Mistral Large 3 \u0431\u044b\u043b \u0432\u044b\u043f\u0443\u0449\u0435\u043d \u0432 \u0434\u0435\u043a\u0430\u0431\u0440\u0435 2025-\u0433\u043e \u2013 \u044d\u0442\u043e \u0443\u0436\u0435 675B MoE, \u0434\u043b\u044f \u0434\u043e\u043c\u0430 \u043d\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u0441\u043e\u0432\u0441\u0435\u043c, \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0442\u0435\u0440. \u041d\u043e \u0438\u0434\u0435\u0438 \u0438 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0434\u043e\u0445\u043e\u0434\u044f\u0442 \u0438 \u0434\u043e \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<p>\u0421\u0438\u043b\u044c\u043d\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b Mistral: \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u0430\u044f \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0435\u0432\u0440\u043e\u043f\u0435\u0439\u0441\u043a\u0438\u0445 \u044f\u0437\u044b\u043a\u043e\u0432 (\u0444\u0440\u0430\u043d\u0446\u0443\u0437\u0441\u043a\u0438\u0439, \u043d\u0435\u043c\u0435\u0446\u043a\u0438\u0439, \u0438\u0441\u043f\u0430\u043d\u0441\u043a\u0438\u0439, \u0438\u0442\u0430\u043b\u044c\u044f\u043d\u0441\u043a\u0438\u0439), \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b\u0439 \u0432\u044b\u0437\u043e\u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u0439 \u0438 \u043f\u043b\u0430\u0432\u0430\u044e\u0449\u0435\u0435 \u043e\u043a\u043d\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0417\u0440\u0435\u043b\u0430\u044f \u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u0430, \u043c\u0430\u043b\u043e \u0441\u044e\u0440\u043f\u0440\u0438\u0437\u043e\u0432 \u2013 \u0442\u043e, \u0447\u0442\u043e \u0446\u0435\u043d\u044f\u0442 \u0432 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d\u0435.<\/p>\n<pre><code class=\"bash\">ollama pull mistral:7bollama run mistral:7b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h3>6. Phi-4 \u2013 \u0434\u043b\u044f \u0441\u043b\u0430\u0431\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d5f\/56d\/274\/d5f56d2744659ac4a91b53977b80024d.jpg\" width=\"1921\" height=\"1081\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/d5f\/56d\/274\/d5f56d2744659ac4a91b53977b80024d.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/d5f\/56d\/274\/d5f56d2744659ac4a91b53977b80024d.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>Phi-4 \u2013 \u044d\u0442\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u043b\u0438\u043d\u0435\u0439\u043a\u0430 \u043e\u0442 Microsoft. \u0418\u0434\u0435\u044f \u2013 <strong>\u0441\u0434\u0435\u043b\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0435\u0434\u0451\u0442 \u0441\u0435\u0431\u044f \u043a\u0430\u043a \u0431\u043e\u043b\u044c\u0448\u0430\u044f<\/strong>. Microsoft \u0432\u0437\u044f\u043b\u0438 \u043a\u0443\u0440\u0441 \u043d\u0430 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u0434\u0430\u043d\u043d\u044b\u043c \u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e \u0438 \u0441\u0443\u043c\u0435\u043b\u0438 \u0432\u044b\u0436\u0430\u0442\u044c \u0438\u0437 3,8B \u0438 14B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432\u043f\u043e\u043b\u043d\u0435 \u0441\u043e\u043b\u0438\u0434\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b.<\/p>\n<p>\u0420\u0430\u0437\u043c\u0435\u0440\u044b: 3,8B \u0438 14B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432. \u041f\u0430\u043c\u044f\u0442\u044c: 14B-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 12 \u0413\u0411 RAM \u043c\u0438\u043d\u0438\u043c\u0443\u043c, \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0443\u0435\u0442\u0441\u044f GPU \u0441 8 \u0413\u0411 VRAM, \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430 \u2013 \u043e\u043a\u043e\u043b\u043e 8 \u0413\u0411. \u0422\u043e \u0435\u0441\u0442\u044c \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f \u0434\u0430\u0436\u0435 \u043d\u0430 \u0441\u043a\u0440\u043e\u043c\u043d\u043e\u0439 RTX 3060 8 \u0413\u0411. 3,8B \u2013 \u043d\u0430 \u0447\u0451\u043c \u0443\u0433\u043e\u0434\u043d\u043e, \u0445\u043e\u0442\u044c \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435 \u0431\u0435\u0437 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u044b.<\/p>\n<p>\u0421\u0438\u043b\u044c\u043d\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u2013 <strong>\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438<\/strong>: \u0438\u0437\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f, JSON-\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f, \u043f\u0440\u043e\u0441\u0442\u044b\u0435 \u0441\u043a\u0440\u0438\u043f\u0442\u044b. \u0413\u0434\u0435 Phi-4 \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u0435\u0442 \u2013 \u044d\u0442\u043e \u0442\u0432\u043e\u0440\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438, \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0442\u0435\u043a\u0441\u0442\u044b \u0441 \u043d\u0430\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0435\u043c, \u043c\u043d\u043e\u0433\u043e\u0441\u0442\u0443\u043f\u0435\u043d\u0447\u0430\u0442\u044b\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f. \u0422\u043e \u0435\u0441\u0442\u044c \u0435\u0441\u043b\u0438 \u0432\u0430\u0448\u0430 \u0440\u0430\u0431\u043e\u0442\u0430 \u2013 \u201c\u0412\u043e\u0437\u044c\u043c\u0438 \u044d\u0442\u043e\u0442 PDF \u0438 \u0432\u044b\u0442\u0430\u0449\u0438 \u043c\u043d\u0435 \u0432\u0441\u0435 \u0438\u043c\u0435\u0439\u043b-\u0430\u0434\u0440\u0435\u0441\u0430 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 CSV\u201d, Phi-4 \u0441\u043f\u0440\u0430\u0432\u0438\u0442\u0441\u044f \u043e\u0442\u043b\u0438\u0447\u043d\u043e. \u0415\u0441\u043b\u0438 \u201c\u041d\u0430\u043f\u0438\u0448\u0438 \u044d\u0441\u0441\u0435 \u043e \u0440\u0443\u0441\u0441\u043a\u043e\u0439 \u043f\u043e\u044d\u0437\u0438\u0438 \u0421\u0435\u0440\u0435\u0431\u0440\u044f\u043d\u043e\u0433\u043e \u0432\u0435\u043a\u0430\u201d \u2013 \u043b\u0443\u0447\u0448\u0435 \u0447\u0442\u043e-\u0442\u043e \u0434\u0440\u0443\u0433\u043e\u0435.<\/p>\n<pre><code class=\"bash\">ollama pull phi4:3.8bollama run phi4:14b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h3>7. DeepSeek R1 \u0438 V3.2 \u2013 \u0440\u0435\u0436\u0438\u043c \u0434\u0443\u043c\u0430\u044e\u0449\u0435\u0433\u043e \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u0430<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cdc\/a88\/8d6\/cdca888d61a87f2f147e656bc6961590.webp\" width=\"1706\" height=\"960\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/cdc\/a88\/8d6\/cdca888d61a87f2f147e656bc6961590.webp 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/cdc\/a88\/8d6\/cdca888d61a87f2f147e656bc6961590.webp 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>DeepSeek \u2013 \u044d\u0442\u043e \u043a\u0438\u0442\u0430\u0439\u0441\u043a\u0438\u0439 \u0441\u0442\u0430\u0440\u0442\u0430\u043f, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u043d\u0435\u0437\u0430\u043f\u043d\u043e \u0441\u0442\u0430\u043b \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u043e\u0439 \u0441\u0438\u043b\u043e\u0439 \u0432 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0435. <strong>DeepSeek V3.2<\/strong> \u2013 \u043c\u043e\u0434\u0435\u043b\u044c \u0441 \u0440\u0435\u0436\u0438\u043c\u043e\u043c \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0434\u0443\u043c\u0430\u0435\u0442 \u0432\u0441\u043b\u0443\u0445 \u043f\u0435\u0440\u0435\u0434 \u043a\u0430\u0436\u0434\u044b\u043c \u043e\u0442\u0432\u0435\u0442\u043e\u043c. \u0421\u0438\u043b\u044c\u043d\u0430 \u0432 \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0445 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f\u0445, \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0435 \u0438 \u0430\u043d\u0430\u043b\u0438\u0437\u0435 \u043a\u043e\u0434\u0430. \u0422\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043e\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430 \u2013 \u043e\u0442 16 \u0413\u0411 RAM \u0434\u043b\u044f \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0445 \u0434\u043e 64+ \u0413\u0411 \u0434\u043b\u044f \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u044b\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439.<\/p>\n<p>\u041f\u043e\u043b\u043d\u0430\u044f V3.2 \u2013 \u044d\u0442\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u0430\u044f \u0438\u0441\u0442\u043e\u0440\u0438\u044f. \u041d\u043e \u0435\u0441\u0442\u044c <strong>\u0434\u0438\u0441\u0442\u0438\u043b\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u043d\u0430 7B<\/strong>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u0434\u043e\u043c\u0430. \u041e\u0431\u044b\u0447\u043d\u043e \u0438\u0445 \u0434\u0435\u043b\u0430\u044e\u0442 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 deepseek-v3.2-exp:7b \u0438\u043b\u0438 deepseek-r1-distill:7b \u2013 \u043f\u043e\u0438\u0449\u0438\u0442\u0435 \u0432 \u043a\u0430\u0442\u0430\u043b\u043e\u0433\u0435 Ollama \u0438\u043b\u0438 \u043d\u0430 Hugging Face.<\/p>\n<p>\u0413\u0434\u0435 DeepSeek \u0445\u043e\u0440\u043e\u0448:<\/p>\n<ul>\n<li>\n<p><strong>\u041c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u043a\u0430 \u0438 \u043f\u043e\u0448\u0430\u0433\u043e\u0432\u044b\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f<\/strong> \u2013 \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u044b\u0439 \u0448\u0430\u0433<\/p>\n<\/li>\n<li>\n<p><strong>\u0410\u043d\u0430\u043b\u0438\u0437 \u043a\u043e\u0434\u0430<\/strong> \u2013 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043a\u043e\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u043e \u043f\u043e\u043d\u044f\u0442\u044c \u0447\u0443\u0436\u0443\u044e \u043b\u043e\u0433\u0438\u043a\u0443<\/p>\n<\/li>\n<li>\n<p><strong>\u041b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u043a\u0438<\/strong> \u2013 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435, \u043f\u0435\u0440\u0435\u0431\u043e\u0440 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0433\u0438\u043f\u043e\u0442\u0435\u0437<\/p>\n<\/li>\n<\/ul>\n<p>\u0413\u0434\u0435 \u0431\u0443\u0434\u0435\u0442 \u0442\u043e\u0440\u043c\u043e\u0437\u0438\u0442\u044c \u2013 \u043e\u0431\u044b\u0447\u043d\u044b\u0435 \u201c\u0431\u043e\u043b\u0442\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0435\u201d \u0437\u0430\u0434\u0430\u0447\u0438. \u041f\u043e\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0435\u0434\u0438\u0442\u0438\u0440\u0443\u0435\u0442, \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043e\u0442\u0432\u0435\u0442 \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043e\u0442 Qwen 3.5 \u0432 \u0442\u0440\u0438 \u0440\u0430\u0437\u0430 \u0431\u044b\u0441\u0442\u0440\u0435\u0435.<\/p>\n<h3>8. Whisper \u2013 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u0439 \u043a\u043e\u0440\u043e\u043b\u044c<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8dc\/089\/3c6\/8dc0893c6fe2a0e0bda991655d44089b.png\" width=\"1280\" height=\"853\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/8dc\/089\/3c6\/8dc0893c6fe2a0e0bda991655d44089b.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/8dc\/089\/3c6\/8dc0893c6fe2a0e0bda991655d44089b.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0432\u0441\u0435 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0435 \u2013 \u044d\u0442\u043e \u043f\u0440\u043e \u0442\u0435\u043a\u0441\u0442, \u0442\u043e <strong>Whisper<\/strong> \u2013 \u043f\u0440\u043e \u0437\u0432\u0443\u043a. \u042d\u0442\u043e \u0442\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u0431\u0430\u0446\u0438\u044f: \u0432\u044b \u0434\u0430\u0451\u0442\u0435 \u0430\u0443\u0434\u0438\u043e\u0444\u0430\u0439\u043b, \u043e\u043d \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 \u0442\u0435\u043a\u0441\u0442.<\/p>\n<p>Whisper \u2013 \u043e\u0442\u043a\u0440\u044b\u0442\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442 OpenAI (\u043e\u0434\u043d\u0430 \u0438\u0437 \u043d\u0435\u043c\u043d\u043e\u0433\u0438\u0445, \u043a\u0441\u0442\u0430\u0442\u0438, \u0438 \u0434\u0430, \u0432\u044b\u043f\u0443\u0449\u0435\u043d\u0430 \u0441\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u043d\u044c\u0448\u0435 gpt-oss). \u041f\u043e\u0434 \u043a\u0430\u043f\u043e\u0442\u043e\u043c \u2013 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440, \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u044b\u0439 \u043d\u0430 680 000 \u0447\u0430\u0441\u043e\u0432 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u043e\u0433\u043e \u0430\u0443\u0434\u0438\u043e. \u041d\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442 \u0435\u0451 \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u0435 \u0447\u0435\u0440\u0435\u0437 PyTorch, \u0430 \u0447\u0435\u0440\u0435\u0437 <strong>whisper.cpp<\/strong> \u2013 \u043f\u043e\u0440\u0442 \u043d\u0430 C\/C++ \u043e\u0442 \u0413\u0435\u043e\u0440\u0433\u0438\u044f \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u0430 (\u0442\u043e\u0433\u043e \u0436\u0435 \u0430\u0432\u0442\u043e\u0440\u0430 llama.cpp \u0438 \u0444\u043e\u0440\u043c\u0430\u0442\u0430 GGUF\/GGML).<\/p>\n<p>\u0420\u0430\u0437\u043c\u0435\u0440\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439: tiny (~75 MB), base (~140 MB), small (~480 MB), medium (~1,5 \u0413\u0411), large-v3 (~3 \u0413\u0411). \u0418 \u0435\u0441\u0442\u044c \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b\u0439 distill-large-v3, \u043a\u043e\u0442\u043e\u0440\u044b\u0439, \u043f\u043e \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u043c Hugging Face, \u043d\u0430 Mac M1 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u043f\u044f\u0442\u044c \u0440\u0430\u0437 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 full large-v3, \u0442\u0435\u0440\u044f\u044f \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u0435\u043d\u044c\u0448\u0435 1% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 (WER) \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u043e\u043c \u0430\u0443\u0434\u0438\u043e.<\/p>\n<p>\u0421 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e \u043d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0432\u043e\u043e\u0431\u0449\u0435 \u043f\u0435\u0441\u043d\u044f: \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u0438\u043c\u0438\u043d\u0443\u0442\u043d\u043e\u0435 \u0441\u043e\u0432\u0435\u0449\u0430\u043d\u0438\u0435 whisper.cpp \u043d\u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u043e\u0439 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u0431\u0438\u0440\u0443\u0435\u0442 \u043d\u0430 MacBook Air \u0437\u0430 100\u2013120 \u0441\u0435\u043a\u0443\u043d\u0434. \u041f\u043e\u043b\u0447\u0430\u0441\u0430 \u0430\u0443\u0434\u0438\u043e \u2013 \u0437\u0430 \u0434\u0432\u0435 \u043c\u0438\u043d\u0443\u0442\u044b. \u041d\u0430 GPU (CUDA) \u2013 \u0435\u0449\u0451 \u0432 \u0440\u0430\u0437\u044b \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0434\u043e 30-\u043a\u0440\u0430\u0442\u043d\u043e\u0433\u043e \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f \u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 CPU. \u041e\u0434\u043d\u0430\u043a\u043e \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043a\u0440\u0443\u043f\u043d\u0430\u044f (large-v3 \u2013 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0442\u043e\u0447\u043d\u043e \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442 \u0441\u043b\u043e\u0432\u0430, \u043f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435 \u043a\u043e\u0433\u0434\u0430 \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u043f\u043e \u043e\u0447\u0435\u0440\u0435\u0434\u0438) \u0438 \u044f\u0437\u044b\u043a \u043d\u0435\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439, \u0442\u043e \u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u0441\u0442\u043e\u0438\u0442 \u0443\u043c\u043d\u043e\u0436\u0430\u0442\u044c \u0440\u0430\u0437 \u0432 \u0441\u0435\u043c\u044c: \u043d\u0430 RTX 3060 12 \u0413\u0411 30-\u043c\u0438\u043d\u0443\u0442\u043d\u044b\u0439 \u0444\u0430\u0439\u043b \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u043c\u0438\u043d\u0443\u0442 15, \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u0440\u0435\u0447\u0438, \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043f\u043e\u043b\u043d\u0438\u0442 \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u044e \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c.<\/p>\n<p><strong>\u0427\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>WhisperDesktop<\/strong> \u2013 Windows-\u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0441 GUI, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 DirectCompute, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043b\u044e\u0431\u044b\u0445 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0445 \u0441 DirectX 11. \u0421\u043a\u0430\u0447\u0430\u043b\u0438 .exe, \u0432\u044b\u0431\u0440\u0430\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c, \u0432\u044b\u0431\u0440\u0430\u043b\u0438 \u0444\u0430\u0439\u043b \u2013 \u0433\u043e\u0442\u043e\u0432\u043e.<\/p>\n<\/li>\n<li>\n<p><strong>whisper.cpp<\/strong> \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u2013 \u0434\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u043d\u0435 \u0431\u043e\u0438\u0442\u0441\u044f \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0430:<\/p>\n<\/li>\n<\/ul>\n<pre><code class=\"bash\"># \u0421\u043a\u0430\u0447\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044cbash .\/models\/download-ggml-model.sh medium# \u0422\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c.\/build\/bin\/whisper-cli -m models\/ggml-medium.bin -f audio.wav<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<ul>\n<li>\n<p><strong>MacWhisper<\/strong> \u0438\u043b\u0438 <strong>Vocoding<\/strong> \u2013 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0434\u043b\u044f Mac \u0441 \u043a\u0440\u0430\u0441\u0438\u0432\u044b\u043c \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441\u043e\u043c \u043f\u043e\u0432\u0435\u0440\u0445 whisper.cpp.<\/p>\n<\/li>\n<\/ul>\n<p>Whisper Large v3 \u2013 \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u044d\u0442\u043e\u0439 \u043f\u043e\u0434\u0431\u043e\u0440\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0435 \u0441\u0435\u0440\u0432\u0438\u0441\u044b \u0434\u043b\u044f \u0441\u0432\u043e\u0435\u0439 \u0437\u0430\u0434\u0430\u0447\u0438.<\/p>\n<h3>9. Llama 4 8B\u26b9 \u2013 \u043d\u0430\u0440\u043e\u0434\u043d\u044b\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442<\/h3>\n<p>\u041b\u0438\u043d\u0435\u0439\u043a\u0430 Meta\u2019\u0448\u043d\u043e\u0439\u26b9 Llama\u26b9 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0431\u044b\u0442\u044c \u201c\u044d\u0442\u0430\u043b\u043e\u043d\u043d\u044b\u043c \u0434\u0440\u043e\u0436\u0436\u0435\u0432\u044b\u043c \u0442\u0435\u0441\u0442\u043e\u043c\u201d \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. Llama 4 8B\u26b9 \u2013 \u044d\u0442\u043e \u201c\u0437\u043e\u043b\u043e\u0442\u043e\u0439 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u201d \u0434\u043b\u044f \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447. \u0425\u0432\u0430\u0442\u0438\u0442 RTX 3060 \u0441 6 \u0413\u0411 VRAM, \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430 \u043e\u043a\u043e\u043b\u043e 4,5 \u0413\u0411. \u0417\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f \u043d\u0430 \u0447\u0451\u043c \u0443\u0433\u043e\u0434\u043d\u043e \u043e\u0442 RTX 3060 \u0438 \u0432\u044b\u0448\u0435.<\/p>\n<p>\u0421\u0438\u043b\u044c\u043d\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b: <strong>\u043e\u0433\u0440\u043e\u043c\u043d\u0430\u044f \u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u043e\u0432<\/strong>. \u0415\u0441\u043b\u0438 \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c, \u043f\u043e\u0447\u0442\u0438 \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u043a\u0442\u043e-\u0442\u043e \u043d\u0430 Hugging Face \u0443\u0436\u0435 \u043e\u0431\u0443\u0447\u0438\u043b \u0442\u0430\u043a\u0443\u044e \u043d\u0430 \u0431\u0430\u0437\u0435 Llama\u26b9. \u042d\u0442\u043e, \u043f\u043e\u0436\u0430\u043b\u0443\u0439, \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u043e \u043f\u0435\u0440\u0435\u0434 \u0431\u043e\u043b\u0435\u0435 \u044d\u043a\u0437\u043e\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438.<\/p>\n<p>\u0421\u043b\u0430\u0431\u044b\u0435 \u0441\u0442\u043e\u0440\u043e\u043d\u044b: <strong>\u043d\u0430 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u0430\u0445 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0443\u0441\u0442\u0443\u043f\u0430\u0442\u044c Gemma 4 \u0438 Qwen3.5 \u043f\u0440\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u043e\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u0435<\/strong>. \u0422\u043e \u0435\u0441\u0442\u044c \u043a\u0430\u043a \u0434\u0435\u0444\u043e\u043b\u0442 \u2013 \u0434\u0430, \u043a\u0430\u043a \u201c\u043b\u0443\u0447\u0448\u0435\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u201d \u2013 \u0443\u0436\u0435 \u043d\u0435\u0442.<\/p>\n<pre><code class=\"bash\">ollama run llama4:8b# \u26b9 Llama \u2013 \u043f\u0440\u043e\u0435\u043a\u0442 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438 Meta Platforms Inc., \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u043f\u0440\u0435\u0449\u0435\u043d\u0430 \u043d\u0430 \u0442\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u0438 \u0420\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u0424\u0435\u0434\u0435\u0440\u0430\u0446\u0438\u0438.<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0418 \u0435\u0441\u0442\u044c \u0435\u0449\u0451 \u043e\u0434\u043d\u0430 \u0442\u043e\u043d\u043a\u043e\u0441\u0442\u044c, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0441\u0442\u043e\u0438\u0442 \u0437\u043d\u0430\u0442\u044c: Meta\u26b9 \u0432 \u043d\u0430\u0447\u0430\u043b\u0435 2026 \u0433\u043e\u0434\u0430 \u043d\u0430\u0447\u0430\u043b\u0430 \u0440\u0430\u0437\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u043a \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c (Muse Spark \u0438 \u0442\u0430\u043a \u0434\u0430\u043b\u0435\u0435). \u0427\u0442\u043e \u043f\u0440\u043e\u0438\u0437\u043e\u0439\u0434\u0451\u0442 \u0441 \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0439 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0441\u0442\u044c\u044e Llama\u26b9 \u2013 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u043a\u0430 \u2013 \u0431\u0435\u0440\u0438\u0442\u0435 \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u0438 \u043d\u0435 \u0434\u0435\u043b\u0430\u0439\u0442\u0435 \u0441\u0442\u0430\u0432\u043a\u0443 \u043d\u0430 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0435 \u043b\u0438\u043d\u0435\u0439\u043a\u0438.<\/p>\n<h3>10. Nvidia Nemotron Cascade 2 \u2013 \u0434\u043b\u044f \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0435\u0432 RTX<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b2d\/223\/2a1\/b2d2232a1457da9e0cdcdf9a3247f56a.jpg\" width=\"800\" height=\"571\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/b2d\/223\/2a1\/b2d2232a1457da9e0cdcdf9a3247f56a.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/b2d\/223\/2a1\/b2d2232a1457da9e0cdcdf9a3247f56a.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 Nvidia-RTX-\u043a\u0430\u0440\u0442\u0430 \u0438 \u0432\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u2013 \u043e\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 <strong>Nemotron Cascade 2<\/strong>. \u042d\u0442\u043e \u043e\u0442\u0432\u0435\u0442 Nvidia \u043d\u0430 \u0432\u043e\u043f\u0440\u043e\u0441 \u201c\u041a\u0430\u043a \u043d\u0430\u043c \u0432\u044b\u0436\u0430\u0442\u044c \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u0438\u0437 CUDA \u043f\u0440\u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435?\u201d. 30 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u043e\u0434 TensorRT \u0438 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u0435 ~54 \u0442\u043e\u043a\u0435\u043d\/\u0441 \u043d\u0430 \u0441\u0432\u044f\u0437\u043a\u0435 RTX 4060 Ti + 3060.<\/p>\n<p>\u041f\u043e \u0441\u0443\u0442\u0438, Nemotron Cascade 2 \u2013 \u044d\u0442\u043e \u043d\u043e\u0432\u044b\u0439 \u0444\u043b\u0430\u0433\u043c\u0430\u043d \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441-\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 Nvidia, \u0437\u0430\u043c\u0435\u043d\u0438\u0432\u0448\u0438\u0439 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e\u0434\u043d\u0438\u0439 Nemotron 3. \u041f\u043e \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f\u043c, \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 GPU \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 15 \u0440\u0430\u0437 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0442\u0435\u043c\u043f\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0439 \u0440\u0435\u0447\u0438, \u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u043e \u0441 GPT-4o mini.<\/p>\n<p>\u0422\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f: 16+ \u0413\u0411 VRAM, \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e RTX 30\/40-\u0441\u0435\u0440\u0438\u0438 \u0438\u043b\u0438 \u043d\u043e\u0432\u0435\u0435. \u0417\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 Ollama, LM Studio, vLLM, llama.cpp \u0438 \u043d\u0430\u0442\u0438\u0432\u043d\u043e \u0447\u0435\u0440\u0435\u0437 Nvidia NIM.<\/p>\n<pre><code class=\"bash\">ollama run nemotron-cascade-2:30b<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<hr\/>\n<h2>\u0420\u0435\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440: \u0442\u0435\u0441\u0442 \u0442\u0440\u0451\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435<\/h2>\n<p>\u0427\u0442\u043e\u0431\u044b \u043d\u0435 \u0431\u044b\u0442\u044c \u0433\u043e\u043b\u043e\u0441\u043b\u043e\u0432\u043d\u044b\u043c, \u043f\u0440\u0438\u0432\u0435\u0434\u0443 \u043e\u0434\u0438\u043d \u0438\u0437 \u043e\u0431\u0437\u043e\u0440\u043e\u0432, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u043d\u0430\u0442\u043a\u043d\u0443\u043b\u0441\u044f.<\/p>\n<p><strong>RTX 3070 8 GB, LM Studio, \u0442\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438: Gemma 4 E4B, gpt-oss-20b \u0438 Qwen 3.5 9B.<\/strong> \u0422\u0440\u0438 \u0437\u0430\u0434\u0430\u0447\u0438: \u0440\u0430\u0437\u0431\u043e\u0440 \u0441\u043a\u0440\u0438\u043d\u0448\u043e\u0442\u043e\u0432 \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a, \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0438 Q&amp;A \u0441 \u0434\u043b\u0438\u043d\u043d\u044b\u043c \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u043e\u043c (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043e\u043d\u0441\u043f\u0435\u043a\u0442\u044b \u043a\u0443\u0440\u0441\u043e\u0432).<\/p>\n<p><strong>\u0427\u0442\u043e \u0432\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c:<\/strong><\/p>\n<ul>\n<li>\n<p><strong>gpt-oss-20b<\/strong> \u2013 \u043b\u0443\u0447\u0448\u0438\u0439 \u0432 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u044b\u0445 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f\u0445. \u0415\u0441\u043b\u0438 \u0432\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c \u043f\u043b\u043e\u0442\u043d\u044b\u0439 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0442\u0435\u043a\u0441\u0442 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043f\u043e\u043d\u044f\u0442\u043d\u0443\u044e \u0432\u044b\u0436\u0438\u043c\u043a\u0443 \u2013 \u0431\u0435\u0440\u0438\u0442\u0435 \u0435\u0433\u043e. \u041c\u0438\u043d\u0443\u0441: \u043d\u0430 8 \u0413\u0411 VRAM \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430.<\/p>\n<\/li>\n<li>\n<p><strong>Qwen 3.5 9B<\/strong> \u2013 \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u044c \u043f\u043e \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u201c\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\/\u0436\u0435\u043b\u0435\u0437\u043e\u201d. \u0425\u043e\u0440\u043e\u0448\u043e \u0434\u0435\u0440\u0436\u0438\u0442 \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f GDN, \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u0435\u043d, \u0447\u0438\u0442\u0430\u0435\u0442 PDF, \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438.<\/p>\n<\/li>\n<li>\n<p><strong>Gemma 4 E4B<\/strong> \u2013 \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b, \u043d\u043e \u0435\u0441\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u043d\u043e\u0441\u0442\u044c: \u043e\u043d \u0441\u043a\u043b\u0435\u0438\u0432\u0430\u0435\u0442 \u201c\u043c\u044b\u0441\u043b\u0438\u201d \u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043e\u0442\u0432\u0435\u0442 \u0432 \u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a. \u041f\u043e\u0442\u043e\u043c\u0443 \u043c\u043e\u0436\u0435\u0442 \u043a\u0430\u043a \u0431\u044b \u043d\u0430\u0447\u0430\u0442\u044c \u0441 \u0444\u0440\u0430\u0437\u044b \u201cUser has provided an image\u201d, \u043e\u0431\u0440\u0430\u0449\u0430\u044f\u0441\u044c \u043a \u0432\u0430\u043c \u0432 \u0442\u0440\u0435\u0442\u044c\u0435\u043c \u043b\u0438\u0446\u0435. \u0427\u0443\u0442\u044c \u0445\u043e\u043b\u043e\u0434\u043d\u043e\u0432\u0430\u0442\u044b\u0439. \u041d\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0440\u0430\u0437\u0431\u0438\u0440\u0430\u0435\u0442 \u043c\u0435\u0442\u043e\u0434\u0438\u0447\u043d\u043e.<\/p>\n<\/li>\n<\/ul>\n<p>\u0421\u0432\u043e\u0434\u043d\u044b\u0439 \u0432\u0435\u0440\u0434\u0438\u043a\u0442 \u043e\u0431\u043e\u0437\u0440\u0435\u0432\u0430\u0442\u0435\u043b\u044f: Qwen \u2013 \u0434\u043b\u044f \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u0444\u0430\u043a\u0442\u043e\u043b\u043e\u0433\u0438\u0438 \u0438 \u043e\u0431\u0449\u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f; gpt-oss \u2013 \u043a\u043e\u0433\u0434\u0430 \u043d\u0443\u0436\u043d\u043e \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u043e\u0435 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u043e\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0438 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0436\u0435\u043b\u0435\u0437\u0430; Gemma \u2013 \u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043a\u0438\u0434\u0430\u0435\u0442\u0435 \u0432 \u043d\u0435\u0451 \u043c\u0435\u0434\u0438\u0430 \u0438 \u043d\u0443\u0436\u0435\u043d \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0439 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0437\u0431\u043e\u0440.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f6b\/9e0\/2bc\/f6b9e02bc3596558f66354b03322a418.jpg\" width=\"1536\" height=\"1024\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/f6b\/9e0\/2bc\/f6b9e02bc3596558f66354b03322a418.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/f6b\/9e0\/2bc\/f6b9e02bc3596558f66354b03322a418.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p><sub>\u26b9 <\/sub><em><sub>Meta \u2013 \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043e\u0440\u0433\u0430\u043d\u0438\u0437\u0430\u0446\u0438\u0438 \u0437\u0430\u043f\u0440\u0435\u0449\u0435\u043d\u0430 \u043d\u0430 \u0442\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u0438 \u0420\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u0424\u0435\u0434\u0435\u0440\u0430\u0446\u0438\u0438.<\/sub><\/em><sub><br \/>\u26b9 <\/sub><em><sub>Llama \u2013 \u043f\u0440\u043e\u0435\u043a\u0442 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438 Meta Platforms Inc., \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0437\u0430\u043f\u0440\u0435\u0449\u0435\u043d\u0430 \u043d\u0430 \u0442\u0435\u0440\u0440\u0438\u0442\u043e\u0440\u0438\u0438 \u0420\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0439 \u0424\u0435\u0434\u0435\u0440\u0430\u0446\u0438\u0438.<\/sub><\/em><\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1028906\/\">https:\/\/habr.com\/ru\/articles\/1028906\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0421\u043e\u0437\u043d\u0430\u044e\u0441\u044c: \u043a\u043e\u0433\u0434\u0430 \u044f \u0432\u043f\u0435\u0440\u0432\u044b\u0435 \u043f\u043e\u043f\u044b\u0442\u0430\u043b\u0441\u044f \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0443\u044e \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u0432\u0441\u0451 \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u043e\u0441\u044c \u0432\u0435\u0440\u0442\u0443\u0448\u043a\u043e\u0439 \u043a\u0443\u043b\u0435\u0440\u0430, \u0436\u0443\u0442\u043a\u0438\u043c \u043b\u0430\u0433\u043e\u043c \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u043c \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435\u043c \u201c\u041d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u0430\u043c\u044f\u0442\u0438\u201d. \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u0418\u0418 \u2013 \u0443\u0434\u0435\u043b \u0432\u043b\u0430\u0434\u0435\u043b\u044c\u0446\u0435\u0432 \u043a\u043e\u0441\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0441\u0442\u0430\u043d\u0446\u0438\u0439 \u0441 \u0436\u0438\u0434\u043a\u0438\u043c \u0430\u0437\u043e\u0442\u043e\u043c.\u041d\u043e \u043f\u0440\u043e\u0448\u043b\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430\u0441\u044c \u0434\u043e \u043d\u0435\u0443\u0437\u043d\u0430\u0432\u0430\u0435\u043c\u043e\u0441\u0442\u0438. \u0422\u0435\u043f\u0435\u0440\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043e\u0431\u044b\u0447\u043d\u043e\u0439 RTX 3060 \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0441\u0430 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0435\u0447\u0435\u0440\u0430, \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0432\u0435\u0441\u0442\u0438 \u0441\u0435\u0431\u0435 \u043f\u0435\u0440\u0441\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u0441\u0441\u0438\u0441\u0442\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0434\u0430\u0447\u0435 \u0431\u0435\u0437 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430 \u0438 \u0443\u043c\u0435\u0435\u0442 \u0448\u0443\u0442\u0438\u0442\u044c (\u0438\u043b\u0438 \u0445\u043e\u0442\u044f \u0431\u044b \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f).\u042f \u0440\u0430\u0441\u0441\u043a\u0430\u0436\u0443 \u043e\u0431\u043e \u0432\u0441\u0451\u043c \u043f\u043e \u043f\u043e\u0440\u044f\u0434\u043a\u0443 \u2013 \u0431\u0435\u0437 \u0432\u043e\u0434\u044b \u0438 \u0444\u0430\u043d\u0430\u0442\u0438\u0437\u043c\u0430. \u0427\u0442\u043e \u0432\u043e\u043e\u0431\u0449\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u043d\u0430 \u0447\u0451\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c, \u043a\u0430\u043a\u0438\u0435 \u043f\u043e\u0434\u0432\u043e\u0434\u043d\u044b\u0435 \u043a\u0430\u043c\u043d\u0438 \u0436\u0434\u0443\u0442 \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u201c\u0441\u0430\u043c\u0430\u044f \u043d\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c\u201d \u0434\u043e\u043c\u0430 \u2013 \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u044b\u0431\u043e\u0440.\u041f\u043e\u0435\u0445\u0430\u043b\u0438!\u0413\u043e\u0442\u043e\u0432\u044c\u0442\u0435 \u043e\u0442\u0432\u0451\u0440\u0442\u043a\u0443 \u0438 VRAM \u2013 \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c!\u0417\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0418\u0418 \u0434\u043e\u043c\u0430 (\u0438 \u0437\u0430\u0447\u0435\u043c \u2013 \u043d\u0435\u0442)\u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u0441\u0440\u0430\u0437\u0443 \u043f\u0440\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043d\u0435\u043f\u0440\u0438\u044f\u0442\u043d\u043e\u0435. \u041b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u0432\u0441\u0435\u0433\u0434\u0430 \u0441\u043b\u0430\u0431\u0435\u0435, \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u0438 \u0442\u0443\u043f\u0435\u0435, \u0447\u0435\u043c \u0442\u043e, \u0447\u0442\u043e \u0432\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0435 \u0432 \u043f\u043b\u0430\u0442\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d-\u043f\u043e\u0434\u043f\u0438\u0441\u043a\u0435. \u041d\u0430 \u0432\u0430\u0448\u0435\u043c \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u0435 \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0440\u043e\u0432\u043d\u044f \u201c\u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u0430\u044f \u0438 \u0441\u0442\u0430\u0440\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f\u201d, \u0430 \u043d\u0435 \u201c\u0432\u0441\u0435\u0432\u0435\u0434\u0443\u0449\u0430\u044f \u0438 \u043c\u043e\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u0430\u044f\u201d. \u0421\u043b\u043e\u0436\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u2013 \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u044b\u0439 \u0430\u043d\u0430\u043b\u0438\u0437 \u043a\u043e\u0434\u0430, \u044e\u0440\u0438\u0434\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0435\u0441\u0451\u0440\u0447, \u043c\u043d\u043e\u0433\u043e\u0441\u0442\u0443\u043f\u0435\u043d\u0447\u0430\u0442\u043e\u0435 \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u2013 \u043e\u043d\u0430 \u0431\u0443\u0434\u0435\u0442 \u0432\u044b\u0442\u044f\u0433\u0438\u0432\u0430\u0442\u044c \u0441 \u043d\u0430\u0442\u044f\u0436\u043a\u043e\u0439, \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f, \u0433\u0430\u043b\u043b\u044e\u0446\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c API, \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043d\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442, \u0438 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u0442\u0435\u043a\u0441\u0442\u044b \u0432 \u0441\u0442\u0438\u043b\u0435 \u201c\u0448\u043a\u043e\u043b\u044c\u043d\u043e\u0435 \u0441\u043e\u0447\u0438\u043d\u0435\u043d\u0438\u0435, \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0451\u043d\u043d\u043e\u0435 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0447\u0438\u043a\u201d. \u042d\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e. \u0422\u0430\u043a \u0438 \u0434\u043e\u043b\u0436\u043d\u043e \u0431\u044b\u0442\u044c: \u0432\u0430\u0448 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440 \u2013 \u043d\u0435 \u0434\u0430\u0442\u0430-\u0446\u0435\u043d\u0442\u0440 \u043d\u0430 \u0442\u044b\u0441\u044f\u0447\u0443 H100.\u0422\u043e\u0433\u0434\u0430 \u0437\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u044d\u0442\u043e \u0432\u0441\u0451?\u0412\u043e-\u043f\u0435\u0440\u0432\u044b\u0445, \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b. \u0415\u0441\u043b\u0438 \u0432\u044b \u0445\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u0442\u0440\u043e\u0433\u0430\u0442\u044c \u0440\u0443\u043a\u0430\u043c\u0438, \u043a\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441, \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f\u043c\u0438, \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u0442\u044c \u0441\u0432\u043e\u0439 fine-tune \u2013 \u0431\u0435\u0437 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u0432\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0443\u0435\u0434\u0435\u0442\u0435. \u0412\u043e-\u0432\u0442\u043e\u0440\u044b\u0445, \u043e\u0444\u043b\u0430\u0439\u043d-\u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438: \u0434\u0430\u0447\u0430 \u0431\u0435\u0437 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0430, \u043a\u043e\u043c\u0430\u043d\u0434\u0438\u0440\u043e\u0432\u043a\u0430 \u0432 \u0441\u0430\u043c\u043e\u043b\u0451\u0442\u0435, \u0440\u0430\u0431\u043e\u0447\u0438\u0439 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0441 \u0436\u0451\u0441\u0442\u043a\u0438\u043c\u0438 \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0430\u043c\u0438 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. \u0412-\u0442\u0440\u0435\u0442\u044c\u0438\u0445, \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435: \u043e\u0434\u0438\u043d \u0447\u0430\u0441 \u0441 llama.cpp \u043d\u0430\u0443\u0447\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0434\u0435\u0441\u044f\u0442\u043e\u043a \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u0440\u043e \u201c\u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 LLM\u201d. \u0412-\u0447\u0435\u0442\u0432\u0451\u0440\u0442\u044b\u0445, \u0443\u0437\u043a\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438: \u0442\u0440\u0430\u043d\u0441\u043a\u0440\u0438\u043f\u0446\u0438\u044f \u0434\u0438\u043a\u0442\u043e\u0444\u043e\u043d\u043d\u044b\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439 \u0447\u0435\u0440\u0435\u0437 Whisper, \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RAG \u043f\u043e \u0441\u0432\u043e\u0438\u043c \u0437\u0430\u043c\u0435\u0442\u043a\u0430\u043c, \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0447\u0430\u0442-\u0431\u043e\u0442 \u0434\u043b\u044f \u043f\u0440\u043e\u0435\u043a\u0442\u0430.\u0422\u043e \u0435\u0441\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u2013 \u044d\u0442\u043e \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u0434\u043b\u044f \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447, \u0430 \u043d\u0435 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u0430\u044f \u0437\u0430\u043c\u0435\u043d\u0430 ChatGPT. \u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435.\u041a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u0441 \u0418\u0418 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u0433\u0434\u0430, \u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0435\u0442\u0435 \u0436\u0434\u0430\u0442\u044c \u043e\u0442\u0432\u0435\u0442\u0430 \u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0435 \u0434\u0443\u043c\u0430\u0442\u044c \u043d\u0430\u0434 \u0437\u0430\u0434\u0430\u0447\u0435\u0439. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448\u0430 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u043d\u0435 \u0432\u044b\u0434\u0430\u0451\u0442 80+ \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u044d\u0442\u043e \u043d\u0435 \u043f\u043e\u0432\u043e\u0434 \u043c\u0438\u0440\u0438\u0442\u044c\u0441\u044f \u0441 \u043c\u0435\u0434\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c\u044e. BotHub \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u201c\u0441\u0442\u0440\u043e\u0447\u0430\u0442 \u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0435\u0442\u201d \u0431\u0435\u0437 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043d\u0430 \u0432\u0430\u0448\u0435 \u043b\u0438\u0447\u043d\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e. \u041f\u0440\u043e\u0441\u0442\u043e \u043e\u0442\u043a\u0440\u043e\u0439\u0442\u0435 \u0432\u043a\u043b\u0430\u0434\u043a\u0443 \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0439\u0442\u0435 \u0441 GPT-5.5, Gemini 3.1 Pro, Claude Opus 4.7 \u0438 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0442\u043e\u043f\u043e\u0432\u044b\u043c\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438, \u043f\u043e\u043a\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u043e\u043c\u043f\u0442.\u0414\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f VPN, \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u0443\u044e \u043a\u0430\u0440\u0442\u0443.\u041f\u043e \u0441\u0441\u044b\u043b\u043a\u0435 \u0432\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c 300 000 \u0431\u0435\u0441\u043f\u043b\u0430\u0442\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0434\u043b\u044f \u043f\u0435\u0440\u0432\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u0438 \u043f\u0440\u0438\u0441\u0442\u0443\u043f\u0438\u0442\u044c \u043a \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438 \u043f\u0440\u044f\u043c\u043e \u0441\u0435\u0439\u0447\u0430\u0441! \u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 vs \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440: \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437\u0413\u043b\u0430\u0432\u043d\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0441\u0442\u043e\u0438\u0442 \u0443\u0441\u0432\u043e\u0438\u0442\u044c \u0435\u0449\u0451 \u0434\u043e \u043f\u0435\u0440\u0432\u043e\u0439 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438: CPU \u0438 GPU \u2013 \u044d\u0442\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u0438\u0440\u044b \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438.\u0412\u044b \u043c\u043e\u0436\u0435\u0442\u0435 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0438\u0441\u0442\u043e \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0435. \u041d\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0445 3B\u20137B-\u043c\u043e\u0434\u0435\u043b\u044f\u0445 CPU-only \u0432\u043f\u043e\u043b\u043d\u0435 \u0441\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u2013 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u0431\u0443\u0434\u0435\u0442 \u0434\u0430\u0436\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c. \u041d\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430 CPU \u2013 \u044d\u0442\u043e, \u0432 \u043b\u0443\u0447\u0448\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440\u201d, \u043f\u043e \u043c\u0435\u0442\u043a\u043e\u043c\u0443 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u043e\u0434\u043d\u043e\u0433\u043e \u0438\u0437 \u0431\u043b\u043e\u0433\u043e\u0432: \u201cRTX 4090 \u043f\u0438\u0448\u0435\u0442 \u0442\u0435\u043a\u0441\u0442 \u2018\u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0451\u0442\u2019 (80+ \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443), \u0430 Mac \u2013 \u2018\u043a\u0430\u043a \u0441\u043a\u043e\u0440\u043e\u0447\u0442\u0435\u0446\u2019 (10\u201320 \u0442\u043e\u043a\u0435\u043d\/\u0441)\u201d. \u041e\u0431\u044b\u0447\u043d\u044b\u0439 \u0436\u0435 \u0434\u0435\u0441\u043a\u0442\u043e\u043f\u043d\u044b\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0431\u0435\u0437 GPU-\u043f\u043e\u043c\u043e\u0449\u0438 \u2013 \u044d\u0442\u043e \u0443\u0436\u0435 \u0434\u0430\u0436\u0435 \u043d\u0435 \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440\u201d, \u0430 \u0441\u043a\u043e\u0440\u0435\u0435 \u201c\u043b\u0435\u043d\u0438\u0432\u0435\u0446, \u0447\u0438\u0442\u0430\u044e\u0449\u0438\u0439 \u043f\u043e \u0441\u043b\u043e\u0433\u0430\u043c\u201d. \u041d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c CPU 7B-\u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0434\u0430\u0451\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 5\u201310 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u041d\u0430 \u043f\u0440\u0438\u043b\u0438\u0447\u043d\u043e\u0439 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0435 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u2013 50\u201380 \u0442\u043e\u043a\u0435\u043d\/\u0441, \u0430 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0432\u0441\u0435 100+. \u0422\u043e \u0435\u0441\u0442\u044c \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437.\u041f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a? \u0414\u0435\u043b\u043e \u0432 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435: GPU \u0443\u043c\u0435\u0435\u0442 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0442\u044c \u0442\u044b\u0441\u044f\u0447\u0438 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439 \u043d\u0430\u0434 \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u043c\u0438, \u0430 \u044d\u0442\u043e \u0440\u043e\u0432\u043d\u043e \u0442\u043e, \u0447\u0435\u043c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0442\u043e\u043a\u0435\u043d\u0435. CPU \u0442\u043e\u0436\u0435 \u0443\u043c\u0435\u0435\u0442, \u043d\u043e \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0438 \u0440\u0430\u0437 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0441\u043b\u0438 \u0432\u044b \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0435\u0442\u0435 \u0447\u0435\u043c-\u0442\u043e \u0432\u0441\u0435\u0440\u044c\u0451\u0437 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f, \u0430 \u043d\u0435 \u201c\u043f\u043e\u0442\u044b\u043a\u0430\u0442\u044c \u0440\u0430\u0437 \u0432 \u043d\u0435\u0434\u0435\u043b\u044e\u201d \u2013 \u043d\u0443\u0436\u043d\u0430 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430.\u041a\u0430\u043a\u0430\u044f \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430 \u043d\u0443\u0436\u043d\u0430: VRAM \u0440\u0435\u0448\u0430\u0435\u0442 \u0432\u0441\u0451\u041a\u043e\u0433\u0434\u0430-\u0442\u043e \u0434\u043b\u044f \u0438\u0433\u0440 \u0433\u043d\u0430\u043b\u0438\u0441\u044c \u0437\u0430 \u0447\u0430\u0441\u0442\u043e\u0442\u0430\u043c\u0438 \u0438 \u0447\u0438\u0441\u043b\u043e\u043c \u044f\u0434\u0435\u0440. \u0414\u043b\u044f \u0418\u0418 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043e\u0434\u043d\u0430 \u2013 \u0441\u043a\u043e\u043b\u044c\u043a\u043e VRAM \u0432 \u043a\u0430\u0440\u0442\u0435. \u0415\u0441\u043b\u0438 \u0437\u0430\u0434\u0430\u0442\u044c \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u0432\u043e\u043f\u0440\u043e\u0441 Claude, GPT \u0438 Gemini \u2013 \u201c\u041a\u0430\u043a\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439?\u201d, \u2013 \u0432\u0441\u0435 \u0442\u0440\u0438 \u043e\u0442\u0432\u0435\u0442\u044f\u0442 \u0445\u043e\u0440\u043e\u043c: GPU VRAM \u0440\u0435\u0448\u0430\u0435\u0442 \u0432\u0441\u0451. \u0412 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u043e\u0442 \u0438\u0433\u0440, \u0433\u0434\u0435 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u2013 \u044d\u0442\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0447\u0438\u043f\u0430, \u0432 \u0418\u0418 \u043e\u0431\u044a\u0451\u043c \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u0434\u0430\u0436\u0435 \u043d\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c, \u0430 \u0441\u0430\u043c \u0444\u0430\u043a\u0442 \u0442\u043e\u0433\u043e, \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u043b\u0438 \u043d\u0435\u0442.\u0418 \u0442\u0443\u0442 \u0435\u0441\u0442\u044c \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043b\u0435\u0437\u043b\u0430 \u0432 VRAM \u2013 \u043b\u0435\u0442\u0430\u0435\u0442. \u041d\u0435 \u0432\u043b\u0435\u0437\u043b\u0430 \u2013 \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0443\u0435\u0437\u0436\u0430\u0435\u0442 \u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u0443\u044e RAM, \u0438 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0430\u0434\u0430\u0435\u0442 \u0432 50\u2013100 \u0440\u0430\u0437. \u0417\u0430\u043c\u0435\u0447\u0443: \u201c50\u2013100x \u043f\u0430\u0434\u0435\u043d\u0438\u044f\u201d \u2013 \u044d\u0442\u043e \u043d\u0435 \u043e\u043f\u0435\u0447\u0430\u0442\u043a\u0430. \u0415\u0441\u043b\u0438 \u0432\u0430\u0448\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0432\u043b\u0435\u0437\u043b\u0430 \u0432 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 RAM, \u0432\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0435 \u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 \u201c\u0444\u0430\u0441\u0442\u0440\u0438\u0434\u0435\u0440 \u0443\u0440\u043e\u0432\u043d\u044f \u043b\u0435\u043d\u0438\u0432\u0446\u0430\u201d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 VRAM \u2013 \u044d\u0442\u043e \u201c\u043b\u0438\u0431\u043e \u0435\u0441\u0442\u044c, \u043b\u0438\u0431\u043e \u043d\u0435\u0442\u201d, \u043f\u043e\u043b\u0443\u0442\u043e\u043d\u043e\u0432 \u043c\u0430\u043b\u043e.\u0414\u0430\u043b\u044c\u0448\u0435 \u2013 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0430\u0437\u0440\u0435\u0437 \u043f\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442:\u0412\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u0430\u0427\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u0441\u044f\u041a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u0439RTX 3060 (12 GB)7B\u201314B \u0432 Q4, Gemma 4 E4B\u0411\u044e\u0434\u0436\u0435\u0442\u043d\u044b\u0439 \u043a\u043e\u0440\u043e\u043b\u044c: 12 \u0413\u0411 VRAM (\u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0443 RTX 3070 \u0438\u043b\u0438 3080 \u043d\u0430 10 \u0413\u0411) \u0437\u0430 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0438\u0435 \u0434\u0435\u043d\u044c\u0433\u0438RTX 4060 \/ 4060 Ti (16 GB)13B \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e, 26B MoE \u043d\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u043516-\u0433\u0438\u0433\u043e\u0432\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f 4060 Ti \u2013 \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0439 middle-groundRTX 5060 (8 GB)7B-\u043c\u043e\u0434\u0435\u043b\u0438, \u043c\u0435\u043b\u043a\u0438\u0435 MoE\u0421\u0432\u0435\u0436\u0435\u0435, \u0448\u0443\u0441\u0442\u0440\u043e\u0435, \u043d\u043e 8 \u0413\u0411 \u0441\u0438\u043b\u044c\u043d\u043e \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442RTX 4070 \/ 4070 Ti (12\/16 GB)26B MoE, Qwen3.6 35B-A3B (\u0441 \u0442\u0440\u044e\u043a\u0430\u043c\u0438)\u041d\u0430 4070 Ti 16 GB Gemma 4 26B MoE \u0432 Q4_K_M \u0434\u0430\u0451\u0442 ~30 \u0442\u043e\u043a\u0435\u043d\/\u0441RTX 3090 (24 GB)30B\u201334B \u0441\u043f\u043e\u043a\u043e\u0439\u043d\u043e, 70B \u0441 \u0441\u0438\u043b\u044c\u043d\u044b\u043c \u0441\u0436\u0430\u0442\u0438\u0435\u043c\u0412\u0435\u0447\u043d\u044b\u0439 \u201c\u043a\u043e\u0440\u043e\u043b\u044c \u0446\u0435\u043d\u044b \u0437\u0430 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 VRAM\u201d: \u0431\/\u0443 \u0437\u0430 700\u2013800\u00a0$, \u043f\u0440\u0438 \u0442\u043e\u043c \u0436\u0435 \u043e\u0431\u044a\u0451\u043c\u0435 \u043f\u0430\u043c\u044f\u0442\u0438, \u0447\u0442\u043e \u0438 \u0443 RTX 4090, \u0438 \u043f\u043e\u0447\u0442\u0438 \u0442\u043e\u0439 \u0436\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430RTX 4090 (24 GB)\u0422\u043e \u0436\u0435, \u0447\u0442\u043e 3090, \u043d\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435\u0412\u043a\u0443\u0441\u043d\u0435\u0435 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438, \u043d\u043e \u0432 2,5 \u0440\u0430\u0437\u0430 \u0434\u043e\u0440\u043e\u0436\u0435\u041e\u0442\u043a\u0440\u043e\u0432\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0433\u0435\u0439\u043c\u0435\u0440\u043e\u0432. RTX 3090 \u2013 \u0441\u0442\u0430\u0440\u0443\u0448\u043a\u0430 2020 \u0433\u043e\u0434\u0430 \u0432\u044b\u043f\u0443\u0441\u043a\u0430 \u2013 \u0434\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u0432 \u0442\u043e\u043f\u0435 \u0434\u043b\u044f \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u0433\u043e \u0418\u0418 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u043e\u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u0443 \u043d\u0435\u0451 24 \u0413\u0411 VRAM. \u041d\u043e\u0432\u0435\u043d\u044c\u043a\u0430\u044f RTX 4060 Ti \u0441 8 \u0433\u0438\u0433\u0430\u043c\u0438 \u0432 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 LLM \u0435\u0439 \u043f\u0440\u043e\u0438\u0433\u0440\u0430\u0435\u0442. \u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0442\u0430 \u0438\u0433\u0440\u0430, \u0433\u0434\u0435 \u201c40 &gt; 30 = \u043b\u0443\u0447\u0448\u0435\u201d.Apple Silicon \u2013 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043b\u0430\u0433\u0435\u0440\u044c \u0441\u043e \u0441\u0432\u043e\u0438\u043c\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u0430\u043c\u0438. \u0423 Mac unified memory: \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0430 \u0438 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u2013 \u044d\u0442\u043e \u043e\u0434\u043d\u0430 \u0438 \u0442\u0430 \u0436\u0435 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0430\u043c\u044f\u0442\u044c. Apple-\u0447\u0438\u043f\u044b \u0434\u0435\u043b\u044f\u0442 \u043f\u0430\u043c\u044f\u0442\u044c \u043c\u0435\u0436\u0434\u0443 CPU \u0438 GPU, \u0438 \u043d\u0430 M4 Max \u0441 128 \u0413\u0411 unified memory \u0432\u0438\u0434\u0435\u043e\u044f\u0434\u0440\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d \u0432\u0435\u0441\u044c \u044d\u0442\u043e\u0442 \u043e\u0431\u044a\u0451\u043c, \u0431\u0435\u0437 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043b\u0438\u043c\u0438\u0442\u0430 VRAM. \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043a\u0440\u0443\u0442\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0430 \u201c\u043e\u0431\u044b\u0447\u043d\u043e\u043c\u201d \u041f\u041a \u043f\u043e\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043b\u0438 \u0431\u044b \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u043e\u0433\u043e \u0436\u0435\u043b\u0435\u0437\u0430. \u041d\u043e \u0446\u0435\u043d\u0430 \u2013 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c: \u0433\u0440\u0443\u0431\u043e \u0433\u043e\u0432\u043e\u0440\u044f, RTX 4090 \u0441\u0442\u0440\u043e\u0447\u0438\u0442 \u0442\u043e\u043a\u0435\u043d\u044b \u043a\u0430\u043a \u043f\u0443\u043b\u0435\u043c\u0451\u0442 (80+ \u0442\u043e\u043a\u0435\u043d\/\u0441), \u0430 Mac \u2013 \u043a\u0430\u043a \u043e\u043f\u044b\u0442\u043d\u044b\u0439 \u0441\u043a\u043e\u0440\u043e\u0447\u0442\u0435\u0446 (10\u201320 \u0442\u043e\u043a\u0435\u043d\/\u0441).\u0418 \u0435\u0449\u0451 \u043f\u0440\u043e \u0436\u0435\u043b\u0435\u0437\u043e \u0432 \u0446\u0435\u043b\u043e\u043cRAM \u2013 \u0431\u0435\u0440\u0438\u0442\u0435 \u043c\u0438\u043d\u0438\u043c\u0443\u043c 32 \u0413\u0411. \u0417\u0430\u043f\u0430\u0441 \u043f\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u0432\u0443\u043a\u0440\u0430\u0442\u043d\u044b\u043c: \u0434\u043b\u044f 4-\u0433\u0438\u0433\u043e\u0432\u043e\u0433\u043e Q4-\u0444\u0430\u0439\u043b\u0430 \u043d\u0443\u0436\u043d\u043e \u043e\u043a\u043e\u043b\u043e 8 \u0413\u0411 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u0439 RAM, \u0447\u0442\u043e\u0431\u044b \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e \u043f\u043b\u0430\u0432\u043d\u043e. \u042d\u0442\u043e \u043f\u0440\u0430\u0432\u0438\u043b\u043e, \u043d\u0435 \u043f\u043e\u0436\u0435\u043b\u0430\u043d\u0438\u0435.\u0414\u0438\u0441\u043a \u2013 \u0442\u043e\u043b\u044c\u043a\u043e NVMe SSD. \u041c\u043e\u0434\u0435\u043b\u0438 \u0432\u0435\u0441\u044f\u0442 \u043e\u0442 4 \u0434\u043e 40+ \u0413\u0411, \u0430 \u0433\u0440\u0443\u0437\u0438\u0442\u044c 22-\u0433\u0438\u0433\u043e\u0432\u044b\u0439 \u0447\u0435\u043a\u043f\u043e\u0439\u043d\u0442 \u0441 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e HDD \u2013 \u0437\u0430\u043d\u044f\u0442\u0438\u0435 \u0434\u043b\u044f \u043e\u0431\u043b\u0430\u0434\u0430\u0442\u0435\u043b\u0435\u0439 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0433\u043e \u0442\u0435\u0440\u043f\u0435\u043d\u0438\u044f.CPU \u2013 \u043c\u0435\u043d\u0435\u0435 \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u043d \u0434\u043b\u044f \u0441\u0430\u043c\u043e\u0439 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438, \u043d\u043e \u0432\u0430\u0436\u0435\u043d \u0434\u043b\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 \u0440\u0430\u0431\u043e\u0442\u044b \u0432 \u043c\u043d\u043e\u0433\u043e\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435. \u0412\u043e\u0441\u0435\u043c\u044c \u044f\u0434\u0435\u0440 \u2013 \u043d\u043e\u0440\u043c, \u0448\u0435\u0441\u0442\u043d\u0430\u0434\u0446\u0430\u0442\u044c \u2013 \u043a\u043e\u043c\u0444\u043e\u0440\u0442\u043d\u043e.\u0411\u041f \u2013 750 W \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u044b, 850\u20131000 W \u0434\u043b\u044f \u0442\u043e\u043f\u043e\u0432\u043e\u0439, 1200+ \u0434\u043b\u044f \u0434\u0432\u0443\u0445. \u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0418\u0418 \u2013 \u044d\u0442\u043e \u0441\u0443\u0441\u0442\u0435\u0439\u043d\u0434-\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430, \u0430 \u043d\u0435 \u0432\u0441\u043f\u043b\u0435\u0441\u043a, \u043a\u0430\u043a \u0432 \u0438\u0433\u0440\u0430\u0445.\u041f\u0430\u043c\u044f\u0442\u044c \u2013 \u0433\u043b\u0430\u0432\u043d\u043e\u0435 \u201c\u043d\u0435 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435\u201d\u041c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u043f\u0430\u043c\u044f\u0442\u044c \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f, \u043f\u043e\u043a\u0430 \u043e\u043d\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u0430. \u041d\u0435 \u201c\u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438\u201d, \u043d\u0435 \u201c\u043a\u043e\u0433\u0434\u0430 \u0432\u044b \u043f\u0438\u0448\u0435\u0442\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u201d \u2013 \u0430 \u0432\u0441\u0451 \u0432\u0440\u0435\u043c\u044f. \u0417\u0430\u0433\u0440\u0443\u0437\u0438\u043b\u0438 gemma4:26b \u2013 \u043e\u0442\u0434\u0430\u043b\u0438 14 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438, \u0438 \u043e\u043d\u0438 \u043d\u0438\u043a\u0443\u0434\u0430 \u043d\u0435 \u0434\u0435\u043d\u0443\u0442\u0441\u044f, \u043f\u043e\u043a\u0430 \u0432\u044b \u043d\u0435 \u0432\u044b\u0433\u0440\u0443\u0437\u0438\u0442\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u044f\u0432\u043d\u043e. \u0422\u043e \u0435\u0441\u0442\u044c \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0439\u0442\u0435 \u0441\u0432\u043e\u0439 \u0434\u0435\u043d\u044c \u0442\u0430\u043a: \u0435\u0441\u043b\u0438 \u0432\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0435 \u0418\u0418 \u2013 \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0439\u0442\u0435 \u0432\u0441\u0451 \u043b\u0438\u0448\u043d\u0435\u0435. \u0418 \u044f \u0433\u043e\u0432\u043e\u0440\u044e \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u043e, \u043a\u0430\u043a \u0434\u0438\u0441\u043f\u0435\u0442\u0447\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u043a\u0430\u0436\u0434\u0443\u044e \u043e\u0442\u043a\u0440\u044b\u0442\u0443\u044e \u0432\u043a\u043b\u0430\u0434\u043a\u0443 Chrome.\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435:\u0418\u0433\u0440\u044b \u2013 \u043d\u0435\u0442. \u0412\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c \u0437\u0430\u043d\u044f\u0442\u0430.\u0424\u0438\u043b\u044c\u043c \u0432 4K \u0447\u0435\u0440\u0435\u0437 DaVinci Resolve \u2013 \u043d\u0435 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441 \u043c\u043e\u0434\u0435\u043b\u044c\u044e.Stable Diffusion \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043a\u0430\u0440\u0442\u0435 \u2013 \u0437\u0430\u0431\u0443\u0434\u044c\u0442\u0435.\u0414\u0435\u0441\u044f\u0442\u044c \u0432\u043a\u043b\u0430\u0434\u043e\u043a Chrome \u0441 YouTube \u2013 \u0430 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0443\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u043c. \u041a\u0430\u0436\u0434\u0430\u044f \u201c\u0436\u0438\u0440\u043d\u0430\u044f\u201d \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0430 \u2013 \u044d\u0442\u043e \u0441\u043e\u0442\u043d\u0438 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 RAM, \u0438 \u0435\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 32 \u0433\u0438\u0433\u0430 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u0438\u0442 22, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f 10 \u043d\u0430 \u0412\u0421\u0401 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435. \u0412\u043a\u043b\u044e\u0447\u0430\u044f \u0441\u0430\u043c\u0443 Windows.\u041e\u0442\u0441\u044e\u0434\u0430 \u043f\u0440\u0430\u0432\u0438\u043b\u043e: \u0431\u0435\u0440\u0438\u0442\u0435 \u0436\u0435\u043b\u0435\u0437\u043e \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c. \u041b\u0443\u0447\u0448\u0435 \u0438\u043c\u0435\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b\u0435 8 \u0413\u0411 \u043f\u043e\u0432\u0435\u0440\u0445 \u043c\u043e\u0434\u0435\u043b\u0438, \u0447\u0435\u043c \u043f\u043e\u0442\u043e\u043c \u0433\u0430\u0434\u0430\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u043e\u0439 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f. \u0410\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u0430 \u2013 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0443\u0436\u0430\u0442\u044b\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f (Q4 \u0432\u043c\u0435\u0441\u0442\u043e Q8 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u0434\u0432\u043e\u0435-\u0432\u0442\u0440\u043e\u0435 VRAM \u043f\u0440\u0438 \u0443\u043c\u0435\u0440\u0435\u043d\u043d\u043e\u0439 \u043f\u043e\u0442\u0435\u0440\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430), \u043d\u043e \u043e\u0431 \u044d\u0442\u043e\u043c \u043d\u0438\u0436\u0435.\u0418 \u0435\u0449\u0451 \u043e\u0434\u043d\u0430 \u0442\u043e\u043d\u043a\u043e\u0441\u0442\u044c: \u0431\u043e\u043b\u044c\u0448\u0438\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2013 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0430\u043c\u044f\u0442\u0438. \u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0432 32k \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u0435\u0441\u0438\u0442 \u043a\u0443\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0432 4k, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043f\u043e\u0434 KV-\u043a\u044d\u0448 \u043d\u0443\u0436\u043d\u043e \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043c\u0435\u0441\u0442\u043e. \u0422\u0430\u043a \u0447\u0442\u043e \u043a\u043e\u0433\u0434\u0430 \u0432\u0438\u0434\u0438\u0442\u0435 \u0441\u043e\u0431\u043b\u0430\u0437\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043d\u0430\u0434\u043f\u0438\u0441\u044c \u201ccontext window 256K\u201d, \u043d\u0435 \u0441\u043f\u0435\u0448\u0438\u0442\u0435 \u0440\u0430\u0434\u043e\u0432\u0430\u0442\u044c\u0441\u044f: \u043d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0432\u044b \u0432 \u0436\u0438\u0437\u043d\u0438 \u0441\u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0435. \u041e\u0434\u0438\u043d \u0438\u0437 \u043e\u0431\u043e\u0437\u0440\u0435\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u043f\u0440\u044f\u043c\u043e \u043f\u0438\u0448\u0435\u0442, \u0447\u0442\u043e Gemma 4 \u0437\u0430\u044f\u0432\u043b\u044f\u0435\u0442 256K \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043d\u043e \u043d\u0430 \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0441\u0442\u043e\u0438\u0442 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u043d\u0430 ~20K \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u2013 \u043f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u0432\u044b\u0432\u043e\u0434 \u0440\u0435\u0437\u043a\u043e \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u0435\u0442 \u0438\u0437-\u0437\u0430 \u0434\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043d\u0430 \u043f\u0430\u043c\u044f\u0442\u044c. \u0414\u0432\u0430\u0434\u0446\u0430\u0442\u044c \u0442\u044b\u0441\u044f\u0447 \u2013 \u0438 \u0432\u0441\u0451, \u0434\u0430\u043b\u044c\u0448\u0435 \u0443\u043f\u043e\u0440 \u0432 \u043f\u0430\u043c\u044f\u0442\u044c.\u0424\u043e\u0440\u043c\u0430\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439: GGUF, MLX \u0438 \u043f\u0440\u043e\u0447\u0430\u044f \u0430\u043b\u0445\u0438\u043c\u0438\u044f\u041f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u043c\u044b \u043f\u0435\u0440\u0435\u0439\u0434\u0451\u043c \u043a \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0441 \u043e\u0434\u043d\u0438\u043c \u0432\u0430\u0436\u043d\u044b\u043c \u043f\u043e\u043d\u044f\u0442\u0438\u0435\u043c \u2013 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0438 \u0444\u043e\u0440\u043c\u0430\u0442 \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0432\u0435\u0441\u043e\u0432.\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437 \u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u0438\u0438 \u2013 \u044d\u0442\u043e \u043e\u0433\u0440\u043e\u043c\u043d\u0430\u044f \u043f\u0430\u043f\u043a\u0430 PyTorch-\u0444\u0430\u0439\u043b\u043e\u0432, \u0433\u0434\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 16 \u0438\u043b\u0438 32 \u0431\u0438\u0442\u0430. \u0414\u043b\u044f 7B-\u043c\u043e\u0434\u0435\u043b\u0438 \u044d\u0442\u043e 14\u201328 \u0413\u0411 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u043e\u0432. \u0414\u043b\u044f 30B (30 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u043e\u0432 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432) \u2013 60+ \u0413\u0411. \u041d\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0435\u043c \u041f\u041a \u0442\u0430\u043a\u043e\u0435 \u043d\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442: \u043d\u0430 \u0437\u0430\u043f\u0443\u0441\u043a \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 A100\/H100.\u0418 \u0442\u0443\u0442 \u043d\u0430 \u0441\u0446\u0435\u043d\u0443 \u0432\u044b\u0445\u043e\u0434\u0438\u0442 GGUF \u2013 \u0444\u043e\u0440\u043c\u0430\u0442, \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u043d\u044b\u0439 \u0413\u0435\u043e\u0440\u0433\u0438\u0435\u043c \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u044b\u043c (\u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 llama.cpp). \u0415\u0441\u043b\u0438 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u2013 \u044d\u0442\u043e \u201c\u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0435 \u043a\u043d\u0438\u0433\u0438 \u043d\u0430 \u044f\u0437\u044b\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0432\u0430\u0448 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440 \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442\u201d. \u0418\u0434\u0435\u044f GGUF \u043f\u0440\u043e\u0441\u0442\u0430\u044f: \u0443\u0436\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u0434\u043e 4, 5, 6 \u0438\u043b\u0438 8 \u0431\u0438\u0442 \u2013 \u0438 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a \u0443\u043f\u0430\u043a\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441\u0430, \u0447\u0442\u043e\u0431\u044b \u043e\u043d\u0438 \u043c\u043e\u0433\u043b\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0438 \u0432 RAM, \u0438 \u0432 VRAM, \u0438 \u0434\u0430\u0436\u0435 \u043d\u0430\u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0442\u0430\u043c, \u043d\u0430\u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0443 \u0442\u0443\u0442. \u042d\u0442\u043e, \u043a\u0441\u0442\u0430\u0442\u0438, \u043a\u043b\u044e\u0447\u0435\u0432\u043e\u0435 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 GGUF \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0444\u043e\u0440\u043c\u0430\u0442\u043e\u0432: \u043e\u043d \u0441\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0434 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u044c. \u0415\u0441\u043b\u0438 \u0443 \u0432\u0430\u0441 \u0441\u043b\u0430\u0431\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u2013 \u0447\u0430\u0441\u0442\u044c \u0441\u043b\u043e\u0451\u0432 \u0443\u0435\u0445\u0430\u043b\u0430 \u0432 \u043e\u0431\u044b\u0447\u043d\u0443\u044e \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0443 \u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043a\u0440\u0443\u0442\u0438\u0442\u0441\u044f, \u043f\u0443\u0441\u0442\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435.\u041a\u043e\u0433\u0434\u0430 \u0432\u044b \u0432\u0438\u0434\u0438\u0442\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0442\u0438\u043f\u0430 Q4_K_M, Q5_K_S, Q8_0 \u2013 \u044d\u0442\u043e \u0443\u0440\u043e\u0432\u043d\u0438 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u044f:\u041a\u0432\u0430\u043d\u0442\u0427\u0442\u043e \u044d\u0442\u043e\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\u0420\u0430\u0437\u043c\u0435\u0440Q2_K\u0421\u0430\u043c\u043e\u0435 \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u0441\u0436\u0430\u0442\u0438\u0435\u0417\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043f\u043e\u0442\u0435\u0440\u044f~25% \u043e\u0442 FP16Q4_K_M\u201c\u041d\u0430\u0440\u043e\u0434\u043d\u044b\u0439\u201d \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u041f\u043e\u0447\u0442\u0438 \u043d\u0435 \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f~33% \u043e\u0442 FP16Q5_K_M\u0427\u0443\u0442\u044c \u043b\u0443\u0447\u0448\u0435 Q4\u041e\u0447\u0435\u043d\u044c \u0445\u043e\u0440\u043e\u0448\u0435\u0435~40% \u043e\u0442 FP16Q6_K\u0414\u043b\u044f \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445\u041e\u0442\u043b\u0438\u0447\u043d\u043e\u0435~50% \u043e\u0442 FP16Q8_0\u041f\u043e\u0447\u0442\u0438 \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c\u0418\u0434\u0435\u0430\u043b\u044c\u043d\u043e\u0435~55% \u043e\u0442 FP16\ud83d\udca1 \u041f\u0440\u0430\u0432\u0438\u043b\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u043f\u0430\u043b\u044c\u0446\u0430. \u041d\u0430\u0447\u0438\u043d\u0430\u0439\u0442\u0435 \u0441 Q4_K_M \u2013 \u044d\u0442\u043e \u0437\u043e\u043b\u043e\u0442\u0430\u044f \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430 \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0434\u043e\u043c\u0430\u0448\u043d\u0438\u0445 \u0437\u0430\u0434\u0430\u0447. Q4 \u2013 \u044d\u0442\u043e, \u043f\u043e&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-477697","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/477697","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=477697"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/477697\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=477697"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=477697"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=477697"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}