{"id":501800,"date":"2026-11-05T16:19:42","date_gmt":"2026-11-05T13:19:42","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=501800"},"modified":"2026-11-05T16:19:42","modified_gmt":"2026-11-05T13:19:42","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=501800","title":{"rendered":"\u041a\u0430\u043a \u044f \u0447\u0443\u0442\u044c \u043d\u0435 \u0441\u043f\u0430\u043b\u0438\u043b MacBook, \u043f\u044b\u0442\u0430\u044f\u0441\u044c \u0440\u0430\u0437\u0432\u0435\u0440\u043d\u0443\u0442\u044c \u0418\u0418-\u0430\u0433\u0435\u043d\u0442\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u0417\u043d\u0430\u0435\u0442\u0435 \u044d\u0442\u043e \u0447\u0443\u0432\u0441\u0442\u0432\u043e, \u043a\u043e\u0433\u0434\u0430 \u0447\u0438\u0442\u0430\u0435\u0448\u044c \u0441\u0442\u0430\u0442\u044c\u044e \u043f\u0440\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 LLM \u0438 \u0434\u0443\u043c\u0430\u0435\u0448\u044c: \u00ab\u0410, \u043d\u0443 \u044d\u0442\u043e \u0436\u0435 \u043f\u0440\u043e\u0441\u0442\u043e. \u041f\u043e\u0441\u0442\u0430\u0432\u043b\u044e Ollama, \u0442\u044f\u043d\u0443 \u043c\u043e\u0434\u0435\u043b\u044c, \u0438 \u0443 \u043c\u0435\u043d\u044f \u0443\u0436\u0435 \u0441\u0432\u043e\u0439 \u0418\u0418-\u0430\u0433\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u043d\u0430\u0435\u0442 \u0432\u0435\u0441\u044c \u043a\u043e\u0434\u00bb?<\/p>\n<p>\u042f \u0434\u0443\u043c\u0430\u043b \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a.<\/p>\n<p>\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0415\u0433\u043e\u0440 \u041b\u0430\u043f\u0442\u0435\u0432, \u044f QA Fullstack Java \u0432 <a href=\"https:\/\/sense-it.ru\/\">SENSE<\/a> \u043d\u0430 \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u043a\u0440\u0443\u043f\u043d\u043e\u0433\u043e \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0433\u043e \u0431\u0430\u043d\u043a\u0430. \u0423 \u043c\u0435\u043d\u044f MacBook Pro M2 Pro \u0441 32 \u0413\u0411 RAM: \u043d\u0435 topical \u043c\u0430\u0448\u0438\u043d\u0430, \u043d\u043e \u0434\u043b\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u043b\u043e\u0448\u0430\u0434\u043a\u0430. \u0414\u0430\u0436\u0435 \u043d\u0435 \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u043b, \u0447\u0442\u043e \u0447\u0435\u0440\u0435\u0437 20 \u043c\u0438\u043d\u0443\u0442 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0431\u0443\u0434\u0435\u0442 \u0437\u0432\u0443\u0447\u0430\u0442\u044c \u043a\u0430\u043a \u0438\u0441\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c \u043d\u0430 \u0432\u0437\u043b\u0451\u0442\u0435, \u0430 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043a\u043e\u0439, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0432\u0430\u0440\u0438\u0442\u044c \u044f\u0438\u0447\u043d\u0438\u0446\u0443 \u043d\u0430 \u043a\u0440\u044b\u0448\u043a\u0435.<\/p>\n<p>\u042d\u0442\u043e \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u00ab\u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u00bb \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0432 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u044b\u0439 \u043f\u0440\u043e\u0435\u043a\u0442 \u0441 \u0431\u044e\u0434\u0436\u0435\u0442\u043e\u043c, \u0440\u0430\u0441\u0447\u0451\u0442\u0430\u043c\u0438 \u0438 \u043e\u0434\u043d\u0438\u043c \u043f\u043e\u0447\u0442\u0438 \u0441\u0433\u043e\u0440\u0435\u0432\u0448\u0438\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u043e\u043c.<\/p>\n<h3>\u0414\u0432\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435<\/h3>\n<p>\u0412\u0441\u0451 \u043d\u0430\u0447\u0430\u043b\u043e\u0441\u044c \u0441 \u0434\u0432\u0443\u0445 \u043a\u043e\u043c\u0430\u043d\u0434 \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435:<\/p>\n<p>ollama pull qwen-coder:3.5-72b<\/p>\n<p>ollama run qwen-coder:3.5-72b<\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u2014 Qwen Coder 3.5, 72 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0430 \u043f\u043e \u043c\u0435\u0440\u043a\u0430\u043c LLM \u044d\u0442\u043e \u0443\u0436\u0435 \u0442\u044f\u0436\u0451\u043b\u044b\u0439 \u043a\u043b\u0430\u0441\u0441. \u0412 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0435 \u043f\u0438\u0448\u0443\u0442: \u00ab72B \u2014 \u044d\u0442\u043e \u0434\u043b\u044f \u0432\u043e\u0440\u043a\u0441\u0442\u0435\u0439\u0448\u043d\u043e\u0432, \u0442\u0435\u0431\u0435 \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 128 \u0413\u0411\u00bb. \u041d\u043e Ollama \u0441 \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u044b\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0434\u043e Q2_K (~26 \u0413\u0411) \u00ab\u0432\u043c\u0435\u0449\u0430\u0435\u0442\u00bb \u043c\u043e\u0434\u0435\u043b\u044c \u0432 32 \u0413\u0411, \u0442\u0430\u043a \u0447\u0442\u043e \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u043d\u0430 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u0435\u0441\u043b\u0438 \u0441\u0436\u0430\u0442\u044c \u0435\u0451 \u0434\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d\u0430 \u0441\u0430\u043c\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0441\u043e\u043c\u043d\u0435\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0435.<\/p>\n<p>\u0414\u0430, \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e \u0432\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e\u0434\u0443\u043c\u0430\u043b\u0438: \u00abQ2_K? \u042d\u0442\u043e \u0436\u0435 \u043a\u0430\u0448\u0430 \u0438\u0437 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043b\u044e\u0431\u0430\u044f \u043b\u043e\u0433\u0438\u043a\u0430 \u0443\u043c\u0438\u0440\u0430\u0435\u0442\u00bb. \u0418 \u0432\u044b \u043f\u0440\u0430\u0432\u044b, \u043d\u043e \u0446\u0435\u043b\u044c \u0431\u044b\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0437\u0430\u0432\u0435\u0434\u0451\u0442\u0441\u044f \u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 72B \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u2014 \u043d\u0435 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u043d. \u0414\u043b\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u044f \u0431\u044b \u0432\u0437\u044f\u043b Qwen 2.5 7B \u0438\u043b\u0438 14B \u0432 Q4_K_M \u0438\u043b\u0438 Q8, \u0430 \u044d\u0442\u043e 90% \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438 \u0442\u0440\u0435\u0442\u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. \u041d\u043e \u0442\u043e\u0433\u0434\u0430 \u0431\u044b \u043d\u0435 \u0431\u044b\u043b\u043e \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438.<\/p>\n<p>\u041d\u0435 \u0441\u0442\u0430\u043b \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c: \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u043b\u0438\u043c\u0438\u0442\u043e\u0432 \u0438\u043b\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 GPU. \u041f\u0440\u043e\u0441\u0442\u043e ollama run \u0438 \u043f\u043e\u0435\u0445\u0430\u043b\u0438.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/61\/96\/f8\/6196f85d8e5d75bfc3b320492141216b.jpg\" width=\"690\" height=\"690\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/61\/96\/f8\/6196f85d8e5d75bfc3b320492141216b.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/61\/96\/f8\/6196f85d8e5d75bfc3b320492141216b.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<h3>\u0412\u0435\u043d\u0442\u0438\u043b\u044f\u0442\u043e\u0440 \u0437\u0430\u043e\u0440\u0430\u043b<\/h3>\n<p>Ollama \u0437\u0430\u0431\u0440\u0430\u043b \u0432\u0441\u044e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0443\u044e RAM, \u0432\u0441\u0435 32 \u0413\u0411: 32 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430, \u0438 \u043e\u043d \u0441\u043e\u0436\u0440\u0430\u043b \u0412\u0421\u0415. macOS \u043d\u0430\u0447\u0430\u043b\u0430 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c swap, \u0438 \u0434\u0438\u0441\u043a \u043d\u0430\u0447\u0430\u043b \u0433\u0443\u0434\u0435\u0442\u044c \u043a\u0430\u043a \u0441\u0442\u0438\u0440\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0448\u0438\u043d\u0430 \u043d\u0430 \u043e\u0442\u0436\u0438\u043c\u0435, \u0430 CPU \u0438 GPU (\u0443 \u043d\u0430\u0441 \u0436\u0435 unified memory, \u0442\u0430\u043a \u0447\u0442\u043e \u044d\u0442\u043e \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435) \u0441\u0442\u043e\u044f\u043b\u0438 \u043d\u0430 100% \u0432\u0435\u0441\u044c \u043f\u0435\u0440\u0438\u043e\u0434 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430. \u0412\u0435\u043d\u0442\u0438\u043b\u044f\u0442\u043e\u0440 \u0437\u0430\u043e\u0440\u0430\u043b, \u0430 \u0432\u0441\u0451 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u0441\u0442\u0430\u043b\u043e \u043d\u0435\u044e\u0437\u0430\u0431\u0435\u043b\u044c\u043d\u044b\u043c: \u0431\u0440\u0430\u0443\u0437\u0435\u0440 \u043b\u0430\u0433\u0430\u043b, IDE \u0437\u0430\u0432\u0438\u0441\u0430\u043b\u0430, \u0434\u0430\u0436\u0435 ls \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u043b \u0441 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439. \u0427\u0435\u0440\u0435\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0438\u043d\u0443\u0442 \u0432\u043a\u043b\u044e\u0447\u0438\u043b\u0441\u044f thermal throttling, \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043e\u0442\u044b, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0441\u0433\u043e\u0440\u0435\u0442\u044c.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/56\/fa\/bd\/56fabd5b2914a0e98bb1707638586696.png\" width=\"1200\" height=\"675\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/56\/fa\/bd\/56fabd5b2914a0e98bb1707638586696.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/56\/fa\/bd\/56fabd5b2914a0e98bb1707638586696.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041a\u0442\u043e-\u0442\u043e \u0441\u043a\u0430\u0436\u0435\u0442: \u00ab\u0414\u0430 macOS \u043d\u0435 \u0434\u0430\u0441\u0442 \u043e\u0434\u043d\u043e\u043c\u0443 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0443 \u0437\u0430\u0431\u0440\u0430\u0442\u044c \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c\u00bb. \u0418 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0430\u0432: \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0435\u0441\u0442\u044c \u043b\u0438\u043c\u0438\u0442 ~70-75% \u043e\u0442 \u043e\u0431\u0449\u0435\u0433\u043e \u043e\u0431\u044a\u0451\u043c\u0430 RAM \u0434\u043b\u044f GPU. \u041d\u043e Ollama + macOS \u0432 \u0441\u0432\u044f\u0437\u043a\u0435 \u0441 72B \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0443\u0448\u043b\u0438 \u0432 \u0436\u0451\u0441\u0442\u043a\u0438\u0439 \u0441\u0432\u043e\u043f: \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u043b\u0430 \u0432 \u043e\u0442\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u0435 75%, \u0438 macOS \u043d\u0430\u0447\u0430\u043b\u0430 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u0438 \u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 SSD. \u0410 \u044d\u0442\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0430\u044f \u0441\u043c\u0435\u0440\u0442\u044c \u0434\u043b\u044f \u0434\u0438\u0441\u043a\u0430: \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 NAND-\u044f\u0447\u0435\u0439\u043a\u0438, \u043d\u0430\u0433\u0440\u0435\u0432, \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u044f. MacBook \u0441\u0442\u0440\u0430\u0434\u0430\u043b \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 CPU\/GPU, \u043d\u043e \u0438 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e SSD \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043d\u0430 \u0438\u0437\u043d\u043e\u0441.<\/p>\n<p>\u042f \u0441\u043c\u043e\u0442\u0440\u0435\u043b \u043d\u0430 Activity Monitor, \u0433\u0434\u0435 \u0432\u0441\u0435 \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0431\u044b\u043b\u0438 \u043a\u0440\u0430\u0441\u043d\u044b\u043c\u0438, \u0438 \u043f\u043e\u0434\u0443\u043c\u0430\u043b: \u00ab\u0411\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430 \u0437\u0430\u043f\u0443\u0441\u043a \u0440\u0430\u043a\u0435\u0442\u044b, \u0447\u0435\u043c \u043d\u0430 \u0434\u0435\u043f\u043b\u043e\u0439 \u0430\u0433\u0435\u043d\u0442\u0430\u00bb. \u041a\u0430\u043a\u0438\u043c-\u0442\u043e \u0447\u0443\u0434\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0432\u044b\u0436\u0438\u043b, \u043d\u043e \u044f \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e \u0442\u0430\u043a \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u043c\u043e\u0436\u0435\u0442.<\/p>\n<h3>\u041f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u0441\u043f\u0430\u0441\u0442\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044e: \u043b\u0438\u043c\u0438\u0442 \u043f\u0430\u043c\u044f\u0442\u0438<\/h3>\n<p>\u041f\u0435\u0440\u0432\u044b\u043c \u0434\u0435\u043b\u043e\u043c \u044f \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043b\u0438\u043c\u0438\u0442 \u043d\u0430 \u043f\u0430\u043c\u044f\u0442\u044c: \u043f\u0443\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u043e\u0442\u0432\u0435\u0434\u0451\u043d\u043d\u043e\u043c \u0431\u044e\u0434\u0436\u0435\u0442\u0435, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u0434\u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u0438 \u043c\u043e\u0438\u043c \u043e\u043a\u043d\u0430\u043c. 4096 MB, \u043a\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u043e\u0432\u0430\u043b\u0438 \u0432 \u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b\u0430\u0445, \u043d\u0435 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438: 72B in Q2_K \u0432\u0435\u0441\u0438\u0442 ~26 \u0413\u0411, \u0438 \u0432 4 \u0413\u0411 \u043e\u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, Ollama \u0447\u0435\u0441\u0442\u043d\u043e \u0441\u043e\u043e\u0431\u0449\u0430\u043b \u043e\u0431 \u043e\u0448\u0438\u0431\u043a\u0435 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043b\u0438\u043c\u0438\u0442 \u0434\u043e 28 \u0413\u0411, \u0440\u043e\u0432\u043d\u043e \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043b\u0435\u0437\u043b\u0430, \u0438 \u043d\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u0435. \u0423 \u043c\u0435\u043d\u044f 32 \u0413\u0411, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0432 28. \u0417\u0432\u0443\u0447\u0438\u0442 \u043a\u0430\u043a \u0438\u0437\u0434\u0435\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e, \u043d\u043e \u044d\u0442\u043e \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435, \u0447\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b\u043e \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0443 \u043d\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0435\u0442\u044c\u0441\u044f.<\/p>\n<p># \u0412 \u043a\u043e\u043d\u0444\u0438\u0433\u0435 Ollama \u0438\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044f<\/p>\n<p>OLLAMA_NUM_PARALLEL=1<\/p>\n<p># \u041b\u0438\u043c\u0438\u0442 \u043f\u0430\u043c\u044f\u0442\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 macOS<\/p>\n<p>\u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442, \u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0443\u043f\u0430\u043b\u0430 \u0434\u043e 1-2 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 (\u0434\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f, \u043d\u0430 RTX 4090 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0434\u0430\u0451\u0442 10-15 tok\/s).<\/p>\n<p>\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435? \u041f\u0440\u043e\u0441\u0442\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u00ab\u043d\u0430\u043f\u0438\u0448\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0434\u043b\u044f \u043f\u0430\u0440\u0441\u0438\u043d\u0433\u0430 JSON\u00bb \u0437\u0430\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0436\u0434\u0430\u0442\u044c \u043c\u0438\u043d\u0443\u0442\u0443-\u0434\u0432\u0435, \u043f\u043e\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043e\u0442\u0432\u0435\u0442. \u0422\u043e\u043a\u0435\u043d\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443-\u0434\u0432\u0430, \u0431\u0443\u043a\u0432\u0430 \u0437\u0430 \u0431\u0443\u043a\u0432\u043e\u0439, \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u043a\u0442\u043e-\u0442\u043e \u043f\u0435\u0447\u0430\u0442\u0430\u0435\u0442 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u043a\u0435 1985 \u0433\u043e\u0434\u0430.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/a8\/ed\/6f\/a8ed6f583e0f520228a2aa8d63ee80cb.jpg\" width=\"828\" height=\"455\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/a8\/ed\/6f\/a8ed6f583e0f520228a2aa8d63ee80cb.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/a8\/ed\/6f\/a8ed6f583e0f520228a2aa8d63ee80cb.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041e\u043d\u043e \u0436\u0438\u0432\u043e\u0435. \u041d\u043e \u0436\u0438\u0432\u043e\u0435 \u043a\u0430\u043a \u0447\u0435\u0440\u0435\u043f\u0430\u0445\u0430. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u0440\u0435\u0436\u0438\u043c\u0430\u043c\u0438 \u0432\u0438\u0434\u043d\u0430 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p>\u0411\u0435\u0437 \u043b\u0438\u043c\u0438\u0442\u0430<\/p>\n<\/th>\n<th>\n<p>\u0421 \u043b\u0438\u043c\u0438\u0442\u043e\u043c 28 \u0413\u0411<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RAM usage<\/p>\n<\/td>\n<td>\n<p align=\"left\">28-32 \u0413\u0411 (\u0432\u0441\u0451)<\/p>\n<\/td>\n<td>\n<p align=\"left\">~28 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">~3-4 tok\/s (\u0434\u043e \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433\u0430)<\/p>\n<\/td>\n<td>\n<p align=\"left\">~1-2 tok\/s<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u042e\u0437\u0430\u0431\u0438\u043b\u0438\u0442\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">MacBook \u043d\u0435\u044e\u0437\u0430\u0431\u0435\u043b\u0435\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">95\u00b0C+<\/p>\n<\/td>\n<td>\n<p align=\"left\">~85-90\u00b0C<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0414\u043b\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432, \u043a\u043e\u043d\u0435\u0447\u043d\u043e, \u0442\u0435\u0440\u043f\u0438\u043c\u043e, \u043d\u043e \u0434\u043b\u044f \u0435\u0436\u0435\u0434\u043d\u0435\u0432\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0442\u043e\u0447\u043d\u043e \u043d\u0435\u0442.<\/p>\n<h3>\u041f\u0435\u0440\u0435\u0435\u0437\u0434 \u043d\u0430 \u041f\u041a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0430\u0433\u0435\u043d\u0442\u0430<\/h3>\n<p>\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0431\u044b\u043b\u043e \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u043c: \u043d\u0443\u0436\u0435\u043d \u041f\u041a \u0443\u0440\u043e\u0432\u043d\u044f \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u0441\u0442\u0430\u043d\u0446\u0438\u0438.<\/p>\n<p>\u0421\u043f\u0435\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u0438 \u0432 \u043d\u0430\u043b\u0438\u0447\u0438\u0438:<\/p>\n<ul>\n<li>\n<p>GPU: RTX 4070 Ti Super 16GB<\/p>\n<\/li>\n<li>\n<p>RAM: 32 \u0413\u0411 DDR5<\/p>\n<\/li>\n<li>\n<p>SSD: 2TB NVMe Gen4<\/p>\n<\/li>\n<li>\n<p>CPU: Intel Core i5-13600KF<\/p>\n<\/li>\n<\/ul>\n<p>72B \u0432 Q2_K (~26 \u0413\u0411) \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0432 16 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0436\u0438\u0432\u0451\u0442 \u0432 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0435, \u0438 \u044d\u0442\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e. \u041d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u044d\u0442\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442:<\/p>\n<ul>\n<li>\n<p>5-8 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u2014 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0437\u0430 10-20 \u0441\u0435\u043a\u0443\u043d\u0434<\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 IDE, \u0431\u0440\u0430\u0443\u0437\u0435\u0440, \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b \u2014 \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442<\/p>\n<\/li>\n<li>\n<p>GPU \u043d\u0435 \u0432 100%, \u0430 \u0432 60-70% \u043f\u0440\u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435<\/p>\n<\/li>\n<\/ul>\n<p>\u0417\u0432\u0443\u0447\u0438\u0442 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e, \u043f\u0440\u0430\u0432\u0434\u0430? \u041d\u043e \u0442\u0435\u043f\u0435\u0440\u044c, \u043a\u043e\u0433\u0434\u0430 \u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e \u0430\u0433\u0435\u043d\u0442\u0430:<\/p>\n<ul>\n<li>\n<p>GPU \u0441\u0438\u0434\u0438\u0442 \u043d\u0430 80-90% \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430<\/p>\n<\/li>\n<li>\n<p>\u0418\u0433\u0440\u0430\u0442\u044c \u0432 AAA-\u0442\u0430\u0439\u0442\u043b\u044b \u2014 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e (GPU \u0437\u0430\u043d\u044f\u0442)<\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u2014 \u043c\u043e\u0436\u043d\u043e, \u043d\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e (\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430 VRAM)<\/p>\n<\/li>\n<li>\n<p>\u041f\u041a \u0442\u0435\u043f\u0435\u0440\u044c \u043d\u0430 50% \u0418\u0418-\u0441\u0435\u0440\u0432\u0435\u0440 \u0438 \u043d\u0430 50% \u043b\u0438\u0447\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440<\/p>\n<\/li>\n<\/ul>\n<p>\u041e\u043d\u043e \u0436\u0438\u0432\u043e\u0435 \u0438 \u0431\u044b\u0441\u0442\u0440\u043e\u0435, \u043d\u043e \u043c\u043d\u0435 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0436\u0430\u043b\u044c \u043b\u0438\u0447\u043d\u044b\u0439 \u041f\u041a: \u043e\u043d \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043c\u0435\u043d\u044f 24\/7, \u0430 \u044f \u043d\u0435 \u043c\u043e\u0433\u0443 \u0434\u0430\u0436\u0435 \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c \u0432 Cyberpunk \u0431\u0435\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0430\u0433\u0435\u043d\u0442\u0430.<\/p>\n<h3>RAG-\u0431\u0430\u0437\u0430: \u043a\u043e\u0448\u0435\u043b\u0451\u043a \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u043d\u0435\u0440\u0432\u043d\u0438\u0447\u0430\u0442\u044c<\/h3>\n<p>\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u043e\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435. \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u043a\u0441\u0442, \u0435\u0449\u0451 \u043d\u0435 \u0430\u0433\u0435\u043d\u0442. \u0410\u0433\u0435\u043d\u0442 \u2014 \u044d\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c + \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442. \u0410 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u044d\u0442\u043e RAG (Retrieval-Augmented Generation).<\/p>\n<p>\u041c\u043d\u0435 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u0431\u044b \u0430\u0433\u0435\u043d\u0442 \u0437\u043d\u0430\u043b \u043c\u043e\u0439 \u0434\u043e\u043c\u0435\u043d: \u043a\u043e\u0434, \u0434\u043e\u043a\u0438, \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b, \u0442\u0438\u043a\u0435\u0442\u044b, \u0447\u0430\u0442\u044b. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u044f \u043d\u0430\u0447\u0430\u043b \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c RAG-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d: \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u0430\u044f \u0431\u0430\u0437\u0430 + \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 + retrieval. \u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u044f \u0441\u0435\u043b \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u0432\u0441\u0451 \u0432\u043e\u043e\u0431\u0449\u0435 \u0432\u0435\u0441\u0438\u0442.<\/p>\n<p><strong>\u0420\u0430\u0441\u0447\u0451\u0442: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u00ab\u043f\u043e\u043b\u043d\u043e\u0433\u043e\u00bb \u043f\u043e\u043a\u0440\u044b\u0442\u0438\u044f \u0434\u043e\u043c\u0435\u043d\u0430<\/strong><\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/6f\/13\/dd\/6f13dd7aec077517127ae0a01a062334.png\" width=\"1199\" height=\"976\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/6f\/13\/dd\/6f13dd7aec077517127ae0a01a062334.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/6f\/13\/dd\/6f13dd7aec077517127ae0a01a062334.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435:<\/p>\n<ul>\n<li>\n<p>\u0421\u0440\u0435\u0434\u043d\u0438\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442: 10-50 \u0441\u0442\u0440\u0430\u043d\u0438\u0446<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0437\u043c\u0435\u0440 \u0447\u0430\u043d\u043a\u0430: 500 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (~350 \u0441\u043b\u043e\u0432)<\/p>\n<\/li>\n<li>\n<p>\u0420\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430: 1536 \u0438\u043b\u0438 4096<\/p>\n<\/li>\n<\/ul>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041c\u0430\u0441\u0448\u0442\u0430\u0431<\/p>\n<\/th>\n<th>\n<p>\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432<\/p>\n<\/th>\n<th>\n<p>\u0421\u0442\u0440\u0430\u043d\u0438\u0446<\/p>\n<\/th>\n<th>\n<p>\u0427\u0430\u043d\u043a\u043e\u0432<\/p>\n<\/th>\n<th>\n<p>\u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041b\u0438\u0447\u043d\u044b\u0439 \u043f\u0440\u043e\u0435\u043a\u0442<\/p>\n<\/td>\n<td>\n<p align=\"left\">500<\/p>\n<\/td>\n<td>\n<p align=\"left\">10,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">14,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">~200 MB<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0412\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0435 \u0434\u043e\u043a\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">50,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,000,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,400,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">~20 GB<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041f\u043e\u043b\u043d\u044b\u0439 \u0434\u043e\u043c\u0435\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">500,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">10,000,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">14,000,000<\/p>\n<\/td>\n<td>\n<p align=\"left\">~200 GB<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Enterprise-grade<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,000,000+<\/p>\n<\/td>\n<td>\n<p align=\"left\">100,000,000+<\/p>\n<\/td>\n<td>\n<p align=\"left\">140,000,000+<\/p>\n<\/td>\n<td>\n<p align=\"left\">~2 TB<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418 \u044d\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u0430\u044f \u0431\u0430\u0437\u0430, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0435\u0449\u0451 \u043f\u0440\u0438\u043f\u043b\u044e\u0441\u0443\u0435\u043c \u043a \u043d\u0435\u0439:<\/p>\n<ul>\n<li>\n<p>\u0412\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438: 32B \u0432 FP16 = 64 \u0413\u0411, \u0432 FP32 = 128 \u0413\u0411<\/p>\n<\/li>\n<li>\n<p>\u0414\u0430\u043d\u043d\u044b\u0435 \u0434\u043b\u044f fine-tuning + \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430: \u00d73-4<\/p>\n<\/li>\n<li>\n<p>\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u0438\u043d\u0434\u0435\u043a\u0441\u0430: HNSW-\u0433\u0440\u0430\u0444\u044b \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 30-50% overhead<\/p>\n<\/li>\n<\/ul>\n<p>\u0412 \u0441\u0443\u043c\u043c\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043c, \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u044b\u0439 footprint \u0434\u043b\u044f \u00ab\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0433\u043e\u00bb \u043b\u0438\u0447\u043d\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430 \u2014 \u044d\u0442\u043e 2-4 \u0422\u0411.<\/p>\n<h3>Show me the money: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u043e\u0438\u0442 \u0430\u0433\u0435\u043d\u0442 \u0446\u0435\u043b\u0438\u043a\u043e\u043c<\/h3>\n<p>\u0421\u0447\u0438\u0442\u0430\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u041a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442<\/p>\n<\/th>\n<th>\n<p>\u041c\u0438\u043d\u0438\u043c\u0443\u043c \u0434\u043b\u044f \u0430\u0433\u0435\u043d\u0442\u0430<\/p>\n<\/th>\n<th>\n<p>\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c (\u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GPU (24GB+ VRAM)<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTX 4090 \/ A5000<\/p>\n<\/td>\n<td>\n<p align=\"left\">$4,500<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RAM (64GB+)<\/p>\n<\/td>\n<td>\n<p align=\"left\">DDR5 64GB<\/p>\n<\/td>\n<td>\n<p align=\"left\">$500<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Storage (4TB NVMe)<\/p>\n<\/td>\n<td>\n<p align=\"left\">4TB Gen4 SSD<\/p>\n<\/td>\n<td>\n<p align=\"left\">$500<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CPU (16+ cores)<\/p>\n<\/td>\n<td>\n<p align=\"left\">Ryzen 9 \/ i9<\/p>\n<\/td>\n<td>\n<p align=\"left\">$600<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u041f, \u043a\u043e\u0440\u043f\u0443\u0441, \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u0435<\/p>\n<\/td>\n<td>\n<p align=\"left\">1000W+<\/p>\n<\/td>\n<td>\n<p align=\"left\">$400<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0418\u0442\u043e\u0433\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">$6,500<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u043b\u044e\u0441 \u044d\u043b\u0435\u043a\u0442\u0440\u0438\u0447\u0435\u0441\u0442\u0432\u043e:<\/p>\n<ul>\n<li>\n<p>RTX 4090 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442 ~350W \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439<\/p>\n<\/li>\n<li>\n<p>8 \u0447\u0430\u0441\u043e\u0432 \u0432 \u0434\u0435\u043d\u044c = ~2.8 \u043a\u0412\u0442\u00b7\u0447\/\u0434\u0435\u043d\u044c<\/p>\n<\/li>\n<li>\n<p>\u0412 \u0433\u043e\u0434: ~$100-180<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/75\/41\/4a\/75414adbe9a02c86cca801a072e6ed18.jpg\" width=\"736\" height=\"612\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/75\/41\/4a\/75414adbe9a02c86cca801a072e6ed18.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/75\/41\/4a\/75414adbe9a02c86cca801a072e6ed18.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041d\u043e \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u2014 \u043b\u0438\u0447\u043d\u043e\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u0435\u0440\u0432\u0435\u0440. \u0412\u044b \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u0438\u0445 \u0437\u0430\u0434\u0430\u0447, \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u044c, \u0435\u0441\u043b\u0438 \u0430\u0433\u0435\u043d\u0442 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d, \u0438 \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u0440\u043e\u0434\u0430\u0442\u044c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043d \u00ab\u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u00bb \u043a \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435.<\/p>\n<h3>\u041a\u043e\u0433\u0434\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0430 \u043a\u043e\u0433\u0434\u0430 \u043e\u0431\u043b\u0430\u043a\u043e<\/h3>\n<p>\u0420\u0430\u0437 \u0440\u0430\u0441\u0447\u0451\u0442 \u0432\u044b\u0448\u0435\u043b \u0442\u0430\u043a\u0438\u043c, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0440\u0435\u0448\u0438\u0442\u044c, \u0447\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0430 \u0447\u0442\u043e \u0432 \u043e\u0431\u043b\u0430\u043a\u0435. \u041e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u0442\u0443\u0442 \u043d\u0435\u0442: \u043c\u043d\u043e\u0433\u043e\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a\u043e\u0435 \u0443 \u0432\u0430\u0441 \u0436\u0435\u043b\u0435\u0437\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0443\u0436\u0435\u043d \u043b\u0438 \u0430\u0433\u0435\u043d\u0442\u0443 \u0430\u043f\u0442\u0430\u0439\u043c 24\/7. \u041d\u0438\u0436\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u044f, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u044f \u0431\u044b \u0432\u044b\u0431\u0440\u0430\u043b \u0442\u043e\u0442 \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b:<\/p>\n<ul>\n<li>\n<p>\u0423 \u0432\u0430\u0441 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u043c\u043e\u0449\u043d\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e (\u0432\u043e\u0440\u043a\u0441\u0442\u0435\u0439\u0448\u043d, \u0438\u0433\u0440\u043e\u0432\u043e\u0439 \u041f\u041a \u0441 24GB+ VRAM)<\/p>\n<\/li>\n<li>\n<p>\u0412\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c (\u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u0434, \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0435 \u0434\u043e\u043a\u0438, \u0434\u0430\u043d\u043d\u044b\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432)<\/p>\n<\/li>\n<li>\n<p>\u0412\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u0442\u0435 \u0438 \u043d\u0435 \u043d\u0443\u0436\u0435\u043d 24\/7 \u0430\u043f\u0442\u0430\u0439\u043c<\/p>\n<\/li>\n<li>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f (7B-14B) \u0438 \u0437\u0430\u0434\u0430\u0447\u0430 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f<\/p>\n<\/li>\n<\/ul>\n<p>\u041a\u043e\u0433\u0434\u0430 \u043e\u0431\u043b\u0430\u043a\u043e \/ \u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u043b\u0443\u0447\u0448\u0435:<\/p>\n<ul>\n<li>\n<p>\u041d\u0443\u0436\u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e\u0441\u0442\u044c<\/p>\n<\/li>\n<li>\n<p>\u041d\u0443\u0436\u0435\u043d \u043f\u043e\u043b\u043d\u044b\u0439 RAG-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043d\u0430 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0435 (\u043c\u0438\u043b\u043b\u0438\u043e\u043d\u044b \u0447\u0430\u043d\u043a\u043e\u0432)<\/p>\n<\/li>\n<li>\n<p>\u041d\u0435 \u0445\u043e\u0442\u0438\u0442\u0435 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c \u0436\u0435\u043b\u0435\u0437\u043e (\u0430\u043f\u0433\u0440\u0435\u0439\u0434\u044b, \u0437\u0430\u043c\u0435\u043d\u0430, \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u0435)<\/p>\n<\/li>\n<li>\n<p>\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0432 \u043e\u0431\u043b\u0430\u043a\u0435 \u0447\u0430\u0441\u0442\u043e \u043d\u0438\u0436\u0435 \u0430\u043c\u043e\u0440\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438 \u0436\u0435\u043b\u0435\u0437\u0430<\/p>\n<\/li>\n<\/ul>\n<p><strong>Sweet spot: \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434<\/strong><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p>\u0417\u0430\u0434\u0430\u0447\u0430<\/p>\n<\/th>\n<th>\n<p>\u0413\u0434\u0435<\/p>\n<\/th>\n<th>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u044b\u0441\u0442\u0440\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438, \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u043e (7B)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0451\u0448\u0435\u0432\u043e, \u0431\u044b\u0441\u0442\u0440\u043e, \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0443\u0445\u043e\u0434\u044f\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043b\u043e\u0436\u043d\u043e\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u043b\u0430\u043a\u043e (70B+)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c, \u043c\u0430\u0441\u0448\u0442\u0430\u0431<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RAG \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">200GB+ \u043d\u0435 \u043f\u043e\u0442\u044f\u043d\u0435\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Fine-tuning<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u043b\u0430\u043a\u043e \/ GPU-\u043a\u043b\u0430\u0441\u0442\u0435\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u00d74<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 MacBook \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d \u0443\u043c\u0435\u0435\u0442. \u0410 \u043e\u0431\u043b\u0430\u043a\u043e \u2014 \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d \u043d\u0435 \u0443\u043c\u0435\u0435\u0442.<\/p>\n<h3>\u041d\u043e\u0443\u0442\u0431\u0443\u043a \u0446\u0435\u043b, \u0430 \u0441\u0447\u0451\u0442 \u043e\u0441\u0442\u0430\u043b\u0441\u044f<\/h3>\n<p>MacBook \u0436\u0438\u0432 \u0438 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0432 \u043f\u043e\u0440\u044f\u0434\u043a\u0435. \u041e\u0434\u0438\u043d \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433 \u0435\u0449\u0451 \u043d\u0435 \u0431\u043e\u043b\u0435\u0437\u043d\u044c, \u043f\u0440\u043e\u0441\u0442\u043e macOS \u0441\u043d\u0438\u0437\u0438\u043b \u0447\u0430\u0441\u0442\u043e\u0442\u044b, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0435\u0442\u044c\u0441\u044f. \u0412\u0440\u0435\u0434\u0430 \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0439 \u043d\u0435\u0442. \u0416\u0438\u0432\u0451\u0442, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043a\u0430\u043a \u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0440\u0430\u0437\u0432\u0435 \u0447\u0442\u043e \u0438\u043d\u043e\u0433\u0434\u0430 \u0447\u0443\u0442\u044c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0433\u0440\u0435\u0435\u0442\u0441\u044f \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439, \u043d\u043e, \u043a\u0430\u043a \u0443\u0436\u0435 \u043f\u043e\u043d\u044f\u043b, \u044d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e LLM.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0446\u0435\u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0418\u0418 \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0447\u0430\u0441\u0442\u0435\u0439:<\/p>\n<ul>\n<li>\n<p>\u0416\u0435\u043b\u0435\u0437\u043e: $3000-6500 (\u0438\u043b\u0438 \u043b\u0438\u0447\u043d\u044b\u0439 \u041f\u041a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u0435\u0440\u0432\u0435\u0440)<\/p>\n<\/li>\n<li>\n<p>\u042d\u043b\u0435\u043a\u0442\u0440\u0438\u0447\u0435\u0441\u0442\u0432\u043e: $100-180\/\u0433\u043e\u0434 (\u043c\u0430\u043b\u043e, \u043d\u043e \u044d\u0442\u043e \u043d\u0435 \u043d\u043e\u043b\u044c)<\/p>\n<\/li>\n<li>\n<p>\u0412\u0440\u0435\u043c\u044f: \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430, \u043e\u0442\u043b\u0430\u0434\u043a\u0430, \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433, \u0430\u043f\u0433\u0440\u0435\u0439\u0434\u044b<\/p>\n<\/li>\n<li>\n<p>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f: \u043b\u0438\u0447\u043d\u043e\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0430\u0433\u0435\u043d\u0442\u0430<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u043e \u043e\u043f\u044b\u0442 \u0442\u043e\u0433\u043e \u0441\u0442\u043e\u0438\u043b. \u0422\u0435\u043f\u0435\u0440\u044c \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e 7B-14B \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u0430 RAG \u043d\u0430 \u0441\u043e\u0442\u043d\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 \u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043b\u0443\u0447\u0448\u0435 \u043e\u0442\u0434\u0430\u0442\u044c \u043e\u0431\u043b\u0430\u043a\u0443.<\/p>\n<p>\u0410 \u0432\u043e\u0442 \u0442\u0435\u0440\u043f\u0435\u043d\u0438\u0435 \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u043e\u0441\u044c: \u0436\u0434\u0430\u0442\u044c \u043c\u0438\u043d\u0443\u0442\u0443 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u044f \u043d\u0435 \u0445\u043e\u0447\u0443.<\/p>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/17\/d2\/33\/17d2336664682914a0f201728ccc8d0a.jpg\" width=\"662\" height=\"662\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/17\/d2\/33\/17d2336664682914a0f201728ccc8d0a.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/17\/d2\/33\/17d2336664682914a0f201728ccc8d0a.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u043b\u0438 \u0432\u044b \u0434\u0443\u043c\u0430\u0435\u0442\u0435 \u00ab\u0430 \u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0449\u0443 \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u041f\u041a\u00bb, \u0437\u0430\u0433\u043b\u044f\u043d\u0438\u0442\u0435 \u0432 \u0431\u043b\u043e\u043a \u00abRAG-\u0431\u0430\u0437\u0430\u00bb \u0438 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0439\u0442\u0435, \u043f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0440\u0435\u0448\u0430\u0442\u044c.<\/p>\n<p>\u041a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u043d\u0430 \u043a\u0430\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0438 \u0447\u0442\u043e \u0432\u0430\u0441 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u043e? \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043e\u0431\u0441\u0443\u0434\u0438\u043c \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.\u00a0<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1104018\/\">https:\/\/habr.com\/ru\/articles\/1104018\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0417\u043d\u0430\u0435\u0442\u0435 \u044d\u0442\u043e \u0447\u0443\u0432\u0441\u0442\u0432\u043e, \u043a\u043e\u0433\u0434\u0430 \u0447\u0438\u0442\u0430\u0435\u0448\u044c \u0441\u0442\u0430\u0442\u044c\u044e \u043f\u0440\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0435 LLM \u0438 \u0434\u0443\u043c\u0430\u0435\u0448\u044c: \u00ab\u0410, \u043d\u0443 \u044d\u0442\u043e \u0436\u0435 \u043f\u0440\u043e\u0441\u0442\u043e. \u041f\u043e\u0441\u0442\u0430\u0432\u043b\u044e Ollama, \u0442\u044f\u043d\u0443 \u043c\u043e\u0434\u0435\u043b\u044c, \u0438 \u0443 \u043c\u0435\u043d\u044f \u0443\u0436\u0435 \u0441\u0432\u043e\u0439 \u0418\u0418-\u0430\u0433\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u043d\u0430\u0435\u0442 \u0432\u0435\u0441\u044c \u043a\u043e\u0434\u00bb?\u042f \u0434\u0443\u043c\u0430\u043b \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043a.\u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0415\u0433\u043e\u0440 \u041b\u0430\u043f\u0442\u0435\u0432, \u044f QA Fullstack Java \u0432 SENSE \u043d\u0430 \u043f\u0440\u043e\u0435\u043a\u0442\u0435 \u043a\u0440\u0443\u043f\u043d\u043e\u0433\u043e \u0440\u043e\u0441\u0441\u0438\u0439\u0441\u043a\u043e\u0433\u043e \u0431\u0430\u043d\u043a\u0430. \u0423 \u043c\u0435\u043d\u044f MacBook Pro M2 Pro \u0441 32 \u0413\u0411 RAM: \u043d\u0435 topical \u043c\u0430\u0448\u0438\u043d\u0430, \u043d\u043e \u0434\u043b\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u043b\u043e\u0448\u0430\u0434\u043a\u0430. \u0414\u0430\u0436\u0435 \u043d\u0435 \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u043b, \u0447\u0442\u043e \u0447\u0435\u0440\u0435\u0437 20 \u043c\u0438\u043d\u0443\u0442 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0431\u0443\u0434\u0435\u0442 \u0437\u0432\u0443\u0447\u0430\u0442\u044c \u043a\u0430\u043a \u0438\u0441\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u044c \u043d\u0430 \u0432\u0437\u043b\u0451\u0442\u0435, \u0430 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043a\u043e\u0439, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0431\u044b \u0432\u0430\u0440\u0438\u0442\u044c \u044f\u0438\u0447\u043d\u0438\u0446\u0443 \u043d\u0430 \u043a\u0440\u044b\u0448\u043a\u0435.\u042d\u0442\u043e \u0438\u0441\u0442\u043e\u0440\u0438\u044f \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u00ab\u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u00bb \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u043e\u0441\u044c \u0432 \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u044b\u0439 \u043f\u0440\u043e\u0435\u043a\u0442 \u0441 \u0431\u044e\u0434\u0436\u0435\u0442\u043e\u043c, \u0440\u0430\u0441\u0447\u0451\u0442\u0430\u043c\u0438 \u0438 \u043e\u0434\u043d\u0438\u043c \u043f\u043e\u0447\u0442\u0438 \u0441\u0433\u043e\u0440\u0435\u0432\u0448\u0438\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u043e\u043c.\u0414\u0432\u0435 \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435\u0412\u0441\u0451 \u043d\u0430\u0447\u0430\u043b\u043e\u0441\u044c \u0441 \u0434\u0432\u0443\u0445 \u043a\u043e\u043c\u0430\u043d\u0434 \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435:ollama pull qwen-coder:3.5-72bollama run qwen-coder:3.5-72b\u041c\u043e\u0434\u0435\u043b\u044c \u2014 Qwen Coder 3.5, 72 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0430 \u043f\u043e \u043c\u0435\u0440\u043a\u0430\u043c LLM \u044d\u0442\u043e \u0443\u0436\u0435 \u0442\u044f\u0436\u0451\u043b\u044b\u0439 \u043a\u043b\u0430\u0441\u0441. \u0412 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442\u0435 \u043f\u0438\u0448\u0443\u0442: \u00ab72B \u2014 \u044d\u0442\u043e \u0434\u043b\u044f \u0432\u043e\u0440\u043a\u0441\u0442\u0435\u0439\u0448\u043d\u043e\u0432, \u0442\u0435\u0431\u0435 \u043d\u0443\u0436\u0435\u043d \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 128 \u0413\u0411\u00bb. \u041d\u043e Ollama \u0441 \u0430\u0433\u0440\u0435\u0441\u0441\u0438\u0432\u043d\u044b\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0434\u043e Q2_K (~26 \u0413\u0411) \u00ab\u0432\u043c\u0435\u0449\u0430\u0435\u0442\u00bb \u043c\u043e\u0434\u0435\u043b\u044c \u0432 32 \u0413\u0411, \u0442\u0430\u043a \u0447\u0442\u043e \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u043d\u0430 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, \u0435\u0441\u043b\u0438 \u0441\u0436\u0430\u0442\u044c \u0435\u0451 \u0434\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d\u0430 \u0441\u0430\u043c\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0441\u043e\u043c\u043d\u0435\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u0441\u0432\u043e\u0451\u043c \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0435.\u0414\u0430, \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e \u0432\u044b \u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u043e\u0434\u0443\u043c\u0430\u043b\u0438: \u00abQ2_K? \u042d\u0442\u043e \u0436\u0435 \u043a\u0430\u0448\u0430 \u0438\u0437 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043b\u044e\u0431\u0430\u044f \u043b\u043e\u0433\u0438\u043a\u0430 \u0443\u043c\u0438\u0440\u0430\u0435\u0442\u00bb. \u0418 \u0432\u044b \u043f\u0440\u0430\u0432\u044b, \u043d\u043e \u0446\u0435\u043b\u044c \u0431\u044b\u043b\u0430 \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0437\u0430\u0432\u0435\u0434\u0451\u0442\u0441\u044f \u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 72B \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435, \u0430 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u2014 \u043d\u0435 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u043d. \u0414\u043b\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u044f \u0431\u044b \u0432\u0437\u044f\u043b Qwen 2.5 7B \u0438\u043b\u0438 14B \u0432 Q4_K_M \u0438\u043b\u0438 Q8, \u0430 \u044d\u0442\u043e 90% \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u0438 \u0442\u0440\u0435\u0442\u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432. \u041d\u043e \u0442\u043e\u0433\u0434\u0430 \u0431\u044b \u043d\u0435 \u0431\u044b\u043b\u043e \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438.\u041d\u0435 \u0441\u0442\u0430\u043b \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0430\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0442\u044c: \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u043b\u0438\u043c\u0438\u0442\u043e\u0432 \u0438\u043b\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0439 GPU. \u041f\u0440\u043e\u0441\u0442\u043e ollama run \u0438 \u043f\u043e\u0435\u0445\u0430\u043b\u0438.\u0412\u0435\u043d\u0442\u0438\u043b\u044f\u0442\u043e\u0440 \u0437\u0430\u043e\u0440\u0430\u043bOllama \u0437\u0430\u0431\u0440\u0430\u043b \u0432\u0441\u044e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u0443\u044e RAM, \u0432\u0441\u0435 32 \u0413\u0411: 32 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u0430, \u0438 \u043e\u043d \u0441\u043e\u0436\u0440\u0430\u043b \u0412\u0421\u0415. macOS \u043d\u0430\u0447\u0430\u043b\u0430 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c swap, \u0438 \u0434\u0438\u0441\u043a \u043d\u0430\u0447\u0430\u043b \u0433\u0443\u0434\u0435\u0442\u044c \u043a\u0430\u043a \u0441\u0442\u0438\u0440\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u0430\u0448\u0438\u043d\u0430 \u043d\u0430 \u043e\u0442\u0436\u0438\u043c\u0435, \u0430 CPU \u0438 GPU (\u0443 \u043d\u0430\u0441 \u0436\u0435 unified memory, \u0442\u0430\u043a \u0447\u0442\u043e \u044d\u0442\u043e \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435) \u0441\u0442\u043e\u044f\u043b\u0438 \u043d\u0430 100% \u0432\u0435\u0441\u044c \u043f\u0435\u0440\u0438\u043e\u0434 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430. \u0412\u0435\u043d\u0442\u0438\u043b\u044f\u0442\u043e\u0440 \u0437\u0430\u043e\u0440\u0430\u043b, \u0430 \u0432\u0441\u0451 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u0441\u0442\u0430\u043b\u043e \u043d\u0435\u044e\u0437\u0430\u0431\u0435\u043b\u044c\u043d\u044b\u043c: \u0431\u0440\u0430\u0443\u0437\u0435\u0440 \u043b\u0430\u0433\u0430\u043b, IDE \u0437\u0430\u0432\u0438\u0441\u0430\u043b\u0430, \u0434\u0430\u0436\u0435 ls \u0432 \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u043b \u0441 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439. \u0427\u0435\u0440\u0435\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0438\u043d\u0443\u0442 \u0432\u043a\u043b\u044e\u0447\u0438\u043b\u0441\u044f thermal throttling, \u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043e\u0442\u044b, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u0441\u0433\u043e\u0440\u0435\u0442\u044c.\u041a\u0442\u043e-\u0442\u043e \u0441\u043a\u0430\u0436\u0435\u0442: \u00ab\u0414\u0430 macOS \u043d\u0435 \u0434\u0430\u0441\u0442 \u043e\u0434\u043d\u043e\u043c\u0443 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0443 \u0437\u0430\u0431\u0440\u0430\u0442\u044c \u0432\u0441\u044e \u043f\u0430\u043c\u044f\u0442\u044c\u00bb. \u0418 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0430\u0432: \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0435\u0441\u0442\u044c \u043b\u0438\u043c\u0438\u0442 ~70-75% \u043e\u0442 \u043e\u0431\u0449\u0435\u0433\u043e \u043e\u0431\u044a\u0451\u043c\u0430 RAM \u0434\u043b\u044f GPU. \u041d\u043e Ollama + macOS \u0432 \u0441\u0432\u044f\u0437\u043a\u0435 \u0441 72B \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0443\u0448\u043b\u0438 \u0432 \u0436\u0451\u0441\u0442\u043a\u0438\u0439 \u0441\u0432\u043e\u043f: \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u043b\u0430 \u0432 \u043e\u0442\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u0435 75%, \u0438 macOS \u043d\u0430\u0447\u0430\u043b\u0430 \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u0438 \u0447\u0438\u0442\u0430\u0442\u044c \u043d\u0430 SSD. \u0410 \u044d\u0442\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0430\u044f \u0441\u043c\u0435\u0440\u0442\u044c \u0434\u043b\u044f \u0434\u0438\u0441\u043a\u0430: \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430 NAND-\u044f\u0447\u0435\u0439\u043a\u0438, \u043d\u0430\u0433\u0440\u0435\u0432, \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u044f. MacBook \u0441\u0442\u0440\u0430\u0434\u0430\u043b \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 CPU\/GPU, \u043d\u043e \u0438 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e SSD \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043d\u0430 \u0438\u0437\u043d\u043e\u0441.\u042f \u0441\u043c\u043e\u0442\u0440\u0435\u043b \u043d\u0430 Activity Monitor, \u0433\u0434\u0435 \u0432\u0441\u0435 \u0433\u0440\u0430\u0444\u0438\u043a\u0438 \u0431\u044b\u043b\u0438 \u043a\u0440\u0430\u0441\u043d\u044b\u043c\u0438, \u0438 \u043f\u043e\u0434\u0443\u043c\u0430\u043b: \u00ab\u0411\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430 \u0437\u0430\u043f\u0443\u0441\u043a \u0440\u0430\u043a\u0435\u0442\u044b, \u0447\u0435\u043c \u043d\u0430 \u0434\u0435\u043f\u043b\u043e\u0439 \u0430\u0433\u0435\u043d\u0442\u0430\u00bb. \u041a\u0430\u043a\u0438\u043c-\u0442\u043e \u0447\u0443\u0434\u043e\u043c \u043d\u043e\u0443\u0442\u0431\u0443\u043a \u0432\u044b\u0436\u0438\u043b, \u043d\u043e \u044f \u043f\u043e\u043d\u044f\u043b, \u0447\u0442\u043e \u0442\u0430\u043a \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0442\u044c\u0441\u044f \u043d\u0435 \u043c\u043e\u0436\u0435\u0442.\u041f\u044b\u0442\u0430\u0435\u043c\u0441\u044f \u0441\u043f\u0430\u0441\u0442\u0438 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044e: \u043b\u0438\u043c\u0438\u0442 \u043f\u0430\u043c\u044f\u0442\u0438\u041f\u0435\u0440\u0432\u044b\u043c \u0434\u0435\u043b\u043e\u043c \u044f \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u043b\u0438\u043c\u0438\u0442 \u043d\u0430 \u043f\u0430\u043c\u044f\u0442\u044c: \u043f\u0443\u0441\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u043e\u0442\u0432\u0435\u0434\u0451\u043d\u043d\u043e\u043c \u0431\u044e\u0434\u0436\u0435\u0442\u0435, \u0430 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u043e\u0435 \u0434\u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0435 \u0438 \u043c\u043e\u0438\u043c \u043e\u043a\u043d\u0430\u043c. 4096 MB, \u043a\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u043e\u0432\u0430\u043b\u0438 \u0432 \u0442\u0443\u0442\u043e\u0440\u0438\u0430\u043b\u0430\u0445, \u043d\u0435 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438: 72B in Q2_K \u0432\u0435\u0441\u0438\u0442 ~26 \u0413\u0411, \u0438 \u0432 4 \u0413\u0411 \u043e\u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442, Ollama \u0447\u0435\u0441\u0442\u043d\u043e \u0441\u043e\u043e\u0431\u0449\u0430\u043b \u043e\u0431 \u043e\u0448\u0438\u0431\u043a\u0435 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438. \u041f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043d\u044f\u0442\u044c \u043b\u0438\u043c\u0438\u0442 \u0434\u043e 28 \u0413\u0411, \u0440\u043e\u0432\u043d\u043e \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u043b\u0435\u0437\u043b\u0430, \u0438 \u043d\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u0435. \u0423 \u043c\u0435\u043d\u044f 32 \u0413\u0411, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0432 28. \u0417\u0432\u0443\u0447\u0438\u0442 \u043a\u0430\u043a \u0438\u0437\u0434\u0435\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e, \u043d\u043e \u044d\u0442\u043e \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435, \u0447\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b\u043e \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0443 \u043d\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0435\u0442\u044c\u0441\u044f.# \u0412 \u043a\u043e\u043d\u0444\u0438\u0433\u0435 Ollama \u0438\u043b\u0438 \u0447\u0435\u0440\u0435\u0437 \u043f\u0435\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u044fOLLAMA_NUM_PARALLEL=1# \u041b\u0438\u043c\u0438\u0442 \u043f\u0430\u043c\u044f\u0442\u0438 \u0447\u0435\u0440\u0435\u0437 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 macOS\u0412 \u0438\u0442\u043e\u0433\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442, \u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0443\u043f\u0430\u043b\u0430 \u0434\u043e 1-2 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 (\u0434\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f, \u043d\u0430 RTX 4090 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b\u0434\u0430\u0451\u0442 10-15 tok\/s).\u0427\u0442\u043e \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435? \u041f\u0440\u043e\u0441\u0442\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u00ab\u043d\u0430\u043f\u0438\u0448\u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u0434\u043b\u044f \u043f\u0430\u0440\u0441\u0438\u043d\u0433\u0430 JSON\u00bb \u0437\u0430\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0436\u0434\u0430\u0442\u044c \u043c\u0438\u043d\u0443\u0442\u0443-\u0434\u0432\u0435, \u043f\u043e\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043e\u0442\u0432\u0435\u0442. \u0422\u043e\u043a\u0435\u043d\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u043f\u043e \u043e\u0434\u043d\u043e\u043c\u0443-\u0434\u0432\u0430, \u0431\u0443\u043a\u0432\u0430 \u0437\u0430 \u0431\u0443\u043a\u0432\u043e\u0439, \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u043a\u0442\u043e-\u0442\u043e \u043f\u0435\u0447\u0430\u0442\u0430\u0435\u0442 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u043a\u0435 1985 \u0433\u043e\u0434\u0430.\u041e\u043d\u043e \u0436\u0438\u0432\u043e\u0435. \u041d\u043e \u0436\u0438\u0432\u043e\u0435 \u043a\u0430\u043a \u0447\u0435\u0440\u0435\u043f\u0430\u0445\u0430. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u0440\u0435\u0436\u0438\u043c\u0430\u043c\u0438 \u0432\u0438\u0434\u043d\u0430 \u0432 \u0442\u0430\u0431\u043b\u0438\u0446\u0435.\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0411\u0435\u0437 \u043b\u0438\u043c\u0438\u0442\u0430\u0421 \u043b\u0438\u043c\u0438\u0442\u043e\u043c 28 \u0413\u0411RAM usage28-32 \u0413\u0411 (\u0432\u0441\u0451)~28 \u0413\u0411\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c~3-4 tok\/s (\u0434\u043e \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433\u0430)~1-2 tok\/s\u042e\u0437\u0430\u0431\u0438\u043b\u0438\u0442\u0438MacBook \u043d\u0435\u044e\u0437\u0430\u0431\u0435\u043b\u0435\u043d\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043d\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e\u0422\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u043095\u00b0C+~85-90\u00b0C\u0414\u043b\u044f \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432, \u043a\u043e\u043d\u0435\u0447\u043d\u043e, \u0442\u0435\u0440\u043f\u0438\u043c\u043e, \u043d\u043e \u0434\u043b\u044f \u0435\u0436\u0435\u0434\u043d\u0435\u0432\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0442\u043e\u0447\u043d\u043e \u043d\u0435\u0442.\u041f\u0435\u0440\u0435\u0435\u0437\u0434 \u043d\u0430 \u041f\u041a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0430\u0433\u0435\u043d\u0442\u0430\u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0431\u044b\u043b\u043e \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u043c: \u043d\u0443\u0436\u0435\u043d \u041f\u041a \u0443\u0440\u043e\u0432\u043d\u044f \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u0441\u0442\u0430\u043d\u0446\u0438\u0438.\u0421\u043f\u0435\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443 \u043c\u0435\u043d\u044f \u0431\u044b\u043b\u0438 \u0432 \u043d\u0430\u043b\u0438\u0447\u0438\u0438:GPU: RTX 4070 Ti Super 16GBRAM: 32 \u0413\u0411 DDR5SSD: 2TB NVMe Gen4CPU: Intel Core i5-13600KF72B \u0432 Q2_K (~26 \u0413\u0411) \u043d\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0432 16 \u0413\u0411 \u0432\u0438\u0434\u0435\u043e\u043f\u0430\u043c\u044f\u0442\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0447\u0430\u0441\u0442\u044c \u0432\u0435\u0441\u043e\u0432 \u0436\u0438\u0432\u0451\u0442 \u0432 \u043e\u043f\u0435\u0440\u0430\u0442\u0438\u0432\u043a\u0435, \u0438 \u044d\u0442\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e. \u041d\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 \u044d\u0442\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442:5-8 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u2014 \u043e\u0442\u0432\u0435\u0442 \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0437\u0430 10-20 \u0441\u0435\u043a\u0443\u043d\u0434\u041c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 IDE, \u0431\u0440\u0430\u0443\u0437\u0435\u0440, \u0442\u0435\u0440\u043c\u0438\u043d\u0430\u043b \u2014 \u0432\u0441\u0451 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442GPU \u043d\u0435 \u0432 100%, \u0430 \u0432 60-70% \u043f\u0440\u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435\u0417\u0432\u0443\u0447\u0438\u0442 \u0438\u0434\u0435\u0430\u043b\u044c\u043d\u043e, \u043f\u0440\u0430\u0432\u0434\u0430? \u041d\u043e \u0442\u0435\u043f\u0435\u0440\u044c, \u043a\u043e\u0433\u0434\u0430 \u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e \u0430\u0433\u0435\u043d\u0442\u0430:GPU \u0441\u0438\u0434\u0438\u0442 \u043d\u0430 80-90% \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430\u0418\u0433\u0440\u0430\u0442\u044c \u0432 AAA-\u0442\u0430\u0439\u0442\u043b\u044b \u2014 \u043d\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e (GPU \u0437\u0430\u043d\u044f\u0442)\u041c\u043e\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u2014 \u043c\u043e\u0436\u043d\u043e, \u043d\u043e \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u043e (\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430 VRAM)\u041f\u041a \u0442\u0435\u043f\u0435\u0440\u044c \u043d\u0430 50% \u0418\u0418-\u0441\u0435\u0440\u0432\u0435\u0440 \u0438 \u043d\u0430 50% \u043b\u0438\u0447\u043d\u044b\u0439 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u041e\u043d\u043e \u0436\u0438\u0432\u043e\u0435 \u0438 \u0431\u044b\u0441\u0442\u0440\u043e\u0435, \u043d\u043e \u043c\u043d\u0435 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0436\u0430\u043b\u044c \u043b\u0438\u0447\u043d\u044b\u0439 \u041f\u041a: \u043e\u043d \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u043c\u0435\u043d\u044f 24\/7, \u0430 \u044f \u043d\u0435 \u043c\u043e\u0433\u0443 \u0434\u0430\u0436\u0435 \u043f\u043e\u0438\u0433\u0440\u0430\u0442\u044c \u0432 Cyberpunk \u0431\u0435\u0437 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0430\u0433\u0435\u043d\u0442\u0430.RAG-\u0431\u0430\u0437\u0430: \u043a\u043e\u0448\u0435\u043b\u0451\u043a \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u043d\u0435\u0440\u0432\u043d\u0438\u0447\u0430\u0442\u044c\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u043e\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435. \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u0435\u043a\u0441\u0442, \u0435\u0449\u0451 \u043d\u0435 \u0430\u0433\u0435\u043d\u0442. \u0410\u0433\u0435\u043d\u0442 \u2014 \u044d\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c + \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442. \u0410 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2014 \u044d\u0442\u043e RAG (Retrieval-Augmented Generation).\u041c\u043d\u0435 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u0431\u044b \u0430\u0433\u0435\u043d\u0442 \u0437\u043d\u0430\u043b \u043c\u043e\u0439 \u0434\u043e\u043c\u0435\u043d: \u043a\u043e\u0434, \u0434\u043e\u043a\u0438, \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u044b, \u0442\u0438\u043a\u0435\u0442\u044b, \u0447\u0430\u0442\u044b. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u044f \u043d\u0430\u0447\u0430\u043b \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c RAG-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d: \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u0430\u044f \u0431\u0430\u0437\u0430 + \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 + retrieval. \u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u044f \u0441\u0435\u043b \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0430 \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u0432\u0441\u0451 \u0432\u043e\u043e\u0431\u0449\u0435 \u0432\u0435\u0441\u0438\u0442.\u0420\u0430\u0441\u0447\u0451\u0442: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u00ab\u043f\u043e\u043b\u043d\u043e\u0433\u043e\u00bb \u043f\u043e\u043a\u0440\u044b\u0442\u0438\u044f \u0434\u043e\u043c\u0435\u043d\u0430\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435:\u0421\u0440\u0435\u0434\u043d\u0438\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442: 10-50 \u0441\u0442\u0440\u0430\u043d\u0438\u0446\u0420\u0430\u0437\u043c\u0435\u0440 \u0447\u0430\u043d\u043a\u0430: 500 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 (~350 \u0441\u043b\u043e\u0432)\u0420\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430: 1536 \u0438\u043b\u0438 4096\u041c\u0430\u0441\u0448\u0442\u0430\u0431\u0414\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432\u0421\u0442\u0440\u0430\u043d\u0438\u0446\u0427\u0430\u043d\u043a\u043e\u0432\u0425\u0440\u0430\u043d\u0435\u043d\u0438\u0435\u041b\u0438\u0447\u043d\u044b\u0439 \u043f\u0440\u043e\u0435\u043a\u044250010,00014,000~200 MB\u0412\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0435 \u0434\u043e\u043a\u043850,0001,000,0001,400,000~20 GB\u041f\u043e\u043b\u043d\u044b\u0439 \u0434\u043e\u043c\u0435\u043d500,00010,000,00014,000,000~200 GBEnterprise-grade5,000,000+100,000,000+140,000,000+~2 TB\u0418 \u044d\u0442\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u0430\u044f \u0431\u0430\u0437\u0430, \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0435\u0449\u0451 \u043f\u0440\u0438\u043f\u043b\u044e\u0441\u0443\u0435\u043c \u043a \u043d\u0435\u0439:\u0412\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438: 32B \u0432 FP16 = 64 \u0413\u0411, \u0432 FP32 = 128 \u0413\u0411\u0414\u0430\u043d\u043d\u044b\u0435 \u0434\u043b\u044f fine-tuning + \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430: \u00d73-4\u0421\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u0438\u043d\u0434\u0435\u043a\u0441\u0430: HNSW-\u0433\u0440\u0430\u0444\u044b \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u044e\u0442 30-50% overhead\u0412 \u0441\u0443\u043c\u043c\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043c, \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u044b\u0439 footprint \u0434\u043b\u044f \u00ab\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0433\u043e\u00bb \u043b\u0438\u0447\u043d\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430 \u2014 \u044d\u0442\u043e 2-4 \u0422\u0411.Show me the money: \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u043e\u0438\u0442 \u0430\u0433\u0435\u043d\u0442 \u0446\u0435\u043b\u0438\u043a\u043e\u043c\u0421\u0447\u0438\u0442\u0430\u0435\u043c \u0436\u0435\u043b\u0435\u0437\u043e, \u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u043d\u0443\u0436\u043d\u043e \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u0433\u0435\u043d\u0442\u0430:\u041a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u041c\u0438\u043d\u0438\u043c\u0443\u043c \u0434\u043b\u044f \u0430\u0433\u0435\u043d\u0442\u0430\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c (\u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440)GPU (24GB+ VRAM)RTX 4090 \/ A5000$4,500RAM (64GB+)DDR5 64GB$500Storage (4TB NVMe)4TB Gen4 SSD$500CPU (16+ cores)Ryzen 9 \/ i9$600\u0411\u041f, \u043a\u043e\u0440\u043f\u0443\u0441, \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u04351000W+$400\u0418\u0442\u043e\u0433\u043e$6,500\u041f\u043b\u044e\u0441 \u044d\u043b\u0435\u043a\u0442\u0440\u0438\u0447\u0435\u0441\u0442\u0432\u043e:RTX 4090 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442 ~350W \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u04398 \u0447\u0430\u0441\u043e\u0432 \u0432 \u0434\u0435\u043d\u044c = ~2.8 \u043a\u0412\u0442\u00b7\u0447\/\u0434\u0435\u043d\u044c\u0412 \u0433\u043e\u0434: ~$100-180\u041d\u043e \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u2014 \u043b\u0438\u0447\u043d\u043e\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u0435\u0440\u0432\u0435\u0440. \u0412\u044b \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u0438\u0445 \u0437\u0430\u0434\u0430\u0447, \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0432\u044b\u043a\u043b\u044e\u0447\u0438\u0442\u044c, \u0435\u0441\u043b\u0438 \u0430\u0433\u0435\u043d\u0442 \u0434\u043e\u043b\u0436\u0435\u043d \u0431\u044b\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f\u0435\u043d, \u0438 \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u0440\u043e\u0434\u0430\u0442\u044c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u043e\u043d \u00ab\u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u00bb \u043a \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435.\u041a\u043e\u0433\u0434\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0430 \u043a\u043e\u0433\u0434\u0430 \u043e\u0431\u043b\u0430\u043a\u043e\u0420\u0430\u0437 \u0440\u0430\u0441\u0447\u0451\u0442 \u0432\u044b\u0448\u0435\u043b \u0442\u0430\u043a\u0438\u043c, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0440\u0435\u0448\u0438\u0442\u044c, \u0447\u0442\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u0430 \u0447\u0442\u043e \u0432 \u043e\u0431\u043b\u0430\u043a\u0435. \u041e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e\u0433\u043e \u043e\u0442\u0432\u0435\u0442\u0430 \u0442\u0443\u0442 \u043d\u0435\u0442: \u043c\u043d\u043e\u0433\u043e\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a\u043e\u0435 \u0443 \u0432\u0430\u0441 \u0436\u0435\u043b\u0435\u0437\u043e, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u043d\u0443\u0436\u0435\u043d \u043b\u0438 \u0430\u0433\u0435\u043d\u0442\u0443 \u0430\u043f\u0442\u0430\u0439\u043c 24\/7. \u041d\u0438\u0436\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u044f, \u043f\u0440\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u044f \u0431\u044b \u0432\u044b\u0431\u0440\u0430\u043b \u0442\u043e\u0442 \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.\u041a\u043e\u0433\u0434\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b:\u0423 \u0432\u0430\u0441 \u0443\u0436\u0435 \u0435\u0441\u0442\u044c \u043c\u043e\u0449\u043d\u043e\u0435 \u0436\u0435\u043b\u0435\u0437\u043e (\u0432\u043e\u0440\u043a\u0441\u0442\u0435\u0439\u0448\u043d, \u0438\u0433\u0440\u043e\u0432\u043e\u0439 \u041f\u041a \u0441 24GB+ VRAM)\u0412\u0430\u043c \u043d\u0443\u0436\u043d\u0430 \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c (\u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u0434, \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0438\u0435 \u0434\u043e\u043a\u0438, \u0434\u0430\u043d\u043d\u044b\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432)\u0412\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u0435\u0442\u0435 \u0438 \u043d\u0435 \u043d\u0443\u0436\u0435\u043d 24\/7 \u0430\u043f\u0442\u0430\u0439\u043c\u041c\u043e\u0434\u0435\u043b\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f (7B-14B) \u0438 \u0437\u0430\u0434\u0430\u0447\u0430 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044f\u041a\u043e\u0433\u0434\u0430 \u043e\u0431\u043b\u0430\u043a\u043e \/ \u043a\u043e\u0440\u043f\u043e\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0430 \u043b\u0443\u0447\u0448\u0435:\u041d\u0443\u0436\u043d\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0438 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u0430\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e\u0441\u0442\u044c\u041d\u0443\u0436\u0435\u043d \u043f\u043e\u043b\u043d\u044b\u0439 RAG-\u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u043d\u0430 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0435 (\u043c\u0438\u043b\u043b\u0438\u043e\u043d\u044b \u0447\u0430\u043d\u043a\u043e\u0432)\u041d\u0435 \u0445\u043e\u0442\u0438\u0442\u0435 \u043e\u0431\u0441\u043b\u0443\u0436\u0438\u0432\u0430\u0442\u044c \u0436\u0435\u043b\u0435\u0437\u043e (\u0430\u043f\u0433\u0440\u0435\u0439\u0434\u044b, \u0437\u0430\u043c\u0435\u043d\u0430, \u043e\u0445\u043b\u0430\u0436\u0434\u0435\u043d\u0438\u0435)\u0421\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u0432 \u043e\u0431\u043b\u0430\u043a\u0435 \u0447\u0430\u0441\u0442\u043e \u043d\u0438\u0436\u0435 \u0430\u043c\u043e\u0440\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u0438 \u0436\u0435\u043b\u0435\u0437\u0430Sweet spot: \u0433\u0438\u0431\u0440\u0438\u0434\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434\u0417\u0430\u0434\u0430\u0447\u0430\u0413\u0434\u0435\u041f\u043e\u0447\u0435\u043c\u0443\u0411\u044b\u0441\u0442\u0440\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438, \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u043e\u0441\u0442\u044c\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u043e (7B)\u0414\u0451\u0448\u0435\u0432\u043e, \u0431\u044b\u0441\u0442\u0440\u043e, \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0443\u0445\u043e\u0434\u044f\u0442\u0421\u043b\u043e\u0436\u043d\u043e\u0435 \u0440\u0430\u0441\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435, \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f\u041e\u0431\u043b\u0430\u043a\u043e (70B+)\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c, \u043c\u0430\u0441\u0448\u0442\u0430\u0431RAG \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445\u041e\u0431\u043b\u0430\u043a\u043e200GB+ \u043d\u0435 \u043f\u043e\u0442\u044f\u043d\u0435\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043eFine-tuning\u041e\u0431\u043b\u0430\u043a\u043e \/ GPU-\u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0421\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440\u0430 \u00d74\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0439\u0442\u0435 MacBook \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d \u0443\u043c\u0435\u0435\u0442. \u0410 \u043e\u0431\u043b\u0430\u043a\u043e \u2014 \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d \u043d\u0435 \u0443\u043c\u0435\u0435\u0442.\u041d\u043e\u0443\u0442\u0431\u0443\u043a \u0446\u0435\u043b, \u0430 \u0441\u0447\u0451\u0442 \u043e\u0441\u0442\u0430\u043b\u0441\u044fMacBook \u0436\u0438\u0432 \u0438 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0432 \u043f\u043e\u0440\u044f\u0434\u043a\u0435. \u041e\u0434\u0438\u043d \u0442\u0440\u043e\u0442\u0442\u043b\u0438\u043d\u0433 \u0435\u0449\u0451 \u043d\u0435 \u0431\u043e\u043b\u0435\u0437\u043d\u044c, \u043f\u0440\u043e\u0441\u0442\u043e macOS \u0441\u043d\u0438\u0437\u0438\u043b \u0447\u0430\u0441\u0442\u043e\u0442\u044b, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043f\u0435\u0440\u0435\u0433\u0440\u0435\u0442\u044c\u0441\u044f. \u0412\u0440\u0435\u0434\u0430 \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0439 \u043d\u0435\u0442. \u0416\u0438\u0432\u0451\u0442, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442, \u043a\u0430\u043a \u0438 \u0440\u0430\u043d\u044c\u0448\u0435, \u0440\u0430\u0437\u0432\u0435 \u0447\u0442\u043e \u0438\u043d\u043e\u0433\u0434\u0430 \u0447\u0443\u0442\u044c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0433\u0440\u0435\u0435\u0442\u0441\u044f \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439, \u043d\u043e, \u043a\u0430\u043a \u0443\u0436\u0435 \u043f\u043e\u043d\u044f\u043b, \u044d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e LLM.\u0415\u0441\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0446\u0435\u043d\u0430 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0418\u0418 \u0441\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0438\u0437 \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0447\u0430\u0441\u0442\u0435\u0439:\u0416\u0435\u043b\u0435\u0437\u043e: $3000-6500 (\u0438\u043b\u0438 \u043b\u0438\u0447\u043d\u044b\u0439 \u041f\u041a, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u0435\u043f\u0435\u0440\u044c \u0441\u0435\u0440\u0432\u0435\u0440)\u042d\u043b\u0435\u043a\u0442\u0440\u0438\u0447\u0435\u0441\u0442\u0432\u043e: $100-180\/\u0433\u043e\u0434 (\u043c\u0430\u043b\u043e, \u043d\u043e \u044d\u0442\u043e \u043d\u0435 \u043d\u043e\u043b\u044c)\u0412\u0440\u0435\u043c\u044f: \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430, \u043e\u0442\u043b\u0430\u0434\u043a\u0430, \u043c\u043e\u043d\u0438\u0442\u043e\u0440\u0438\u043d\u0433, \u0430\u043f\u0433\u0440\u0435\u0439\u0434\u044b\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f: \u043b\u0438\u0447\u043d\u043e\u0435 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0442\u0435\u043f\u0435\u0440\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0430\u0433\u0435\u043d\u0442\u0430\u041d\u043e \u043e\u043f\u044b\u0442 \u0442\u043e\u0433\u043e \u0441\u0442\u043e\u0438\u043b. \u0422\u0435\u043f\u0435\u0440\u044c \u044f \u0437\u043d\u0430\u044e, \u0447\u0442\u043e 7B-14B \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u0436\u0435\u043b\u0435\u0437\u0435, \u0430 RAG \u043d\u0430 \u0441\u043e\u0442\u043d\u0438 \u0433\u0438\u0433\u0430\u0431\u0430\u0439\u0442 \u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043b\u0443\u0447\u0448\u0435 \u043e\u0442\u0434\u0430\u0442\u044c \u043e\u0431\u043b\u0430\u043a\u0443.\u0410 \u0432\u043e\u0442 \u0442\u0435\u0440\u043f\u0435\u043d\u0438\u0435 \u0437\u0430\u043a\u043e\u043d\u0447\u0438\u043b\u043e\u0441\u044c: \u0436\u0434\u0430\u0442\u044c \u043c\u0438\u043d\u0443\u0442\u0443 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u044f \u043d\u0435 \u0445\u043e\u0447\u0443.\u0415\u0441\u043b\u0438 \u0432\u044b \u0434\u0443\u043c\u0430\u0435\u0442\u0435 \u00ab\u0430 \u044f \u043f\u0440\u043e\u0441\u0442\u043e \u0437\u0430\u043f\u0443\u0449\u0443 \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u041f\u041a\u00bb, \u0437\u0430\u0433\u043b\u044f\u043d\u0438\u0442\u0435 \u0432 \u0431\u043b\u043e\u043a \u00abRAG-\u0431\u0430\u0437\u0430\u00bb \u0438 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0439\u0442\u0435, \u043f\u0440\u0435\u0436\u0434\u0435 \u0447\u0435\u043c \u0440\u0435\u0448\u0430\u0442\u044c.\u041a\u0430\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0435\u0442\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e, \u043d\u0430 \u043a\u0430\u043a\u043e\u043c \u0436\u0435\u043b\u0435\u0437\u0435 \u0438 \u0447\u0442\u043e \u0432\u0430\u0441 \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u043e? \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043e\u0431\u0441\u0443\u0434\u0438\u043c \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.\u00a0\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 https:\/\/habr.com\/ru\/articles\/1104018\/<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-501800","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/501800","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=501800"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/501800\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=501800"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=501800"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=501800"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}