{"id":466263,"date":"2025-07-07T15:17:16","date_gmt":"2025-07-07T15:17:16","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=466263"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=466263","title":{"rendered":"<span>\u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432, \u0430\u0432\u0442\u043e\u0440 llama.cpp \u0438 \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u0433\u043e \u043a\u0435\u0439\u043b\u043e\u0433\u0435\u0440\u0430<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/u_\/jp\/qb\/u_jpqbs6jscwwamrc2vzr_p5__k.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/u_\/jp\/qb\/u_jpqbs6jscwwamrc2vzr_p5__k.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/u_\/jp\/qb\/u_jpqbs6jscwwamrc2vzr_p5__k.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041c\u043d\u043e\u0433\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f YouTube, Netflix, \u043d\u043e \u043d\u0435 \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u044e\u0442 \u043e \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430\u0445 \u0442\u0438\u043f\u0430 <a href=\"https:\/\/ffmpeg.org\/\" rel=\"noopener noreferrer nofollow\">ffmpeg<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430 \u0431\u044d\u043a\u0435\u043d\u0434\u0435 \u044d\u0442\u0438\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432. \u041f\u043e\u0445\u043e\u0436\u0430\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0441 \u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0430\u043c\u0438, \u0433\u0434\u0435 \u043c\u043d\u043e\u0433\u0438\u0435 \u0437\u043d\u0430\u044e\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 <a href=\"https:\/\/ollama.com\/\" rel=\"noopener noreferrer nofollow\">Ollama<\/a> \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 CPU. \u041d\u043e \u043c\u0430\u043b\u043e \u043a\u0442\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442, \u0447\u0442\u043e \u044d\u0442\u043e \u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c \u043f\u0440\u043e\u0441\u0442\u0435\u043d\u044c\u043a\u0430\u044f \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0430 \u0432\u043e\u043a\u0440\u0443\u0433 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 <a href=\"https:\/\/github.com\/ggerganov\/llama.cpp\" rel=\"noopener noreferrer nofollow\">llama.cpp<\/a> \u043d\u0430 \u0421, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438 \u0434\u0435\u043b\u0430\u0435\u0442 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441. \u0410\u0432\u0442\u043e\u0440 \u044d\u0442\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438, \u0442\u0430\u043b\u0430\u043d\u0442\u043b\u0438\u0432\u044b\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a <a href=\"https:\/\/web.archive.org\/web\/20250514164636\/https:\/\/ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">\u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432<\/a>, \u043c\u0430\u043b\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u0435\u043d \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u0443\u0431\u043b\u0438\u043a\u0435.<\/p>\n<p>\u042d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u044b LLM \u0432 \u043a\u0443\u0440\u0441\u0435, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442. \u0421\u0443\u0434\u044f \u043f\u043e \u0432\u0441\u0435\u043c\u0443, \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430\u043c Ollama <s>\u0432\u044b\u0433\u043e\u0434\u043d\u043e<\/s> \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u0441\u0435 \u043b\u0430\u0432\u0440\u044b \u0434\u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0438\u043c. \u041e\u0434\u043d\u0430\u043a\u043e \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u044e\u0442 \u0441\u0442\u0440\u0430\u043d\u043d\u044b\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0441\u043b\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 \u043d\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 Ollama \u0442\u0432\u0438\u0442\u0438\u0442 \u00ab\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439\u00bb, \u0445\u043e\u0442\u044f \u043e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0436\u0434\u0443\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f <code>llama.cpp<\/code>.<\/p>\n<p>\u041d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0413\u0435\u043e\u0440\u0433\u0438\u044f \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u0430 \u0437\u0430\u0431\u0430\u0432\u0438\u0442 \u0442\u0430\u043a\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u00ab\u0431\u0438\u0437\u043d\u0435\u0441\u043c\u0435\u043d\u043e\u0432 \u043e\u0442 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0430\u00bb. \u0425\u043e\u0442\u044f \u043e\u043d \u0441\u043a\u0440\u043e\u043c\u043d\u044b\u0439 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u0438\u0439 \u0445\u0430\u043a\u0435\u0440 \u0438 \u043d\u0438 \u0441 \u043a\u0435\u043c \u043e\u0441\u043e\u0431\u043e \u043d\u0435 \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u0443\u0435\u0442.<\/p>\n<h2>\u0412 \u0447\u0451\u043c \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0438 \u043a Ollama<\/h2>\n<p>\u041d\u0435\u0434\u0430\u0432\u043d\u043e Meta \u043e\u0431\u044a\u044f\u0432\u0438\u043b\u0430 \u043e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432 LLama, \u043f\u043e\u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u0438\u0432 \u0432 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u043c \u0431\u043b\u043e\u0433\u0435 \u0441\u0432\u043e\u0438\u0445 \u00ab\u043f\u0430\u0440\u0442\u043d\u0451\u0440\u043e\u0432 \u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 \u0418\u0418\u00bb, <a href=\"https:\/\/ai.meta.com\/blog\/llama-4-multimodal-intelligence\/\" rel=\"noopener noreferrer nofollow\">\u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 Ollama<\/a>, \u0434\u0430\u0436\u0435 \u043d\u0435 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0432 llama.cpp.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/42\/bm\/-l\/42bm-lskry3hbqa_qn3brmsp2by.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/42\/bm\/-l\/42bm-lskry3hbqa_qn3brmsp2by.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/42\/bm\/-l\/42bm-lskry3hbqa_qn3brmsp2by.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0418\u043b\u0438 \u0432\u043e\u0442 \u043d\u0435\u0434\u0430\u0432\u043d\u043e VSCode <a href=\"https:\/\/code.visualstudio.com\/updates\/v1_99#_bring-your-own-key-byok-preview\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u0431\u0430\u0432\u0438\u043b<\/a> \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0432 \u0447\u0430\u0442\u0435 GitHub Copilot, \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0432 \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0443 Ollama, \u0430 \u043d\u0435 \u0434\u0432\u0438\u0436\u043e\u043a <code>llama.cpp<\/code>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443:<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/xe\/1d\/9r\/xe1d9ravj7lcrrqkb39ggnoonxs.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/xe\/1d\/9r\/xe1d9ravj7lcrrqkb39ggnoonxs.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/xe\/1d\/9r\/xe1d9ravj7lcrrqkb39ggnoonxs.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u043f\u0440\u043e\u0441\u0442\u043e <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/pull\/12896\" rel=\"noopener noreferrer nofollow\">\u0438\u0440\u043e\u043d\u0438\u0447\u043d\u043e \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u043b \u044d\u0442\u043e\u0442 \u0444\u0430\u043a\u0442<\/a>, \u043d\u043e \u043d\u0435 \u0432\u044b\u0441\u043a\u0430\u0437\u0430\u043b \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0439.<\/p>\n<p>\u0421\u0430\u043c\u0430 Ollama \u0442\u043e\u0436\u0435 <a href=\"https:\/\/github.com\/ollama\/ollama\/issues\/3185\" rel=\"noopener noreferrer nofollow\">\u043d\u0435 \u0443\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442<\/a> \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430 <code>llama.cpp<\/code>, \u0430 \u0432\u043e\u0442 \u044d\u0442\u043e \u0443\u0436\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435\u043c \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0438 MIT.<\/p>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e \u044d\u0442\u043e\u0433\u043e, \u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 LLM-\u044d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u043e\u0432 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435 <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/so_why_are_we_shing_on_ollama_again\/\" rel=\"noopener noreferrer nofollow\">\u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b<\/a> \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u043e\u0439 Ollama, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0434\u0438 \u0445\u0430\u0439\u043f\u0430 \u0434\u0435\u043b\u0430\u0435\u0442 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0440\u0435\u043a\u043b\u0430\u043c\u043d\u044b\u0435 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f, \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u044f \u0443 \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u0443\u0431\u043b\u0438\u043a\u0438 \u0437\u0430\u0432\u044b\u0448\u0435\u043d\u043d\u044b\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f, \u0447\u0442\u043e \u00ab\u043a\u0430\u0436\u0434\u044b\u0439 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c ChatGPT \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0435\u00bb, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u041f\u041a \u0438 \u0441\u043c\u0430\u0440\u0442\u0444\u043e\u043d\u0430\u0445 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438\u00a0\u2014 \u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043e\u0447\u0435\u043d\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u0439.<\/p>\n<p>\u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b, \u0430 \u043a\u0440\u0430\u0439\u043d\u0438\u043c\u0438 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 <code>llama.cpp<\/code>.<\/p>\n<p>\u0415\u0449\u0451 Ollama \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u0438\u043c\u0435\u043d\u0443\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0430\u043a \u0447\u0442\u043e \u043d\u0435\u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u044b\u0439 \u0434\u0438\u0441\u0442\u0438\u043b\u043b\u044f\u0442 LLaMA \u0441 \u043c\u0435\u043d\u0435\u0435 10\u00a0\u043c\u043b\u0440\u0434 \u0432\u0435\u0441\u043e\u0432 \u0438\u043c\u0435\u043d\u0443\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u00ab\u043f\u0440\u043e\u0441\u0442\u043e\u00bb LLaMA. \u042d\u0442\u043e <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqv9d1g\/\" rel=\"noopener noreferrer nofollow\">\u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c<\/a> \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0439 \u043a Ollama, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0433\u043e\u043d\u0438\u0442\u0441\u044f \u0437\u0430 \u0445\u0430\u0439\u043f\u043e\u043c, \u0445\u043e\u0442\u044f \u0431\u044d\u043a\u0435\u043d\u0434 \u043f\u0438\u0448\u0443\u0442 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/vd\/zx\/tq\/vdzxtqw-hknkmbo9q16iaxy8ni8.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/vd\/zx\/tq\/vdzxtqw-hknkmbo9q16iaxy8ni8.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/vd\/zx\/tq\/vdzxtqw-hknkmbo9q16iaxy8ni8.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0415\u0441\u0442\u044c \u0438 <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqv9k6i\/\" rel=\"noopener noreferrer nofollow\">\u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b<\/a>:<\/p>\n<ul>\n<li>\n<p>Ollama \u043d\u0435 \u0432\u043d\u043e\u0441\u0438\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0439 \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0432 \u0440\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0435\u043a\u0442. \u0414\u0430, \u043e\u043d\u0438 \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c, \u043d\u043e \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u043d\u043e\u0441\u0442\u0438 \u0431\u044b\u043b\u043e \u0431\u044b \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0435\u0441\u043b\u0438 \u0431 \u043e\u043d\u0438 \u043f\u043e\u043c\u043e\u0433\u043b\u0438 <code>llama.cpp<\/code> \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435\u043c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0432\u0440\u043e\u0434\u0435 iSWA (Integrated Service Workload Analyzer), \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0443 \u043e \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435. \u041d\u043e \u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0438\u0442\u0430\u044e\u0442 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c \u044d\u0442\u0438 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u043f\u0440\u0438 \u0441\u0435\u0431\u0435. \u0412\u044b\u0445\u043e\u0434\u0438\u0442 \u043d\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c\u00a0\u2014 \u043e\u043d\u0438 \u0442\u0432\u0438\u0442\u044f\u0442 \u00ab\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u044d\u0442\u0438\u043c\u00bb \u0438 \u0436\u0434\u0443\u0442, \u043a\u043e\u0433\u0434\u0430 \u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u0432\u043d\u0435\u0434\u0440\u0438\u0442 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, \u0440\u0430\u043d\u044c\u0448\u0435 \u0442\u0430\u043a\u043e\u0435 \u0431\u044b\u043b\u043e \u043d\u0435\u043e\u0434\u043d\u043e\u043a\u0440\u0430\u0442\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043b\u043e\u0445\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0434\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041f\u0440\u0435\u0434\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama<br \/> \u0441\u0434\u0435\u043b\u0430\u043d\u044b \u044f\u043a\u043e\u0431\u044b \u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439, \u043d\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043e\u043d\u0438 \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u043e \u043d\u0435\u0440\u0430\u0437\u0443\u043c\u043d\u043e <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqvcqxj\/\" rel=\"noopener noreferrer nofollow\">\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442<\/a> \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c llama.cpp:<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/pi\/fv\/lf\/pifvlffidipheuq7dg9qqfsprqi.jpeg\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/pi\/fv\/lf\/pifvlffidipheuq7dg9qqfsprqi.jpeg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/pi\/fv\/lf\/pifvlffidipheuq7dg9qqfsprqi.jpeg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0414\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e 2048 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u043d\u0435\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u043e \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0437\u0430\u0434\u0430\u0447. \u0421\u0435\u0439\u0447\u0430\u0441 \u0435\u0433\u043e <a href=\"https:\/\/github.com\/ollama\/ollama\/blob\/main\/docs\/faq.md#how-can-i-specify-the-context-window-size\" rel=\"noopener noreferrer nofollow\">\u0443\u0432\u0435\u043b\u0438\u0447\u0438\u043b\u0438 \u0434\u043e 4096 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/a>.<\/p>\n<p>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f, \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u044b \u0438\u0437 <a href=\"https:\/\/lmstudio.ai\/\" rel=\"noopener noreferrer nofollow\">LM Studio<\/a> \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0434\u0443\u043c\u0430\u043d\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439. \u0418 \u0432\u043e\u043e\u0431\u0449\u0435, \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u043f\u0440\u043e\u043a\u0441\u0438 \u0442\u0438\u043f\u0430 <a href=\"https:\/\/www.litellm.ai\/\" rel=\"noopener noreferrer nofollow\">LiteLLM<\/a> \u0434\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c \u0438 <code>llama.cpp<\/code> \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445\u00a0\u2014 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0432 Ollama \u0432\u043e\u043e\u0431\u0449\u0435 \u043e\u0442\u043f\u0430\u0434\u0430\u0435\u0442. \u041d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0437\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c Ollama, \u0435\u0441\u043b\u0438 \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u043e\u0439 \u0438\u0434\u0451\u0442 \u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 llamacpp-server.<\/p>\n<p>\u0412 \u0446\u0435\u043b\u043e\u043c, Ollama \u0444\u043e\u0440\u043a\u0430\u0435\u0442 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u044b\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0438 \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0442\u044c \u044d\u0442\u0438 \u0444\u043e\u0440\u043a\u0438 \u0432 \u0441\u0432\u043e\u0435\u0439 \u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0440\u0430\u043d\u0441\u043f\u043e\u0440\u0442\u043d\u044b\u0439 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b Ollama \u2014 \u044d\u0442\u043e \u0444\u043e\u0440\u043a \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0430 <a href=\"https:\/\/opencontainers.org\/\" rel=\"noopener noreferrer nofollow\">OCI<\/a> (Open Container Initiative), \u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0439 \u0434\u043b\u044f \u043d\u0435\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438 \u0441 DockerHub \u0438 \u0434\u0440.<\/p>\n<p>\u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0438 llama.cpp \u043e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0444\u043e\u0440\u043a\u043d\u0443\u043b\u0438 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0432 \u0441\u0432\u043e\u0438\u0445 \u0446\u0435\u043b\u044f\u0445, \u0431\u0435\u0437 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u0441\u0432\u044f\u0437\u0438.<\/p>\n<h2>llama.cpp<\/h2>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/ef\/lu\/7k\/eflu7kw7wivrnwovlys3kldeyco.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/ef\/lu\/7k\/eflu7kw7wivrnwovlys3kldeyco.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/ef\/lu\/7k\/eflu7kw7wivrnwovlys3kldeyco.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e <a href=\"https:\/\/github.com\/ggerganov\/llama.cpp\" rel=\"noopener noreferrer nofollow\">llama.cpp<\/a> \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0430\u0441\u044c \u043a\u0430\u043a \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2302.13971\" rel=\"noopener noreferrer nofollow\">LLaMA<\/a> \u043e\u0442 Meta \u043d\u0430 \u0447\u0438\u0441\u0442\u043e\u043c C\/C++. \u0420\u0430\u0431\u043e\u0442\u0443 \u043d\u0430\u0434 \u043d\u0435\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u043d\u0430\u0447\u0430\u043b \u0432 \u0441\u0435\u043d\u0442\u044f\u0431\u0440\u0435 2022\u00a0\u0433\u043e\u0434\u0430, \u043f\u043e\u0441\u043b\u0435 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 <a href=\"https:\/\/github.com\/ggerganov\/whisper.cpp\" rel=\"noopener noreferrer nofollow\">whisper.cpp<\/a> \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0440\u0435\u0447\u0438 ASR Whisper \u043e\u0442 OpenAI.<\/p>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0435\u043b\u0430\u0441\u044c \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0443 <a href=\"https:\/\/github.com\/ggml-org\/ggml\" rel=\"noopener noreferrer nofollow\">GGML<\/a>\u00a0\u2014 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u043e\u0439 \u0430\u043b\u0433\u0435\u0431\u0440\u044b \u043d\u0430 C. \u0413\u0435\u043e\u0440\u0433\u0438\u0439 <a href=\"https:\/\/changelog.com\/podcast\/532\" rel=\"noopener noreferrer nofollow\">\u0433\u043e\u0432\u043e\u0440\u0438\u0442<\/a>, \u0447\u0442\u043e \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 GGML \u0431\u044b\u043b\u043e \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0435\u043d\u043e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u043e\u0439 <a href=\"https:\/\/bellard.org\/libnc\/libnc.html\" rel=\"noopener noreferrer nofollow\">LibNC<\/a> \u043e\u0442 \u0424\u0430\u0431\u0440\u0438\u0441\u0430 \u0411\u0435\u043b\u043b\u0430\u0440\u0430.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/di\/js\/mk\/dijsmkbvcyodqkuowvcidp53r-8.jpeg\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/di\/js\/mk\/dijsmkbvcyodqkuowvcidp53r-8.jpeg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/di\/js\/mk\/dijsmkbvcyodqkuowvcidp53r-8.jpeg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0426\u0435\u043b\u044c \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u2014 \u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0430\u0445 \u0431\u0435\u0437 GPU \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u0440\u0442. \u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e <code>llama.cpp<\/code> \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 LLM \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u041f\u041a \u0438 \u0441\u043c\u0430\u0440\u0442\u0444\u043e\u043d\u0430\u0445 Android. \u0425\u043e\u0442\u044f \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u0438\u0441\u0430\u043b\u0430\u0441\u044c \u0434\u043b\u044f CPU, \u043f\u043e\u0437\u0436\u0435 \u0431\u044b\u043b\u0430 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 GPU.<\/p>\n<p>\u0412 \u043c\u0430\u0440\u0442\u0435 2024\u00a0\u0433\u043e\u0434\u0430 \u0434\u0440\u0443\u0433\u0430\u044f \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430\u044f \u0445\u0430\u043a\u0435\u0440\u0448\u0430 <a href=\"https:\/\/habr.com\/ru\/company\/ruvds\/blog\/682150\/\" rel=\"noopener noreferrer nofollow\">\u0414\u0436\u0430\u0441\u0442\u0438\u043d \u0422\u0430\u043d\u043d\u0438<\/a> \u0432\u044b\u043f\u0443\u0441\u0442\u0438\u043b\u0430 \u043d\u043e\u0432\u044b\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u044f\u0434\u0440\u0430 \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f \u043c\u0430\u0442\u0440\u0438\u0446 \u0434\u043b\u044f x86 \u0438 ARM CPU, \u0443\u043b\u0443\u0447\u0448\u0438\u0432 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c FP16 \u0438 8-\u0431\u0438\u0442\u043d\u044b\u0445 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0442\u0438\u043f\u043e\u0432 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<p>\u0412 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u0445 \u0441 \u043f\u043e\u043d\u0438\u0436\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u0432\u0435\u0441\u043e\u0432, \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0439, \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439) \u043a\u043e\u0434\u0438\u0440\u0443\u044e\u0442\u0441\u044f 8-\u0431\u0438\u0442\u043d\u044b\u043c\u0438 \u0446\u0435\u043b\u044b\u043c\u0438 \u0447\u0438\u0441\u043b\u0430\u043c\u0438 (\u0438\u043b\u0438 \u043d\u0438\u0436\u0435). \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043e\u0431\u044a\u0451\u043c \u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043d\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0441 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c\u0438.<\/p>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/zs\/au\/w3\/zsauw3zzm9tw0wioavghxoogwqc.jpeg\" alt=\"\u0418\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0446\u0432\u0435\u0442\u0430 \u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/zs\/au\/w3\/zsauw3zzm9tw0wioavghxoogwqc.jpeg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/zs\/au\/w3\/zsauw3zzm9tw0wioavghxoogwqc.jpeg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0418\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0446\u0432\u0435\u0442\u0430 \u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u042d\u0442\u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u0431\u044b\u043b\u0438 \u0432\u043d\u0435\u0441\u0435\u043d\u044b \u0432 <code>llama.cpp<\/code>. \u0422\u0430\u043d\u043d\u0438 \u0442\u0430\u043a\u0436\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 <a href=\"https:\/\/github.com\/Mozilla-Ocho\/llamafile\" rel=\"noopener noreferrer nofollow\">llamafile<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 <code>llama.cpp<\/code> \u0432 \u043e\u0434\u0438\u043d \u0444\u0430\u0439\u043b, \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0439 \u043d\u0430 \u043b\u044e\u0431\u044b\u0445 \u041e\u0421.<\/p>\n<p>\u041d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432 GGML \u0432 <code>llama.cpp<\/code> \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c, \u0432\u043a\u043b\u044e\u0447\u0430\u044f x86, ARM, CUDA, Metal, Vulkan (\u0432\u0435\u0440\u0441\u0438\u0438 1.2 \u0438\u043b\u0438 \u0432\u044b\u0448\u0435) \u0438 SYCL. \u0412\u043c\u0435\u0441\u0442\u043e \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430 \u043b\u0435\u0442\u0443 llama.cpp \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0414\u043b\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439: AVX, AVX2 \u0438 AVX-512 \u0434\u043b\u044f x86-64, \u0430 \u0442\u0430\u043a\u0436\u0435 Neon \u043d\u0430 ARM.<\/p>\n<p>\u0411\u0438\u043d\u0430\u0440\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/blob\/master\/gguf-py\/README.md\" rel=\"noopener noreferrer nofollow\">GGUF<\/a> (GGML Universal File) \u0445\u0440\u0430\u043d\u044f\u0442 \u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u044b, \u0438 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0435. \u0424\u043e\u0440\u043c\u0430\u0442 \u0441\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d \u0434\u043b\u044f \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0438, \u043e\u043d \u0431\u044b\u043b <a href=\"https:\/\/www.ibm.com\/think\/topics\/gguf-versus-ggml\" rel=\"noopener noreferrer nofollow\">\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d<\/a> \u0432 \u0430\u0432\u0433\u0443\u0441\u0442\u0435 2023\u00a0\u0433\u043e\u0434\u0430 \u0434\u043b\u044f \u043b\u0443\u0447\u0448\u0435\u0439 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438, \u043a\u043e\u0433\u0434\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043b\u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u043d\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<p>GGUF \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0446\u0435\u043b\u043e\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0442\u0438\u043f\u044b \u043e\u0442 2 \u0434\u043e 8 \u0431\u0438\u0442, \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0435 \u0444\u043e\u0440\u043c\u0430\u0442\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u043b\u0430\u0432\u0430\u044e\u0449\u0435\u0439 \u0437\u0430\u043f\u044f\u0442\u043e\u0439, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a float32, float16 \u0438 bfloat16, \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044e \u043d\u0430 1,56 \u0431\u0438\u0442\u0430.<\/p>\n<h2>\u0414\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u0430<\/h2>\n<ul>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/whisper.cpp\" rel=\"noopener noreferrer nofollow\">whisper.cpp<\/a>: \u0432\u044b\u0441\u043e\u043a\u043e\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043c\u043e\u0434\u0435\u043b\u0438 ASR Whisper \u043e\u0442 OpenAI \u043d\u0430 CPU \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c C\/C++.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/ggml\/tree\/master\/examples\/gpt-j\" rel=\"noopener noreferrer nofollow\">GPT-J<\/a>: \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043d\u0430 CPU \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c C\/C++.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/slack.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">slack (tui)<\/a>: \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 UI \u0434\u043b\u044f \u043a\u043b\u0438\u0435\u043d\u0442\u0430 Slack | <a href=\"https:\/\/github.com\/ggerganov\/imtui\/tree\/master\/examples\/slack\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/youtu.be\/RJRGfvKEgEw\" rel=\"noopener noreferrer nofollow\">\u0432\u0438\u0434\u0435\u043e0<\/a> | <a href=\"https:\/\/youtu.be\/cEqNYesDCXg\" rel=\"noopener noreferrer nofollow\">\u0432\u0438\u0434\u0435\u043e1<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/keytap3.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap3<\/a>: \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u043a\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u044b \u0438\u0437 \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 \u043c\u0438\u043a\u0440\u043e\u0444\u043e\u043d | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/keytap3-gui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">gui<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/pu\/pu\/gc\/pupugcuikfozybkb773dmyex8hw.gif\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/webt\/pu\/pu\/gc\/pupugcuikfozybkb773dmyex8hw.gif 780w,&#10;       https:\/\/habrastorage.org\/webt\/pu\/pu\/gc\/pupugcuikfozybkb773dmyex8hw.gif 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/hnguessr.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">hnguessr<\/a>: \u0438\u0433\u0440\u0430 \u00ab\u041e\u0442\u0433\u0430\u0434\u0430\u0439 \u0437\u0430\u0433\u043e\u043b\u043e\u0432\u043a\u0438 Hacker News\u00bb | <a href=\"https:\/\/github.com\/ggerganov\/hnguessr\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/6l\/b2\/cs\/6lb2cszv_uoodg90xrowi3-n06a.gif\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/webt\/6l\/b2\/cs\/6lb2cszv_uoodg90xrowi3-n06a.gif 780w,&#10;       https:\/\/habrastorage.org\/webt\/6l\/b2\/cs\/6lb2cszv_uoodg90xrowi3-n06a.gif 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/the-story.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">the-story<\/a>: \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u043f\u043e \u043a\u043e\u043b\u043b\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u043c\u0443 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044e \u0442\u0435\u043a\u0441\u0442\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u0430\u0432\u0442\u043e\u0440\u043e\u0432 (\u0441 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0437\u0430 \u0441\u043b\u043e\u0432\u0430) | <a href=\"https:\/\/github.com\/ggerganov\/the-story\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wordle-bg.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wordle-bg<\/a>: \u041a\u043b\u043e\u043d Wordle \u043d\u0430 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u043e\u043c | <a href=\"https:\/\/github.com\/ggerganov\/wordle-bg\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/twitter.com\/tweet2btc\" rel=\"noopener noreferrer nofollow\">@tweet2btc<\/a>: \u043a\u043e\u043b\u043b\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0446\u0435\u043d\u044b \u0431\u0438\u0442\u043a\u043e\u0438\u043d\u0430 \u0447\u0435\u0440\u0435\u0437 \u043e\u043f\u0440\u043e\u0441\u044b \u0432 Twitter | <a href=\"https:\/\/github.com\/ggerganov\/tweet2btc\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/twitter.com\/tweet2doom\" rel=\"noopener noreferrer nofollow\">@tweet2doom<\/a>: \u0442\u0432\u0438\u0442\u0442\u0435\u0440-\u0431\u043e\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432 Doom | <a href=\"https:\/\/github.com\/ggerganov\/tweet2doom\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/github.com\/tweet2doom\" rel=\"noopener noreferrer nofollow\">\u0434\u0430\u043d\u043d\u044b\u0435<\/a> | <a href=\"https:\/\/tweet2doom.github.io\/\" rel=\"noopener noreferrer nofollow\">\u044d\u043a\u0441\u043f\u043b\u043e\u0440\u0435\u0440<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/fh\/n-\/um\/fhn-um8ujqxokfvkq9kejoxo_ww.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/fh\/n-\/um\/fhn-um8ujqxokfvkq9kejoxo_ww.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/fh\/n-\/um\/fhn-um8ujqxokfvkq9kejoxo_ww.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/meme.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">morse-meme<\/a>: \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u043c\u0435\u043c\u043e\u0432 \u043d\u0430 \u0430\u0437\u0431\u0443\u043a\u0435 \u041c\u043e\u0440\u0437\u0435 | <a href=\"https:\/\/github.com\/ggerganov\/morse-meme\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggmorse.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">GGMorse<\/a>: \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043a\u0430 \u043a\u043e\u0434\u0430 \u041c\u043e\u0440\u0437\u0435 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u043e \u0437\u0432\u0443\u043a\u0443| <a href=\"https:\/\/github.com\/ggerganov\/ggmorse\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/apps.apple.com\/us\/app\/ggmorse\/id1573531678?platform=iphone\" rel=\"noopener noreferrer nofollow\">iOS<\/a> | <a href=\"https:\/\/play.google.com\/store\/apps\/details?id=com.ggerganov.Waver\" rel=\"noopener noreferrer nofollow\">Android<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/su\/cp\/2q\/sucp2qti5aup-uc9o7sqf65akpw.png\" alt=\"GGMorse\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/su\/cp\/2q\/sucp2qti5aup-uc9o7sqf65akpw.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/su\/cp\/2q\/sucp2qti5aup-uc9o7sqf65akpw.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>GGMorse<\/figcaption><\/div>\n<\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/r2t2#readme\" rel=\"noopener noreferrer nofollow\">r2t2<\/a>: \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0447\u0435\u0440\u0435\u0437 \u0434\u0438\u043d\u0430\u043c\u0438\u043a \u041f\u041a | <a href=\"https:\/\/r2t2.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">\u0434\u0435\u043a\u043e\u0434\u0435\u0440<\/a>.<\/p>\n<\/li>\n<\/ul>\n<div class=\"tm-iframe_temp\" data-src=\"https:\/\/embedd.srv.habr.com\/iframe\/686b8e6865c9c1f5fde797fb\" data-style=\"\" id=\"686b8e6865c9c1f5fde797fb\" width=\"\"><\/div>\n<ul>\n<li>\n<p><a href=\"https:\/\/spectrogram.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">Spectrogram<\/a>: \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u0443\u0434\u0438\u043e\u0441\u043f\u0435\u043a\u0442\u0440\u0430 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 | <a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/spectrogram\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/waver.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">Waver<\/a>: \u043e\u0431\u043c\u0435\u043d \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c\u0438 \u0438 \u0444\u0430\u0439\u043b\u0430\u043c\u0438 \u043f\u043e \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u043c\u0443 \u043a\u0430\u043d\u0430\u043b\u0443 (\u0447\u0435\u0440\u0435\u0437 \u0443\u043b\u044c\u0442\u0440\u0430\u0437\u0432\u0443\u043a) | <a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/waver#readme\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/apps.apple.com\/us\/app\/waver-data-over-sound\/id1543607865?platform=iphone\" rel=\"noopener noreferrer nofollow\">iOS<\/a> | <a href=\"https:\/\/play.google.com\/store\/apps\/details?id=com.ggerganov.Waver\" rel=\"noopener noreferrer nofollow\">Android<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/wk\/cj\/df\/wkcjdfue2txkgdt-z1jas0ke8n0.png\" alt=\"Waver\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/wk\/cj\/df\/wkcjdfue2txkgdt-z1jas0ke8n0.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/wk\/cj\/df\/wkcjdfue2txkgdt-z1jas0ke8n0.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>Waver<\/figcaption><\/div>\n<\/figure>\n<p>\u042d\u0442\u043e \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u0435\u0440\u0435\u0434\u0430\u0442\u044c \u0444\u0430\u0439\u043b\u044b \u0441 \u043e\u0434\u043d\u043e\u0433\u043e \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043d\u0430 \u0434\u0440\u0443\u0433\u043e\u0435, \u0435\u0441\u043b\u0438 \u043e\u043d\u0438 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0446\u0438\u0444\u0440\u043e\u0432\u043e\u0435 \u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435.<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/keytap2.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap2<\/a>: \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u0439 \u043a\u0435\u0439\u043b\u043e\u0433\u0435\u0440 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u044b\u0445 n-\u0433\u0440\u0430\u043c\u043c, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u0438\u0437 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439 \u0437\u0432\u0443\u043a\u043e\u0432\u044b\u0445 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432 | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\/discussions\/31\" rel=\"noopener noreferrer nofollow\">\u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wtf-tui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wtf-tui<\/a>: \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 UI \u0434\u043b\u044f <a href=\"https:\/\/wtfutil.com\/\" rel=\"noopener noreferrer nofollow\">WTF<\/a> | <a href=\"https:\/\/github.com\/ggerganov\/wtf-tui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habr.com\/images\/px.gif#https%3A%2F%2Fasciinema.org%2Fa%2F310405.svg\" alt=\"asciicast\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habr.com\/images\/px.gif#https%3A%2F%2Fasciinema.org%2Fa%2F310405.svg 780w,&#10;       https:\/\/habr.com\/images\/px.gif#https%3A%2F%2Fasciinema.org%2Fa%2F310405.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>asciicast<\/figcaption><\/div>\n<\/figure>\n<p>(<a href=\"https:\/\/asciinema.org\/a\/310405\" rel=\"noopener noreferrer nofollow\">https:\/\/asciinema.org\/a\/310405<\/a>) <\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/hnterm.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">hnterm<\/a>: \u043f\u0440\u043e\u0441\u043c\u043e\u0442\u0440 Hacker News \u0432 \u043a\u043e\u043d\u0441\u043e\u043b\u0438 | <a href=\"https:\/\/github.com\/ggerganov\/hnterm\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/imtui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">ImTui<\/a>: \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430 (immediate mode) \u0432 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u043c UI | <a href=\"https:\/\/web.archive.org\/web\/20250514164636\/https:\/\/github.com\/ggerganov\/imtui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438 \u043d\u0430 C++<\/a>. \u041e\u043d\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445 \u0434\u043b\u044f Slack, WTF \u0438 HN, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u043a\u0430\u0437\u0430\u043d\u044b \u0432\u044b\u0448\u0435 \u0432 \u044d\u0442\u043e\u043c \u0441\u043f\u0438\u0441\u043a\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/cw\/r0\/8m\/cwr08mrzwalbdnvgugh6ej_kpuy.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/cw\/r0\/8m\/cwr08mrzwalbdnvgugh6ej_kpuy.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/cw\/r0\/8m\/cwr08mrzwalbdnvgugh6ej_kpuy.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/dot-to-ascii.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">dot-to-ascii<\/a>: \u041a\u043e\u043d\u0432\u0435\u0440\u0442\u0435\u0440 Graphviz \u0432 ASCII | <a href=\"https:\/\/github.com\/ggerganov\/dot-to-ascii\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/gt\/7b\/e5\/gt7be5ddtzgpp7sarrskvgpl-3q.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/gt\/7b\/e5\/gt7be5ddtzgpp7sarrskvgpl-3q.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/gt\/7b\/e5\/gt7be5ddtzgpp7sarrskvgpl-3q.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/lottery-check.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">lottery-check<\/a>: \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a \u0447\u0430\u0441\u0442\u043e \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u0435 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \u0447\u0438\u0441\u0435\u043b \u0432 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u043e\u0439 \u043b\u043e\u0442\u0435\u0440\u0435\u0435 6\/49 | <a href=\"https:\/\/github.com\/ggerganov\/toto-check\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggerganov.github.io\/diff-challenge\" rel=\"noopener noreferrer nofollow\">Diff Challenge<\/a>: \u0438\u0433\u0440\u0430 Diff Challenge \u0432 \u0432\u0438\u0434\u0435 \u0431\u0430\u0448-\u0441\u043a\u0440\u0438\u043f\u0442\u0430, \u0441\u043c\u044b\u0441\u043b \u0438\u0433\u0440\u044b \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u043e\u0438\u0441\u043a\u0435 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b <code>y<\/code>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 <code>x<\/code>, \u0430 \u0432\u044b\u0434\u0430\u0447\u0430 <code>y<\/code> \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0440\u0430\u0437\u043d\u0438\u0446\u0435 \u043c\u0435\u0436\u0434\u0443 <code>x<\/code> \u0438 <code>y<\/code>:<\/p>\n<\/li>\n<\/ul>\n<pre><code class=\"bash\">$ .\/y &gt; diff $ patch y &lt; diff $ cmp x y $ <\/code><\/pre>\n<ul>\n<li>\n<p><a href=\"https:\/\/imgui-ws.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">ImGui-WS<\/a>: \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 <a href=\"https:\/\/github.com\/ocornut\/imgui\" rel=\"noopener noreferrer nofollow\">Dear ImGui<\/a> \u0447\u0435\u0440\u0435\u0437 WebSockets | <a href=\"https:\/\/github.com\/ggerganov\/imgui-ws\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/ea\/vg\/u7\/eavgu76mffggogpu6hti6mtrwcc.png\" sizes=\"(max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/webt\/ea\/vg\/u7\/eavgu76mffggogpu6hti6mtrwcc.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/webt\/ea\/vg\/u7\/eavgu76mffggogpu6hti6mtrwcc.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/typing-battles.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">typing-battles<\/a>: \u043c\u043d\u043e\u0433\u043e\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u0438\u0433\u0440\u0430, \u043a\u0442\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u0435 (\u0441\u0435\u0440\u0432\u0435\u0440: C++\/WebSockets, \u043a\u043b\u0438\u0435\u043d\u0442: JS) | <a href=\"https:\/\/github.com\/ggerganov\/typing-battles\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggerganov.github.io\/keytap-challenge\" rel=\"noopener noreferrer nofollow\">keytap-challenge<\/a>: \u0443\u0433\u0430\u0434\u0430\u0439, \u043a\u0430\u043a\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/keytap.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap<\/a>: \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u043a\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u044b \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wave-gui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wave-gui<\/a>: \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0437\u0432\u0443\u043a\u0430 | <a href=\"https:\/\/github.com\/ggerganov\/wave-gui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wave-share.com\/\" rel=\"noopener noreferrer nofollow\">wave-share<\/a>: \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u0444\u0430\u0439\u043b\u043e\u0432 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0437\u0432\u0443\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 \u0431\u0440\u0430\u0443\u0437\u0435\u0440 | <a href=\"https:\/\/github.com\/ggerganov\/wave-shar\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<p>\u00a9 2025 \u041e\u041e\u041e \u00ab\u041c\u0422 \u0424\u0418\u041d\u0410\u041d\u0421\u00bb<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/923304\/\"> https:\/\/habr.com\/ru\/articles\/923304\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"\"><\/figure>\n<p>\u041c\u043d\u043e\u0433\u0438\u0435 \u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f YouTube, Netflix, \u043d\u043e \u043d\u0435 \u043f\u043e\u0434\u043e\u0437\u0440\u0435\u0432\u0430\u044e\u0442 \u043e \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430\u0445 \u0442\u0438\u043f\u0430 <a href=\"https:\/\/ffmpeg.org\/\" rel=\"noopener noreferrer nofollow\">ffmpeg<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u043d\u0430 \u0431\u044d\u043a\u0435\u043d\u0434\u0435 \u044d\u0442\u0438\u0445 \u0441\u0435\u0440\u0432\u0438\u0441\u043e\u0432. \u041f\u043e\u0445\u043e\u0436\u0430\u044f \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f \u0441 \u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0430\u043c\u0438, \u0433\u0434\u0435 \u043c\u043d\u043e\u0433\u0438\u0435 \u0437\u043d\u0430\u044e\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 <a href=\"https:\/\/ollama.com\/\" rel=\"noopener noreferrer nofollow\">Ollama<\/a> \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 CPU. \u041d\u043e \u043c\u0430\u043b\u043e \u043a\u0442\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442, \u0447\u0442\u043e \u044d\u0442\u043e \u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c \u043f\u0440\u043e\u0441\u0442\u0435\u043d\u044c\u043a\u0430\u044f \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0430 \u0432\u043e\u043a\u0440\u0443\u0433 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 <a href=\"https:\/\/github.com\/ggerganov\/llama.cpp\" rel=\"noopener noreferrer nofollow\">llama.cpp<\/a> \u043d\u0430 \u0421, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438 \u0434\u0435\u043b\u0430\u0435\u0442 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441. \u0410\u0432\u0442\u043e\u0440 \u044d\u0442\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438, \u0442\u0430\u043b\u0430\u043d\u0442\u043b\u0438\u0432\u044b\u0439 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a <a href=\"https:\/\/web.archive.org\/web\/20250514164636\/https:\/\/ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">\u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432<\/a>, \u043c\u0430\u043b\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u0435\u043d \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u0443\u0431\u043b\u0438\u043a\u0435.<\/p>\n<p>\u042d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u044b LLM \u0432 \u043a\u0443\u0440\u0441\u0435, \u0447\u0442\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442. \u0421\u0443\u0434\u044f \u043f\u043e \u0432\u0441\u0435\u043c\u0443, \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430\u043c Ollama <s>\u0432\u044b\u0433\u043e\u0434\u043d\u043e<\/s> \u043d\u0440\u0430\u0432\u0438\u0442\u0441\u044f, \u0447\u0442\u043e \u0432\u0441\u0435 \u043b\u0430\u0432\u0440\u044b \u0434\u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0438\u043c. \u041e\u0434\u043d\u0430\u043a\u043e \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u044e\u0442 \u0441\u0442\u0440\u0430\u043d\u043d\u044b\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438, \u043a\u043e\u0433\u0434\u0430 \u043f\u043e\u0441\u043b\u0435 \u0432\u044b\u0445\u043e\u0434\u0430 \u043d\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 Ollama \u0442\u0432\u0438\u0442\u0438\u0442 \u00ab\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439\u00bb, \u0445\u043e\u0442\u044f \u043e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0436\u0434\u0443\u0442 \u043e\u0431\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f <code>llama.cpp<\/code>.<\/p>\n<p>\u041d\u0430\u0432\u0435\u0440\u043d\u043e\u0435, \u0413\u0435\u043e\u0440\u0433\u0438\u044f \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u0430 \u0437\u0430\u0431\u0430\u0432\u0438\u0442 \u0442\u0430\u043a\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u00ab\u0431\u0438\u0437\u043d\u0435\u0441\u043c\u0435\u043d\u043e\u0432 \u043e\u0442 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0430\u00bb. \u0425\u043e\u0442\u044f \u043e\u043d \u0441\u043a\u0440\u043e\u043c\u043d\u044b\u0439 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u0438\u0439 \u0445\u0430\u043a\u0435\u0440 \u0438 \u043d\u0438 \u0441 \u043a\u0435\u043c \u043e\u0441\u043e\u0431\u043e \u043d\u0435 \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u0443\u0435\u0442.<\/p>\n<h2>\u0412 \u0447\u0451\u043c \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0438 \u043a Ollama<\/h2>\n<p>\u041d\u0435\u0434\u0430\u0432\u043d\u043e Meta \u043e\u0431\u044a\u044f\u0432\u0438\u043b\u0430 \u043e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432 LLama, \u043f\u043e\u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u0438\u0432 \u0432 \u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u043c \u0431\u043b\u043e\u0433\u0435 \u0441\u0432\u043e\u0438\u0445 \u00ab\u043f\u0430\u0440\u0442\u043d\u0451\u0440\u043e\u0432 \u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 \u0418\u0418\u00bb, <a href=\"https:\/\/ai.meta.com\/blog\/llama-4-multimodal-intelligence\/\" rel=\"noopener noreferrer nofollow\">\u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 Ollama<\/a>, \u0434\u0430\u0436\u0435 \u043d\u0435 \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0432 llama.cpp.<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0418\u043b\u0438 \u0432\u043e\u0442 \u043d\u0435\u0434\u0430\u0432\u043d\u043e VSCode <a href=\"https:\/\/code.visualstudio.com\/updates\/v1_99#_bring-your-own-key-byok-preview\" rel=\"noopener noreferrer nofollow\">\u0434\u043e\u0431\u0430\u0432\u0438\u043b<\/a> \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0432 \u0447\u0430\u0442\u0435 GitHub Copilot, \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u0432 \u043e\u0431\u043e\u043b\u043e\u0447\u043a\u0443 Ollama, \u0430 \u043d\u0435 \u0434\u0432\u0438\u0436\u043e\u043a <code>llama.cpp<\/code>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0443:<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u043f\u0440\u043e\u0441\u0442\u043e <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/pull\/12896\" rel=\"noopener noreferrer nofollow\">\u0438\u0440\u043e\u043d\u0438\u0447\u043d\u043e \u0443\u043f\u043e\u043c\u044f\u043d\u0443\u043b \u044d\u0442\u043e\u0442 \u0444\u0430\u043a\u0442<\/a>, \u043d\u043e \u043d\u0435 \u0432\u044b\u0441\u043a\u0430\u0437\u0430\u043b \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0439.<\/p>\n<p>\u0421\u0430\u043c\u0430 Ollama \u0442\u043e\u0436\u0435 <a href=\"https:\/\/github.com\/ollama\/ollama\/issues\/3185\" rel=\"noopener noreferrer nofollow\">\u043d\u0435 \u0443\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442<\/a> \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u043d\u043e\u0433\u043e \u043a\u043e\u0434\u0430 <code>llama.cpp<\/code>, \u0430 \u0432\u043e\u0442 \u044d\u0442\u043e \u0443\u0436\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435\u043c \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u0438 MIT.<\/p>\n<p>\u041f\u043e\u043c\u0438\u043c\u043e \u044d\u0442\u043e\u0433\u043e, \u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0435 LLM-\u044d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u043e\u0432 \u0432 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0435 <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/so_why_are_we_shing_on_ollama_again\/\" rel=\"noopener noreferrer nofollow\">\u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b<\/a> \u043f\u043e\u043b\u0438\u0442\u0438\u043a\u043e\u0439 Ollama, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0434\u0438 \u0445\u0430\u0439\u043f\u0430 \u0434\u0435\u043b\u0430\u0435\u0442 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 \u0440\u0435\u043a\u043b\u0430\u043c\u043d\u044b\u0435 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u0438\u044f, \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u044f \u0443 \u0448\u0438\u0440\u043e\u043a\u043e\u0439 \u043f\u0443\u0431\u043b\u0438\u043a\u0438 \u0437\u0430\u0432\u044b\u0448\u0435\u043d\u043d\u044b\u0435 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f, \u0447\u0442\u043e \u00ab\u043a\u0430\u0436\u0434\u044b\u0439 \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u0442\u044c \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c ChatGPT \u043d\u0430 \u0441\u0432\u043e\u0451\u043c \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0435\u00bb, \u0445\u043e\u0442\u044f \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e \u043d\u0430 \u041f\u041a \u0438 \u0441\u043c\u0430\u0440\u0442\u0444\u043e\u043d\u0430\u0445 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043e\u0432\u0441\u0435\u043c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438\u00a0\u2014 \u0438 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043e\u0447\u0435\u043d\u044c \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u044b\u0439.<\/p>\n<p>\u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b, \u0430 \u043a\u0440\u0430\u0439\u043d\u0438\u043c\u0438 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 <code>llama.cpp<\/code>.<\/p>\n<p>\u0415\u0449\u0451 Ollama \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u0438\u043c\u0435\u043d\u0443\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438, \u0442\u0430\u043a \u0447\u0442\u043e \u043d\u0435\u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u044b\u0439 \u0434\u0438\u0441\u0442\u0438\u043b\u043b\u044f\u0442 LLaMA \u0441 \u043c\u0435\u043d\u0435\u0435 10\u00a0\u043c\u043b\u0440\u0434 \u0432\u0435\u0441\u043e\u0432 \u0438\u043c\u0435\u043d\u0443\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u00ab\u043f\u0440\u043e\u0441\u0442\u043e\u00bb LLaMA. \u042d\u0442\u043e <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqv9d1g\/\" rel=\"noopener noreferrer nofollow\">\u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c<\/a> \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0439 \u043a Ollama, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0433\u043e\u043d\u0438\u0442\u0441\u044f \u0437\u0430 \u0445\u0430\u0439\u043f\u043e\u043c, \u0445\u043e\u0442\u044f \u0431\u044d\u043a\u0435\u043d\u0434 \u043f\u0438\u0448\u0443\u0442 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0415\u0441\u0442\u044c \u0438 <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqv9k6i\/\" rel=\"noopener noreferrer nofollow\">\u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b<\/a>:<\/p>\n<ul>\n<li>\n<p>Ollama \u043d\u0435 \u0432\u043d\u043e\u0441\u0438\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0439 \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0432 \u0440\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0435\u043a\u0442. \u0414\u0430, \u043e\u043d\u0438 \u043d\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u044b \u044d\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c, \u043d\u043e \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u043d\u043e\u0441\u0442\u0438 \u0431\u044b\u043b\u043e \u0431\u044b \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e, \u0435\u0441\u043b\u0438 \u0431 \u043e\u043d\u0438 \u043f\u043e\u043c\u043e\u0433\u043b\u0438 <code>llama.cpp<\/code> \u0441 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u043e\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0432\u043d\u0435\u0434\u0440\u0435\u043d\u0438\u0435\u043c \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0432\u0440\u043e\u0434\u0435 iSWA (Integrated Service Workload Analyzer), \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0443 \u043e \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435. \u041d\u043e \u043e\u043d\u0438 \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0438\u0442\u0430\u044e\u0442 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0442\u044c \u044d\u0442\u0438 \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u044f \u043f\u0440\u0438 \u0441\u0435\u0431\u0435. \u0412\u044b\u0445\u043e\u0434\u0438\u0442 \u043d\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c\u00a0\u2014 \u043e\u043d\u0438 \u0442\u0432\u0438\u0442\u044f\u0442 \u00ab\u0420\u0430\u0431\u043e\u0442\u0430\u0435\u043c \u043d\u0430\u0434 \u044d\u0442\u0438\u043c\u00bb \u0438 \u0436\u0434\u0443\u0442, \u043a\u043e\u0433\u0434\u0430 \u0413\u0435\u043e\u0440\u0433\u0438\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u0432\u043d\u0435\u0434\u0440\u0438\u0442 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u044d\u0442\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041f\u043e \u043a\u0440\u0430\u0439\u043d\u0435\u0439 \u043c\u0435\u0440\u0435, \u0440\u0430\u043d\u044c\u0448\u0435 \u0442\u0430\u043a\u043e\u0435 \u0431\u044b\u043b\u043e \u043d\u0435\u043e\u0434\u043d\u043e\u043a\u0440\u0430\u0442\u043d\u043e.<\/p>\n<\/li>\n<li>\n<p>\u041f\u043b\u043e\u0445\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0434\u043b\u044f \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041f\u0440\u0435\u0434\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 Ollama<br \/> \u0441\u0434\u0435\u043b\u0430\u043d\u044b \u044f\u043a\u043e\u0431\u044b \u0434\u043b\u044f \u0443\u0434\u043e\u0431\u0441\u0442\u0432\u0430 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439, \u043d\u043e \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043e\u043d\u0438 \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u043e \u043d\u0435\u0440\u0430\u0437\u0443\u043c\u043d\u043e <a href=\"https:\/\/www.reddit.com\/r\/LocalLLaMA\/comments\/1kg20mu\/comment\/mqvcqxj\/\" rel=\"noopener noreferrer nofollow\">\u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442<\/a> \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c llama.cpp:<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<p>\u0414\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0441\u043f\u043e\u043c\u043d\u0438\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e 2048 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0430\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e \u043d\u0435\u043f\u0440\u0438\u0435\u043c\u043b\u0435\u043c\u043e \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0437\u0430\u0434\u0430\u0447. \u0421\u0435\u0439\u0447\u0430\u0441 \u0435\u0433\u043e <a href=\"https:\/\/github.com\/ollama\/ollama\/blob\/main\/docs\/faq.md#how-can-i-specify-the-context-window-size\" rel=\"noopener noreferrer nofollow\">\u0443\u0432\u0435\u043b\u0438\u0447\u0438\u043b\u0438 \u0434\u043e 4096 \u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/a>.<\/p>\n<p>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f, \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0442\u044b \u0438\u0437 <a href=\"https:\/\/lmstudio.ai\/\" rel=\"noopener noreferrer nofollow\">LM Studio<\/a> \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0434\u0443\u043c\u0430\u043d\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u0434\u043b\u044f \u043f\u0440\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0445 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439. \u0418 \u0432\u043e\u043e\u0431\u0449\u0435, \u043f\u0440\u0438 \u043d\u0430\u043b\u0438\u0447\u0438\u0438 \u043f\u0440\u043e\u043a\u0441\u0438 \u0442\u0438\u043f\u0430 <a href=\"https:\/\/www.litellm.ai\/\" rel=\"noopener noreferrer nofollow\">LiteLLM<\/a> \u0434\u043b\u044f \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c \u0438 <code>llama.cpp<\/code> \u0434\u043b\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445\u00a0\u2014 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0432 Ollama \u0432\u043e\u043e\u0431\u0449\u0435 \u043e\u0442\u043f\u0430\u0434\u0430\u0435\u0442. \u041d\u0435\u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0437\u0430\u0447\u0435\u043c \u0432\u043e\u043e\u0431\u0449\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c Ollama, \u0435\u0441\u043b\u0438 \u0441 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u043e\u0439 \u0438\u0434\u0451\u0442 \u043f\u0440\u0438\u044f\u0442\u043d\u044b\u0439 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 llamacpp-server.<\/p>\n<p>\u0412 \u0446\u0435\u043b\u043e\u043c, Ollama \u0444\u043e\u0440\u043a\u0430\u0435\u0442 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u043d\u044b\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0438 \u043f\u044b\u0442\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0442\u044c \u044d\u0442\u0438 \u0444\u043e\u0440\u043a\u0438 \u0432 \u0441\u0432\u043e\u0435\u0439 \u044d\u043a\u043e\u0441\u0438\u0441\u0442\u0435\u043c\u0435. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0442\u0440\u0430\u043d\u0441\u043f\u043e\u0440\u0442\u043d\u044b\u0439 \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b Ollama \u2014 \u044d\u0442\u043e \u0444\u043e\u0440\u043a \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0442\u043e\u043a\u043e\u043b\u0430 <a href=\"https:\/\/opencontainers.org\/\" rel=\"noopener noreferrer nofollow\">OCI<\/a> (Open Container Initiative), \u043d\u043e \u0438\u0437\u043c\u0435\u043d\u0451\u043d\u043d\u044b\u0439 \u0434\u043b\u044f \u043d\u0435\u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438 \u0441 DockerHub \u0438 \u0434\u0440.<\/p>\n<p>\u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e, \u0438 llama.cpp \u043e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0444\u043e\u0440\u043a\u043d\u0443\u043b\u0438 \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0432 \u0441\u0432\u043e\u0438\u0445 \u0446\u0435\u043b\u044f\u0445, \u0431\u0435\u0437 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u0441\u0432\u044f\u0437\u0438.<\/p>\n<h2>llama.cpp<\/h2>\n<figure class=\"\"><\/figure>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e <a href=\"https:\/\/github.com\/ggerganov\/llama.cpp\" rel=\"noopener noreferrer nofollow\">llama.cpp<\/a> \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0430\u0441\u044c \u043a\u0430\u043a \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 <a href=\"https:\/\/arxiv.org\/abs\/2302.13971\" rel=\"noopener noreferrer nofollow\">LLaMA<\/a> \u043e\u0442 Meta \u043d\u0430 \u0447\u0438\u0441\u0442\u043e\u043c C\/C++. \u0420\u0430\u0431\u043e\u0442\u0443 \u043d\u0430\u0434 \u043d\u0435\u0439 \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432 \u043d\u0430\u0447\u0430\u043b \u0432 \u0441\u0435\u043d\u0442\u044f\u0431\u0440\u0435 2022\u00a0\u0433\u043e\u0434\u0430, \u043f\u043e\u0441\u043b\u0435 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u043f\u043e\u0445\u043e\u0436\u0435\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 <a href=\"https:\/\/github.com\/ggerganov\/whisper.cpp\" rel=\"noopener noreferrer nofollow\">whisper.cpp<\/a> \u0434\u043b\u044f \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0440\u0435\u0447\u0438 ASR Whisper \u043e\u0442 OpenAI.<\/p>\n<p>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0432\u0435\u043b\u0430\u0441\u044c \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0443 <a href=\"https:\/\/github.com\/ggml-org\/ggml\" rel=\"noopener noreferrer nofollow\">GGML<\/a>\u00a0\u2014 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0439 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043d\u043e\u0439 \u0430\u043b\u0433\u0435\u0431\u0440\u044b \u043d\u0430 C. \u0413\u0435\u043e\u0440\u0433\u0438\u0439 <a href=\"https:\/\/changelog.com\/podcast\/532\" rel=\"noopener noreferrer nofollow\">\u0433\u043e\u0432\u043e\u0440\u0438\u0442<\/a>, \u0447\u0442\u043e \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u0435 GGML \u0431\u044b\u043b\u043e \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0435\u043d\u043e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u043e\u0439 <a href=\"https:\/\/bellard.org\/libnc\/libnc.html\" rel=\"noopener noreferrer nofollow\">LibNC<\/a> \u043e\u0442 \u0424\u0430\u0431\u0440\u0438\u0441\u0430 \u0411\u0435\u043b\u043b\u0430\u0440\u0430.<\/p>\n<figure class=\"\"><\/figure>\n<p>\u0426\u0435\u043b\u044c \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u2014 \u0437\u0430\u043f\u0443\u0441\u043a \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0430\u0445 \u0431\u0435\u0437 GPU \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u0440\u0442. \u0421 \u043f\u043e\u043c\u043e\u0449\u044c\u044e <code>llama.cpp<\/code> \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0435 LLM \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u041f\u041a \u0438 \u0441\u043c\u0430\u0440\u0442\u0444\u043e\u043d\u0430\u0445 Android. \u0425\u043e\u0442\u044f \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043f\u0438\u0441\u0430\u043b\u0430\u0441\u044c \u0434\u043b\u044f CPU, \u043f\u043e\u0437\u0436\u0435 \u0431\u044b\u043b\u0430 \u0434\u043e\u0431\u0430\u0432\u043b\u0435\u043d\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 GPU.<\/p>\n<p>\u0412 \u043c\u0430\u0440\u0442\u0435 2024\u00a0\u0433\u043e\u0434\u0430 \u0434\u0440\u0443\u0433\u0430\u044f \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430\u044f \u0445\u0430\u043a\u0435\u0440\u0448\u0430 <a href=\"https:\/\/habr.com\/ru\/company\/ruvds\/blog\/682150\/\" rel=\"noopener noreferrer nofollow\">\u0414\u0436\u0430\u0441\u0442\u0438\u043d \u0422\u0430\u043d\u043d\u0438<\/a> \u0432\u044b\u043f\u0443\u0441\u0442\u0438\u043b\u0430 \u043d\u043e\u0432\u044b\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u044f\u0434\u0440\u0430 \u0434\u043b\u044f \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u044f \u043c\u0430\u0442\u0440\u0438\u0446 \u0434\u043b\u044f x86 \u0438 ARM CPU, \u0443\u043b\u0443\u0447\u0448\u0438\u0432 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c FP16 \u0438 8-\u0431\u0438\u0442\u043d\u044b\u0445 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0442\u0438\u043f\u043e\u0432 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<p>\u0412 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u0445 \u0441 \u043f\u043e\u043d\u0438\u0436\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 (\u0432\u0435\u0441\u043e\u0432, \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0439, \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439) \u043a\u043e\u0434\u0438\u0440\u0443\u044e\u0442\u0441\u044f 8-\u0431\u0438\u0442\u043d\u044b\u043c\u0438 \u0446\u0435\u043b\u044b\u043c\u0438 \u0447\u0438\u0441\u043b\u0430\u043c\u0438 (\u0438\u043b\u0438 \u043d\u0438\u0436\u0435). \u042d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u043d\u0430\u0447\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u043e\u0431\u044a\u0451\u043c \u043f\u0430\u043c\u044f\u0442\u0438 \u0438 \u0443\u0441\u043a\u043e\u0440\u0438\u0442\u044c \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f, \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u043d\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430\u0445 \u0441 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u043c\u0438 \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c\u0438.<\/p>\n<figure class=\"\">\n<div><figcaption>\u0418\u043b\u043b\u044e\u0441\u0442\u0440\u0430\u0446\u0438\u044f \u043a\u043e\u043d\u0446\u0435\u043f\u0446\u0438\u0438 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0439 \u043d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0446\u0432\u0435\u0442\u0430 \u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438<\/figcaption><\/div>\n<\/figure>\n<p>\u042d\u0442\u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u0431\u044b\u043b\u0438 \u0432\u043d\u0435\u0441\u0435\u043d\u044b \u0432 <code>llama.cpp<\/code>. \u0422\u0430\u043d\u043d\u0438 \u0442\u0430\u043a\u0436\u0435 \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 <a href=\"https:\/\/github.com\/Mozilla-Ocho\/llamafile\" rel=\"noopener noreferrer nofollow\">llamafile<\/a>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 <code>llama.cpp<\/code> \u0432 \u043e\u0434\u0438\u043d \u0444\u0430\u0439\u043b, \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0439 \u043d\u0430 \u043b\u044e\u0431\u044b\u0445 \u041e\u0421.<\/p>\n<p>\u041d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432 GGML \u0432 <code>llama.cpp<\/code> \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c, \u0432\u043a\u043b\u044e\u0447\u0430\u044f x86, ARM, CUDA, Metal, Vulkan (\u0432\u0435\u0440\u0441\u0438\u0438 1.2 \u0438\u043b\u0438 \u0432\u044b\u0448\u0435) \u0438 SYCL. \u0412\u043c\u0435\u0441\u0442\u043e \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430 \u043b\u0435\u0442\u0443 llama.cpp \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0414\u043b\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u043e\u0432 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u0439: AVX, AVX2 \u0438 AVX-512 \u0434\u043b\u044f x86-64, \u0430 \u0442\u0430\u043a\u0436\u0435 Neon \u043d\u0430 ARM.<\/p>\n<p>\u0411\u0438\u043d\u0430\u0440\u043d\u044b\u0435 \u0444\u0430\u0439\u043b\u044b <a href=\"https:\/\/github.com\/ggml-org\/llama.cpp\/blob\/master\/gguf-py\/README.md\" rel=\"noopener noreferrer nofollow\">GGUF<\/a> (GGML Universal File) \u0445\u0440\u0430\u043d\u044f\u0442 \u0438 \u0442\u0435\u043d\u0437\u043e\u0440\u044b, \u0438 \u043c\u0435\u0442\u0430\u0434\u0430\u043d\u043d\u044b\u0435. \u0424\u043e\u0440\u043c\u0430\u0442 \u0441\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d \u0434\u043b\u044f \u0431\u044b\u0441\u0442\u0440\u043e\u0433\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0438, \u043e\u043d \u0431\u044b\u043b <a href=\"https:\/\/www.ibm.com\/think\/topics\/gguf-versus-ggml\" rel=\"noopener noreferrer nofollow\">\u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d<\/a> \u0432 \u0430\u0432\u0433\u0443\u0441\u0442\u0435 2023\u00a0\u0433\u043e\u0434\u0430 \u0434\u043b\u044f \u043b\u0443\u0447\u0448\u0435\u0439 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u0439 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u0438\u043c\u043e\u0441\u0442\u0438, \u043a\u043e\u0433\u0434\u0430 \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043b\u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0443 \u043d\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<p>GGUF \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0446\u0435\u043b\u043e\u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u0442\u0438\u043f\u044b \u043e\u0442 2 \u0434\u043e 8 \u0431\u0438\u0442, \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0435 \u0444\u043e\u0440\u043c\u0430\u0442\u044b \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u043b\u0430\u0432\u0430\u044e\u0449\u0435\u0439 \u0437\u0430\u043f\u044f\u0442\u043e\u0439, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a float32, float16 \u0438 bfloat16, \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044e \u043d\u0430 1,56 \u0431\u0438\u0442\u0430.<\/p>\n<h2>\u0414\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u044b \u0413\u0435\u0440\u0433\u0430\u043d\u043e\u0432\u0430<\/h2>\n<ul>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/whisper.cpp\" rel=\"noopener noreferrer nofollow\">whisper.cpp<\/a>: \u0432\u044b\u0441\u043e\u043a\u043e\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043c\u043e\u0434\u0435\u043b\u0438 ASR Whisper \u043e\u0442 OpenAI \u043d\u0430 CPU \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c C\/C++.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/ggml\/tree\/master\/examples\/gpt-j\" rel=\"noopener noreferrer nofollow\">GPT-J<\/a>: \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441 \u043d\u0430 CPU \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c C\/C++.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/slack.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">slack (tui)<\/a>: \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 UI \u0434\u043b\u044f \u043a\u043b\u0438\u0435\u043d\u0442\u0430 Slack | <a href=\"https:\/\/github.com\/ggerganov\/imtui\/tree\/master\/examples\/slack\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/youtu.be\/RJRGfvKEgEw\" rel=\"noopener noreferrer nofollow\">\u0432\u0438\u0434\u0435\u043e0<\/a> | <a href=\"https:\/\/youtu.be\/cEqNYesDCXg\" rel=\"noopener noreferrer nofollow\">\u0432\u0438\u0434\u0435\u043e1<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/keytap3.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap3<\/a>: \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u043a\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u044b \u0438\u0437 \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0430 \u0447\u0435\u0440\u0435\u0437 \u043c\u0438\u043a\u0440\u043e\u0444\u043e\u043d | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/keytap3-gui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">gui<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/hnguessr.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">hnguessr<\/a>: \u0438\u0433\u0440\u0430 \u00ab\u041e\u0442\u0433\u0430\u0434\u0430\u0439 \u0437\u0430\u0433\u043e\u043b\u043e\u0432\u043a\u0438 Hacker News\u00bb | <a href=\"https:\/\/github.com\/ggerganov\/hnguessr\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/the-story.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">the-story<\/a>: \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u043f\u043e \u043a\u043e\u043b\u043b\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u043c\u0443 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u0438\u044e \u0442\u0435\u043a\u0441\u0442\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u0430\u0432\u0442\u043e\u0440\u043e\u0432 (\u0441 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0437\u0430 \u0441\u043b\u043e\u0432\u0430) | <a href=\"https:\/\/github.com\/ggerganov\/the-story\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wordle-bg.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wordle-bg<\/a>: \u041a\u043b\u043e\u043d Wordle \u043d\u0430 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u043e\u043c | <a href=\"https:\/\/github.com\/ggerganov\/wordle-bg\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/twitter.com\/tweet2btc\" rel=\"noopener noreferrer nofollow\">@tweet2btc<\/a>: \u043a\u043e\u043b\u043b\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u0446\u0435\u043d\u044b \u0431\u0438\u0442\u043a\u043e\u0438\u043d\u0430 \u0447\u0435\u0440\u0435\u0437 \u043e\u043f\u0440\u043e\u0441\u044b \u0432 Twitter | <a href=\"https:\/\/github.com\/ggerganov\/tweet2btc\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/twitter.com\/tweet2doom\" rel=\"noopener noreferrer nofollow\">@tweet2doom<\/a>: \u0442\u0432\u0438\u0442\u0442\u0435\u0440-\u0431\u043e\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432 Doom | <a href=\"https:\/\/github.com\/ggerganov\/tweet2doom\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/github.com\/tweet2doom\" rel=\"noopener noreferrer nofollow\">\u0434\u0430\u043d\u043d\u044b\u0435<\/a> | <a href=\"https:\/\/tweet2doom.github.io\/\" rel=\"noopener noreferrer nofollow\">\u044d\u043a\u0441\u043f\u043b\u043e\u0440\u0435\u0440<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/meme.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">morse-meme<\/a>: \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u043c\u0435\u043c\u043e\u0432 \u043d\u0430 \u0430\u0437\u0431\u0443\u043a\u0435 \u041c\u043e\u0440\u0437\u0435 | <a href=\"https:\/\/github.com\/ggerganov\/morse-meme\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggmorse.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">GGMorse<\/a>: \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043a\u0430 \u043a\u043e\u0434\u0430 \u041c\u043e\u0440\u0437\u0435 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043f\u043e \u0437\u0432\u0443\u043a\u0443| <a href=\"https:\/\/github.com\/ggerganov\/ggmorse\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/apps.apple.com\/us\/app\/ggmorse\/id1573531678?platform=iphone\" rel=\"noopener noreferrer nofollow\">iOS<\/a> | <a href=\"https:\/\/play.google.com\/store\/apps\/details?id=com.ggerganov.Waver\" rel=\"noopener noreferrer nofollow\">Android<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\">\n<div><figcaption>GGMorse<\/figcaption><\/div>\n<\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/r2t2#readme\" rel=\"noopener noreferrer nofollow\">r2t2<\/a>: \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0447\u0435\u0440\u0435\u0437 \u0434\u0438\u043d\u0430\u043c\u0438\u043a \u041f\u041a | <a href=\"https:\/\/r2t2.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">\u0434\u0435\u043a\u043e\u0434\u0435\u0440<\/a>.<\/p>\n<\/li>\n<\/ul>\n<div class=\"tm-iframe_temp\" data-src=\"https:\/\/embedd.srv.habr.com\/iframe\/686b8e6865c9c1f5fde797fb\" data-style=\"\" id=\"686b8e6865c9c1f5fde797fb\" width=\"\"><\/div>\n<ul>\n<li>\n<p><a href=\"https:\/\/spectrogram.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">Spectrogram<\/a>: \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u0443\u0434\u0438\u043e\u0441\u043f\u0435\u043a\u0442\u0440\u0430 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 | <a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/spectrogram\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/waver.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">Waver<\/a>: \u043e\u0431\u043c\u0435\u043d \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f\u043c\u0438 \u0438 \u0444\u0430\u0439\u043b\u0430\u043c\u0438 \u043f\u043e \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u043c\u0443 \u043a\u0430\u043d\u0430\u043b\u0443 (\u0447\u0435\u0440\u0435\u0437 \u0443\u043b\u044c\u0442\u0440\u0430\u0437\u0432\u0443\u043a) | <a href=\"https:\/\/github.com\/ggerganov\/ggwave\/tree\/master\/examples\/waver#readme\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/apps.apple.com\/us\/app\/waver-data-over-sound\/id1543607865?platform=iphone\" rel=\"noopener noreferrer nofollow\">iOS<\/a> | <a href=\"https:\/\/play.google.com\/store\/apps\/details?id=com.ggerganov.Waver\" rel=\"noopener noreferrer nofollow\">Android<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\">\n<div><figcaption>Waver<\/figcaption><\/div>\n<\/figure>\n<p>\u042d\u0442\u043e \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u0435\u0440\u0435\u0434\u0430\u0442\u044c \u0444\u0430\u0439\u043b\u044b \u0441 \u043e\u0434\u043d\u043e\u0433\u043e \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043d\u0430 \u0434\u0440\u0443\u0433\u043e\u0435, \u0435\u0441\u043b\u0438 \u043e\u043d\u0438 \u043d\u0435 \u043c\u043e\u0433\u0443\u0442 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0446\u0438\u0444\u0440\u043e\u0432\u043e\u0435 \u0441\u043e\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435.<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/keytap2.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap2<\/a>: \u0437\u0432\u0443\u043a\u043e\u0432\u043e\u0439 \u043a\u0435\u0439\u043b\u043e\u0433\u0435\u0440 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u044b\u0445 n-\u0433\u0440\u0430\u043c\u043c, \u0442\u043e \u0435\u0441\u0442\u044c \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 \u0438\u0437 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439 \u0437\u0432\u0443\u043a\u043e\u0432\u044b\u0445 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u043e\u0432 | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a> | <a href=\"https:\/\/github.com\/ggerganov\/kbd-audio\/discussions\/31\" rel=\"noopener noreferrer nofollow\">\u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u0435<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wtf-tui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wtf-tui<\/a>: \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 UI \u0434\u043b\u044f <a href=\"https:\/\/wtfutil.com\/\" rel=\"noopener noreferrer nofollow\">WTF<\/a> | <a href=\"https:\/\/github.com\/ggerganov\/wtf-tui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\">\n<div><figcaption>asciicast<\/figcaption><\/div>\n<\/figure>\n<p>(<a href=\"https:\/\/asciinema.org\/a\/310405\" rel=\"noopener noreferrer nofollow\">https:\/\/asciinema.org\/a\/310405<\/a>) <\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/hnterm.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">hnterm<\/a>: \u043f\u0440\u043e\u0441\u043c\u043e\u0442\u0440 Hacker News \u0432 \u043a\u043e\u043d\u0441\u043e\u043b\u0438 | <a href=\"https:\/\/github.com\/ggerganov\/hnterm\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/imtui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">ImTui<\/a>: \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0430 \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430 (immediate mode) \u0432 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u043c UI | <a href=\"https:\/\/web.archive.org\/web\/20250514164636\/https:\/\/github.com\/ggerganov\/imtui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438 \u043d\u0430 C++<\/a>. \u041e\u043d\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u043a\u043b\u0438\u0435\u043d\u0442\u0430\u0445 \u0434\u043b\u044f Slack, WTF \u0438 HN, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u043a\u0430\u0437\u0430\u043d\u044b \u0432\u044b\u0448\u0435 \u0432 \u044d\u0442\u043e\u043c \u0441\u043f\u0438\u0441\u043a\u0435 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/dot-to-ascii.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">dot-to-ascii<\/a>: \u041a\u043e\u043d\u0432\u0435\u0440\u0442\u0435\u0440 Graphviz \u0432 ASCII | <a href=\"https:\/\/github.com\/ggerganov\/dot-to-ascii\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/lottery-check.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">lottery-check<\/a>: \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043a\u0430\u043a \u0447\u0430\u0441\u0442\u043e \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u0435 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \u0447\u0438\u0441\u0435\u043b \u0432 \u0431\u043e\u043b\u0433\u0430\u0440\u0441\u043a\u043e\u0439 \u043b\u043e\u0442\u0435\u0440\u0435\u0435 6\/49 | <a href=\"https:\/\/github.com\/ggerganov\/toto-check\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggerganov.github.io\/diff-challenge\" rel=\"noopener noreferrer nofollow\">Diff Challenge<\/a>: \u0438\u0433\u0440\u0430 Diff Challenge \u0432 \u0432\u0438\u0434\u0435 \u0431\u0430\u0448-\u0441\u043a\u0440\u0438\u043f\u0442\u0430, \u0441\u043c\u044b\u0441\u043b \u0438\u0433\u0440\u044b \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u043e\u0438\u0441\u043a\u0435 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b <code>y<\/code>, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0443 <code>x<\/code>, \u0430 \u0432\u044b\u0434\u0430\u0447\u0430 <code>y<\/code> \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0440\u0430\u0437\u043d\u0438\u0446\u0435 \u043c\u0435\u0436\u0434\u0443 <code>x<\/code> \u0438 <code>y<\/code>:<\/p>\n<\/li>\n<\/ul>\n<pre><code class=\"bash\">$ .\/y &gt; diff $ patch y &lt; diff $ cmp x y $ <\/code><\/pre>\n<ul>\n<li>\n<p><a href=\"https:\/\/imgui-ws.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">ImGui-WS<\/a>: \u0433\u0440\u0430\u0444\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0438\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 <a href=\"https:\/\/github.com\/ocornut\/imgui\" rel=\"noopener noreferrer nofollow\">Dear ImGui<\/a> \u0447\u0435\u0440\u0435\u0437 WebSockets | <a href=\"https:\/\/github.com\/ggerganov\/imgui-ws\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"\"><\/figure>\n<ul>\n<li>\n<p><a href=\"https:\/\/typing-battles.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">typing-battles<\/a>: \u043c\u043d\u043e\u0433\u043e\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u0438\u0433\u0440\u0430, \u043a\u0442\u043e \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442 \u043d\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u0435 (\u0441\u0435\u0440\u0432\u0435\u0440: C++\/WebSockets, \u043a\u043b\u0438\u0435\u043d\u0442: JS) | <a href=\"https:\/\/github.com\/ggerganov\/typing-battles\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/ggerganov.github.io\/keytap-challenge\" rel=\"noopener noreferrer nofollow\">keytap-challenge<\/a>: \u0443\u0433\u0430\u0434\u0430\u0439, \u043a\u0430\u043a\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/keytap.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">keytap<\/a>: \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u043a\u0430 \u043a\u043b\u0430\u0432\u0438\u0430\u0442\u0443\u0440\u044b \u0441 \u043f\u0440\u0435\u0434\u0432\u0430\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wave-gui.ggerganov.com\/\" rel=\"noopener noreferrer nofollow\">wave-gui<\/a>: \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442 \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0437\u0432\u0443\u043a\u0430 | <a href=\"https:\/\/github.com\/ggerganov\/wave-gui\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/wave-share.com\/\" rel=\"noopener noreferrer nofollow\">wave-share<\/a>: \u043f\u0435\u0440\u0435\u0434\u0430\u0447\u0430 \u0444\u0430\u0439\u043b\u043e\u0432 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0437\u0432\u0443\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 \u0431\u0440\u0430\u0443\u0437\u0435\u0440 | <a href=\"https:\/\/github.com\/ggerganov\/wave-shar\" rel=\"noopener noreferrer nofollow\">\u0438\u0441\u0445\u043e\u0434\u043d\u0438\u043a\u0438<\/a>.<\/p>\n<\/li>\n<\/ul>\n<p>\u00a9 2025 \u041e\u041e\u041e \u00ab\u041c\u0422 \u0424\u0418\u041d\u0410\u041d\u0421\u00bb<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/923304\/\"> https:\/\/habr.com\/ru\/articles\/923304\/<\/a><br \/><\/br><\/br><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-466263","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/466263","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=466263"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/466263\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=466263"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=466263"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=466263"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}