{"id":488922,"date":"2026-07-28T16:50:44","date_gmt":"2026-07-28T16:50:44","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=488922"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=488922","title":{"rendered":"\u041a\u0430\u043a\u00a0\u044f \u0443\u0436\u0430\u043b \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0434\u043e 24\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432\u00a0\u2014 \u0438 \u0447\u0443\u0442\u044c \u043d\u0435\u00a0\u0438\u0441\u043f\u043e\u0440\u0442\u0438\u043b \u0435\u0433\u043e \u043e\u0434\u043d\u043e\u0439 \u0446\u0438\u0444\u0440\u043e\u0439"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c7e\/f02\/8f3\/c7ef028f3430f01aa72efa25eedb3b0c.png\" width=\"1731\" height=\"909\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/c7e\/f02\/8f3\/c7ef028f3430f01aa72efa25eedb3b0c.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/c7e\/f02\/8f3\/c7ef028f3430f01aa72efa25eedb3b0c.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p><strong>TL;DR.<\/strong>\u00a0\u0423\u00a0\u043c\u0435\u043d\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RAG \u043d\u0430\u00a0AMD Strix Halo. \u041f\u0430\u043c\u044f\u0442\u0438 \u0442\u0430\u043c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u043d\u043e\u00a0\u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u0441\u0451 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u043e\u0434\u0438\u043d iGPU: \u0435\u0433\u043e \u0434\u0435\u043b\u044f\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f, \u0430\u00a0\u0432\u00a0\u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0442\u0443\u0434\u0430\u00a0\u0436\u0435 \u0432\u0441\u0442\u0430\u0451\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043d\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u043b\u0441\u044f \u043d\u0435\u00a0\u0441\u0430\u043c\u044b\u0439 \u0442\u043e\u0447\u043d\u044b\u0439 retriever \u0432\u043e\u043e\u0431\u0449\u0435, \u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u043b\u0451\u0433\u043a\u0438\u0439 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 retriever, \u043a\u043e\u0442\u043e\u0440\u044b\u0439\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442 \u043f\u0435\u0440\u0432\u0443\u044e \u0441\u0442\u0430\u0434\u0438\u044e \u043f\u043e\u0438\u0441\u043a\u0430 \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 GPU. \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u0431\u043e\u043b\u044c\u043d\u043e, \u044f \u0432\u00a0\u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043c\u0435\u0440\u0438\u043b \u043d\u0430\u00a0\u0436\u0438\u0432\u043e\u043c \u0443\u0437\u043b\u0435.<\/p>\n<p>\u041d\u0430\u00a0\u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043f\u043e\u043b\u043d\u043e\u0439 \u0442\u044f\u0433\u0438 bge\u2011m3\u00a0\u0441\u043d\u0438\u0437\u0438\u043b generation throughput\u00a0<code>Qwen3.6-35B-A3B<\/code>\u00a0\u043d\u0430 92%, STRIZH \u043d\u0430 28% \u043f\u0440\u0438\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 12,6-\u043a\u0440\u0430\u0442\u043d\u043e\u043c \u0442\u0435\u043c\u043f\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 (\u043e\u043a\u043d\u0430 \u0437\u0430\u043c\u0435\u0440\u0430 \u0442\u0430\u043c \u043d\u0435\u0440\u0430\u0432\u043d\u044b\u0435, 20,6\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 173,6\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043f\u044f\u0442\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0439; \u0440\u0430\u0432\u043d\u043e\u043e\u043a\u043e\u043d\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0430 \u043d\u0438\u0436\u0435 \u0434\u0430\u0451\u0442 \u043f\u043e\u00a0\u0431\u0430\u0442\u0447\u0430\u043c \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 9,4-\u043a\u0440\u0430\u0442\u043d\u044b\u0439 \u043e\u0442\u0440\u044b\u0432). \u0412\u00a0\u043f\u043e\u043b\u043d\u043e\u043c RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0435 \u0441\u00a0\u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c\u0438 \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438 \u0438 \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0435\u0439 STRIZH \u0443\u0434\u0435\u0440\u0436\u0430\u043b 14,0\u00a0\u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443 \u043f\u0440\u043e\u0442\u0438\u0432 6,0\u00a0\u0443\u00a0bge\u2011m3\u00a0\u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b 46\u00a0\u0431\u0430\u0442\u0447\u0435\u0439 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043f\u0440\u043e\u0442\u0438\u0432 4,9. \u041f\u0440\u0438\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 200\u00a0\u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u043b\u0430 \u043d\u0430 2% \u0441\u043e STRIZH \u0438 \u043d\u0430 7% \u0441\u00a0bge\u2011m3. \u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u0441\u0440\u0430\u0437\u0443:\u00a0<strong>\u0431\u0435\u0437\u00a0\u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 STRIZH \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u043d\u0435\u00a0\u043f\u043e\u043a\u0430\u0437\u0430\u043b<\/strong>: \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0444\u0438\u043b\u0435 bge\u2011m3\u00a0\u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0435\u043c\u043d\u043e\u0433\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0430\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u043b\u0438 \u0440\u0435\u0440\u0430\u043d\u043a (0,6\u20130,7\u00a0\u0441\u00a0\u043d\u0430 \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u044e), prefill \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f.<\/p>\n<p>\u042f \u0432\u0437\u044f\u043b 12-\u0441\u043b\u043e\u0439\u043d\u044b\u0439\u00a0<code>RuModernBERT-small<\/code>, \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u043e \u043f\u043e\u043f\u044b\u0442\u0430\u043b\u0441\u044f \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u0447\u0435\u0440\u0435\u0437 MSE, \u0437\u0430\u0442\u0435\u043c \u043e\u0431\u0443\u0447\u0438\u043b retrieval\u2011\u0434\u043e\u043d\u043e\u0440 \u043d\u0430\u00a0\u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u0432\u044b\u0431\u0440\u0430\u043b \u0438\u0437\u00a0\u043d\u0435\u0433\u043e \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f\u00a0<code>[0, 5, 9, 11]<\/code>\u00a0\u0438 \u0434\u043e\u0443\u0447\u0438\u043b student \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u0438\u0445, \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0445 \u0438 \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u0445 \u0441\u00a0hard negatives \u043e\u0442\u00a0BGE\u2011M3.<\/p>\n<p>\u041f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f\u00a0<strong>STRIZH<\/strong>: 24,4\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f, \u0432\u0435\u043a\u0442\u043e\u0440 384, mean pooling, \u0431\u0435\u0437\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445\u00a0<code>query:<\/code>\u00a0\/\u00a0<code>passage:<\/code>\u2011\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432. \u041d\u0430\u00a0\u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0441\u043b\u0435 \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u043f\u0440\u044f\u043c\u044b\u0445 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0439 gold\u2011passages \u0441\u00a0training positives donor\u2011\u043b\u0438\u043d\u0438\u0438 STRIZH \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u00a0<code>Recall@10 = 0.751<\/code>; \u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435\u00a0<code>0.800<\/code>. \u041e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u0430\u0451\u0442 \u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u043d\u0441\u0435\u0440\u0432\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0446\u0435\u043d\u043a\u0443, \u043d\u043e\u00a0\u044d\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u044b\u0439 near\u2011duplicate audit. \u041d\u0430\u00a0\u043f\u0440\u043e\u0433\u0440\u0435\u0442\u043e\u043c\u00a0<code>llama.cpp\/Vulkan<\/code>\u00a0(Strix Halo, concurrency 16) \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0430 \u043e\u043a\u043e\u043b\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0442\u044b\u0441\u044f\u0447 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443; \u043f\u043e\u00a0\u0440\u0430\u0437\u043d\u044b\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0430\u043c 3614\u20134450, \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a \u0448\u0438\u0440\u043e\u043a\u043e, \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043d\u043e \u043d\u0438\u0436\u0435. \u0411\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0435\u00a0<code>USER2-small<\/code>,\u00a0<code>multilingual-e5-small<\/code>\u00a0\u0438\u00a0<code>bge-m3<\/code>\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u0435\u0435. STRIZH \u043d\u0443\u0436\u0435\u043d \u043d\u0435\u00a0\u0432\u043c\u0435\u0441\u0442\u043e \u043d\u0438\u0445, \u0430\u00a0\u0434\u043b\u044f\u00a0\u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430: \u0440\u0443\u0441\u0441\u043a\u0438\u0439 RAG, \u043e\u0431\u0449\u0438\u0439 GPU \u0438 \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u043d\u0430\u00a0\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043f\u043e\u0438\u0441\u043a\u0430.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0430\u0441\u044c \u0443\u0436\u0435 \u043f\u043e\u0441\u043b\u0435 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u00a0<code>tokenizer_config.json<\/code>\u00a0\u043e\u0441\u0442\u0430\u043b\u0441\u044f\u00a0<code>model_max_length=256<\/code>. \u041d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 RAG\u2011\u043e\u0431\u043a\u0430\u0442\u043a\u0435 \u0442\u043e\u0442\u00a0\u0436\u0435 checkpoint \u043f\u0440\u0438\u00a0\u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u0438 \u0434\u043e 256\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0443\u043f\u0430\u043b \u0441\u00a0<code>Recall@10 = 0.589<\/code>\u00a0\u0434\u043e\u00a0<code>0.448<\/code>, \u0442\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u00a0<strong>14,1\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043f\u0443\u043d\u043a\u0442\u0430<\/strong>, \u0434\u043e\u00a0\u0443\u0440\u043e\u0432\u043d\u044f\u00a0<code>rubert-tiny2<\/code>. \u041e\u0434\u043d\u0430 \u0446\u0438\u0444\u0440\u0430 \u0432\u00a0\u043a\u043e\u043d\u0444\u0438\u0433\u0435 \u043f\u043e\u0447\u0442\u0438 \u043e\u0431\u043d\u0443\u043b\u0438\u043b\u0430 \u0441\u043c\u044b\u0441\u043b \u0432\u0441\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<p>\u041d\u0438\u0436\u0435: \u0445\u043e\u0434 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u0443\u0442\u0435\u0447\u043a\u0430 \u0432\u00a0evaluation \u0438 \u043f\u0443\u0442\u044c \u043e\u0442\u00a0checkpoint \u0434\u043e\u00a0\u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e GGUF\/Vulkan\u2011\u0441\u0435\u0440\u0432\u0438\u043d\u0433\u0430.<\/p>\n<h3>\u041f\u0430\u043c\u044f\u0442\u044c \u043d\u0435\u00a0\u0437\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u043b\u0430\u0441\u044c. \u0417\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u043b\u043e\u0441\u044c GPU\u2011\u0432\u0440\u0435\u043c\u044f<\/h3>\n<p>\u041c\u043e\u0439 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0443\u0437\u0435\u043b: AMD Strix Halo \u0441 128\u00a0\u0413\u0411 unified memory. \u041f\u0440\u043e\u0435\u043a\u0442\u043d\u0430\u044f \u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u0430\u044f \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u043e\u0434\u00a0\u043d\u0435\u0451 \u0432\u044b\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440:<\/p>\n<pre><code>\u043e\u0434\u0438\u043d iGPU\u251c\u2500\u2500 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM\u251c\u2500\u2500 dense retrieval\u251c\u2500\u2500 reranker\u2514\u2500\u2500 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f \u043a\u043e\u0440\u043f\u0443\u0441\u0430<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:87px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0422\u0435\u043a\u0443\u0449\u0430\u044f \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f \u0442\u0430\u043a\u0430\u044f: \u043f\u0440\u044f\u043c\u043e \u0441\u0435\u0439\u0447\u0430\u0441 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM \u0443\u00a0\u043c\u0435\u043d\u044f \u0432\u044b\u043d\u0435\u0441\u0435\u043d\u0430 \u043d\u0430\u00a0\u0441\u043e\u0441\u0435\u0434\u043d\u044e\u044e \u043d\u043e\u0434\u0443 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430, \u0430\u00a0\u043d\u0430\u00a0\u044d\u0442\u043e\u043c \u0443\u0437\u043b\u0435 iGPU \u0434\u0435\u043b\u044f\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f. \u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 embedding\u2011\u0441\u043b\u043e\u0442 \u0432\u00a0\u043f\u0440\u043e\u0434\u0435 \u043f\u043e\u043a\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u044f\u0436\u0451\u043b\u044b\u0439 bge\u2011m3\u00a0\u0438\u0437\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u043d\u0438\u0436\u0435: \u043a\u00a0\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u044b \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u044b, \u0438 \u0441\u043c\u0435\u043d\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044e. STRIZH \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0443\u0436\u0435 \u0437\u0430\u0434\u0435\u043f\u043b\u043e\u0435\u043d \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u0443\u0437\u043b\u0435 \u0432\u0442\u043e\u0440\u044b\u043c embedding\u2011\u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442\u043e\u043c; \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u0442\u0430 \u0437\u0430\u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0431\u0430\u0437. \u041d\u043e\u00a0\u0441\u0442\u0435\u043a \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u044b\u043c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u043f\u043e\u0434\u043d\u044f\u043b\u00a0<code>Qwen3.6-35B-A3B<\/code>\u00a0(MoE: 35B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432\u0441\u0435\u0433\u043e, \u043e\u043a\u043e\u043b\u043e 3B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d) \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u043d\u0430\u00a0\u044d\u0442\u043e\u0442 \u0431\u043e\u043a\u0441 \u0438 \u043f\u043e\u043c\u0435\u0440\u0438\u043b co\u2011residency \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e. \u0414\u0435\u043b\u044c\u0442\u044b tok\/s \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u043e\u0434\u00a0embedding\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u00abCo\u2011resident\u00bb \u043d\u0438\u0436\u0435.<\/p>\n<p>\u041d\u0430\u00a0\u043f\u0435\u0440\u0432\u044b\u0439 \u0432\u0437\u0433\u043b\u044f\u0434 \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0434\u043b\u044f\u00a0\u0442\u0430\u043a\u043e\u0433\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0430 \u0441\u0442\u0440\u0430\u043d\u043d\u043e. \u0414\u0430\u0436\u0435\u00a0<code>bge-m3<\/code>\u00a0\u0442\u0443\u0434\u0430 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u0431\u043b\u0435\u043c. \u041d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u043d\u0430\u00a0\u0444\u043e\u043d\u0435 128\u00a0\u0413\u0411 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0440\u0435\u0448\u0430\u044e\u0442.<\/p>\n<p>\u041d\u043e\u00a0\u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043f\u043e\u2011\u0440\u0430\u0437\u043d\u043e\u043c\u0443. \u041a\u043e\u0433\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0430\u044f embedding\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043f\u0430\u043a\u0435\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u043e\u043d\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u0442\u00a0\u0436\u0435 GPU, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u00a0\u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u0434\u043e\u043b\u0436\u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c LLM. \u041f\u0440\u0438\u00a0\u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u044d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u00ab\u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0\u0444\u043e\u043d\u0435\u00bb, \u0430\u00a0\u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430\u00a0compute. \u0417\u0430\u0431\u0435\u0433\u0430\u044f \u0432\u043f\u0435\u0440\u0451\u0434: \u0437\u0430\u043c\u0435\u0440 \u043f\u043e\u043a\u0430\u0437\u0430\u043b, \u0447\u0442\u043e\u00a0\u043e\u0434\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e: \u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0439.<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441\u00a0\u0431\u044b\u043b \u0442\u0430\u043a\u0438\u043c:<\/p>\n<blockquote>\n<p>\u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c \u043c\u043e\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0439 dense\u2011retriever, \u0447\u0442\u043e\u0431\u044b \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043d\u0430\u00a0\u043e\u0431\u0449\u0435\u043c GPU, \u043d\u043e\u00a0\u0435\u0449\u0451 \u043d\u0435\u00a0\u0441\u043a\u0430\u0442\u0438\u0442\u044c\u0441\u044f \u043a\u00a0\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441\u0443 \u0443\u0440\u043e\u0432\u043d\u044f \u00ab\u043b\u0438\u0448\u044c\u00a0\u0431\u044b \u0447\u0442\u043e\u2011\u0442\u043e \u0432\u0435\u0440\u043d\u0443\u043b\u00bb?<\/p>\n<\/blockquote>\n<p>\u042f \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u043e\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f:<\/p>\n<ul>\n<li>\n<p>\u043c\u0435\u043d\u044c\u0448\u0435 30\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u044f\u0437\u044b\u043a: \u0440\u0443\u0441\u0441\u043a\u0438\u0439;<\/p>\n<\/li>\n<li>\n<p>dense single\u2011vector retrieval;<\/p>\n<\/li>\n<li>\n<p>\u0440\u0430\u0431\u043e\u0442\u0430 \u0431\u0435\u0437\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>mean pooling \u0438 L2-\u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440;<\/p>\n<\/li>\n<li>\n<p>GGUF \u0438\u00a0<code>llama.cpp\/Vulkan<\/code>\u00a0\u043a\u0430\u043a\u00a0\u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u0430\u043d\u0442\u0430\u0439\u043c;<\/p>\n<\/li>\n<li>\n<p>\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u044b\u0448\u0435\u00a0<code>rubert-tiny2<\/code>;<\/p>\n<\/li>\n<li>\n<p>\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u0438 mixed\u2011\u0442\u0435\u043a\u0441\u0442 \u043d\u0435\u00a0\u0434\u043e\u043b\u0436\u043d\u044b \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0437\u0432\u0430\u043b\u0438\u0442\u044c\u0441\u044f;<\/p>\n<\/li>\n<li>\n<p>\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0432\u0445\u043e\u0434\u044b, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0441\u0430\u043c\u043e contrastive\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0434\u0451\u0442 \u043d\u0430\u00a0\u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044f\u0445.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043f\u0443\u043d\u043a\u0442 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u0438. \u0411\u0430\u0437\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u044d\u0442\u043e\u0442\u00a0\u043b\u0438\u043c\u0438\u0442 \u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d \u0432\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 STRIZH. \u041d\u043e\u00a0\u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0435 \u043f\u0440\u043e\u0433\u043e\u043d\u044b \u0434\u0435\u043b\u0430\u043b\u0438\u0441\u044c \u0441\u00a0<code>max_seq_length=256<\/code>. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0430 \u0437\u0432\u0443\u0447\u0438\u0442 \u0442\u0430\u043a:\u00a0<strong>\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432<\/strong>, \u0430\u00a0\u043d\u0435 \u00ab\u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0430 retrieval \u043d\u0430 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u0430\u0445\u00bb. \u0412\u0430\u0436\u043d\u0430\u044f \u0434\u0435\u0442\u0430\u043b\u044c: \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u044f \u043c\u0435\u0440\u0438\u043b \u043d\u0430\u00a0\u0432\u0445\u043e\u0434\u0430\u0445 \u0434\u043e ~1024\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432; \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c 8192\u00a0\u0443\u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0430 \u043e\u0442\u00a0\u0431\u0430\u0437\u044b \u0438 retrieval\u2011\u0437\u0430\u043c\u0435\u0440\u043e\u043c \u043d\u0430\u00a0\u0442\u0430\u043a\u0438\u0445 \u0434\u043b\u0438\u043d\u0430\u0445 \u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430.<\/p>\n<p>\u0422\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 STRIZH \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f retriever, \u0430\u00a0\u043d\u0435\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e sentence similarity. \u0414\u0430\u043b\u044c\u0448\u0435 \u044f \u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u044e \u0435\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u043e\u043c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0432\u00a0RAG\u2011\u0441\u0442\u0435\u043a\u0435 \u043e\u043d \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043a\u0430\u043a\u00a0\u043e\u0431\u044b\u0447\u043d\u044b\u0439 endpoint\u00a0<code>\/embeddings<\/code>, \u043d\u043e\u00a0\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043e\u043d \u043f\u043e\u0434\u00a0\u043f\u043e\u0438\u0441\u043a \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e\u0433\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430.<\/p>\n<h3>\u041f\u043e\u0447\u0435\u043c\u0443 \u043d\u0435\u00a0\u0432\u0437\u044f\u0442\u044c \u0433\u043e\u0442\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c<\/h3>\n<p>\u0413\u043e\u0442\u043e\u0432\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0443\u0433\u043b\u044b \u0437\u0430\u0434\u0430\u0447\u0438, \u043d\u043e\u00a0\u043d\u0438 \u043e\u0434\u0438\u043d \u043d\u0435\u00a0\u0441\u043e\u0432\u043f\u0430\u043b \u0441\u00a0\u043c\u043e\u0438\u043c\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c.<\/p>\n<h4>rubert\u2011tiny2<\/h4>\n<p>\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439, \u043f\u0440\u043e\u0441\u0442\u043e\u0439, \u0445\u043e\u0440\u043e\u0448\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0438\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u043d\u0430\u00a0CPU. \u0423\u0434\u043e\u0431\u043d\u0430\u044f \u043d\u0438\u0436\u043d\u044f\u044f \u043f\u043b\u0430\u043d\u043a\u0430. \u041d\u043e\u00a0\u044d\u0442\u043e \u043d\u0435\u00a0\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0439 retriever, \u0438 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c retrieval \u043e\u043d \u0443\u00a0\u043c\u0435\u043d\u044f \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0441\u043b\u0430\u0431\u044b\u043c.<\/p>\n<h4>USER2-small<\/h4>\n<p>\u0411\u043b\u0438\u0437\u043a\u0438\u0439 \u0438 \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u043d\u0430\u00a0\u0442\u043e\u0439\u00a0\u0436\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0439 \u0441\u0435\u043c\u044c\u0435. \u0412\u0441\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 10\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043a\u0440\u0443\u043f\u043d\u0435\u0435 STRIZH, \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043b\u0443\u0447\u0448\u0435 \u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 cross\u2011lingual \u043f\u043e\u0438\u0441\u043a\u0435. \u041d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u043a\u043e\u0440\u043f\u0443\u0441\u0430: \u043d\u0430\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u043c MIRACL\u2011ru \u043f\u0435\u0440\u0435\u0432\u0435\u0441 \u0443\u00a0USER2\u00a0(0.82\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 0.75), \u0430\u00a0\u043d\u0430\u00a0\u043c\u043e\u0451\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 (\u0437\u0430\u043c\u0435\u0440 \u043e\u043f\u0438\u0441\u0430\u043d \u043d\u0438\u0436\u0435, \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e\u00a0dogfood) \u0440\u0443\u0441\u0441\u043a\u0430\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0438 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0443\u0445\u043e\u0434\u044f\u0442 \u043a\u00a0STRIZH, \u043f\u0440\u0430\u0432\u0434\u0430 \u0441\u00a0\u043f\u0435\u0440\u0435\u0432\u0435\u0441\u043e\u043c \u0432\u00a0\u043e\u0434\u0438\u043d \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u0442\u0443, \u0442\u043e \u0435\u0441\u0442\u044c \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0448\u0443\u043c\u0430; \u043e\u0431\u0449\u0438\u0439 \u043e\u0442\u0440\u044b\u0432 USER2\u00a0\u0442\u0430\u043c \u0441\u043e\u0431\u0440\u0430\u043d \u043d\u0430\u00a0cross\u2011lingual \u0441\u0442\u0440\u0430\u0442\u0435, \u0433\u0434\u0435 \u0440\u0430\u0437\u0440\u044b\u0432 \u0443\u0436\u0435 \u0432\u0435\u043b\u0438\u043a.<\/p>\n<p>\u041d\u043e\u00a0\u0443 \u043d\u0435\u0433\u043e \u0435\u0441\u0442\u044c \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c \u0441\u00a0<code>search_query:<\/code>\u00a0\u0438\u00a0<code>search_document:<\/code>. \u0414\u043b\u044f\u00a0\u043d\u043e\u0432\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u044d\u0442\u043e \u043d\u0435\u00a0\u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430. \u0412\u00a0\u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 no\u2011prefix\u00a0\u0431\u044b\u043b \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c: \u043e\u0434\u0438\u043d OpenAI\u2011compatible embedding endpoint, \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435\u00a0\u0434\u043e\u043b\u0436\u043d\u044b \u0437\u043d\u0430\u0442\u044c \u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p>\u041c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0432\u0441\u0435\u0433\u043e \u043e\u0434\u043d\u0443 \u0441\u0442\u0440\u043e\u043a\u0443 \u043a\u043e\u0434\u0430. \u0412\u00a0\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c. \u0412\u00a0\u0433\u043e\u0442\u043e\u0432\u043e\u043c \u0441\u0442\u0435\u043a\u0435 \u044d\u0442\u043e \u0443\u0436\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442\u0430: \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0442\u044c \u0440\u043e\u043b\u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u0432, \u043d\u0435\u00a0\u0437\u0430\u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u043f\u0440\u0438\u00a0\u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438, \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u043e \u043e\u0431\u043d\u043e\u0432\u0438\u0442\u044c \u0432\u0441\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u044b \u0438 \u043d\u0435\u00a0\u0441\u043c\u0435\u0448\u0430\u0442\u044c \u0441\u0442\u0430\u0440\u044b\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u00a0\u043d\u043e\u0432\u044b\u043c\u0438.<\/p>\n<h4>multilingual\u2011e5-small<\/h4>\n<p>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u044b\u0439 retriever, \u043d\u043e\u00a0\u043e\u043d \u043a\u0440\u0443\u043f\u043d\u0435\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u00a0<code>query:<\/code>\u00a0\/\u00a0<code>passage:<\/code>\u00a0\u0438 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430\u00a0\u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441. \u042d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0432\u044b\u0431\u043e\u0440, \u043a\u043e\u0433\u0434\u0430 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0430\u0436\u043d\u0435\u0435 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e compute.<\/p>\n<h4>bge\u2011m3<\/h4>\n<p>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u044d\u0442\u043e \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u0437\u00a0\u043c\u043e\u0435\u0433\u043e \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u043d\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f. \u041e\u043d \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 dense, sparse \u0438 multi\u2011vector \u0440\u0435\u0436\u0438\u043c\u044b, \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438 cross\u2011lingual \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445. \u041d\u043e\u00a0\u044d\u0442\u043e \u0443\u0436\u0435 \u0434\u0440\u0443\u0433\u0430\u044f \u0432\u0435\u0441\u043e\u0432\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f.<\/p>\n<p>\u0415\u0441\u043b\u0438 \u043d\u0430\u00a0\u0443\u0437\u043b\u0435 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b\u0439 compute \u0438 \u043d\u0443\u0436\u043d\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u043e\u043b\u043d\u043e\u0442\u0430 \u043f\u043e\u0438\u0441\u043a\u0430, \u043e\u0431\u0443\u0447\u0430\u0442\u044c STRIZH \u0432\u043c\u0435\u0441\u0442\u043e\u00a0<code>bge-m3<\/code>\u00a0\u043d\u0435\u0437\u0430\u0447\u0435\u043c. \u041c\u043e\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u043b\u0430\u0441\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043c, \u0433\u0434\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430\u00a0\u043e\u0431\u0449\u0438\u0439 GPU \u0441\u0442\u0430\u043b\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c.<\/p>\n<p>\u0418\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u044f \u0438\u0441\u043a\u0430\u043b \u043d\u0435 \u00ab\u043b\u0443\u0447\u0448\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u00bb, \u0430\u00a0\u043f\u0443\u0441\u0442\u043e\u0435 \u043c\u0435\u0441\u0442\u043e \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u043a\u043b\u0430\u0441\u0441\u0430\u043c\u0438:<\/p>\n<pre><code>\u0441\u043e\u0432\u0441\u0435\u043c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u0438 \u0431\u044b\u0441\u0442\u0440\u0430\u044f, \u043d\u043e \u0441\u043b\u0430\u0431\u0430\u044f                \u2195\u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u0430\u044f \u0438 \u0435\u0449\u0451 \u043f\u0440\u0438\u0433\u043e\u0434\u043d\u0430\u044f \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e retrieval                \u2195\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f, \u043d\u043e \u0431\u043e\u043b\u0435\u0435 \u0442\u044f\u0436\u0451\u043b\u0430\u044f<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<h3>\u0411\u0430\u0437\u0430: \u043f\u043e\u0447\u0435\u043c\u0443 \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0432\u0435\u0441\u044f\u0442 24\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/h3>\n<p>\u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u0430\u0437\u044b \u044f \u0432\u0437\u044f\u043b\u00a0<code>deepvk\/RuModernBERT-small<\/code>:<\/p>\n<ul>\n<li>\n<p>12\u00a0transformer\u2011\u0441\u043b\u043e\u0451\u0432;<\/p>\n<\/li>\n<li>\n<p>hidden size 384;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043b\u043e\u0432\u0430\u0440\u044c 50\u202f368\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e 8192;<\/p>\n<\/li>\n<li>\n<p>\u043e\u043a\u043e\u043b\u043e 35\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<\/li>\n<\/ul>\n<p>\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u00a0\u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441 12\u00a0\u0441\u043b\u043e\u0451\u0432 \u0434\u043e\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0434\u043e\u043b\u0436\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u0442\u0440\u043e\u0435. \u041f\u043e\u00a0\u043e\u0431\u0449\u0435\u043c\u0443 \u0447\u0438\u0441\u043b\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u044d\u0442\u043e\u0433\u043e \u043d\u0435\u00a0\u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e: \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 STRIZH \u0432\u0435\u0441\u0438\u0442 24,4\u00a0\u043c\u043b\u043d.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u0432\u00a0embedding table:<\/p>\n<pre><code>50 368 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u00d7 384 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f = 19 341 312 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043e\u043a\u043e\u043b\u043e\u00a0<strong>79% \u0432\u0441\u0435\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438<\/strong>\u00a0\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441\u0438\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0432\u00a0encoder\u2011\u0431\u043b\u043e\u043a\u0430\u0445, \u043d\u043e\u00a0\u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0442\u0440\u043e\u0433\u0430\u0435\u0442 \u0441\u043b\u043e\u0432\u0430\u0440\u044c.<\/p>\n<p>\u042d\u0442\u043e \u0432\u0430\u0436\u043d\u043e\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435:<\/p>\n<ul>\n<li>\n<p>\u043f\u043e\u00a0\u0440\u0430\u0437\u043c\u0435\u0440\u0443 \u0432\u0435\u0441\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u043b\u0430\u0441\u044c \u0441\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 35\u00a0\u0434\u043e 24,4\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u00a0\u0433\u043b\u0443\u0431\u0438\u043d\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0442\u0440\u0430\u043a\u0442\u0430: \u0441 12\u00a0\u0434\u043e\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0441\u043b\u043e\u0451\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u043e\u0436\u0438\u0434\u0430\u043b\u0441\u044f \u043d\u0435\u00a0\u0432\u00a0\u043f\u0430\u043c\u044f\u0442\u0438, \u0430\u00a0\u0432\u00a0latency \u0438 throughput.<\/p>\n<\/li>\n<\/ul>\n<p>\u042f \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b hidden size 384, mean pooling \u0438 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e:<\/p>\n<pre><code class=\"python\">mask = attention_mask.unsqueeze(-1).float()embedding = (last_hidden_state * mask).sum(1) \/ mask.sum(1)embedding = normalize(embedding, p=2, dim=1)<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041d\u0438\u043a\u0430\u043a\u0438\u0445\u00a0<code>query:<\/code>\u00a0\u0438\u00a0<code>passage:<\/code>. \u0417\u0430\u043f\u0440\u043e\u0441 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442 \u0447\u0435\u0440\u0435\u0437 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442\u00a0\u0436\u0435 encoder \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e.<\/p>\n<h3>\u041f\u0435\u0440\u0432\u0430\u044f \u043f\u043e\u043f\u044b\u0442\u043a\u0430: loss \u043a\u0440\u0430\u0441\u0438\u0432\u044b\u0439, retrieval \u043c\u0451\u0440\u0442\u0432\u044b\u0439<\/h3>\n<p>\u041f\u0435\u0440\u0432\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e \u044f \u0441\u0442\u0440\u043e\u0438\u043b \u043f\u043e\u00a0\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e\u0439 \u043b\u043e\u0433\u0438\u043a\u0435: \u0432\u0437\u044f\u0442\u044c \u0441\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u0438 \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0435\u0433\u043e embedding\u2011\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e.<\/p>\n<p>\u0423\u0447\u0438\u0442\u0435\u043b\u0435\u043c\u00a0\u0431\u044b\u043b\u0430 FRIDA \u0441\u00a0\u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 1536. \u0412\u00a0\u0440\u043e\u043b\u0438 \u0441\u0442\u0443\u0434\u0435\u043d\u0442\u0430 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u043b \u043f\u043e\u043b\u043d\u044b\u0439 12-\u0441\u043b\u043e\u0439\u043d\u044b\u0439\u00a0<code>RuModernBERT-small<\/code>\u00a0\u0441\u00a0mean pooling \u0438\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0435\u0439\u00a0<code>384 \u2192 1536<\/code>.<\/p>\n<p>\u0421\u0445\u0435\u043c\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u0430 \u0442\u0430\u043a:<\/p>\n<pre><code>12,07 \u043c\u043b\u043d \u0442\u0435\u043a\u0441\u0442\u043e\u0432      \u2193FRIDA \u2192 \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 1536      \u2193RuModernBERT-small \u2192 mean pool \u2192 Linear(384, 1536)      \u2193normalized MSE<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u0440\u043e\u0433\u043e\u043d\u0430:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0422\u0435\u043a\u0441\u0442\u043e\u0432<\/p>\n<\/td>\n<td>\n<p align=\"left\">12,07\u00a0\u043c\u043b\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u042d\u043f\u043e\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">1<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Batch size<\/p>\n<\/td>\n<td>\n<p align=\"left\">256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Learning rate<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>1e-4<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Max length<\/p>\n<\/td>\n<td>\n<p align=\"left\">256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u043a\u043e\u043b\u043e 1800\u20131900\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432\/\u0441<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>Loss \u0441\u0442\u0430\u0431\u0438\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430\u00a0<code>0.00062<\/code>. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u0447\u0438\u0441\u043b\u043e \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u043a\u0440\u043e\u0448\u0435\u0447\u043d\u044b\u043c, \u043d\u043e\u00a0MSE \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u0442\u0441\u044f \u043f\u043e 1536\u00a0\u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u0430\u043c \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432, \u0430\u00a0\u0434\u043b\u044f\u00a0\u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u0445 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432\u00a0<code>\u2016x\u2212y\u2016\u00b2 = 2 \u2212 2\u00b7cos<\/code>. \u0412\u00a0\u043f\u0435\u0440\u0435\u0441\u0447\u0451\u0442\u0435 \u044d\u0442\u043e \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442\u00a0<strong>\u0441\u0440\u0435\u0434\u043d\u0435\u043c\u0443<\/strong>\u00a0cosine \u043e\u043a\u043e\u043b\u043e\u00a0<code>0.52<\/code>\u00a0(<code>cos \u2248 1 \u2212 0.00062\u00b71536\/2<\/code>): \u0441\u0442\u0443\u0434\u0435\u043d\u0442 \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u043b\u0441\u044f \u043a\u00a0\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0443 \u0443\u0447\u0438\u0442\u0435\u043b\u044f\u00a0\u043b\u0438\u0448\u044c \u0443\u043c\u0435\u0440\u0435\u043d\u043d\u043e, \u0430\u00a0\u043d\u0435 \u00ab\u043f\u043e\u0447\u0442\u0438 \u0441\u043e\u0432\u043f\u0430\u043b\u00bb. \u041f\u043e\u00a0\u043b\u043e\u0433\u0443 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u0440\u0430\u0441\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u0438 \u0448\u043b\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u043e.<\/p>\n<p>Retrieval\u2011\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u0434\u0440\u0443\u0433\u043e\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">Recall@10<\/p>\n<\/th>\n<th>\n<p align=\"left\">MRR@10<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Student \u043f\u043e\u0441\u043b\u0435 vector regression<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.029<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.012<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u043f\u043e\u0447\u0442\u0438 \u043d\u043e\u043b\u044c.<\/p>\n<p>\u041d\u0438\u0437\u043a\u0438\u0439 MSE \u043c\u0435\u0436\u0434\u0443 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u043d\u0435\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b \u0433\u043b\u0430\u0432\u043d\u043e\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0434\u043b\u044f\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430. \u0414\u043b\u044f\u00a0retrieval \u0432\u0430\u0436\u043d\u043e \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u0442\u043e\u0447\u043a\u0443 \u0441\u0442\u0443\u0434\u0435\u043d\u0442\u0430 \u043a\u00a0\u0442\u043e\u0447\u043a\u0435 \u0443\u0447\u0438\u0442\u0435\u043b\u044f, \u0430\u00a0\u0441\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u044e, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u044b\u0448\u0435 \u0442\u044b\u0441\u044f\u0447 \u043f\u043e\u0445\u043e\u0436\u0438\u0445 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445.<\/p>\n<p>\u042d\u0442\u043e \u043d\u0435\u00a0\u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e, \u0447\u0442\u043e\u00a0embedding regression \u043d\u0435\u00a0\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432\u043e\u043e\u0431\u0449\u0435. \u0412\u00a0\u043c\u043e\u0435\u0439 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0435 \u043d\u0435\u00a0\u0445\u0432\u0430\u0442\u0438\u043b\u043e \u0441\u0438\u0433\u043d\u0430\u043b\u0430, \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u043e\u0433\u043e \u0441\u00a0\u0440\u0430\u043d\u0436\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435\u043c. Loss \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u043b\u0441\u044f, \u043d\u043e\u00a0\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b \u043d\u0435\u00a0\u0442\u0443 \u0446\u0435\u043b\u044c, \u043a\u043e\u0442\u043e\u0440\u0430\u044f\u00a0\u0431\u044b\u043b\u0430 \u043d\u0443\u0436\u043d\u0430 retrieval.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435\u00a0<code>Recall@10 = 0.029<\/code>\u00a0MSE\u2011\u0432\u0435\u0442\u043a\u0443 \u044f \u0437\u0430\u043a\u0440\u044b\u043b \u0438 \u043f\u0435\u0440\u0435\u0448\u0451\u043b \u043a\u00a0retrieval\u2011\u043f\u0430\u0440\u0430\u043c:<\/p>\n<blockquote>\n<p>\u0421\u043d\u0438\u0436\u0435\u043d\u0438\u0435 regression loss \u0432\u00a0\u043c\u043e\u0435\u0439 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0435 \u043d\u0435\u00a0\u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043b\u043e\u0441\u044c \u0432\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0438\u0441\u043a\u0430.<\/p>\n<\/blockquote>\n<h3>\u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u043e\u0431\u0443\u0447\u0438\u0442\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e 12-\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e \u0434\u043e\u043d\u043e\u0440\u0430<\/h3>\n<p>\u041f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0432\u0430\u043b\u0430 \u043f\u0440\u044f\u043c\u043e\u0439 \u0440\u0435\u0433\u0440\u0435\u0441\u0441\u0438\u0438 \u044f \u043f\u0435\u0440\u0435\u0448\u0451\u043b \u043d\u0430\u00a0contrastive retrieval. \u0412\u00a0\u043e\u0441\u043d\u043e\u0432\u0435 \u043b\u0435\u0436\u0438\u0442\u00a0<code>MultipleNegativesRankingLoss<\/code>: \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u043f\u0430\u0440\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0441\u0431\u043b\u0438\u0436\u0430\u0442\u044c\u0441\u044f, \u0430\u00a0\u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0431\u0430\u0442\u0447\u0430 \u0441\u0442\u0430\u043d\u043e\u0432\u044f\u0442\u0441\u044f \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u043c\u0438.<\/p>\n<p>\u042d\u0442\u043e\u00a0\u0431\u044b\u043b\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u0430\u044f \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f\u00a0\u043b\u0438\u043d\u0438\u044f\u00a0<code>s1\u2026s6<\/code>\u00a0\u043d\u0430\u00a0<strong>12\u00a0\u0441\u043b\u043e\u044f\u0445<\/strong>. \u0415\u0451 \u0446\u0438\u0444\u0440\u044b \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c\u0438 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e STRIZH: \u043e\u043d\u0430 \u043d\u0443\u0436\u043d\u0430\u00a0\u0431\u044b\u043b\u0430, \u0447\u0442\u043e\u0431\u044b \u043d\u0430\u0439\u0442\u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0438\u0439 \u0440\u0435\u0446\u0435\u043f\u0442 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c donor \u0434\u043b\u044f\u00a0\u043f\u043e\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u044f.<\/p>\n<p>\u0417\u0434\u0435\u0441\u044c \u0432\u0430\u0436\u043d\u0430 \u043c\u0435\u0442\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0434\u0435\u0442\u0430\u043b\u044c: \u0443\u00a0\u043c\u0435\u043d\u044f\u00a0\u0431\u044b\u043b\u043e \u0434\u0432\u0430 \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0430. \u041f\u0435\u0440\u0432\u044b\u0439 \u043d\u0430\u0437\u044b\u0432\u0430\u043b\u0441\u044f train\u2011side smoke: 1000\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u0440\u043e\u0442\u0438\u0432 30\u202f582\u00a0passage\u2011\u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u044f \u0433\u043e\u043d\u044f\u043b \u0435\u0433\u043e \u043f\u0440\u044f\u043c\u043e \u0432\u00a0\u0445\u043e\u0434\u0435 \u0440\u0430\u043d\u043d\u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432. Regression\u2011\u043c\u043e\u0434\u0435\u043b\u044c S1\u00a0\u043d\u0430\u00a0\u043d\u0451\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u00a0<code>Recall@10 = 0.029<\/code>, \u0430\u00a0\u043f\u0435\u0440\u0432\u0430\u044f MNRL\u2011\u043c\u043e\u0434\u0435\u043b\u044c S2\u00a0\u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 smoke\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435 \u0434\u0430\u043b\u0430\u00a0<code>0.717<\/code>. \u041d\u0430\u0447\u0438\u043d\u0430\u044f \u0441\u00a0S2\u00a0\u0432\u0441\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043d\u0438\u0436\u0435 \u0441\u043d\u044f\u0442\u044b \u043d\u0430\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c dev\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435:\u00a0<strong>1000\u00a0MIRACL\u2011ru dev\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u0440\u043e\u0442\u0438\u0432 9274\u00a0passage\u2011\u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, eval cap 512<\/strong>. \u042d\u0442\u043e closed\u2011candidate\u2011\u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0434\u043b\u044f\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u0432\u00a0\u043e\u0434\u043d\u043e\u043c \u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u0438, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 MIRACL leaderboard.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u042d\u0442\u0430\u043f, 12\u00a0\u0441\u043b\u043e\u0451\u0432 (dev\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441 1000\u00d79274)<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0427\u0442\u043e\u00a0\u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">Recall@10<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S2<\/p>\n<\/td>\n<td>\n<p align=\"left\">MNRL, \u043e\u043a\u043e\u043b\u043e 110\u00a0\u0442\u044b\u0441. retrieval\u2011\u043f\u0430\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.706<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S3<\/p>\n<\/td>\n<td>\n<p align=\"left\">GPL\u2011\u0441\u043c\u0435\u0441\u044c, \u043e\u043a\u043e\u043b\u043e 260\u00a0\u0442\u044b\u0441. \u043f\u0430\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.738<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S3,5\u00a0\/ S4<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0415\u0449\u0451 \u0434\u0430\u043d\u043d\u044b\u0435 \u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u0442\u0438\u043f\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.737<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S5<\/p>\n<\/td>\n<td>\n<p align=\"left\">Hard negatives, \u043e\u0442\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0435 FRIDA<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.746<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S5M<\/p>\n<\/td>\n<td>\n<p align=\"left\">MarginMSE \u043d\u0430\u00a0\u0442\u0435\u0445\u00a0\u0436\u0435 \u0434\u0430\u043d\u043d\u044b\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.721<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">S6<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u043e\u0441\u0442 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 ~2,44\u00d7, \u0448\u0435\u0441\u0442\u044c negatives \u043d\u0430\u00a0\u0437\u0430\u043f\u0440\u043e\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.749<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>GPL \u0437\u0434\u0435\u0441\u044c \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 Generative Pseudo\u2011Labeling, \u043d\u043e\u00a0\u0432\u00a0\u0443\u0441\u0435\u0447\u0451\u043d\u043d\u043e\u043c \u0432\u0438\u0434\u0435: LLM \u0447\u0438\u0442\u0430\u0435\u0442 \u043f\u0430\u0441\u0441\u0430\u0436 \u0438\u0437\u00a0\u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u0438 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u043a\u00a0\u043d\u0435\u043c\u0443 \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u043f\u043e\u0438\u0441\u043a\u043e\u0432\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441, \u043f\u0430\u0440\u0430 \u00ab\u0437\u0430\u043f\u0440\u043e\u0441 \u2192 \u043f\u0430\u0441\u0441\u0430\u0436\u00bb \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u043c \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043e\u043c. \u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 GPL (Wang et al.) \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0440\u0430\u0437\u043c\u0435\u0447\u0430\u0435\u0442 \u043f\u0430\u0440\u044b \u043a\u0440\u043e\u0441\u0441\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u043c \u0438 \u0443\u0447\u0438\u0442 \u043d\u0430\u00a0MarginMSE, \u0443\u00a0\u043c\u0435\u043d\u044f \u044d\u0442\u043e\u0433\u043e \u0448\u0430\u0433\u0430 \u043d\u0435\u0442, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u0447\u0435\u0441\u0442\u043d\u0435\u0435 \u043d\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u044d\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0435\u0439 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0434\u0443\u0445\u0435 GenQ. \u0414\u043b\u044f\u00a0\u0441\u0432\u043e\u0435\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u044d\u0442\u043e\u0442 \u0448\u0430\u0433 \u043f\u0440\u0438\u0434\u0451\u0442\u0441\u044f \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u044c \u0441\u0432\u043e\u0438\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u043e\u043c \u0438 \u043b\u044e\u0431\u043e\u0439 \u0438\u043d\u0441\u0442\u0440\u0443\u043a\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e: \u043c\u043e\u0438 \u043f\u0430\u0440\u044b \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u043d\u0435\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u044b. \u041f\u043e\u043b\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0438 \u0434\u043e\u043d\u043e\u0440\u2011\u0441\u0442\u0430\u0434\u0438\u0439 \u0442\u043e\u0436\u0435 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0432\u00a0\u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u0441\u043a\u0440\u0438\u043f\u0442\u0430\u0445 (\u0434\u043b\u044f \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u0430: S3\u00a0\u043e\u0431\u0443\u0447\u0430\u043b\u0441\u044f \u043d\u0430\u00a0GPL 150\u00a0\u0442\u044b\u0441. \u043f\u043b\u044e\u0441 100\u00a0\u0442\u044b\u0441. \u0433\u043e\u0442\u043e\u0432\u044b\u0445 \u043f\u0430\u0440 \u0441\u00a0\u043d\u0435\u0433\u0430\u0442\u0438\u0432\u0430\u043c\u0438 \u0438\u0437\u00a0\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0435\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 \u0438 MIRACL\u2011train 10\u00a0\u0442\u044b\u0441. (FRIDA\u2011mining \u043f\u043e\u044f\u0432\u0438\u043b\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 S5), batch 256, lr 3e-5, 2\u00a0\u044d\u043f\u043e\u0445\u0438; S4\u00a0\u0431\u0440\u0430\u043b \u0441\u0432\u0435\u0436\u0438\u0435 GPL \u0442\u043e\u0439\u00a0\u0436\u0435 \u043f\u0440\u0438\u0440\u043e\u0434\u044b \u043f\u0440\u0438\u00a0lr 2e-5); \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440 \u043e\u0442\u00a0\u043e\u0431\u0440\u0435\u0437\u043a\u0438 \u0434\u043e\u043d\u043e\u0440\u0430 \u0438 \u0434\u0430\u043b\u044c\u0448\u0435.<\/p>\n<h4>\u0421\u043c\u0435\u043d\u0430 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0438 \u043e\u0436\u0438\u0432\u0438\u043b\u0430 retrieval<\/h4>\n<p>\u0422\u0443\u0442 \u043f\u043e\u043c\u0435\u043d\u044f\u043b\u0441\u044f \u043d\u0435\u00a0\u043e\u0434\u0438\u043d loss, \u0430\u00a0\u0432\u0441\u044f \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0441\u0440\u0430\u0437\u0443: \u044f \u0443\u0431\u0440\u0430\u043b 1536-\u043c\u0435\u0440\u043d\u0443\u044e projection\u2011head, \u043f\u0435\u0440\u0435\u0448\u0451\u043b \u0441\u00a0\u043e\u0434\u0438\u043d\u043e\u0447\u043d\u044b\u0445 \u0442\u0435\u043a\u0441\u0442\u043e\u0432 \u043d\u0430\u00a0retrieval\u2011\u043f\u0430\u0440\u044b \u0438 \u043e\u0431\u0443\u0447\u0438\u043b backbone \u0447\u0435\u0440\u0435\u0437 MNRL. \u0421\u043a\u0430\u0447\u043e\u043a\u00a0<code>0.029 \u2192 0.717<\/code>\u00a0\u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u043c \u0438 \u0442\u043e\u043c\u00a0\u0436\u0435 smoke\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442, \u0447\u0442\u043e\u00a0\u043d\u043e\u0432\u044b\u0439 retrieval\u2011\u0440\u0435\u0446\u0435\u043f\u0442 \u0437\u0430\u0440\u0430\u0431\u043e\u0442\u0430\u043b, \u043d\u043e\u00a0\u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u0440\u0438\u043f\u0438\u0441\u0430\u0442\u044c \u0432\u0435\u0441\u044c \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u043e\u0434\u043d\u043e\u043c\u0443 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u044b\u0431\u043e\u0440\u0443 loss. (\u041e\u0431\u0430 smoke\u2011\u0447\u0438\u0441\u043b\u0430 \u0441\u043d\u044f\u0442\u044b \u043d\u0430\u00a0train\u2011side \u0434\u0430\u043d\u043d\u044b\u0445, \u0442\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e \u0434\u0438\u0430\u0433\u043d\u043e\u0441\u0442\u0438\u043a\u0430, \u0430\u00a0\u043d\u0435\u00a0\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0439 holdout; \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0435 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435 S2\u00a0\u0434\u0430\u0451\u0442\u00a0<code>0.706<\/code>\u00a0\u043d\u0430\u00a0dev\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435.)<\/p>\n<h4>GPL \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u043e \u0432\u044b\u0448\u0435\u043b \u043d\u0430\u00a0\u043f\u043b\u0430\u0442\u043e<\/h4>\n<p>\u0423\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u0441\u043c\u0435\u0441\u0438 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u043e 260\u00a0\u0442\u044b\u0441. \u043f\u0430\u0440 \u0434\u0430\u043b\u043e\u00a0<code>0.738<\/code>, \u043d\u043e\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430\u00a0\u0434\u0430\u043d\u043d\u044b\u0445 \u0442\u043e\u0439\u00a0\u0436\u0435 \u043f\u0440\u0438\u0440\u043e\u0434\u044b \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0434\u043e\u0431\u0430\u0432\u0438\u043b:\u00a0<code>0.737<\/code>.<\/p>\n<p>\u0411\u043e\u043b\u044c\u0448\u0435 \u0441\u0442\u0440\u043e\u043a \u043d\u0435\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u043b\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u043e\u0432\u043e\u0433\u043e \u0441\u0438\u0433\u043d\u0430\u043b\u0430. \u041c\u043e\u0434\u0435\u043b\u044c \u0432\u0438\u0434\u0435\u043b\u0430 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<h4>Hard negatives \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043b\u0443\u0447\u0448\u0435 \u043f\u0440\u043e\u0441\u0442\u043e\u0433\u043e \u043d\u0430\u0440\u0430\u0449\u0438\u0432\u0430\u043d\u0438\u044f \u043a\u043e\u0440\u043f\u0443\u0441\u0430<\/h4>\n<p>\u042f \u043e\u0442\u0431\u0438\u0440\u0430\u043b \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u0438\u043b\u044c\u043d\u044b\u0439 \u0443\u0447\u0438\u0442\u0435\u043b\u044c \u0441\u0442\u0430\u0432\u0438\u043b \u0432\u044b\u0441\u043e\u043a\u043e, \u043d\u043e\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435\u00a0\u0431\u044b\u043b\u0438 \u0440\u0430\u0437\u043c\u0435\u0447\u0435\u043d\u044b \u043a\u0430\u043a\u00a0gold \u0434\u043b\u044f\u00a0\u0434\u0430\u043d\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430. \u0422\u0430\u043a\u043e\u0439 mining \u0441\u043e\u0437\u0434\u0430\u0451\u0442 \u0441\u043b\u043e\u0436\u043d\u044b\u0435 negatives \u0438 \u0437\u0430\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u044c \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u043c\u0435\u0436\u0434\u0443 \u00ab\u043f\u043e\u0445\u043e\u0436\u0435 \u043f\u043e\u00a0\u0442\u0435\u043c\u0435\u00bb \u0438 \u00ab\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043d\u0430\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u00bb, \u0445\u043e\u0442\u044f \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0438\u0441\u043a\u043b\u044e\u0447\u0438\u0442\u044c false negatives (\u043d\u0435\u0440\u0430\u0437\u043c\u0435\u0447\u0435\u043d\u043d\u044b\u0439, \u043d\u043e\u00a0\u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0439 passage) \u043e\u043d \u043d\u0435\u00a0\u043c\u043e\u0436\u0435\u0442.<\/p>\n<p>\u041f\u043e\u0441\u043b\u0435 FRIDA\u2011mining \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432\u044b\u0440\u043e\u0441 \u0434\u043e\u00a0<code>0.746<\/code>.<\/p>\n<h4>MarginMSE \u0443\u0445\u0443\u0434\u0448\u0438\u043b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/h4>\n<p>\u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0438\u0434\u0435\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u0430 \u0440\u0430\u0437\u0443\u043c\u043d\u043e: \u0443\u0447\u0438\u0442\u044c \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0440\u044f\u0434\u043e\u043a, \u043d\u043e\u00a0\u0438 margin \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0438 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u043c. \u041d\u0430\u00a0\u043c\u043e\u0451\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u0442\u043e\u0442\u00a0\u0436\u0435 \u0441\u0438\u0433\u043d\u0430\u043b \u0441\u00a0MarginMSE \u0434\u0430\u043b\u00a0<code>0.721<\/code>, \u0442\u043e \u0435\u0441\u0442\u044c \u043c\u0438\u043d\u0443\u0441 2,5\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043f\u0443\u043d\u043a\u0442\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e S5.<\/p>\n<p>\u041c\u043e\u044f \u0440\u0430\u0431\u043e\u0447\u0430\u044f \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430: \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u0430\u044f \u0448\u043a\u0430\u043b\u0430 cosine\u2011margin \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u043f\u043b\u043e\u0445\u043e \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u043b\u0430\u0441\u044c \u0432\u00a0\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u043e\u0433\u043e \u0441\u0442\u0443\u0434\u0435\u043d\u0442\u0430. \u041d\u043e\u00a0\u044d\u0442\u043e \u0438\u043c\u0435\u043d\u043d\u043e \u0433\u0438\u043f\u043e\u0442\u0435\u0437\u0430 \u043f\u043e\u00a0\u043e\u0434\u043d\u043e\u043c\u0443 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0443, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0449\u0438\u0439 \u043f\u0440\u0438\u0433\u043e\u0432\u043e\u0440 MarginMSE.<\/p>\n<h4>\u0428\u0435\u0441\u0442\u044c negatives \u043d\u0430\u00a0\u0437\u0430\u043f\u0440\u043e\u0441 \u0434\u0430\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e +0,3\u00a0\u043f.\u043f.<\/h4>\n<p>S5\u00a0\u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043b 894\u202f924\u00a0\u0441\u0442\u0440\u043e\u043a\u0438, S6\u00a0\u0432\u044b\u0440\u043e\u0441 \u0434\u043e 2\u202f182\u202f536, \u0442\u043e \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 2,44\u00a0\u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435; \u043a\u0430\u0436\u0434\u044b\u0439 \u0437\u0430\u043f\u0440\u043e\u0441 \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0434\u043e\u00a0\u0448\u0435\u0441\u0442\u0438 negatives.\u00a0<code>Recall@10<\/code>\u00a0\u0432\u044b\u0440\u043e\u0441 \u0441\u00a0<code>0.746<\/code>\u00a0\u0434\u043e\u00a0<code>0.749<\/code>.<\/p>\n<p>\u042d\u0442\u043e \u0438 \u0441\u0442\u0430\u043b\u043e \u0441\u0438\u0433\u043d\u0430\u043b\u043e\u043c \u043e\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c\u0441\u044f. Donor \u0443\u0436\u0435 \u0443\u043c\u0435\u043b retrieval, \u043d\u043e\u00a0\u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0435\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u0440\u0435\u0446\u0435\u043f\u0442\u0430 \u0434\u0430\u0432\u0430\u043b\u043e \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043c\u0430\u043b\u043e.<\/p>\n<h3>\u041f\u043e\u0431\u043e\u0447\u043d\u0430\u044f \u0433\u0440\u0430\u0431\u043b\u044f: batch 256, WSL \u0438 \u0434\u0435\u0432\u044f\u0442\u044c \u043f\u0430\u0434\u0435\u043d\u0438\u0439<\/h3>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0448\u043b\u043e \u043d\u0430\u00a0RTX 5090\u00a0\u043f\u043e\u0434\u00a0WSL2. MNRL \u0441\u00a0batch 256\u00a0\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044f\u043c\u0438 \u0434\u043e 256\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0438 \u0440\u0430\u0437\u0434\u0443\u0432\u0430\u043b \u043f\u043e\u0442\u0440\u0435\u0431\u043b\u0435\u043d\u0438\u0435 \u0434\u043e 20\u201325\u00a0\u0413\u0411. \u041a\u043e\u0433\u0434\u0430 WDDM \u043d\u0430\u0447\u0438\u043d\u0430\u043b \u0432\u044b\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u0442\u044c \u043f\u0430\u043c\u044f\u0442\u044c \u0432\u00a0shared RAM, \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0430\u0434\u0430\u043b\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u043e 2,3\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b \u043d\u0430\u00a0\u0448\u0430\u0433, \u0437\u0430\u0442\u0435\u043c \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043b\u0438 OOM \u0438\u043b\u0438\u00a0\u0447\u0451\u0440\u043d\u044b\u0439 \u044d\u043a\u0440\u0430\u043d.<\/p>\n<p>\u0414\u043e\u00a0\u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u044f \u0434\u043e\u0448\u0451\u043b \u043f\u043e\u0441\u043b\u0435 \u0434\u0435\u0432\u044f\u0442\u0438 \u043f\u0430\u0434\u0435\u043d\u0438\u0439.<\/p>\n<p><code>gradient_checkpointing=True<\/code>\u00a0\u0441\u043d\u0438\u0437\u0438\u043b \u043f\u0438\u043a \u0441 20\u201325\u00a0\u0413\u0411 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u043e 5\u00a0\u0413\u0411. \u041d\u043e\u00a0\u0432\u0430\u0436\u043d\u0435\u0435 \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0434\u0440\u0443\u0433\u043e\u0435: \u043f\u043e\u0441\u043b\u0435 \u0438\u0441\u0447\u0435\u0437\u043d\u043e\u0432\u0435\u043d\u0438\u044f \u0441\u0432\u043e\u043f\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0443\u0441\u043a\u043e\u0440\u0438\u043b\u043e\u0441\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u00a0\u0447\u0435\u0442\u044b\u0440\u0435 \u0440\u0430\u0437\u0430. \u0424\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e checkpointing \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442 recompute \u0438 \u0434\u043e\u043b\u0436\u0435\u043d \u0437\u0430\u043c\u0435\u0434\u043b\u044f\u0442\u044c \u0448\u0430\u0433. \u0412\u00a0\u043c\u043e\u0435\u0439 \u0441\u0440\u0435\u0434\u0435 \u043e\u043d \u0443\u0431\u0440\u0430\u043b \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u0431\u043e\u043b\u0435\u0435 \u0434\u043e\u0440\u043e\u0433\u043e\u0439 \u043f\u0443\u0442\u044c \u0447\u0435\u0440\u0435\u0437 shared memory.<\/p>\n<p>\u042d\u0442\u043e \u043d\u0435\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 benchmark checkpointing, \u0430\u00a0\u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u043d\u0438\u0435: \u00ab\u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0VRAM\u00bb \u0438 \u00ab\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435\u00a0\u0443\u0445\u043e\u0434\u0438\u0442 \u0432\u00a0\u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0439 \u0441\u0432\u043e\u043f\u00bb \u043e\u0437\u043d\u0430\u0447\u0430\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0432\u0435\u0449\u0438.<\/p>\n<h3>\u041a\u0430\u043a\u00a0\u0438\u0437 \u0434\u0432\u0435\u043d\u0430\u0434\u0446\u0430\u0442\u0438 \u0441\u043b\u043e\u0451\u0432 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0447\u0435\u0442\u044b\u0440\u0435<\/h3>\n<p>\u041f\u0440\u043e\u0441\u0442\u043e \u0432\u0437\u044f\u0442\u044c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f \u043d\u0435\u043b\u044c\u0437\u044f\u00a0\u0431\u044b\u043b\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c. \u042f \u0441\u043e\u0431\u0440\u0430\u043b \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e warm\u2011start \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432, \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u0432 \u0431\u043b\u043e\u043a\u0438 \u0438\u0437\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0433\u043e S6-donor \u0432\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<p>\u0412\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u0438 \u0442\u0430\u043a:<\/p>\n<pre><code class=\"python\">last4  = [8, 9, 10, 11]strided = [2, 5, 8, 11]late    = [0, 5, 9, 11]spread  = [0, 4, 8, 11]<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0414\u043e\u00a0\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u0430\u0434\u0451\u0436\u043d\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0441\u044c \u0442\u0430\u043a\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">Warm\u2011start<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0421\u043b\u043e\u0438<\/p>\n<\/th>\n<th>\n<p align=\"left\">Recall@10\u00a0\u0434\u043e\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>late<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>[0, 5, 9, 11]<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.306<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>last4<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>[8, 9, 10, 11]<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.281<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>spread<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>[0, 4, 8, 11]<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.153<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0410\u0431\u0441\u043e\u043b\u044e\u0442\u043d\u043e\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u0441\u043b\u0435 \u043c\u0435\u0445\u0430\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043e\u0431\u0440\u0435\u0437\u043a\u0438 \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e\u00a0\u0431\u044b\u043b\u043e \u043d\u0438\u0437\u043a\u0438\u043c. \u041c\u043d\u0435\u00a0\u0431\u044b\u043b \u043d\u0443\u0436\u0435\u043d \u043d\u0435\u00a0\u0433\u043e\u0442\u043e\u0432\u044b\u0439 retriever, \u0430\u00a0\u0441\u0442\u0430\u0440\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u0435\u043d\u044c\u0448\u0435 \u0432\u0441\u0435\u0433\u043e \u0440\u0430\u0437\u0440\u0443\u0448\u0438\u043b \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0443 donor.<\/p>\n<p>\u041f\u043e\u0431\u0435\u0434\u0438\u043b \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00a0<code>[0, 5, 9, 11]<\/code>. (\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u00a0<code>strided<\/code>\u00a0\u043d\u0430\u0434\u0451\u0436\u043d\u043e \u043d\u0435\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0441\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0435\u0433\u043e \u043d\u0435\u0442; \u0432\u044b\u0431\u043e\u0440 \u0448\u0451\u043b \u0438\u0437\u00a0\u0442\u0440\u0451\u0445 \u0437\u0430\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0441\u0442\u0430\u0440\u0442\u043e\u0432.)<\/p>\n<p>\u041c\u043e\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u043e\u0436\u0438\u0442\u044c, \u0447\u0442\u043e\u00a0\u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u043f\u043e\u043b\u0435\u0437\u043d\u0443\u044e \u0440\u0430\u043d\u043d\u044e\u044e \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0443 \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430\u00a0\u043f\u043e\u0437\u0434\u043d\u0438\u0435 \u043e\u0442\u0432\u0435\u0447\u0430\u044e\u0442 \u0437\u0430\u00a0retrieval\u2011\u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u044e. \u041d\u043e\u00a0\u044d\u0442\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u044f \u043f\u043e\u0441\u043b\u0435 \u0444\u0430\u043a\u0442\u0430. \u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0434\u043e\u043a\u0430\u0437\u0430\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e\u00a0\u0434\u0430\u043d\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043b\u0443\u0447\u0448\u0438\u043c \u0438\u0437\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0445 \u0441\u0442\u0430\u0440\u0442\u043e\u0432.<\/p>\n<p>\u0423\u00a0ModernBERT \u0437\u0434\u0435\u0441\u044c\u00a0\u0431\u044b\u043b\u0430 \u0435\u0449\u0451 \u043e\u0434\u043d\u0430 \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430\u044f \u0434\u0435\u0442\u0430\u043b\u044c: \u0441\u043b\u043e\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435\u00a0<code>layer_types<\/code>\u00a0\u0441\u00a0local\/global attention \u0438 \u0441\u0432\u044f\u0437\u0430\u043d\u043d\u044b\u043c\u0438 RoPE\u2011\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438. \u041f\u0440\u0438\u00a0\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u043d\u0443\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u0430, \u043d\u043e\u00a0\u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u0442\u0438\u043f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f. \u041f\u0440\u043e\u0441\u0442\u043e\u0435 \u043f\u0435\u0440\u0435\u0438\u043c\u0435\u043d\u043e\u0432\u0430\u043d\u0438\u0435\u00a0<code>state_dict<\/code>\u00a0\u0431\u0435\u0437\u00a0\u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e config \u0434\u0430\u0432\u0430\u043b\u043e\u00a0\u0431\u044b \u0443\u0436\u0435 \u0434\u0440\u0443\u0433\u0443\u044e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443.<\/p>\n<p>\u041a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u044d\u0442\u043e\u0433\u043e \u044d\u0442\u0430\u043f\u0430:<\/p>\n<blockquote>\n<p>layer selection \/ pruning + warm\u2011start, \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e student \u0437\u0430\u043d\u043e\u0432\u043e \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u00a0contrastive objective.<\/p>\n<\/blockquote>\n<p>\u042d\u0442\u043e \u043d\u0435\u00a0\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f distillation \u0441\u00a0\u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u044b\u043c teacher\u2011forward \u0438 distillation loss \u043d\u0430\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0431\u0430\u0442\u0447\u0435. \u0423\u0447\u0438\u0442\u0435\u043b\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0434\u043b\u044f\u00a0\u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0438 donor \u0438 mining hard negatives, \u043d\u043e\u00a0\u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 student \u043d\u0435\u00a0\u043f\u043e\u0432\u0442\u043e\u0440\u044f\u043b logits \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u043e\u043d\u043b\u0430\u0439\u043d.<\/p>\n<h3>\u041f\u0435\u0440\u0432\u0430\u044f \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f<\/h3>\n<p>\u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0441\u0442\u0430\u0440\u0442\u0430 \u044f \u0432\u0437\u044f\u043b\u00a0<code>ws_late<\/code>\u00a0\u0438 \u043e\u0431\u0443\u0447\u0438\u043b \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u044b\u0439 student \u043d\u0430\u00a0\u0442\u0435\u0445\u00a0\u0436\u0435 FRIDA hard negatives \u043f\u043b\u044e\u0441 MIRACL\u2011train.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u0441\u0442\u0440\u043e\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u043a\u043e\u043b\u043e 2,19\u00a0\u043c\u043b\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u042d\u043f\u043e\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">3<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Batch size<\/p>\n<\/td>\n<td>\n<p align=\"left\">256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Learning rate<\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>8e-5<\/code><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Precision<\/p>\n<\/td>\n<td>\n<p align=\"left\">BF16<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Max sequence length<\/p>\n<\/td>\n<td>\n<p align=\"left\">256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0412\u0440\u0435\u043c\u044f \u043d\u0430\u00a0RTX 5090<\/p>\n<\/td>\n<td>\n<p align=\"left\">4131\u00a0\u0441, \u043e\u043a\u043e\u043b\u043e 69\u00a0\u043c\u0438\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">1592\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u0430\/\u0441<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c dev\u2011harness \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u00a0<code>0.763<\/code>\u00a0\u043f\u0440\u043e\u0442\u0438\u0432\u00a0<code>0.749<\/code>\u00a0\u0443 12-\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e donor \u0438\u00a0<code>0.678<\/code>\u00a0\u0443\u00a0<code>rubert-tiny2<\/code>. \u0417\u0430\u0442\u0435\u043c \u044f \u0438\u0441\u043a\u043b\u044e\u0447\u0438\u043b \u0437\u0430\u043f\u0440\u043e\u0441\u044b, \u0443\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u043e\u0434\u0438\u043d gold passage \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b\u0441\u044f \u0441\u0440\u0435\u0434\u0438 training positives \u043a\u00a0\u0434\u0440\u0443\u0433\u0438\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c. \u041d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438\u00a0<code>0.712<\/code>,\u00a0<code>0.700<\/code>\u00a0\u0438\u00a0<code>0.633<\/code>\u00a0\u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e.<\/p>\n<p>\u041d\u043e\u00a0\u0432\u044b\u0432\u043e\u0434 \u00ab\u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f \u043b\u0443\u0447\u0448\u0435 \u0434\u0432\u0435\u043d\u0430\u0434\u0446\u0430\u0442\u0438\u00bb\u00a0\u0431\u044b\u043b\u00a0\u0431\u044b \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u043c. Student \u0432\u0438\u0434\u0435\u043b \u0434\u0440\u0443\u0433\u043e\u0439 \u043e\u0431\u044a\u0451\u043c \u0438 \u0441\u043e\u0441\u0442\u0430\u0432 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0434\u0440\u0443\u0433\u043e\u0439 learning rate \u0438 \u0442\u0440\u0438 \u044d\u043f\u043e\u0445\u0438 \u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0442\u043e, \u0447\u0442\u043e\u00a0\u043f\u043e\u0441\u043b\u0435 \u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c \u0438 \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0443\u043b\u0443\u0447\u0448\u0438\u0442\u044c \u043d\u043e\u0432\u044b\u043c \u0440\u0435\u0446\u0435\u043f\u0442\u043e\u043c.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u044d\u0442\u043e\u0433\u043e \u044d\u0442\u0430\u043f\u0430\u00a0\u0431\u044b\u043b \u043d\u0435\u00a0<code>+0.014<\/code>\u00a0\u043a\u00a0donor, \u0430\u00a0\u0442\u043e, \u0447\u0442\u043e\u00a0encoder \u0441\u00a0\u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u0441\u043b\u043e\u044f\u043c\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0439 retrieval.<\/p>\n<h3>V2: \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0441\u044f, \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u044f\u0432\u043d\u043e<\/h3>\n<p>\u041f\u0435\u0440\u0432\u0430\u044f \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0443\u0436\u0435 \u0447\u0442\u043e\u2011\u0442\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u043b\u0430 \u043f\u043e\u2011\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438 \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0431\u0430\u0437\u043e\u0432\u043e\u043c\u0443\u00a0<code>RuModernBERT-small<\/code>, \u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u043c\u0443 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c, \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 \u043a\u043e\u0434\u0435. \u041d\u0430\u00a0NanoBEIR \u043e\u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 \u0441\u0440\u0435\u0434\u043d\u0438\u0439\u00a0<code>nDCG@10 = 0.296<\/code>\u00a0\u0431\u0435\u0437\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u0433\u043e retrieval\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041d\u043e\u00a0\u044d\u0442\u043e\u0433\u043e\u00a0\u0431\u044b\u043b\u043e \u043c\u0430\u043b\u043e \u0434\u043b\u044f\u00a0\u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u0433\u0434\u0435 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u043d\u043e \u043f\u0435\u0440\u0435\u043c\u0435\u0448\u0430\u043d \u0441\u00a0\u0438\u043c\u0435\u043d\u0430\u043c\u0438 \u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a, \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c\u0438 CLI, traceback \u0438 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u043c\u0438 \u043a\u043e\u0434\u0430.<\/p>\n<p>\u0414\u043b\u044f\u00a0V2\u00a0\u044f \u0441\u043e\u0431\u0440\u0430\u043b \u0435\u0434\u0438\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a \u0438\u0437 220\u00a0\u0442\u044b\u0441. \u043f\u0430\u0440:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0427\u0430\u0441\u0442\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0438\u0435 GPL\u2011\u043f\u0430\u0440\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">120\u202f000<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e RU\u2011\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>ru_stackoverflow<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">60\u202f000<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0438\u0439 \u0432\u043e\u043f\u0440\u043e\u0441, \u043a\u043e\u0434 \u0438 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0432\u00a0\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">MIRACL\u2011en train<\/p>\n<\/td>\n<td>\n<p align=\"left\">40\u202f000<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u042f\u0432\u043d\u044b\u0439 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 retrieval\u2011\u0441\u0438\u0433\u043d\u0430\u043b<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0412\u00a0\u043e\u0434\u043d\u043e\u043c \u0438\u0437\u00a0\u0440\u0430\u043d\u043d\u0438\u0445 README \u0443\u00a0\u043c\u0435\u043d\u044f \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 GooAQ. \u042d\u0442\u043e\u00a0\u0431\u044b\u043b\u043e \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0441\u00a0\u043a\u043e\u0434\u043e\u043c: \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439\u00a0<code>data_v2.py<\/code>\u00a0\u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0435\u0442\u00a0<strong>MIRACL\u2011en<\/strong>, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u0435\u0433\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u043e\u0433\u043e\u043d.<\/p>\n<p>\u041f\u0435\u0440\u0432\u044b\u0439 V2-\u043f\u0440\u043e\u0445\u043e\u0434 (\u0434\u0432\u0435 \u044d\u043f\u043e\u0445\u0438 MNRL, batch 256,\u00a0<code>lr=3e-5<\/code>) \u0437\u0430\u043d\u044f\u043b 166,8\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 encoder \u043d\u0430 220\u00a0\u0442\u044b\u0441. \u043f\u0430\u0440\u0430\u0445 \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0447\u0435\u043c \u0443\u0441\u043f\u0435\u0432\u0430\u0435\u0448\u044c \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u043e\u0444\u043e\u0440\u043c\u0438\u0442\u044c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442.<\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e V1:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041e\u0441\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">V1<\/p>\n<\/th>\n<th>\n<p align=\"left\">V2, \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044f 1<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RU, Recall@10\u00a0(\u043f\u043e\u043b\u043d\u044b\u0439 dev)<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.763<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.797<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">EN NanoBEIR, mean nDCG@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.296<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.340<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Mixed diagnostic, Recall@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.520<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.605<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041e\u0431\u0430 RU\u2011\u0447\u0438\u0441\u043b\u0430 \u0437\u0434\u0435\u0441\u044c \u0441\u043d\u044f\u0442\u044b \u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u043c dev\u2011\u043d\u0430\u0431\u043e\u0440\u0435 (\u043d\u0435 \u043d\u0430\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435), \u0447\u0442\u043e\u0431\u044b \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435\u00a0\u0431\u044b\u043b\u043e \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u043c. \u0421\u0432\u0435\u0436\u0438\u0439 co\u2011train \u0434\u0430\u043b \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u043f\u043e\u00a0\u0442\u0440\u0451\u043c \u043e\u0441\u044f\u043c, \u043d\u043e\u00a0\u043f\u043e\u2011\u0440\u0443\u0441\u0441\u043a\u0438 \u0441\u043a\u0440\u043e\u043c\u043d\u044b\u0439:\u00a0<code>0.797 \u2212 0.763 = 0.034<\/code>, \u0442\u043e \u0435\u0441\u0442\u044c 3,4\u00a0\u043f.\u043f. \u041d\u0430\u0438\u0432\u043d\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e V1\u00a0(<code>0.712<\/code>) \u0441\u00a0\u043f\u043e\u043b\u043d\u044b\u043c V2\u00a0(<code>0.797<\/code>) \u0434\u0430\u043b\u043e\u00a0\u0431\u044b \u043b\u043e\u0436\u043d\u044b\u0435 8,5\u00a0\u043f.\u043f.: \u044d\u0442\u043e \u043e\u0448\u0438\u0431\u043a\u0430 \u0441\u043c\u0435\u0448\u0435\u043d\u0438\u044f \u0432\u044b\u0431\u043e\u0440\u043e\u043a, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043b\u0435\u0433\u043a\u043e \u043d\u0435\u00a0\u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c. \u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0432\u043a\u043b\u0430\u0434 \u043f\u0440\u0438\u0448\u0451\u043b\u0441\u044f \u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u0438 mixed.<\/p>\n<h3>Hard negatives \u043e\u0442\u00a0BGE\u2011M3<\/h3>\n<p>\u0414\u043b\u044f\u00a0\u0432\u0442\u043e\u0440\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u00a0<code>bge-m3<\/code>\u00a0\u043a\u0430\u043a\u00a0teacher\u2011miner.<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430:<\/p>\n<ol>\n<li>\n<p>\u043a\u043e\u0434\u0438\u0440\u043e\u0432\u0430\u043b \u043f\u0443\u043b \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043b\u043e\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u0431\u0440\u0430\u043b top-50\u00a0\u043f\u043e\u00a0cosine similarity;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u043b top-3\u00a0\u0438 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 gold;<\/p>\n<\/li>\n<li>\n<p>\u0432\u044b\u0431\u0438\u0440\u0430\u043b \u0448\u0435\u0441\u0442\u044c negatives \u0438\u0437\u00a0\u043f\u043e\u0437\u0438\u0446\u0438\u0439 4\u201340.<\/p>\n<\/li>\n<\/ol>\n<p>\u0412\u00a0\u0438\u0442\u043e\u0433\u0435 220\u00a0\u0442\u044b\u0441. \u043f\u0430\u0440 \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u0438\u0441\u044c \u0432 220\u00a0\u0442\u044b\u0441. triplets \u0438 1,32\u00a0\u043c\u043b\u043d \u0441\u0442\u0440\u043e\u043a \u0434\u043b\u044f\u00a0MNRL. \u0424\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0445\u043e\u0434 \u0437\u0430\u043d\u044f\u043b 814,5\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b.<\/p>\n<p>\u0412\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u044f\u00a0\u0431\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b grouped negatives \u0438\u043b\u0438\u00a0<code>NO_DUPLICATES<\/code>\u00a0batch sampler. \u0422\u0435\u043a\u0443\u0449\u0430\u044f \u0440\u0430\u0437\u0432\u0451\u0440\u0442\u043a\u0430 \u043f\u043e\u00a0\u0448\u0435\u0441\u0442\u044c \u0441\u0442\u0440\u043e\u043a \u0434\u043e\u043f\u0443\u0441\u043a\u0430\u0435\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0435 anchors \u0438 positives \u0432\u043d\u0443\u0442\u0440\u0438 MNRL\u2011\u0431\u0430\u0442\u0447\u0430: \u043e\u043d\u0438 \u043c\u043e\u0433\u0443\u0442 \u0441\u0442\u0430\u0442\u044c \u043b\u043e\u0436\u043d\u044b\u043c\u0438 in\u2011batch negatives. \u042d\u0442\u043e \u043e\u0434\u043d\u0430 \u0438\u0437\u00a0\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0445 \u043f\u0440\u0438\u0447\u0438\u043d, \u043f\u043e\u0447\u0435\u043c\u0443 \u0434\u043e\u0440\u043e\u0433\u043e\u0439 \u044d\u0442\u0430\u043f \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0434\u043e\u0431\u0430\u0432\u0438\u043b.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041e\u0441\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">V2\u00a0iter-1<\/p>\n<\/th>\n<th>\n<p align=\"left\">V2\u00a0iter-2<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RU, Recall@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.797<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.800<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">EN NanoBEIR, mean nDCG@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.340<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.341<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Mixed diagnostic, Recall@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.605<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.624<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">OPUS-100\u00a0RU\u2192EN, Recall@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\/\u0434<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.777<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">OPUS-100\u00a0EN\u2192RU, Recall@10<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\/\u0434<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.751<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>Hard\u2011negative \u044d\u0442\u0430\u043f \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u043d\u0438\u043b \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e RU\u2011\u043c\u0435\u0442\u0440\u0438\u043a\u0443 \u0438 NanoBEIR:\u00a0<code>0.797 \u2192 0.800<\/code>, \u0447\u0442\u043e\u00a0\u043d\u0430 1000-\u0437\u0430\u043f\u0440\u043e\u0441\u043d\u043e\u043c RU\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u0442\u0440\u0438 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043f\u0430\u0434\u0430\u043d\u0438\u044f \u0432\u00a0top-10, \u0438\u00a0<code>0.340 \u2192 0.341<\/code>\u00a0\u043d\u0430\u00a0NanoBEIR, \u0441\u0434\u0432\u0438\u0433 \u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0430; \u0431\u0435\u0437\u00a0confidence intervals \u0442\u0430\u043a\u043e\u0435 \u043b\u0443\u0447\u0448\u0435 \u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u043a \u00ab\u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u043d\u0438\u043b\u043e\u0441\u044c\u00bb. \u0415\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u043e\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0434\u0430\u043b\u043e\u00a0<code>+0.019<\/code>\u00a0\u043d\u0430\u00a0mixed\u2011\u0434\u0438\u0430\u0433\u043d\u043e\u0441\u0442\u0438\u043a\u0435, \u043a\u043e\u0442\u043e\u0440\u0430\u044f, \u043a\u0430\u043a\u00a0\u0432\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0437\u0436\u0435, \u043f\u0435\u0440\u0435\u0441\u0435\u043a\u0430\u0435\u0442\u0441\u044f \u0441\u00a0train.<\/p>\n<p>\u041d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u0439 \u043f\u043e\u00a0\u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u0435 \u044d\u0442\u0430\u043f \u043d\u0435\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0434\u0430\u0451\u0442 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442: co\u2011train\u2011\u0441\u043c\u0435\u0441\u044c \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u0432\u0430\u0436\u043d\u0435\u0435.<\/p>\n<h3>\u041f\u0440\u043e\u0432\u0435\u0440\u043a\u0430, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u044f \u043f\u043e\u0439\u043c\u0430\u043b \u0443\u0442\u0435\u0447\u043a\u0443<\/h3>\n<p>\u041f\u0440\u0438\u00a0\u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u0437\u0430\u043d\u043e\u0432\u043e \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 train\u2011\u0434\u0430\u043d\u043d\u044b\u0445 \u0438 mixed\u2011eval.<\/p>\n<p>\u041e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u00a0\u043e\u0431\u0430 \u0441\u043a\u0440\u0438\u043f\u0442\u0430 \u0447\u0438\u0442\u0430\u044e\u0442 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442\u00a0\u0436\u0435\u00a0<code>ru_stackoverflow<\/code>\u00a0train split, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0444\u0438\u043b\u044c\u0442\u0440 \u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u0441\u00a0\u043f\u0435\u0440\u0432\u044b\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439:<\/p>\n<pre><code class=\"python\"># trainif c &gt; 50 and l &gt; 30 and l \/ (c + l) &gt; 0.15:    rows.append(...)    if nmix &gt;= 60000: break# evalif c &gt; 50 and l &gt; 30 and l \/ (c + l) &gt; 0.15:    items.append(...)    if len(items) &gt;= 3000: break<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0421\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, mixed\u2011\u043d\u0430\u0431\u043e\u0440 \u043d\u0435\u00a0\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u043c holdout. \u0412\u00a0\u043d\u0451\u043c \u043f\u043e\u0447\u0442\u0438 \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u0435\u0441\u0442\u044c \u043f\u0440\u044f\u043c\u043e\u0435 \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c V2. (\u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u043e\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c\u043e\u0441\u0442\u0438: train\u2011\u0441\u0442\u043e\u0440\u043e\u043d\u0430 \u044d\u0442\u043e\u0439 \u0446\u0438\u0442\u0430\u0442\u044b \u043b\u0435\u0436\u0438\u0442 \u0432\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u043c\u00a0<code>data_v2.py<\/code>, \u0430\u00a0eval\u2011\u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 mixed\u2011\u043d\u0430\u0431\u043e\u0440\u0430 \u044f \u043d\u0435\u00a0\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043b, \u043d\u043e\u00a0\u0441\u0430\u043c mixed \u0438\u0437\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 \u0438 \u0442\u0430\u043a \u0438\u0441\u043a\u043b\u044e\u0447\u0451\u043d.)<\/p>\n<p>\u041f\u043e\u044d\u0442\u043e\u043c\u0443\u00a0<code>0.624<\/code>\u00a0\u043d\u0435\u043b\u044c\u0437\u044f \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043a\u0430\u043a\u00a0\u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u0438\u044f \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u2011\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0443\u044e \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044e. \u042f \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e \u044d\u0442\u0443 \u0446\u0438\u0444\u0440\u0443 \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u043a\u00a0<strong>\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u044e\u044e \u043c\u0435\u0442\u0440\u0438\u043a\u0443 \u043d\u0430\u00a0\u043d\u0430\u0431\u043e\u0440\u0435 \u0441\u00a0\u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0435\u043c \u0441\u00a0train<\/strong>, \u043f\u043e\u043b\u0435\u0437\u043d\u0443\u044e \u0434\u043b\u044f\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u043e\u0434\u043d\u043e\u0433\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430.<\/p>\n<p>\u0412\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u0443\u044e \u0442\u0430\u0431\u043b\u0438\u0446\u0443 mixed\u2011\u043e\u0441\u044c \u043d\u0435\u00a0\u0432\u043a\u043b\u044e\u0447\u0430\u044e. \u0414\u043b\u044f\u00a0\u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f \u043e\u00a0mixed\/code \u043d\u0443\u0436\u0435\u043d \u043d\u043e\u0432\u044b\u0439 holdout \u0438\u0437\u00a0\u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0430\u00a0\u043b\u0438\u0431\u043e \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0438\u0435 dataset \u043f\u043e\u00a0\u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u0430\u043c \u0434\u043e\u00a0\u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f train.<\/p>\n<p>\u0412\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u044b\u0439 benchmark \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043c\u043e\u0436\u0435\u0442 \u043e\u0442\u0432\u0435\u0447\u0430\u0442\u044c \u043d\u0435\u00a0\u043d\u0430\u00a0\u0442\u043e\u0442 \u0432\u043e\u043f\u0440\u043e\u0441.<\/p>\n<h3>\u041a\u0430\u043a\u00a0\u044f \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e<\/h3>\n<p>\u041e\u0434\u0438\u043d \u043e\u0431\u0449\u0438\u0439 \u00abscore \u043c\u043e\u0434\u0435\u043b\u0438\u00bb \u0437\u0434\u0435\u0441\u044c\u00a0\u0431\u044b\u043b\u00a0\u0431\u044b \u043c\u0430\u043d\u0438\u043f\u0443\u043b\u044f\u0446\u0438\u0435\u0439, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0440\u0430\u0437\u043d\u044b\u0435 \u043e\u0441\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438.<\/p>\n<h4>\u0420\u0443\u0441\u0441\u043a\u0438\u0439<\/h4>\n<p>\u041b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 harness \u043d\u0430\u00a0MIRACL\u2011ru dev:<\/p>\n<ul>\n<li>\n<p>\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043f\u0435\u0440\u0432\u044b\u0435 1000\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>dev passage corpus;<\/p>\n<\/li>\n<li>\n<p>\u0442\u0435\u043a\u0441\u0442 \u043f\u0430\u0441\u0441\u0430\u0436\u0435\u0439 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d 2000\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u0430\u043c\u0438 \u043f\u0440\u0438\u00a0\u043f\u043e\u0434\u0433\u043e\u0442\u043e\u0432\u043a\u0435;<\/p>\n<\/li>\n<li>\n<p>encoder eval cap: 512\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043c\u0435\u0442\u0440\u0438\u043a\u0430:\u00a0<code>Recall@10<\/code>.<\/p>\n<\/li>\n<\/ul>\n<p>\u042d\u0442\u043e \u043d\u0435\u00a0\u043e\u0444\u0438\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u043b\u043d\u044b\u0439 MIRACL score, \u0430\u00a0\u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0416\u0451\u0441\u0442\u043a\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u044f dev\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0441\u00a0train\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c\u0438 \u043d\u0435\u00a0\u0431\u044b\u043b\u043e. \u041d\u043e\u00a0\u0432\u00a0\u0440\u0430\u043d\u043d\u0435\u0439 12-\u0441\u043b\u043e\u0439\u043d\u043e\u0439\u00a0\u043b\u0438\u043d\u0438\u0438 429\u00a0\u0438\u0437 2635\u00a0dev\u2011gold passages, \u043e\u043a\u043e\u043b\u043e 16%, \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b\u0438\u0441\u044c \u043a\u0430\u043a\u00a0training positives \u043a\u00a0\u0434\u0440\u0443\u0433\u0438\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u043c. \u0427\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u0430\u044f V1\u00a0\u0438 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u0430\u044f V2\u00a0\u043d\u0430\u0441\u043b\u0435\u0434\u0443\u044e\u0442 \u0432\u0435\u0441\u0430 \u044d\u0442\u043e\u0439\u00a0\u043b\u0438\u043d\u0438\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443\u00a0<code>0.800<\/code>\u00a0\u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0441\u0442\u0438\u0447\u0435\u043d \u0438\u0437\u2011\u0437\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0433\u043e passage exposure.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u043d\u0441\u0435\u0440\u0432\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0446\u0435\u043d\u043a\u0443, \u044f \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043b \u0443\u0436\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0432\u044b\u0448\u0435 \u0444\u0438\u043b\u044c\u0442\u0440 (\u0438\u0441\u043a\u043b\u044e\u0447\u0435\u043d\u044b \u0437\u0430\u043f\u0440\u043e\u0441\u044b, \u0443\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u043e\u0434\u0438\u043d gold\u2011passage \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u043b\u0441\u044f \u0441\u0440\u0435\u0434\u0438 training positives) \u0438 \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435 (758\u00a0\u0438\u0437 1000\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432) \u0432\u0441\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u00a0\u043e\u0434\u043d\u043e\u043c \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">RU Recall@10, \u043f\u043e\u043b\u043d\u044b\u0439 (1000)<\/p>\n<\/th>\n<th>\n<p align=\"left\">RU Recall@10, \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440. (758)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.872<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.831<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>multilingual-e5-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.870<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.829<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>USER2-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.858<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.819<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>STRIZH<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.800<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.751<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.678<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.633<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0424\u0438\u043b\u044c\u0442\u0440 \u0438\u0441\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435\u00a0<strong>\u043f\u0440\u044f\u043c\u044b\u0435 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044f<\/strong>\u00a0\u043f\u0435\u0440\u0432\u044b\u0445 200\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 gold\u2011\u043f\u0430\u0441\u0441\u0430\u0436\u0430 \u0441\u00a0\u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u043c\u0438 train\u2011\u043f\u043e\u0437\u0438\u0442\u0438\u0432\u0430\u043c\u0438 donor\u2011\u043b\u0438\u043d\u0438\u0438 STRIZH: \u044d\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u044b\u0439 near\u2011duplicate\u2011\u0430\u0443\u0434\u0438\u0442 \u0438 \u043e\u043d \u043d\u0435\u00a0\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u0442 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0435 \u0438 pretraining\u2011\u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u0441\u0430\u043c\u0438\u0445 baseline\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u00a0<strong>\u0441\u043b\u043e\u0436\u043d\u0435\u0435<\/strong>: \u0447\u0438\u0441\u043b\u043e \u043f\u0430\u0434\u0430\u0435\u0442 \u0443\u00a0\u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043f\u043e\u044d\u0442\u043e\u043c\u0443\u00a0<code>0.800 \u2212 0.751 = 0.049<\/code>\u00a0\u043d\u0435\u043b\u044c\u0437\u044f \u0447\u0438\u0442\u0430\u0442\u044c \u043a\u0430\u043a \u00ab\u0446\u0435\u043d\u0443 \u0443\u0442\u0435\u0447\u043a\u0438\u00bb: \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u043e\u0442\u0440\u0430\u0436\u0430\u0435\u0442 \u0438 exposure, \u0438 \u0432\u043e\u0437\u0440\u043e\u0441\u0448\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c. \u041e\u0441\u0442\u043e\u0440\u043e\u0436\u043d\u0430\u044f \u0442\u0440\u0430\u043a\u0442\u043e\u0432\u043a\u0430: \u043f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u043f\u0442\u0438\u043c\u0438\u0441\u0442\u0438\u0447\u0435\u043d \u0438\u0437\u2011\u0437\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u043d\u043e\u0433\u043e passage\u2011exposure, \u0430\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0434\u0430\u0451\u0442 \u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u043d\u0441\u0435\u0440\u0432\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0446\u0435\u043d\u043a\u0443. \u0414\u0430\u043b\u044c\u0448\u0435 \u0432\u00a0\u0441\u0440\u0430\u0432\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e \u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0447\u0438\u0441\u043b\u0430. \u0421\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0439 \u043b\u043e\u0433 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430 (\u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u0435, prefix\u2011\u043f\u043e\u043b\u0438\u0442\u0438\u043a\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0432\u0441\u0435 \u043f\u044f\u0442\u044c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432) \u043b\u0435\u0436\u0438\u0442 \u0432\u00a0\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438:\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-ru-filtered-2026-07-23.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-ru-filtered-2026-07-23.txt<\/code><\/a>, \u0441\u043a\u0440\u0438\u043f\u0442 \u043b\u0435\u0436\u0438\u0442 \u0432\u00a0<code>eval\/dev_clean_<\/code><a href=\"http:\/\/ru.py\" rel=\"noopener noreferrer nofollow\"><code>ru.py<\/code><\/a>. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0438\u0436\u0435 \u043e\u043f\u0438\u0440\u0430\u044e\u0441\u044c \u043d\u0430\u00a0\u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f \u0438\u0437\u00a0\u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0434\u043e\u043c\u0435\u043d\u0430.<\/p>\n<h4>\u0410\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439<\/h4>\n<p>NanoBEIR \u0447\u0435\u0440\u0435\u0437 MTEB. \u0412\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0441\u0440\u0435\u0434\u043d\u0438\u0439\u00a0<code>main_score<\/code>, \u0442\u043e \u0435\u0441\u0442\u044c\u00a0<code>nDCG@10<\/code>, \u0430\u00a0\u043d\u0435\u00a0recall. \u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u043e\u00a0\u043f\u0440\u043e\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0435\u043c\u043e\u0441\u0442\u0438: \u0434\u043b\u044f\u00a0prefix\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 (USER2, mE5) \u044f \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u043b \u043d\u0430\u00a0prompt\u2011\u043c\u0435\u0445\u0430\u043d\u0438\u043a\u0443 MTEB \u0438 \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0432\u00a0model metadata \u043f\u0440\u043e\u043c\u043f\u0442\u044b, \u043d\u043e\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0435 \u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442\u044b \u043d\u0435\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438, \u043f\u043e\u0441\u0442\u0443\u043f\u0430\u0432\u0448\u0438\u0435 \u043d\u0430\u00a0\u0432\u0445\u043e\u0434. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f baseline\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u044f \u0441\u0447\u0438\u0442\u0430\u044e \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u043c\u0438. \u0414\u043b\u044f\u00a0\u0442\u043e\u0447\u043d\u043e\u0439 native\u2011mode \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043d\u0443\u0436\u0435\u043d \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u0441\u00a0\u044f\u0432\u043d\u044b\u043c\u0438 query\/document prefix\u2011\u043e\u0431\u0451\u0440\u0442\u043a\u0430\u043c\u0438.<\/p>\n<h4>OPUS-100: \u043f\u043e\u0438\u0441\u043a \u043f\u0430\u0440\u043d\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0430<\/h4>\n<p>1615\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 RU\u2011EN \u043f\u0430\u0440. \u0414\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430 \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0449\u0435\u0442 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u0441\u0440\u0435\u0434\u0438 1615\u00a0\u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432;\u00a0<code>Recall@10<\/code>\u00a0\u0441\u0447\u0438\u0442\u0430\u043b\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0434\u043b\u044f\u00a0RU\u2192EN \u0438 EN\u2192RU. \u042d\u0442\u043e \u0443\u0437\u043a\u0438\u0439 translation\u2011pair benchmark, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0431\u0449\u0430\u044f \u043e\u0446\u0435\u043d\u043a\u0430 cross\u2011lingual retrieval.<\/p>\n<h4>\u041f\u0440\u0435\u0444\u0438\u043a\u0441\u044b \u0438 pooling<\/h4>\n<p>\u0412\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438 OPUS-100\u00a0\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0430\u0445 prefix policy \u0438 pooling \u0437\u0430\u0434\u0430\u0432\u0430\u043b\u0438\u0441\u044c \u044f\u0432\u043d\u043e \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">Query<\/p>\n<\/th>\n<th>\n<p align=\"left\">Document<\/p>\n<\/th>\n<th>\n<p align=\"left\">Pooling<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">mean<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">CLS<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>USER2-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>search_query:<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>search_document:<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043a\u0430\u043a\u00a0\u0432 model card<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>multilingual-e5-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>query:<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><code>passage:<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">mean<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0431\u0435\u0437\u00a0\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u042d\u0442\u043e \u0432\u0430\u0436\u043d\u043e. \u041d\u0430\u00a0\u0440\u0430\u043d\u043d\u0435\u043c \u0447\u0435\u0440\u043d\u043e\u0432\u043e\u043c \u0437\u0430\u043c\u0435\u0440\u0435 \u044f \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043b mean pooling \u043a\u00a0<code>rubert-tiny2<\/code>\u00a0\u0438 \u0437\u0430\u043d\u0438\u0437\u0438\u043b \u0435\u0433\u043e. \u0412\u00a0\u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u043c \u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435 \u044d\u0442\u043e\u0442 \u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d.<\/p>\n<h3>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442:\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043d\u0430\u00a0\u043c\u043e\u0451\u043c Vulkan\u2011\u0441\u0442\u0435\u043a\u0435, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0442\u043e\u0447\u043d\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439<\/h3>\n<p>\u0420\u0430\u0437\u043d\u044b\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u044b \u043d\u0438\u0436\u0435 \u043d\u0435\u043b\u044c\u0437\u044f \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439: RU \u0438 OPUS-100\u00a0pair retrieval \u043c\u0435\u0440\u044f\u044e\u0442\u0441\u044f \u0432\u00a0<code>Recall@10<\/code>, EN \u0432\u00a0<code>nDCG@10<\/code>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b<\/p>\n<\/th>\n<th>\n<p align=\"left\">RU Recall@10\u00a0(\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440.)<\/p>\n<\/th>\n<th>\n<p align=\"left\">EN nDCG@10<\/p>\n<\/th>\n<th>\n<p align=\"left\">OPUS-100\u00a0pair R@10\u00a0(\u0441\u0440. RU\u2192EN\/EN\u2192RU)<\/p>\n<\/th>\n<th>\n<p align=\"left\">Vulkan, \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 HTTP\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">568M<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.831<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22480.60<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.96<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u2248448*<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>multilingual-e5-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">118M<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.829<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22480.55<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.94<\/p>\n<\/td>\n<td>\n<p align=\"left\">1837<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>USER2-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">34M<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.819<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22480.53<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.95<\/p>\n<\/td>\n<td>\n<p align=\"left\">2635<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>STRIZH<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>24,4M<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.751<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.341<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.76<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u22484000<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">29M<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.633<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u22480.17<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b<\/p>\n<\/td>\n<td>\n<p align=\"left\">2362<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>RU\u2011\u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435 (758\u00a0\u0438\u0437 1000\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 MIRACL\u2011ru dev, closed\u2011candidate: 9274\u00a0\u043f\u0430\u0441\u0441\u0430\u0436\u0430, \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u044b\u0439 MIRACL leaderboard), \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u0434\u043b\u044f\u00a0\u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0438 \u043f\u0440\u0438\u0432\u0435\u0434\u0451\u043d \u0441\u00a0\u0442\u0440\u0435\u043c\u044f \u0437\u043d\u0430\u043a\u0430\u043c\u0438 \u043d\u0430\u043c\u0435\u0440\u0435\u043d\u043d\u043e. \u0424\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0430\u0437\u0440\u044b\u0432\u00a0<code>bge-m3<\/code>\u00a0\u0438\u00a0<code>multilingual-e5-small<\/code>\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u00a0<code>0.0026<\/code>, \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u0432\u0430 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043f\u0430\u0434\u0430\u043d\u0438\u044f \u0432\u00a0top-10\u00a0\u043d\u0430 758\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445: \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u044f \u0437\u0434\u0435\u0441\u044c \u0432\u044b\u0434\u0435\u043b\u044f\u0442\u044c \u043d\u0435\u00a0\u0441\u0442\u043e\u0438\u0442.<\/p>\n<p>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0441\u043e \u0437\u043d\u0430\u043a\u043e\u043c\u00a0<code>\u2248<\/code>\u00a0\u043e\u043a\u0440\u0443\u0433\u043b\u0435\u043d\u044b \u0438 \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u043c\u0438. \u0414\u043b\u044f\u00a0<code>USER2-small<\/code>\u00a0\u0438\u00a0<code>multilingual-e5-small<\/code>\u00a0\u0435\u0441\u0442\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435: \u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0435 \u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442\u044b \u043d\u0435\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u0443\u044e\u0442 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 MTEB\u2011\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432, \u0430\u00a0\u044d\u0442\u0438\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u044b \u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b. \u0421\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 STRIZH \u0441\u043d\u044f\u0442\u043e \u043c\u043d\u043e\u0439 \u0438 \u043f\u043e\u0442\u043e\u043c\u0443 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043e \u0442\u043e\u0447\u043d\u043e. \u041a\u043e\u043b\u043e\u043d\u043a\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u0442\u043e\u0447\u043a\u0435, concurrency 16\u00a0\u043f\u0440\u0438\u00a0<code>-np 8<\/code>. \u0414\u0432\u0435 \u044f\u0447\u0435\u0439\u043a\u0438 \u043a\u043e\u043b\u043e\u043d\u043a\u0438 \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043b\u043e\u0433\u0438, \u0430\u00a0\u043d\u0435\u00a0\u043d\u0430\u00a0\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043f\u044f\u0442\u0438\u043c\u043e\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d: \u0443\u00a0<code>bge-m3<\/code>\u00a0\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0439 \u043b\u043e\u0433 \u0434\u0430\u0451\u0442 446\u2013450\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441 (\u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435\u00a0\u0431\u044b\u043b\u043e 435, \u0437\u0432\u0451\u0437\u0434\u043e\u0447\u043a\u0430 \u043f\u0440\u043e\u00a0\u044d\u0442\u043e), \u0430\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u0434\u0451\u043d\u043d\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 STRIZH \u043b\u0435\u0436\u0430\u0442 \u0432\u00a0\u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0435 3614\u20134450, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0441\u0442\u043e\u0438\u0442 \u043e\u043a\u0440\u0443\u0433\u043b\u0451\u043d\u043d\u043e\u0435\u00a0<code>\u22484000<\/code>. \u0417\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u00a0<code>multilingual-e5-small<\/code>,\u00a0<code>USER2-small<\/code>\u00a0\u0438\u00a0<code>rubert-tiny2<\/code>\u00a0\u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0438\u0437\u00a0\u043d\u0435\u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0432\u0448\u0435\u0433\u043e\u0441\u044f \u043f\u0440\u043e\u0433\u043e\u043d\u0430: \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0445 \u043b\u043e\u0433\u043e\u0432 \u0434\u043b\u044f\u00a0\u043d\u0438\u0445 \u0443\u00a0\u043c\u0435\u043d\u044f \u043d\u0435\u0442.<\/p>\n<p><code>USER2-small<\/code>,\u00a0<code>multilingual-e5-small<\/code>\u00a0\u0438\u00a0<code>bge-m3<\/code>\u00a0\u043b\u0443\u0447\u0448\u0435 \u043f\u043e\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443. \u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e \u0432\u0435\u043b\u0438\u043a \u0440\u0430\u0437\u0440\u044b\u0432 \u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 \u0432\u00a0RU\u2194EN\u2011\u0442\u0435\u0441\u0442\u0430\u0445. STRIZH \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f RU\u2011first \u043c\u043e\u0434\u0435\u043b\u044c\u044e \u0441\u00a0\u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u043c \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u043c, \u0430\u00a0\u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u043e\u0439 \u0434\u0432\u0443\u044f\u0437\u044b\u0447\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e.<\/p>\n<p>\u0417\u0430\u0442\u043e \u0432\u00a0\u043f\u0440\u043e\u0442\u0435\u0441\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u043c Vulkan\u2011\u0441\u0442\u0435\u043a\u0435 \u043e\u043d \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0441\u0430\u043c\u044b\u043c\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u043c \u0438\u0437\u00a0\u044d\u0442\u043e\u0439 \u0441\u0435\u0442\u043a\u0438 \u0438 \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043e\u0431\u043e\u0448\u0451\u043b\u00a0<code>rubert-tiny2<\/code>\u00a0\u043f\u043e\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c\u0443 retrieval.<\/p>\n<p>\u041d\u043e\u00a0\u0441\u0442\u043e\u043b\u0431\u0435\u0446 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0434\u043b\u0438\u043d\u043d\u043e\u0439 \u0441\u043d\u043e\u0441\u043a\u0438.<\/p>\n<h3>\u0427\u0442\u043e\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u044e\u0442 \u044d\u0442\u0438 \u0442\u044b\u0441\u044f\u0447\u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443<\/h3>\n<p>\u0417\u0430\u043c\u0435\u0440 \u0441\u0434\u0435\u043b\u0430\u043d \u0442\u0430\u043a:<\/p>\n<ul>\n<li>\n<p>AMD Strix Halo \/ Ryzen AI Max;<\/p>\n<\/li>\n<li>\n<p><code>llama.cpp<\/code>, backend Vulkan;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u0440\u0435\u0442\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440;<\/p>\n<\/li>\n<li>\n<p>concurrency 16;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0434\u0438\u043d \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u0442\u0435\u043a\u0441\u0442 \u043d\u0430\u00a0HTTP\u2011\u0437\u0430\u043f\u0440\u043e\u0441;<\/p>\n<\/li>\n<li>\n<p>steady\u2011state, \u043d\u0435\u00a0\u043f\u0435\u0440\u0432\u044b\u0439 cold run;<\/p>\n<\/li>\n<li>\n<p>STRIZH, USER2, mE5\u00a0\u0438 BGE \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 GGUF Q8_0;<\/p>\n<\/li>\n<li>\n<p><code>rubert-tiny2<\/code>\u00a0\u0431\u0440\u0430\u043b\u0441\u044f \u0432\u00a0F16, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0hidden size 312\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0448\u0451\u043b \u043c\u043e\u0439 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 Q8-\u043f\u0443\u0442\u044c.<\/p>\n<\/li>\n<\/ul>\n<p>\u0422\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e benchmark\u00a0<strong>\u0433\u043e\u0442\u043e\u0432\u044b\u0445 deployment\u2011\u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442\u043e\u0432 \u0434\u043b\u044f\u00a0\u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 online\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432<\/strong>, \u0430\u00a0\u043d\u0435\u00a0\u0447\u0438\u0441\u0442\u043e\u0435 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043f\u0440\u0438\u00a0\u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e\u0439 \u043a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u0438.<\/p>\n<p>\u0422\u044b\u0441\u044f\u0447\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 HTTP\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043d\u0435\u00a0\u043e\u0437\u043d\u0430\u0447\u0430\u044e\u0442, \u0447\u0442\u043e\u00a0STRIZH \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u0435\u0442 \u0442\u044b\u0441\u044f\u0447\u0438 \u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u0414\u043b\u0438\u043d\u0430 \u0432\u0445\u043e\u0434\u0430, batching \u0438 \u0440\u0435\u0436\u0438\u043c \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043c\u0435\u043d\u044f\u044e\u0442 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442.<\/p>\n<p>\u041f\u0435\u0440\u0432\u044b\u0439 load\u2011test \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0435\u043f\u0440\u0438\u0433\u043e\u0434\u0435\u043d \u0438\u0437\u2011\u0437\u0430 cold\u2011start jitter. \u0412\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0443 \u043f\u043e\u0448\u0451\u043b \u043f\u043e\u0432\u0442\u043e\u0440\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u0440\u0435\u0442\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d. \u0414\u043b\u044f\u00a0STRIZH p95\u00a0\u043d\u0430\u00a0\u043a\u043e\u0440\u043e\u0442\u043a\u043e\u043c \u0437\u0430\u043f\u0440\u043e\u0441\u0435\u00a0\u0431\u044b\u043b \u043e\u043a\u043e\u043b\u043e 6\u00a0\u043c\u0441; \u0443\u00a0<code>bge-m3<\/code>\u00a0\u043e\u043a\u043e\u043b\u043e 37\u00a0\u043c\u0441.<\/p>\n<p>\u0423\u00a0\u044d\u0442\u043e\u0433\u043e \u0437\u0430\u043c\u0435\u0440\u0430 \u0434\u0432\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f. \u0412\u043e\u2011\u043f\u0435\u0440\u0432\u044b\u0445, \u0441\u044b\u0440\u043e\u0439 \u043b\u043e\u0433 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043f\u044f\u0442\u0438\u043c\u043e\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430 \u043d\u0435\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b\u0441\u044f, \u043d\u043e\u00a0\u043a\u043b\u044e\u0447\u0435\u0432\u0443\u044e \u043f\u0430\u0440\u0443 \u044f \u043f\u0435\u0440\u0435\u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u043e \u0438 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043b \u043b\u043e\u0433 \u0441\u00a0\u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u0435\u043c, SHA-256\u00a0\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0444\u043b\u0430\u0433\u0430\u043c\u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432 (<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-speed-strix-2026-07-26.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-speed-strix-2026-07-26.txt<\/code><\/a>): STRIZH \u0434\u0430\u043b 3614\u00a0emb\/s \u043f\u0440\u043e\u0433\u0440\u0435\u0442\u044b\u0439 \u0438 4450\u00a0\u043d\u0430\u00a0sustained\u2011\u043c\u0438\u043d\u0443\u0442\u0435 \u043f\u0440\u043e\u0442\u0438\u0432 446\u2013450\u00a0\u0443\u00a0<code>bge-m3<\/code>, p95 6\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 37\u00a0\u043c\u0441; \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u0438\u0437\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u0435\u043b\u043e\u0441\u044c. \u0427\u0438\u0441\u043b\u0430\u00a0<code>USER2<\/code>\/<code>mE5<\/code>\/<code>tiny2<\/code>\u00a0\u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0438\u0437\u00a0\u043c\u043e\u0438\u0445 \u0437\u0430\u043c\u0435\u0442\u043e\u043a: \u0438\u0445 GGUF\u2011\u0441\u0431\u043e\u0440\u043a\u0438 \u043b\u0435\u0436\u0430\u0442 \u043d\u0430\u00a0\u043e\u0444\u043b\u0430\u0439\u043d\u2011\u043d\u043e\u0434\u0435, \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0435 \u0441\u043a\u0440\u0438\u043f\u0442\u044b (<code>eval\/loadtest_v2.py<\/code>,\u00a0<code>eval\/batch_<\/code><a href=\"http:\/\/thr.py\" rel=\"noopener noreferrer nofollow\"><code>thr.py<\/code><\/a>) \u043e\u0442\u043a\u0440\u044b\u0442\u044b.<\/p>\n<p>\u0412\u043e\u2011\u0432\u0442\u043e\u0440\u044b\u0445, \u0447\u0438\u0441\u043b\u043e \u0438\u0437\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0\u0442\u043e\u0447\u043a\u0435 concurrency 16, \u0438 \u0432\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u0430\u0445 \u044d\u0442\u0430 \u0442\u043e\u0447\u043a\u0430 \u0433\u0443\u043b\u044f\u0435\u0442 \u0441\u0438\u043b\u044c\u043d\u043e. \u0412\u00a0\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u043e\u043c \u043b\u043e\u0433\u0435 \u0434\u0432\u0430 \u0438\u0437\u043c\u0435\u0440\u044f\u0435\u043c\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u0430 \u043f\u043e\u0434\u0440\u044f\u0434 \u0434\u0430\u043b\u0438 3028\u00a0\u0438 3614\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441 (\u0443 \u043f\u0435\u0440\u0432\u043e\u0433\u043e p95 17,7\u00a0\u043c\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 6,1\u00a0\u0443\u00a0\u0432\u0442\u043e\u0440\u043e\u0433\u043e, \u0442\u043e \u0435\u0441\u0442\u044c \u0441\u0435\u0440\u0432\u0435\u0440 \u0435\u0449\u0451 \u043d\u0435\u00a0\u0432\u044b\u0448\u0435\u043b \u043d\u0430\u00a0steady state, \u0438 \u0432\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043e\u043d \u043d\u0435\u00a0\u0438\u0434\u0451\u0442), \u0441\u0432\u0438\u043f \u043f\u043e\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u0434\u0430\u043b 4313, sustained\u2011\u043c\u0438\u043d\u0443\u0442\u0430 4450. \u041c\u0435\u0436\u0434\u0443 \u0432\u044b\u0448\u0435\u0434\u0448\u0438\u043c\u0438 \u043d\u0430\u00a0\u0440\u0435\u0436\u0438\u043c \u0442\u043e\u0447\u043a\u0430\u043c\u0438 \u0440\u0430\u0437\u0431\u0440\u043e\u0441 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442 23% \u043e\u0442\u00a0\u043d\u0438\u0436\u043d\u0435\u0439, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0447\u0435\u0441\u0442\u043d\u0435\u0435 \u0447\u0438\u0442\u0430\u0442\u044c \u0432\u0441\u0451 \u044d\u0442\u043e \u043a\u0430\u043a \u00ab\u043e\u043a\u043e\u043b\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0442\u044b\u0441\u044f\u0447\u00bb. \u041f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u00a0bge\u2011m3\u00a0\u0432\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u043b\u043e\u0433\u0435 \u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d (445,7\u00a0\/ 445,8\u00a0\/ 449,8), \u0442\u043e \u0435\u0441\u0442\u044c \u043e\u0431\u0449\u0438\u0439 \u0434\u0440\u0435\u0439\u0444 \u0445\u043e\u0441\u0442\u0430 \u0432\u0435\u0441\u044c \u0440\u0430\u0437\u0431\u0440\u043e\u0441 STRIZH \u043d\u0435\u00a0\u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u0442. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a \u0432\u0430\u0440\u0438\u0430\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u043b\u0451\u0433\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043d\u0435\u00a0\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043b.<\/p>\n<p>\u0421\u0432\u0438\u043f \u043f\u043e\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u0434\u043b\u044f\u00a0STRIZH \u0438 bge\u2011m3\u00a0(1\u201364) \u043b\u0435\u0436\u0438\u0442 \u0432\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-embed-curves-strix-2026-07-27.txt\" rel=\"noopener noreferrer nofollow\">\u043b\u043e\u0433\u0435 \u043a\u0440\u0438\u0432\u044b\u0445<\/a>; \u0434\u043b\u044f\u00a0<code>rubert-tiny2<\/code>\u00a0\u0442\u0430\u043a\u043e\u0433\u043e \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0441\u0432\u0438\u043f\u0430 \u0443\u00a0\u043c\u0435\u043d\u044f \u043d\u0435\u0442, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0438\u0445 \u043d\u0430\u00a0\u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u044f \u043d\u0435\u00a0\u0431\u0435\u0440\u0443\u0441\u044c.<\/p>\n<p>\u0412\u0441\u0451 \u0432\u044b\u0448\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0437\u0430\u043c\u0435\u0440\u0430\u043c \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430, \u043f\u0440\u0438\u0447\u0451\u043c \u0432\u00a0\u043e\u0434\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0447\u0435\u0439 \u0442\u043e\u0447\u043a\u0435: concurrency 16\u00a0\u043f\u0440\u0438\u00a0<code>-np 8<\/code>. \u0418\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0432\u00a0\u0441\u043c\u044b\u0441\u043b\u0435 \u00ab\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0438\u0434\u0451\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0\u043e\u0434\u0438\u043d \u0441\u0435\u0440\u0432\u0435\u0440\u00bb: \u0441\u043e\u0441\u0435\u0434\u043d\u0438\u0435 \u043f\u0440\u043e\u0434\u2011\u043a\u043e\u043d\u0442\u0435\u0439\u043d\u0435\u0440\u044b \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0438\u0441\u044c \u0440\u0435\u0437\u0438\u0434\u0435\u043d\u0442\u043d\u044b\u043c\u0438 \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 iGPU, \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u0430\u0438\u0432\u0430\u043b\u0438, \u043e\u00a0\u0447\u0451\u043c \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u043e \u0432\u00a0\u0448\u0430\u043f\u043a\u0435 \u043b\u043e\u0433\u0430. \u0422\u043e\u0447\u043a\u0438 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u0438\u044f \u0443\u00a0\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0440\u0430\u0437\u043d\u044b\u0435 (\u0443 STRIZH \u043f\u043b\u0430\u0442\u043e \u043a\u00a0conc 32, \u0443\u00a0bge\u2011m3\u00a0\u0443\u0436\u0435 \u043a\u00a0conc 16), \u0430\u00a0\u0441\u0432\u0438\u043f\u044b \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0439 \u043f\u0430\u0440\u044b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u0442\u0438\u0442\u0443\u043b \u00ab\u0441\u0430\u043c\u044b\u0439\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u00bb \u0438\u0437\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043d\u0435\u00a0\u0441\u043b\u0435\u0434\u0443\u0435\u0442. \u041f\u0440\u044f\u043c\u043e\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u043e \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u043c\u043e\u0442\u0438\u0432\u0430\u0446\u0438\u0438, \u0442\u043e \u0435\u0441\u0442\u044c \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0443\u044e LLM, \u0438\u0434\u0451\u0442 \u0432\u00a0\u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435.<\/p>\n<h3>Co\u2011resident: \u0447\u0442\u043e\u00a0embedding\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0434\u0435\u043b\u0430\u0435\u0442 \u0441\u00a0\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0435\u0439 \u043d\u0430\u00a0\u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435<\/h3>\n<p>\u0418\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 throughput \u0435\u0449\u0451 \u043d\u0435\u00a0\u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0435\u0437\u0438\u0441 \u00ab\u043b\u0451\u0433\u043a\u0438\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442 GPU \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438\u00bb. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u044f \u043f\u043e\u0434\u043d\u044f\u043b\u00a0<code>Qwen3.6-35B-A3B<\/code>\u00a0(MoE: 35B \u0432\u0441\u0435\u0433\u043e, \u043e\u043a\u043e\u043b\u043e 3B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d; Q4_K_M, ~21\u00a0\u0413\u0411, llama.cpp\/Vulkan) \u043d\u0430\u00a0\u0442\u043e\u0442\u00a0\u0436\u0435 \u0443\u0437\u0435\u043b \u0438 \u043f\u043e\u043c\u0435\u0440\u0438\u043b \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e: \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f 200\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 (5\u00a0\u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u043d\u0430\u00a0\u0443\u0441\u043b\u043e\u0432\u0438\u0435, \u043c\u0435\u0434\u0438\u0430\u043d\u044b, temperature 0, streaming, TTFT \u043f\u043e\u00a0\u043f\u0435\u0440\u0432\u043e\u043c\u0443 \u0447\u0430\u043d\u043a\u0443) \u043f\u0440\u0438\u00a0\u0440\u0430\u0437\u043d\u043e\u0439 embedding\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 iGPU.<\/p>\n<p>\u0414\u0438\u0437\u0430\u0439\u043d \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0432\u0430\u0436\u0435\u043d. \u041e\u043d\u043b\u0430\u0439\u043d\u2011\u0440\u0435\u0436\u0438\u043c \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u043a\u0430\u043a\u00a0<strong>open\u2011loop \u0441\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c QPS = 200<\/strong>: \u0437\u0430\u043f\u0440\u043e\u0441\u044b \u0443\u0445\u043e\u0434\u044f\u0442 \u043f\u043e\u00a0\u0442\u0430\u0439\u043c\u0435\u0440\u0443 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442\u00a0\u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u0430, \u043e\u0431\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0443\u044e \u0440\u0430\u0431\u043e\u0442\u0443 (closed\u2011loop \u0441\u043b\u043e\u043c\u0430\u043b\u00a0\u0431\u044b \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u043b\u0430\u00a0\u0431\u044b \u0431\u043e\u043b\u044c\u0448\u0435). \u0418\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0438 \u0438\u0434\u0451\u0442 closed\u2011loop \u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u0439 \u0442\u044f\u0433\u0435: 6\u00a0\u0432\u043e\u0440\u043a\u0435\u0440\u043e\u0432, \u0431\u0430\u0442\u0447\u0438 \u043f\u043e 4\u00a0\u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430 ~350\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u042d\u0442\u043e \u043f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u0438\u044f, \u0430\u00a0\u043d\u0435\u00a0\u043e\u0434\u043d\u043e\u043a\u0440\u0430\u0442\u043d\u0430\u044f \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043a\u043e\u0440\u043f\u0443\u0441\u0430.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0420\u0435\u0436\u0438\u043c<\/p>\n<\/th>\n<th>\n<p align=\"left\">tok\/s LLM<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0394 \u043a\u00a0baseline<\/p>\n<\/th>\n<th>\n<p align=\"left\">TTFT<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u042d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0411\u0435\u0437\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">71,3<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\/\u0434<\/p>\n<\/td>\n<td>\n<p align=\"left\">152\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\/\u0434<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">+ STRIZH, 200\u00a0QPS \u043e\u043d\u043b\u0430\u0439\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">69,8<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u22122%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">151\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">200,0\u00a0\u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u044b\u0445 rps, p95 3\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">+\u00a0<code>bge-m3<\/code>, 200\u00a0QPS \u043e\u043d\u043b\u0430\u0439\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">66,3<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u22127%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">166\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">200,1\u00a0\u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u044b\u0445 rps, p95 52\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">+ STRIZH, \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">51,1<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u221228%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">189\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">83,2\u00a0\u0431\u0430\u0442\u0447\u0430\/\u0441, p95 77\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">+\u00a0<code>bge-m3<\/code>, \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u043e\u043d\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,8<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u221292%<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">636\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,6\u00a0\u0431\u0430\u0442\u0447\u0430\/\u0441, p95 1,01\u00a0\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0417\u0430\u043c\u044b\u043a\u0430\u044e\u0449\u0438\u0439 baseline<\/p>\n<\/td>\n<td>\n<p align=\"left\">71,3<\/p>\n<\/td>\n<td>\n<p align=\"left\">0%<\/p>\n<\/td>\n<td>\n<p align=\"left\">151\u00a0\u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\/\u0434<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0421\u0442\u043e\u043b\u0431\u0435\u0446 tok\/s \u0437\u0434\u0435\u0441\u044c \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u0443\u044e \u043c\u0435\u0442\u0440\u0438\u043a\u0443\u00a0<code>llama.cpp<\/code>\u00a0(<code>timings.predicted_per_second<\/code>), \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u0430\u043c\u043e\u0439 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0431\u0435\u0437\u00a0\u0443\u0447\u0451\u0442\u0430 \u0434\u043e\u0441\u0442\u0430\u0432\u043a\u0438; \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u0438\u0437\u00a0\u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u043b\u043e\u0433\u0430 \u043d\u0438\u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 5% (\u043f\u043e \u0442\u043e\u0447\u043a\u0430\u043c \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043e\u0442 1,7\u00a0\u0434\u043e 5,3%; 67,6\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 71,3\u00a0\u043d\u0430\u00a0baseline). TTFT \u0432\u00a0\u0441\u043e\u0441\u0435\u0434\u043d\u0435\u043c \u0441\u0442\u043e\u043b\u0431\u0446\u0435, \u043d\u0430\u043e\u0431\u043e\u0440\u043e\u0442, \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0439: \u0432\u0440\u0435\u043c\u044f \u0434\u043e\u00a0\u043f\u0435\u0440\u0432\u043e\u0433\u043e SSE\u2011\u0447\u0430\u043d\u043a\u0430.<\/p>\n<p>\u041f\u0440\u0438\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 200\u00a0QPS \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043e\u0441\u0442\u0430\u043b\u0430\u0441\u044c \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439: \u043e\u043a\u043e\u043b\u043e 2% \u0441\u043e STRIZH \u0438 7% \u0441\u00a0bge\u2011m3, \u043f\u0440\u0438\u0447\u0451\u043c \u043e\u0431\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u044b\u0442\u044f\u043d\u0443\u043b\u0438 \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0439 \u0442\u0435\u043c\u043f (200,0\u00a0\u0438 200,1\u00a0\u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u044b\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443), \u0442\u043e \u0435\u0441\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u00a0\u0431\u044b\u043b\u0430 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e\u0439. \u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e\u0434\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439: \u0442\u044f\u0436\u0451\u043b\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u0439 \u0442\u044f\u0433\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043e\u0441\u0442\u0430\u043d\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e 35B\u2011\u043c\u043e\u0434\u0435\u043b\u0438 (5,8\u00a0tok\/s \u043f\u0440\u043e\u0442\u0438\u0432 71,3, \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 p95\u00a0\u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u0432\u044b\u0440\u0430\u0441\u0442\u0430\u0435\u0442 \u0434\u043e\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b), \u0430\u00a0\u043b\u0451\u0433\u043a\u0438\u0439 \u0441\u0442\u043e\u0438\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 28% \u043f\u0440\u0438\u00a0p95 77\u00a0\u043c\u0441 \u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u0432 12,6\u00a0\u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u0431\u0430\u0442\u0447\u0435\u0439. \u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0437\u0434\u0435\u0441\u044c \u043d\u0443\u0436\u043d\u043e \u043e\u0441\u0442\u043e\u0440\u043e\u0436\u043d\u043e: \u043e\u043a\u043d\u0430 \u0437\u0430\u043c\u0435\u0440\u0430 \u043d\u0435\u0440\u0430\u0432\u043d\u044b\u0435, 20,6\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b \u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 STRIZH \u043f\u0440\u043e\u0442\u0438\u0432 173,6\u00a0\u043f\u043e\u0434\u00a0\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 bge\u2011m3, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u043e\u043a\u043d\u043e \u0437\u0430\u0434\u0430\u0451\u0442\u0441\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043f\u044f\u0442\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0439, \u0430\u00a0\u043f\u0440\u0438\u00a0\u0442\u044f\u0436\u0451\u043b\u043e\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0435 \u043e\u043d\u0438 \u0438\u0434\u0443\u0442 \u0434\u043e\u043b\u044c\u0448\u0435. \u0414\u0435\u043b\u0438\u0442\u044c \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u044e \u043d\u0430\u00a0\u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u044b\u0439 \u0442\u0435\u043c\u043f \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u044f \u043d\u0435\u00a0\u0441\u0442\u0430\u043b: \u043e\u0431\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u0432\u0437\u0430\u0438\u043c\u043e\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b \u0438 \u0441\u043d\u044f\u0442\u044b \u0432\u00a0\u0440\u0430\u0437\u043d\u044b\u0445 \u0442\u043e\u0447\u043a\u0430\u0445 \u043d\u0430\u0441\u044b\u0449\u0435\u043d\u0438\u044f, \u0442\u0430\u043a \u0447\u0442\u043e\u00a0\u043e\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e\u0439 \u0446\u0435\u043d\u044b \u043e\u0434\u043d\u043e\u0433\u043e \u0431\u0430\u0442\u0447\u0430 \u0438\u0437\u00a0\u043d\u0438\u0445 \u043d\u0435\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f.<\/p>\n<p>\u041e\u0442\u043a\u0440\u044b\u0432\u0430\u044e\u0449\u0438\u0439 \u0438 \u0437\u0430\u043c\u044b\u043a\u0430\u044e\u0449\u0438\u0439 baseline \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0441\u043e\u0432\u043f\u0430\u043b\u0438: 71,34\u00a0\u0438 71,33\u00a0tok\/s. \u0417\u0430\u043c\u0435\u0442\u043d\u043e\u0433\u043e \u0440\u0430\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f \u043a\u043e\u043d\u0435\u0447\u043d\u044b\u0445 \u0442\u043e\u0447\u0435\u043a \u0437\u0430\u00a0\u0432\u0440\u0435\u043c\u044f \u043c\u0430\u0442\u0440\u0438\u0446\u044b \u043d\u0435\u00a0\u0432\u0438\u0434\u043d\u043e.<\/p>\n<p>\u041f\u0440\u043e\u00a0\u0444\u043b\u0430\u0433\u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432 \u043d\u0443\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u044d\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441 \u043a\u00a0\u043b\u044e\u0431\u043e\u043c\u0443 A\/B. \u0421\u0435\u0440\u0432\u0435\u0440\u044b \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u043b\u0438\u0441\u044c \u0430\u0441\u0438\u043c\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u043e: \u0443\u00a0STRIZH\u00a0<code>-c 65536 -b 8192 -ub 8192<\/code>, \u0443\u00a0bge\u2011m3\u00a0<code>-c 8192 -b 4096 -ub 4096<\/code>. \u042f \u044d\u0442\u043e \u043f\u0440\u043e\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043b \u0443\u0436\u0435 \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432, \u0438 \u0441\u00a0\u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0440\u0430\u0437\u0430 \u0441\u0434\u0435\u043b\u0430\u043b \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e: \u043f\u043e\u0433\u043e\u043d\u044f\u043b \u0431\u0430\u0442\u0447\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u043c, \u0433\u0434\u0435 \u0432\u00a0\u043f\u043e\u043b\u0451\u0442\u0435 \u043e\u043a\u043e\u043b\u043e 1400\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430\u00a0\u043e\u043d\u0438 \u0432\u043b\u0435\u0437\u0430\u044e\u0442 \u0432\u00a0\u043e\u0434\u0438\u043d ubatch \u043f\u0440\u0438\u00a0\u043e\u0431\u0435\u0438\u0445 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u0445. \u0422\u043e \u0435\u0441\u0442\u044c \u044f \u043c\u0435\u0440\u0438\u043b \u0440\u043e\u0432\u043d\u043e \u0442\u043e\u0442 \u0440\u0435\u0436\u0438\u043c, \u0432\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0435\u043c\u044b\u0439 \u0444\u043b\u0430\u0433 \u043d\u0435\u00a0\u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u044f\u0432\u0438\u0442\u044c\u0441\u044f. \u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u0442 \u0440\u0435\u0436\u0438\u043c \u0441\u043f\u043e\u0440\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432: \u0442\u0440\u0438 closed\u2011loop \u0432\u043e\u0440\u043a\u0435\u0440\u0430, \u0431\u0430\u0442\u0447 4, \u043e\u043a\u043e\u043b\u043e 4200\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u00a0\u043f\u043e\u043b\u0451\u0442\u0435. \u0422\u0430\u043c bge\u2011m3\u00a0\u0434\u0430\u0451\u0442\u00a0<strong>12,33\u00a0\u0431\u0430\u0442\u0447\u0430 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0441\u043e \u0441\u0432\u043e\u0438\u043c\u0438 \u0444\u043b\u0430\u0433\u0430\u043c\u0438 \u0438 \u0442\u0435\u00a0\u0436\u0435 12,33\u00a0\u0441\u00a0\u0444\u043b\u0430\u0433\u0430\u043c\u0438 STRIZH<\/strong>, \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u0434\u043e\u00a0\u0441\u043e\u0442\u044b\u0445; \u043f\u0440\u0438\u00a0\u0448\u0435\u0441\u0442\u0438 \u0432\u043e\u0440\u043a\u0435\u0440\u0430\u0445 11,64. STRIZH \u0432\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u0440\u0435\u0436\u0438\u043c\u0435 \u0432\u044b\u0434\u0430\u0451\u0442 229\u00a0\u0431\u0430\u0442\u0447\u0435\u0439 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443. \u0412\u00a0\u044d\u0442\u043e\u043c closed\u2011loop \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435\u00a0<code>-c\/-b\/-ub<\/code>\u00a0\u043d\u0435\u00a0\u043f\u043e\u043c\u0435\u043d\u044f\u043b\u043e throughput bge\u2011m3\u00a0\u0432\u043e\u043e\u0431\u0449\u0435, \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0439 \u0432\u00a0\u044d\u0442\u0438\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u0430\u0445 \u0440\u0430\u0437\u0440\u044b\u0432 \u043c\u0435\u043d\u044c\u0448\u0438\u043c ubatch \u043d\u0435\u00a0\u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u0442\u0441\u044f (<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-flags-control-strix-2026-07-28.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-flags-control-strix-2026-07-28.txt<\/code><\/a>).<\/p>\n<p>\u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0438: \u044d\u0442\u043e \u043e\u0434\u043d\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f \u0438 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0433\u043e\u043d \u043c\u0430\u0442\u0440\u0438\u0446\u044b (\u043f\u043e 5\u00a0\u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u043d\u0430\u00a0\u0443\u0441\u043b\u043e\u0432\u0438\u0435), \u043d\u0435\u00a0\u043c\u043d\u043e\u0433\u043e\u0434\u043d\u0435\u0432\u043d\u043e\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0435. \u0412\u00a0\u043c\u043e\u0451\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u0441\u0431\u043e\u0440\u043a\u0430 b9049\u00a0\u043d\u0435\u00a0\u0437\u0430\u0433\u0440\u0443\u0437\u0438\u043b\u0430 \u044d\u0442\u0443 GGUF \u0438\u0437\u2011\u0437\u0430 SSM\u2011\u0442\u0435\u043d\u0437\u043e\u0440\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 LLM \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0430\u0441\u044c \u043d\u0430\u00a0\u0431\u043e\u043b\u0435\u0435 \u0441\u0432\u0435\u0436\u0435\u043c \u043e\u0431\u0440\u0430\u0437\u0435, \u0430\u00a0\u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u044b \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u043d\u0430\u00a0b9049. \u041e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u044b \u043b\u043e\u0433 \u0441\u00a0\u043e\u043a\u0440\u0443\u0436\u0435\u043d\u0438\u0435\u043c, SHA-256\u00a0\u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0444\u043b\u0430\u0433\u0430\u043c\u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432, \u0430\u00a0\u0442\u0430\u043a\u0436\u0435 \u0441\u0430\u043c \u0441\u043a\u0440\u0438\u043f\u0442:\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-coresident-strix-2026-07-27.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-coresident-strix-2026-07-27.txt<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/coresident_bench.py\" rel=\"noopener noreferrer nofollow\"><code>eval\/coresident_<\/code><\/a><a href=\"http:\/\/bench.py\" rel=\"noopener noreferrer nofollow\"><code>bench.py<\/code><\/a>.<\/p>\n<h4>\u041f\u043e\u043b\u043d\u044b\u0439 RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440 \u043f\u043e\u0434\u00a0\u043c\u0443\u043b\u044c\u0442\u0438\u044e\u0437\u0435\u0440\u043e\u043c<\/h4>\n<p>\u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u044f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043f\u043e\u043b\u043d\u044b\u0439 RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440 \u043f\u043e\u0434\u00a0\u043c\u0443\u043b\u044c\u0442\u0438\u044e\u0437\u0435\u0440\u043e\u043c. \u041a\u0430\u0436\u0434\u0430\u044f \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u044f \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0446\u0435\u043f\u043e\u0447\u043a\u0443 \u0446\u0435\u043b\u0438\u043a\u043e\u043c: \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0437\u0430\u043f\u0440\u043e\u0441\u0430, \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u044b\u0439 \u043f\u043e\u0438\u0441\u043a \u043f\u043e\u00a0\u0432\u0435\u043a\u0442\u043e\u0440\u043d\u043e\u043c\u0443 \u0438\u043d\u0434\u0435\u043a\u0441\u0443 \u0438\u0437 99\u00a0\u0447\u0430\u043d\u043a\u043e\u0432 \u043c\u043e\u0435\u0439\u00a0\u0436\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 (\u0438\u043d\u0434\u0435\u043a\u0441 \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0442\u0435\u043c\u00a0\u0436\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u043e\u043c \u043d\u0430\u00a0\u0441\u0442\u0430\u0440\u0442\u0435), \u0440\u0435\u0440\u0430\u043d\u043a \u0432\u043e\u0441\u044c\u043c\u0438 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0445 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, top-4\u00a0\u0432\u00a0prompt \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f 128\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u041d\u0430\u00a0iGPU \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0440\u0435\u0437\u0438\u0434\u0435\u043d\u0442\u043d\u044b Qwen, \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u043e\u0431\u0430 embedding\u2011\u0441\u0435\u0440\u0432\u0435\u0440\u0430; \u0432\u00a0\u043a\u0430\u0436\u0434\u043e\u0439 \u0442\u043e\u0447\u043a\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0430\u044f \u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0\u043e\u0434\u0438\u043d embedding\u2011\u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442. \u041e\u043a\u043d\u043e \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f \u0436\u0451\u0441\u0442\u043a\u043e\u0435: \u043f\u043e\u0441\u043b\u0435 \u0434\u0435\u0434\u043b\u0430\u0439\u043d\u0430 \u043d\u043e\u0432\u044b\u0435 \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u043d\u0435\u00a0\u0441\u0442\u0430\u0440\u0442\u0443\u044e\u0442, \u0443\u0436\u0435 \u0437\u0430\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0435 \u0434\u043e\u0436\u0438\u0434\u0430\u044e\u0442\u0441\u044f, \u0438 \u0432\u00a0throughput \u0438\u0434\u0443\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u0432\u0435\u0440\u0448\u0451\u043d\u043d\u044b\u0435 \u0432\u043d\u0443\u0442\u0440\u0438 \u043e\u043a\u043d\u0430. \u042d\u0442\u043e \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u043e \u043f\u043e\u043b\u043d\u044b\u0439 RAG\u2011\u043f\u0443\u0442\u044c, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0442\u0435\u0441\u0442 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u043e\u0439 \u0431\u0430\u0437\u044b: \u0438\u043d\u0434\u0435\u043a\u0441 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 99\u00a0\u0447\u0430\u043d\u043a\u043e\u0432 \u0438 \u0438\u0449\u0435\u0442\u0441\u044f\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u044b\u043c cosine\u2011\u0441\u043a\u0430\u043d\u043e\u043c \u0432\u00a0Python, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0430\u043c \u043f\u043e\u0438\u0441\u043a \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 1\u20134\u00a0\u043c\u0441 \u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043f\u0440\u043e\u00a0Milvus, HNSW \u0438\u043b\u0438\u00a0\u043c\u0438\u043b\u043b\u0438\u043e\u043d\u044b \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432.<\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043f\u0440\u043e\u0433\u043e\u043d: 4\u00a0\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u043f\u043e\u0442\u043e\u043a\u0430, \u043e\u043a\u043d\u043e 420\u00a0\u0441\u0435\u043a\u0443\u043d\u0434 \u043d\u0430\u00a0\u0442\u043e\u0447\u043a\u0443, \u043a\u0430\u0436\u0434\u0430\u044f \u0442\u043e\u0447\u043a\u0430 \u0441\u043d\u044f\u0442\u0430 \u0434\u0432\u0430\u0436\u0434\u044b, \u043f\u0440\u0438\u0447\u0451\u043c \u0432\u043e\u00a0\u0432\u0442\u043e\u0440\u043e\u043c \u0440\u0430\u0443\u043d\u0434\u0435 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0442\u043e\u0447\u0435\u043a \u043e\u0431\u0440\u0430\u0442\u043d\u044b\u0439 (\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043f\u043e\u0440\u044f\u0434\u043a\u0430 \u0438 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430). \u0412\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u043c\u0435\u0434\u0438\u0430\u043d\u0430 \u0434\u0432\u0443\u0445 \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u0432, \u043e\u0431\u0430 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f \u043b\u0435\u0436\u0430\u0442 \u0432\u00a0\u043b\u043e\u0433\u0435. \u041e\u0448\u0438\u0431\u043e\u043a \u043d\u0438 \u0432\u00a0\u043e\u0434\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0435 \u043d\u0435\u00a0\u0431\u044b\u043b\u043e.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0440\u043e\u0444\u0438\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0422\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0439\/\u043c\u0438\u043d<\/p>\n<\/th>\n<th>\n<p align=\"left\">e2e p50<\/p>\n<\/th>\n<th>\n<p align=\"left\">TTFT p50<\/p>\n<\/th>\n<th>\n<p align=\"left\">tok\/s \u043d\u0430\u00a0\u043f\u043e\u0442\u043e\u043a<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u043e \u0432\u00a0\u043e\u043a\u043d\u0435<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0418\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4\u00a0\u044e\u0437\u0435\u0440\u0430, \u0431\u0435\u0437\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 (STRIZH \/ bge\u2011m3)<\/p>\n<\/td>\n<td>\n<p align=\"left\">17,7\u00a0\/ 19,7<\/p>\n<\/td>\n<td>\n<p align=\"left\">13,4\u00a0\/ 12,1\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">7,9\u00a0\/ 6,9\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">31,5\u00a0\/ 33,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">124\u00a0\/ 138<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u0442<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4\u00a0\u044e\u0437\u0435\u0440\u0430 + \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f, STRIZH<\/p>\n<\/td>\n<td>\n<p align=\"left\">14,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">16,6\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">9,5\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">22,8<\/p>\n<\/td>\n<td>\n<p align=\"left\">98<\/p>\n<\/td>\n<td>\n<p align=\"left\">46,0\u00a0\u0431\u0430\u0442\u0447\u0430\/\u0441, 772\u00a0\u043f\u0440\u043e\u0445\u043e\u0434\u0430 \u043a\u043e\u0440\u043f\u0443\u0441\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">4\u00a0\u044e\u0437\u0435\u0440\u0430 + \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f,\u00a0<code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">6,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">37,0\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">13,7\u00a0\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">42<\/p>\n<\/td>\n<td>\n<p align=\"left\">4,9\u00a0\u0431\u0430\u0442\u0447\u0430\/\u0441, 83\u00a0\u043f\u0440\u043e\u0445\u043e\u0434\u0430<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041c\u0435\u0442\u0440\u0438\u043a\u0438 \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0440\u0430\u0437\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0436\u0434\u0435\u043d\u0438\u044f:\u00a0<code>tok\/s \u043d\u0430 \u043f\u043e\u0442\u043e\u043a<\/code>\u00a0\u044d\u0442\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u043d\u0430\u044f\u00a0<code>timings.predicted_per_second<\/code>, \u0430\u00a0e2e \u0438 TTFT \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u0438\u0435, \u0437\u0430\u043c\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u043d\u0430\u00a0\u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u043d\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043a\u0430.<\/p>\n<p>\u0427\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0442\u0430\u043a: \u0444\u043e\u043d\u043e\u0432\u0430\u044f \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f \u043b\u0451\u0433\u043a\u0438\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u043e\u043c \u0441\u0442\u043e\u0438\u0442 \u044e\u0437\u0435\u0440\u0430\u043c 21% \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0439 (17,7\u00a0\u2192 14,0), \u0442\u044f\u0436\u0451\u043b\u044b\u043c 70% (19,7\u00a0\u2192 6,0). \u041a\u043e\u0433\u0434\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043f\u043e\u043b\u043d\u043e\u0439 \u0442\u044f\u0433\u0435, STRIZH \u0443\u0434\u0435\u0440\u0436\u0430\u043b \u0432 2,3\u00a0\u0440\u0430\u0437\u0430 \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u0445 \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0439, \u043f\u0440\u043e\u0448\u0451\u043b \u043a\u043e\u0440\u043f\u0443\u0441 \u0432 9,3\u00a0\u0440\u0430\u0437\u0430 \u0447\u0430\u0449\u0435 \u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u043b \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 22,8\u00a0\u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043d\u0430\u00a0\u043f\u043e\u0442\u043e\u043a \u043f\u0440\u043e\u0442\u0438\u0432 6,5. \u041e\u0442\u0440\u044b\u0432 \u043f\u043e\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0437\u0434\u0435\u0441\u044c \u0441\u043a\u0440\u043e\u043c\u043d\u0435\u0435, \u0447\u0435\u043c 12,6\u00a0\u0440\u0430\u0437\u0430 \u0432\u00a0\u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u043c \u0440\u0430\u0437\u0434\u0435\u043b\u0435, \u0438 \u044d\u0442\u043e \u043e\u0436\u0438\u0434\u0430\u0435\u043c\u043e: \u0442\u0430\u043c \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f\u00a0\u0431\u044b\u043b\u0430 \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u043d\u0430\u00a0\u0448\u0435\u0441\u0442\u0438 \u0432\u043e\u0440\u043a\u0435\u0440\u0430\u0445, \u0437\u0434\u0435\u0441\u044c \u043e\u043d\u0430 \u0438\u0434\u0451\u0442 \u0442\u0440\u0435\u043c\u044f \u0432\u043e\u0440\u043a\u0435\u0440\u0430\u043c\u0438 \u0438 \u0434\u0435\u043b\u0438\u0442 \u0447\u0438\u043f \u0435\u0449\u0451 \u0438 \u0441\u00a0\u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c\u0438 \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438. \u041f\u043e\u043b\u043d\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0446\u0435\u043f\u043e\u0447\u043a\u0438 \u0432\u044b\u0440\u043e\u0441\u043b\u043e \u0441 13,4\u00a0\u0434\u043e 16,6\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0443\u00a0STRIZH \u0438 \u0441 12,1\u00a0\u0434\u043e 37,0\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0443\u00a0bge\u2011m3.<\/p>\n<p>\u0412\u0435\u0440\u0445\u043d\u044f\u044f \u0441\u0442\u0440\u043e\u043a\u0430 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u0431\u043e\u0440\u0430.\u00a0<strong>\u0411\u0435\u0437\u00a0\u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 bge\u2011m3\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442, \u0430\u00a0\u0441\u043b\u0435\u0433\u043a\u0430 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442<\/strong>: 19,7\u00a0\u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443 \u043f\u0440\u043e\u0442\u0438\u0432 17,7\u00a0\u0438 e2e 12,1\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 13,4\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u0441\u0430\u043c\u043e\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u0442\u0443\u0442 \u043d\u0438 \u043f\u0440\u0438\u00a0\u0447\u0451\u043c: \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0437\u0430\u043f\u0440\u043e\u0441\u0430 \u0441\u0442\u043e\u0438\u0442 3,4\u00a0\u043c\u0441 \u0443\u00a0STRIZH \u043f\u0440\u043e\u0442\u0438\u0432 30\u00a0\u043c\u0441 \u0443\u00a0bge\u2011m3, \u0442\u043e \u0435\u0441\u0442\u044c \u0434\u0430\u0436\u0435 \u0443\u00a0\u0442\u044f\u0436\u0451\u043b\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u044d\u0442\u043e \u0447\u0435\u0442\u0432\u0435\u0440\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u043d\u0442\u0430 \u043e\u0442 12-\u0441\u0435\u043a\u0443\u043d\u0434\u043d\u043e\u0439 \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438.<\/p>\n<p>\u0420\u0430\u0437\u0433\u0430\u0434\u043a\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u0432\u00a0\u043f\u0440\u043e\u043c\u043f\u0442\u0435, \u043d\u043e\u00a0\u0434\u043e\u0431\u0440\u0430\u043b\u0441\u044f \u044f \u0434\u043e\u00a0\u043d\u0435\u0451 \u0441\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u043f\u044b\u0442\u043a\u0438, \u0438 \u043f\u0435\u0440\u0432\u0430\u044f \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u043f\u043e\u043b\u0435\u0437\u043d\u0435\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u044f \u043f\u043e\u043c\u0435\u0440\u0438\u043b \u0434\u043b\u0438\u043d\u0443 \u0438\u0437\u0432\u043b\u0435\u0447\u0451\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430\u00a0<strong>\u0432\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u0430\u0445<\/strong>\u00a0\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0443\u00a0STRIZH +7,2% \u0432\u00a0\u0441\u0440\u0435\u0434\u043d\u0435\u043c. \u0427\u0438\u0441\u043b\u043e \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u043e \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u0435\u043c, \u043f\u043e\u043a\u0430 \u044f \u043d\u0435\u00a0\u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u043b \u043d\u0430\u00a0\u043f\u043e\u043f\u0430\u0440\u043d\u044b\u0435 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438: \u0441\u0440\u0435\u0434\u043d\u0435\u0435 \u0434\u0435\u0440\u0436\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u00a0\u0434\u0432\u0443\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0438\u0437\u00a0\u0434\u0435\u0441\u044f\u0442\u0438, \u043f\u043e\u00a0\u043c\u0435\u0434\u0438\u0430\u043d\u0435 \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0439 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 STRIZH\u00a0\u0431\u044b\u043b \u0434\u0430\u0436\u0435 \u043a\u043e\u0440\u043e\u0447\u0435 \u043d\u0430 44\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u0430, \u0430\u00a0\u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u043e\u043d \u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u0441\u044f\u00a0\u043b\u0438\u0448\u044c \u0432\u00a0\u0442\u0440\u0451\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0438\u0437\u00a0\u0434\u0435\u0441\u044f\u0442\u0438. \u0421\u0438\u043c\u0432\u043e\u043b\u044b \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043d\u0435\u00a0\u0433\u043e\u0434\u044f\u0442\u0441\u044f \u0432\u043e\u043e\u0431\u0449\u0435: prompt processing \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u0442\u043e\u043a\u0435\u043d\u0430\u0445, \u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0439, \u0440\u0443\u0441\u0441\u043a\u0430\u044f \u043f\u0440\u043e\u0437\u0430 \u0441\u00a0\u043a\u043e\u0434\u043e\u043c \u0438 YAML, \u0438 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d \u0432\u00a0\u0434\u0432\u0443\u0445 \u0432\u044b\u0431\u043e\u0440\u043a\u0430\u0445 \u0432\u044b\u0448\u043b\u043e \u0440\u0430\u0437\u043d\u043e\u0435, 2,84\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 3,05. \u041f\u0440\u043e\u043a\u0441\u0438 \u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u0433\u0440\u0443\u0431\u044b\u0439, \u043e\u043d\u00a0<strong>\u043f\u0435\u0440\u0435\u0432\u0435\u0440\u043d\u0443\u043b \u0437\u043d\u0430\u043a \u044d\u0444\u0444\u0435\u043a\u0442\u0430<\/strong>.<\/p>\n<p>\u041f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u0430\u044f \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043b\u0435\u0436\u0430\u043b\u0430 \u0432\u00a0\u0441\u0430\u043c\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435.\u00a0<code>llama-server<\/code>\u00a0\u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u00a0<code>timings.prompt_n<\/code>, \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0440\u043e\u043c\u043f\u0442\u0430. \u041f\u0440\u043e\u0433\u043e\u043d \u0442\u043e\u0439\u00a0\u0436\u0435 \u0446\u0435\u043f\u043e\u0447\u043a\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0431\u0435\u0437\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438, \u0434\u0435\u0441\u044f\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043f\u043e\u00a0\u0442\u0440\u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u0430 \u043d\u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u044c:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\n<\/th>\n<th>\n<p align=\"left\">\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0440\u043e\u043c\u043f\u0442\u0430, \u043c\u0435\u0434\u0438\u0430\u043d\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">TTFT \u043e\u0434\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u043f\u043e\u0442\u043e\u043a\u0430<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH<\/p>\n<\/td>\n<td>\n<p align=\"left\">1886<\/p>\n<\/td>\n<td>\n<p align=\"left\">1973\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">1716<\/p>\n<\/td>\n<td>\n<p align=\"left\">1825\u00a0\u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041d\u0430\u00a0\u044d\u0442\u0438\u0445 \u0434\u0435\u0441\u044f\u0442\u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 STRIZH \u043f\u043e\u0434\u0442\u044f\u043d\u0443\u043b \u0432\u00a0\u043f\u0440\u043e\u043c\u043f\u0442 \u0431\u043e\u043b\u044c\u0448\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432: \u043c\u0435\u0434\u0438\u0430\u043d\u0430 \u043f\u043e\u043f\u0430\u0440\u043d\u043e\u0439 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u0438 +136, \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u0432\u00a0\u0441\u0435\u043c\u0438 \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0438\u0437\u00a0\u0434\u0435\u0432\u044f\u0442\u0438 \u043d\u0435\u043d\u0443\u043b\u0435\u0432\u044b\u0445. \u0421\u0440\u0430\u0437\u0443 \u043e\u0433\u043e\u0432\u043e\u0440\u044e\u0441\u044c \u043f\u0440\u043e\u00a0\u0441\u0438\u043b\u0443 \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u044f, \u0438\u043d\u0430\u0447\u0435 \u043f\u043e\u0432\u0442\u043e\u0440\u044e \u043e\u0448\u0438\u0431\u043a\u0443 \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043a\u0441\u0438: \u0437\u043d\u0430\u043a\u043e\u0432\u044b\u0439 \u0442\u0435\u0441\u0442 \u043d\u0430\u00a0\u0442\u0430\u043a\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043d\u0435\u00a0\u0437\u043d\u0430\u0447\u0438\u043c (7\u00a0\u0438\u0437 9, p \u2248 0.18). \u042d\u0442\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0435 \u043d\u0430\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435, \u0430\u00a0\u043d\u0435\u00a0\u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u043e\u0435 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e \u043c\u043e\u0434\u0435\u043b\u0438.<\/p>\n<p>\u0417\u0430\u0442\u043e \u0441\u0432\u044f\u0437\u044c \u043c\u0435\u0436\u0434\u0443 \u0434\u043b\u0438\u043d\u043e\u0439 \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0438 TTFT \u0432\u00a0\u0438\u0437\u043c\u0435\u0440\u0435\u043d\u043d\u043e\u043c \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0435 712\u20132175\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432\u0438\u0434\u043d\u0430 \u043e\u0442\u0447\u0451\u0442\u043b\u0438\u0432\u043e. \u041f\u043e 60\u00a0\u0441\u044b\u0440\u044b\u043c \u0437\u0430\u043c\u0435\u0440\u0430\u043c \u043e\u0431\u0449\u0438\u0439 \u043d\u0430\u043a\u043b\u043e\u043d \u043e\u043a\u043e\u043b\u043e\u00a0<code>0,94 \u043c\u0441 \u043d\u0430 \u0442\u043e\u043a\u0435\u043d<\/code>\u00a0\u043f\u0440\u0438\u00a0<code>R\u00b2 = 0.973<\/code>. \u042d\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e\u00a0\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0432\u043a\u043b\u0430\u0434\u0435 \u043e\u0431\u044a\u0451\u043c\u0430 prefill \u0432\u00a0\u043e\u0434\u0438\u043d\u043e\u0447\u043d\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435, \u043d\u043e\u00a0\u043d\u0435\u00a0\u043e\u0431\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0439\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f\u00a0\u0434\u0440\u0443\u0433\u0438\u0445 \u0434\u043b\u0438\u043d, \u0441\u0431\u043e\u0440\u043e\u043a \u0438 \u0443\u0440\u043e\u0432\u043d\u0435\u0439 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438.<\/p>\n<p>\u0415\u0441\u0442\u044c \u0438 \u043f\u0440\u0438\u044f\u0442\u043d\u0430\u044f \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0441\u0442\u044c: \u043d\u0430\u00a0\u043e\u0434\u043d\u043e\u043c \u0438\u0437\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u043e\u0431\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0441\u043b\u0435 \u0440\u0435\u0440\u0430\u043d\u043a\u0430 \u0441\u043e\u0431\u0440\u0430\u043b\u0438\u00a0<strong>\u043f\u043e\u0431\u0430\u0439\u0442\u043e\u0432\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0439<\/strong>\u00a0\u043f\u0440\u043e\u043c\u043f\u0442. \u042d\u0442\u043e \u043d\u0435\u00a0\u0434\u043e\u0433\u0430\u0434\u043a\u0430 \u043f\u043e\u00a0\u0440\u0430\u0432\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u0435, \u0430\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0439 \u0444\u0430\u043a\u0442: \u0443\u00a0\u043e\u0431\u043e\u0438\u0445 \u043f\u0440\u043e\u043c\u043f\u0442\u043e\u0432 \u0441\u043e\u0432\u043f\u0430\u043b SHA-256\u00a0\u0438 \u0441\u043e\u0432\u043f\u0430\u043b \u0441\u0430\u043c \u043d\u0430\u0431\u043e\u0440 \u043e\u0442\u043e\u0431\u0440\u0430\u043d\u043d\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u0438\u0445 \u043f\u043e\u0440\u044f\u0434\u043a\u043e\u043c, 1799\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0438 5619\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 (<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-prompt-identity-strix-2026-07-28.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-prompt-identity-strix-2026-07-28.txt<\/code><\/a>, \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0434\u0435\u0432\u044f\u0442\u044c \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0434\u0430\u043b\u0438 \u0440\u0430\u0437\u043d\u044b\u0435 \u043f\u0440\u043e\u043c\u043f\u0442\u044b). TTFT \u043d\u0430\u00a0\u044d\u0442\u043e\u0439 \u043f\u0430\u0440\u0435 \u0440\u0430\u0437\u043e\u0448\u0451\u043b\u0441\u044f \u043d\u0430 22\u00a0\u043c\u0441, \u043f\u0440\u0438\u0447\u0451\u043c \u0432\u00a0\u043f\u043e\u043b\u044c\u0437\u0443 STRIZH. \u042d\u0442\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043d\u0430\u00a0\u0432\u043c\u0435\u043d\u044f\u0435\u043c\u043e\u0441\u0442\u044c, \u043d\u043e\u00a0\u043e\u0434\u043d\u0430 \u0442\u043e\u0447\u043a\u0430 \u043d\u0435\u00a0\u0438\u0441\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0438\u0445 \u043e\u0442\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u044d\u0444\u0444\u0435\u043a\u0442\u043e\u0432.<\/p>\n<p>\u041f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0437\u0440\u044b\u0432 \u044d\u0442\u043e \u043d\u0435\u00a0\u0437\u0430\u043a\u0440\u044b\u0432\u0430\u0435\u0442. \u0411\u0435\u0437\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 TTFT 149\u00a0\u043c\u0441, \u0430\u00a0\u043f\u043e\u0434\u00a0\u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438 \u043e\u043d\u0430 \u0432\u044b\u0440\u0430\u0441\u0442\u0430\u0435\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u043e\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u0420\u0430\u0437\u0434\u0435\u043b\u0438\u0442\u044c \u0432\u043a\u043b\u0430\u0434 \u0431\u043e\u043b\u0435\u0435 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e prefill \u0438 \u043e\u0436\u0438\u0434\u0430\u043d\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u0441\u043b\u043e\u0442\u0430\u043c\u0438 \u0438\u043c\u0435\u044e\u0449\u0438\u0439\u0441\u044f \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043d\u0435\u00a0\u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442: \u043e\u043d \u0441\u043d\u044f\u0442 \u043d\u0430\u00a0\u043e\u0434\u0438\u043d\u043e\u0447\u043d\u043e\u043c \u043f\u043e\u0442\u043e\u043a\u0435, \u0438 \u0440\u0430\u0437\u0434\u0435\u043b\u044c\u043d\u043e \u044d\u0442\u0438 \u0434\u0432\u0430 \u0432\u043a\u043b\u0430\u0434\u0430 \u044f \u043d\u0435\u00a0\u043c\u0435\u0440\u0438\u043b. \u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0432\u044b\u0432\u043e\u0434 \u0438\u0437\u00a0\u044d\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0444\u0438\u043b\u044f \u0441\u043a\u0440\u043e\u043c\u043d\u0435\u0435 \u043b\u043e\u0437\u0443\u043d\u0433\u0430:\u00a0<strong>\u0432\u00a0\u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0431\u0435\u0437\u00a0\u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c embedding\u2011\u0441\u0442\u0430\u0434\u0438\u0438 \u043d\u0435\u00a0\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u043b\u0430 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0430, \u0430\u00a0\u0441\u0438\u0441\u0442\u0435\u043c\u043d\u0430\u044f \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u043f\u0440\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u043f\u0440\u0438\u00a0\u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435.<\/strong>\u00a0\u041e\u0431\u043e\u0431\u0449\u0430\u0442\u044c \u044d\u0442\u043e \u043d\u0430\u00a0\u043b\u044e\u0431\u043e\u0439 RAG \u043d\u0435\u043b\u044c\u0437\u044f: \u0438\u043d\u0434\u0435\u043a\u0441 \u0437\u0434\u0435\u0441\u044c 99\u00a0\u0447\u0430\u043d\u043a\u043e\u0432, retrieval\u2011\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0435 \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435\u00a0\u0438\u0437\u043c\u0435\u0440\u044f\u043b\u043e\u0441\u044c, \u0430\u00a0\u043f\u043e\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0443 \u043f\u0440\u043e\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e bge\u2011m3\u00a0\u043d\u0430\u0445\u043e\u0434\u0438\u0442 \u043b\u0443\u0447\u0448\u0435. \u0420\u0435\u0447\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u043e\u00a0\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043d\u0430\u00a0\u043e\u0431\u0449\u0435\u043c GPU.<\/p>\n<p>\u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u043f\u0440\u043e\u00a0\u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0443: \u0434\u0432\u0430 \u043f\u043e\u0432\u0442\u043e\u0440\u0430 \u043d\u0430\u00a0\u0442\u043e\u0447\u043a\u0443 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438 \u043c\u0430\u0441\u0448\u0442\u0430\u0431 \u044d\u0444\u0444\u0435\u043a\u0442\u0430, \u043d\u043e\u00a0\u044d\u0442\u043e \u043d\u0435\u00a0\u0434\u043e\u0432\u0435\u0440\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u0440\u0432\u0430\u043b SLO. \u0420\u0430\u0437\u0431\u0440\u043e\u0441 \u043c\u0435\u0436\u0434\u0443 \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c\u0438 \u043e\u0447\u0435\u043d\u044c \u043d\u0435\u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u0435\u043d \u043f\u043e\u00a0\u043c\u0435\u0442\u0440\u0438\u043a\u0430\u043c, \u0438 \u0435\u0433\u043e \u0441\u0442\u043e\u0438\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c. \u0422\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443 \u0438 e2e p50\u00a0\u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u044b \u0432\u0435\u0437\u0434\u0435, \u043a\u0440\u043e\u043c\u0435 \u043e\u0434\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438: 0\u20134% \u043d\u0430\u00a0\u0442\u0440\u0451\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u044f\u0445 \u0438 10\u201312% \u0443\u00a0bge\u2011m3\u00a0\u043f\u043e\u0434\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0435\u0439 (5,7\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 6,3\u00a0\u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443, e2e 34,8\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 39,1\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b). \u0421\u0430\u043c\u0430\u044f \u0448\u0443\u043c\u043d\u0430\u044f \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u044d\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043d\u0430\u00a0\u043f\u043e\u0442\u043e\u043a: 1\u20132% \u043d\u0430\u00a0\u0447\u0438\u0441\u0442\u044b\u0445 \u043f\u0440\u043e\u0444\u0438\u043b\u044f\u0445, 8% \u0443\u00a0STRIZH \u043f\u043e\u0434\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0435\u0439 \u0438\u00a0<strong>28% \u0443\u00a0bge\u2011m3\u00a0\u043f\u043e\u0434\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0435\u0439<\/strong>\u00a0(5,6\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 7,4\u00a0\u0442\u043e\u043a\u0435\u043d\u0430 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443). \u0422\u043e \u0435\u0441\u0442\u044c \u0447\u0438\u0441\u043b\u0430 22,8\u00a0\u0438 6,5\u00a0\u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u044b \u043a\u0440\u0430\u0442\u043d\u043e \u0438 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u044d\u0444\u0444\u0435\u043a\u0442\u0430 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432, \u043d\u043e\u00a0\u0441\u0430\u043c\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 6,5\u00a0\u043f\u043e\u00a0\u0434\u0432\u0443\u043c \u043f\u043e\u0432\u0442\u043e\u0440\u0430\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043e \u043f\u043b\u043e\u0445\u043e. \u0411\u043e\u043b\u0435\u0435 \u0440\u0430\u043d\u043d\u0438\u0439 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u0441\u00a0\u043e\u043a\u043d\u043e\u043c 90\u00a0\u0441\u0435\u043a\u0443\u043d\u0434 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0432\u0438\u043f\u0430\u043b \u0447\u0438\u0441\u043b\u043e \u044e\u0437\u0435\u0440\u043e\u0432 \u043e\u0442 1\u00a0\u0434\u043e 8: \u0431\u0435\u0437\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u043e\u0431\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0430\u043c \u0434\u0435\u0440\u0436\u0430\u043b\u0438\u0441\u044c \u0432\u00a0\u043e\u0434\u043d\u043e\u043c \u043a\u043e\u0440\u0438\u0434\u043e\u0440\u0435 14\u201319\u00a0\u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0439 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443, \u0447\u0442\u043e\u00a0\u0441\u043e\u0433\u043b\u0430\u0441\u0443\u0435\u0442\u0441\u044f \u0441\u00a0\u0432\u044b\u0432\u043e\u0434\u043e\u043c \u0432\u044b\u0448\u0435. \u0422\u043e\u0442 \u043b\u043e\u0433 \u0442\u043e\u0436\u0435 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d.<\/p>\n<p>\u0420\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u043d\u044b\u0435 \u043a\u0440\u0438\u0432\u044b\u0435 (\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043b\u043e\u0433): \u043f\u043e\u00a0\u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u0438 STRIZH \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u043d\u0430\u00a0\u043f\u043b\u0430\u0442\u043e ~4500\u00a0\u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432\/\u0441 \u043a\u00a0conc 32\u00a0(p95\u00a0\u043e\u043a\u043e\u043b\u043e 11\u00a0\u043c\u0441),\u00a0<code>bge-m3<\/code>\u00a0\u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 ~448\u00a0\u043a\u00a0conc 16\u00a0(p95 37\u00a0\u043c\u0441, \u0430\u00a0\u043a\u00a0conc 64\u00a0\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u0440\u0430\u0441\u0442\u0451\u0442 \u0434\u043e 147\u00a0\u043c\u0441 \u043f\u0440\u0438\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u043f\u043e\u0442\u043e\u043b\u043a\u0435); \u043f\u043e\u00a0\u0440\u0430\u0437\u043c\u0435\u0440\u0443 \u0431\u0430\u0442\u0447\u0430 \u043d\u0430\u00a0\u0434\u043b\u0438\u043d\u043d\u044b\u0445 ~350-\u0442\u043e\u043a\u0435\u043d\u043d\u044b\u0445 \u0447\u0430\u043d\u043a\u0430\u0445 STRIZH \u043d\u0430\u0441\u044b\u0449\u0430\u0435\u0442\u0441\u044f \u043d\u0430 ~600\u00a0\u0442\u0435\u043a\u0441\u0442\u043e\u0432\/\u0441 \u0443\u0436\u0435 \u0441\u00a0\u0431\u0430\u0442\u0447\u0430 4\u00a0(\u043e\u0434\u043d\u0438\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u043c; \u043f\u043e\u0434\u00a0\u0442\u0440\u0435\u043c\u044f \u0432\u043e\u0440\u043a\u0435\u0440\u0430\u043c\u0438 \u0442\u043e\u0442\u00a0\u0436\u0435 \u0441\u0435\u0440\u0432\u0435\u0440 \u0432\u044b\u0434\u0430\u0451\u0442 \u0431\u043e\u043b\u044c\u0448\u0435),\u00a0<code>bge-m3<\/code>\u00a0\u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432\u00a0\u043a\u043e\u0440\u0438\u0434\u043e\u0440\u0435 ~35\u201358\u00a0(\u043f\u043b\u0430\u0442\u043e ~45).<\/p>\n<p>\u0412\u0441\u0435 \u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442\u044b \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0437\u0434\u0435\u043b\u0430 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u044b. \u041f\u0440\u043e\u0433\u043e\u043d\u044b \u0438 \u043b\u043e\u0433\u0438:\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-rag-final-strix-2026-07-27.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-rag-final-strix-2026-07-27.txt<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-rag-pipeline-strix-2026-07-27.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-rag-pipeline-strix-2026-07-27.txt<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-embed-curves-strix-2026-07-27.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-embed-curves-strix-2026-07-27.txt<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/pipeline_bench.py\" rel=\"noopener noreferrer nofollow\"><code>eval\/pipeline_<\/code><\/a><a href=\"http:\/\/bench.py\" rel=\"noopener noreferrer nofollow\"><code>bench.py<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/results-prompt-tokens-strix-2026-07-28.txt\" rel=\"noopener noreferrer nofollow\"><code>eval\/results-prompt-tokens-strix-2026-07-28.txt<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/prompt_tokens_check.py\" rel=\"noopener noreferrer nofollow\"><code>eval\/prompt_tokens_<\/code><\/a><a href=\"http:\/\/check.py\" rel=\"noopener noreferrer nofollow\"><code>check.py<\/code><\/a>,\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/blob\/main\/strizh-ru-retriever\/eval\/analyze_prompt_tokens.py\" rel=\"noopener noreferrer nofollow\"><code>eval\/analyze_prompt_<\/code><\/a><a href=\"http:\/\/tokens.py\" rel=\"noopener noreferrer nofollow\"><code>tokens.py<\/code><\/a>\u00a0(\u043d\u0430\u043a\u043b\u043e\u043d \u0438\u00a0<code>R\u00b2<\/code>\u00a0\u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u043e\u043d, \u0430\u00a0\u043d\u0435\u00a0\u044f \u0440\u0443\u043a\u0430\u043c\u0438).<\/p>\n<p>\u041d\u0435\u0433\u043e\u0434\u043d\u044b\u0439 \u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u0442\u043e\u0436\u0435 \u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432\u00a0\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 (<code>context_len_<\/code><a href=\"http:\/\/check.py\" rel=\"noopener noreferrer nofollow\"><code>check.py<\/code><\/a>) \u043a\u0430\u043a\u00a0\u0441\u043b\u0435\u0434 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u00a0\u043f\u0440\u043e\u043a\u0441\u0438 \u043f\u0435\u0440\u0435\u0432\u0435\u0440\u043d\u0443\u043b \u0437\u043d\u0430\u043a. \u041a\u0430\u0436\u0434\u044b\u0439 \u043b\u043e\u0433 \u0432\u043e\u00a0\u0432\u0442\u043e\u0440\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0435 \u0448\u0430\u043f\u043a\u0438 \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u043e\u0447\u043d\u044b\u0439 \u0445\u0430\u0440\u043d\u0435\u0441\u0441 \u0438 \u0435\u0433\u043e SHA-256. \u0414\u043b\u044f\u00a0\u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0445 \u043f\u0440\u043e\u0433\u043e\u043d\u043e\u0432 \u0442\u0430\u043c\u00a0\u0436\u0435 \u0443\u043a\u0430\u0437\u0430\u043d \u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0430\u0442\u043e\u0440 \u0438\u0437\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/tree\/main\/strizh-ru-retriever\/eval\/runners\" rel=\"noopener noreferrer nofollow\"><code>eval\/runners\/<\/code><\/a>; \u043f\u0440\u044f\u043c\u044b\u0435 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u043c\u0435\u0440\u044b \u043d\u0435\u0441\u0443\u0442 \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u00a0\u043b\u0438\u0431\u043e \u044f\u0432\u043d\u0443\u044e \u043f\u043e\u043c\u0435\u0442\u043a\u0443, \u0447\u0442\u043e\u00a0\u043e\u0440\u043a\u0435\u0441\u0442\u0440\u0430\u0442\u043e\u0440\u0430 \u043d\u0435\u0442.<\/p>\n<h3>\u041d\u0430\u00a0CPU\u00a0rubert\u2011tiny2\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435<\/h3>\n<p>\u0427\u0442\u043e\u0431\u044b \u043d\u0435\u00a0\u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u0442\u044c Vulkan\u2011\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0435 \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0435\u043d\u0438\u0435, \u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0433\u043d\u0430\u043b PyTorch CPU (device=cpu, batch 32, max_seq 256, \u0442\u0435\u043a\u0441\u0442\u044b \u0434\u043e 400\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432, \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430) \u043d\u0430 300\u00a0\u0442\u0435\u043a\u0441\u0442\u0430\u0445:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">CPU, emb\/s<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>357<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH<\/p>\n<\/td>\n<td>\n<p align=\"left\">265<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">5,6<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041d\u0430\u00a0CPU\u00a0<code>rubert-tiny2<\/code>\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 STRIZH \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432 1,35\u00a0\u0440\u0430\u0437\u0430. \u0423\u00a0STRIZH \u043f\u043e\u043a\u0430 \u043d\u0435\u0442 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e ONNX\/OpenVINO\u2011\u043f\u0443\u0442\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0435\u0433\u043e CPU\u2011\u0447\u0435\u043c\u043f\u0438\u043e\u043d\u043e\u043c \u043d\u0435\u043b\u044c\u0437\u044f.<\/p>\n<p>\u0415\u0433\u043e \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u043e\u044f\u0432\u0438\u043b\u043e\u0441\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u00a0\u0446\u0435\u043b\u0435\u0432\u043e\u043c\u00a0<code>llama.cpp\/Vulkan<\/code>\u00a0deployment \u043d\u0430\u00a0Strix Halo.<\/p>\n<h3>ModernBERT \u2192 GGUF: \u0432\u0435\u0441\u0430\u00a0\u0431\u044b\u043b\u0438 \u0441\u0430\u043c\u043e\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0447\u0430\u0441\u0442\u044c\u044e<\/h3>\n<p>\u041f\u043e\u0441\u043b\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0443\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0434\u043e\u0432\u0435\u0441\u0442\u0438 \u0434\u043e\u00a0\u0440\u0430\u043d\u0442\u0430\u0439\u043c\u0430, \u0440\u0430\u0434\u0438 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043e\u043d\u0430 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u043b\u0430\u0441\u044c.<\/p>\n<p>\u0421\u00a0ModernBERT \u043f\u0443\u0442\u044c \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c:<\/p>\n<ol>\n<li>\n<p>\u0443\u0431\u0440\u0430\u0442\u044c MLM\u2011head \u0438 \u043e\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u0447\u0438\u0441\u0442\u044b\u0439 encoder;<\/p>\n<\/li>\n<li>\n<p>\u0438\u0441\u043f\u0440\u0430\u0432\u0438\u0442\u044c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 BPE pre\u2011tokenizer \u0432\u00a0\u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0435\u0440\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c\u00a0<code>layer_norm_epsilon<\/code>\u00a0\u0432\u00a0GGUF metadata;<\/p>\n<\/li>\n<li>\n<p>\u0441\u043e\u0445\u0440\u0430\u043d\u0438\u0442\u044c \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0435 RoPE \u0438 layer types;<\/p>\n<\/li>\n<li>\n<p>\u044f\u0432\u043d\u043e \u0432\u043a\u043b\u044e\u0447\u0438\u0442\u044c mean pooling;<\/p>\n<\/li>\n<li>\n<p>\u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c retrieval \u043f\u043e\u0441\u043b\u0435 \u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0430\u0446\u0438\u0438, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e cosine \u043f\u0430\u0440\u044b \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<\/ol>\n<p>\u041f\u0435\u0440\u0432\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0441\u0435\u0440\u0432\u0438\u043d\u0433\u0430 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e Q8_0\u00a0\u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u0430 \u0442\u0430\u043a:<\/p>\n<pre><code class=\"bash\">llama-server \\  -m strizh-ru-retriever.Q8_0.gguf \\  --embeddings \\  --pooling mean \\  -ngl 999 \\  -c 8192 \\  -b 4096 \\  -ub 4096 \\  -np 8<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0418 \u0441\u0440\u0430\u0437\u0443 \u043b\u043e\u0432\u0443\u0448\u043a\u0430 \u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u043a\u043b\u0430\u0441\u0441\u0430, \u0447\u0442\u043e\u00a0\u0438 \u0432\u0435\u0441\u044c \u0441\u044e\u0436\u0435\u0442 \u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438. \u0412\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0441\u0431\u043e\u0440\u043a\u0435 (b9049)\u00a0<code>-c<\/code>\u00a0\u0437\u0430\u0434\u0430\u0451\u0442\u00a0<strong>\u0441\u0443\u043c\u043c\u0430\u0440\u043d\u044b\u0439<\/strong>\u00a0\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0441\u0435\u0440\u0432\u0435\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u043c\u0435\u0436\u0434\u0443\u00a0<code>-np<\/code>\u00a0\u0441\u043b\u043e\u0442\u0430\u043c\u0438. \u041f\u0440\u0438\u00a0<code>-c 8192 -np 8<\/code>\u00a0\u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0442 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u0432\u0441\u0435\u0433\u043e 1024\u00a0\u0442\u043e\u043a\u0435\u043d\u0430, \u0438 \u0432\u0445\u043e\u0434 \u0434\u043b\u0438\u043d\u043d\u0435\u0435 \u0432\u0435\u0440\u043d\u0451\u0442\u00a0<code>400 exceed_context_size_error<\/code>; \u044f \u043f\u043e\u0439\u043c\u0430\u043b \u044d\u0442\u043e \u043d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0437\u0430\u0434\u0435\u043f\u043b\u043e\u0435\u043d\u043d\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435. \u0412\u0442\u043e\u0440\u0430\u044f \u0433\u0440\u0430\u043d\u0438\u0446\u0430: \u0434\u043b\u044f\u00a0\u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0432\u0435\u0441\u044c \u0432\u0445\u043e\u0434 \u0434\u043e\u043b\u0436\u0435\u043d \u043f\u043e\u043c\u0435\u0449\u0430\u0442\u044c\u0441\u044f \u0432\u00a0\u043e\u0434\u0438\u043d ubatch (<code>-ub<\/code>). \u0420\u0430\u0431\u043e\u0447\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u0434\u043b\u044f\u00a0\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0440\u0438\u00a0\u0432\u043e\u0441\u044c\u043c\u0438 \u0441\u043b\u043e\u0442\u0430\u0445:<\/p>\n<pre><code class=\"bash\">llama-server \\  -m strizh-ru-retriever.Q8_0.gguf \\  --embeddings \\  --pooling mean \\  -ngl 999 \\  -c 65536 \\  -b 8192 \\  -ub 8192 \\  -np 8<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u041f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043e: \u0432\u0445\u043e\u0434\u044b \u043d\u0430 ~5000\u00a0\u0438 ~8100\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442. \u0416\u0451\u0441\u0442\u043a\u0438\u0439\u00a0\u043b\u0438\u043c\u0438\u0442 \u0436\u0438\u0432\u0451\u0442 \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0tokenizer config.<\/p>\n<p>\u0424\u043b\u0430\u0433\u00a0<code>--pooling mean<\/code>\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u0435\u043d. \u0421\u00a0CLS pooling \u043c\u043e\u0439 retrieval\u2011harness \u043f\u0430\u0434\u0430\u043b \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0434\u043e\u00a0<code>Recall@10 = 0.02<\/code>.<\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043d\u0435 \u00ab\u0441\u043b\u0435\u0433\u043a\u0430 \u0443\u0445\u0443\u0434\u0448\u0430\u043b\u0430\u0441\u044c\u00bb. \u041e\u043d\u0430 \u0444\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u0435\u0440\u0435\u0441\u0442\u0430\u0432\u0430\u043b\u0430\u00a0\u0431\u044b\u0442\u044c \u0442\u0435\u043c retriever, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043e\u0431\u0443\u0447\u0430\u043b\u0441\u044f.<\/p>\n<p>\u0422\u0430\u00a0\u0436\u0435 \u0433\u0440\u0430\u0431\u043b\u044f\u00a0\u0431\u044b\u043b\u0430 \u0432\u00a0vLLM: \u0431\u0435\u0437\u00a0\u044f\u0432\u043d\u043e\u0433\u043e pooler config \u0440\u0430\u043d\u0442\u0430\u0439\u043c \u043c\u043e\u0433 \u0432\u044b\u0431\u0440\u0430\u0442\u044c CLS. \u0420\u0430\u0431\u043e\u0447\u0438\u0439 \u0437\u0430\u043f\u0443\u0441\u043a:<\/p>\n<pre><code class=\"bash\">vllm serve AGmind\/strizh-ru-retriever \\  --pooler-config '{\"pooling_type\":\"MEAN\"}' \\  --max-model-len 8192<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u0412\u044b\u0432\u043e\u0434 \u0437\u0434\u0435\u0441\u044c \u0448\u0438\u0440\u0435 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0444\u043b\u0430\u0433\u0430:<\/p>\n<blockquote>\n<p>\u041a\u043e\u043d\u0442\u0440\u0430\u043a\u0442 embedding\u2011\u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u043a\u043b\u044e\u0447\u0430\u0435\u0442 \u0432\u0435\u0441\u0430, tokenizer, pooling, \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e, truncation \u0438 runtime. \u041e\u0434\u0438\u043d \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0439 default \u043c\u0435\u043d\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0438\u043b\u044c\u043d\u0435\u0435, \u0447\u0435\u043c \u0435\u0449\u0451 \u043e\u0434\u043d\u0430 \u044d\u043f\u043e\u0445\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<\/blockquote>\n<h3>\u041f\u043e\u0447\u0435\u043c\u0443 Q8_0\u00a0\u043f\u043e\u0447\u0442\u0438 \u0442\u0430\u043a\u043e\u0433\u043e\u00a0\u0436\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430, \u043a\u0430\u043a\u00a0Q4_0<\/h3>\n<p>\u041f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0442\u0430\u043a\u0438\u0435 GGUF\u2011\u0444\u0430\u0439\u043b\u044b:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0424\u043e\u0440\u043c\u0430\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0430\u0437\u043c\u0435\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">RU Recall@10, \u043f\u043e\u043b\u043d\u044b\u0439 dev<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">F16<\/p>\n<\/td>\n<td>\n<p align=\"left\">52\u00a0\u041c\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.800<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Q8_0<\/p>\n<\/td>\n<td>\n<p align=\"left\">29\u00a0\u041c\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.800<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Q5_0<\/p>\n<\/td>\n<td>\n<p align=\"left\">27\u00a0\u041c\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.790<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Q4_0<\/p>\n<\/td>\n<td>\n<p align=\"left\">26\u00a0\u041c\u0411<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.785<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e\u00a0\u043a\u0432\u0430\u043d\u0442\u0430\u043c \u043c\u0435\u0440\u0435\u043d\u043e \u0442\u0435\u043c\u00a0\u0436\u0435 dev\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u043e\u043c \u0447\u0435\u0440\u0435\u0437\u00a0<code>llama-server<\/code>, \u043d\u043e\u00a0\u0441\u044b\u0440\u043e\u0433\u043e \u043b\u043e\u0433\u0430 \u044d\u0442\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430 \u044f \u043d\u0435\u00a0\u0432\u044b\u043b\u043e\u0436\u0438\u043b, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0447\u0438\u0441\u043b\u0430 \u0438\u0434\u0443\u0442 \u043d\u0430\u00a0\u0442\u0435\u0445\u00a0\u0436\u0435 \u043f\u0440\u0430\u0432\u0430\u0445, \u0447\u0442\u043e\u00a0\u0438 \u043a\u043e\u043b\u043e\u043d\u043a\u0430 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0434\u043b\u044f\u00a0\u0432\u043d\u0435\u0448\u043d\u0438\u0445 baseline: \u0438\u0437\u00a0\u043c\u043e\u0438\u0445 \u0437\u0430\u043c\u0435\u0442\u043e\u043a, \u0430\u00a0\u043d\u0435\u00a0\u0438\u0437\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0444\u0430\u0439\u043b\u0430.<\/p>\n<p>\u041a\u0432\u0430\u043d\u0442\u0438\u0437\u0430\u0446\u0438\u044f \u043d\u0438\u0436\u0435 \u0432\u043e\u0441\u044c\u043c\u0438 \u0431\u0438\u0442 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442: \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0435\u0436\u0434\u0443 Q8_0\u00a0\u0438 Q4_0\u00a0\u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u043e\u043a\u043e\u043b\u043e 3\u00a0\u041c\u0411.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u0441\u043d\u043e\u0432\u0430 \u0432\u00a0\u0441\u043b\u043e\u0432\u0430\u0440\u0435 \u043d\u0430 50\u202f368\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0422\u0430\u0431\u043b\u0438\u0446\u0430 embeddings \u0434\u043e\u043c\u0438\u043d\u0438\u0440\u0443\u0435\u0442 \u0432\u00a0\u0444\u0430\u0439\u043b\u0435 \u0438 \u043d\u0435\u00a0\u0441\u0436\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0442\u0430\u043a\u00a0\u0436\u0435 \u0432\u044b\u0433\u043e\u0434\u043d\u043e, \u043a\u0430\u043a\u00a0\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u0430\u0441\u0441\u0430 transformer\u2011\u0431\u043b\u043e\u043a\u043e\u0432 \u0443\u00a0LLM.<\/p>\n<p>\u0412\u00a0\u043c\u043e\u0451\u043c \u0442\u0440\u0430\u043a\u0442\u0435 K\u2011quants \u0442\u0430\u043a\u0436\u0435 \u043d\u0435\u00a0\u0441\u043e\u0431\u0440\u0430\u043b\u0438\u0441\u044c \u0434\u043b\u044f\u00a0\u0440\u0430\u0437\u043c\u0435\u0440\u043e\u0432 hidden 384\u00a0\/ intermediate 576: \u043e\u043d\u0438 \u043d\u0435\u00a0\u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u043b\u0438\u0441\u044c \u0432\u00a0\u0442\u0440\u0435\u0431\u0443\u0435\u043c\u044b\u0435 super\u2011block \u0440\u0430\u0437\u043c\u0435\u0440\u044b, \u0438 \u043e\u0441\u0442\u0430\u0432\u0430\u043b\u0438\u0441\u044c legacy\u2011\u043a\u0432\u0430\u043d\u0442\u044b.<\/p>\n<p>\u0414\u043b\u044f 29-\u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442\u044c \u0435\u0449\u0451 \u0442\u0440\u0438 \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442\u0430 \u0446\u0435\u043d\u043e\u0439 \u0440\u0438\u0441\u043a\u0430 \u0434\u0435\u0433\u0440\u0430\u0434\u0430\u0446\u0438\u0438 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u043e\u0432\u0430\u043d\u043d\u044b\u043c \u0440\u0435\u043b\u0438\u0437\u043d\u044b\u043c \u043a\u0432\u0430\u043d\u0442\u043e\u043c \u0441\u0434\u0435\u043b\u0430\u043b Q8_0\u00a0(\u0432 GGUF\u2011\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u0434\u043b\u044f\u00a0\u043f\u043e\u043b\u043d\u043e\u0442\u044b \u043b\u0435\u0436\u0430\u0442 \u0442\u0430\u043a\u0436\u0435 F16, Q5_0\u00a0\u0438 Q4_0, \u043d\u043e\u00a0\u043e\u043f\u0443\u0441\u043a\u0430\u0442\u044c\u0441\u044f \u043d\u0438\u0436\u0435 Q8_0\u00a0\u043d\u0435\u0437\u0430\u0447\u0435\u043c).<\/p>\n<h3>\u041e\u0434\u043d\u0430 \u0446\u0438\u0444\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0447\u0442\u0438 \u0438\u0441\u043f\u043e\u0440\u0442\u0438\u043b\u0430 \u043c\u043e\u0434\u0435\u043b\u044c<\/h3>\n<p>\u041a\u00a0\u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u043c\u0435\u043d\u0442\u0443 checkpoint\u00a0\u0431\u044b\u043b \u043e\u0431\u0443\u0447\u0435\u043d, GGUF \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0441\u044f, Vulkan\u2011\u0441\u0435\u0440\u0432\u0435\u0440 \u043e\u0442\u0432\u0435\u0447\u0430\u043b, \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439 dev\u2011harness \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b\u00a0<code>0.800<\/code>. \u041c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0440\u0430\u0431\u043e\u0442\u0443 \u0437\u0430\u043a\u043e\u043d\u0447\u0435\u043d\u043d\u043e\u0439.<\/p>\n<p>\u0417\u0430\u0442\u0435\u043c \u044f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c RAG\u2011\u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0438 \u0443\u0432\u0438\u0434\u0435\u043b \u0441\u0442\u0440\u0430\u043d\u043d\u043e \u0441\u043b\u0430\u0431\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u00a0\u0434\u043b\u0438\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0445.<\/p>\n<p>\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u043e\u043a\u0430\u0437\u0430\u043b\u0430\u0441\u044c \u0432\u00a0\u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u043c\u00a0<code>tokenizer_config.json<\/code>:<\/p>\n<pre><code class=\"json\">{  \"model_max_length\": 256}<\/code><div class=\"code-explainer\"><a href=\"https:\/\/sourcecraft.dev\/\" class=\"tm-button code-explainer__link\" style=\"visibility: hidden;\"><img style=\"width:14px;height:14px;object-fit:cover;object-position:left;\"\/><\/a><\/div><\/pre>\n<p>\u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043e\u0441\u0442\u0430\u043b\u043e\u0441\u044c \u043e\u0442\u00a0\u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430. \u0411\u0430\u0437\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u043d\u043e\u00a0\u043a\u043b\u0438\u0435\u043d\u0442\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u044b\u0437\u044b\u0432\u0430\u043b\u0438 tokenizer \u0441\u00a0<code>truncation=True<\/code>\u00a0\u0438 \u043d\u0435\u00a0\u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u043b\u0438 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439\u00a0<code>max_length<\/code>, \u0431\u0440\u0430\u043b\u0438\u00a0\u043b\u0438\u043c\u0438\u0442 \u0438\u0437\u00a0tokenizer config \u0438 \u043c\u043e\u043b\u0447\u0430 \u043e\u0431\u0440\u0435\u0437\u0430\u043b\u0438 \u0432\u0445\u043e\u0434 \u0434\u043e 256\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>\u0412\u0430\u0436\u043d\u043e \u043d\u0435\u00a0\u043f\u043e\u0434\u043c\u0435\u043d\u044f\u0442\u044c \u043e\u0434\u043d\u0443 \u043e\u0448\u0438\u0431\u043a\u0443 \u0434\u0440\u0443\u0433\u043e\u0439. \u0417\u0430\u043c\u0435\u043d\u0430\u00a0<code>256<\/code>\u00a0\u043d\u0430\u00a0<code>8192<\/code>\u00a0\u043d\u0435\u00a0\u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442 STRIZH \u0432\u00a0\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e long\u2011context\u2011finetuned retriever. \u0424\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 contrastive train \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e\u00a0\u0431\u044b\u043b \u043d\u0430 256\u00a0\u0442\u043e\u043a\u0435\u043d\u0430\u0445. \u0418\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0431\u0438\u0440\u0430\u0435\u0442 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u0436\u0451\u0441\u0442\u043a\u0438\u0439 cap \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0443\u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u043e\u0442\u00a0\u0431\u0430\u0437\u044b \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u0432\u0445\u043e\u0434.<\/p>\n<p>\u041d\u0430\u00a0dogfood\u2011\u0442\u0435\u0441\u0442\u0435 (163\u00a0\u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u043f\u043e\u00a0\u043a\u043e\u0440\u043f\u0443\u0441\u0443 \u043c\u043e\u0435\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f, \u0441\u0430\u043c \u0445\u0430\u0440\u043d\u0435\u0441\u0441 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e \u043e\u043f\u0438\u0441\u0430\u043d \u043d\u0438\u0436\u0435, \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e\u00a0dogfood) \u0441\u00a0eval cap 1024\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u0442\u0430\u043a\u0430\u044f \u0440\u0430\u0437\u043d\u0438\u0446\u0430 (\u0432 RU\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u0435 \u043f\u0430\u0441\u0441\u0430\u0436\u0438 \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u044b \u0434\u043e 2000\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432, \u0442\u0430\u043c \u0445\u0432\u0430\u0442\u0430\u0435\u0442 cap 512; dogfood\u2011\u0447\u0430\u043d\u043a\u0438 \u043c\u0435\u0434\u0438\u0430\u043d\u043d\u043e ~631\u00a0\u0442\u043e\u043a\u0435\u043d, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043e\u0431\u0449\u0438\u0439 \u0434\u043b\u044f\u00a0\u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 cap 1024, \u0438\u043d\u0430\u0447\u0435 \u043d\u0435\u00a0\u0443\u0432\u0438\u0434\u0435\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442 cap 256):<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0420\u0435\u0436\u0438\u043c \u043e\u0434\u043d\u043e\u0433\u043e checkpoint<\/p>\n<\/th>\n<th>\n<p align=\"left\">Recall@10<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u043e\u0441\u043b\u0435 rerank<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH, \u0432\u0445\u043e\u0434 \u0434\u043e 1024<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.589<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.620<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH, \u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e 256<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.448<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.528<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.460<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.528<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041e\u0434\u043d\u0430 \u0446\u0438\u0444\u0440\u0430 \u0432\u00a0\u043a\u043e\u043d\u0444\u0438\u0433\u0435 \u0443\u0440\u043e\u043d\u0438\u043b\u0430 retrieval \u043d\u0430\u00a0<strong>0.141<\/strong>, \u043d\u0430 14,1\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043f\u0443\u043d\u043a\u0442\u0430. \u0412\u00a0\u043e\u0448\u0438\u0431\u043e\u0447\u043d\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435 STRIZH \u043e\u043f\u0443\u0441\u0442\u0438\u043b\u0441\u044f \u0434\u043e\u00a0\u0443\u0440\u043e\u0432\u043d\u044f\u00a0<code>rubert-tiny2<\/code>, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0434\u043e\u043b\u0436\u0435\u043d\u00a0\u0431\u044b\u043b \u0437\u0430\u043c\u0435\u043d\u0438\u0442\u044c: \u0444\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e \u0434\u0430\u0436\u0435 \u0447\u0443\u0442\u044c \u043d\u0438\u0436\u0435 (0.448\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 0.460), \u043d\u043e\u00a0\u044d\u0442\u043e \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0432\u00a0\u0434\u0432\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0438\u0437 163, \u0442\u043e \u0435\u0441\u0442\u044c \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0448\u0443\u043c\u0430, \u0430\u00a0\u043f\u043e\u0441\u043b\u0435 rerank \u0440\u043e\u0432\u043d\u043e \u043f\u043e\u0440\u043e\u0432\u043d\u0443.<\/p>\n<p>\u041f\u0440\u043e\u00a0\u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e\u0439 \u0442\u0430\u0431\u043b\u0438\u0446\u044b \u043d\u0443\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c \u043f\u0440\u044f\u043c\u043e: \u043d\u0430\u00a0\u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u0432\u044b\u043b\u043e\u0436\u0435\u043d\u044b \u0441\u044b\u0440\u044b\u0435 \u043b\u043e\u0433\u0438, \u0430\u00a0\u043d\u0430\u00a0\u044d\u0442\u0443 \u0442\u0430\u0431\u043b\u0438\u0446\u0443 \u043b\u043e\u0433\u0430 \u043d\u0435\u0442. \u041e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/tree\/main\/strizh-ru-retriever\/eval\/rag-battletest\" rel=\"noopener noreferrer nofollow\">\u0445\u0430\u0440\u043d\u0435\u0441\u0441<\/a>\u00a0\u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0441\u0430\u043c \u043f\u0440\u043e\u0433\u043e\u043d: dogfood\u2011\u043a\u043e\u0440\u043f\u0443\u0441 \u0441\u043e\u0431\u0440\u0430\u043d \u0438\u0437\u00a0\u043c\u043e\u0435\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f, \u0430 163\u00a0\u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u043a\u00a0\u043d\u0435\u043c\u0443 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u0439 LLM, \u0438 \u044d\u0442\u043e\u0442 \u043d\u0430\u0431\u043e\u0440 \u044f \u043d\u0435\u00a0\u0432\u044b\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u043b. \u041f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c \u0447\u0438\u0441\u043b\u043e \u043d\u0430\u00a0\u043c\u043e\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0435\u043b\u044c\u0437\u044f, \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0434\u0443\u0440\u0443 \u043d\u0430\u00a0\u0441\u0432\u043e\u0438\u0445 \u043c\u043e\u0436\u043d\u043e: \u0445\u0430\u0440\u043d\u0435\u0441\u0441 \u043d\u0430\u0442\u0440\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u00a0\u043b\u044e\u0431\u043e\u0439 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u043e\u0434\u043d\u043e\u0439 \u043a\u043e\u043c\u0430\u043d\u0434\u043e\u0439.<\/p>\n<p>\u041d\u0435\u00a0\u043a\u0430\u0436\u0434\u0430\u044f \u0441\u0442\u0440\u0430\u0442\u0430 \u0443\u0445\u0443\u0434\u0448\u0438\u043b\u0430\u0441\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e: \u043d\u0430\u00a0\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u043c synthetic cross\u2011lingual \u043f\u043e\u0434\u043d\u0430\u0431\u043e\u0440\u0435 cap 256\u00a0\u043d\u0435\u043e\u0436\u0438\u0434\u0430\u043d\u043d\u043e \u0434\u0430\u043b \u043b\u0443\u0447\u0448\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442. \u042f \u043d\u0435\u00a0\u0432\u0438\u0436\u0443 \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0439 \u0434\u0435\u043b\u0430\u0442\u044c \u0438\u0437\u00a0\u044d\u0442\u043e\u0433\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u044b\u0432\u043e\u0434: \u043d\u0430\u0431\u043e\u0440 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u0438 \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439. \u0417\u0430\u0442\u043e overall, long \u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0440\u0443\u0441\u0441\u043a\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0443\u044e \u043f\u043e\u0442\u0435\u0440\u044e \u043e\u0442\u00a0\u043e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u044f.<\/p>\n<p>\u042f \u0438\u0441\u043f\u0440\u0430\u0432\u0438\u043b\u00a0<code>model_max_length<\/code>\u00a0\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u043b dogfood\u2011\u043f\u0440\u043e\u0433\u043e\u043d \u0432\u00a0release checklist. \u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u0430 \u0434\u043b\u044f\u00a0RAG, \u0435\u0451 \u043d\u0443\u0436\u043d\u043e \u0445\u043e\u0442\u044f\u00a0\u0431\u044b \u0440\u0430\u0437 \u043f\u0440\u043e\u0433\u043d\u0430\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u0442\u043e\u0442 \u043f\u0443\u0442\u044c, \u043f\u043e\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0438\u0434\u0443\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f.<\/p>\n<h4>\u0427\u0435\u043a\u2011\u043b\u0438\u0441\u0442 \u043f\u0435\u0440\u0435\u0434 \u0440\u0435\u043b\u0438\u0437\u043e\u043c \u0441\u0432\u043e\u0435\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430<\/h4>\n<p>\u0412\u043e\u0442 \u044d\u0442\u043e\u0442 \u0447\u0435\u043a\u2011\u043b\u0438\u0441\u0442 \u0446\u0435\u043b\u0438\u043a\u043e\u043c, \u0447\u0442\u043e\u0431\u044b \u043d\u0435\u00a0\u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u043f\u043e\u00a0\u0442\u0435\u043a\u0441\u0442\u0443. \u041a\u0430\u0436\u0434\u044b\u0439 \u043f\u0443\u043d\u043a\u0442 \u043e\u043f\u043b\u0430\u0447\u0435\u043d \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0433\u0440\u0430\u0431\u043b\u0435\u0439: \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0438\u0437\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438, \u043f\u0430\u0440\u0430 \u0438\u0437\u00a0\u0441\u043e\u0441\u0435\u0434\u043d\u0438\u0445 \u0440\u0435\u043b\u0438\u0437\u043e\u0432 \u0442\u043e\u0439\u00a0\u0436\u0435\u00a0\u043b\u0438\u043d\u0435\u0439\u043a\u0438:<\/p>\n<ul>\n<li>\n<p><code>model_max_length<\/code>\u00a0\u0432\u00a0<code>tokenizer_config.json<\/code>\u00a0\u0440\u0430\u0432\u0435\u043d \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u043c\u0443\u00a0\u043b\u0438\u043c\u0438\u0442\u0443, \u0430\u00a0\u043d\u0435\u00a0train max length (\u0443 \u043c\u0435\u043d\u044f: 256\u00a0\u0432\u043c\u0435\u0441\u0442\u043e 8192\u00a0\u2192 \u221214,1\u00a0\u043f.\u043f. \u043d\u0430\u00a0dogfood\u2011\u043e\u0431\u043a\u0430\u0442\u043a\u0435);<\/p>\n<\/li>\n<li>\n<p>pooling \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d \u0432\u00a0\u043a\u0430\u0436\u0434\u043e\u043c \u0446\u0435\u043b\u0435\u0432\u043e\u043c \u0440\u0430\u043d\u0442\u0430\u0439\u043c\u0435: ST\u2011\u043a\u043e\u043d\u0444\u0438\u0433,\u00a0<code>llama-server --pooling<\/code>, vLLM\u00a0<code>--pooler-config<\/code>\u00a0(CLS \u0432\u043c\u0435\u0441\u0442\u043e mean \u2192\u00a0<code>Recall@10 \u2248 0.02<\/code>);<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0439 \u043a\u043e\u043d\u0432\u0435\u0440\u0442\u0430\u0446\u0438\u0438 (GGUF, \u043a\u0432\u0430\u043d\u0442) \u043f\u0440\u043e\u0433\u043d\u0430\u043d retrieval\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e cosine \u043d\u0430\u00a0\u043f\u0430\u0440\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439;<\/p>\n<\/li>\n<li>\n<p>\u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u0432\u0430\u043d\u0442 \u0437\u0430\u043c\u0435\u0440\u0435\u043d \u0442\u0435\u043c\u00a0\u0436\u0435 quality\u2011\u0445\u0430\u0440\u043d\u0435\u0441\u0441\u043e\u043c, \u0430\u00a0\u043d\u0435\u00a0\u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043e\u0431\u0440\u0430\u043d;<\/p>\n<\/li>\n<li>\n<p>eval \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d \u043d\u0430\u00a0\u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u00a0train \u043f\u043e\u00a0\u0432\u0441\u0435\u0439\u00a0\u043b\u0438\u043d\u0438\u0438 \u0432\u0435\u0441\u043e\u0432, \u0432\u043a\u043b\u044e\u0447\u0430\u044f donor, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u00a0\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0443 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u043c\u0430\u043d\u0434\u044b \u0438\u0437\u00a0model card \u0432\u044b\u043f\u043e\u043b\u043d\u0435\u043d\u044b \u043d\u0430\u00a0\u0443\u0436\u0435 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d\u043d\u043e\u043c \u0430\u0440\u0442\u0435\u0444\u0430\u043a\u0442\u0435, \u0442\u0430\u043a, \u043a\u0430\u043a\u00a0\u0438\u0445 \u0432\u044b\u043f\u043e\u043b\u043d\u0438\u0442 \u0447\u0443\u0436\u043e\u0439 \u0447\u0435\u043b\u043e\u0432\u0435\u043a (\u0443 \u043c\u0435\u043d\u044f \u0442\u0430\u043a \u0432\u0441\u043f\u043b\u044b\u0432\u0430\u043b \u0441\u043b\u043e\u043c\u0430\u043d\u043d\u044b\u0439\u00a0<code>tokenizer_class<\/code>\u00a0\u043f\u043e\u0434\u00a0vLLM);<\/p>\n<\/li>\n<li>\n<p>\u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0433\u043d\u0430\u043d\u0430 \u0447\u0435\u0440\u0435\u0437 \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0439 RAG\u2011\u043f\u0443\u0442\u044c \u0441\u00a0\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u043c\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0434\u043b\u0438\u043d\u044b, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0435\u0440\u0435\u0437 eval \u0441\u00a0\u043e\u0431\u0440\u0435\u0437\u0430\u043d\u043d\u044b\u043c\u0438 \u043f\u0430\u0441\u0441\u0430\u0436\u0430\u043c\u0438;<\/p>\n<\/li>\n<li>\n<p>\u0432\u00a0\u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0435 \u043d\u0435\u0442 \u043f\u0440\u0435\u0432\u043e\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u0441\u0442\u0435\u043f\u0435\u043d\u0435\u0439 (\u00ab\u0441\u0430\u043c\u044b\u0439\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439\u00bb, \u00ab\u043d\u0430 \u0432\u0441\u0435\u0445 \u043e\u0441\u044f\u0445\u00bb), \u043d\u0435\u00a0\u043f\u043e\u043a\u0440\u044b\u0442\u044b\u0445 \u0438\u0441\u0447\u0435\u0440\u043f\u044b\u0432\u0430\u044e\u0449\u0438\u043c \u0437\u0430\u043c\u0435\u0440\u043e\u043c.<\/p>\n<\/li>\n<\/ul>\n<h3>Dogfood: \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u043c \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438<\/h3>\n<p>\u0414\u043b\u044f\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0439 \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u044f \u0441\u043e\u0431\u0440\u0430\u043b \u043a\u043e\u0440\u043f\u0443\u0441 \u0438\u0437\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u044f AGmind:<\/p>\n<ul>\n<li>\n<p>README \u0438 \u0440\u0443\u0441\u0441\u043a\u0430\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p>Python;<\/p>\n<\/li>\n<li>\n<p>service YAML;<\/p>\n<\/li>\n<li>\n<p>Ansible;<\/p>\n<\/li>\n<li>\n<p>\u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0435 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438 \u043a\u043e\u043c\u0430\u043d\u0434\u044b;<\/p>\n<\/li>\n<li>\n<p>\u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c 1699\u00a0\u0447\u0430\u043d\u043a\u043e\u0432. \u042d\u0442\u043e\u0442 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 \u044f \u043d\u0435\u00a0\u0432\u043a\u043b\u044e\u0447\u0430\u043b \u0432\u00a0retrieval\u2011\u0434\u0430\u0442\u0430\u0441\u0435\u0442\u044b STRIZH, \u0438 \u043e\u043d \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0441\u044f \u043a\u00a0\u0434\u0440\u0443\u0433\u043e\u043c\u0443 \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u043d\u043e\u043c\u0443 \u0434\u043e\u043c\u0435\u043d\u0443 (\u044f \u043d\u0435\u00a0\u0437\u0430\u044f\u0432\u043b\u044f\u044e \u043f\u043e\u043b\u043d\u044b\u0439 provenance\u2011\u0430\u0443\u0434\u0438\u0442 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0438 teacher\u2011\u043c\u043e\u0434\u0435\u043b\u0435\u0439).<\/p>\n<p>\u0414\u043b\u044f\u00a0\u043d\u0435\u0433\u043e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0430\u044f Qwen\u2011\u043c\u043e\u0434\u0435\u043b\u044c (<code>Qwen3.6-35B-A3B<\/code>, Q4_K_M \u0447\u0435\u0440\u0435\u0437 llama.cpp; temperature 0,3, \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 seed \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u0447\u0430\u043d\u043a\u043e\u0432) \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0430 163\u00a0\u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u043f\u043e\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u043c \u0441\u0442\u0440\u0430\u0442\u0430\u043c. \u041f\u0440\u0430\u0432\u0438\u043b\u043e gold: \u0432\u043e\u043f\u0440\u043e\u0441 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c\u0443 \u0447\u0430\u043d\u043a\u0443 \u0441\u00a0\u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u0435\u043c, \u0447\u0442\u043e\u0431\u044b \u043e\u0442\u0432\u0435\u0442 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043b\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u0432\u00a0\u043d\u0451\u043c; \u044d\u0442\u043e\u0442 \u0447\u0430\u043d\u043a \u0438 \u043d\u0430\u0437\u043d\u0430\u0447\u0430\u0435\u0442\u0441\u044f \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u043c gold. \u0422\u0430\u043a\u043e\u0439 single\u2011gold \u043c\u043e\u0436\u0435\u0442 \u0437\u0430\u043d\u0438\u0436\u0430\u0442\u044c recall, \u0435\u0441\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u0447\u0430\u043d\u043a \u0442\u043e\u0436\u0435 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u0442\u0432\u0435\u0442, \u043f\u0440\u0438\u0447\u0451\u043c \u043d\u0435\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e \u0434\u043b\u044f\u00a0\u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0430\u0443\u0434\u0438\u0442\u0430 \u0432\u0441\u0435\u0445 163\u00a0\u043f\u0430\u0440 \u0432\u00a0\u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d\u043d\u044b\u0445 \u043c\u0430\u0442\u0435\u0440\u0438\u0430\u043b\u0430\u0445 \u043d\u0435\u0442. \u0427\u0430\u043d\u043a\u0435\u0440 \u0440\u0435\u043a\u0443\u0440\u0441\u0438\u0432\u043d\u044b\u0439 \u043f\u043e\u00a0\u0430\u0431\u0437\u0430\u0446\u0430\u043c: \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 2200\u20132600\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432 \u0432\u00a0\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442\u00a0\u0442\u0438\u043f\u0430 \u0444\u0430\u0439\u043b\u0430, overlap 150\u2013200\u00a0\u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432; \u0433\u0440\u0443\u0431\u0430\u044f \u043e\u0446\u0435\u043d\u043a\u0430 \u043c\u0435\u0434\u0438\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0447\u0430\u043d\u043a\u0430: \u043e\u043a\u043e\u043b\u043e 631\u00a0\u0442\u043e\u043a\u0435\u043d\u0430.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0421\u0442\u0440\u0430\u0442\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0412\u043e\u043f\u0440\u043e\u0441\u043e\u0432<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0430\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">55<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0438\u0439 \u2192 \u043a\u043e\u0434\/\u043a\u043e\u043d\u0444\u0438\u0433<\/p>\n<\/td>\n<td>\n<p align=\"left\">28<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">40<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Cross\u2011lingual<\/p>\n<\/td>\n<td>\n<p align=\"left\">40<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u043e\u0441\u043b\u0435 dense retrieval \u044f \u043e\u0442\u0434\u0430\u0432\u0430\u043b top-20\u00a0\u0432\u00a0<code>bge-reranker-v2-m3<\/code>\u00a0\u0438 \u0441\u0447\u0438\u0442\u0430\u043b \u043f\u043e\u043f\u0430\u0434\u0430\u043d\u0438\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u043d\u0430\u0437\u043d\u0430\u0447\u0435\u043d\u043d\u043e\u0433\u043e gold chunk \u0432\u00a0top-10.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041c\u043e\u0434\u0435\u043b\u044c<\/p>\n<\/th>\n<th>\n<p align=\"left\">Retrieval Recall@10<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041f\u043e\u0441\u043b\u0435 rerank<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>bge-m3<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.791<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.816<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>USER2-small<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.650<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.712<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><strong>STRIZH<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.589<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.620<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\"><code>rubert-tiny2<\/code><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.460<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.528<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">STRIZH \u0441\u00a0\u043e\u0448\u0438\u0431\u043e\u0447\u043d\u044b\u043c cap 256<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.448<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.528<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041f\u043e\u00a0\u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u043c \u0441\u0442\u0440\u0430\u0442\u0430\u043c \u0434\u043e\u00a0rerank:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0421\u0442\u0440\u0430\u0442\u0430<\/p>\n<\/th>\n<th>\n<p align=\"left\">STRIZH<\/p>\n<\/th>\n<th>\n<p align=\"left\">tiny2<\/p>\n<\/th>\n<th>\n<p align=\"left\">USER2<\/p>\n<\/th>\n<th>\n<p align=\"left\">bge\u2011m3<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0430\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.673<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.491<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.655<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.782<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0420\u0443\u0441\u0441\u043a\u0438\u0439 \u2192 \u043a\u043e\u0434<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.750<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.714<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.786<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.857<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0414\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.600<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.575<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.575<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.825<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Cross\u2011lingual<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.350<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.125<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.625<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.725<\/strong><\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u042d\u0442\u043e\u0442 \u0442\u0435\u0441\u0442 \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0434\u0438\u043b \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0435 \u043f\u043e\u0437\u0438\u0446\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435:<\/p>\n<ul>\n<li>\n<p>STRIZH \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u0435\u0435\u00a0<code>rubert-tiny2<\/code>\u00a0\u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0435\u00a0<code>USER2-small<\/code>\u00a0\u0438\u00a0<code>bge-m3<\/code>\u00a0\u0432\u00a0\u0446\u0435\u043b\u043e\u043c \u043b\u0443\u0447\u0448\u0435;<\/p>\n<\/li>\n<li>\n<p>cross\u2011lingual \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0441\u043b\u0430\u0431\u044b\u043c \u043c\u0435\u0441\u0442\u043e\u043c;<\/p>\n<\/li>\n<li>\n<p>reranker \u043d\u0435\u00a0\u043c\u043e\u0436\u0435\u0442 \u0432\u0435\u0440\u043d\u0443\u0442\u044c \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 retriever \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435\u00a0\u0432\u043a\u043b\u044e\u0447\u0438\u043b \u0432\u00a0\u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u044b.<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u043e\u00a0\u0438 \u044d\u0442\u0443 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0443 \u043d\u0435\u043b\u044c\u0437\u044f \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0442\u044c \u0432 \u00ab\u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0439 production benchmark\u00bb. \u0412\u043e\u043f\u0440\u043e\u0441\u044b \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435, \u0430\u00a0gold \u0434\u043b\u044f\u00a0\u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u043e\u0434\u0438\u043d. \u0412\u00a0\u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 \u043c\u043e\u0433\u0443\u0442\u00a0\u0431\u044b\u0442\u044c \u0434\u0440\u0443\u0433\u0438\u0435 \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0435 \u0447\u0430\u043d\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0430 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u043e\u0448\u0438\u0431\u043a\u043e\u0439. \u041a\u00a0\u0442\u043e\u043c\u0443\u00a0\u0436\u0435 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0442\u0435\u043c\u00a0\u0436\u0435 \u043f\u0440\u0438\u0451\u043c\u043e\u043c (LLM\u2011\u0432\u043e\u043f\u0440\u043e\u0441 \u043f\u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c\u0443 \u043f\u0430\u0441\u0441\u0430\u0436\u0443), \u0447\u0442\u043e\u00a0\u0438 GPL\u2011\u0447\u0430\u0441\u0442\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f STRIZH: \u044d\u0442\u043e \u043c\u043e\u0433\u043b\u043e \u0441\u043c\u0435\u0441\u0442\u0438\u0442\u044c \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0432\u00a0\u0435\u0433\u043e \u043f\u043e\u043b\u044c\u0437\u0443. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 dogfood \u0437\u0434\u0435\u0441\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043a\u0430\u043a\u00a0\u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0439 sanity\u2011check \u0438 \u0441\u043f\u043e\u0441\u043e\u0431 \u043f\u043e\u0439\u043c\u0430\u0442\u044c \u0438\u043d\u0442\u0435\u0433\u0440\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0434\u0435\u0444\u0435\u043a\u0442\u044b, \u0430\u00a0\u043d\u0435\u00a0\u0437\u0430\u043c\u0435\u043d\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0439 evaluation\u2011\u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0435.<\/p>\n<p>\u0412\u0435\u0441\u044c \u044d\u0442\u043e\u0442 \u0445\u0430\u0440\u043d\u0435\u0441\u0441 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043d:\u00a0<a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/tree\/main\/strizh-ru-retriever\/eval\/rag-battletest\" rel=\"noopener noreferrer nofollow\"><code>eval\/rag-battletest<\/code><\/a>: \u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440 build_corpus \u2192 gen_gold \u2192 embed \u2192 eval_retrieve \u2192 eval_answer. \u041e\u043d \u043d\u0430\u0442\u0440\u0430\u0432\u043b\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u00a0\u043b\u044e\u0431\u043e\u0439 \u0432\u0430\u0448 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 (<code>python build_<\/code><a href=\"http:\/\/corpus.py\" rel=\"noopener noreferrer nofollow\"><code>corpus.py<\/code><\/a><code> \/path\/to\/repo<\/code>) \u0438 \u043c\u0435\u043d\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u0434\u0435\u0440\u0436\u0430 \u043a\u043e\u0440\u043f\u0443\u0441, \u0447\u0430\u043d\u043a\u0435\u0440, \u0432\u043e\u043f\u0440\u043e\u0441\u044b, reranker \u0438 answering\u2011LLM \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438. \u0422\u043e \u0435\u0441\u0442\u044c \u0441\u0440\u0430\u0432\u043d\u0438\u0442\u044c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0445 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0445, \u0430\u00a0\u043d\u0435\u00a0\u043d\u0430\u00a0\u043c\u043e\u0438\u0445 \u0446\u0438\u0444\u0440\u0430\u0445.<\/p>\n<h3>\u0413\u0434\u0435 STRIZH \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b<\/h3>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0432\u0441\u0435\u0445 \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u0441\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0443\u0437\u043a\u043e\u0439 \u0438 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u043e\u043d\u044f\u0442\u043d\u043e\u0439.<\/p>\n<p>STRIZH \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b, \u043a\u043e\u0433\u0434\u0430 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u044e\u0442\u0441\u044f \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0443\u0441\u043b\u043e\u0432\u0438\u0439:<\/p>\n<ul>\n<li>\n<p>\u043a\u043e\u0440\u043f\u0443\u0441 \u0432\u00a0\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u0440\u0443\u0441\u0441\u043a\u0438\u0439;<\/p>\n<\/li>\n<li>\n<p>dense retriever \u0434\u0435\u043b\u0438\u0442 \u043e\u0434\u0438\u043d GPU \u0441\u00a0LLM \u0438 reranker;<\/p>\n<\/li>\n<li>\n<p>\u043a\u043e\u0440\u043f\u0443\u0441 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u043d\u043e \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u0435\u0442\u0441\u044f, \u0442\u043e \u0435\u0441\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0431\u043e\u0440\u0435\u0442\u0441\u044f \u0437\u0430\u00a0GPU \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0\u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 (\u043f\u043e \u0437\u0430\u043c\u0435\u0440\u0430\u043c \u0438\u043c\u0435\u043d\u043d\u043e \u044d\u0442\u043e, \u0430\u00a0\u043d\u0435\u00a0\u043b\u0430\u0442\u0435\u043d\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u0434\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0430, \u0440\u0435\u0448\u0430\u0435\u0442 \u0438\u0441\u0445\u043e\u0434);<\/p>\n<\/li>\n<li>\n<p>\u043d\u0443\u0436\u0435\u043d \u0435\u0434\u0438\u043d\u044b\u0439 no\u2011prefix embedding contract;<\/p>\n<\/li>\n<li>\n<p>\u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432\u043d\u0443\u0442\u0440\u0438 hybrid retrieval \u0438\/\u0438\u043b\u0438 \u043f\u0435\u0440\u0435\u0434 reranker;<\/p>\n<\/li>\n<li>\n<p>\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e\u00a0<code>rubert-tiny2<\/code>\u00a0\u0443\u0436\u0435 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u0430\u00a0\u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0439 retriever \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0434\u043e\u0440\u043e\u0433 \u043f\u043e\u00a0compute.<\/p>\n<\/li>\n<\/ul>\n<p>\u041d\u0435\u00a0\u0441\u0442\u043e\u0438\u0442 \u0431\u0440\u0430\u0442\u044c STRIZH, \u043a\u043e\u0433\u0434\u0430:<\/p>\n<ul>\n<li>\n<p>\u043d\u0443\u0436\u0435\u043d \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c retrieval\u2011\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e \u043e\u0442\u00a0\u0440\u0430\u0437\u043c\u0435\u0440\u0430;<\/p>\n<\/li>\n<li>\n<p>\u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u0430\u044f;<\/p>\n<\/li>\n<li>\n<p>\u0432\u0430\u0436\u0435\u043d cross\u2011lingual \u043f\u043e\u0438\u0441\u043a EN\u2194RU;<\/p>\n<\/li>\n<li>\n<p>\u043c\u043e\u0436\u043d\u043e \u0431\u0435\u0437\u0431\u043e\u043b\u0435\u0437\u043d\u0435\u043d\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c query\/document prefixes;<\/p>\n<\/li>\n<li>\n<p>inference \u0438\u0434\u0451\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430\u00a0CPU;<\/p>\n<\/li>\n<li>\n<p><code>bge-m3<\/code>\u00a0\u0438\u043b\u0438\u00a0<code>USER2-small<\/code>\u00a0\u0443\u0436\u0435 \u0443\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0432\u00a0latency \u0438 \u043d\u0435\u00a0\u043c\u0435\u0448\u0430\u044e\u0442 LLM.<\/p>\n<\/li>\n<\/ul>\n<p>\u0412\u00a0\u044d\u0442\u0438\u0445 \u0441\u043b\u0443\u0447\u0430\u044f\u0445 \u0431\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0446\u0438\u043e\u043d\u0430\u043b\u044c\u043d\u0435\u0435.<\/p>\n<h3>\u0427\u0442\u043e\u00a0\u0432 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c<\/h3>\n<p>\u0424\u0438\u043d\u0430\u043b\u044c\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/p>\n<\/th>\n<th>\n<p align=\"left\">STRIZH<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">24,4\u00a0\u043c\u043b\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Transformer\u2011\u0441\u043b\u043e\u0438<\/p>\n<\/td>\n<td>\n<p align=\"left\">4<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Hidden \/ output dim<\/p>\n<\/td>\n<td>\n<p align=\"left\">384<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0421\u043b\u043e\u0432\u0430\u0440\u044c<\/p>\n<\/td>\n<td>\n<p align=\"left\">50\u202f368<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u0439 context limit<\/p>\n<\/td>\n<td>\n<p align=\"left\">8192<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Train max length<\/p>\n<\/td>\n<td>\n<p align=\"left\">256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Pooling<\/p>\n<\/td>\n<td>\n<p align=\"left\">mean<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f<\/p>\n<\/td>\n<td>\n<p align=\"left\">L2<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041f\u0440\u0435\u0444\u0438\u043a\u0441\u044b<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043d\u0435\u00a0\u0442\u0440\u0435\u0431\u0443\u044e\u0442\u0441\u044f<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Retrieval<\/p>\n<\/td>\n<td>\n<p align=\"left\">dense single\u2011vector<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u044f\u0437\u044b\u043a<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0440\u0443\u0441\u0441\u043a\u0438\u0439<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0426\u0435\u043b\u0435\u0432\u043e\u0439 deployment<\/p>\n<\/td>\n<td>\n<p align=\"left\">GGUF \/ llama.cpp \/ Vulkan<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u042f \u043d\u0435\u00a0\u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 retriever, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442 \u043a\u0440\u0443\u043f\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u043e\u00a0\u0432\u0441\u0435\u0445 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u044f\u0445. \u041f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441:<\/p>\n<ul>\n<li>\n<p>\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043b\u0443\u0447\u0448\u0435\u00a0<code>rubert-tiny2<\/code>\u00a0\u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c retrieval;<\/p>\n<\/li>\n<li>\n<p>\u0441\u0430\u043c\u044b\u0439 \u0432\u044b\u0441\u043e\u043a\u0438\u0439 isolated short\u2011query throughput \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 \u043d\u0430\u00a0\u043c\u043e\u0451\u043c Strix Halo\/Vulkan\u2011\u0441\u0442\u0435\u043a\u0435;<\/p>\n<\/li>\n<li>\n<p>\u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0441\u043b\u0430\u0431\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 cross\u2011lingual \u043f\u043e\u0438\u0441\u043a\u0435;<\/p>\n<\/li>\n<li>\n<p>\u043d\u0435\u00a0\u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0434\u043b\u044f\u00a0CPU;<\/p>\n<\/li>\n<li>\n<p>\u043a\u0440\u0430\u0439\u043d\u0435 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a\u00a0\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u043c pooling \u0438 truncation\u2011\u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0430\u043c.<\/p>\n<\/li>\n<\/ul>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044b \u0434\u043b\u044f\u00a0\u043c\u0435\u043d\u044f \u043e\u043a\u0430\u0437\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u00a0\u043f\u0440\u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u0443\u044e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443.<\/p>\n<ol>\n<li>\n<p><strong>\u0421\u043d\u0438\u0436\u0435\u043d\u0438\u0435 MSE \u043a\u00a0\u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u0441\u0430\u043c\u043e \u043f\u043e\u00a0\u0441\u0435\u0431\u0435 \u043d\u0435\u00a0\u0434\u0430\u043b\u043e retrieval.<\/strong>\u00a0MSE \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e \u0441\u043d\u0438\u0436\u0430\u043b\u0441\u044f, \u043d\u043e\u00a0retrieval \u043e\u0441\u0442\u0430\u043b\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u043c\u0451\u0440\u0442\u0432\u044b\u043c:\u00a0<code>Recall@10 = 0.029<\/code>.<\/p>\n<\/li>\n<li>\n<p><strong>\u0420\u043e\u0441\u0442 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0441\u0438\u0433\u043d\u0430\u043b\u0430 \u0434\u0430\u043b \u0431\u043e\u043b\u044c\u0448\u0435, \u0447\u0435\u043c \u0440\u043e\u0441\u0442 \u043e\u0431\u044a\u0451\u043c\u0430 \u0442\u043e\u0433\u043e\u00a0\u0436\u0435 \u0441\u0438\u0433\u043d\u0430\u043b\u0430.<\/strong>\u00a0\u0412\u00a0donor\u2011\u043b\u0438\u043d\u0438\u0438 hard negatives \u0434\u0430\u043b\u0438 +0,9\u00a0\u043f.\u043f. (<code>0.737 \u2192 0.746<\/code>) \u0442\u0430\u043c, \u0433\u0434\u0435 2,44-\u043a\u0440\u0430\u0442\u043d\u044b\u0439 \u0440\u043e\u0441\u0442 \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u0434\u0430\u043b +0,3; \u043e\u0431\u0435 \u0434\u0435\u043b\u044c\u0442\u044b \u043c\u0430\u043b\u044b, \u0438 \u0432\u044b\u0432\u043e\u0434 \u043b\u043e\u043a\u0430\u043b\u0435\u043d \u0434\u043b\u044f\u00a0donor\u2011\u043b\u0438\u043d\u0438\u0438: \u0432\u00a0V2\u00a0\u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u0432\u043a\u043b\u0430\u0434 \u0434\u0430\u043b \u0441\u043e\u0441\u0442\u0430\u0432 \u0441\u0432\u0435\u0436\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445, \u0430\u00a0\u043d\u0435\u00a0mining (\u0441\u043c. \u0443\u0440\u043e\u043a 4).<\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u043e\u043a\u0440\u0430\u0449\u0430\u0442\u044c \u0441\u043b\u043e\u0438 \u043d\u0443\u0436\u043d\u043e \u0432\u043c\u0435\u0441\u0442\u0435 \u0441\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u044b\u043c config.<\/strong>\u00a0\u0414\u043b\u044f\u00a0ModernBERT \u0432\u0430\u0436\u043d\u044b \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u0441\u0430 \u0431\u043b\u043e\u043a\u043e\u0432, \u043d\u043e\u00a0\u0438 local\/global layer types \u0438 RoPE.<\/p>\n<\/li>\n<li>\n<p><strong>\u0421\u0430\u043c\u044b\u0439 \u0434\u043e\u0440\u043e\u0433\u043e\u0439 \u044d\u0442\u0430\u043f \u043d\u0435\u00a0\u043e\u0431\u044f\u0437\u0430\u043d \u0434\u0430\u0442\u044c \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u043f\u0440\u0438\u0440\u043e\u0441\u0442.<\/strong>\u00a0\u0412\u00a0V2\u00a0\u043e\u0431\u044b\u0447\u043d\u044b\u0439 co\u2011train \u0443\u043b\u0443\u0447\u0448\u0438\u043b \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u0440\u043e\u0445\u043e\u0434\u0430 \u0441\u00a0BGE\u2011M3\u00a0hard negatives.<\/p>\n<\/li>\n<li>\n<p><strong>Evaluation \u043c\u043e\u0436\u0435\u0442\u00a0\u0431\u044b\u0442\u044c \u0432\u043e\u0441\u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u043c\u043e\u0439 \u0438 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0437\u0430\u0433\u0440\u044f\u0437\u043d\u0451\u043d\u043d\u043e\u0439.<\/strong>\u00a0Mixed\u2011score \u043f\u0440\u0438\u0448\u043b\u043e\u0441\u044c \u0440\u0430\u0437\u0436\u0430\u043b\u043e\u0432\u0430\u0442\u044c \u0438\u0437\u00a0\u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430 \u0432\u043e\u00a0\u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u044e\u044e \u0434\u0438\u0430\u0433\u043d\u043e\u0441\u0442\u0438\u043a\u0443 \u043f\u043e\u0441\u043b\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u044f \u0441\u00a0train. \u041f\u0440\u0438\u0447\u0451\u043c exposure \u043d\u0430\u0441\u043b\u0435\u0434\u0443\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0432\u0435\u0441\u0430: \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u043e\u043d\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b \u0447\u0438\u0441\u0442\u044b\u043c, \u0430\u00a0\u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0435 \u0441\u0438\u0434\u0435\u043b\u043e \u0432\u00a0donor\u2011\u043b\u0438\u043d\u0438\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u0442\u044c \u043d\u0443\u0436\u043d\u043e \u0432\u0441\u044e \u0446\u0435\u043f\u043e\u0447\u043a\u0443 donor \u2192 student, \u0430\u00a0\u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 train.<\/p>\n<\/li>\n<li>\n<p><strong>\u041c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0435\u00a0\u043d\u0430\u00a0checkpoint.<\/strong>\u00a0Mean \u0432\u043c\u0435\u0441\u0442\u043e CLS \u0438 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0439\u00a0<code>model_max_length<\/code>\u00a0\u043e\u043a\u0430\u0437\u0430\u043b\u0438\u0441\u044c \u0432\u0430\u0436\u043d\u0435\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u043f\u0443\u043d\u043a\u0442\u043e\u0432, \u0434\u043e\u0431\u044b\u0442\u044b\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c.<\/p>\n<\/li>\n<\/ol>\n<h3>\u0421\u0441\u044b\u043b\u043a\u0438<\/h3>\n<ul>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/AGmind\/strizh-ru-retriever\" rel=\"noopener noreferrer nofollow\">STRIZH \u043d\u0430\u00a0Hugging Face<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/AGmind\/strizh-ru-retriever-GGUF\" rel=\"noopener noreferrer nofollow\">GGUF\u2011\u0432\u0435\u0441\u0430<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/botAGI\/AGmind-ML\/tree\/main\/strizh-ru-retriever\" rel=\"noopener noreferrer nofollow\">\u041a\u043e\u0434 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438 evaluation<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/deepvk\/RuModernBERT-small\" rel=\"noopener noreferrer nofollow\">\u0411\u0430\u0437\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c RuModernBERT\u2011small<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/deepvk\/USER2-small\" rel=\"noopener noreferrer nofollow\">USER2-small<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/intfloat\/multilingual-e5-small\" rel=\"noopener noreferrer nofollow\">multilingual\u2011e5-small<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/BAAI\/bge-m3\" rel=\"noopener noreferrer nofollow\">BGE\u2011M3<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/huggingface.co\/cointegrated\/rubert-tiny2\" rel=\"noopener noreferrer nofollow\">rubert\u2011tiny2<\/a><\/p>\n<\/li>\n<\/ul>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1064138\/\">https:\/\/habr.com\/ru\/articles\/1064138\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>TL;DR.\u00a0\u0423\u00a0\u043c\u0435\u043d\u044f \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 RAG \u043d\u0430\u00a0AMD Strix Halo. \u041f\u0430\u043c\u044f\u0442\u0438 \u0442\u0430\u043c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e, \u043d\u043e\u00a0\u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u0441\u0451 \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u043e\u0434\u0438\u043d iGPU: \u0435\u0433\u043e \u0434\u0435\u043b\u044f\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f, \u0430\u00a0\u0432\u00a0\u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u043e\u0439 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438 \u0442\u0443\u0434\u0430\u00a0\u0436\u0435 \u0432\u0441\u0442\u0430\u0451\u0442 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043c\u043d\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u043b\u0441\u044f \u043d\u0435\u00a0\u0441\u0430\u043c\u044b\u0439 \u0442\u043e\u0447\u043d\u044b\u0439 retriever \u0432\u043e\u043e\u0431\u0449\u0435, \u0430\u00a0\u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u043b\u0451\u0433\u043a\u0438\u0439 \u0440\u0443\u0441\u0441\u043a\u0438\u0439 retriever, \u043a\u043e\u0442\u043e\u0440\u044b\u0439\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0437\u0430\u0432\u0435\u0440\u0448\u0430\u0435\u0442 \u043f\u0435\u0440\u0432\u0443\u044e \u0441\u0442\u0430\u0434\u0438\u044e \u043f\u043e\u0438\u0441\u043a\u0430 \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 GPU. \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u0431\u043e\u043b\u044c\u043d\u043e, \u044f \u0432\u00a0\u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043c\u0435\u0440\u0438\u043b \u043d\u0430\u00a0\u0436\u0438\u0432\u043e\u043c \u0443\u0437\u043b\u0435.\u041d\u0430\u00a0\u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0435 \u043f\u043e\u043b\u043d\u043e\u0439 \u0442\u044f\u0433\u0438 bge\u2011m3\u00a0\u0441\u043d\u0438\u0437\u0438\u043b generation throughput\u00a0Qwen3.6-35B-A3B\u00a0\u043d\u0430 92%, STRIZH \u043d\u0430 28% \u043f\u0440\u0438\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 12,6-\u043a\u0440\u0430\u0442\u043d\u043e\u043c \u0442\u0435\u043c\u043f\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 (\u043e\u043a\u043d\u0430 \u0437\u0430\u043c\u0435\u0440\u0430 \u0442\u0430\u043c \u043d\u0435\u0440\u0430\u0432\u043d\u044b\u0435, 20,6\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 173,6\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u044b, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432\u0440\u0435\u043c\u0435\u043d\u0435\u043c \u043f\u044f\u0442\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0439; \u0440\u0430\u0432\u043d\u043e\u043e\u043a\u043e\u043d\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0430 \u043d\u0438\u0436\u0435 \u0434\u0430\u0451\u0442 \u043f\u043e\u00a0\u0431\u0430\u0442\u0447\u0430\u043c \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 9,4-\u043a\u0440\u0430\u0442\u043d\u044b\u0439 \u043e\u0442\u0440\u044b\u0432). \u0412\u00a0\u043f\u043e\u043b\u043d\u043e\u043c RAG\u2011\u043a\u043e\u043d\u0432\u0435\u0439\u0435\u0440\u0435 \u0441\u00a0\u0447\u0435\u0442\u044b\u0440\u044c\u043c\u044f \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u0441\u043a\u0438\u043c\u0438 \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438 \u0438 \u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0435\u0439 STRIZH \u0443\u0434\u0435\u0440\u0436\u0430\u043b 14,0\u00a0\u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u0438 \u0432\u00a0\u043c\u0438\u043d\u0443\u0442\u0443 \u043f\u0440\u043e\u0442\u0438\u0432 6,0\u00a0\u0443\u00a0bge\u2011m3\u00a0\u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b 46\u00a0\u0431\u0430\u0442\u0447\u0435\u0439 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u043f\u0440\u043e\u0442\u0438\u0432 4,9. \u041f\u0440\u0438\u00a0\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 200\u00a0\u043e\u043d\u043b\u0430\u0439\u043d\u2011\u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u043f\u0440\u043e\u0441\u0435\u0434\u0430\u043b\u0430 \u043d\u0430 2% \u0441\u043e STRIZH \u0438 \u043d\u0430 7% \u0441\u00a0bge\u2011m3. \u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u0441\u0440\u0430\u0437\u0443:\u00a0\u0431\u0435\u0437\u00a0\u0444\u043e\u043d\u043e\u0432\u043e\u0439 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 STRIZH \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 \u043d\u0435\u00a0\u043f\u043e\u043a\u0430\u0437\u0430\u043b: \u0432\u00a0\u044d\u0442\u043e\u043c \u043f\u0440\u043e\u0444\u0438\u043b\u0435 bge\u2011m3\u00a0\u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043d\u0435\u043c\u043d\u043e\u0433\u043e\u00a0\u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0430\u00a0\u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043d\u0443\u044e \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u043b\u0438 \u0440\u0435\u0440\u0430\u043d\u043a (0,6\u20130,7\u00a0\u0441\u00a0\u043d\u0430 \u0442\u0440\u0430\u043d\u0437\u0430\u043a\u0446\u0438\u044e), prefill \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f.\u042f \u0432\u0437\u044f\u043b 12-\u0441\u043b\u043e\u0439\u043d\u044b\u0439\u00a0RuModernBERT-small, \u0441\u043d\u0430\u0447\u0430\u043b\u0430 \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u043e \u043f\u043e\u043f\u044b\u0442\u0430\u043b\u0441\u044f \u043f\u043e\u0432\u0442\u043e\u0440\u0438\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u0447\u0435\u0440\u0435\u0437 MSE, \u0437\u0430\u0442\u0435\u043c \u043e\u0431\u0443\u0447\u0438\u043b retrieval\u2011\u0434\u043e\u043d\u043e\u0440 \u043d\u0430\u00a0\u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u0432\u044b\u0431\u0440\u0430\u043b \u0438\u0437\u00a0\u043d\u0435\u0433\u043e \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f\u00a0[0, 5, 9, 11]\u00a0\u0438 \u0434\u043e\u0443\u0447\u0438\u043b student \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u0438\u0445, \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0445 \u0438 \u0441\u043c\u0435\u0448\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u0445 \u0441\u00a0hard negatives \u043e\u0442\u00a0BGE\u2011M3.\u041f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f\u00a0STRIZH: 24,4\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f, \u0432\u0435\u043a\u0442\u043e\u0440 384, mean pooling, \u0431\u0435\u0437\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445\u00a0query:\u00a0\/\u00a0passage:\u2011\u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432. \u041d\u0430\u00a0\u043f\u043e\u0434\u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u043f\u043e\u0441\u043b\u0435 \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u0438 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u043f\u0440\u044f\u043c\u044b\u0445 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0439 gold\u2011passages \u0441\u00a0training positives donor\u2011\u043b\u0438\u043d\u0438\u0438 STRIZH \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430\u00a0Recall@10 = 0.751; \u043d\u0430\u00a0\u043f\u043e\u043b\u043d\u043e\u043c \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435\u00a00.800. \u041e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0434\u0430\u0451\u0442 \u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u043d\u0441\u0435\u0440\u0432\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u043e\u0446\u0435\u043d\u043a\u0443, \u043d\u043e\u00a0\u044d\u0442\u043e \u043d\u0435\u00a0\u043f\u043e\u043b\u043d\u044b\u0439 near\u2011duplicate audit. \u041d\u0430\u00a0\u043f\u0440\u043e\u0433\u0440\u0435\u0442\u043e\u043c\u00a0llama.cpp\/Vulkan\u00a0(Strix Halo, concurrency 16) \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u043b\u0430 \u043e\u043a\u043e\u043b\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0442\u044b\u0441\u044f\u0447 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0432\u00a0\u0441\u0435\u043a\u0443\u043d\u0434\u0443; \u043f\u043e\u00a0\u0440\u0430\u0437\u043d\u044b\u043c \u043f\u0440\u043e\u0433\u043e\u043d\u0430\u043c 3614\u20134450, \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u0442\u0430\u043a \u0448\u0438\u0440\u043e\u043a\u043e, \u0440\u0430\u0437\u043e\u0431\u0440\u0430\u043d\u043e \u043d\u0438\u0436\u0435. \u0411\u043e\u043b\u0435\u0435 \u043a\u0440\u0443\u043f\u043d\u044b\u0435\u00a0USER2-small,\u00a0multilingual-e5-small\u00a0\u0438\u00a0bge-m3\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u0435\u0435. STRIZH \u043d\u0443\u0436\u0435\u043d \u043d\u0435\u00a0\u0432\u043c\u0435\u0441\u0442\u043e \u043d\u0438\u0445, \u0430\u00a0\u0434\u043b\u044f\u00a0\u0434\u0440\u0443\u0433\u043e\u0433\u043e \u0440\u0435\u0436\u0438\u043c\u0430: \u0440\u0443\u0441\u0441\u043a\u0438\u0439 RAG, \u043e\u0431\u0449\u0438\u0439 GPU \u0438 \u0436\u0451\u0441\u0442\u043a\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435 \u043d\u0430\u00a0\u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043f\u043e\u0438\u0441\u043a\u0430.\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u043e\u0448\u0438\u0431\u043a\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0430\u0441\u044c \u0443\u0436\u0435 \u043f\u043e\u0441\u043b\u0435 \u043f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0438. \u0412\u00a0tokenizer_config.json\u00a0\u043e\u0441\u0442\u0430\u043b\u0441\u044f\u00a0model_max_length=256. \u041d\u0430\u00a0\u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 RAG\u2011\u043e\u0431\u043a\u0430\u0442\u043a\u0435 \u0442\u043e\u0442\u00a0\u0436\u0435 checkpoint \u043f\u0440\u0438\u00a0\u043f\u0440\u0438\u043d\u0443\u0434\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u043c \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u0438 \u0434\u043e 256\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0443\u043f\u0430\u043b \u0441\u00a0Recall@10 = 0.589\u00a0\u0434\u043e\u00a00.448, \u0442\u043e \u0435\u0441\u0442\u044c \u043d\u0430\u00a014,1\u00a0\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0433\u043e \u043f\u0443\u043d\u043a\u0442\u0430, \u0434\u043e\u00a0\u0443\u0440\u043e\u0432\u043d\u044f\u00a0rubert-tiny2. \u041e\u0434\u043d\u0430 \u0446\u0438\u0444\u0440\u0430 \u0432\u00a0\u043a\u043e\u043d\u0444\u0438\u0433\u0435 \u043f\u043e\u0447\u0442\u0438 \u043e\u0431\u043d\u0443\u043b\u0438\u043b\u0430 \u0441\u043c\u044b\u0441\u043b \u0432\u0441\u0435\u0439 \u0440\u0430\u0431\u043e\u0442\u044b.\u041d\u0438\u0436\u0435: \u0445\u043e\u0434 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043d\u0435\u0443\u0434\u0430\u0447\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u0443\u0442\u0435\u0447\u043a\u0430 \u0432\u00a0evaluation \u0438 \u043f\u0443\u0442\u044c \u043e\u0442\u00a0checkpoint \u0434\u043e\u00a0\u0440\u0430\u0431\u043e\u0447\u0435\u0433\u043e GGUF\/Vulkan\u2011\u0441\u0435\u0440\u0432\u0438\u043d\u0433\u0430.\u041f\u0430\u043c\u044f\u0442\u044c \u043d\u0435\u00a0\u0437\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u043b\u0430\u0441\u044c. \u0417\u0430\u043a\u0430\u043d\u0447\u0438\u0432\u0430\u043b\u043e\u0441\u044c GPU\u2011\u0432\u0440\u0435\u043c\u044f\u041c\u043e\u0439 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0443\u0437\u0435\u043b: AMD Strix Halo \u0441 128\u00a0\u0413\u0411 unified memory. \u041f\u0440\u043e\u0435\u043a\u0442\u043d\u0430\u044f \u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u0430\u044f \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0442\u0430\u043a, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u043e\u0434\u00a0\u043d\u0435\u0451 \u0432\u044b\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440:\u043e\u0434\u0438\u043d iGPU\u251c\u2500\u2500 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM\u251c\u2500\u2500 dense retrieval\u251c\u2500\u2500 reranker\u2514\u2500\u2500 \u043f\u0435\u0440\u0438\u043e\u0434\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f \u043a\u043e\u0440\u043f\u0443\u0441\u0430\u0422\u0435\u043a\u0443\u0449\u0430\u044f \u0442\u043e\u043f\u043e\u043b\u043e\u0433\u0438\u044f \u0442\u0430\u043a\u0430\u044f: \u043f\u0440\u044f\u043c\u043e \u0441\u0435\u0439\u0447\u0430\u0441 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f LLM \u0443\u00a0\u043c\u0435\u043d\u044f \u0432\u044b\u043d\u0435\u0441\u0435\u043d\u0430 \u043d\u0430\u00a0\u0441\u043e\u0441\u0435\u0434\u043d\u044e\u044e \u043d\u043e\u0434\u0443 \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430, \u0430\u00a0\u043d\u0430\u00a0\u044d\u0442\u043e\u043c \u0443\u0437\u043b\u0435 iGPU \u0434\u0435\u043b\u044f\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440, \u0440\u0435\u0440\u0430\u043d\u043a\u0435\u0440 \u0438 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044f. \u041e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 embedding\u2011\u0441\u043b\u043e\u0442 \u0432\u00a0\u043f\u0440\u043e\u0434\u0435 \u043f\u043e\u043a\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u044f\u0436\u0451\u043b\u044b\u0439 bge\u2011m3\u00a0\u0438\u0437\u00a0\u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u043d\u0438\u0436\u0435: \u043a\u00a0\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u0432\u044f\u0437\u0430\u043d\u044b \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0435 \u0438\u043d\u0434\u0435\u043a\u0441\u044b, \u0438 \u0441\u043c\u0435\u043d\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u0430 \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u044e. STRIZH \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0443\u0436\u0435 \u0437\u0430\u0434\u0435\u043f\u043b\u043e\u0435\u043d \u043d\u0430\u00a0\u0442\u043e\u043c\u00a0\u0436\u0435 \u0443\u0437\u043b\u0435 \u0432\u0442\u043e\u0440\u044b\u043c embedding\u2011\u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442\u043e\u043c; \u043f\u0435\u0440\u0435\u0432\u043e\u0434 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u0442\u0430 \u0437\u0430\u043f\u043b\u0430\u043d\u0438\u0440\u043e\u0432\u0430\u043d \u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0431\u0430\u0437. \u041d\u043e\u00a0\u0441\u0442\u0435\u043a \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043e\u0434\u043d\u043e\u0443\u0437\u043b\u043e\u0432\u044b\u043c, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0438 \u044f \u043f\u043e\u0434\u043d\u044f\u043b\u00a0Qwen3.6-35B-A3B\u00a0(MoE: 35B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432\u0441\u0435\u0433\u043e, \u043e\u043a\u043e\u043b\u043e 3B \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0445 \u043d\u0430\u00a0\u0442\u043e\u043a\u0435\u043d) \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u043d\u0430\u00a0\u044d\u0442\u043e\u0442 \u0431\u043e\u043a\u0441 \u0438 \u043f\u043e\u043c\u0435\u0440\u0438\u043b co\u2011residency \u043d\u0430\u043f\u0440\u044f\u043c\u0443\u044e. \u0414\u0435\u043b\u044c\u0442\u044b tok\/s \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043f\u043e\u0434\u00a0embedding\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u00abCo\u2011resident\u00bb \u043d\u0438\u0436\u0435.\u041d\u0430\u00a0\u043f\u0435\u0440\u0432\u044b\u0439 \u0432\u0437\u0433\u043b\u044f\u0434 \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0434\u043b\u044f\u00a0\u0442\u0430\u043a\u043e\u0433\u043e\u00a0\u0436\u0435\u043b\u0435\u0437\u0430 \u0441\u0442\u0440\u0430\u043d\u043d\u043e. \u0414\u0430\u0436\u0435\u00a0bge-m3\u00a0\u0442\u0443\u0434\u0430 \u043f\u043e\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0431\u0435\u0437\u00a0\u043f\u0440\u043e\u0431\u043b\u0435\u043c. \u041d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u043e\u0442\u0435\u043d \u043c\u0435\u0433\u0430\u0431\u0430\u0439\u0442 \u043d\u0430\u00a0\u0444\u043e\u043d\u0435 128\u00a0\u0413\u0411 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0440\u0435\u0448\u0430\u044e\u0442.\u041d\u043e\u00a0\u043f\u0430\u043c\u044f\u0442\u044c \u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u043f\u043e\u2011\u0440\u0430\u0437\u043d\u043e\u043c\u0443. \u041a\u043e\u0433\u0434\u0430 \u0431\u043e\u043b\u044c\u0448\u0430\u044f embedding\u2011\u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0435\u0442 \u043f\u0430\u043a\u0435\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u043e\u043d\u0430 \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u0442\u00a0\u0436\u0435 GPU, \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432\u00a0\u044d\u0442\u043e \u0432\u0440\u0435\u043c\u044f \u0434\u043e\u043b\u0436\u043d\u0430 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u0442\u044c LLM. \u041f\u0440\u0438\u00a0\u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438 \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u043a\u043e\u0440\u043f\u0443\u0441\u0430 \u044d\u0442\u043e \u0443\u0436\u0435 \u043d\u0435 \u00ab\u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0\u0444\u043e\u043d\u0435\u00bb, \u0430\u00a0\u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430\u00a0compute. \u0417\u0430\u0431\u0435\u0433\u0430\u044f \u0432\u043f\u0435\u0440\u0451\u0434: \u0437\u0430\u043c\u0435\u0440 \u043f\u043e\u043a\u0430\u0437\u0430\u043b, \u0447\u0442\u043e\u00a0\u043e\u0434\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d\u2011\u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u043b\u044f\u00a0\u044d\u0442\u043e\u0433\u043e \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e: \u0437\u0430\u043c\u0435\u0442\u043d\u0430\u044f \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043d\u0430\u00a0\u0438\u043d\u0434\u0435\u043a\u0441\u0438\u0440\u0443\u044e\u0449\u0435\u0439.\u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0432\u043e\u043f\u0440\u043e\u0441\u00a0\u0431\u044b\u043b \u0442\u0430\u043a\u0438\u043c:\u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u043c \u043c\u043e\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0439 dense\u2011retriever, \u0447\u0442\u043e\u0431\u044b \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c \u0441\u0442\u043e\u0438\u043c\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u043d\u0430\u00a0\u043e\u0431\u0449\u0435\u043c GPU, \u043d\u043e\u00a0\u0435\u0449\u0451 \u043d\u0435\u00a0\u0441\u043a\u0430\u0442\u0438\u0442\u044c\u0441\u044f \u043a\u00a0\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441\u0443 \u0443\u0440\u043e\u0432\u043d\u044f \u00ab\u043b\u0438\u0448\u044c\u00a0\u0431\u044b \u0447\u0442\u043e\u2011\u0442\u043e \u0432\u0435\u0440\u043d\u0443\u043b\u00bb?\u042f \u0437\u0430\u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043b \u0442\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u0434\u043e\u00a0\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f:\u043c\u0435\u043d\u044c\u0448\u0435 30\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432;\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u044f\u0437\u044b\u043a: \u0440\u0443\u0441\u0441\u043a\u0438\u0439;dense single\u2011vector retrieval;\u0440\u0430\u0431\u043e\u0442\u0430 \u0431\u0435\u0437\u00a0\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u0440\u0435\u0444\u0438\u043a\u0441\u043e\u0432;mean pooling \u0438 L2-\u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440;GGUF \u0438\u00a0llama.cpp\/Vulkan\u00a0\u043a\u0430\u043a\u00a0\u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u0430\u043d\u0442\u0430\u0439\u043c;\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u0432\u044b\u0448\u0435\u00a0rubert-tiny2;\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439 \u0438 mixed\u2011\u0442\u0435\u043a\u0441\u0442 \u043d\u0435\u00a0\u0434\u043e\u043b\u0436\u043d\u044b \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0440\u0430\u0437\u0432\u0430\u043b\u0438\u0442\u044c\u0441\u044f;\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0432\u0445\u043e\u0434\u044b, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0441\u0430\u043c\u043e contrastive\u2011\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0434\u0451\u0442 \u043d\u0430\u00a0\u0431\u043e\u043b\u0435\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044f\u0445.\u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043f\u0443\u043d\u043a\u0442 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u0438. \u0411\u0430\u0437\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0438 \u044d\u0442\u043e\u0442\u00a0\u043b\u0438\u043c\u0438\u0442 \u0441\u043e\u0445\u0440\u0430\u043d\u0451\u043d \u0432\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 STRIZH. \u041d\u043e\u00a0\u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0438\u0435 \u043f\u0440\u043e\u0433\u043e\u043d\u044b \u0434\u0435\u043b\u0430\u043b\u0438\u0441\u044c \u0441\u00a0max_seq_length=256. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u0430\u044f \u0444\u043e\u0440\u043c\u0443\u043b\u0438\u0440\u043e\u0432\u043a\u0430 \u0437\u0432\u0443\u0447\u0438\u0442 \u0442\u0430\u043a:\u00a0\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 \u0434\u043e 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0430\u00a0\u043d\u0435 \u00ab\u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0430 retrieval \u043d\u0430 8192\u00a0\u0442\u043e\u043a\u0435\u043d\u0430\u0445\u00bb. \u0412\u0430\u0436\u043d\u0430\u044f \u0434\u0435\u0442\u0430\u043b\u044c: \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u044f \u043c\u0435\u0440\u0438\u043b \u043d\u0430\u00a0\u0432\u0445\u043e\u0434\u0430\u0445 \u0434\u043e ~1024\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432; \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0442\u044c 8192\u00a0\u0443\u043d\u0430\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0430 \u043e\u0442\u00a0\u0431\u0430\u0437\u044b \u0438 retrieval\u2011\u0437\u0430\u043c\u0435\u0440\u043e\u043c \u043d\u0430\u00a0\u0442\u0430\u043a\u0438\u0445 \u0434\u043b\u0438\u043d\u0430\u0445 \u043d\u0435\u00a0\u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u0430.\u0422\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438 STRIZH \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f retriever, \u0430\u00a0\u043d\u0435\u00a0\u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e sentence similarity. \u0414\u0430\u043b\u044c\u0448\u0435 \u044f \u0438\u043d\u043e\u0433\u0434\u0430 \u043d\u0430\u0437\u044b\u0432\u0430\u044e \u0435\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0435\u0440\u043e\u043c, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e\u00a0\u0432\u00a0RAG\u2011\u0441\u0442\u0435\u043a\u0435 \u043e\u043d \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u043a\u0430\u043a\u00a0\u043e\u0431\u044b\u0447\u043d\u044b\u0439 endpoint\u00a0\/embeddings, \u043d\u043e\u00a0\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0441\u044f \u043e\u043d \u043f\u043e\u0434\u00a0\u043f\u043e\u0438\u0441\u043a \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u043e\u0433\u043e \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430.\u041f\u043e\u0447\u0435\u043c\u0443 \u043d\u0435\u00a0\u0432\u0437\u044f\u0442\u044c \u0433\u043e\u0442\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u0413\u043e\u0442\u043e\u0432\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0437\u0430\u043a\u0440\u044b\u0432\u0430\u044e\u0442 \u0440\u0430\u0437\u043d\u044b\u0435 \u0443\u0433\u043b\u044b \u0437\u0430\u0434\u0430\u0447\u0438, \u043d\u043e\u00a0\u043d\u0438 \u043e\u0434\u0438\u043d \u043d\u0435\u00a0\u0441\u043e\u0432\u043f\u0430\u043b \u0441\u00a0\u043c\u043e\u0438\u043c\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f\u043c\u0438 \u0446\u0435\u043b\u0438\u043a\u043e\u043c.rubert\u2011tiny2\u041c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439, \u043f\u0440\u043e\u0441\u0442\u043e\u0439, \u0445\u043e\u0440\u043e\u0448\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u0438\u00a0\u0431\u044b\u0441\u0442\u0440\u044b\u0439 \u043d\u0430\u00a0CPU. \u0423\u0434\u043e\u0431\u043d\u0430\u044f \u043d\u0438\u0436\u043d\u044f\u044f \u043f\u043b\u0430\u043d\u043a\u0430. \u041d\u043e\u00a0\u044d\u0442\u043e \u043d\u0435\u00a0\u0441\u043f\u0435\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0439 retriever, \u0438 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c retrieval \u043e\u043d \u0443\u00a0\u043c\u0435\u043d\u044f \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0441\u043b\u0430\u0431\u044b\u043c.USER2-small\u0411\u043b\u0438\u0437\u043a\u0438\u0439 \u0438 \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u043d\u0430\u00a0\u0442\u043e\u0439\u00a0\u0436\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043d\u043e\u0439 \u0441\u0435\u043c\u044c\u0435. \u0412\u0441\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 10\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043a\u0440\u0443\u043f\u043d\u0435\u0435 STRIZH, \u043f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u0437\u0430\u043c\u0435\u0442\u043d\u043e \u043b\u0443\u0447\u0448\u0435 \u043d\u0430\u00a0\u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u043e\u043c \u0438 cross\u2011lingual \u043f\u043e\u0438\u0441\u043a\u0435. \u041d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442\u00a0\u043a\u043e\u0440\u043f\u0443\u0441\u0430: \u043d\u0430\u00a0\u043e\u0442\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u043c MIRACL\u2011ru \u043f\u0435\u0440\u0435\u0432\u0435\u0441 \u0443\u00a0USER2\u00a0(0.82\u00a0\u043f\u0440\u043e\u0442\u0438\u0432 0.75), \u0430\u00a0\u043d\u0430\u00a0\u043c\u043e\u0451\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 (\u0437\u0430\u043c\u0435\u0440 \u043e\u043f\u0438\u0441\u0430\u043d \u043d\u0438\u0436\u0435, \u0432\u00a0\u0440\u0430\u0437\u0434\u0435\u043b\u0435 \u043f\u0440\u043e\u00a0dogfood) \u0440\u0443\u0441\u0441\u043a\u0430\u044f \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0438 \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u044b \u0443\u0445\u043e\u0434\u044f\u0442 \u043a\u00a0STRIZH, \u043f\u0440\u0430\u0432\u0434\u0430 \u0441\u00a0\u043f\u0435\u0440\u0435\u0432\u0435\u0441\u043e\u043c \u0432\u00a0\u043e\u0434\u0438\u043d \u0432\u043e\u043f\u0440\u043e\u0441 \u043d\u0430\u00a0\u0441\u0442\u0440\u0430\u0442\u0443, \u0442\u043e \u0435\u0441\u0442\u044c \u0432\u00a0\u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0448\u0443\u043c\u0430; \u043e\u0431\u0449\u0438\u0439 \u043e\u0442\u0440\u044b\u0432 USER2\u00a0\u0442\u0430\u043c \u0441\u043e\u0431\u0440\u0430\u043d \u043d\u0430\u00a0cross\u2011lingual \u0441\u0442\u0440\u0430\u0442\u0435, \u0433\u0434\u0435 \u0440\u0430\u0437\u0440\u044b\u0432 \u0443\u0436\u0435 \u0432\u0435\u043b\u0438\u043a.\u041d\u043e\u00a0\u0443 \u043d\u0435\u0433\u043e \u0435\u0441\u0442\u044c \u0437\u0430\u0440\u0435\u0433\u0438\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u0435\u0436\u0438\u043c \u0441\u00a0search_query:\u00a0\u0438\u00a0search_document:. \u0414\u043b\u044f\u00a0\u043d\u043e\u0432\u043e\u0433\u043e \u043f\u0440\u043e\u0435\u043a\u0442\u0430 \u044d\u0442\u043e \u043d\u0435\u00a0\u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0430. \u0412\u00a0\u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 no\u2011prefix\u00a0\u0431\u044b\u043b \u044d\u043a\u0441\u043f\u043b\u0443\u0430\u0442\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u043c \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c: \u043e\u0434\u0438\u043d OpenAI\u2011compatible embedding endpoint, \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u043e\u0432, \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u0438\u0435\u043d\u0442\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435\u00a0\u0434\u043e\u043b\u0436\u043d\u044b \u0437\u043d\u0430\u0442\u044c \u043e\u00a0\u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438.\u041c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e\u00a0\u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u0437\u043d\u0430\u0447\u0438\u0442 \u043d\u0430\u043f\u0438\u0441\u0430\u0442\u044c \u0432\u0441\u0435\u0433\u043e \u043e\u0434\u043d\u0443 \u0441\u0442\u0440\u043e\u043a\u0443 \u043a\u043e\u0434\u0430. \u0412\u00a0\u0438\u0437\u043e\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u0442\u0430\u043a \u0438 \u0435\u0441\u0442\u044c. \u0412\u00a0\u0433\u043e\u0442\u043e\u0432\u043e\u043c \u0441\u0442\u0435\u043a\u0435 \u044d\u0442\u043e \u0443\u0436\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442\u0430: \u043d\u0443\u0436\u043d\u043e \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u0442\u044c \u0440\u043e\u043b\u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u0432, \u043d\u0435\u00a0\u0437\u0430\u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0444\u0438\u043a\u0441 \u043f\u0440\u0438\u00a0\u043f\u0435\u0440\u0435\u0438\u043d\u0434\u0435\u043a\u0441\u0430\u0446\u0438\u0438, \u0441\u0438\u043d\u0445\u0440\u043e\u043d\u043d\u043e \u043e\u0431\u043d\u043e\u0432\u0438\u0442\u044c \u0432\u0441\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u044b \u0438 \u043d\u0435\u00a0\u0441\u043c\u0435\u0448\u0430\u0442\u044c \u0441\u0442\u0430\u0440\u044b\u0435 \u0432\u0435\u043a\u0442\u043e\u0440\u044b \u0441\u00a0\u043d\u043e\u0432\u044b\u043c\u0438.multilingual\u2011e5-small\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u044b\u0439 retriever, \u043d\u043e\u00a0\u043e\u043d \u043a\u0440\u0443\u043f\u043d\u0435\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u00a0query:\u00a0\/\u00a0passage:\u00a0\u0438 \u0440\u0430\u0441\u0441\u0447\u0438\u0442\u0430\u043d \u043d\u0430\u00a0\u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0438\u0441\u0441. \u042d\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0432\u044b\u0431\u043e\u0440, \u043a\u043e\u0433\u0434\u0430 \u043c\u0443\u043b\u044c\u0442\u0438\u044f\u0437\u044b\u0447\u043d\u043e\u0441\u0442\u044c \u0432\u0430\u0436\u043d\u0435\u0435 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e compute.bge\u2011m3\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u044d\u0442\u043e \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0438\u0437\u00a0\u043c\u043e\u0435\u0433\u043e \u043f\u0440\u0438\u043a\u043b\u0430\u0434\u043d\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f. \u041e\u043d \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0435\u0442 dense, sparse \u0438 multi\u2011vector \u0440\u0435\u0436\u0438\u043c\u044b, \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430\u00a0\u0440\u0443\u0441\u0441\u043a\u043e\u043c \u0438 cross\u2011lingual \u0437\u0430\u043f\u0440\u043e\u0441\u0430\u0445. \u041d\u043e\u00a0\u044d\u0442\u043e \u0443\u0436\u0435 \u0434\u0440\u0443\u0433\u0430\u044f \u0432\u0435\u0441\u043e\u0432\u0430\u044f \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u044f.\u0415\u0441\u043b\u0438 \u043d\u0430\u00a0\u0443\u0437\u043b\u0435 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b\u0439 compute \u0438 \u043d\u0443\u0436\u043d\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u0430\u044f \u043f\u043e\u043b\u043d\u043e\u0442\u0430 \u043f\u043e\u0438\u0441\u043a\u0430, \u043e\u0431\u0443\u0447\u0430\u0442\u044c STRIZH \u0432\u043c\u0435\u0441\u0442\u043e\u00a0bge-m3\u00a0\u043d\u0435\u0437\u0430\u0447\u0435\u043c. \u041c\u043e\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u043d\u0430\u0447\u0438\u043d\u0430\u043b\u0430\u0441\u044c \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u0430\u043c, \u0433\u0434\u0435 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0442\u0430\u0434\u0438\u0438 \u0438 \u043a\u043e\u043d\u043a\u0443\u0440\u0435\u043d\u0446\u0438\u044f \u0437\u0430\u00a0\u043e\u0431\u0449\u0438\u0439 GPU \u0441\u0442\u0430\u043b\u0438 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435\u043c.\u0418\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u044f \u0438\u0441\u043a\u0430\u043b \u043d\u0435 \u00ab\u043b\u0443\u0447\u0448\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c\u00bb, \u0430\u00a0\u043f\u0443\u0441\u0442\u043e\u0435 \u043c\u0435\u0441\u0442\u043e \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0443\u043c\u044f \u043a\u043b\u0430\u0441\u0441\u0430\u043c\u0438:\u0441\u043e\u0432\u0441\u0435\u043c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0430\u044f \u0438 \u0431\u044b\u0441\u0442\u0440\u0430\u044f, \u043d\u043e \u0441\u043b\u0430\u0431\u0430\u044f                \u2195\u043a\u043e\u043c\u043f\u0430\u043a\u0442\u043d\u0430\u044f \u0438 \u0435\u0449\u0451 \u043f\u0440\u0438\u0433\u043e\u0434\u043d\u0430\u044f \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e retrieval                \u2195\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f, \u043d\u043e \u0431\u043e\u043b\u0435\u0435 \u0442\u044f\u0436\u0451\u043b\u0430\u044f\u0411\u0430\u0437\u0430: \u043f\u043e\u0447\u0435\u043c\u0443 \u0447\u0435\u0442\u044b\u0440\u0435 \u0441\u043b\u043e\u044f \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0432\u0435\u0441\u044f\u0442 24\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432\u0412\u00a0\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u0430\u0437\u044b \u044f \u0432\u0437\u044f\u043b\u00a0deepvk\/RuModernBERT-small:12\u00a0transformer\u2011\u0441\u043b\u043e\u0451\u0432;hidden size 384;\u0441\u043b\u043e\u0432\u0430\u0440\u044c 50\u202f368\u00a0\u0442\u043e\u043a\u0435\u043d\u043e\u0432;\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u0434\u043e 8192;\u043e\u043a\u043e\u043b\u043e 35\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.\u0418\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e\u00a0\u0441\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441 12\u00a0\u0441\u043b\u043e\u0451\u0432 \u0434\u043e\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0434\u043e\u043b\u0436\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0432\u0442\u0440\u043e\u0435. \u041f\u043e\u00a0\u043e\u0431\u0449\u0435\u043c\u0443 \u0447\u0438\u0441\u043b\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u044d\u0442\u043e\u0433\u043e \u043d\u0435\u00a0\u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e: \u0444\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 STRIZH \u0432\u0435\u0441\u0438\u0442 24,4\u00a0\u043c\u043b\u043d.\u041f\u0440\u0438\u0447\u0438\u043d\u0430 \u0432\u00a0embedding table:50 368 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u00d7 384 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u044f = 19 341 312 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432\u0422\u043e \u0435\u0441\u0442\u044c \u043e\u043a\u043e\u043b\u043e\u00a079% \u0432\u0441\u0435\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0447\u0435\u0442\u044b\u0440\u0451\u0445\u0441\u043b\u043e\u0439\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438\u00a0\u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432\u00a0\u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u0421\u043e\u043a\u0440\u0430\u0449\u0435\u043d\u0438\u0435 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441\u0438\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u0447\u0438\u0441\u043b\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u0432\u00a0encoder\u2011\u0431\u043b\u043e\u043a\u0430\u0445, \u043d\u043e\u00a0\u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0442\u0440\u043e\u0433\u0430\u0435\u0442 \u0441\u043b\u043e\u0432\u0430\u0440\u044c.\u042d\u0442\u043e \u0432\u0430\u0436\u043d\u043e\u0435 \u0440\u0430\u0437\u043b\u0438\u0447\u0438\u0435:\u043f\u043e\u00a0\u0440\u0430\u0437\u043c\u0435\u0440\u0443 \u0432\u0435\u0441\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u043b\u0430\u0441\u044c \u0441\u00a0\u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e 35\u00a0\u0434\u043e 24,4\u00a0\u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432;\u043f\u043e\u00a0\u0433\u043b\u0443\u0431\u0438\u043d\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0433\u043e \u0442\u0440\u0430\u043a\u0442\u0430: \u0441 12\u00a0\u0434\u043e\u00a0\u0447\u0435\u0442\u044b\u0440\u0451\u0445 \u0441\u043b\u043e\u0451\u0432;\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e, \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u043e\u0436\u0438\u0434\u0430\u043b\u0441\u044f \u043d\u0435\u00a0\u0432\u00a0\u043f\u0430\u043c\u044f\u0442\u0438, \u0430\u00a0\u0432\u00a0latency \u0438 throughput.\u042f \u0441\u043e\u0445\u0440\u0430\u043d\u0438\u043b hidden size 384, mean pooling \u0438 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e:mask = attention_mask.unsqueeze(-1).float()embedding = (last_hidden_state * mask).sum(1) \/ mask.sum(1)embedding = normalize(embedding, p=2, dim=1)\u041d\u0438\u043a\u0430\u043a\u0438\u0445\u00a0query:\u00a0\u0438\u00a0passage:. \u0417\u0430\u043f\u0440\u043e\u0441 \u0438 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442 \u0447\u0435\u0440\u0435\u0437 \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442\u00a0\u0436\u0435 encoder \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u043e.\u041f\u0435\u0440\u0432\u0430\u044f \u043f\u043e\u043f\u044b\u0442\u043a\u0430: loss \u043a\u0440\u0430\u0441\u0438\u0432\u044b\u0439, retrieval \u043c\u0451\u0440\u0442\u0432\u044b\u0439\u041f\u0435\u0440\u0432\u0443\u044e \u0432\u0435\u0440\u0441\u0438\u044e \u044f \u0441\u0442\u0440\u043e\u0438\u043b \u043f\u043e\u00a0\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e\u0439 \u043b\u043e\u0433\u0438\u043a\u0435: \u0432\u0437\u044f\u0442\u044c \u0441\u0438\u043b\u044c\u043d\u043e\u0433\u043e \u0443\u0447\u0438\u0442\u0435\u043b\u044f \u0438 \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0435\u0433\u043e embedding\u2011\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e.\u0423\u0447\u0438\u0442\u0435\u043b\u0435\u043c\u00a0\u0431\u044b\u043b\u0430 FRIDA \u0441\u00a0\u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 1536. \u0412\u00a0\u0440\u043e\u043b\u0438 \u0441\u0442\u0443\u0434\u0435\u043d\u0442\u0430 \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u043b \u043f\u043e\u043b\u043d\u044b\u0439 12-\u0441\u043b\u043e\u0439\u043d\u044b\u0439\u00a0RuModernBERT-small\u00a0\u0441\u00a0mean pooling \u0438\u00a0\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0435\u0439\u00a0384 \u2192 1536.\u0421\u0445\u0435\u043c\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u043b\u0430 \u0442\u0430\u043a:12,07 \u043c\u043b\u043d \u0442\u0435\u043a\u0441\u0442\u043e\u0432      \u2193FRIDA \u2192 \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 1536      \u2193RuModernBERT-small \u2192 mean pool \u2192 Linear(384, 1536)      \u2193normalized MSE\u041f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-488922","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488922","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=488922"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/488922\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=488922"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=488922"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=488922"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}