{"id":499028,"date":"2026-10-17T09:56:24","date_gmt":"2026-10-17T06:56:24","guid":{"rendered":"https:\/\/savepearlharbor.com\/?p=499028"},"modified":"2026-10-17T09:56:24","modified_gmt":"2026-10-17T06:56:24","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=499028","title":{"rendered":"\u041e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u0440\u043e\u0442\u0438\u0432 \u043e\u0431\u043b\u0430\u043a\u0430: T-one, GigaAM \u0438\u043b\u0438 Deepgram: \u0447\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0442\u044f\u043d\u0435\u0442 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 CPU \u0434\u043b\u044f \u0436\u0438\u0432\u044b\u0445 \u0441\u0443\u0431\u0442\u0438\u0442\u0440\u043e\u0432 \u0432 \u0437\u0432\u043e\u043d\u043a\u0435"},"content":{"rendered":"<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<h2>\u0427\u0438\u0441\u043b\u043e vCPU \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442: \u043a\u0430\u043a \u044f \u0441\u0447\u0438\u0442\u0430\u043b, \u043d\u0443\u0436\u0435\u043d \u043b\u0438 \u0441\u0432\u043e\u0439 ASR-\u0441\u0435\u0440\u0432\u0435\u0440 \u0432\u043c\u0435\u0441\u0442\u043e Deepgram<\/h2>\n<p>\u041c\u043d\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u043b\u0438\u0441\u044c <strong>\u0436\u0438\u0432\u044b\u0435 \u0441\u0443\u0431\u0442\u0438\u0442\u0440\u044b<\/strong> \u0434\u043b\u044f \u0441\u043e\u0437\u0432\u043e\u043d\u043e\u0432 \u043e\u0434\u0438\u043d \u043d\u0430 \u043e\u0434\u0438\u043d \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041f\u0440\u043e\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u044d\u0442\u0443 \u0437\u0430\u0434\u0430\u0447\u0443 \u0447\u0435\u0440\u0435\u0437 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 API: \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0437\u043e\u0432\u043e\u043c. \u042d\u0442\u043e \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442, \u0435\u0441\u043b\u0438 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u043e\u0432 \u043d\u0435\u043c\u043d\u043e\u0433\u043e, \u0430 \u0438\u0445 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u0442\u044c \u0432\u043d\u0435\u0448\u043d\u0435\u043c\u0443 \u0441\u0435\u0440\u0432\u0438\u0441\u0443.<\/p>\n<p>\u0412 \u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u0441\u0451 \u043d\u0435 \u0442\u0430\u043a \u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e: \u0447\u0430\u0441\u043e\u0432 \u043e\u0431\u0449\u0435\u043d\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043c\u043d\u043e\u0433\u043e, \u0430 \u0432 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u0430\u0445 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0432 \u043e\u0431\u043b\u0430\u043a\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u044f \u0440\u0430\u0437\u0432\u0435\u0440\u043d\u0443\u043b \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0441\u0442\u0435\u043d\u0434 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043b \u043e\u0431\u043b\u0430\u0447\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0447\u0438 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435, \u0442\u043e\u043b\u044c\u043a\u043e \u0441 CPU, \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043f\u0440\u043e \u0436\u0435\u043b\u0435\u0437\u043e, \u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0443\u0442 \u0432\u0442\u043e\u0440\u0438\u0447\u043d\u044b. \u041e\u0434\u0438\u043d \u0447\u0430\u043d\u043a \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u044f\u0434\u0440\u0435 Xeon 2013 \u0433\u043e\u0434\u0430 \u0431\u0435\u0437 AVX2 \u0441\u0442\u043e\u0438\u0442 \u0432 2,5 \u0440\u0430\u0437\u0430 \u0434\u043e\u0440\u043e\u0436\u0435, \u0447\u0435\u043c \u043d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c Xeon \u0441 AVX2, \u0430 \u043f\u043e\u0434 \u043f\u043e\u043b\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u043f\u044f\u0442\u0438 \u0440\u0430\u0437. \u0412 \u043f\u0435\u0440\u0435\u0441\u0447\u0451\u0442\u0435 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u044d\u0442\u043e 32 \u043f\u0440\u043e\u0442\u0438\u0432 5, \u043d\u043e \u044d\u0442\u0443 \u0446\u0438\u0444\u0440\u0443 \u043d\u0430\u0434\u043e \u0447\u0438\u0442\u0430\u0442\u044c \u0441 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u043e\u0439 \u043e \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u0435, \u043e \u043d\u0435\u0439 \u043d\u0438\u0436\u0435. \u0421\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u043a\u0443\u043f\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0441\u0432\u043e\u0435\u0433\u043e ASR \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u044f\u0434\u0435\u0440 \u0432 \u0442\u0430\u0440\u0438\u0444\u0435 \u0445\u043e\u0441\u0442\u0435\u0440\u0430 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e.<\/p>\n<h3>\u0427\u0442\u043e \u0431\u044b\u043b\u043e \u043d\u0443\u0436\u043d\u043e<\/h3>\n<p>\u0421\u0435\u0439\u0447\u0430\u0441 \u044f \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u044e \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 Deepgram, \u0438 \u0441\u0442\u0435\u043d\u0434 \u043d\u0443\u0436\u0435\u043d, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u0441 \u043d\u0435\u0433\u043e \u0443\u0439\u0442\u0438. \u0417\u0432\u043e\u043d\u043e\u043a \u0438\u0434\u0451\u0442 \u0432 \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0435, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u0430 \u0441\u0432\u043e\u0439 \u043c\u0438\u043a\u0440\u043e\u0444\u043e\u043d, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u0434\u0432\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438. \u042d\u0442\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u0436\u0438\u0437\u043d\u044c: \u0434\u0438\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u043d\u0435 \u043d\u0443\u0436\u043d\u0430, \u0440\u043e\u043b\u044c \u0433\u043e\u0432\u043e\u0440\u044f\u0449\u0435\u0433\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430 \u043f\u043e \u0434\u043e\u0440\u043e\u0436\u043a\u0435. \u0422\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043a \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044e \u043f\u0440\u043e\u0441\u0442\u044b\u0435:<\/p>\n<ul>\n<li>\n<p>\u0444\u0440\u0430\u0437\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u043f\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043d\u0435 \u043f\u043e\u0437\u0436\u0435 \u0447\u0435\u043c \u0447\u0435\u0440\u0435\u0437 2 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0435\u0451 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 (p95);<\/p>\n<\/li>\n<li>\n<p>\u0446\u0435\u043d\u0430 \u0447\u0430\u0441\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e\u0439;<\/p>\n<\/li>\n<li>\n<p>\u0430\u0443\u0434\u0438\u043e \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u043f\u043e\u043a\u0438\u0434\u0430\u0442\u044c \u0441\u0435\u0440\u0432\u0435\u0440 \u0432 \u0420\u043e\u0441\u0441\u0438\u0438.<\/p>\n<\/li>\n<\/ul>\n<p>\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442: \u0434\u0435\u043b\u0430\u044e \u0441\u0435\u0440\u0432\u0438\u0441 \u0434\u043b\u044f \u043e\u043d\u043b\u0430\u0439\u043d-\u0432\u0441\u0442\u0440\u0435\u0447 1-\u043d\u0430-1 \u0441 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043a\u043e\u0439: 121ai.online<\/p>\n<h3>\u041a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u044b<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/88\/e5\/a8\/88e5a8fac9d65bf7259126d965d7e894.jpg\" width=\"1280\" height=\"720\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/88\/e5\/a8\/88e5a8fac9d65bf7259126d965d7e894.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/88\/e5\/a8\/88e5a8fac9d65bf7259126d965d7e894.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0418\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0413\u0434\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0420\u0435\u0436\u0438\u043c<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0417\u0430\u0447\u0435\u043c \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-one (\u0422-\u0411\u0430\u043d\u043a, Apache-2.0, 71M \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u0432\u043e\u0439 CPU<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0439, 8 \u043a\u0413\u0446, \u0447\u0430\u043d\u043a 300 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442 \u043d\u0430 \u043e\u043d\u043b\u0430\u0439\u043d<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaAM-v3 (\u0421\u0431\u0435\u0440, MIT, 220\u2013240M)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u0432\u043e\u0439 \u0441\u0435\u0440\u0432\u0435\u0440<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043f\u0430\u043a\u0435\u0442\u043d\u044b\u0439, \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00a0<code>e2e<\/code>\u00a0\u0441\u0442\u0430\u0432\u0438\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0447\u0438\u0441\u0442\u043e\u0432\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u0438 \u0432\u0435\u0440\u0445\u043d\u044f\u044f \u043f\u043b\u0430\u043d\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Vosk (ru-0.42 \u0438 small-ru-0.22)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0441\u0432\u043e\u0439 CPU<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0439<\/p>\n<\/td>\n<td>\n<p align=\"left\">baseline<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Deepgram nova-2 \u0438 nova-3<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u0430 \u0440\u0435\u0436\u0438\u043c\u0430<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438 \u0446\u0435\u043d\u044b<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418\u0437 \u043e\u0431\u043b\u0430\u043a\u043e\u0432 \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438 \u0442\u043e\u043b\u044c\u043a\u043e Deepgram: \u0434\u043b\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u044f \u0431\u0440\u0430\u043b \u0442\u043e, \u0447\u0442\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e \u0441\u0440\u0430\u0437\u0443, \u0431\u0435\u0437 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u0430 \u0438 \u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u0438\u0439. \u0412\u043d\u0443\u0442\u0440\u0438 \u0420\u0424 \u0435\u0441\u0442\u044c Yandex SpeechKit, \u0438 \u0435\u0441\u043b\u0438 \u0430\u0443\u0434\u0438\u043e \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u043f\u043e\u043a\u0438\u0434\u0430\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u0443, \u0430 \u0441\u0432\u043e\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0442\u044c \u043d\u0435 \u0445\u043e\u0447\u0435\u0442\u0441\u044f, \u043f\u0440\u0438\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435\u0441\u044c \u043a \u043d\u0435\u043c\u0443. <\/p>\n<p>Chrome Web Speech \u0441 <code>processLocally<\/code> \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 Chrome \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043b\u0430\u0441\u0441 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041f\u043e \u0442\u043e\u0439 \u0436\u0435 \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043c\u0438\u043c\u043e \u043f\u0440\u043e\u0448\u043b\u0438 \u0434\u0432\u0435 \u0441\u0432\u0435\u0436\u0438\u0435 on-device-\u043d\u043e\u0432\u0438\u043d\u043a\u0438 \u043d\u0430 \u0431\u0430\u0437\u0435 Google EmbeddingGemma 2. <\/p>\n<p><strong>Google AI Edge Foresight: \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439<\/strong> \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0434\u043b\u044f \u0441\u043e\u0437\u0432\u043e\u043d\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u0441\u0451 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e. \u042f \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u0435\u0433\u043e \u0441\u0435\u0431\u0435: \u043e\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 Mac \u0441 Apple Silicon \u0438 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. <\/p>\n<p><strong>Embedding Gemma Transcribe<\/strong>, \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0439 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0441\u0432\u043e\u0434\u0438\u0442 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u043a \u043f\u043e\u0438\u0441\u043a\u0443 \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u0432 \u0441\u043b\u043e\u0432\u0430\u0440\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0438\u0437 229 \u0442\u044b\u0441\u044f\u0447 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0445 \u0441\u043b\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u0442\u0430\u043c \u043d\u0435\u0442 \u0438 \u0431\u044b\u0442\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u0442. \u041d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435, \u0434\u043b\u044f \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u044b\u0445 \u0437\u0430\u043c\u0435\u0442\u043e\u043a \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435 \u044d\u0442\u043e \u0431\u0443\u0434\u0443\u0449\u0435\u0435, \u043d\u043e \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0439 \u0440\u0435\u0447\u0438 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<p><strong>Whistle<\/strong> \u043e\u0442 Cactus Compute, \u0440\u0435\u043f\u043e. \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 17 \u041c\u0411, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 CPU \u0438 \u0432 WASM, \u043d\u043e \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u0432 \u043d\u0435\u0439 \u043d\u0435\u0442. \u042f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b: \u043f\u044f\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0445 \u0444\u0440\u0430\u0437 \u0438\u0437 \u043f\u044f\u0442\u0438 \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u0438\u0441\u044c \u0432 \u043f\u0441\u0435\u0432\u0434\u043e\u043f\u043e\u043b\u044c\u0441\u043a\u0438\u0439 \u0438 \u043f\u0441\u0435\u0432\u0434\u043e\u043d\u0435\u043c\u0435\u0446\u043a\u0438\u0439. \u041f\u043b\u044e\u0441 \u0442\u0435\u043b\u0435\u043c\u0435\u0442\u0440\u0438\u044f, \u0432\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u0430\u044f \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e. \u0414\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0439 \u0440\u0435\u0447\u0438 \u0432\u043e\u043f\u0440\u043e\u0441 \u0437\u0430\u043a\u0440\u044b\u0442.<\/p>\n<h3>\u0427\u0442\u043e \u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u0430\u0432\u0442\u043e\u0440\u044b<\/h3>\n<p>\u0426\u0438\u0444\u0440\u044b <strong>WER<\/strong> \u0443 \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430\u0445, \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0438\u0445 \u043c\u0435\u0436\u0434\u0443 \u0441\u0442\u0440\u043e\u043a\u0430\u043c\u0438 \u043d\u0435\u043b\u044c\u0437\u044f, \u043d\u043e \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0432\u0435\u043b\u0438\u0447\u0438\u043d \u043f\u043e\u043b\u0435\u0437\u0435\u043d.<\/p>\n<details class=\"spoiler\">\n<summary>\u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 WER?<\/summary>\n<div class=\"spoiler__content\">\n<p><strong>WER (word error rate)<\/strong> \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0434\u043e\u043b\u044e \u0441\u043b\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043b\u0430 \u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e. \u041e\u0448\u0438\u0431\u043a\u043e\u0439 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u043d\u0430, \u043f\u0440\u043e\u043f\u0443\u0441\u043a \u0438\u043b\u0438 \u043b\u0438\u0448\u043d\u0435\u0435 \u0441\u043b\u043e\u0432\u043e, \u0430 \u0441\u0443\u043c\u043c\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u043d\u0430 \u0447\u0438\u0441\u043b\u043e \u0441\u043b\u043e\u0432 \u0432 \u044d\u0442\u0430\u043b\u043e\u043d\u0435. WER 10% \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043e\u0448\u0438\u0431\u043e\u0447\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043a\u0430\u0436\u0434\u043e\u0435 \u0434\u0435\u0441\u044f\u0442\u043e\u0435 \u0441\u043b\u043e\u0432\u043e. \u0427\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435, \u0442\u0435\u043c \u043b\u0443\u0447\u0448\u0435. \u041f\u0435\u0440\u0435\u0434 \u043f\u043e\u0434\u0441\u0447\u0451\u0442\u043e\u043c \u0443\u0431\u0438\u0440\u0430\u044e\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e \u0438 \u0440\u0435\u0433\u0438\u0441\u0442\u0440, \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0432\u0438\u0434\u0443. \u0426\u0438\u0444\u0440\u044b, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439, \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 \u043d\u0435\u043b\u044c\u0437\u044f.<\/p>\n<\/div>\n<\/details>\n<ul>\n<li>\n<p>T-one: call-center 8,63, \u043f\u0440\u043e\u0447\u0430\u044f \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0438\u044f 6,20, Common Voice 5,32. \u0412 \u0442\u043e\u0439 \u0436\u0435 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 Whisper large-v3 \u043d\u0430 call-center \u0434\u0430\u0451\u0442 19,39.<\/p>\n<\/li>\n<li>\n<p>GigaAM-v3 RNNT: \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c 8,3 \u043f\u043e \u0434\u0435\u0441\u044f\u0442\u0438 \u043d\u0430\u0431\u043e\u0440\u0430\u043c, call-center 9,5; e2e-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0441 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0435\u0439 11,2.<\/p>\n<\/li>\n<li>\n<p>Vosk ru-0.42: openstt calls 36,0, youtube 19,5. Small-\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 Golos crowd 11,79.<\/p>\n<\/li>\n<li>\n<p>Deepgram: \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0445 \u0446\u0438\u0444\u0440 WER \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0442. \u042f \u0438\u0445 \u043d\u0435 \u043d\u0430\u0448\u0451\u043b, \u0435\u0441\u043b\u0438 \u043d\u0430\u0439\u0434\u0451\u0442\u0435, \u043d\u0430\u043f\u0438\u0448\u0438\u0442\u0435 \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.<\/p>\n<\/li>\n<\/ul>\n<h3>\u0421\u0442\u0435\u043d\u0434<\/h3>\n<p>\u042f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434 \u043d\u0430 \u0434\u0432\u0443\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445.<\/p>\n<p><strong>\u041c\u0430\u0448\u0438\u043d\u0430 A<\/strong>: Xeon \u0441 AVX2, 8 vCPU, 15 \u0413\u0411 RAM. \u042d\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0439 \u0437\u0430\u043c\u0435\u0440, \u043e\u043d \u043c\u0435\u0440\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0435\u0440\u0435\u0437 onnxruntime, \u0431\u0430\u0442\u0447 \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432, \u0434\u0435\u043a\u043e\u0434\u0435\u0440 \u0431\u044b\u043b greedy.<\/p>\n<p><strong>\u041c\u0430\u0448\u0438\u043d\u0430 B<\/strong>: Xeon E5-2680 v2 \u043d\u0430 2,8 \u0413\u0413\u0446, 2013 \u0433\u043e\u0434, 6 vCPU \u043f\u043e\u0434 KVM, 11,6 \u0413\u0411 RAM. \u0418\u0437 \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0445 \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0439 \u0442\u043e\u043b\u044c\u043a\u043e SSE4.2 \u0438 AVX, \u0431\u0435\u0437 AVX2 \u0438 FMA. Steal \u043e\u043a\u043e\u043b\u043e 1%, \u0441\u043e\u0441\u0435\u0434\u0438 \u043f\u043e \u0445\u043e\u0441\u0442\u0443 \u043d\u0435 \u043c\u0435\u0448\u0430\u043b\u0438. \u0417\u0434\u0435\u0441\u044c \u043c\u0435\u0440\u0438\u043b\u0441\u044f \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d: \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0430, \u0441\u043f\u043b\u0438\u0442\u0442\u0435\u0440 \u043f\u043e \u043f\u0430\u0443\u0437\u0430\u043c \u0438 \u0434\u0435\u043a\u043e\u0434\u0435\u0440, \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u0441\u0432\u043e\u0451 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0432 \u0430\u0443\u0434\u0438\u043e, \u0434\u0432\u0430 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u0434\u0432\u0430 \u0440\u0435\u0436\u0438\u043c\u0430 \u0440\u0430\u0431\u043e\u0442\u044b.<\/p>\n<p>\u0421\u0440\u0430\u0437\u0443 \u0447\u0435\u0441\u0442\u043d\u043e: \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u0438 \u043d\u0430 A \u0438 B \u0440\u0430\u0437\u043d\u044b\u0435. \u041d\u0430 A \u044f \u043c\u0435\u0440\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0443, \u0431\u0430\u0442\u0447\u0435\u043c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432, \u0430 \u043d\u0430 B \u0433\u043e\u043d\u044f\u043b \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0442\u0440\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u0430 \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043d\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430 (\u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u043d\u0438\u0436\u0435, \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434 \u0438 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c). \u0401\u043c\u043a\u043e\u0441\u0442\u044c \u0432 \u0434\u043e\u0440\u043e\u0436\u043a\u0430\u0445 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0433\u0440\u0443\u0431\u043e: \u043d\u0430 A \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u044f \u043d\u0435 \u0433\u043e\u043d\u044f\u043b, \u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u0430\u043c, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u043d\u0438\u0436\u0435 32.<\/p>\n<p>\u041c\u0435\u0442\u043e\u0434\u0438\u043a\u0430 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B \u0442\u0430\u043a\u0430\u044f. \u0420\u0430\u0437 \u0432 300 \u043c\u0441 \u0432\u0441\u0435 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0447\u0430\u043d\u043a. \u0418\u0437\u043c\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u0432\u0440\u0435\u043c\u044f \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0438, \u0432\u0440\u0435\u043c\u044f \u0434\u0435\u043a\u043e\u0434\u0430 \u0438 \u0438\u0445 \u0441\u0443\u043c\u043c\u0430, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043e\u0442 \u0440\u0430\u0441\u043f\u0438\u0441\u0430\u043d\u0438\u044f: \u0435\u0441\u043b\u0438 \u0442\u0438\u043a \u0437\u0430\u043d\u044f\u043b \u0431\u043e\u043b\u044c\u0448\u0435 300 \u043c\u0441, \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0437\u0436\u0435, \u0438 \u044d\u0442\u043e \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043a\u043e\u043f\u0438\u0442\u0441\u044f. \u041c\u0430\u0448\u0438\u043d\u0430 \u00ab\u0434\u0435\u0440\u0436\u0438\u0442\u00bb N \u0434\u043e\u0440\u043e\u0436\u0435\u043a, \u0435\u0441\u043b\u0438 p95 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0442\u0438\u043a\u0430 \u043c\u0435\u043d\u044c\u0448\u0435 300 \u043c\u0441 \u0438 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043a \u043a\u043e\u043d\u0446\u0443 \u043c\u0438\u043d\u0443\u0442\u044b \u043c\u0435\u043d\u044c\u0448\u0435 \u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041d\u0430 \u043a\u0430\u0436\u0434\u0443\u044e \u0442\u043e\u0447\u043a\u0443 60 \u0441\u0435\u043a\u0443\u043d\u0434 \u0437\u0430\u043c\u0435\u0440\u0430 \u043f\u043e\u0441\u043b\u0435 6 \u0441\u0435\u043a\u0443\u043d\u0434 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430.<\/p>\n<p>\u0414\u0432\u0430 \u0440\u0435\u0436\u0438\u043c\u0430:<\/p>\n<ul>\n<li>\n<p><code>batch<\/code>: \u043e\u0434\u0438\u043d \u0432\u044b\u0437\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0432\u0441\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, onnxruntime \u0441 \u0442\u0440\u0435\u043c\u044f \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438. \u0422\u0430\u043a \u044f \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0441\u0435\u0440\u0432\u0438\u0441, \u0438 \u0442\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u0443\u0435\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f T-one \u0434\u043b\u044f Triton.<\/p>\n<\/li>\n<li>\n<p><code>threads<\/code>: \u043a\u0430\u0436\u0434\u0430\u044f \u0434\u043e\u0440\u043e\u0436\u043a\u0430 \u0432 \u0441\u0432\u043e\u0451\u043c \u0440\u0430\u0431\u043e\u0447\u0435\u043c \u043f\u043e\u0442\u043e\u043a\u0435 Python, \u0443 onnxruntime \u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a (<code>intra_op_num_threads=1<\/code>). \u0410\u043a\u0443\u0441\u0442\u0438\u043a\u0430 \u043e\u0442\u043f\u0443\u0441\u043a\u0430\u0435\u0442 GIL, \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0434\u0430\u0451\u0442 \u043f\u0443\u043b.<\/p>\n<\/li>\n<\/ul>\n<p>\u0410\u0443\u0434\u0438\u043e \u0434\u043b\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438: \u043e\u0431\u0440\u0430\u0437\u0446\u044b \u0438\u0437 \u043f\u0430\u043a\u0435\u0442\u0430 T-one, \u043a\u043e\u043b\u043b-\u0446\u0435\u043d\u0442\u0440, 8 \u043a\u0413\u0446, \u0437\u0430\u0446\u0438\u043a\u043b\u0435\u043d\u044b.<\/p>\n<p>\u041a\u043e\u0434 \u0441\u0442\u0435\u043d\u0434\u0430 \u043e\u0442\u043a\u0440\u044b\u0442 \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 <a href=\"https:\/\/github.com\/denizen24\/stt-lab\" rel=\"noopener nofollow\">github<\/a> \u0438 <a href=\"https:\/\/gitverse.ru\/denizen24\/stt-lab\" rel=\"noopener nofollow\">gitverse<\/a>. \u0421\u0430\u043c\u043e\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0435 \u0442\u0430\u043c, \u043f\u043e-\u043c\u043e\u0435\u043c\u0443, \u043d\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a, \u0430 \u0437\u043e\u043d\u0434\u00a0<a href=\"http:\/\/acoustic.py\" rel=\"noopener nofollow\"><code>acoustic.py<\/code><\/a>: \u043e\u043d \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 onnxruntime, \u0441\u0442\u0430\u0432\u0438\u0442\u0441\u044f \u0437\u0430 \u043c\u0438\u043d\u0443\u0442\u0443 \u0438 \u0437\u0430 \u0435\u0449\u0451 \u043e\u0434\u043d\u0443 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u043e\u0438\u0442 \u043e\u0434\u0438\u043d \u0447\u0430\u043d\u043a \u043d\u0430 \u0432\u0430\u0448\u0435\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u0442\u0430\u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0437\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e.<\/p>\n<h3>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/h3>\n<h4>\u0426\u0435\u043d\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430<\/h4>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\n<\/th>\n<th data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u041c\u0430\u0448\u0438\u043d\u0430 A (AVX2)<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041c\u0430\u0448\u0438\u043d\u0430 B (AVX)<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">1 \u043f\u043e\u0442\u043e\u043a onnxruntime<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">44 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">109\u2013117 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0432\u0441\u0435 \u043f\u043e\u0442\u043e\u043a\u0438 onnxruntime<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">12 \u043c\u0441 (8 \u043f\u043e\u0442\u043e\u043a\u043e\u0432)<\/p>\n<\/td>\n<td>\n<p align=\"left\">60 \u043c\u0441 (3 \u043f\u043e\u0442\u043e\u043a\u0430)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u043e\u0442 \u043f\u043e\u0442\u043e\u043a\u043e\u0432<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">\u00d73,7<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u00d71,8<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">\u0431\u0430\u0442\u0447 \u0438\u0437 2 \u0434\u043e\u0440\u043e\u0436\u0435\u043a<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">24 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">126 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTF \u043e\u0434\u043d\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, 1 \u043f\u043e\u0442\u043e\u043a onnxruntime<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">0,147<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,36\u20130,39<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">RTF \u043e\u0434\u043d\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u0432\u0441\u0435 \u043f\u043e\u0442\u043e\u043a\u0438 onnxruntime<\/p>\n<\/td>\n<td data-colwidth=\"246\" width=\"246\">\n<p align=\"left\">0,049 (8 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, p50 \u0447\u0430\u043d\u043a\u0430 13,6 \u043c\u0441)<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,20 (3 \u043f\u043e\u0442\u043e\u043a\u0430)<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043d\u0430 \u043e\u0434\u043d\u043e \u044f\u0434\u0440\u043e \u0432 2,5 \u0440\u0430\u0437\u0430, \u043f\u0440\u0438 \u0432\u0441\u0435\u0445 \u043f\u043e\u0442\u043e\u043a\u0430\u0445 onnxruntime \u0432 4\u20135 \u0440\u0430\u0437. \u0412\u0430\u0436\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0440\u0435\u0436\u0438\u043c\u044b. 44 \u043c\u0441 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 A \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u0432 \u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a onnxruntime, \u0430 RTF 0,049 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043e\u0442\u0447\u0451\u0442\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0432\u043e\u0441\u044c\u043c\u0438. \u042d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0435, \u043f\u0440\u043e\u0441\u0442\u043e \u0440\u0430\u0437\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438.<\/p>\n<p>\u041f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B: \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432 MatMul, \u043f\u044f\u0442\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0432 Conv. \u042d\u0442\u043e \u0447\u0435\u0441\u0442\u043d\u043e\u0435 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u043c\u0430\u0442\u0440\u0438\u0446 \u043d\u0430 AVX \u0431\u0435\u0437 FMA, \u0443\u0441\u043a\u043e\u0440\u044f\u0442\u044c \u0442\u0443\u0442 \u043d\u0435\u0447\u0435\u0433\u043e.<\/p>\n<p>\u0414\u0432\u0430 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u043d\u0435 \u043e\u0436\u0438\u0434\u0430\u043b. \u041f\u0435\u0440\u0432\u043e\u0435: \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B \u0448\u0435\u0441\u0442\u044c \u043f\u043e\u0442\u043e\u043a\u043e\u0432 onnxruntime \u0445\u0443\u0436\u0435 \u0442\u0440\u0451\u0445 (64 \u043c\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 60), \u0430 \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 p95 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0440\u0430\u0441\u0442\u0438 \u0443\u0436\u0435 \u043f\u0440\u0438 41% \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043c\u0430\u0448\u0438\u043d\u044b. \u041f\u043e\u0445\u043e\u0436\u0435, 6 vCPU \u044d\u0442\u043e 3 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u044f\u0434\u0440\u0430 \u0441 \u0433\u0438\u043f\u0435\u0440\u0442\u0440\u0435\u0434\u0438\u043d\u0433\u043e\u043c, \u0438 \u0432 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u0449\u0438\u0439 \u043a\u044d\u0448. \u0412\u0442\u043e\u0440\u043e\u0435: \u0431\u0430\u0442\u0447 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0441\u0442\u043e\u0438\u0442 \u0440\u043e\u0432\u043d\u043e \u0432\u0434\u0432\u043e\u0435 \u0434\u043e\u0440\u043e\u0436\u0435 \u043e\u0434\u043d\u043e\u0439. \u0411\u0430\u0442\u0447\u0438\u043d\u0433, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432\u0441\u044f \u0438\u0434\u0435\u044f \u00ab\u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043d\u0430 \u0432\u0441\u0435\u0445\u00bb, \u043d\u0430 \u044d\u0442\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u043d\u0435 \u0434\u0430\u0451\u0442 \u043d\u0438\u0447\u0435\u0433\u043e.<\/p>\n<h4>\u0421\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0434\u0435\u0440\u0436\u0438\u0442 \u043c\u0430\u0448\u0438\u043d\u0430<\/h4>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/83\/d8\/41\/83d84142b91afc054ec21a295455ed24.jpg\" width=\"1280\" height=\"720\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/83\/d8\/41\/83d84142b91afc054ec21a295455ed24.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/83\/d8\/41\/83d84142b91afc054ec21a295455ed24.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u041c\u0430\u0448\u0438\u043d\u0430 A \u043f\u043e \u043f\u0440\u043e\u0448\u043b\u043e\u043c\u0443 \u0437\u0430\u043c\u0435\u0440\u0443 (\u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0430, \u0431\u0430\u0442\u0447): 16 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0437\u0430 72 \u043c\u0441, 32 \u0437\u0430 128 \u043c\u0441, 64 \u0437\u0430 223 \u043c\u0441 \u043d\u0430 \u0442\u0438\u043a. \u0421 \u0434\u0432\u043e\u0439\u043d\u044b\u043c \u0437\u0430\u043f\u0430\u0441\u043e\u043c \u044d\u0442\u043e 32 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u0442\u043e \u0435\u0441\u0442\u044c 16 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0432\u0441\u0442\u0440\u0435\u0447. \u042d\u0442\u043e \u0432\u0435\u0440\u0445\u043d\u044f\u044f \u043e\u0446\u0435\u043d\u043a\u0430: \u0441\u043f\u043b\u0438\u0442\u0442\u0435\u0440 \u0438 \u0434\u0435\u043a\u043e\u0434\u0435\u0440 \u0432 \u043d\u0435\u0451 \u043d\u0435 \u0432\u043e\u0448\u043b\u0438.<\/p>\n<p>\u041c\u0430\u0448\u0438\u043d\u0430 B, \u043a\u0440\u0438\u0432\u0430\u044f \u043f\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u043c \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u043c:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0414\u0435\u0440\u0436\u0438\u0442 \u0434\u043e\u0440\u043e\u0436\u0435\u043a<\/p>\n<\/th>\n<th>\n<p align=\"left\">p95 \u043d\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u0435<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u043e\u0447\u043a\u0430<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">batch, 3 \u043f\u043e\u0442\u043e\u043a\u0430 ORT<\/p>\n<\/td>\n<td>\n<p align=\"left\">2<\/p>\n<\/td>\n<td>\n<p align=\"left\">292 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">3 \u0434\u043e\u0440\u043e\u0436\u043a\u0438: 336 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">threads, 3 \u0440\u0430\u0431\u043e\u0447\u0438\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">3<\/p>\n<\/td>\n<td>\n<p align=\"left\">268 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">4: 322 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">threads, 6 \u0440\u0430\u0431\u043e\u0447\u0438\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">5<\/p>\n<\/td>\n<td>\n<p align=\"left\">286 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">6: 345 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">threads, 6 \u0440\u0430\u0431\u043e\u0447\u0438\u0445, KenLM<\/p>\n<\/td>\n<td>\n<p align=\"left\">4<\/p>\n<\/td>\n<td>\n<p align=\"left\">286 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">6: 360 \u043c\u0441<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0418\u0442\u043e\u0433\u043e: \u043c\u0430\u0448\u0438\u043d\u0430 B \u0434\u0435\u0440\u0436\u0438\u0442 4\u20135 \u0434\u043e\u0440\u043e\u0436\u0435\u043a, \u044d\u0442\u043e \u0434\u0432\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0438 \u043f\u0440\u043e\u0442\u0438\u0432 \u0432\u0435\u0440\u0445\u043d\u0435\u0439 \u043e\u0446\u0435\u043d\u043a\u0438 \u0432 16 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 A. \u0420\u0435\u0436\u0438\u043c \u00ab\u0434\u043e\u0440\u043e\u0436\u043a\u0430 \u043d\u0430 \u043f\u043e\u0442\u043e\u043a\u00bb \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043b\u0443\u0447\u0448\u0435 \u0431\u0430\u0442\u0447\u0430 \u0432 \u0434\u0432\u0430 \u0441 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u043e\u0439 \u0440\u0430\u0437\u0430, \u0438 \u043e\u043d \u0436\u0435 \u043f\u0440\u043e\u0449\u0435 \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438.<\/p>\n<h4>KenLM<\/h4>\n<p>\u0423 T-one \u0434\u0432\u0430 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430: greedy \u0438 beam search \u0441 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e KenLM \u043d\u0430 5,4 \u0413\u0411. \u042f \u043e\u0436\u0438\u0434\u0430\u043b, \u0447\u0442\u043e KenLM \u0441\u043e\u0436\u0440\u0435\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440. \u041d\u043e \u043d\u0435 \u043d\u0435\u0442, \u043d\u0435 \u0441\u044a\u0435\u043b: \u0434\u0435\u043a\u043e\u0434 \u0444\u0440\u0430\u0437\u044b \u0441\u0442\u043e\u0438\u0442 5\u201311 \u043c\u0441 \u043d\u0430 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0440\u0435\u0447\u0438, \u043d\u0430 \u0437\u0430\u043f\u0438\u0441\u0438 \u0432 51 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0432\u0435\u0441\u044c \u0434\u0435\u043a\u043e\u0434 \u0437\u0430\u043d\u044f\u043b 0,1 \u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041e\u043d \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043f\u0430\u0439\u043a\u0430\u043c\u0438 \u043b\u043e\u0436\u0438\u0442\u0441\u044f \u0432 \u043a\u043e\u043d\u0435\u0446 \u043a\u0430\u0436\u0434\u043e\u0439 \u0444\u0440\u0430\u0437\u044b. \u0417\u0430\u0442\u043e \u043f\u0430\u043c\u044f\u0442\u044c: \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0441 KenLM \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 5,5 \u0413\u0411 \u043f\u0440\u043e\u0442\u0438\u0432 0,6 \u0413\u0411 \u0441 greedy.  \u041d\u0430 \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u0442\u0435\u043a\u0441\u0442\u044b greedy \u0438 KenLM \u0441\u043e\u0432\u043f\u0430\u043b\u0438 \u0434\u043e\u0441\u043b\u043e\u0432\u043d\u043e, \u0430 \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0441\u043e\u0432\u043e\u043c \u0436\u0438\u0432\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u0435 KenLM \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043b\u0443\u0447\u0448\u0435 \u043d\u0430 0,9 \u043f.\u043f. \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0438 \u043d\u0430 1,7 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u0432\u0435\u0434\u0443\u0449\u0435\u0439.<\/p>\n<h4>\u0427\u0442\u043e \u043d\u0435 \u043f\u043e\u043c\u043e\u0433\u043b\u043e<\/h4>\n<p>\u042f \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b \u0434\u0432\u0430 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u0445 \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f, \u043e\u0431\u0430 \u043c\u0438\u043c\u043e.<\/p>\n<p>\u0414\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0432 int8. \u0412\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0438\u0437 158 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0445 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 157 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432 float16, \u0430 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u0435\u043b\u044c onnxruntime \u0443\u043c\u0435\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e float32. \u041a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0447\u0435\u0433\u043e.<\/p>\n<p>\u041f\u0435\u0440\u0435\u0432\u043e\u0434 \u0432\u0441\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 float32, \u0440\u0430\u0437 \u0443\u0436 \u043e\u043d\u0430 \u0432 fp16, \u0430 \u043d\u0430 x86 \u0431\u0435\u0437 AVX512-FP16 \u0431\u044b\u0441\u0442\u0440\u044b\u0445 fp16-\u044f\u0434\u0435\u0440 \u043d\u0435\u0442. RTF \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0441\u044f: 0,392 \u043f\u0440\u043e\u0442\u0438\u0432 0,395, \u0437\u043d\u0430\u0447\u0438\u0442 onnxruntime \u0438 \u0442\u0430\u043a \u0441\u0447\u0438\u0442\u0430\u043b \u0432 fp32. \u0417\u0430\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0442\u0430\u043b\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c\u0441\u044f \u0437\u0430 3 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0432\u043c\u0435\u0441\u0442\u043e 9 \u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u0442\u044c \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0430\u043c\u044f\u0442\u0438: \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u043d\u0442\u0430\u0439\u043c \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043b \u0432\u0435\u0441\u0430 \u0438\u0437 fp16 \u043f\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435. \u0414\u043b\u044f \u0441\u0435\u0440\u0432\u0438\u0441\u0430 fp32-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u0435\u043d.<\/p>\n<h4>\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0430 \u043e\u0434\u043d\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u0446\u0435<\/h4>\n<p>\u042d\u0442\u043e 51 \u0441\u0435\u043a\u0443\u043d\u0434\u0430 \u043a\u043e\u043b\u043b-\u0446\u0435\u043d\u0442\u0440\u0430 \u0438\u0437 \u043f\u0430\u043a\u0435\u0442\u0430 T-one, \u0432\u043e\u0441\u0435\u043c\u044c \u043a\u0438\u043b\u043e\u0433\u0435\u0440\u0446. \u042d\u0442\u0430\u043b\u043e\u043d \u044f \u0441\u043e\u0431\u0440\u0430\u043b \u043a\u0430\u043a \u0441\u043e\u0433\u043b\u0430\u0441\u0438\u0435 \u0434\u0432\u0438\u0436\u043a\u043e\u0432, \u044d\u0442\u043e \u043d\u0435 \u0432\u044b\u0447\u0438\u0442\u043a\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u043e\u043c, \u0442\u0430\u043a \u0447\u0442\u043e \u0447\u0438\u0441\u043b\u0430 \u043d\u0438\u0436\u0435 \u0441\u0442\u043e\u0438\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u043c, \u0430 \u043d\u0435 \u0432\u044b\u0432\u043e\u0434\u043e\u043c. <\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0414\u0432\u0438\u0436\u043e\u043a<\/p>\n<\/th>\n<th>\n<p align=\"left\">WER, %<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B<\/p>\n<\/th>\n<th>\n<p align=\"left\">RAM<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Deepgram nova-3<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">51 \u0441 \u0437\u0430 1,0 \u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaAM-v3 rnnt<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,0<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 1,25, \u0442\u043e \u0435\u0441\u0442\u044c 75 \u043c\u0438\u043d\u0443\u0442 \u043d\u0430 \u0447\u0430\u0441 \u0430\u0443\u0434\u0438\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,6 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaAM-v3 e2e_rnnt (\u0441 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0435\u0439)<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 1,12<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,6 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Deepgram nova-2<\/p>\n<\/td>\n<td>\n<p align=\"left\">2,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">51 \u0441 \u0437\u0430 1,4 \u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Vosk ru-0.42<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,59, \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 85 \u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">6,2 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-one, greedy \u0438 KenLM<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,8<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,35<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,6 \/ 5,5 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Vosk small-ru-0.22<\/p>\n<\/td>\n<td>\n<p align=\"left\">23,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,17<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,27 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0427\u0435\u0442\u044b\u0440\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 T-one \u043d\u0430 34 \u0441\u043b\u043e\u0432\u0430: \u0434\u0432\u0430\u0436\u0434\u044b \u00ab\u043d\u0430 \u0441\u0443\u043c\u043c\u0443\u00bb \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u043d\u043e \u0441\u0443\u043c\u043c\u0430\u00bb. \u042d\u0442\u043e \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u043d\u0430\u044f \u0440\u0435\u0447\u044c, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0430, \u0438 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043e\u043d\u0430 \u0441\u043b\u0430\u0431\u0435\u0435 \u0432\u0441\u0435\u0445, \u043a\u0440\u043e\u043c\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u043e\u0433\u043e Vosk. GigaAM \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043e\u0431\u043b\u0430\u043a\u0430, \u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u043a\u0435\u0442\u043d\u043e. \u041d\u0430 \u044d\u0442\u043e\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u043e\u043d\u0430 \u0448\u043b\u0430 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 (RTF 1,25), \u0430 \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0441\u043e\u0432\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u0435 \u043d\u0438\u0436\u0435 \u0443\u043b\u043e\u0436\u0438\u043b\u0430\u0441\u044c \u0432 0,62\u20130,86. \u0421\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u043d\u0430 51 \u0441\u0435\u043a\u0443\u043d\u0434\u0435 \u0437\u0430\u043c\u0435\u0442\u043d\u0443\u044e \u0434\u043e\u043b\u044e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441\u044a\u0435\u0434\u0430\u0435\u0442 \u0440\u0430\u0437\u043e\u0433\u0440\u0435\u0432, \u0438 \u043d\u0430 \u0434\u043b\u0438\u043d\u043d\u043e\u0439 \u0437\u0430\u043f\u0438\u0441\u0438 \u0446\u0438\u0444\u0440\u0430 \u0447\u0435\u0441\u0442\u043d\u0435\u0435. \u0412\u044b\u0432\u043e\u0434: \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B GigaAM \u0443\u0441\u043f\u0435\u0432\u0430\u0435\u0442 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0432\u0441\u0442\u0440\u0435\u0447\u0443 \u043f\u043e\u0441\u043b\u0435 \u0435\u0451 \u043e\u043a\u043e\u043d\u0447\u0430\u043d\u0438\u044f, \u043d\u043e \u043e\u043d\u043b\u0430\u0439\u043d \u043d\u0435 \u0433\u043e\u0434\u0438\u0442\u0441\u044f.<\/p>\n<h4>\u0416\u0438\u0432\u043e\u0439 \u0434\u0438\u0430\u043b\u043e\u0433: 29 \u043c\u0438\u043d\u0443\u0442 \u043a\u043e\u0443\u0447\u0438\u043d\u0433\u043e\u0432\u043e\u0439 \u0441\u0435\u0441\u0441\u0438\u0438<\/h4>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/69\/1b\/f0\/691bf0d55e54401a7199eba05a6ada0c.jpg\" width=\"1280\" height=\"720\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/69\/1b\/f0\/691bf0d55e54401a7199eba05a6ada0c.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/69\/1b\/f0\/691bf0d55e54401a7199eba05a6ada0c.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0414\u0432\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u044d\u0442\u0430\u043b\u043e\u043d\u043e\u043c \u0441\u043b\u0443\u0436\u0438\u0442 \u0431\u043e\u0435\u0432\u0430\u044f \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043a\u0430 Deepgram nova-3.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<th>\n<p align=\"left\">\u0414\u0432\u0438\u0436\u043e\u043a<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u041a\u043b\u0438\u0435\u043d\u0442, 3028 \u0441\u043b\u043e\u0432, WER %<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0412\u0435\u0434\u0443\u0449\u0430\u044f, 539 \u0441\u043b\u043e\u0432, WER %<\/p>\n<\/th>\n<th>\n<p align=\"left\">\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430 B<\/p>\n<\/th>\n<th>\n<p align=\"left\">RAM<\/p>\n<\/th>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Deepgram nova-3<\/p>\n<\/td>\n<td>\n<p align=\"left\">0 (\u044d\u0442\u0430\u043b\u043e\u043d)<\/p>\n<\/td>\n<td>\n<p align=\"left\">0 (\u044d\u0442\u0430\u043b\u043e\u043d)<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u0431\u043b\u0430\u043a\u043e<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">GigaAM-v3 e2e_rnnt<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>8,1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>19,1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,62\u20130,86 (37\u201352 \u043c\u0438\u043d \u043d\u0430 \u0447\u0430\u0441)<\/p>\n<\/td>\n<td>\n<p align=\"left\">1,7 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-one KenLM, \u043e\u0444\u043b\u0430\u0439\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">10,6<\/p>\n<\/td>\n<td>\n<p align=\"left\">24,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,27\u20130,29<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,5 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-one greedy, \u043e\u0444\u043b\u0430\u0439\u043d<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,5<\/p>\n<\/td>\n<td>\n<p align=\"left\">26,2<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,30\u20130,42<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,6 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">T-one greedy \u0447\u0435\u0440\u0435\u0437 \u0441\u0435\u0440\u0432\u0438\u0441 (48\u21928 \u043a\u0413\u0446, \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0435 \u0432\u0440\u0435\u043c\u044f)<\/p>\n<\/td>\n<td>\n<p align=\"left\">11,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">25,6<\/p>\n<\/td>\n<td>\n<p align=\"left\">p95 \u0442\u0438\u043a\u0430 272 \u043c\u0441 \u043f\u0440\u0438 2 \u0434\u043e\u0440\u043e\u0436\u043a\u0430\u0445<\/p>\n<\/td>\n<td>\n<p align=\"left\">0,5 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Vosk ru-0.42<\/p>\n<\/td>\n<td>\n<p align=\"left\">25,9<\/p>\n<\/td>\n<td>\n<p align=\"left\">21,2<\/p>\n<\/td>\n<td>\n<p align=\"left\">RTF 0,63\u20130,94; \u0447\u0430\u043d\u043a p95 376\u2013516 \u043c\u0441<\/p>\n<\/td>\n<td>\n<p align=\"left\">5,4 \u0413\u0411<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0417\u0430\u0434\u0435\u0440\u0436\u043a\u0430 \u0444\u0440\u0430\u0437\u044b \u0447\u0435\u0440\u0435\u0437 \u0441\u0435\u0440\u0432\u0438\u0441: \u0432\u0435\u0434\u0443\u0449\u0430\u044f 126 \u0444\u0440\u0430\u0437, p50 1110 \/ p95 1200 \u043c\u0441; \u043a\u043b\u0438\u0435\u043d\u0442 322 \u0444\u0440\u0430\u0437\u044b, p50 1080 \/ p95 1200 \u043c\u0441.<\/p>\n<p>\u0427\u0442\u043e \u0432\u0438\u0434\u043d\u043e \u0437\u0430 \u0446\u0438\u0444\u0440\u0430\u043c\u0438:<\/p>\n<ul>\n<li>\n<p>KenLM \u043d\u0430 \u0436\u0438\u0432\u043e\u0439 \u0440\u0435\u0447\u0438 \u0434\u0430\u0451\u0442 \u043c\u0438\u043d\u0443\u0441 0,9\u20131,7 \u043f.\u043f. \u043a greedy \u043d\u0430 \u043e\u0431\u0435\u0438\u0445 \u0434\u043e\u0440\u043e\u0436\u043a\u0430\u0445 (\u043d\u0430 \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u0440\u0430\u0437\u043d\u0438\u0446\u044b \u043d\u0435 \u0431\u044b\u043b\u043e).<\/p>\n<\/li>\n<li>\n<p>\u041f\u0443\u0442\u044c \u0447\u0435\u0440\u0435\u0437 \u0441\u0435\u0440\u0432\u0438\u0441 (\u0440\u0435\u0441\u0435\u043c\u043f\u043b\u0438\u043d\u0433 48\u21928 \u043a\u0413\u0446) \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0445\u0443\u0436\u0435 \u043e\u0444\u043b\u0430\u0439\u043d\u0430 \u043d\u0430 0,4 \u043f.\u043f., \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u0432\u0435\u0434\u0443\u0449\u0435\u0439 \u0434\u0430\u0436\u0435 \u0447\u0443\u0442\u044c \u043b\u0443\u0447\u0448\u0435 (25,6 \u043f\u0440\u043e\u0442\u0438\u0432 26,2). \u041d\u0430 \u0442\u0430\u043a\u043e\u043c \u043e\u0431\u044a\u0451\u043c\u0435 \u044d\u0442\u043e \u0448\u0443\u043c: \u0440\u0435\u0441\u0435\u043c\u043f\u043b\u0438\u043d\u0433 \u043f\u043e\u0447\u0442\u0438 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0441\u0442\u043e\u0438\u0442.<\/p>\n<\/li>\n<li>\n<p>\u0412\u044b\u0441\u043e\u043a\u0438\u0439 WER \u0432\u0435\u0434\u0443\u0449\u0435\u0439 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u0443\u0442\u0435\u0447\u043a\u043e\u0439 \u0437\u0432\u0443\u043a\u0430 \u043c\u0435\u0436\u0434\u0443 \u043a\u0430\u043d\u0430\u043b\u0430\u043c\u0438. \u0423 T-one \u0438 GigaAM \u043d\u0430 539 \u0441\u043b\u043e\u0432 60\u201369 \u0432\u0441\u0442\u0430\u0432\u043e\u043a. \u0412\u0435\u0434\u0443\u0449\u0430\u044f 89% \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043c\u043e\u043b\u0447\u0438\u0442, \u0432 \u0435\u0451 \u043c\u0438\u043a\u0440\u043e\u0444\u043e\u043d \u0434\u043e\u043b\u0435\u0442\u0430\u0435\u0442 \u0433\u043e\u043b\u043e\u0441 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0438\u0437 \u0434\u0438\u043d\u0430\u043c\u0438\u043a\u043e\u0432, \u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0433\u043e \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442, \u0430 Deepgram \u0432 multichannel \u044d\u0442\u043e\u0433\u043e \u043d\u0435 \u0437\u0430\u043f\u0438\u0441\u0430\u043b.<\/p>\n<\/li>\n<li>\n<p>\u041d\u043e \u0438 Deepgram \u0437\u0434\u0435\u0441\u044c \u043d\u0435 \u0431\u0435\u0437\u0443\u043f\u0440\u0435\u0447\u0435\u043d: \u0432 00:02 \u0438 00:10 T-one \u0438 GigaAM \u0441\u043e\u0448\u043b\u0438\u0441\u044c \u043f\u0440\u043e\u0442\u0438\u0432 \u043d\u0435\u0433\u043e, \u043e\u043d \u043f\u0440\u0438\u043f\u0438\u0441\u0430\u043b \u0432\u0435\u0434\u0443\u0449\u0435\u0439 \u0440\u0435\u043f\u043b\u0438\u043a\u0438 \u043a\u043b\u0438\u0435\u043d\u0442\u0430. \u0422\u0430\u043a \u0447\u0442\u043e WER \u0432\u0435\u0434\u0443\u0449\u0435\u0439 \u0437\u0430\u0432\u044b\u0448\u0435\u043d, \u0438 \u0442\u043e\u0447\u043d\u043e \u0441\u043a\u0430\u0436\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u0438\u0432\u0430\u043d\u0438\u0435 \u0441\u043f\u043e\u0440\u043d\u044b\u0445 \u043c\u0435\u0441\u0442.<\/p>\n<\/li>\n<li>\n<p>Vosk ru-0.42 \u043d\u0430 \u0448\u0438\u0440\u043e\u043a\u043e\u043f\u043e\u043b\u043e\u0441\u043d\u043e\u0439 \u0436\u0438\u0432\u043e\u0439 \u0440\u0435\u0447\u0438 \u0440\u0430\u0437\u0432\u0430\u043b\u0438\u043b\u0441\u044f: 326 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043e\u0432 \u0438\u0437 3028 \u0441\u043b\u043e\u0432 \u043d\u0430 \u043a\u043b\u0438\u0435\u043d\u0442\u0435 (\u043d\u0430 \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u043d\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u0431\u044b\u043b 5,9%).<\/p>\n<\/li>\n<li>\n<p>\u0421\u043f\u043e\u0440\u043d\u044b\u0445 \u043c\u0435\u0441\u0442 \u0434\u043b\u044f \u043f\u0440\u043e\u0441\u043b\u0443\u0448\u0438\u0432\u0430\u043d\u0438\u044f \u043d\u0430\u0431\u0440\u0430\u043b\u043e\u0441\u044c 91 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u0432\u0435\u0434\u0443\u0449\u0435\u0439 \u0438 561 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430.<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u041e\u0433\u043e\u0432\u043e\u0440\u043a\u0430 \u043f\u0440\u043e \u044d\u0442\u0430\u043b\u043e\u043d, \u0438 \u043f\u043e\u0447\u0435\u043c\u0443 \u043e\u043d\u0430 \u043d\u0435 \u043c\u0435\u043d\u044f\u0435\u0442 \u0432\u044b\u0432\u043e\u0434.<\/strong>\u00a0\u042d\u0442\u0430\u043b\u043e\u043d\u043e\u043c \u0437\u0434\u0435\u0441\u044c \u0441\u043b\u0443\u0436\u0438\u0442 \u0442\u0435\u043a\u0441\u0442 Deepgram nova-3, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0433\u043e \u0441\u0442\u0440\u043e\u043a\u0430 \u0440\u0430\u0432\u043d\u0430 \u043d\u0443\u043b\u044e \u043f\u043e \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044e, \u0430 \u0446\u0438\u0444\u0440\u044b \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0434\u043e Deepgram, \u0430 \u043d\u0435 WER \u0432 \u0441\u0442\u0440\u043e\u0433\u043e\u043c \u0441\u043c\u044b\u0441\u043b\u0435. \u042f \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u043b, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u0442\u043e \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043a\u0430\u0437\u0438\u0442\u044c \u043a\u0430\u0440\u0442\u0438\u043d\u0443. \u041d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0435\u0441\u0442\u044c 74 \u043c\u0435\u0441\u0442\u0430 \u0438\u0437 3028 \u0441\u043b\u043e\u0432, \u0433\u0434\u0435 \u0434\u0432\u0438\u0436\u043a\u0438 \u0440\u0430\u0437\u043d\u044b\u0445 \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432 \u0441\u043e\u0448\u043b\u0438\u0441\u044c \u043f\u0440\u043e\u0442\u0438\u0432 Deepgram. \u0415\u0441\u043b\u0438 \u0432\u043e \u0432\u0441\u0435\u0445 74 \u043e\u0448\u0438\u0431\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e Deepgram, \u0435\u0433\u043e WER \u0441\u0442\u0430\u043d\u0435\u0442 2,4%, \u0430 \u0443 T-one \u0441\u043d\u0438\u0437\u0438\u0442\u0441\u044f \u043d\u0430 \u0442\u0435 \u0436\u0435 2,4 \u043f.\u043f.: \u0440\u0430\u0437\u0440\u044b\u0432 \u0441\u043e\u0436\u043c\u0451\u0442\u0441\u044f \u0441 10,6 \u0434\u043e 5,7 \u043f.\u043f., \u043d\u043e \u043d\u0435 \u0438\u0441\u0447\u0435\u0437\u043d\u0435\u0442. \u041f\u043e\u0440\u044f\u0434\u043e\u043a \u0434\u0432\u0438\u0436\u043a\u043e\u0432 \u044d\u0442\u043e\u0442 \u0441\u0434\u0432\u0438\u0433 \u0442\u043e\u0436\u0435 \u043d\u0435 \u043c\u0435\u043d\u044f\u0435\u0442. \u0412\u0441\u0435\u0440\u044c\u0451\u0437 \u043e\u043d \u043c\u043e\u0433 \u0431\u044b \u043f\u043e\u0434\u0432\u0438\u043d\u0443\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u0440\u043e\u043a\u0443 GigaAM: 8,1% \u00ab\u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u044f\u00bb \u043c\u043e\u0436\u0435\u0442 \u043e\u0437\u043d\u0430\u0447\u0430\u0442\u044c \u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0435 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435, \u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0434\u0440\u0443\u0433\u0438\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 \u0432 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u0435\u0441\u0442\u0430\u0445. <\/p>\n<h3>\u041a\u0430\u043a \u0443\u0441\u0442\u0440\u043e\u0435\u043d \u0441\u0435\u0440\u0432\u0438\u0441<\/h3>\n<p>\u041a\u0440\u0438\u0432\u0430\u044f \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u0430\u043b\u0430 \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430. \u041e\u0434\u0438\u043d \u043f\u0440\u043e\u0446\u0435\u0441\u0441, \u043e\u0434\u043d\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u0441\u0432\u043e\u0451 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, onnxruntime \u0441 \u043e\u0434\u043d\u0438\u043c \u043f\u043e\u0442\u043e\u043a\u043e\u043c, \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044f\u0442\u0441\u044f \u043f\u0443\u043b\u043e\u043c \u0440\u0430\u0431\u043e\u0447\u0438\u0445 \u043f\u043e\u0442\u043e\u043a\u043e\u0432 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u044f\u0434\u0435\u0440.<\/p>\n<p>\u0411\u0440\u0430\u0443\u0437\u0435\u0440 \u043e\u0442\u0434\u0430\u0451\u0442 PCM 48 \u043a\u0413\u0446 \u043a\u0430\u0434\u0440\u0430\u043c\u0438 \u043f\u043e 20 \u043c\u0441, \u0441\u0435\u0440\u0432\u0438\u0441 \u043f\u043e\u043d\u0438\u0436\u0430\u0435\u0442 \u0434\u043e 8 \u043a\u0413\u0446 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u043c FIR-\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u043c \u0441\u043e \u0441\u0440\u0435\u0437\u043e\u043c 3,6 \u043a\u0413\u0446 \u0438 \u0440\u0435\u0436\u0435\u0442 \u043d\u0430 \u0447\u0430\u043d\u043a\u0438 \u043f\u043e 300 \u043c\u0441. \u041a\u043e\u043d\u0442\u0440\u0430\u043a\u0442 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0439: \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u0432\u0441\u0442\u0440\u0435\u0447\u0443 (\u0440\u0435\u0437\u0435\u0440\u0432\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u0434\u0432\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u043f\u0440\u0438 \u043f\u0435\u0440\u0435\u0433\u0440\u0443\u0437\u0435 \u0441\u0440\u0430\u0437\u0443 429), \u0434\u0432\u0430 WebSocket \u0441 \u0440\u043e\u043b\u044c\u044e, \u0441\u043e\u0431\u044b\u0442\u0438\u044f \u0432\u0438\u0434\u0430\u00a0<code>{\"type\":\"phrase\",\"role\":\"host\",\"text\":\"\u2026\",\"start_ms\":\u2026,\"end_ms\":\u2026,\"lag_ms\":\u2026}<\/code>, \u0437\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u0441\u00a0<code>finalize<\/code>\u00a0\u0438 \u0445\u0432\u043e\u0441\u0442\u043e\u043c \u0444\u0440\u0430\u0437. \u0427\u0430\u0441\u0442\u0438\u0447\u043d\u044b\u0445 \u0433\u0438\u043f\u043e\u0442\u0435\u0437 \u043d\u0435\u0442, \u0438 \u044d\u0442\u043e \u043d\u0430\u0434\u043e \u043f\u0440\u044f\u043c\u043e \u043f\u0438\u0441\u0430\u0442\u044c \u0432 \u043a\u043e\u043d\u0442\u0440\u0430\u043a\u0442\u0435: T-one \u043e\u0442\u0434\u0430\u0451\u0442 \u0442\u0435\u043a\u0441\u0442 \u0444\u0440\u0430\u0437\u043e\u0439 \u043f\u043e \u043f\u0430\u0443\u0437\u0435, \u043f\u043e\u0441\u043b\u043e\u0432\u043d\u043e\u0433\u043e \u043f\u043e\u0442\u043e\u043a\u0430 \u043e\u0442 \u043d\u0435\u0433\u043e \u043d\u0435 \u0434\u043e\u0436\u0434\u0430\u0442\u044c\u0441\u044f.<\/p>\n<p>\u0416\u0438\u0432\u0430\u044f \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0430 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B, \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u0440\u043e\u0433\u043e\u043d \u043d\u0430 \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u043c \u043f\u043e\u0442\u043e\u043a\u0435: \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u0434\u0432\u0438\u0436\u043a\u0430 4,2 \u0441, \u0444\u0440\u0430\u0437\u044b \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u0441 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435\u043c 990\u20131200 \u043c\u0441 \u043e\u0442 \u0436\u0438\u0432\u043e\u0433\u043e \u043a\u0440\u0430\u044f, p95 \u0442\u0438\u043a\u0430 229 \u043c\u0441 \u043f\u0440\u0438 \u0434\u0432\u0443\u0445 \u0434\u043e\u0440\u043e\u0436\u043a\u0430\u0445, 517 \u041c\u0411 \u043f\u0430\u043c\u044f\u0442\u0438. \u041d\u0430 \u0436\u0438\u0432\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u0435 \u0432\u044b\u0448\u0435 \u0431\u044b\u043b\u043e 272 \u043c\u0441 \u0438 1080\u20131200 \u043c\u0441. \u0422\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u0435 \u00abp95 \u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 2 \u0441\u00bb \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f \u0441 \u0437\u0430\u043f\u0430\u0441\u043e\u043c. \u041b\u0438\u043c\u0438\u0442 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0437\u0430\u0434\u0430\u0451\u0442\u0441\u044f \u043a\u043e\u043d\u0444\u0438\u0433\u043e\u043c \u043f\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0443 \u043a\u0440\u0438\u0432\u043e\u0439; \u0441\u0432\u0435\u0440\u0445 \u043b\u0438\u043c\u0438\u0442\u0430 \u043d\u043e\u0432\u0430\u044f \u0432\u0441\u0442\u0440\u0435\u0447\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 \u043e\u0442\u043a\u0430\u0437, \u0430 \u043f\u0435\u0440\u0435\u043a\u043b\u044e\u0447\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043e\u0431\u043b\u0430\u043a\u043e \u0438\u043b\u0438 \u0432\u044b\u043a\u043b\u044e\u0447\u0430\u0442\u044c \u0441\u0443\u0431\u0442\u0438\u0442\u0440\u044b \u0440\u0435\u0448\u0430\u0435\u0442 \u0432\u044b\u0437\u044b\u0432\u0430\u044e\u0449\u0430\u044f \u0441\u0442\u043e\u0440\u043e\u043d\u0430. \u0412 \u043b\u043e\u0433\u0430\u0445 \u043d\u0435\u0442 \u043d\u0438 \u0442\u0435\u043a\u0441\u0442\u0430, \u043d\u0438 \u0430\u0443\u0434\u0438\u043e, \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u044b \u0438 \u0432\u0440\u0435\u043c\u044f.<\/p>\n<h3>\u0414\u0435\u043d\u044c\u0433\u0438<\/h3>\n<figure class=\"full-width \"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/extt\/9e\/eb\/7c\/9eeb7c9e921db561a7744dfb1e6c5044.jpg\" alt=\"\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0446\u0435\u043d\u044b \u043e\u0431\u043b\u0430\u043a\u0430 \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u0430\" title=\"\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0446\u0435\u043d\u044b \u043e\u0431\u043b\u0430\u043a\u0430 \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u0430\" width=\"1280\" height=\"720\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/extt\/9e\/eb\/7c\/9eeb7c9e921db561a7744dfb1e6c5044.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/extt\/9e\/eb\/7c\/9eeb7c9e921db561a7744dfb1e6c5044.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u0446\u0435\u043d\u044b \u043e\u0431\u043b\u0430\u043a\u0430 \u0438 \u0441\u0435\u0440\u0432\u0435\u0440\u0430<\/figcaption><\/div>\n<\/figure>\n<p>\u0427\u0430\u0441 \u0432\u0441\u0442\u0440\u0435\u0447\u0438 \u0432 Deepgram nova-3 streaming, \u0434\u0432\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438: \u043e\u043a\u043e\u043b\u043e 49 \u20bd \u043f\u043e \u043f\u0440\u043e\u043c\u043e-\u0446\u0435\u043d\u0435 ($0,0048 \u0437\u0430 \u043c\u0438\u043d\u0443\u0442\u0443) \u0438 \u043e\u043a\u043e\u043b\u043e 79 \u20bd \u043f\u043e \u043e\u0431\u044b\u0447\u043d\u043e\u0439 ($0,0077), \u043a\u0443\u0440\u0441 84,9. \u041d\u044e\u0430\u043d\u0441, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043b\u0435\u0433\u043a\u043e \u043f\u0440\u043e\u043f\u0443\u0441\u0442\u0438\u0442\u044c: \u0441\u0442\u0435\u0440\u0435\u043e \u0441\u00a0<code>multichannel<\/code>\u00a0\u0442\u0430\u0440\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043f\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e, \u0434\u0435\u0441\u044f\u0442\u044c \u043c\u0438\u043d\u0443\u0442 \u0437\u0430\u043f\u0438\u0441\u0438 \u044d\u0442\u043e \u0434\u0432\u0430\u0434\u0446\u0430\u0442\u044c \u043c\u0438\u043d\u0443\u0442 \u0431\u0438\u043b\u043b\u0438\u043d\u0433\u0430.<\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u0440\u0430\u0441\u0447\u0451\u0442 \u0443\u0441\u043b\u043e\u0432\u043d\u044b\u0439. \u041a\u0430\u043a\u043e\u0439 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0441\u0442\u043e\u0438\u0442 \u0437\u0430 \u0442\u0430\u0440\u0438\u0444\u0430\u043c\u0438 \u043d\u0438\u0436\u0435, \u044f \u043d\u0435 \u0437\u0430\u043c\u0435\u0440\u044f\u043b, \u0438 \u0441\u0447\u0438\u0442\u0430\u044e \u0442\u0430\u043a, \u0431\u0443\u0434\u0442\u043e \u043e\u043d\u0438 \u043a\u043b\u0430\u0441\u0441\u0430 \u043c\u0430\u0448\u0438\u043d\u044b A. \u0421\u0435\u0440\u0432\u0435\u0440 \u043f\u043e\u0434 T-one: Timeweb 8 vCPU \/ 12 \u0413\u0411 \u0437\u0430 2 790 \u20bd \u0432 \u043c\u0435\u0441\u044f\u0446 \u043e\u043a\u0443\u043f\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441 57 \u0447\u0430\u0441\u043e\u0432 \u0432\u0441\u0442\u0440\u0435\u0447 \u0432 \u043c\u0435\u0441\u044f\u0446 \u043f\u0440\u043e\u0442\u0438\u0432 \u043f\u0440\u043e\u043c\u043e-\u0446\u0435\u043d\u044b \u0438 \u0441 36 \u043f\u0440\u043e\u0442\u0438\u0432 \u043e\u0431\u044b\u0447\u043d\u043e\u0439. Yandex Cloud 8 vCPU \/ 16 \u0413\u0411 \u0437\u0430 10 944 \u20bd: 224 \u0438 139 \u0447\u0430\u0441\u043e\u0432. \u0420\u0435\u0437\u0435\u0440\u0432\u043d\u044b\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u0443\u0434\u0432\u0430\u0438\u0432\u0430\u0435\u0442 \u043f\u043e\u0440\u043e\u0433\u0438.<\/p>\n<p>\u0418 \u0432\u043e\u0442 \u0442\u0443\u0442 \u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0433\u043b\u0430\u0432\u043d\u044b\u0439 \u0442\u0435\u0437\u0438\u0441. \u042d\u0442\u0438 \u0440\u0430\u0441\u0447\u0451\u0442\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u044e\u0442, \u0447\u0442\u043e 8 vCPU \u0434\u0435\u0440\u0436\u0430\u0442 \u0434\u043e 16 \u0432\u0441\u0442\u0440\u0435\u0447. \u041d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u043a\u043b\u0430\u0441\u0441\u0430 B \u0442\u0435 \u0436\u0435 \u0434\u0435\u043d\u044c\u0433\u0438 \u0434\u0430\u044e\u0442 \u0434\u0432\u0435, \u0442\u043e \u0435\u0441\u0442\u044c \u0432 \u0432\u043e\u0441\u0435\u043c\u044c \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435. \u0421\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u043a\u0443\u043f\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0437\u043e\u043d\u0434 \u043f\u0440\u043e\u0433\u043d\u0430\u043d \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u043c \u0442\u0430\u0440\u0438\u0444\u0435 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0445\u043e\u0441\u0442\u0435\u0440\u0430. \u042d\u0442\u043e \u043c\u0438\u043d\u0443\u0442\u0430 \u0440\u0430\u0431\u043e\u0442\u044b, \u0430 \u043e\u0448\u0438\u0431\u0438\u0442\u044c\u0441\u044f \u0431\u0435\u0437 \u043d\u0435\u0451 \u043c\u043e\u0436\u043d\u043e \u0432 \u0440\u0430\u0437\u044b.<\/p>\n<p>\u0427\u0442\u043e \u0432 \u0440\u0430\u0441\u0447\u0451\u0442 \u043d\u0435 \u0432\u043e\u0448\u043b\u043e: \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0438 \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0441\u0435\u0440\u0432\u0438\u0441\u0430, \u0434\u0435\u0436\u0443\u0440\u0441\u0442\u0432\u0430, \u0440\u0435\u0437\u0435\u0440\u0432 \u0438 \u0447\u0438\u0441\u0442\u043e\u0432\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u043f\u043e\u0441\u043b\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0438, \u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e T-one \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e \u043d\u0435 \u0441\u0442\u0430\u0432\u0438\u0442.<\/p>\n<h3>\u0413\u0440\u0430\u0431\u043b\u0438<\/h3>\n<ul>\n<li>\n<p>\u041f\u043e\u043a\u043e\u043b\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440\u0430 \u0432\u0430\u0436\u043d\u0435\u0435 \u0447\u0438\u0441\u043b\u0430 vCPU. AVX \u0431\u0435\u0437 AVX2 \u0438 FMA: \u0432 2,5 \u0440\u0430\u0437\u0430 \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435 \u043d\u0430 \u044f\u0434\u0440\u043e, \u0432 4\u20135 \u0440\u0430\u0437 \u043f\u0440\u0438 \u0432\u0441\u0435\u0445 \u043f\u043e\u0442\u043e\u043a\u0430\u0445 onnxruntime \u0438 \u0432 6\u20138 \u0440\u0430\u0437 \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u0434\u043e\u0440\u043e\u0436\u0435\u043a, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0434\u0435\u0440\u0436\u0438\u0442 \u0441\u0435\u0440\u0432\u0435\u0440.<\/p>\n<\/li>\n<li>\n<p>6 vCPU \u043d\u0435 \u0440\u0430\u0432\u043d\u044b \u0448\u0435\u0441\u0442\u0438 \u044f\u0434\u0440\u0430\u043c. \u041f\u0440\u0438\u0437\u043d\u0430\u043a: \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u0442\u043e\u043a\u043e\u0432 onnxruntime \u0434\u0435\u043b\u0430\u044e\u0442 \u0445\u0443\u0436\u0435, p95 \u0440\u0430\u0441\u0442\u0451\u0442 \u043f\u0440\u0438 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u043d\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0412\u0435\u0441\u0430 T-one \u0432 fp16. int8 \u043d\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c, fp32 \u043d\u0435 \u0443\u0441\u043a\u043e\u0440\u044f\u0435\u0442, \u043d\u043e \u0432\u0434\u0432\u043e\u0435 \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u0440\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0411\u0430\u0442\u0447\u0438\u043d\u0433 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u043d\u0430 \u0441\u043b\u0430\u0431\u043e\u043c CPU \u0431\u0435\u0441\u043f\u043e\u043b\u0435\u0437\u0435\u043d. \u041f\u043e\u0442\u043e\u043a \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0443 \u043f\u0440\u043e\u0449\u0435 \u0438 \u0434\u0435\u0440\u0436\u0438\u0442 \u0431\u043e\u043b\u044c\u0448\u0435.<\/p>\n<\/li>\n<li>\n<p>8 \u043a\u0413\u0446 \u043f\u0440\u043e\u0442\u0438\u0432 \u0448\u0438\u0440\u043e\u043a\u043e\u043f\u043e\u043b\u043e\u0441\u043d\u043e\u0433\u043e WebRTC. \u0420\u0435\u0441\u0435\u043c\u043f\u043b\u0438\u043d\u0433 \u043c\u0435\u043d\u044f\u0435\u0442 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435, \u043d\u0430 \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u043e\u043d \u0434\u043e\u0431\u0430\u0432\u0438\u043b \u043e\u0434\u043d\u0443 \u043e\u0448\u0438\u0431\u043a\u0443. \u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043c\u0435\u0440\u0438\u0442\u044c \u043f\u043e \u0431\u043e\u0435\u0432\u043e\u043c\u0443 \u043f\u0443\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>\u041d\u0435\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0438 \u0438 \u0437\u0430\u0433\u043b\u0430\u0432\u043d\u044b\u0445. \u0424\u0440\u0430\u0437\u0430 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043f\u043e \u043f\u0430\u0443\u0437\u0435 \u0441 \u0437\u0430\u0434\u0435\u0440\u0436\u043a\u043e\u0439 1\u20131,2 \u0441. \u0418\u043d\u0442\u0435\u0440\u0444\u0435\u0439\u0441 \u043d\u0435 \u0434\u043e\u043b\u0436\u0435\u043d \u0436\u0434\u0430\u0442\u044c \u043f\u043e\u0441\u043b\u043e\u0432\u043d\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430.<\/p>\n<\/li>\n<li>\n<p>KenLM \u043f\u043e\u0447\u0442\u0438 \u043d\u0435 \u0433\u0440\u0443\u0437\u0438\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440, \u043d\u043e \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 5,5 \u0413\u0411 \u043f\u0430\u043c\u044f\u0442\u0438.<\/p>\n<\/li>\n<li>\n<p>WER \u043c\u0435\u0436\u0434\u0443 \u0434\u0432\u0438\u0436\u043a\u0430\u043c\u0438 \u043d\u0435\u043b\u044c\u0437\u044f \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0431\u0435\u0437 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u0447\u0438\u0441\u0435\u043b.<\/p>\n<\/li>\n<li>\n<p>\u0428\u0443\u043c\u043d\u044b\u0435 \u0441\u043e\u0441\u0435\u0434\u0438. \u041d\u0430 \u0434\u0440\u0443\u0433\u043e\u0439 \u0432\u0438\u0440\u0442\u0443\u0430\u043b\u043a\u0435 \u0441 \u0442\u0435\u043c \u0436\u0435 E5-2680 v2, \u043d\u043e \u0441\u043e steal 22\u201331%, \u043e\u0434\u0438\u043d \u0447\u0430\u043d\u043a \u0441\u0442\u043e\u0438\u043b 218 \u043c\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 109 \u043d\u0430 \u0447\u0438\u0441\u0442\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435. \u041f\u0435\u0440\u0435\u0434 \u0437\u0430\u043c\u0435\u0440\u043e\u043c \u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435 \u043a\u043e\u043b\u043e\u043d\u043a\u0443\u00a0<code>st<\/code>\u00a0\u0432\u00a0<code>vmstat<\/code>.<\/p>\n<\/li>\n<li>\n<p>Golos \u043c\u043e\u0433 \u0431\u044b\u0442\u044c \u0432 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 T-one. \u041f\u044f\u0442\u044c \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043d\u043d\u044b\u0445 \u0444\u0440\u0430\u0437 \u0438\u0437 \u043d\u0435\u0433\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442.<\/p>\n<\/li>\n<li>\n<p>\u0411\u043e\u0435\u0432\u043e\u0433\u043e \u0441\u0435\u0440\u0432\u0435\u0440\u0430 \u0443 T-one \u043d\u0435\u0442, \u0435\u0441\u0442\u044c \u0434\u0435\u043c\u043e \u043d\u0430 FastAPI. \u0421\u0435\u0440\u0432\u0435\u0440\u043d\u0443\u044e \u0447\u0430\u0441\u0442\u044c \u043f\u0438\u0448\u0435\u0442\u0435 \u0441\u0430\u043c\u0438.<\/p>\n<\/li>\n<\/ul>\n<h3>\u0412\u044b\u0432\u043e\u0434\u044b<\/h3>\n<p>\u041e\u0431\u043b\u0430\u043a\u043e \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0447\u0430\u0441\u043e\u0432 \u0432\u0441\u0442\u0440\u0435\u0447 \u043d\u0435\u043c\u043d\u043e\u0433\u043e, \u043d\u0443\u0436\u043d\u0430 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044f \u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0431\u0435\u0437 \u0432\u043e\u0437\u043d\u0438. \u0421\u0432\u043e\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442, \u043a\u043e\u0433\u0434\u0430 \u0430\u0443\u0434\u0438\u043e \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u043f\u043e\u043a\u0438\u0434\u0430\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u0443, \u0447\u0430\u0441\u043e\u0432 \u043c\u043d\u043e\u0433\u043e, \u0438 \u0443 \u0432\u0430\u0441 \u0435\u0441\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440 \u0441 AVX2, \u0447\u0442\u043e \u0432\u044b \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b\u0438 \u0437\u043e\u043d\u0434\u043e\u043c, \u0430 \u043d\u0435 \u043f\u0440\u043e\u0447\u0438\u0442\u0430\u043b\u0438 \u0432 \u0442\u0430\u0440\u0438\u0444\u0435. T-one \u043d\u0430 CPU \u0447\u0435\u0441\u0442\u043d\u043e \u0434\u0430\u0451\u0442 \u0444\u0440\u0430\u0437\u044b \u0441 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435\u043c \u043e\u043a\u043e\u043b\u043e \u0441\u0435\u043a\u0443\u043d\u0434\u044b, \u043d\u043e \u043f\u043e \u0441\u043b\u043e\u0432\u0430\u043c \u0443\u0441\u0442\u0443\u043f\u0430\u0435\u0442 \u0438 \u043e\u0431\u043b\u0430\u043a\u0443, \u0438 GigaAM; \u0434\u043b\u044f \u0447\u0438\u0441\u0442\u043e\u0432\u043e\u0433\u043e \u0442\u0435\u043a\u0441\u0442\u0430 \u043f\u043e\u0441\u043b\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0438 \u043d\u0443\u0436\u043d\u0430 \u0434\u0440\u0443\u0433\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c.<\/p>\n<p>\u0412\u043e\u043f\u0440\u043e\u0441 \u043a \u0442\u0435\u043c, \u043a\u0442\u043e \u0434\u043e\u0448\u0451\u043b \u0434\u043e \u043a\u043e\u043d\u0446\u0430: \u043a\u0442\u043e \u0433\u043e\u043d\u044f\u043b T-one \u0438\u043b\u0438 GigaAM \u0432 \u043f\u0440\u043e\u0434\u0435 \u043d\u0430 WebRTC-\u0430\u0443\u0434\u0438\u043e \u0438 \u043a\u0430\u043a\u043e\u0439 WER \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u043d\u0430 \u0436\u0438\u0432\u043e\u0439 \u0448\u0438\u0440\u043e\u043a\u043e\u043f\u043e\u043b\u043e\u0441\u043d\u043e\u0439 \u0440\u0435\u0447\u0438?<\/p>\n<\/div>\n<p>\u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/1095420\/\">https:\/\/habr.com\/ru\/articles\/1095420\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u0427\u0438\u0441\u043b\u043e vCPU \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442: \u043a\u0430\u043a \u044f \u0441\u0447\u0438\u0442\u0430\u043b, \u043d\u0443\u0436\u0435\u043d \u043b\u0438 \u0441\u0432\u043e\u0439 ASR-\u0441\u0435\u0440\u0432\u0435\u0440 \u0432\u043c\u0435\u0441\u0442\u043e Deepgram\u041c\u043d\u0435 \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u043b\u0438\u0441\u044c \u0436\u0438\u0432\u044b\u0435 \u0441\u0443\u0431\u0442\u0438\u0442\u0440\u044b \u0434\u043b\u044f \u0441\u043e\u0437\u0432\u043e\u043d\u043e\u0432 \u043e\u0434\u0438\u043d \u043d\u0430 \u043e\u0434\u0438\u043d \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u041f\u0440\u043e\u0449\u0435 \u0432\u0441\u0435\u0433\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u044d\u0442\u0443 \u0437\u0430\u0434\u0430\u0447\u0443 \u0447\u0435\u0440\u0435\u0437 \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 API: \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u043e\u0434\u043d\u0438\u043c \u0432\u044b\u0437\u043e\u0432\u043e\u043c. \u042d\u0442\u043e \u0443\u0434\u043e\u0431\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442, \u0435\u0441\u043b\u0438 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u043e\u0432 \u043d\u0435\u043c\u043d\u043e\u0433\u043e, \u0430 \u0438\u0445 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u0434\u0430\u0432\u0430\u0442\u044c \u0432\u043d\u0435\u0448\u043d\u0435\u043c\u0443 \u0441\u0435\u0440\u0432\u0438\u0441\u0443.\u0412 \u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0432\u0441\u0451 \u043d\u0435 \u0442\u0430\u043a \u043e\u0434\u043d\u043e\u0437\u043d\u0430\u0447\u043d\u043e: \u0447\u0430\u0441\u043e\u0432 \u043e\u0431\u0449\u0435\u043d\u0438\u044f \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043c\u043d\u043e\u0433\u043e, \u0430 \u0432 \u0440\u0430\u0437\u0433\u043e\u0432\u043e\u0440\u0430\u0445 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0445\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0442\u044c \u0432 \u043e\u0431\u043b\u0430\u043a\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u044f \u0440\u0430\u0437\u0432\u0435\u0440\u043d\u0443\u043b \u0442\u0435\u0441\u0442\u043e\u0432\u044b\u0439 \u0441\u0442\u0435\u043d\u0434 \u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u043b \u043e\u0431\u043b\u0430\u0447\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u0440\u0435\u0447\u0438 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435, \u0442\u043e\u043b\u044c\u043a\u043e \u0441 CPU, \u0431\u0435\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u0430\u0440\u0442\u044b.\u0413\u043b\u0430\u0432\u043d\u044b\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043f\u0440\u043e \u0436\u0435\u043b\u0435\u0437\u043e, \u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0443\u0442 \u0432\u0442\u043e\u0440\u0438\u0447\u043d\u044b. \u041e\u0434\u0438\u043d \u0447\u0430\u043d\u043a \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u044f\u0434\u0440\u0435 Xeon 2013 \u0433\u043e\u0434\u0430 \u0431\u0435\u0437 AVX2 \u0441\u0442\u043e\u0438\u0442 \u0432 2,5 \u0440\u0430\u0437\u0430 \u0434\u043e\u0440\u043e\u0436\u0435, \u0447\u0435\u043c \u043d\u0430 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u043c Xeon \u0441 AVX2, \u0430 \u043f\u043e\u0434 \u043f\u043e\u043b\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0434\u043e\u0445\u043e\u0434\u0438\u0442 \u0434\u043e \u043f\u044f\u0442\u0438 \u0440\u0430\u0437. \u0412 \u043f\u0435\u0440\u0435\u0441\u0447\u0451\u0442\u0435 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u044d\u0442\u043e 32 \u043f\u0440\u043e\u0442\u0438\u0432 5, \u043d\u043e \u044d\u0442\u0443 \u0446\u0438\u0444\u0440\u0443 \u043d\u0430\u0434\u043e \u0447\u0438\u0442\u0430\u0442\u044c \u0441 \u043e\u0433\u043e\u0432\u043e\u0440\u043a\u043e\u0439 \u043e \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u0435, \u043e \u043d\u0435\u0439 \u043d\u0438\u0436\u0435. \u0421\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u043a\u0443\u043f\u0430\u0435\u043c\u043e\u0441\u0442\u044c \u0441\u0432\u043e\u0435\u0433\u043e ASR \u043f\u043e \u0447\u0438\u0441\u043b\u0443 \u044f\u0434\u0435\u0440 \u0432 \u0442\u0430\u0440\u0438\u0444\u0435 \u0445\u043e\u0441\u0442\u0435\u0440\u0430 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e.\u0427\u0442\u043e \u0431\u044b\u043b\u043e \u043d\u0443\u0436\u043d\u043e\u0421\u0435\u0439\u0447\u0430\u0441 \u044f \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u044e \u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e \u043e\u0431\u043b\u0430\u0447\u043d\u044b\u0439 Deepgram, \u0438 \u0441\u0442\u0435\u043d\u0434 \u043d\u0443\u0436\u0435\u043d, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u044f\u0442\u044c, \u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u0441 \u043d\u0435\u0433\u043e \u0443\u0439\u0442\u0438. \u0417\u0432\u043e\u043d\u043e\u043a \u0438\u0434\u0451\u0442 \u0432 \u0431\u0440\u0430\u0443\u0437\u0435\u0440\u0435, \u0443 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0443\u0447\u0430\u0441\u0442\u043d\u0438\u043a\u0430 \u0441\u0432\u043e\u0439 \u043c\u0438\u043a\u0440\u043e\u0444\u043e\u043d, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u0440\u0438\u0445\u043e\u0434\u044f\u0442 \u0434\u0432\u0435 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438. \u042d\u0442\u043e \u0441\u0438\u043b\u044c\u043d\u043e \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u0436\u0438\u0437\u043d\u044c: \u0434\u0438\u0430\u0440\u0438\u0437\u0430\u0446\u0438\u044f \u043d\u0435 \u043d\u0443\u0436\u043d\u0430, \u0440\u043e\u043b\u044c \u0433\u043e\u0432\u043e\u0440\u044f\u0449\u0435\u0433\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430 \u043f\u043e \u0434\u043e\u0440\u043e\u0436\u043a\u0435. \u0422\u0440\u0435\u0431\u043e\u0432\u0430\u043d\u0438\u044f \u043a \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044e \u043f\u0440\u043e\u0441\u0442\u044b\u0435:\u0444\u0440\u0430\u0437\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u043f\u043e\u044f\u0432\u043b\u044f\u0442\u044c\u0441\u044f \u043d\u0435 \u043f\u043e\u0437\u0436\u0435 \u0447\u0435\u043c \u0447\u0435\u0440\u0435\u0437 2 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u043f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u0435\u0451 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043b\u0438 (p95);\u0446\u0435\u043d\u0430 \u0447\u0430\u0441\u0430 \u0434\u043e\u043b\u0436\u043d\u0430 \u0431\u044b\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0443\u0435\u043c\u043e\u0439;\u0430\u0443\u0434\u0438\u043e \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u043f\u043e\u043a\u0438\u0434\u0430\u0442\u044c \u0441\u0435\u0440\u0432\u0435\u0440 \u0432 \u0420\u043e\u0441\u0441\u0438\u0438.\u041a\u043e\u043d\u0442\u0435\u043a\u0441\u0442: \u0434\u0435\u043b\u0430\u044e \u0441\u0435\u0440\u0432\u0438\u0441 \u0434\u043b\u044f \u043e\u043d\u043b\u0430\u0439\u043d-\u0432\u0441\u0442\u0440\u0435\u0447 1-\u043d\u0430-1 \u0441 \u0440\u0430\u0441\u0448\u0438\u0444\u0440\u043e\u0432\u043a\u043e\u0439: 121ai.online\u041a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u044b\u0418\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0413\u0434\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442\u0420\u0435\u0436\u0438\u043c\u0417\u0430\u0447\u0435\u043c \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438T-one (\u0422-\u0411\u0430\u043d\u043a, Apache-2.0, 71M \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432)\u0441\u0432\u043e\u0439 CPU\u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0439, 8 \u043a\u0413\u0446, \u0447\u0430\u043d\u043a 300 \u043c\u0441\u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442 \u043d\u0430 \u043e\u043d\u043b\u0430\u0439\u043dGigaAM-v3 (\u0421\u0431\u0435\u0440, MIT, 220\u2013240M)\u0441\u0432\u043e\u0439 \u0441\u0435\u0440\u0432\u0435\u0440\u043f\u0430\u043a\u0435\u0442\u043d\u044b\u0439, \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u00a0e2e\u00a0\u0441\u0442\u0430\u0432\u0438\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e\u0447\u0438\u0441\u0442\u043e\u0432\u043e\u0439 \u0442\u0435\u043a\u0441\u0442 \u0438 \u0432\u0435\u0440\u0445\u043d\u044f\u044f \u043f\u043b\u0430\u043d\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430Vosk (ru-0.42 \u0438 small-ru-0.22)\u0441\u0432\u043e\u0439 CPU\u043f\u043e\u0442\u043e\u043a\u043e\u0432\u044b\u0439baselineDeepgram nova-2 \u0438 nova-3\u043e\u0431\u043b\u0430\u043a\u043e\u043e\u0431\u0430 \u0440\u0435\u0436\u0438\u043c\u0430\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438 \u0446\u0435\u043d\u044b\u0418\u0437 \u043e\u0431\u043b\u0430\u043a\u043e\u0432 \u0432 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0438 \u0442\u043e\u043b\u044c\u043a\u043e Deepgram: \u0434\u043b\u044f \u0437\u0430\u043c\u0435\u0440\u043e\u0432 \u044f \u0431\u0440\u0430\u043b \u0442\u043e, \u0447\u0442\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e \u0441\u0440\u0430\u0437\u0443, \u0431\u0435\u0437 \u0434\u043e\u0433\u043e\u0432\u043e\u0440\u0430 \u0438 \u0441\u043e\u0433\u043b\u0430\u0441\u043e\u0432\u0430\u043d\u0438\u0439. \u0412\u043d\u0443\u0442\u0440\u0438 \u0420\u0424 \u0435\u0441\u0442\u044c Yandex SpeechKit, \u0438 \u0435\u0441\u043b\u0438 \u0430\u0443\u0434\u0438\u043e \u043d\u0435 \u0434\u043e\u043b\u0436\u043d\u043e \u043f\u043e\u043a\u0438\u0434\u0430\u0442\u044c \u0441\u0442\u0440\u0430\u043d\u0443, \u0430 \u0441\u0432\u043e\u0439 \u0441\u0435\u0440\u0432\u0435\u0440 \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0442\u044c \u043d\u0435 \u0445\u043e\u0447\u0435\u0442\u0441\u044f, \u043f\u0440\u0438\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u0435\u0441\u044c \u043a \u043d\u0435\u043c\u0443. Chrome Web Speech \u0441 processLocally \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 Chrome \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u044f, \u044d\u0442\u043e \u0434\u0440\u0443\u0433\u043e\u0439 \u043a\u043b\u0430\u0441\u0441 \u0440\u0435\u0448\u0435\u043d\u0438\u044f.\u041f\u043e \u0442\u043e\u0439 \u0436\u0435 \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043c\u0438\u043c\u043e \u043f\u0440\u043e\u0448\u043b\u0438 \u0434\u0432\u0435 \u0441\u0432\u0435\u0436\u0438\u0435 on-device-\u043d\u043e\u0432\u0438\u043d\u043a\u0438 \u043d\u0430 \u0431\u0430\u0437\u0435 Google EmbeddingGemma 2. Google AI Edge Foresight: \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u043c\u043e\u0449\u043d\u0438\u043a \u0434\u043b\u044f \u0441\u043e\u0437\u0432\u043e\u043d\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u0441\u0451 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0451\u0442 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u043e. \u042f \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b \u0435\u0433\u043e \u0441\u0435\u0431\u0435: \u043e\u043d \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 Mac \u0441 Apple Silicon \u0438 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0439. Embedding Gemma Transcribe, \u0441\u0442\u043e\u0440\u043e\u043d\u043d\u0438\u0439 \u043f\u0440\u043e\u0435\u043a\u0442 \u043d\u0430 \u0442\u043e\u0439 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0441\u0432\u043e\u0434\u0438\u0442 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u0435 \u043a \u043f\u043e\u0438\u0441\u043a\u0443 \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u0432 \u0441\u043b\u043e\u0432\u0430\u0440\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0438\u0437 229 \u0442\u044b\u0441\u044f\u0447 \u0430\u043d\u0433\u043b\u0438\u0439\u0441\u043a\u0438\u0445 \u0441\u043b\u043e\u0432, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u0442\u0430\u043c \u043d\u0435\u0442 \u0438 \u0431\u044b\u0442\u044c \u043d\u0435 \u043c\u043e\u0436\u0435\u0442. \u041d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435, \u0434\u043b\u044f \u043f\u0440\u0438\u0432\u0430\u0442\u043d\u044b\u0445 \u0437\u0430\u043c\u0435\u0442\u043e\u043a \u043d\u0430 \u043d\u043e\u0443\u0442\u0431\u0443\u043a\u0435 \u044d\u0442\u043e \u0431\u0443\u0434\u0443\u0449\u0435\u0435, \u043d\u043e \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0439 \u0440\u0435\u0447\u0438 \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440\u0435 \u043f\u043e\u043a\u0430 \u043d\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.Whistle \u043e\u0442 Cactus Compute, \u0440\u0435\u043f\u043e. \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 17 \u041c\u0411, \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 CPU \u0438 \u0432 WASM, \u043d\u043e \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u0430 \u0432 \u043d\u0435\u0439 \u043d\u0435\u0442. \u042f \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u043b: \u043f\u044f\u0442\u044c \u0440\u0443\u0441\u0441\u043a\u0438\u0445 \u0444\u0440\u0430\u0437 \u0438\u0437 \u043f\u044f\u0442\u0438 \u043f\u0440\u0435\u0432\u0440\u0430\u0442\u0438\u043b\u0438\u0441\u044c \u0432 \u043f\u0441\u0435\u0432\u0434\u043e\u043f\u043e\u043b\u044c\u0441\u043a\u0438\u0439 \u0438 \u043f\u0441\u0435\u0432\u0434\u043e\u043d\u0435\u043c\u0435\u0446\u043a\u0438\u0439. \u041f\u043b\u044e\u0441 \u0442\u0435\u043b\u0435\u043c\u0435\u0442\u0440\u0438\u044f, \u0432\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u0430\u044f \u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e. \u0414\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0439 \u0440\u0435\u0447\u0438 \u0432\u043e\u043f\u0440\u043e\u0441 \u0437\u0430\u043a\u0440\u044b\u0442.\u0427\u0442\u043e \u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u0430\u0432\u0442\u043e\u0440\u044b\u0426\u0438\u0444\u0440\u044b WER \u0443 \u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430\u0445, \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0438\u0445 \u043c\u0435\u0436\u0434\u0443 \u0441\u0442\u0440\u043e\u043a\u0430\u043c\u0438 \u043d\u0435\u043b\u044c\u0437\u044f, \u043d\u043e \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0432\u0435\u043b\u0438\u0447\u0438\u043d \u043f\u043e\u043b\u0435\u0437\u0435\u043d.\u0427\u0442\u043e \u0442\u0430\u043a\u043e\u0435 WER?WER (word error rate) \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0434\u043e\u043b\u044e \u0441\u043b\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u043b\u0430 \u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e. \u041e\u0448\u0438\u0431\u043a\u043e\u0439 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u043c\u0435\u043d\u0430, \u043f\u0440\u043e\u043f\u0443\u0441\u043a \u0438\u043b\u0438 \u043b\u0438\u0448\u043d\u0435\u0435 \u0441\u043b\u043e\u0432\u043e, \u0430 \u0441\u0443\u043c\u043c\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u043d\u0430 \u0447\u0438\u0441\u043b\u043e \u0441\u043b\u043e\u0432 \u0432 \u044d\u0442\u0430\u043b\u043e\u043d\u0435. WER 10% \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043e\u0448\u0438\u0431\u043e\u0447\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043a\u0430\u0436\u0434\u043e\u0435 \u0434\u0435\u0441\u044f\u0442\u043e\u0435 \u0441\u043b\u043e\u0432\u043e. \u0427\u0435\u043c \u043c\u0435\u043d\u044c\u0448\u0435, \u0442\u0435\u043c \u043b\u0443\u0447\u0448\u0435. \u041f\u0435\u0440\u0435\u0434 \u043f\u043e\u0434\u0441\u0447\u0451\u0442\u043e\u043c \u0443\u0431\u0438\u0440\u0430\u044e\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e \u0438 \u0440\u0435\u0433\u0438\u0441\u0442\u0440, \u0447\u0438\u0441\u043b\u0430 \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u0432\u0438\u0434\u0443. \u0426\u0438\u0444\u0440\u044b, \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u043d\u0430\u0431\u043e\u0440\u0430\u0445 \u0437\u0430\u043f\u0438\u0441\u0435\u0439, \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u0441\u043e\u0431\u043e\u0439 \u043d\u0435\u043b\u044c\u0437\u044f.T-one: call-center 8,63, \u043f\u0440\u043e\u0447\u0430\u044f \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u0438\u044f 6,20, Common Voice 5,32. \u0412 \u0442\u043e\u0439 \u0436\u0435 \u0442\u0430\u0431\u043b\u0438\u0446\u0435 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 Whisper large-v3 \u043d\u0430 call-center \u0434\u0430\u0451\u0442 19,39.GigaAM-v3 RNNT: \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c 8,3 \u043f\u043e \u0434\u0435\u0441\u044f\u0442\u0438 \u043d\u0430\u0431\u043e\u0440\u0430\u043c, call-center 9,5; e2e-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0441 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0435\u0439 11,2.Vosk ru-0.42: openstt calls 36,0, youtube 19,5. Small-\u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430 Golos crowd 11,79.Deepgram: \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0445 \u0446\u0438\u0444\u0440 WER \u0434\u043b\u044f \u0440\u0443\u0441\u0441\u043a\u043e\u0433\u043e \u043d\u0435\u0442. \u042f \u0438\u0445 \u043d\u0435 \u043d\u0430\u0448\u0451\u043b, \u0435\u0441\u043b\u0438 \u043d\u0430\u0439\u0434\u0451\u0442\u0435, \u043d\u0430\u043f\u0438\u0448\u0438\u0442\u0435 \u0432 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0440\u0438\u044f\u0445.\u0421\u0442\u0435\u043d\u0434\u042f \u043f\u0440\u043e\u0433\u043d\u0430\u043b \u043e\u0434\u0438\u043d \u0438 \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434 \u043d\u0430 \u0434\u0432\u0443\u0445 \u043c\u0430\u0448\u0438\u043d\u0430\u0445.\u041c\u0430\u0448\u0438\u043d\u0430 A: Xeon \u0441 AVX2, 8 vCPU, 15 \u0413\u0411 RAM. \u042d\u0442\u043e \u043f\u0435\u0440\u0432\u044b\u0439 \u0437\u0430\u043c\u0435\u0440, \u043e\u043d \u043c\u0435\u0440\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u0447\u0435\u0440\u0435\u0437 onnxruntime, \u0431\u0430\u0442\u0447 \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u0438\u0437 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432, \u0434\u0435\u043a\u043e\u0434\u0435\u0440 \u0431\u044b\u043b greedy.\u041c\u0430\u0448\u0438\u043d\u0430 B: Xeon E5-2680 v2 \u043d\u0430 2,8 \u0413\u0413\u0446, 2013 \u0433\u043e\u0434, 6 vCPU \u043f\u043e\u0434 KVM, 11,6 \u0413\u0411 RAM. \u0418\u0437 \u0432\u0435\u043a\u0442\u043e\u0440\u043d\u044b\u0445 \u0440\u0430\u0441\u0448\u0438\u0440\u0435\u043d\u0438\u0439 \u0442\u043e\u043b\u044c\u043a\u043e SSE4.2 \u0438 AVX, \u0431\u0435\u0437 AVX2 \u0438 FMA. Steal \u043e\u043a\u043e\u043b\u043e 1%, \u0441\u043e\u0441\u0435\u0434\u0438 \u043f\u043e \u0445\u043e\u0441\u0442\u0443 \u043d\u0435 \u043c\u0435\u0448\u0430\u043b\u0438. \u0417\u0434\u0435\u0441\u044c \u043c\u0435\u0440\u0438\u043b\u0441\u044f \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d: \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0430, \u0441\u043f\u043b\u0438\u0442\u0442\u0435\u0440 \u043f\u043e \u043f\u0430\u0443\u0437\u0430\u043c \u0438 \u0434\u0435\u043a\u043e\u0434\u0435\u0440, \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u0441\u0432\u043e\u0451 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0432 \u0430\u0443\u0434\u0438\u043e, \u0434\u0432\u0430 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u0434\u0432\u0430 \u0440\u0435\u0436\u0438\u043c\u0430 \u0440\u0430\u0431\u043e\u0442\u044b.\u0421\u0440\u0430\u0437\u0443 \u0447\u0435\u0441\u0442\u043d\u043e: \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u0438 \u043d\u0430 A \u0438 B \u0440\u0430\u0437\u043d\u044b\u0435. \u041d\u0430 A \u044f \u043c\u0435\u0440\u0438\u043b \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0443, \u0431\u0430\u0442\u0447\u0435\u043c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u0447\u0430\u043d\u043a\u043e\u0432, \u0430 \u043d\u0430 B \u0433\u043e\u043d\u044f\u043b \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0441\u0442\u0440\u043e\u0433\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u0430 \u0442\u043e\u043b\u044c\u043a\u043e \u0446\u0435\u043d\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430 (\u0442\u0430\u0431\u043b\u0438\u0446\u0430 \u043d\u0438\u0436\u0435, \u0442\u043e\u0442 \u0436\u0435 \u043a\u043e\u0434 \u0438 \u0442\u0430 \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c). \u0401\u043c\u043a\u043e\u0441\u0442\u044c \u0432 \u0434\u043e\u0440\u043e\u0436\u043a\u0430\u0445 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0433\u0440\u0443\u0431\u043e: \u043d\u0430 A \u043f\u043e\u043b\u043d\u044b\u0439 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d \u044f \u043d\u0435 \u0433\u043e\u043d\u044f\u043b, \u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0442\u0430\u043c, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u043d\u0438\u0436\u0435 32.\u041c\u0435\u0442\u043e\u0434\u0438\u043a\u0430 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B \u0442\u0430\u043a\u0430\u044f. \u0420\u0430\u0437 \u0432 300 \u043c\u0441 \u0432\u0441\u0435 \u0430\u043a\u0442\u0438\u0432\u043d\u044b\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442 \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0447\u0430\u043d\u043a. \u0418\u0437\u043c\u0435\u0440\u044f\u0435\u0442\u0441\u044f \u0432\u0440\u0435\u043c\u044f \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0438, \u0432\u0440\u0435\u043c\u044f \u0434\u0435\u043a\u043e\u0434\u0430 \u0438 \u0438\u0445 \u0441\u0443\u043c\u043c\u0430, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043e\u0442 \u0440\u0430\u0441\u043f\u0438\u0441\u0430\u043d\u0438\u044f: \u0435\u0441\u043b\u0438 \u0442\u0438\u043a \u0437\u0430\u043d\u044f\u043b \u0431\u043e\u043b\u044c\u0448\u0435 300 \u043c\u0441, \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u0437\u0436\u0435, \u0438 \u044d\u0442\u043e \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043a\u043e\u043f\u0438\u0442\u0441\u044f. \u041c\u0430\u0448\u0438\u043d\u0430 \u00ab\u0434\u0435\u0440\u0436\u0438\u0442\u00bb N \u0434\u043e\u0440\u043e\u0436\u0435\u043a, \u0435\u0441\u043b\u0438 p95 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0442\u0438\u043a\u0430 \u043c\u0435\u043d\u044c\u0448\u0435 300 \u043c\u0441 \u0438 \u043e\u0442\u0441\u0442\u0430\u0432\u0430\u043d\u0438\u0435 \u043a \u043a\u043e\u043d\u0446\u0443 \u043c\u0438\u043d\u0443\u0442\u044b \u043c\u0435\u043d\u044c\u0448\u0435 \u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041d\u0430 \u043a\u0430\u0436\u0434\u0443\u044e \u0442\u043e\u0447\u043a\u0443 60 \u0441\u0435\u043a\u0443\u043d\u0434 \u0437\u0430\u043c\u0435\u0440\u0430 \u043f\u043e\u0441\u043b\u0435 6 \u0441\u0435\u043a\u0443\u043d\u0434 \u043f\u0440\u043e\u0433\u0440\u0435\u0432\u0430.\u0414\u0432\u0430 \u0440\u0435\u0436\u0438\u043c\u0430:batch: \u043e\u0434\u0438\u043d \u0432\u044b\u0437\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0432\u0441\u0435 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, onnxruntime \u0441 \u0442\u0440\u0435\u043c\u044f \u043f\u043e\u0442\u043e\u043a\u0430\u043c\u0438. \u0422\u0430\u043a \u044f \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0441\u044f \u0441\u0442\u0440\u043e\u0438\u0442\u044c \u0441\u0435\u0440\u0432\u0438\u0441, \u0438 \u0442\u0430\u043a \u0441\u043e\u0432\u0435\u0442\u0443\u0435\u0442 \u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f T-one \u0434\u043b\u044f Triton.threads: \u043a\u0430\u0436\u0434\u0430\u044f \u0434\u043e\u0440\u043e\u0436\u043a\u0430 \u0432 \u0441\u0432\u043e\u0451\u043c \u0440\u0430\u0431\u043e\u0447\u0435\u043c \u043f\u043e\u0442\u043e\u043a\u0435 Python, \u0443 onnxruntime \u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a (intra_op_num_threads=1). \u0410\u043a\u0443\u0441\u0442\u0438\u043a\u0430 \u043e\u0442\u043f\u0443\u0441\u043a\u0430\u0435\u0442 GIL, \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0434\u0430\u0451\u0442 \u043f\u0443\u043b.\u0410\u0443\u0434\u0438\u043e \u0434\u043b\u044f \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438: \u043e\u0431\u0440\u0430\u0437\u0446\u044b \u0438\u0437 \u043f\u0430\u043a\u0435\u0442\u0430 T-one, \u043a\u043e\u043b\u043b-\u0446\u0435\u043d\u0442\u0440, 8 \u043a\u0413\u0446, \u0437\u0430\u0446\u0438\u043a\u043b\u0435\u043d\u044b.\u041a\u043e\u0434 \u0441\u0442\u0435\u043d\u0434\u0430 \u043e\u0442\u043a\u0440\u044b\u0442 \u0432 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0438 github \u0438 gitverse. \u0421\u0430\u043c\u043e\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0435 \u0442\u0430\u043c, \u043f\u043e-\u043c\u043e\u0435\u043c\u0443, \u043d\u0435 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a, \u0430 \u0437\u043e\u043d\u0434\u00a0acoustic.py: \u043e\u043d \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 onnxruntime, \u0441\u0442\u0430\u0432\u0438\u0442\u0441\u044f \u0437\u0430 \u043c\u0438\u043d\u0443\u0442\u0443 \u0438 \u0437\u0430 \u0435\u0449\u0451 \u043e\u0434\u043d\u0443 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0442\u043e\u0438\u0442 \u043e\u0434\u0438\u043d \u0447\u0430\u043d\u043a \u043d\u0430 \u0432\u0430\u0448\u0435\u043c \u0441\u0435\u0440\u0432\u0435\u0440\u0435. \u0414\u0430\u043b\u044c\u0448\u0435 \u0441\u0442\u0430\u043d\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u043d\u043e, \u0437\u0430\u0447\u0435\u043c \u044d\u0442\u043e \u043d\u0443\u0436\u043d\u043e.\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b\u0426\u0435\u043d\u0430 \u043e\u0434\u043d\u043e\u0433\u043e \u0447\u0430\u043d\u043a\u0430\u041c\u0430\u0448\u0438\u043d\u0430 A (AVX2)\u041c\u0430\u0448\u0438\u043d\u0430 B (AVX)1 \u043f\u043e\u0442\u043e\u043a onnxruntime44 \u043c\u0441109\u2013117 \u043c\u0441\u0432\u0441\u0435 \u043f\u043e\u0442\u043e\u043a\u0438 onnxruntime12 \u043c\u0441 (8 \u043f\u043e\u0442\u043e\u043a\u043e\u0432)60 \u043c\u0441 (3 \u043f\u043e\u0442\u043e\u043a\u0430)\u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u043e\u0442 \u043f\u043e\u0442\u043e\u043a\u043e\u0432\u00d73,7\u00d71,8\u0431\u0430\u0442\u0447 \u0438\u0437 2 \u0434\u043e\u0440\u043e\u0436\u0435\u043a24 \u043c\u0441126 \u043c\u0441RTF \u043e\u0434\u043d\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, 1 \u043f\u043e\u0442\u043e\u043a onnxruntime0,1470,36\u20130,39RTF \u043e\u0434\u043d\u043e\u0439 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u0432\u0441\u0435 \u043f\u043e\u0442\u043e\u043a\u0438 onnxruntime0,049 (8 \u043f\u043e\u0442\u043e\u043a\u043e\u0432, p50 \u0447\u0430\u043d\u043a\u0430 13,6 \u043c\u0441)0,20 (3 \u043f\u043e\u0442\u043e\u043a\u0430)\u0420\u0430\u0437\u043d\u0438\u0446\u0430 \u043d\u0430 \u043e\u0434\u043d\u043e \u044f\u0434\u0440\u043e \u0432 2,5 \u0440\u0430\u0437\u0430, \u043f\u0440\u0438 \u0432\u0441\u0435\u0445 \u043f\u043e\u0442\u043e\u043a\u0430\u0445 onnxruntime \u0432 4\u20135 \u0440\u0430\u0437. \u0412\u0430\u0436\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0435 \u0440\u0435\u0436\u0438\u043c\u044b. 44 \u043c\u0441 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 A \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u0432 \u043e\u0434\u0438\u043d \u043f\u043e\u0442\u043e\u043a onnxruntime, \u0430 RTF 0,049 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u043e\u0442\u0447\u0451\u0442\u0430 \u043d\u0430 \u0432\u0441\u0435\u0445 \u0432\u043e\u0441\u044c\u043c\u0438. \u042d\u0442\u043e \u043d\u0435 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0435, \u043f\u0440\u043e\u0441\u0442\u043e \u0440\u0430\u0437\u043d\u044b\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438.\u041f\u0440\u043e\u0444\u0438\u043b\u044c \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B: \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0432 MatMul, \u043f\u044f\u0442\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0432 Conv. \u042d\u0442\u043e \u0447\u0435\u0441\u0442\u043d\u043e\u0435 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u043c\u0430\u0442\u0440\u0438\u0446 \u043d\u0430 AVX \u0431\u0435\u0437 FMA, \u0443\u0441\u043a\u043e\u0440\u044f\u0442\u044c \u0442\u0443\u0442 \u043d\u0435\u0447\u0435\u0433\u043e.\u0414\u0432\u0430 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u043d\u0435 \u043e\u0436\u0438\u0434\u0430\u043b. \u041f\u0435\u0440\u0432\u043e\u0435: \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 B \u0448\u0435\u0441\u0442\u044c \u043f\u043e\u0442\u043e\u043a\u043e\u0432 onnxruntime \u0445\u0443\u0436\u0435 \u0442\u0440\u0451\u0445 (64 \u043c\u0441 \u043f\u0440\u043e\u0442\u0438\u0432 60), \u0430 \u043f\u043e\u0434 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u043e\u0439 p95 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0440\u0430\u0441\u0442\u0438 \u0443\u0436\u0435 \u043f\u0440\u0438 41% \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u043c\u0430\u0448\u0438\u043d\u044b. \u041f\u043e\u0445\u043e\u0436\u0435, 6 vCPU \u044d\u0442\u043e 3 \u0444\u0438\u0437\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u044f\u0434\u0440\u0430 \u0441 \u0433\u0438\u043f\u0435\u0440\u0442\u0440\u0435\u0434\u0438\u043d\u0433\u043e\u043c, \u0438 \u0432 \u043f\u043e\u0442\u043e\u043b\u043e\u043a \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043e\u0431\u0449\u0438\u0439 \u043a\u044d\u0448. \u0412\u0442\u043e\u0440\u043e\u0435: \u0431\u0430\u0442\u0447 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0441\u0442\u043e\u0438\u0442 \u0440\u043e\u0432\u043d\u043e \u0432\u0434\u0432\u043e\u0435 \u0434\u043e\u0440\u043e\u0436\u0435 \u043e\u0434\u043d\u043e\u0439. \u0411\u0430\u0442\u0447\u0438\u043d\u0433, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0434\u0435\u0440\u0436\u0438\u0442\u0441\u044f \u0432\u0441\u044f \u0438\u0434\u0435\u044f \u00ab\u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u043d\u0430 \u0432\u0441\u0435\u0445\u00bb, \u043d\u0430 \u044d\u0442\u043e\u0439 \u043c\u0430\u0448\u0438\u043d\u0435 \u043d\u0435 \u0434\u0430\u0451\u0442 \u043d\u0438\u0447\u0435\u0433\u043e.\u0421\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0434\u0435\u0440\u0436\u0438\u0442 \u043c\u0430\u0448\u0438\u043d\u0430\u041c\u0430\u0448\u0438\u043d\u0430 A \u043f\u043e \u043f\u0440\u043e\u0448\u043b\u043e\u043c\u0443 \u0437\u0430\u043c\u0435\u0440\u0443 (\u0442\u043e\u043b\u044c\u043a\u043e \u0430\u043a\u0443\u0441\u0442\u0438\u043a\u0430, \u0431\u0430\u0442\u0447): 16 \u0434\u043e\u0440\u043e\u0436\u0435\u043a \u0437\u0430 72 \u043c\u0441, 32 \u0437\u0430 128 \u043c\u0441, 64 \u0437\u0430 223 \u043c\u0441 \u043d\u0430 \u0442\u0438\u043a. \u0421 \u0434\u0432\u043e\u0439\u043d\u044b\u043c \u0437\u0430\u043f\u0430\u0441\u043e\u043c \u044d\u0442\u043e 32 \u0434\u043e\u0440\u043e\u0436\u043a\u0438, \u0442\u043e \u0435\u0441\u0442\u044c 16 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0432\u0441\u0442\u0440\u0435\u0447. \u042d\u0442\u043e \u0432\u0435\u0440\u0445\u043d\u044f\u044f \u043e\u0446\u0435\u043d\u043a\u0430: \u0441\u043f\u043b\u0438\u0442\u0442\u0435\u0440 \u0438 \u0434\u0435\u043a\u043e\u0434\u0435\u0440 \u0432 \u043d\u0435\u0451 \u043d\u0435 \u0432\u043e\u0448\u043b\u0438.\u041c\u0430\u0448\u0438\u043d\u0430 B, \u043a\u0440\u0438\u0432\u0430\u044f \u043f\u043e \u0447\u0435\u0442\u044b\u0440\u0451\u043c \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u043c:\u041a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u044f\u0414\u0435\u0440\u0436\u0438\u0442 \u0434\u043e\u0440\u043e\u0436\u0435\u043ap95 \u043d\u0430 \u043f\u0440\u0435\u0434\u0435\u043b\u0435\u0421\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0442\u043e\u0447\u043a\u0430batch, 3 \u043f\u043e\u0442\u043e\u043a\u0430 ORT2292 \u043c\u04413 \u0434\u043e\u0440\u043e\u0436\u043a\u0438: 336 \u043c\u0441threads, 3 \u0440\u0430\u0431\u043e\u0447\u0438\u04453268 \u043c\u04414: 322 \u043c\u0441threads, 6 \u0440\u0430\u0431\u043e\u0447\u0438\u04455286 \u043c\u04416: 345 \u043c\u0441threads, 6 \u0440\u0430\u0431\u043e\u0447\u0438\u0445, KenLM4286 \u043c\u04416: 360 \u043c\u0441\u0418\u0442\u043e\u0433\u043e: \u043c\u0430\u0448\u0438\u043d\u0430 B \u0434\u0435\u0440\u0436\u0438\u0442 4\u20135 \u0434\u043e\u0440\u043e\u0436\u0435\u043a, \u044d\u0442\u043e \u0434\u0432\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0438 \u043f\u0440\u043e\u0442\u0438\u0432 \u0432\u0435\u0440\u0445\u043d\u0435\u0439 \u043e\u0446\u0435\u043d\u043a\u0438 \u0432 16 \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 A. \u0420\u0435\u0436\u0438\u043c \u00ab\u0434\u043e\u0440\u043e\u0436\u043a\u0430 \u043d\u0430 \u043f\u043e\u0442\u043e\u043a\u00bb \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043b\u0443\u0447\u0448\u0435 \u0431\u0430\u0442\u0447\u0430 \u0432 \u0434\u0432\u0430 \u0441 \u043f\u043e\u043b\u043e\u0432\u0438\u043d\u043e\u0439 \u0440\u0430\u0437\u0430, \u0438 \u043e\u043d \u0436\u0435 \u043f\u0440\u043e\u0449\u0435 \u0432 \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438.KenLM\u0423 T-one \u0434\u0432\u0430 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0430: greedy \u0438 beam search \u0441 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c\u044e KenLM \u043d\u0430 5,4 \u0413\u0411. \u042f \u043e\u0436\u0438\u0434\u0430\u043b, \u0447\u0442\u043e KenLM \u0441\u043e\u0436\u0440\u0435\u0442 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u0440. \u041d\u043e \u043d\u0435 \u043d\u0435\u0442, \u043d\u0435 \u0441\u044a\u0435\u043b: \u0434\u0435\u043a\u043e\u0434 \u0444\u0440\u0430\u0437\u044b \u0441\u0442\u043e\u0438\u0442 5\u201311 \u043c\u0441 \u043d\u0430 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0440\u0435\u0447\u0438, \u043d\u0430 \u0437\u0430\u043f\u0438\u0441\u0438 \u0432 51 \u0441\u0435\u043a\u0443\u043d\u0434\u0443 \u0432\u0435\u0441\u044c \u0434\u0435\u043a\u043e\u0434 \u0437\u0430\u043d\u044f\u043b 0,1 \u0441\u0435\u043a\u0443\u043d\u0434\u044b. \u041e\u043d \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043f\u0430\u0439\u043a\u0430\u043c\u0438 \u043b\u043e\u0436\u0438\u0442\u0441\u044f \u0432 \u043a\u043e\u043d\u0435\u0446 \u043a\u0430\u0436\u0434\u043e\u0439 \u0444\u0440\u0430\u0437\u044b. \u0417\u0430\u0442\u043e \u043f\u0430\u043c\u044f\u0442\u044c: \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0441 KenLM \u0437\u0430\u043d\u0438\u043c\u0430\u0435\u0442 5,5 \u0413\u0411 \u043f\u0440\u043e\u0442\u0438\u0432 0,6 \u0413\u0411 \u0441 greedy.  \u041d\u0430 \u043e\u0431\u0440\u0430\u0437\u0446\u0435 \u0442\u0435\u043a\u0441\u0442\u044b greedy \u0438 KenLM \u0441\u043e\u0432\u043f\u0430\u043b\u0438 \u0434\u043e\u0441\u043b\u043e\u0432\u043d\u043e, \u0430 \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0430\u0441\u043e\u0432\u043e\u043c \u0436\u0438\u0432\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u0435 KenLM \u043e\u043a\u0430\u0437\u0430\u043b\u0441\u044f \u043b\u0443\u0447\u0448\u0435 \u043d\u0430 0,9 \u043f.\u043f. \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u043a\u043b\u0438\u0435\u043d\u0442\u0430 \u0438 \u043d\u0430 1,7 \u043d\u0430 \u0434\u043e\u0440\u043e\u0436\u043a\u0435 \u0432\u0435\u0434\u0443\u0449\u0435\u0439.\u0427\u0442\u043e \u043d\u0435 \u043f\u043e\u043c\u043e\u0433\u043b\u043e\u042f \u043f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b \u0434\u0432\u0430 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u044b\u0445 \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f, \u043e\u0431\u0430 \u043c\u0438\u043c\u043e.\u0414\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0435 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u043d\u0438\u0435 \u0432 int8. \u0412\u044b\u044f\u0441\u043d\u0438\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0438\u0437 158 \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0445 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0439 \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 157 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432 float16, \u0430 \u043a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u0435\u043b\u044c onnxruntime \u0443\u043c\u0435\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e float32. \u041a\u0432\u0430\u043d\u0442\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u0447\u0435\u0433\u043e.\u041f\u0435\u0440\u0435\u0432\u043e\u0434 \u0432\u0441\u0435\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 float32, \u0440\u0430\u0437 \u0443\u0436 \u043e\u043d\u0430 \u0432 fp16, \u0430 \u043d\u0430 x86 \u0431\u0435\u0437 AVX512-FP16 \u0431\u044b\u0441\u0442\u0440\u044b\u0445 fp16-\u044f\u0434\u0435\u0440 \u043d\u0435\u0442. RTF \u043d\u0435 \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0441\u044f: 0,392 \u043f\u0440\u043e\u0442\u0438\u0432 0,395, \u0437\u043d\u0430\u0447\u0438\u0442 onnxruntime \u0438 \u0442\u0430\u043a \u0441\u0447\u0438\u0442\u0430\u043b \u0432 fp32. \u0417\u0430\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u0442\u0430\u043b\u0430 \u0437\u0430\u0433\u0440\u0443\u0436\u0430\u0442\u044c\u0441\u044f \u0437\u0430 3 \u0441\u0435\u043a\u0443\u043d\u0434\u044b \u0432\u043c\u0435\u0441\u0442\u043e 9 \u0438 \u0437\u0430\u043d\u0438\u043c\u0430\u0442\u044c \u0432\u0434\u0432\u043e\u0435 \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u0430\u043c\u044f\u0442\u0438: \u0434\u043e \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u043d\u0442\u0430\u0439\u043c \u043f\u0435\u0440\u0435\u0432\u043e\u0434\u0438\u043b \u0432\u0435\u0441\u0430 \u0438\u0437 fp16 \u043f\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u0439 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0435. \u0414\u043b\u044f \u0441\u0435\u0440\u0432\u0438\u0441\u0430 fp32-\u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u0435\u043d.\u041a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0430 \u043e\u0434\u043d\u043e\u043c \u043e\u0431\u0440\u0430\u0437\u0446\u0435\u042d\u0442\u043e 51 \u0441\u0435\u043a\u0443\u043d\u0434\u0430 \u043a\u043e\u043b\u043b-\u0446\u0435\u043d\u0442\u0440\u0430 \u0438\u0437 \u043f\u0430\u043a\u0435\u0442\u0430 T-one, \u0432\u043e\u0441\u0435\u043c\u044c \u043a\u0438\u043b\u043e\u0433\u0435\u0440\u0446. \u042d\u0442\u0430\u043b\u043e\u043d \u044f \u0441\u043e\u0431\u0440\u0430\u043b \u043a\u0430\u043a \u0441\u043e\u0433\u043b\u0430\u0441\u0438\u0435 \u0434\u0432\u0438\u0436\u043a\u043e\u0432, \u044d\u0442\u043e \u043d\u0435 \u0432\u044b\u0447\u0438\u0442\u043a\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u043e\u043c, \u0442\u0430\u043a \u0447\u0442\u043e \u0447\u0438\u0441\u043b\u0430 \u043d\u0438\u0436\u0435 \u0441\u0442\u043e\u0438\u0442 \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u043c, \u0430 \u043d\u0435 \u0432\u044b\u0432\u043e\u0434\u043e\u043c. \u0414\u0432\u0438\u0436\u043e\u043aWER, %\u0421\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043d\u0430 \u043c\u0430\u0448\u0438\u043d\u0435 BRAMDeepgram nova-30,051 \u0441 \u0437\u0430 1,0 \u0441\u043e\u0431\u043b\u0430\u043a\u043eGigaAM-v3 rnnt0,0RTF 1,25, \u0442\u043e \u0435\u0441\u0442\u044c 75 \u043c\u0438\u043d\u0443\u0442 \u043d\u0430 \u0447\u0430\u0441 \u0430\u0443\u0434\u0438\u043e1,6 \u0413\u0411GigaAM-v3 e2e_rnnt (\u0441 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u0435\u0439)2,9RTF 1,121,6 \u0413\u0411Deepgram nova-22,951 \u0441 \u0437\u0430 1,4 \u0441\u043e\u0431\u043b\u0430\u043a\u043eVosk ru-0.425,9RTF 0,59, \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 85 \u04416,2 \u0413\u0411T-one, greedy \u0438 KenLM11,8RTF 0,350,6 \/ 5,5 \u0413\u0411Vosk small-ru-0.2223,5RTF 0,170,27 \u0413\u0411\u0427\u0435\u0442\u044b\u0440\u0435 \u043e\u0448\u0438\u0431\u043a\u0438 T-one \u043d\u0430 34 \u0441\u043b\u043e\u0432\u0430: \u0434\u0432\u0430\u0436\u0434\u044b \u00ab\u043d\u0430 \u0441\u0443\u043c\u043c\u0443\u00bb \u0432\u043c\u0435\u0441\u0442\u043e \u00ab\u043d\u043e \u0441\u0443\u043c\u043c\u0430\u00bb. \u042d\u0442\u043e \u0442\u0435\u043b\u0435\u0444\u043e\u043d\u043d\u0430\u044f \u0440\u0435\u0447\u044c, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0435\u043d\u0430, \u0438 \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u043e\u043d\u0430 \u0441\u043b\u0430\u0431\u0435\u0435 \u0432\u0441\u0435\u0445, \u043a\u0440\u043e\u043c\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u043e\u0433\u043e Vosk. GigaAM \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 \u043e\u0431\u043b\u0430\u043a\u0430, \u043d\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u043a\u0435\u0442\u043d\u043e. \u041d\u0430&#8230;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-499028","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/499028","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=499028"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/499028\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=499028"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=499028"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=499028"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}