{"id":180109,"date":"2013-05-18T09:39:03","date_gmt":"2013-05-18T05:39:03","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=180109"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=180109","title":{"rendered":"<span class=\"post_title\">\u0421\u043a\u0440\u044b\u0442\u044b\u0435 \u0446\u0435\u043f\u0438 \u041c\u0430\u0440\u043a\u043e\u0432\u0430, \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0412\u0438\u0442\u0435\u0440\u0431\u0438<\/span>"},"content":{"rendered":"<div class=\"content html_format\">   \t\u041d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440 \u043b\u0436\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e \u043f\u043e\u0434\u0440\u0430\u0433\u0438\u0432\u0430\u043d\u0438\u044e \u0440\u0443\u043a \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442, \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e\u043d \u043f\u0440\u0430\u0432\u0434\u0443 \u0438\u043b\u0438 \u043d\u0435\u0442. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043a\u043e\u0433\u0434\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u043b\u0436\u0435\u0442, \u0440\u0443\u043a\u0438 \u0442\u0440\u044f\u0441\u0443\u0442\u0441\u044f \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435. \u0421\u0438\u0433\u043d\u0430\u043b \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0442\u0430\u043a\u0438\u043c:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/dc3\/881\/b6e\/dc3881b6ea209ba018596bf7186569ac.png\" alt=\"\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0441\u0438\u0433\u043d\u0430\u043b\"\/><\/p>\n<p>  \u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0439 \u043c\u0435\u0442\u043e\u0434, \u043e\u043f\u0438\u0441\u0430\u043d \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u00abA Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition\u00bb L.R. Rabiner, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0432\u043e\u0434\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043a\u0440\u044b\u0442\u043e\u0439 \u0446\u0435\u043f\u0438 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 \u0438 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0442\u0440\u0438 \u0446\u0435\u043d\u043d\u044b\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430: <a href=\"http:\/\/en.wikipedia.org\/wiki\/Forward\u2013backward_algorithm\">The Forward-Backward Procedure<\/a>, <a href=\"http:\/\/en.wikipedia.org\/wiki\/Viterbi_algorithm\">Viterbi Algorithm<\/a> \u0438 <a href=\"http:\/\/en.wikipedia.org\/wiki\/Baum\u2013Welch_algorithm\">Baum-Welch reestimation<\/a>. \u041d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u044d\u0442\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u043e\u0441\u0442\u0438, \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c \u0438\u0445 \u043b\u0443\u0447\u0448\u0435 \u043f\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438.<br \/>  <a name=\"habracut\"><\/a><\/p>\n<p>  \u041c\u0435\u0442\u043e\u0434 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0446\u0435\u043f\u0435\u0439 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 \u0438\u043c\u0435\u0435\u0442 \u0448\u0438\u0440\u043e\u043a\u043e\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043e\u043d \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u043b\u044f \u043f\u043e\u0438\u0441\u043a\u0430 <a href=\"http:\/\/bioinf.me\/courses\/bioalgo2\">CG-\u043e\u0441\u0442\u0440\u043e\u0432\u043a\u043e\u0432<\/a> (\u0443\u0447\u0430\u0441\u0442\u043a\u043e\u0432 DNA, RNA \u0441 \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u0432\u044f\u0437\u043a\u0438 \u0446\u0438\u0442\u043e\u0437\u0438\u043d\u0430 \u0438 \u0433\u0443\u0430\u043d\u0438\u043d\u0430), \u0432 \u0442\u043e \u0432\u0440\u0435\u043c\u044f \u043a\u0430\u043a \u0441\u0430\u043c <a href=\"http:\/\/ru.wikipedia.org\/wiki\/\u0420\u0430\u0431\u0438\u043d\u0435\u0440,_\u041b\u043e\u0440\u0435\u043d\u0441\">\u041b\u043e\u0440\u0435\u043d\u0441 \u0420\u0430\u0431\u0438\u043d\u0435\u0440<\/a> \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u0435\u0433\u043e \u0434\u043b\u044f \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0440\u0435\u0447\u0438. \u041c\u043d\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043f\u0440\u0438\u0433\u043e\u0434\u0438\u043b\u0438\u0441\u044c \u0434\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043e\u0442\u0441\u043b\u0435\u0436\u0438\u0432\u0430\u0442\u044c \u0441\u043c\u0435\u043d\u0443 \u0441\u0442\u0430\u0434\u0438\u0439 \u0441\u043d\u0430\/\u0431\u043e\u0434\u0440\u0441\u0442\u0432\u043e\u0432\u0430\u043d\u0438\u044f \u043f\u043e \u044d\u043b\u0435\u043a\u0442\u0440\u043e\u044d\u043d\u0446\u0435\u0444\u0430\u043b\u043e\u0433\u0440\u0430\u043c\u043c\u0435 \u0438 \u0438\u0441\u043a\u0430\u0442\u044c \u044d\u043f\u0438\u043b\u0435\u043f\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0438\u043f\u0430\u0434\u043a\u0438.<\/p>\n<p>  \u0412 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0446\u0435\u043f\u0435\u0439 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u0440\u0430\u0441\u0441\u043c\u0430\u0442\u0440\u0438\u0432\u0430\u0435\u043c\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043b\u0430\u0434\u0430\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c\u0438 \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u0430\u043c\u0438:<\/p>\n<ol>\n<li>\u0432 \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0435\u0440\u0438\u043e\u0434 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043c\u043e\u0436\u0435\u0442 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u043e\u0434\u043d\u043e\u043c \u0438\u0437 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439;<\/li>\n<li>\u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u0438\u0437 \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0432 \u0434\u0440\u0443\u0433\u043e\u0435 (\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e, \u0432 \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435) \u0438 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 \u0442\u043e\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043e\u043d\u0430 \u043d\u0430\u0445\u043e\u0434\u0438\u043b\u0430\u0441\u044c;<\/li>\n<li>\u0432 \u043a\u0430\u0436\u0434\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432\u044b\u0434\u0430\u0435\u0442 \u043e\u0434\u043d\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0439 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u2013 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u0443\u044e \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0443, \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0443\u044e \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u044b.<\/li>\n<\/ol>\n<p>  \u041c\u043e\u0434\u0435\u043b\u044c HMM \u043c\u043e\u0436\u043d\u043e \u043e\u043f\u0438\u0441\u0430\u0442\u044c \u043a\u0430\u043a: <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bpggjx8.png\" alt=\"HMM= \\langle M, S, I, T, E\\rangle\"\/>  <\/p>\n<ul>\n<li>M \u2013 \u0447\u0438\u0441\u043b\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439;<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/mathurl.com\/9wvxyyl.png\" alt=\"S=\\{S_1,...,S_M\\}\"\/> \u2013 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439;<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/mathurl.com\/al7umdo.png\" alt=\"I=(P(q_0=S_i)=\\pi_i)\"\/> \u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439, \u0442\u043e\u0433\u043e \u0447\u0442\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u0432 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0438 i \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 0;<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/mathurl.com\/ahmpzs7.png\" alt=\"T=\\|P(q_t=S_j|q_{t-1}=S_i)=a_{ij}\\|\"\/> \u2013 \u043c\u0430\u0442\u0440\u0438\u0446\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0430 \u0438\u0437 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f i \u0432 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 j \u0434\u043b\u044f <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bj8cdma.png\" alt=\"\\forall t\\in[1,T_m]\"\/>;<\/li>\n<li><img decoding=\"async\" src=\"http:\/\/mathurl.com\/ab5u92s.png\" alt=\"E=(E_1,...,E_M)\"\/>, <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bdguwn2.png\" alt=\"E_i=f(o_t|q_t=S_i)\"\/>\u2013 \u0432\u0435\u043a\u0442\u043e\u0440 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u0432\u0435\u043b\u0438\u0447\u0438\u043d, \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0438\u0437 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439, \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u043a \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043b\u043e\u0442\u043d\u043e\u0441\u0442\u0438 \u0438\u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u043d\u0430 O (\u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u043e\u0441\u0442\u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439).<\/li>\n<\/ul>\n<p>  \u0412\u0440\u0435\u043c\u044f t \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u044b\u043c, \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u043c \u043d\u0435\u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0446\u0435\u043b\u044b\u043c\u0438 \u0447\u0438\u0441\u043b\u0430\u043c\u0438, \u0433\u0434\u0435 0 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u043c\u043e\u043c\u0435\u043d\u0442\u0443 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u0430 Tm \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0435\u043c\u0443 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e.<\/p>\n<p>  \u041a\u043e\u0433\u0434\u0430 \u0443 \u043d\u0430\u0441 2 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u043f\u043e\u0434\u0447\u0438\u043d\u044f\u044e\u0442\u0441\u044f \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044e \u0441 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u043c\u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u044f\u043c\u0438, \u043a\u0430\u043a \u0432 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u0441 \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440\u043e\u043c \u043b\u0436\u0438, \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0438\u0437 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u043c\u043e\u0436\u043d\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0437\u0438\u0442\u044c \u0432\u043e\u0442 \u0442\u0430\u043a:<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/0d2\/036\/5f7\/0d20365f7b09ace6168374f5b82d3eb6.png\" alt=\"\u0421\u0445\u0435\u043c\u0430 \u0441\u043a\u0440\u044b\u0442\u043e\u0439 \u0446\u0435\u043f\u0438 \u041c\u0430\u0440\u043a\u043e\u0432\u0430\"\/><\/p>\n<p>  \u0411\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0443\u0436\u0435 \u0443\u043f\u043e\u043c\u0438\u043d\u0430\u043b\u043e\u0441\u044c \u0432 <a href=\"http:\/\/habrahabr.ru\/company\/surfingbird\/blog\/177889\/\">\u0412\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438: \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438<\/a>.<\/p>\n<p>  \u0412\u044b\u0431\u043e\u0440 \u0432\u0435\u043a\u0442\u043e\u0440\u0430 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0432\u0435\u043b\u0438\u0447\u0438\u043d \u0437\u0430\u0447\u0430\u0441\u0442\u0443\u044e \u043b\u0435\u0436\u0438\u0442 \u043d\u0430 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435. \u0412 \u0438\u0434\u0435\u0430\u043b\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u0430\u044f \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u0430 \u0438 \u0435\u0441\u0442\u044c \u0441\u043a\u0440\u044b\u0442\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u0438 \u0437\u0430\u0434\u0430\u0447\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u0441\u044f \u0442\u0440\u0438\u0432\u0438\u0430\u043b\u044c\u043d\u043e\u0439. \u0412 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432\u0441\u0435 \u0441\u043b\u043e\u0436\u043d\u0435\u0435, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c, \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u0430\u044f \u0420\u0430\u0431\u0438\u043d\u0435\u0440\u043e\u043c, \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u0442, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/mathurl.com\/ajb36pl.png\" alt=\"E_i\"\/> \u2013 \u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0435 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435. \u0427\u0442\u043e-\u0442\u043e \u0432\u0440\u043e\u0434\u0435 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u043d\u0438\u0436\u0435:<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/d33\/0b1\/f64\/d330b1f640d78c2a3d9ef5900352a538.png\"\/><\/p>\n<p>  \u0423 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044f \u043e\u0431\u044b\u0447\u043d\u0430 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0431\u043e\u0434\u0430 \u0432 \u0432\u044b\u0431\u043e\u0440\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439. \u0427\u0435\u043c \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0435 \u0432\u0435\u043b\u0438\u0447\u0438\u043d\u044b \u0440\u0430\u0437\u043b\u0438\u0447\u0430\u044e\u0442 \u0441\u043a\u0440\u044b\u0442\u044b\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0442\u0435\u043c \u043b\u0443\u0447\u0448\u0435. \u0421 \u0442\u043e\u0447\u043a\u0438 \u0437\u0440\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u043f\u0435\u0440\u0435\u0431\u043e\u0440 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u043e\u0437\u043d\u0430\u0447\u0430\u0435\u0442 \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0430\u043a\u043a\u0443\u0440\u0430\u0442\u043d\u043e\u0439 \u0438\u043d\u043a\u0430\u043f\u0441\u0443\u043b\u044f\u0446\u0438\u0438 <img decoding=\"async\" src=\"http:\/\/mathurl.com\/ajb36pl.png\" alt=\"E_i\"\/>. \u041d\u0430 \u0433\u0440\u0430\u0444\u0438\u043a\u0435 \u043d\u0438\u0436\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 \u043e \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440\u0435 \u043b\u0436\u0438, \u0433\u0434\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u043e\u0439 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438 (\u043f\u043e\u0434\u0440\u0430\u0433\u0438\u0432\u0430\u043d\u0438\u044f \u0440\u0443\u043a) \u043d\u0435\u043f\u0440\u0435\u0440\u044b\u0432\u043d\u043e\u0435, \u0442\u0430\u043a \u043a\u0430\u043a \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u043a\u0430\u043a \u043d\u043e\u0440\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0441 \u0441\u0440\u0435\u0434\u043d\u0438\u043c 0 \u0434\u043b\u044f \u043e\u0431\u043e\u0438\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439, \u0441 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 \u0440\u0430\u0432\u043d\u043e\u0439 1, \u043a\u043e\u0433\u0434\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043f\u0440\u0430\u0432\u0434\u0443 (\u0444\u0438\u043e\u043b\u0435\u0442\u043e\u0432\u044b\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u044b) \u0438 1.21, \u043a\u043e\u0433\u0434\u0430 \u043b\u0436\u0435\u0442 (\u0437\u0435\u043b\u0435\u043d\u044b\u0435 \u0441\u0442\u043e\u043b\u0431\u0446\u044b):<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/685\/3ec\/5e3\/6853ec5e3713409699f700598c772fb7.png\"\/><\/p>\n<p>  \u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u043d\u0435 \u043a\u0430\u0441\u0430\u0442\u044c\u0441\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u0432 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438, \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0443\u043f\u0440\u043e\u0449\u0435\u043d\u043d\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443.<\/p>\n<p>  \u0414\u0430\u043d\u043e:<\/p>\n<p>  \u0434\u0432\u0430 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f, \u0433\u0434\u0435 \u0447\u0435\u0441\u0442\u043d\u043e\u043c\u0443 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044e \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u0431\u0435\u043b\u044b\u0439 \u0448\u0443\u043c \u0441 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 1, \u043b\u0436\u0438 \u2013 \u0431\u0435\u043b\u044b\u0439 \u0448\u0443\u043c \u0441 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0435\u0439 1.21;<br \/>  \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0438\u0437 10 000 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u0439 o;<br \/>  \u0441\u043c\u0435\u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0440\u0430\u0437 \u0432 2 500 \u0442\u0430\u043a\u0442\u043e\u0432.<br \/>  \u0422\u0440\u0435\u0431\u0443\u0435\u0442\u0441\u044f \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043c\u043e\u043c\u0435\u043d\u0442\u044b \u0441\u043c\u0435\u043d\u044b \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439.<\/p>\n<p>  \u0420\u0435\u0448\u0435\u043d\u0438\u0435:<\/p>\n<p>  \u0417\u0430\u0434\u0430\u0434\u0438\u043c \u043f\u044f\u0442\u0435\u0440\u043a\u0443 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043c\u043e\u0434\u0435\u043b\u0438:<br \/>  \u0447\u0438\u0441\u043b\u043e \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 M=2;<br \/>  S={1,2};<br \/>  \u043e\u043f\u044b\u0442 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435 \u0438\u043c\u0435\u0435\u0442 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 I=(0.5,0.5);<br \/>  <img decoding=\"async\" src=\"http:\/\/mathurl.com\/cyzh8ta.png\" alt=\"T\\leftarrow\\left(\\begin{matrix}1-1\/2500&amp;1\/2500\\\\1\/2500&amp;1-1\/2500\\end{matrix}\\right)\"\/>;<br \/>  E=(N(0,1),N(0,1.21)).<br \/>  \u041d\u0430\u0439\u0434\u0435\u043c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u0430\u0432\u0434\u043e\u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043c\u043e\u043c\u0435\u043d\u0442\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0412\u0438\u0442\u0435\u0440\u0431\u0438 \u043f\u0440\u0438 \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u0445 \u043c\u043e\u0434\u0435\u043b\u0438.<br \/>  \u0420\u0435\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043a \u0437\u0430\u0434\u0430\u043d\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043f\u0440\u043e\u0433\u043e\u043d\u0443 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0412\u0438\u0442\u0435\u0440\u0431\u0438.<\/p>\n<p>  \u041f\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0446\u0435\u043f\u0435\u0439 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 \u0438 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0439 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u043d\u0430\u0439\u0434\u0435\u043c \u0442\u0430\u043a\u0443\u044e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043e\u043f\u0438\u0441\u0430\u043b\u0430 \u0431\u044b \u0432\u044b\u0431\u043e\u0440\u043a\u0443 \u0432 \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438. \u041f\u043e\u043d\u044f\u0442\u0438\u0435 \u043d\u0430\u0438\u043b\u0443\u0447\u0448\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u0442\u0440\u0430\u043a\u0442\u043e\u0432\u0430\u0442\u044c \u043f\u043e-\u0440\u0430\u0437\u043d\u043e\u043c\u0443, \u043d\u043e \u0443\u0441\u0442\u043e\u044f\u0432\u0448\u0438\u043c\u0441\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0412\u0438\u0442\u0435\u0440\u0431\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u0445\u043e\u0434\u0438\u0442 \u0442\u0430\u043a\u0443\u044e \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bgdzq56.png\" alt=\"Q^*=(q_0,..,q_{T_m}), q_i\\in S\"\/>, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/mathurl.com\/a2ne7rc.png\" alt=\"P(Q^*,O|HMM)=\\max\\limits_{Q\\in\\Omega}P(Q,O|HMM)\"\/>.<\/p>\n<p>  \u0417\u0430\u0434\u0430\u0447\u0430 \u043f\u043e\u0438\u0441\u043a\u0430 <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bxdndw3.png\" alt=\"Q^*\"\/> \u0440\u0435\u0448\u0430\u0435\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0444\u0443\u043d\u043a\u0446\u0438\u044e:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bdvx3gl.png\" alt=\"\\delta_t(s) = \\max\\limits_{I=(i_0, ..., i_{t-1})}P(q_0=S_{i_0},..,q_{t-1}=S_{i_{t-1}}, q_t=s)\"\/><br \/>  \u0433\u0434\u0435 <img decoding=\"async\" src=\"http:\/\/mathurl.com\/a6ewt8s.png\" alt=\"\\delta_t(s)\"\/> \u2014 \u043d\u0430\u0438\u0431\u043e\u043b\u044c\u0448\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u043e\u043a\u0430\u0437\u0430\u0442\u044c\u0441\u044f \u0432 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0438 s \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 t. \u0420\u0435\u043a\u0443\u0440\u0441\u0438\u0432\u043d\u043e, \u044d\u0442\u0443 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043c\u043e\u0436\u043d\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/mathurl.com\/astgkxo.png\" alt=\"\\delta_0(s) = \\pi_s f_s(o_0), \\delta_t(s) = \\max_{s&#39;\\in S}(\\delta_{t-1}(s&#39;)a_{s&#39;s}) f_s(o_t)\"\/><br \/>  \u041e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u0441 \u0440\u0430\u0441\u0447\u0435\u0442\u043e\u043c<img decoding=\"async\" src=\"http:\/\/mathurl.com\/a6ewt8s.png\" alt=\"\\delta_t(s)\"\/> \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043c\u043e\u043c\u0435\u043d\u0442\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0437\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u043c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043c\u044b \u043f\u0440\u0438\u0448\u043b\u0438, \u0442\u043e \u0435\u0441\u0442\u044c <img decoding=\"async\" src=\"http:\/\/mathurl.com\/afaz73x.png\" alt=\"q_t=\\arg\\max\\limits_{s&#39;\\in S}(\\delta_{t-1}(s&#39;)a_{s&#39;s})\"\/>, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0431\u044b\u043b \u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c <img decoding=\"async\" src=\"http:\/\/mathurl.com\/azyocr3.png\" alt=\"q_{T_m} = \\arg\\max\\limits_{s\\in S} (\\delta_{T_m}(s))\"\/>, \u0438 \u0437\u043d\u0430\u0447\u0438\u0442, \u043c\u043e\u0436\u043d\u043e \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u0438\u0442\u044c <img decoding=\"async\" src=\"http:\/\/mathurl.com\/ahhvx3h.png\" alt=\"Q^*=(q_0^*, ..., q_{T_m}^*)\"\/>, \u043f\u0440\u043e\u0439\u0434\u044f\u0441\u044c \u043f\u043e \u043d\u0438\u043c \u0432 \u043e\u0431\u0440\u0430\u0442\u043d\u043e\u043c \u043f\u043e\u0440\u044f\u0434\u043a\u0435. \u041c\u043e\u0436\u043d\u043e \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/mathurl.com\/a4uum6p.png\" alt=\"\\max\\limits_{s\\in S}(\\delta_{t}(s)) = P(Q^*,O|HMM)\"\/>\u2013 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0438\u0441\u043a\u043e\u043c\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438. \u0422\u0440\u0435\u0431\u0443\u0435\u043c\u0430\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c <img decoding=\"async\" src=\"http:\/\/mathurl.com\/bxdndw3.png\" alt=\"Q^*\"\/> \u043d\u0430\u0439\u0434\u0435\u043d\u0430. \u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u043c \u0441\u0432\u043e\u0439\u0441\u0442\u0432\u043e\u043c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f, \u0442\u043e \u0447\u0442\u043e \u043e\u0446\u0435\u043d\u043e\u0447\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0432\u0445\u043e\u0434\u0438\u0442 \u0432 <img decoding=\"async\" src=\"http:\/\/mathurl.com\/a6ewt8s.png\" alt=\"\\delta_t(s)\"\/> \u0432 \u0432\u0438\u0434\u0435 \u0441\u043e\u043c\u043d\u043e\u0436\u0438\u0442\u0435\u043b\u044f. \u0415\u0441\u043b\u0438 \u0441\u0447\u0438\u0442\u0430\u0442\u044c, \u0447\u0442\u043e <img decoding=\"async\" src=\"http:\/\/mathurl.com\/cd2fmbk.png\" alt=\"image\"\/>, \u0442\u043e \u0432 \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u043e\u0432 \u0432 \u043d\u0430\u0431\u043b\u044e\u0434\u0435\u043d\u0438\u044f\u0445, \u0432\u0441\u0435 \u0440\u0430\u0432\u043d\u043e \u043c\u043e\u0436\u043d\u043e \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0435 \u0441\u043a\u0440\u044b\u0442\u044b\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u044f \u0432 \u044d\u0442\u0438 \u043c\u043e\u043c\u0435\u043d\u0442\u044b.<\/p>\n<p>  \u00ab\u041f\u0441\u0435\u0432\u0434\u043e\u043a\u043e\u0434\u00bb \u0434\u043b\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0412\u0438\u0442\u0435\u0440\u0431\u0438 \u043d\u0430\u0431\u0440\u043e\u0441\u0430\u043d \u043d\u0438\u0436\u0435. \u041d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u0443\u0447\u0435\u0441\u0442\u044c, \u0447\u0442\u043e \u0432\u0441\u0435 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438 \u0441 \u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c\u0438 \u0438 \u043c\u0430\u0442\u0440\u0438\u0446\u0430\u043c\u0438 <b>\u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u044b\u0435<\/b>.<\/p>\n<pre><code class=\"python\">Tm&lt;-10000 # Max time M&lt;-2 # Number of states S&lt;-seq(from=1, to=M) # States [1,2] I&lt;-rep(1.\/M, each=M) # Initial distribution [0.5, 0.5] T&lt;-matrix(c(1-4.\/Tm, 4.\/Tm, 4.\/Tm,1-4.\/Tm),2) #[0.9995 0.0005; 0.0005 0.9995] P&lt;-c(function(o){dnorm(o)}, function(o){dnorm(o,sd=1.1)}) # Vector of density functions for each state (N(0,1), N(0,1.21))  E&lt;-function(P,s,o){P[[s]](o)} # Calculate probability of observed value o for state s.  Es&lt;-function(E,P,o) {   # Same for all states   probs&lt;-c()   for(s in S) {     probs&lt;-append(probs, E(P,s,o))   }   return(probs) }  viterbi&lt;-function(S,I,T,P,E,O,tm) {   delta&lt;-I*Es(E,P,O[1]) # initialization for t=1   prev_states&lt;-cbind(rep(0,length(S))) # zeros   for(t in 2:Tm) {     m&lt;-matrix(rep(delta,length(S)),length(S))*T # delta(s')*T[ss'] forall s,s'     md&lt;-apply(m,2,max) # search for max delta(s) by s' for all s     max_delta&lt;-apply(m,2,which.max)     prev_states&lt;-cbind(prev_states,max_delta)       delta&lt;-md*Es(E,P,O[t]) # prepare next step delta(s)   }   return(list(delta=delta,ps=prev_states)) # return delta_Tm(s) and paths }  restoreStates&lt;-function(d,prev_states) {   idx&lt;-which.max(d)   s&lt;-c(idx)   sz&lt;-length(prev_states[1,])   for(i in sz:2) {     idx&lt;-prev_states[idx,i]     s&lt;-append(s,idx,after=0)   }   return (as.vector(s)) } <\/code><\/pre>\n<p>  \u041a\u0442\u043e-\u043d\u0438\u0431\u0443\u0434\u044c \u043c\u043e\u0433 \u0443\u0437\u043d\u0430\u0442\u044c \u0432 \u044d\u0442\u043e\u043c \u201c\u043f\u0441\u0435\u0432\u0434\u043e\u043a\u043e\u0434\u0435\u201d \u043a\u043e\u0434 \u043d\u0430 <a href=\"http:\/\/www.r-project.org\/\">R<\/a>, \u043d\u043e \u044d\u0442\u043e \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0435 \u0441\u0430\u043c\u0430\u044f \u043b\u0443\u0447\u0448\u0430\u044f \u0440\u0435\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f.<\/p>\n<p>  \u0421\u0440\u0430\u0432\u043d\u0438\u043c \u043f\u0435\u0440\u0438\u043e\u0434\u044b \u043f\u043e\u0441\u0442\u043e\u044f\u043d\u0441\u0442\u0432\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u044b\u043b\u0438 \u0437\u0430\u0434\u0430\u043d\u044b \u043f\u0440\u0438 \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 (\u0432\u0435\u0440\u0445\u043d\u044f\u044f \u0447\u0430\u0441\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a\u0430), \u0438 \u0442\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u044b\u043b\u0438 \u043d\u0430\u0439\u0434\u0435\u043d\u044b \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0412\u0438\u0442\u0435\u0440\u0431\u0438 (\u043d\u0438\u0436\u043d\u044f\u044f \u0447\u0430\u0441\u0442\u044c \u0433\u0440\u0430\u0444\u0438\u043a\u0430):<br \/>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/1f9\/bf0\/4cb\/1f9bf04cbb86c3d2e738694590c6b4f2.png\"\/><\/p>\n<p>  \u0412\u043f\u043e\u043b\u043d\u0435 \u0434\u043e\u0441\u0442\u043e\u0439\u043d\u043e \u043f\u043e-\u043c\u043e\u0435\u043c\u0443, \u043d\u043e \u043a\u0430\u0436\u0434\u044b\u0439 \u0440\u0430\u0437 \u043d\u0430 \u0442\u0430\u043a\u043e\u0435 \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u043d\u0430\u0434\u0435\u044f\u0442\u044c\u0441\u044f.<\/p>\n<p>  \u041e\u043f\u0438\u0441\u0430\u043d\u043d\u044b\u0439 \u0440\u0430\u043d\u0435\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0412\u0438\u0442\u0435\u0440\u0431\u0438 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043a\u0440\u044b\u0442\u043e\u0439 \u0446\u0435\u043f\u0438 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 (\u0410\u0440\u0433\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 viterbi). \u0414\u043b\u044f \u0438\u0445 \u0437\u0430\u0434\u0430\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435. \u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u0434\u0440\u0430\u0437\u0443\u043c\u0435\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u043a\u0440\u043e\u043c\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0432\u0435\u043b\u0438\u0447\u0438\u043d O \u0442\u0430\u043a \u0436\u0435 \u0437\u0430\u0434\u0430\u043d\u0430 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0430\u044f \u0438\u043c \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 Q, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u0442\u043a\u0443\u0434\u0430-\u0442\u043e \u043d\u0430\u043c \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b. \u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0444\u043e\u0440\u043c\u0443\u043b\u044b \u0434\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0431\u0443\u0434\u0443\u0442 \u0432\u044b\u0433\u043b\u044f\u0434\u0435\u0442\u044c \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<br \/>  <img decoding=\"async\" src=\"http:\/\/mathurl.com\/c7qtlxw.png\" alt=\"s\\leftarrow \\left\\{s:q_t=s,t\\in[0,T_m]\\right\\} \\\\ M\\leftarrow \\|S\\| \\\\ I\\leftarrow \\left(\\frac{\\sum_{t\\in[0,T_m]}I(q_t=s)}{T_m+1}, s\\in S\\right) \\\\ T\\leftarrow \\left(\\frac{\\sum_{t\\in[1,T_m]}I(q_{t-1}=s&#39;,q_t=s)}{\\sum_{t\\in[0,T_m]}(\\sum_{t\\in[1,T_m]}I(q_{t-1}=s&#39;)}, s,s&#39;\\in S\\right) \\\\ E\\leftarrow \\left(f_s(o_t)=\\frac{\\sum_{t\\in [0,T_m]}I(q_t=s,o_t=e)}{\\sum_{t\\in[0,T_m]}I(q_t=s)}, s\\in S\\right)\"\/><\/p>\n<p>  \u0433\u0434\u0435 I(x) \u2013 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f.<\/p>\n<p>  \u0414\u043b\u044f \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043e \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440\u0435 \u043b\u0436\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043b 413 \u0438\u0437 10 000 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439 (~4%), \u0447\u0442\u043e \u0432\u043e\u0432\u0441\u0435 \u043d\u0435 \u043f\u043b\u043e\u0445\u043e. \u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0412\u0438\u0442\u0435\u0440\u0431\u0438 \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u0441 \u0445\u043e\u0440\u043e\u0448\u0435\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0434\u0435\u0442\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u043c\u0435\u043d\u0442\u044b \u0441\u043c\u0435\u043d\u044b \u0441\u043a\u0440\u044b\u0442\u044b\u0445 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0439, \u043d\u043e \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u043b\u0443\u0447\u0430\u0435, \u0435\u0441\u043b\u0438 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0435\u043c\u044b\u0445 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a \u0442\u043e\u0447\u043d\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b. \u0415\u0441\u043b\u0438 \u0436\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u0435\u043d \u0442\u043e\u043b\u044c\u043a\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u043b\u0430\u0441\u0441 \u0442\u0430\u043a\u0438\u0445 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0439, \u0442\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0441\u043f\u043e\u0441\u043e\u0431 \u0432\u044b\u0431\u043e\u0440\u0430 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0445 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0411\u0430\u0443\u043c\u0430-\u0412\u0435\u043b\u0448\u0430.<\/p>\n<p>  \u0415\u0441\u043b\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e, \u0442\u0440\u0435\u0431\u0443\u0439\u0442\u0435 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u044f\u2026    \t \t\t   \t<\/p>\n<div class=\"clear\"><\/div>\n<\/p><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"http:\/\/habrahabr.ru\/post\/180109\/\"> http:\/\/habrahabr.ru\/post\/180109\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div class=\"content html_format\">   \t\u041d\u0430\u043c \u043d\u0443\u0436\u043d\u043e \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u0435\u0442\u0435\u043a\u0442\u043e\u0440 \u043b\u0436\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e \u043f\u043e\u0434\u0440\u0430\u0433\u0438\u0432\u0430\u043d\u0438\u044e \u0440\u0443\u043a \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442, \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e\u043d \u043f\u0440\u0430\u0432\u0434\u0443 \u0438\u043b\u0438 \u043d\u0435\u0442. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u043a\u043e\u0433\u0434\u0430 \u0447\u0435\u043b\u043e\u0432\u0435\u043a \u043b\u0436\u0435\u0442, \u0440\u0443\u043a\u0438 \u0442\u0440\u044f\u0441\u0443\u0442\u0441\u044f \u0447\u0443\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435. \u0421\u0438\u0433\u043d\u0430\u043b \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0442\u0430\u043a\u0438\u043c:<\/p>\n<p>  <img decoding=\"async\" src=\"http:\/\/habrastorage.org\/storage2\/dc3\/881\/b6e\/dc3881b6ea209ba018596bf7186569ac.png\" alt=\"\u0418\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u0441\u0438\u0433\u043d\u0430\u043b\"\/><\/p>\n<p>  \u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0439 \u043c\u0435\u0442\u043e\u0434, \u043e\u043f\u0438\u0441\u0430\u043d \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u00abA Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition\u00bb L.R. Rabiner, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0432\u043e\u0434\u0438\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043a\u0440\u044b\u0442\u043e\u0439 \u0446\u0435\u043f\u0438 \u041c\u0430\u0440\u043a\u043e\u0432\u0430 \u0438 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442 \u0442\u0440\u0438 \u0446\u0435\u043d\u043d\u044b\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430: <a href=\"http:\/\/en.wikipedia.org\/wiki\/Forward\u2013backward_algorithm\">The Forward-Backward Procedure<\/a>, <a href=\"http:\/\/en.wikipedia.org\/wiki\/Viterbi_algorithm\">Viterbi Algorithm<\/a> \u0438 <a href=\"http:\/\/en.wikipedia.org\/wiki\/Baum\u2013Welch_algorithm\">Baum-Welch reestimation<\/a>. \u041d\u0435\u0441\u043c\u043e\u0442\u0440\u044f \u043d\u0430 \u0442\u043e, \u0447\u0442\u043e \u044d\u0442\u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0442 \u0438\u043d\u0442\u0435\u0440\u0435\u0441 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u043e\u0432\u043e\u043a\u0443\u043f\u043d\u043e\u0441\u0442\u0438, \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u043d\u0438\u044f \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0442\u044c \u0438\u0445 \u043b\u0443\u0447\u0448\u0435 \u043f\u043e \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438.  <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-180109","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/180109","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=180109"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/180109\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=180109"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=180109"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=180109"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}