{"id":401186,"date":"2024-06-29T15:41:33","date_gmt":"2024-06-29T15:41:33","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=401186"},"modified":"-0001-11-30T00:00:00","modified_gmt":"2024-06-29T15:41:33","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=401186","title":{"rendered":"<span>\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043b \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u044b\u0439 \u0430\u0440\u0445\u0438\u0432\u0430\u0442\u043e\u0440 \u0442\u0435\u043a\u0441\u0442\u0430 \u0441 \u0443\u0447\u0451\u0442\u043e\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u0432\u0430<\/span>"},"content":{"rendered":"<div><!--[--><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/vk.com\/rtrg?p=VK-RTRG-476767-9fNIw\" style=\"display:none;\" width=\"1\"><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/www.facebook.com\/tr?id=256004148111649&amp;ev=PageView&amp;noscript=1\" style=\"display:none;\" width=\"1\"><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/habr.com\/ru\/company\/itsumma\/news\/t\/510258\/?utm_source=habr.com&amp;utm_medium=cpc&amp;utm_campaign=news09072020\" style=\"display:none;\" width=\"1\"><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-1\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\u0417\u043d\u0430\u043c\u0435\u043d\u0438\u0442\u044b\u0439 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0441\u0442 <a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%91%D0%B5%D0%BB%D0%BB%D0%B0%D1%80,_%D0%A4%D0%B0%D0%B1%D1%80%D0%B8%D1%81\">\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440<\/a> \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043b \u0441\u0432\u043e\u044e \u043d\u043e\u0432\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443: <a href=\"http:\/\/textsynth.org\/sms.html\">\u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u0434\u043b\u044f \u0441\u0436\u0430\u0442\u0438\u044f \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u043f\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 GPT-2<\/a>.<\/p>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435<\/p>\n<p>  <code>This lossless compressor achieves a much higher compression rate on English texts than general purpose compressors<\/code> (116 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432)<\/p>\n<p>  \u0441\u0436\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0432\u0441\u0435\u0433\u043e \u0432 10 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432:<\/p>\n<p>  <code>\u731f\u6174\u416d\u94d5\u88a2\u73cf\u5bfb\u4877\u405e\uaf71<\/code><\/p>\n<p>  \u0421\u0440\u0435\u0434\u043d\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 15\u200a%.<\/p>\n<p>  \u0421\u0436\u0430\u0442\u0438\u0435 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u0443\u0447\u0451\u0442\u043e\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u043f\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 GPT-2, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f OpenAI (\u043d\u0430 \u0425\u0430\u0431\u0440\u0435 \u0431\u044b\u043b <a href=\"https:\/\/habr.com\/ru\/post\/440564\/\">\u043e\u0431\u0437\u043e\u0440 GPT-2<\/a> \u0438 <a href=\"https:\/\/habr.com\/ru\/news\/t\/475344\/\">\u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u0442\u0435\u043a\u0441\u0442\u0430<\/a>). \u042d\u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0441 345 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 Transformer (\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0441\u0430\u043c\u0430\u044f \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c GPT-2 \u0441 1,5 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0434\u0430\u0451\u0442 \u0432\u0435\u0441\u044c\u043c\u0430 \u0443\u0441\u043b\u043e\u0432\u043d\u043e\u0435 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u0441\u0436\u0430\u0442\u0438\u044f). \u0414\u0430\u043b\u0435\u0435 \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u043e\u0434\u0435\u0440 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0431\u0438\u0442\u043e\u0432\u044b\u0439 \u043f\u043e\u0442\u043e\u043a. \u0412 <a href=\"http:\/\/textsynth.org\/sms.html\">\u044d\u0442\u043e\u0439 \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0430\u0446\u0438\u0438<\/a> \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u0436\u0430\u0442\u044b\u0439 \u0441\u0438\u043c\u0432\u043e\u043b \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 15 \u0431\u0438\u0442 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432 \u044e\u043d\u0438\u043a\u043e\u0434\u043e\u0432\u0441\u043a\u0438\u0445 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0430\u0445 \u0434\u0432\u0443\u0445 \u043d\u0430\u0431\u043e\u0440\u043e\u0432 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432: CJK (\u043a\u0438\u0442\u0430\u0439\u0441\u043a\u0438\u0439-\u044f\u043f\u043e\u043d\u0441\u043a\u0438\u0439-\u043a\u043e\u0440\u0435\u0439\u0441\u043a\u0438\u0439) \u0438 \u0445\u0430\u043d\u0433\u044b\u043b\u044c.<br \/>  <a name=\"habracut\"><\/a><br \/>  \u0414\u0435\u043c\u043e \u0440\u0435\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043e \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e <a href=\"https:\/\/bellard.org\/nncp\">\u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a\u0438 LibNC<\/a> (\u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u043f\u0440\u043e\u0435\u043a\u0442 \u0411\u0435\u043b\u043b\u0430\u0440\u0430) \u0438 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0430 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u043c \u041f\u041a. \u041c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0447\u0430\u0442\u044c \u0443\u0442\u0438\u043b\u0438\u0442\u0443 \u043a\u043e\u043c\u0430\u043d\u0434\u043d\u043e\u0439 \u0441\u0442\u0440\u043e\u043a\u0438 <a href=\"https:\/\/bellard.org\/nncp\/gpt2tc.html\">gpt2tc<\/a> \u043f\u043e\u0434 Linux.<\/p>\n<p>  \u0423\u0440\u043e\u0432\u043d\u0438 \u0441\u0436\u0430\u0442\u0438\u044f \u0434\u043b\u044f \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u0430\u0440\u0445\u0438\u0432\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0442\u0435\u043a\u0441\u0442\u0430 \u0443\u043a\u0430\u0437\u0430\u043d\u044b \u0432 <a href=\"https:\/\/bellard.org\/nncp\/readme-gpt2tc.txt\">\u0434\u043e\u043a\u0443\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438<\/a>.<\/p>\n<pre>File Model Original size Compr. size Ratio CMIX v18 #params (bytes) (bytes) (bpb) ratio (bpb) book1 117M 768771 152283 1.58 1.82 book1 345M 768771 142183 1.48 book1 774M 768771 137562 1.43 book1 1558M 768771 134217 1.40  alice29.txt 117M 152089 23615 1.24 1.65 alice29.txt 345M 152089 20587 1.08 alice29.txt 774M 152089 19096 1.00 alice29.txt 1558M 152089 17382 0.91  enwik5 117M 100000 14875 1.19 1.60 enwik5 345M 100000 13511 1.08 enwik5 774M 100000 13240 1.06 enwik5 1558M 100000 12918 1.03<\/pre>\n<p>  \u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u0442\u0430\u043a\u0436\u0435 \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0442\u0443 \u0436\u0435 \u044f\u0437\u044b\u043a\u043e\u0432\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0434\u043b\u044f \u0430\u0432\u0442\u043e\u0437\u0430\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 (<a href=\"http:\/\/textsynth.org\/index.html\">\u0434\u0435\u043c\u043e<\/a>).<\/p>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0444\u0440\u0430\u0437\u0443:<\/p>\n<p>  <code>Habr' community is very<\/code><\/p>\n<p>  \u0437\u0430 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u0438\u043d\u0443\u0442 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u044f\u0435\u0442 \u0432 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u0442\u0435\u043a\u0441\u0442 (\u0445\u043e\u0442\u044f \u0441\u043a\u043e\u0440\u0435\u0435 \u0443\u043c\u0435\u0441\u0442\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c \u00ab\u0441\u043e\u0447\u0438\u043d\u044f\u0435\u0442\u00bb, \u0430 \u043d\u0435 \u00ab\u0434\u043e\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u00bb):<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/webt\/jv\/pb\/fg\/jvpbfgvuw6wtn_gkk3p_snuqvvq.png\" data-src=\"https:\/\/habrastorage.org\/webt\/jv\/pb\/fg\/jvpbfgvuw6wtn_gkk3p_snuqvvq.png\"\/><\/p>\n<p>  \u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0437\u0430\u043f\u0443\u0441\u043a\u0435 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0432\u044b\u0434\u0430\u0451\u0442 \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u043d\u043e \u0440\u0430\u0437\u043d\u044b\u0435 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w780q1\/webt\/2q\/2j\/jp\/2q2jjptyc62pyjv7ng2szboawtw.jpeg\" align=\"left\" data-src=\"https:\/\/habrastorage.org\/webt\/2q\/2j\/jp\/2q2jjptyc62pyjv7ng2szboawtw.jpeg\" data-blurred=\"true\"\/><\/p>\n<h1>\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440<\/h1>\n<p>  \u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u0438\u0437\u0432\u0435\u0441\u0442\u0435\u043d \u043a\u0430\u043a \u0430\u0432\u0442\u043e\u0440 \u0440\u044f\u0434\u0430 \u0441\u0435\u0440\u044c\u0451\u0437\u043d\u044b\u0445 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432, \u0441\u0440\u0435\u0434\u0438 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 FFmpeg, QEMU, \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043a TinyCC \u0438 <a href=\"https:\/\/bellard.org\/\">\u0434\u0440\u0443\u0433\u0438\u0435<\/a>.<\/p>\n<p>  <a href=\"https:\/\/bellard.org\/\">\u0421\u043f\u0438\u0441\u043e\u043a \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432 \u0424\u0430\u0431\u0440\u0438\u0441\u0430 \u0411\u0435\u043b\u043b\u0430\u0440\u0430<\/a> (\u0437\u0434\u0435\u0441\u044c \u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0435\u043d\u0430 \u0442\u043e\u043b\u044c\u043a\u043e \u043c\u0430\u043b\u0430\u044f \u0447\u0430\u0441\u0442\u044c):<br \/>  1989: <a href=\"http:\/\/bellard.org\/lzexe.html\">LZEXE<\/a><br \/>  1996: <a href=\"http:\/\/web.archive.org\/web\/19990117093837\/http:\/www.irisa.fr\/compose\/harissa\/harissa.html\">Harissa<\/a><br \/>  1997: \u041f\u0443\u0431\u043b\u0438\u043a\u0430\u0446\u0438\u044f <a href=\"http:\/\/en.wikipedia.org\/wiki\/Bellard%27s_formula\">\u0444\u043e\u0440\u043c\u0443\u043b\u044b \u0411\u0435\u043b\u043b\u0430\u0440\u0430<\/a> \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0440\u0430\u0437\u0440\u044f\u0434\u043e\u0432 \u0447\u0438\u0441\u043b\u0430 \u041f\u0438<br \/>  1999: <a href=\"http:\/\/bellard.org\/linmodem.html\">Linmodem<\/a><br \/>  2000: <a href=\"http:\/\/bellard.org\/mersenne.html\">\u0412\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u0441\u0430\u043c\u043e\u0433\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0433\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u043e\u0433\u043e \u0447\u0438\u0441\u043b\u0430<\/a> (\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043a\u043e\u0434 \u0432\u0441\u0435\u0433\u043e 438 \u0431\u0430\u0439\u0442)<br \/>  2000: <a href=\"http:\/\/ffmpeg.org\/\">FFmpeg<\/a><br \/>  2001: <a href=\"http:\/\/bellard.org\/tcc\/\">\u041a\u043e\u043c\u043f\u0438\u043b\u044f\u0442\u043e\u0440 TCC<\/a> (Tiny C Compiler \u0438\u043b\u0438 TinyCC)<br \/>  2002: <a href=\"http:\/\/bellard.org\/TinyGL\/\">TinyGL<\/a><br \/>  2002: <a href=\"http:\/\/bellard.org\/qemacs\/\">QEmacs<\/a><br \/>  2003: <a href=\"http:\/\/wiki.qemu.org\/Main_Page\">QEMU<\/a><br \/>  2004: <a href=\"http:\/\/bellard.org\/tcc\/tccboot.html\">\u0417\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043a TinyCC<\/a><br \/>  2005: <a href=\"http:\/\/bellard.org\/dvbt\/\">\u041f\u0435\u0440\u0435\u0434\u0430\u0442\u0447\u0438\u043a \u0441\u0438\u0433\u043d\u0430\u043b\u0430 \u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0435 DVB-T \u0441 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0430 \u043d\u0430 \u0442\u0435\u043b\u0435\u0432\u0438\u0437\u043e\u0440<\/a><br \/>  2009: <a href=\"http:\/\/bellard.org\/pi\/pi2700e9\/\">\u041c\u0438\u0440\u043e\u0432\u043e\u0439 \u0440\u0435\u043a\u043e\u0440\u0434 \u043f\u043e \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044e \u0447\u0438\u0441\u043b\u0430 \u041f\u0438<\/a><br \/>  2011: <a href=\"https:\/\/habr.com\/ru\/post\/119424\/\">\u042d\u043c\u0443\u043b\u044f\u0442\u043e\u0440 \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u0430 \u0441 Linux \u043d\u0430 JavaScript<\/a><br \/>  2014: \u0444\u043e\u0440\u043c\u0430\u0442 \u0441\u0436\u0430\u0442\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 <a href=\"https:\/\/bellard.org\/bpg\/\">Better Portable Graphics (BPG)<\/a>, \u043e\u0441\u043d\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043d\u0430 \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u0438\u0437 \u0432\u0438\u0434\u0435\u043e\u043a\u043e\u0434\u0435\u043a\u0430 <a href=\"http:\/\/en.wikipedia.org\/wiki\/High_Efficiency_Video_Coding\">HEVC<\/a><br \/>  2020: <a href=\"http:\/\/textsynth.org\/sms.html\">\u0441\u0436\u0430\u0442\u0438\u0435 \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e GPT-2<\/a><\/p>\n<p>  \u041a\u0430\u0436\u0434\u044b\u0439 \u0438\u0437 \u044d\u0442\u0438\u0445 \u043f\u0440\u043e\u0435\u043a\u0442\u043e\u0432 \u043c\u043e\u0433 \u0431\u044b \u0441\u0442\u0430\u0442\u044c \u0432\u0435\u043d\u0446\u043e\u043c \u043a\u0430\u0440\u044c\u0435\u0440\u044b \u0434\u043b\u044f \u043b\u044e\u0431\u043e\u0433\u043e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a\u0430, \u043d\u043e \u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u0442 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c. \u041a\u0430\u0436\u0434\u044b\u0435 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0442 \u043e\u043d \u043e\u0441\u0432\u0430\u0438\u0432\u0430\u0435\u0442 \u043d\u043e\u0432\u044b\u0435 \u043e\u0431\u043b\u0430\u0441\u0442\u0438: \u0441\u0436\u0430\u0442\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0438\u0441\u043b\u0435\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043e\u0434\u044b, \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u0441\u0438\u0433\u043d\u0430\u043b\u043e\u0432, \u043c\u0435\u0434\u0438\u0430\u0444\u043e\u0440\u043c\u0430\u0442\u044b, \u0441\u0435\u0439\u0447\u0430\u0441 \u0432\u043e\u0442 \u0443\u0432\u043b\u0451\u043a\u0441\u044f \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044f\u043c\u0438. \u041d\u043e \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442 \u0442\u043e\u0442 \u0436\u0435 \u0441\u0430\u043c\u044b\u0439 \u0447\u0438\u0441\u0442\u044b\u0439 C, \u0443\u043c\u0435\u0441\u0442\u043d\u044b\u0435 \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0446\u0438\u0438 \u0438 \u043f\u0440\u0438\u0432\u0435\u0440\u0436\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u043c \u043b\u0438\u0446\u0435\u043d\u0437\u0438\u044f\u043c, <a href=\"https:\/\/habr.com\/ru\/post\/119455\/\">\u0441\u0447\u0438\u0442\u0430\u044e\u0442 \u043a\u043e\u043b\u043b\u0435\u0433\u0438<\/a>. <\/p>\n<p>  \u0411\u0435\u043b\u043b\u0430\u0440 \u043d\u0435 \u0441\u043a\u043b\u043e\u043d\u0435\u043d \u043a \u0441\u0430\u043c\u043e\u0440\u0435\u043a\u043b\u0430\u043c\u0435 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432\u0435\u0436\u043b\u0438\u0432\u043e \u043e\u0442\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0438\u043d\u0442\u0435\u0440\u0432\u044c\u044e), \u043d\u043e \u0430\u0440\u043c\u0438\u044f \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0441\u0442\u043e\u0432 \u0438 \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0448\u0438\u0440\u043e\u043a\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u043d\u043d\u044b\u0435 \u0438\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u044b. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u0440\u0435\u0434\u0438 654 \u0443\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u043e \u043a\u043e\u043f\u0438\u0440\u0430\u0439\u0442\u0435 \u0432 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u043c \u043a\u043e\u0434\u0435 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u0440\u0430\u043d\u043d\u0438\u0445 \u0432\u0435\u0440\u0441\u0438\u0439 QEMU 0.13.0 \u0442\u043e\u043b\u044c\u043a\u043e 216 \u043f\u0440\u0438\u043d\u0430\u0434\u043b\u0435\u0436\u0430\u0442 \u0435\u043c\u0443. \u0414\u0440\u0443\u0433\u0438\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438, \u043e\u043d \u043d\u0430\u0441\u0442\u043e\u043b\u044c\u043a\u043e \u0443\u0434\u0430\u0447\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u0442\u0438\u043b \u043f\u0440\u043e\u0435\u043a\u0442, \u0447\u0442\u043e \u0443\u0436\u0435 \u0432\u0441\u043a\u043e\u0440\u0435 \u043f\u043e\u0441\u043b\u0435 \u0437\u0430\u043f\u0443\u0441\u043a\u0430 \u0434\u0440\u0443\u0433\u0438\u0435 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0441\u0442\u044b \u0432\u043b\u043e\u0436\u0438\u043b\u0438 \u0432 \u043d\u0435\u0433\u043e \u0432\u0434\u0432\u043e\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0441\u0442\u0438, \u0447\u0435\u043c \u0441\u0430\u043c \u0430\u0432\u0442\u043e\u0440!<\/p>\n<p>  \u042d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u0411\u0435\u043b\u043b\u0430\u0440 \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u043d\u0435\u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e \u0443\u0441\u043f\u0435\u0448\u043d\u043e \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c \u043f\u0440\u043e\u0435\u043a\u0442\u044b. \u0427\u0442\u043e \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u043d\u043e, \u043e\u043d \u0434\u0435\u043b\u0430\u0435\u0442 \u044d\u0442\u043e \u0432 \u043e\u0434\u0438\u043d\u043e\u0447\u043a\u0443, \u043e\u0431\u0449\u0430\u044f\u0441\u044c \u0441 \u043c\u0438\u0440\u043e\u043c \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0447\u0435\u0440\u0435\u0437 \u0438\u043d\u0442\u0435\u0440\u043d\u0435\u0442.<\/p><\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/510258\/\"> https:\/\/habr.com\/ru\/articles\/510258\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/vk.com\/rtrg?p=VK-RTRG-476767-9fNIw\" style=\"display:none;\" width=\"1\"><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/www.facebook.com\/tr?id=256004148111649&amp;ev=PageView&amp;noscript=1\" style=\"display:none;\" width=\"1\"><img loading=\"lazy\" decoding=\"async\" height=\"1\" src=\"https:\/\/habr.com\/ru\/company\/itsumma\/news\/t\/510258\/?utm_source=habr.com&amp;utm_medium=cpc&amp;utm_campaign=news09072020\" style=\"display:none;\" width=\"1\"><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-1\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\u0417\u043d\u0430\u043c\u0435\u043d\u0438\u0442\u044b\u0439 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0438\u0441\u0442 <a href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%91%D0%B5%D0%BB%D0%BB%D0%B0%D1%80,_%D0%A4%D0%B0%D0%B1%D1%80%D0%B8%D1%81\">\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440<\/a> \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u043b \u0441\u0432\u043e\u044e \u043d\u043e\u0432\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0443: <a href=\"http:\/\/textsynth.org\/sms.html\">\u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u0430 \u0434\u043b\u044f \u0441\u0436\u0430\u0442\u0438\u044f \u0431\u0435\u0437 \u043f\u043e\u0442\u0435\u0440\u044c \u0430\u043d\u0433\u043b\u043e\u044f\u0437\u044b\u0447\u043d\u044b\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439 \u043f\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 GPT-2<\/a>.<\/p>\n<p>  \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0435<\/p>\n<p>  <code>This lossless compressor achieves a much higher compression rate on English texts than general purpose compressors<\/code> (116 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432)<\/p>\n<p>  \u0441\u0436\u0438\u043c\u0430\u0435\u0442\u0441\u044f \u0432\u0441\u0435\u0433\u043e \u0432 10 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432:<\/p>\n<p>  <code>\u731f\u6174\u416d\u94d5\u88a2\u73cf\u5bfb\u4877\u405e\uaf71<\/code><\/p>\n<p>  \u0421\u0440\u0435\u0434\u043d\u0438\u0439 \u0443\u0440\u043e\u0432\u0435\u043d\u044c \u043a\u043e\u043c\u043f\u0440\u0435\u0441\u0441\u0438\u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 15\u200a%.<\/p>\n<p>  \u0421\u0436\u0430\u0442\u0438\u0435 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0441 \u0443\u0447\u0451\u0442\u043e\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0433\u043e \u0441\u043b\u043e\u0432\u0430 \u043f\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438 GPT-2, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u044f OpenAI (\u043d\u0430 \u0425\u0430\u0431\u0440\u0435 \u0431\u044b\u043b <a href=\"https:\/\/habr.com\/ru\/post\/440564\/\">\u043e\u0431\u0437\u043e\u0440 GPT-2<\/a> \u0438 <a href=\"https:\/\/habr.com\/ru\/news\/t\/475344\/\">\u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u0442\u0435\u043a\u0441\u0442\u0430<\/a>). \u042d\u0442\u043e \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c \u0441 345 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 Transformer (\u0424\u0430\u0431\u0440\u0438\u0441 \u0411\u0435\u043b\u043b\u0430\u0440 \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0441\u0430\u043c\u0430\u044f \u0431\u043e\u043b\u044c\u0448\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c GPT-2 \u0441 1,5 \u043c\u043b\u0440\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0434\u0430\u0451\u0442 \u0432\u0435\u0441\u044c\u043c\u0430 \u0443\u0441\u043b\u043e\u0432\u043d\u043e\u0435 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u0441\u0436\u0430\u0442\u0438\u044f). \u0414\u0430\u043b\u0435\u0435 \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043a\u043e\u0434\u0435\u0440 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0431\u0438\u0442\u043e\u0432\u044b\u0439 \u043f\u043e\u0442\u043e\u043a. \u0412 <a href=\"http:\/\/textsynth.org\/sms.html\">\u044d\u0442\u043e\u0439 \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0430\u0446\u0438\u0438<\/a> \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u0436\u0430\u0442\u044b\u0439 \u0441\u0438\u043c\u0432\u043e\u043b \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 15 \u0431\u0438\u0442 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d \u0432 \u044e\u043d\u0438\u043a\u043e\u0434\u043e\u0432\u0441\u043a\u0438\u0445 \u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u0430\u0445 \u0434\u0432\u0443\u0445 \u043d\u0430\u0431\u043e\u0440\u043e\u0432 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432: CJK (\u043a\u0438\u0442\u0430\u0439\u0441\u043a\u0438\u0439-\u044f\u043f\u043e\u043d\u0441\u043a\u0438\u0439-\u043a\u043e\u0440\u0435\u0439\u0441\u043a\u0438\u0439) \u0438 \u0445\u0430\u043d\u0433\u044b\u043b\u044c.  <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-401186","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/401186","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=401186"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/401186\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=401186"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=401186"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=401186"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}