{"id":300455,"date":"2020-03-20T15:00:18","date_gmt":"2020-03-20T15:00:18","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=300455"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=300455","title":{"rendered":"\u0420\u0443\u0431\u0440\u0438\u043a\u0430 \u00ab\u0427\u0438\u0442\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u044c\u0438 \u0437\u0430 \u0432\u0430\u0441\u00bb. \u042f\u043d\u0432\u0430\u0440\u044c \u2014 \u0424\u0435\u0432\u0440\u0430\u043b\u044c 2020"},"content":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/493016\/\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/gx\/-y\/xl\/gx-yxlo7xiz-5y8krpyoj3rgswq.png\">  <\/p>\n<p>  \u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u0446\u0435\u043d\u0437\u0438\u0438 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0442 \u0447\u043b\u0435\u043d\u043e\u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 Open Data Science \u0438\u0437 \u043a\u0430\u043d\u0430\u043b\u0430 #article_essense. \u0425\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0438\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0435\u0445 \u2014 \u0432\u0441\u0442\u0443\u043f\u0430\u0439\u0442\u0435 \u0432 <a href=\"http:\/\/ods.ai\/\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e<\/a>!<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0431\u0437\u043e\u0440\u044b 11 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e Computer Vision, Natural Language Processing, Reinforcement learning \u0438 \u0434\u0440\u0443\u0433\u0438\u043c \u0442\u0435\u043c\u0430\u043c.<\/p>\n<p><a name=\"habracut\"><\/a>  <\/p>\n<p>\u0421\u0442\u0430\u0442\u044c\u0438 \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f:<\/p>\n<p>  <\/p>\n<ol>\n<li><a href=\"#1-side-tuning-network-adaptation-via-additive-side-networks\">Side-Tuning: Network Adaptation via Additive Side Networks (University of California, Stanford University, 2019)<\/a><\/li>\n<li><a href=\"#2-stacked-debert-all-attention-in-incomplete-data-for-text-classification\">Stacked DeBERT: All Attention in Incomplete Data for Text Classification (Kyungpook National University, South Korea, 2020)<\/a><\/li>\n<li><a href=\"#1-zero-shot-video-object-segmentation-via-attentive-graph-neural-networks\">Zero-Shot Video Object Segmentation via Attentive Graph Neural Networks (UAE, USA, 2020)<\/a><\/li>\n<li><a href=\"#4-saunet-shape-attentive-u-net-for-interpretable-medical-image-segmentation\">SAUNet: Shape Attentive U-Net for Interpretable Medical Image Segmentation (Toronto and Waterloo, Canada, 2020)<\/a><\/li>\n<li><a href=\"#5-faceshifter-towards-high-fidelity-and-occlusion-aware-face-swapping\">FaceShifter: Towards High Fidelity And Occlusion Aware Face Swapping (Peking University, Microsoft Research, 2019)<\/a><\/li>\n<li><a href=\"#6-towards-a-human-like-open-domain-chatbot\">Towards a Human-like Open-Domain Chatbot (Google Brain, 2020)<\/a><\/li>\n<li><a href=\"#7-positive-algorithmic-bias-cannot-stop-fragmentation-in-homophilic-social-networks\">Positive Algorithmic Bias Cannot Stop Fragmentation in Homophilic Social Networks (Oxford, London, UK, 2020)<\/a><\/li>\n<li><a href=\"#8-bert-of-theseus-compressing-bert-by-progressive-module-replacing\">BERT-of-Theseus: Compressing BERT by Progressive Module Replacing (Wuhan and Beihang Universities, Microsoft Research Asia, 2020)<\/a><\/li>\n<li><a href=\"#9-a-simple-framework-for-contrastive-learning-of-visual-representations\">A Simple Framework for Contrastive Learning of Visual Representations (Google Research, 2020)<\/a><\/li>\n<li><a href=\"#10-badgr-an-autonomous-self-supervised-learning-based-navigation-system\">BADGR: An Autonomous Self-Supervised Learning-Based Navigation System (Berkeley AI Research, USA, 2020)<\/a><\/li>\n<li><a href=\"#11-training-large-neural-networks-with-constant-memory-using-a-new-execution-algorithm\">Training Large Neural Networks with Constant Memory using a New Execution Algorithm (Microsoft, 2020)<\/a><\/li>\n<\/ol>\n<p>  <\/p>\n<div class=\"spoiler\"><b class=\"spoiler_title\">\u0421\u0441\u044b\u043b\u043a\u0438 \u043d\u0430 \u043f\u0440\u043e\u0448\u043b\u044b\u0435 \u0441\u0431\u043e\u0440\u043d\u0438\u043a\u0438 \u0441\u0435\u0440\u0438\u0438:<\/b><\/p>\n<div class=\"spoiler_text\">\n<ul>\n<li><a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/485122\/\">\u041e\u043a\u0442\u044f\u0431\u0440\u044c \u2014 \u0414\u0435\u043a\u0430\u0431\u0440\u044c 2019<\/a><\/li>\n<li><a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/472672\/\">\u0418\u044e\u043b\u044c \u2014 \u0421\u0435\u043d\u0442\u044f\u0431\u0440\u044c 2019<\/a><\/li>\n<li><a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/471514\/\">\u042f\u043d\u0432\u0430\u0440\u044c \u2014 \u0418\u044e\u043d\u044c 2019<\/a><\/li>\n<li><a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/352518\/\">\u0424\u0435\u0432\u0440\u0430\u043b\u044c \u2014 \u041c\u0430\u0440\u0442 2018<\/a><\/li>\n<li><a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/352508\/\">\u0414\u0435\u043a\u0430\u0431\u0440\u044c 2017 \u2014 \u042f\u043d\u0432\u0430\u0440\u044c 2018<\/a><\/li>\n<li><a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/343822\/\">\u041e\u043a\u0442\u044f\u0431\u0440\u044c \u2014 \u041d\u043e\u044f\u0431\u0440\u044c 2017<\/a><\/li>\n<li><a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/339094\/\">\u0421\u0435\u043d\u0442\u044f\u0431\u0440\u044c 2017<\/a><\/li>\n<li><a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/336624\/\">\u0410\u0432\u0433\u0443\u0441\u0442 2017<\/a><\/li>\n<\/ul>\n<\/div>\n<\/div>\n<p>  <\/p>\n<h3 id=\"1-side-tuning-network-adaptation-via-additive-side-networks\">1. Side-Tuning: Network Adaptation via Additive Side Networks<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Jeffrey O Zhang, Alexander Sax, Amir Zamir, Leonidas Guibas, Jitendra Malik (University of California, Stanford University, 2019)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1912.13503\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/jozhang97\/side-tuning\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor)<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ik\/ug\/4t\/ikug4t2b0puvs0ovx2joxtp9bbu.png\">  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0437\u0430\u0434\u0443\u043c\u0430\u043b\u0438\u0441\u044c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0431\u044b \u0443\u043b\u0443\u0447\u0448\u0438\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 pretrained \u043d\u0435\u0439\u0440\u043e\u043d\u043e\u043a \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u043e\u0432\u0435\u0440\u0444\u0438\u0442\u0442\u0438\u043d\u0433 (\u0431\u044b\u0432\u0430\u0435\u0442, \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u0430\u043b\u043e), \u0443\u043c\u0435\u043d\u044c\u0448\u0438\u0442\u044c \u0437\u0430\u0431\u044b\u0432\u0430\u043d\u0438\u0435, \u0443\u043b\u0443\u0447\u0448\u0438\u0442\u044c \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e. \u0418 \u043f\u0440\u0438\u0434\u0443\u043c\u0430\u043b\u0438. A \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0431\u0440\u0430\u0442\u044c pretrained \u0441\u0435\u0442\u043a\u0443, \u043d\u0435 \u0442\u0440\u043e\u0433\u0430\u0442\u044c \u0435\u0451 \u0441\u0430\u043c\u0443 \u043f\u043e \u0441\u0435\u0431\u0435, \u043d\u043e \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0442\u044c \u0435\u0449\u0451 \u043e\u0434\u043d\u0443 \u0442\u0430\u043a\u0443\u044e \u0436\u0435 \u0441\u0435\u0442\u043a\u0443 \u0438 \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0442\u044c \u0435\u0451, \u0438 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0442\u044c \u0438\u0445. \u0423\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0430\u0445, \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u0445, RL \u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u0448\u0442\u0443\u043a\u0430\u0445. \u041a\u0430\u0437\u0430\u043b\u043e\u0441\u044c \u0431\u044b, \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043d\u043e \u043f\u043e \u0444\u0430\u043a\u0442\u0443 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435.<\/p>\n<p>  <\/p>\n<p>\u0421\u0443\u0442\u044c, \u0435\u0449\u0451 \u0440\u0430\u0437 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0411\u0435\u0440\u0435\u043c \u043f\u0440\u0435\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u043a\u0443. \u041c\u044b \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0432\u0441\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b, \u0442\u0430\u043a \u0447\u0442\u043e \u043e\u043d\u0430 \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u0430\u0451\u0442 \u043e\u0434\u043d\u0438 \u0438 \u0442\u0435 \u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f. \u041f\u043e \u0444\u0430\u043a\u0442\u0443 feature extractor.<\/li>\n<li>\u0414\u0430\u043b\u0435\u0435 \u0441\u043e\u0437\u0434\u0430\u0451\u043c side-tuning \u0441\u0435\u0442\u043a\u0443 \u0438 \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u043c \u0435\u0451. \u042d\u0442\u043e \u043b\u0438\u0431\u043e \u043a\u043e\u043f\u0438\u044f \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0435\u0442\u043a\u0438, \u043b\u0438\u0431\u043e \u0434\u0438\u0441\u0442\u0438\u043b\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f. \u0425\u043e\u0442\u044f \u043f\u043e \u0444\u0430\u043a\u0442\u0443 \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043b\u044e\u0431\u0443\u044e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443.<\/li>\n<li>\u0414\u043b\u044f \u0440\u0430\u0441\u0447\u0451\u0442\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0439 \u0438 \u043b\u043e\u0441\u0441\u0430 \u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u0443\u0435\u043c output \u043e\u0431\u043e\u0438\u0445 \u0441\u0435\u0442\u043e\u043a. \u0414\u0435\u0444\u043e\u043b\u0442\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u2014 \u0431\u043b\u0435\u043d\u0434\u0438\u043d\u0433 \u0441 \u0432\u0435\u0441\u0430\u043c\u0438, \u043d\u043e \u0435\u0441\u0442\u044c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0438 \u043f\u043e\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041e\u0434\u0438\u043d \u0438\u0437 \u043f\u043b\u044e\u0441\u043e\u0432: \u043c\u044b \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u044b \u043c\u0435\u043d\u044f\u0442\u044c \u0440\u0430\u0437\u043c\u0435\u0440 \u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0432\u0442\u043e\u0440\u043e\u0439 \u0441\u0435\u0442\u043a\u0438. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0435\u0441\u043b\u0438 \u0443 \u043d\u0430\u0441 \u043c\u0430\u043b\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 &quot;\u043f\u0440\u043e\u0441\u0442\u043e\u0439&quot; \u0442\u0430\u0440\u0433\u0435\u0442, \u0442\u043e \u043c\u043e\u0436\u0435\u043c \u0434\u0435\u043b\u0430\u0442\u044c \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0443\u044e \u0441\u0435\u0442\u043a\u0443. \u0415\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043c\u043d\u043e\u0433\u043e \u0438\u043b\u0438 \u0442\u0430\u0440\u0433\u0435\u0442 &quot;\u0441\u043b\u043e\u0436\u043d\u044b\u0439&quot;, \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0442\u044f\u0436\u0435\u043b\u0443\u044e \u0441\u0435\u0442\u043a\u0443. \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0441\u0435\u0442\u043a\u0430 \u043d\u0435 \u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f, \u043c\u043e\u0436\u043d\u043e \u0441\u043a\u0430\u0437\u0430\u0442\u044c, \u0447\u0442\u043e \u0432\u0442\u043e\u0440\u0430\u044f \u0443\u0447\u0438\u0442 residuals \u043e\u0442 \u043f\u0435\u0440\u0432\u043e\u0439. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0442\u0430\u043a\u043e\u0439 \u043c\u0438\u043d\u0438 boosting.<\/p>\n<p>  <\/p>\n<p>\u041b\u043e\u0441\u0441-\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f: L(x,y) = || D(alpha B(x) + (1 \u2014 alpha) S(x)) \u2014 y||. \u041a\u0430\u043a \u0443\u0436\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u043e\u0441\u044c, \u0441\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u044f \u2014 \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u044b\u0439 \u0431\u043b\u0435\u043d\u0434\u0438\u043d\u0433. \u0421\u0442\u043e\u0438\u0442 \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u043f\u0440\u0438 alpha=1 \u0443 \u043d\u0430\u0441 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u043e feature extraction, \u043f\u0440\u0438 aplha=W0 \u2014 \u043f\u0440\u043e\u0441\u0442\u043e fine-tuning. \u0410 \u0435\u0441\u043b\u0438 \u043c\u0435\u043d\u044f\u0442\u044c aplha \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438, \u0430 \u043f\u043e\u0442\u043e\u043c \u0434\u0435\u043b\u0430\u0435\u043c \u0440\u0430\u0432\u043d\u044b\u043c 0, \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0447\u0442\u043e-\u0442\u043e \u043f\u043e\u0445\u043e\u0436\u0435\u0435 \u043d\u0430 stage-wise \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0443 \u0432 RL. \u0415\u0449\u0451 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u2014 hyperbolical decay. \u0412 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u044b \u0442\u0438\u043f\u0430 \u0432\u0437\u0432\u0435\u0448\u0438\u0432\u0430\u0435\u043c \u043f\u0440\u0438\u043e\u0440 \u0438 \u0443\u0447\u0438\u043c \u043d\u0430\u0448\u0443 \u043e\u0446\u0435\u043d\u043a\u0443. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u043e\u0441\u0442\u0435\u0440\u0438\u043e\u0440\u043d\u043e\u0439 \u043e\u0446\u0435\u043d\u043a\u0438.<\/p>\n<p>  <\/p>\n<p>\u041d\u0443 \u0430 \u0434\u0430\u043b\u044c\u0448\u0435 \u043c\u043e\u0436\u043d\u043e \u0443\u043f\u043e\u0440\u043e\u0442\u044c\u0441\u044f \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u0438\u0442\u044c\u0441\u044f \u0438 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0448\u0430\u0433 \u0434\u0430\u043b\u044c\u0448\u0435:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0414\u0435\u043b\u0430\u0435\u043c side-tuning \u043d\u0430 \u043a\u0430\u043a\u0443\u044e-\u0442\u043e \u0437\u0430\u0434\u0430\u0447\u0443.<\/li>\n<li>\u0414\u0430\u043b\u0435\u0435 \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0432\u0435\u0441\u0430 \u043d\u0430\u0448\u0435\u0439 \u0432\u0442\u043e\u0440\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u2026 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043d\u043e\u0432\u0443\u044e side network. \u0423\u0447\u0438\u043c \u043d\u0430 \u0434\u0440\u0443\u0433\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443.<\/li>\n<li>\u041f\u043e\u0432\u0442\u043e\u0440\u044f\u0435\u043c \u0434\u043b\u044f N \u0437\u0430\u0434\u0430\u0447.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0442\u043e\u043c\u0443, \u0447\u0442\u043e \u043c\u044b \u0444\u0438\u043a\u0441\u0438\u0440\u0443\u0435\u043c \u0432\u0435\u0441\u0430 \u043f\u043e\u0441\u043b\u0435 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0435 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0435 \u0437\u0430\u0431\u044b\u0432\u0430\u0435\u0442 \u044d\u0442\u043e.<\/p>\n<p>  <\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u043d\u0438 \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u044e\u0442 side-tuning \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u043c\u0438 \u043d\u0430 \u0440\u0430\u0437\u043d\u044b\u0445 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0431\u0435\u0440\u0443\u0442 Taskonomy \u0438 iCIFAR (\u0434\u0435\u043b\u044f\u0442 CIFAR \u043d\u0430 10 \u0433\u0440\u0443\u043f\u043f \u043f\u043e 10 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u0438 \u0443\u0447\u0430\u0442 \u043f\u043e \u043e\u0447\u0435\u0440\u0435\u0434\u0438 \u043d\u0430 \u0433\u0440\u0443\u043f\u043f\u0430\u0445). Sidetune (A) \u2014 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u0434\u0432\u0443\u0445 \u0441\u0435\u0442\u043e\u043a \u043d\u0435 \u0432\u0435\u0441\u0430\u043c\u0438, \u0430 \u0430\u0434\u0430\u043f\u0442\u0435\u0440\u043e\u043c \u2014 multilayer perceptron. \u0412 \u0438\u0442\u043e\u0433\u0435 side-tuning \u0443\u0441\u0442\u0443\u043f\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e Progressive NN.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/j_\/81\/tb\/j_81tburobpu1ix072oveakhnhc.png\" width=\"700\" height=\"350\">  <\/p>\n<p>\u0414\u0430\u043b\u044c\u0448\u0435 \u043e\u043d\u0438 \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u043f\u043e\u0434\u0445\u043e\u0434 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0438 \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u0438\u0445 \u0434\u043e\u043c\u0435\u043d\u043e\u0432:<\/p>\n<p>  <\/p>\n<ul>\n<li>Transfer Learning \u0434\u043b\u044f Taxonomy \u2014 \u0437\u0430\u0434\u0430\u0447\u0438 object classification, surface normal estimation, and curvature estimation<br \/> \n<ul>\n<li>Question-Answering in SQuAD v2 \u2014 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c BERT.<\/li>\n<li>Imitation Learning for Navigation in Habitat.<\/li>\n<li>Reinforcement Learning for Navigation in Habitat<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 alpha \u043d\u0430\u0434\u043e \u0442\u044e\u043d\u0438\u0442\u044c \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435, \u043d\u0435\u0442 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043b\u0443\u0447\u0448\u0435\u0433\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f;<\/li>\n<li>\u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0430 \u0441 \u0438\u043d\u043a\u0440\u0435\u043c\u0435\u043d\u0442\u0430\u043b\u044c\u043d\u044b\u043c \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043e\u0431\u044a\u0451\u043c\u0430 \u0434\u0430\u043d\u043d\u044b\u0445;<\/li>\n<li>\u0432\u0442\u043e\u0440\u0430\u044f \u0441\u0435\u0442\u043a\u0430 \u043c\u043e\u0436\u0435\u0442 \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u043e\u043d\u0430 \u043d\u0435 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u0430\u044f;<\/li>\n<li>\u0434\u0435\u043b\u0430\u0442\u044c \u0431\u0443\u0441\u0442\u0438\u043d\u0433 \u2014 \u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437 \u0434\u0435\u043b\u0430\u0442\u044c side-tuning \u043d\u0430 \u043e\u0434\u043d\u0443 \u0438 \u0442\u0443 \u0436\u0435 \u0437\u0430\u0434\u0430\u0447\u0443 \u043d\u0435 \u043e\u0441\u043e\u0431\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e. \u041b\u0443\u0447\u0448\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0432\u0442\u043e\u0440\u0443\u044e \u0441\u0435\u0442\u043a\u0443 \u043f\u043e\u0442\u044f\u0436\u0435\u043b\u0435\u0435;<\/li>\n<li>\u0432\u0440\u043e\u0434\u0435 \u043b\u0443\u0447\u0448\u0435 \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e fine-tuning \u0434\u043b\u044f RL;<\/li>\n<li>\u0432\u0435\u0441\u0430 \u0432\u0442\u043e\u0440\u043e\u0439 \u0441\u0435\u0442\u043a\u0438 \u043b\u0443\u0447\u0448\u0435 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435 \u0441 \u043d\u0443\u043b\u044f, \u0430 \u0431\u0440\u0430\u0442\u044c \u0438\u0437 \u043f\u0440\u0435\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439.<\/li>\n<\/ul>\n<p>  <\/p>\n<h3 id=\"2-stacked-debert-all-attention-in-incomplete-data-for-text-classification\">2. Stacked DeBERT: All Attention in Incomplete Data for Text Classification<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Gwenaelle Cunha Sergio, Minho Lee (Kyungpook National University, South Korea, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2001.00137\"> \u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/gcunhase\/StackedDeBERT\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor)<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0437\u0430\u0434\u0443\u043c\u0430\u043b\u0438\u0441\u044c \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0432 \u0442\u0435\u043a\u0441\u0442\u0430\u0445 \u043d\u0435\u0440\u0435\u0434\u043a\u043e \u0441\u043b\u043e\u0432\u0430 \u043f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u044b \u0438\u043b\u0438 \u043d\u0430\u043f\u0438\u0441\u0430\u043d\u044b \u0441 \u043e\u043f\u0435\u0447\u0430\u0442\u043a\u0430\u043c\u0438, \u0447\u0442\u043e \u0441\u043e\u0437\u0434\u0430\u0451\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u043d\u0430 \u0441\u0442\u0430\u0434\u0438\u0438 \u0441\u043e\u0437\u0434\u0430\u043d\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432, \u2014 \u0445\u043e\u0440\u043e\u0448\u043e \u0431\u044b \u0447\u0442\u043e-\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0441 \u044d\u0442\u0438\u043c.<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0438\u0434\u0443\u043c\u0430\u043b\u0438: \u0430 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0432\u043e\u0437\u044c\u043c\u0451\u043c input, \u043d\u0430 \u043d\u0435\u0433\u043e \u043d\u0430\u043b\u043e\u0436\u0438\u043c embedding \u0441\u043b\u043e\u0439, \u0430 \u0437\u0430\u0442\u0435\u043c \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440, \u043f\u043e\u0442\u043e\u043c \u0437\u0430\u043f\u0438\u0445\u043d\u0435\u043c \u0432 denoising transformers, \u0447\u0442\u043e\u0431\u044b \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 multilayer perceptron \u043c\u043e\u0436\u0435\u0442 \u0440\u0435\u043a\u043e\u043d\u0441\u0442\u0440\u0443\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0445 \u0441\u043b\u043e\u0432 \u0438 \u0441\u043e\u0437\u0434\u0430\u0432\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0430\u0431\u0441\u0442\u0440\u0430\u043a\u0442\u043d\u044b\u0435 \u0438 \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438, \u0430 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u044b \u0443\u043b\u0443\u0447\u0448\u0430\u044e\u0442 \u044d\u0442\u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438.<\/p>\n<p>  <\/p>\n<p>\u0418\u0434\u0435\u044e \u043f\u0440\u043e\u0432\u0435\u0440\u044f\u043b\u0438 \u043d\u0430 the Chatbot Natural Language Understanding Evaluation Corpus \u0438 Kaggle&#8217;s Twitter Sentiment Corpus. \u041f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 F1 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u0438 \u043d\u0430 \u0442\u0432\u0438\u0442\u0430\u0445 \u0438 \u0432 \u0437\u0430\u0434\u0430\u0447\u0435 Speech2Text \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0441\u0435\u043d\u0442\u0438\u043c\u0435\u043d\u0442\u043e\u0432 \u0438 \u0438\u043d\u0442\u0435\u043d\u0442\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>\u0412 \u0438\u0442\u043e\u0433\u0435 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f 2 \u043d\u043e\u0432\u044b\u0445 \u0438\u0434\u0435\u0438:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u042d\u0442\u0430 \u0441\u0430\u043c\u0430\u044f \u043d\u043e\u0432\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430<\/li>\n<li>\u041f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u043d\u0430 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0443 &quot;incomplete intent and sentiment classification from incorrect sentences&quot; \u0438 \u043e\u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u043b\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0434\u043b\u044f \u044d\u0442\u043e\u0433\u043e<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0432\u043e\u0442 \u0442\u0430\u043a:<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hv\/7k\/5-\/hv7k5-c1qlvis2_5cxxpck8cma4.png\">  <\/p>\n<p>\u041d\u0430\u0447\u0430\u043b\u043e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u043a\u0430\u043a \u0432 BERT \u2014 \u0442\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0438 \u043f\u0440\u043e\u0447\u0435\u0435. \u0424\u0430\u0439\u043d-\u0442\u044e\u043d\u0438\u043d\u0433 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043d\u0430 &quot;incomplete text classification corpus&quot;. Denoising transformer \u2014 \u044d\u0442\u043e stacks of multilayer perceptron \u0434\u0440\u0443\u0433 \u043d\u0430 \u0434\u0440\u0443\u0433\u0435 \u0438 bidirectional transformers. \u041d\u0430 \u0432\u0445\u043e\u0434\u0435 \u2014 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043d\u0435\u043f\u043e\u043b\u043d\u044b\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u2014 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043f\u043e\u043b\u043d\u044b\u0445 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u0439. (\u043e \u0441\u0430\u043c\u043e\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 \u0431\u0443\u0434\u0435\u0442 \u0441\u043a\u0430\u0437\u0430\u043d\u043e \u043d\u0438\u0436\u0435). \u042d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0431\u044b\u0447\u043d\u043e\u0433\u043e \u0431\u0435\u0440\u0442\u0430. \u0420\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c (N, 768, 128) \u2014 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0442\u043e\u043a\u0435\u043d\u0430 \u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>  <\/p>\n<p>Stacks of multilayer perceptron:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0414\u0432\u0430 \u0440\u0430\u0437\u0430 \u043f\u043e 3 \u0441\u043b\u043e\u044f.<\/li>\n<li>\u0412\u043d\u0430\u0447\u0430\u043b\u0435 \u043c\u044b \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c: 768 -&gt; 128 -&gt; 32 -&gt; 12.<\/li>\n<li>\u0410 \u0437\u0430\u0442\u0435\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041b\u043e\u0441\u0441 \u0434\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0440\u0435\u043a\u043e\u043d\u0441\u0442\u0440\u0443\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0438 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u2014 MSE.<\/p>\n<p>  <\/p>\n<p>\u041a\u043e\u0433\u0434\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0433\u043e\u0442\u043e\u0432\u044b (\u0432\u0438\u0434\u0438\u043c\u043e \u043f\u043e\u0441\u043b\u0435 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438), \u043e\u043d\u0438 \u043f\u0435\u0440\u0435\u0434\u0430\u044e\u0442\u0441\u044f \u0432 bidirectional transformers \u0438 \u044d\u0442\u043e \u0431\u0443\u0434\u0435\u0442 \u043d\u043e\u0432\u044b\u0439 input. \u0414\u0430\u043b\u044c\u0448\u0435 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f fine-tuning \u043d\u0430 incomplete text classification corpus.<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0443\u0436\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u043e\u0441\u044c \u0440\u0430\u043d\u044c\u0448\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u043e\u0441\u044c <strong>2 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430<\/strong>.<\/p>\n<p>  <\/p>\n<p><em>Twitter Sentiment Classification<\/em><br \/>  \u0412\u0437\u044f\u043b\u0438 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0441 \u043a\u0430\u0433\u0433\u043b\u0430 (1.6 \u043c\u043b\u043d \u0442\u0432\u0438\u0442\u043e\u0432). \u0418\u0437 \u043d\u0435\u0433\u043e \u0432\u0437\u044f\u043b\u0438 200 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0442\u0432\u0438\u0442\u043e\u0432 (\u043f\u043e\u0440\u043e\u0432\u043d\u0443 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0438 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445) \u0441 \u043f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u043c\u0438 \u0441\u043b\u043e\u0432\u0430\u043c\u0438 \u0438\u043b\u0438 \u043e\u043f\u0435\u0447\u0430\u0442\u043a\u0430\u043c\u0438. \u0412\u043d\u0430\u0447\u0430\u043b\u0435 \u043e\u0442\u0434\u0430\u043b\u0438 \u0432 Amazon Turk, \u0447\u0442\u043e\u0431\u044b \u043b\u044e\u0434\u0438 \u043d\u0430\u043f\u0438\u0441\u0430\u043b\u0438 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u044b\u0435 \u0442\u0432\u0438\u0442\u044b. \u0412\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u044d\u0442\u043e \u043a\u0430\u043a-\u0442\u043e \u0442\u0430\u043a:<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ix\/cn\/zh\/ixcnzhsm8dafbb-l-27kiwxv1fk.png\" width=\"500\" height=\"250\">  <\/p>\n<p>\u0418 \u0444\u0430\u0439\u043d-\u0442\u044e\u043d\u0438\u043b\u0438 \u043d\u0430 \u044d\u0442\u0438\u0445 200 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445. \u0412\u0430\u043b\u0438\u0434\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043d\u0430 50 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u044b\u043b\u0438 \u0431\u0435\u0437 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0439.<\/p>\n<p>  <\/p>\n<p><em>Intent Classification from Text with STT Error<\/em><br \/>  \u0412 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u0431\u044b\u043b \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0441 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u043c\u0438 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f\u043c\u0438, \u0438 \u043d\u0443\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0442\u044c \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u0438\u044f \u0441 \u043e\u0448\u0438\u0431\u043a\u0430\u043c\u0438. \u041e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u043f\u0440\u043e\u0433\u043d\u0430\u043b\u0438 \u0442\u0435\u043a\u0441\u0442 \u0447\u0435\u0440\u0435\u0437 Text-to-Speech \u0438 \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0447\u0435\u0440\u0435\u0437 Speech-to-Text \u2014 \u0432\u043e\u0442 \u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u043e\u0448\u0438\u0431\u043a\u0438. \u0412 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 2 \u0438\u043d\u0442\u0435\u043d\u0442\u0430 \u0438 \u043e\u043d \u0442\u043e\u0436\u0435 \u043c\u0430\u043b\u0435\u043d\u044c\u043a\u0438\u0439 (\u0444\u0430\u0439\u043d-\u0442\u044e\u043d\u0438\u043b\u0438 \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0430 100 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445)<br \/>  \u041e\u043d\u0438 \u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438 \u0440\u0430\u0437\u043d\u044b\u0435 \u0433\u043e\u0442\u043e\u0432\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0434\u043b\u044f TTS, STT. \u0412\u043e\u0442 \u043f\u0440\u0438\u043c\u0435\u0440\u044b:<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/pg\/9d\/fn\/pg9dfnxna1y68xdepukoqkkao7i.png\" width=\"500\" height=\"250\">  <\/p>\n<p><strong>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/strong>:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d\u044b: Google Dialogflow, SAP Conversational AI, Rasa<\/li>\n<li>Semantic hashing with classifier. \u041d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043f\u043e\u043d\u0438\u043c\u0430\u044e, \u043e\u043d\u0438 \u043a\u043e\u0434\u0438\u0440\u0443\u044e\u0442 \u043d\u0435 \u0441\u043b\u043e\u0432\u0430, \u0430 \u0441\u0438\u043c\u0432\u043e\u043b\u044b<\/li>\n<li>BERT<\/li>\n<li>Stacked DeBERT<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0412\u0441\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043f\u043e 3 \u0440\u0430\u0437\u0430 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438\u043d\u0442\u0435\u043d\u0442\u0430: \u043d\u0430 \u043f\u043e\u043b\u043d\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043d\u0430 &quot;\u0443\u0445\u0443\u0434\u0448\u0435\u043d\u043d\u044b\u0445&quot; \u0434\u0430\u043d\u043d\u044b\u0445 \u043f\u043e\u0441\u043b\u0435 gtts-witai \u0438 macsay-witai. \u0414\u043b\u044f \u043e\u0431\u043e\u0438\u0445 \u0437\u0430\u0434\u0430\u0447 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u043d\u043e\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e.<\/p>\n<p>  <\/p>\n<h3 id=\"3-zero-shot-video-object-segmentation-via-attentive-graph-neural-networks\">3. Zero-Shot Video Object Segmentation via Attentive Graph Neural Networks<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Wenguan Wang, Xiankai Lu, Jianbing Shen, David Crandall, Ling Shao (UAE, USA, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2001.06807\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/carrierlxk\/AGNN\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor)<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c attentive graph neural network (AGNN) \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 zero-shot video object segmentation (ZVOS). \u0424\u0440\u0435\u0439\u043c\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043a\u0430\u043a \u043d\u043e\u0434\u044b, \u0430 \u0441\u0432\u044f\u0437\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u0440\u0430\u043c\u0438 \u0444\u0440\u0435\u0439\u043c\u043e\u0432 \u2014 \u0440\u0435\u0431\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0434\u0438\u0444\u0444\u0435\u0440\u0435\u043d\u0446\u0438\u0440\u0443\u0435\u043c\u044b\u043c attention. \u041f\u043e\u0434\u0445\u043e\u0434 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f ZVOS, \u043d\u043e \u0438 \u0434\u043b\u044f image object co-segmentation (IOCS).<\/p>\n<p>  <\/p>\n<p>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0437\u0430\u044f\u0432\u043b\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0435\u0438\u043c\u0443\u0449\u0435\u0441\u0442\u0432\u0430 AGNN:<\/p>\n<p>  <\/p>\n<ul>\n<li>end-to-end \u043f\u043e\u0434\u0445\u043e\u0434<\/li>\n<li>\u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u0433\u0440\u0430\u0444\u043e\u043c\u0443 \u043f\u043e\u0434\u0445\u043e\u0434\u0443 \u044d\u0444\u0444\u043a\u0435\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0432\u0437\u0430\u0438\u043c\u043e\u0441\u0432\u044f\u0437\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0432\u0438\u0434\u0435\u043e<\/li>\n<li>\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 attention \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043c\u0435\u0436\u0434\u0443 \u043f\u0430\u0440\u0430\u043c\u0438 \u0444\u0440\u0435\u0439\u043c\u043e\u0432<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0442\u0430\u043a\u0430\u044f:<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/bl\/8n\/oa\/bl8noaj_fd1gu9tf77hprpvlqno.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u0436\u0434\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u2014 \u0433\u0440\u0430\u0444. \u041d\u043e\u0434\u044b \u2014 \u0444\u0440\u0435\u0439\u043c\u044b; \u0432\u0441\u0435 \u043d\u043e\u0434\u044b \u0441\u0432\u044f\u0437\u0430\u043d\u044b \u0434\u0440\u0443\u0433 \u0441 \u0434\u0440\u0443\u0433\u043e\u043c (interconnected \u0438 \u0435\u0441\u0442\u044c self-connections \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043d\u043e\u0434\u044b). \u0421\u0443\u0442\u044c \u0438\u0434\u0435\u0438 \u0432 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0445 \u0441\u043f\u043e\u0441\u043e\u0431\u043e\u0432 GNN \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u2014 message propagation \u0432\u043d\u0443\u0442\u0440\u0438 \u0433\u0440\u0430\u0444\u0430. \u0410 \u043d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u0435 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u043c\u0430\u0441\u043a\u0438 \u0434\u043b\u044f \u0432\u0438\u0434\u0435\u043e.<\/p>\n<p>  <\/p>\n<p>\u0412\u0430\u0436\u043d\u044b\u0435 \u043c\u043e\u043c\u0435\u043d\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e \u0442\u043e, \u0447\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 DeepLabV3 \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u043d\u043e\u0434.<\/li>\n<li>\u0415\u0441\u0442\u044c \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0431\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f self-connection \u2014 \u043d\u043e\u0434\u0430 \u0441\u0432\u044f\u0437\u0430\u043d\u0430 \u0441\u0430\u043c\u0430 \u0441 \u0441\u043e\u0431\u043e\u0439. \u042d\u0442\u043e \u0442\u0438\u043f\u0430 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u0441\u0430\u043c\u043e\u0433\u043e \u0444\u0440\u0435\u0439\u043c\u0430.<\/li>\n<li>\u0420\u0435\u0431\u0440\u0430 \u043c\u0435\u0436\u0434\u0443 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u043d\u043e\u0434\u0430\u043c\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 inter-attention \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c. \u041f\u043e \u0444\u0430\u043a\u0442\u0443 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0430\u0436\u043d\u044b \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043e\u0434\u043d\u043e\u0439 \u043d\u043e\u0434\u044b \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u043e\u0439 \u043d\u043e\u0434\u044b<\/li>\n<li>\u0418\u0442\u043e\u0433\u043e\u0432\u044b\u0435 \u043c\u0430\u0441\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 FCN<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b:<\/p>\n<p>  <\/p>\n<ul>\n<li>DAVIS16 \u2014 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f 50 \u0432\u0438\u0434\u0435\u043e (30 \u0432 \u0442\u0440\u0435\u0439\u043d\u0435, 20 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438). \u041b\u0443\u0447\u0448\u0435 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/li>\n<li>Youtube-Objects \u2014 126 \u0432\u0438\u0434\u0435\u043e, 10 \u043a\u0430\u0442\u0435\u0433\u043e\u0440\u0438\u0439. \u041b\u0443\u0447\u0448\u0435 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/li>\n<li>DAVIS17 \u2014 60 \u0432\u0438\u0434\u0435\u043e \u0432 \u0442\u0440\u0435\u0439\u043d\u0435 30 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u0438, 30 \u0432 \u0442\u0435\u0441\u0442\u0435. \u0422\u0443\u0442 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u044b, \u043d\u043e \u0438 \u043c\u0430\u0441\u043a\u0438. \u0422\u043e\u0436\u0435 \u043b\u0443\u0447\u0448\u0435 \u0434\u0440\u0443\u0433\u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/li>\n<li>IOSC \u2014 \u0422\u043e\u0436\u0435 \u043a\u0440\u0443\u0442\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/li>\n<\/ul>\n<p>  <\/p>\n<p>Ablation study: <\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ez\/xm\/tl\/ezxmtlveyv2cg7yvnhictwaqif0.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"4-saunet-shape-attentive-u-net-for-interpretable-medical-image-segmentation\">4. SAUNet: Shape Attentive U-Net for Interpretable Medical Image Segmentation<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Jesse Sun, Fatemeh Darbeha, Mark Zaidi, Bo Wang (Toronto and Waterloo, Canada, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2001.07645\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/sunjesse\/shape-attentive-unet\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor)<\/p>\n<p>  <\/p>\n<p><strong>TL;DR<\/strong>: UNet + \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u0442\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445 + dense + dual attention decoder = SOTA + interpretability<\/p>\n<p>  <\/p>\n<p><strong>\u0413\u043b\u0430\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f<\/strong>: \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u044b\u0435 CNN \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0434\u043b\u044f \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u0432 \u0442\u043e\u043c \u0447\u0438\u0441\u043b\u0435 \u043c\u0435\u0434\u0438\u0446\u0438\u043d\u0441\u043a\u0438\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a. \u041d\u043e \u0443 \u043d\u0438\u0445 \u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0440\u043e\u0431\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u0438 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438. \u041e\u0434\u043d\u0430 \u0438\u0437 \u043f\u0440\u0438\u0447\u0438\u043d \u044d\u0442\u043e\u0433\u043e \u2014 CNN \u043e\u0431\u044b\u0447\u043d\u043e \u0443\u0447\u0430\u0442 \u0442\u0435\u043a\u0441\u0442\u0443\u0440\u0443 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a, \u0430 \u043d\u0435 \u0444\u043e\u0440\u043c\u0443 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432. \u0421\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u043a \u0438\u043d\u0442\u0435\u0440\u043f\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u2014 gradient-based saliency \u043c\u0435\u0442\u043e\u0434\u044b. \u041d\u043e \u043e\u0431\u044b\u0447\u043d\u043e \u044d\u0442\u043e \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0438 \u043d\u0435 \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u0442\u0441\u044f.<\/p>\n<p>  <\/p>\n<p>\u0412 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u0431\u0435\u0440\u0435\u0442\u0441\u044f UNet \u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u0442\u043e\u0440\u043e\u0439 \u043f\u043e\u0442\u043e\u043a \u0434\u0430\u043d\u043d\u044b\u0445, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0434\u0430\u0451\u0442\u0441\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u043e \u0444\u043e\u0440\u043c\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432. \u0415\u0449\u0451 \u043e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 dual-attention decoder, \u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u043e\u043d \u0434\u0430\u0451\u0442 \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u044c \u0431\u0435\u0437 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043f\u043e\u0441\u043b\u0435 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0430. \u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442: SAUNet \u2014 SOTA \u043d\u0430 SUN09 \u0438 AC17.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/lp\/od\/fh\/lpodfheoux4aoanjcm809oma1ik.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p><strong>SAUNet<\/strong><br \/>  \u041a\u0430\u043a \u0443\u0436\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u043b\u043e\u0441\u044c, \u0432 \u043c\u043e\u0434\u0435\u043b\u0438 2 \u043f\u043e\u0442\u043e\u043a\u0430 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<p>  <\/p>\n<p><em>Texture stream<\/em><br \/>  \u042d\u0442\u043e UNet, \u043d\u043e \u0432\u043c\u0435\u0441\u0442\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f dense \u0431\u043b\u043e\u043a\u0438 \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u043d\u0430 Tiramisu. \u0418 \u0434\u0435\u043a\u043e\u0434\u0435\u0440 \u2014 dual attention decoder block.<\/p>\n<p>  <\/p>\n<p><em>Gated shape stream<\/em><br \/>  \u0412\u0434\u043e\u0445\u043d\u043e\u0432\u0438\u043b\u0438\u0441\u044c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u043e\u0439 Gated-SCNN.\u041a\u0430\u043a \u0432\u0438\u0434\u043d\u043e \u0432 \u0432\u0435\u0440\u0445\u043d\u0435\u0439 \u0447\u0430\u0441\u0442\u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b, \u0434\u0430\u043d\u043d\u044b\u0435 \u0438\u0437 unet \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 downsample \u0438\u0434\u0443\u0442 \u0432 \u0432\u0435\u0440\u0445\u043d\u0438\u0439 \u0441\u0442\u0440\u0438\u043c. \u041e\u0431\u044a\u0435\u0434\u0438\u043d\u0438\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u0438\u0437 \u0441\u0442\u0440\u0438\u043c\u043e\u0432 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e gated convolutional layer: alpha_L = sigma(C_1x1(S_L||C_1x1(T_t))), \u0433\u0434\u0435 S \u2014 feature map \u0438\u0437 shape stream, T \u2014 feature map \u0438\u0437 texture stream, C1x1 \u2014 1\u04451 convolution.<\/p>\n<p>  <\/p>\n<p>\u041e\u043d\u0438 \u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043f\u043e \u043a\u0430\u043d\u0430\u043b\u0430\u043c, \u043d\u0430 \u043d\u0438\u0445 \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0435\u0449\u0451 \u043e\u0434\u0438\u043d convolution \u0438 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u044f \u0441\u0438\u0433\u043c\u043e\u0438\u0434\u043e\u0439. \u041c\u043e\u0436\u043d\u043e \u0435\u0449\u0451 \u0443\u0432\u0438\u0434\u0435\u0442\u044c residual blocks \u2014 \u044d\u0442\u043e 2 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 3&#215;3 convolution \u0441\u043e skip-connection. \u0410 \u0437\u0430\u0442\u0435\u043c \u043c\u044b \u0435\u0449\u0451 \u0440\u0430\u0437 \u0431\u0435\u0440\u0435\u043c S \u0438 \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u043e \u0443\u043c\u043d\u043e\u0436\u0430\u0435\u043c \u043d\u0430 alpha. \u0418 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u0447\u0435\u0440\u0435\u0437 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d residual block.<\/p>\n<p>  <\/p>\n<p>\u041a \u0432\u044b\u0445\u043e\u0434\u0443 \u0438\u0437 steam shape \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f deeply supervision \u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c Ledge. \u042d\u0442\u043e binary cross entropy loss \u043c\u0435\u0436\u0434\u0443 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c\u0438 \u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u043c\u0438 \u0433\u0440\u0430\u043d\u0438\u0446\u0430\u043c\u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438. \u0411\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u044d\u0442\u043e\u043c\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0447\u0438\u0442\u0441\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u0444\u043e\u0440\u043c\u0443 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432: &quot;The output of the gated shape stream is the predicted shapefeature maps of the classes of interest concatenated channel-wise with the Canny edges from the original image. Theoutput is then concatenated with the texture stream featuremaps before the last normalized 3&#215;3 convolution layer ofthe texture stream.&quot;<\/p>\n<p>  <\/p>\n<p><strong>Dual Attention Decoder Block.<\/strong><br \/>  \u0411\u0435\u0440\u0435\u043c \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 (2 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 3&#215;3 convolution \u043d\u0430 \u0441\u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 feature maps) \u0438 \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0434\u0432\u0435 \u043d\u043e\u0432\u044b\u0435 \u0432\u0435\u0449\u0438: Spatial attention path \u0438 Channel-wise attention<\/p>\n<p>  <\/p>\n<p><em>Spatial attention path<\/em><br \/>  \u042d\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0434\u043b\u044f \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0438\u0440\u0443\u0435\u043c\u043e\u0441\u0442\u0438. \u041f\u043e \u0444\u0430\u043a\u0442\u0443 \u044d\u0442\u043e \u0434\u0432\u0430 convolution 1&#215;1 (\u043f\u043e\u0441\u043b\u0435 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f C\/2 \u043a\u0430\u043d\u0430\u043b\u043e\u0432, \u043f\u043e\u0441\u043b\u0435 \u0432\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0434\u0438\u043d \u043a\u0430\u043d\u0430\u043b), \u0437\u0430\u0442\u0435\u043c \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u043c sigmoid. \u0418 \u043d\u0430\u043a\u043e\u043d\u0435\u0446 \u0441\u0442\u0430\u043a\u0430\u0435\u043c \u0421 \u0440\u0430\u0437 (\u043a\u0430\u043a \u043a\u0430\u043d\u0430\u043b\u044b, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u0442\u043e\u043c \u043c\u043e\u0436\u043d\u043e \u0431\u044b\u043b\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u043e\u0435 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435).<\/p>\n<p>  <\/p>\n<p><em>Channel-wise attention path<\/em><br \/>  \u0414\u043b\u044f \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430. \u042d\u0442\u043e SE \u043c\u043e\u0434\u0443\u043b\u044c.<\/p>\n<p>  <\/p>\n<p><strong>Dual-Task Loss function<\/strong><br \/>  \u042d\u0442\u043e \u0432\u0437\u0432\u0435\u0448\u0435\u043d\u043d\u044b\u0439 \u043b\u043e\u0441\u0441: L_total = lambda1 <em> L_CE + lambda2 <\/em> L_Dice + lambda3 * L_Edge<\/p>\n<p>  <\/p>\n<p>\u041e\u043d\u0438 \u043f\u0440\u043e\u0441\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 1 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 lambda. <\/p>\n<p>  <\/p>\n<p><strong>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/strong><\/p>\n<p>  <\/p>\n<ul>\n<li>SUN09 \u2014 2 \u043a\u043b\u0430\u0441\u0441\u0430: he endocardium and the epicardium. 260+135 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0441 \u0446\u0435\u043d\u0442\u0440\u0430\u043b\u044c\u043d\u044b\u043c \u043a\u0440\u043e\u043f\u043e\u043c 128\u0445128.<\/li>\n<li>AC17 \u2014 200 \u0441\u043a\u0430\u043d\u043e\u0432, \u0441 8-20 \u0441\u043b\u0430\u0439\u0441\u043e\u0432. \u0412 \u0438\u0442\u043e\u0433\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u0435 256\u0445256.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041f\u043e \u043e\u0431\u043e\u0438\u043c \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u043c \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043b\u0443\u0447\u0448\u0435. \u0414\u0430\u0436\u0435 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 Ablation study \u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e shape stream \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u0438\u043d\u043e\u0441\u0438\u0442 \u043f\u043e\u043b\u044c\u0437\u0443. \u041f\u0438\u0448\u0443\u0442, \u0447\u0442\u043e \u044d\u0442\u043e \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u043b\u0435\u0437\u043d\u043e \u043f\u043b\u044e\u0441 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u0435\u0435, \u0447\u0435\u043c saliency maps.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/bo\/hd\/hs\/bohdhsiswm1mcwig4ndv6jrzi_i.png\" width=\"500\" height=\"250\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"5-faceshifter-towards-high-fidelity-and-occlusion-aware-face-swapping\">5. FaceShifter: Towards High Fidelity And Occlusion Aware Face Swapping<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Lingzhi Li, Jianmin Bao, Hao Yang, Dong Chen, Fang Wen (Peking University, Microsoft Research, 2019)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1912.13457\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/taotaonice\/FaceShifter\">Non official GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441 \u0428\u0438\u0440\u043e\u043d (\u0432 \u0441\u043b\u044d\u043a\u0435 shiron8bit)<\/p>\n<p>  <\/p>\n<p>\u0415\u0449\u0435 \u043e\u0434\u043d\u0430 \u043f\u043e\u043f\u044b\u0442\u043a\u0430 \u0441\u0434\u0435\u043b\u0430\u0442\u044c person agnostic gan-\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0434\u043b\u044f face swap, \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u044e\u0449\u0443\u044e \u0434\u043b\u044f \u0434\u0432\u0443\u0445 \u043d\u043e\u0432\u044b\u0445 \u043f\u0435\u0440\u0441\u043e\u043d \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u043d\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u044e\u0449\u0443\u044e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0430 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u043b\u0438\u0446 \u0432 \u0440\u0430\u0437\u043d\u044b\u0445 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445 \u0431\u0435\u0437 \u0430\u043d\u043d\u043e\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u0439. \u041d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435, \u044d\u0442\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0435 \u0438\u0434\u0435\u0439 \u0438\u0437 <a href=\"https:\/\/opendatascience.slack.com\/archives\/C5VQ222UX\/p1570004969026300\">\u0441\u0442\u0430\u0442\u044c\u0438 \u044d\u0442\u0438\u0445 \u0436\u0435 \u0430\u0432\u0442\u043e\u0440\u043e\u0432<\/a>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u044e\u0442\u0441\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043c\u043e\u0433\u043e \u043b\u0438\u0446\u0430 \u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u0439\/\u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043b\u0438\u0446\u0430-\u0440\u0435\u0446\u0438\u043f\u0438\u0435\u043d\u0442\u0430 \u0438 \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440 \u0441\u043e\u0437\u0434\u0430\u0435\u0442 \u043d\u043e\u0432\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u044d\u0442\u043e\u0442 \u0440\u0430\u0437 \u0441 \u043c\u043d\u043e\u0433\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0432\u044b\u043c unet-style \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u043c \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432, adain-style \u0431\u043b\u043e\u043a\u043e\u043c \u0434\u043b\u044f \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u044f \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u0440\u0430\u0437\u043d\u043e\u0439 \u043f\u0440\u0438\u0440\u043e\u0434\u044b \u0438 \u043f\u043e\u0441\u0442\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433\u043e\u043c \u0432 \u0432\u0438\u0434\u0435 \u0441\u0435\u0442\u043a\u0438, \u0443\u043b\u0443\u0447\u0448\u0430\u044e\u0449\u0435\u0439 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0432 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0443\u0441\u043b\u043e\u0432\u0438\u044f\u0445, \u043a\u043e\u0433\u0434\u0430 \u043b\u0438\u0446\u0430 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u0447\u0435\u043c-\u0442\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u044b.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/x_\/ju\/h-\/x_juh-42yh1r4f3lkp6qxb2jwsm.png\">  <\/p>\n<p>\u041f\u0435\u0440\u0432\u0430\u044f (\u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f) \u0447\u0430\u0441\u0442\u044c, \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u044e\u0449\u0430\u044f \u043d\u0435\u043f\u043e\u0441\u0440\u0435\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043b\u0438\u0446\u0430 X_s \u0432 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0435 \u0443\u0441\u043b\u043e\u0432\u0438\u044f \u043b\u0438\u0446\u0430 X_t, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0430 \u043d\u0430 \u0440\u0438\u0441\u0443\u043d\u043a\u0435 \u0432\u044b\u0448\u0435 (a) \u0438 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u043c\u043d\u043e\u0433\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u043e\u0440\u0430 AADGenerator, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0432 AADResBlck \u0431\u043b\u043e\u043a\u0430\u0445 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u0443\u0440\u043e\u0432\u043d\u044f \u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043c\u043e\u0439 \u043f\u0435\u0440\u0441\u043e\u043d\u044b z_id (\u0443 \u0430\u0432\u0442\u043e\u0440\u043e\u0432 \u044d\u0442\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043e\u0442 \u043f\u0440\u0435\u0434\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u043e\u0439 ArcFace-\u0441\u0435\u0442\u043a\u0438), \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043f\u0435\u0440\u0435\u0434 \u043f\u043e\u0434\u0430\u0447\u0435\u0439 \u043d\u0430 \u0432\u0445\u043e\u0434 \u043d\u043e\u0432\u043e\u0433\u043e AADResBlck \u0431\u043b\u043e\u043a\u0430 \u0442\u0435\u043a\u0443\u0449\u0430\u044f feature map \u0430\u043f\u0441\u044d\u043c\u043f\u043b\u0438\u0442\u0441\u044f \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c \u0431\u0438\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u0439 \u0438\u043d\u0442\u0435\u0440\u043f\u043e\u043b\u044f\u0446\u0438\u0438. \u041d\u0430 \u043f\u0435\u0440\u0432\u044b\u0439 \u0431\u043b\u043e\u043a \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0433\u043e \u0432\u0445\u043e\u0434\u0430 \u043f\u043e\u0441\u0442\u0443\u043f\u0430\u0435\u0442 feature map, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c\u0430\u044f \u0438\u0437 \u0432\u0435\u043a\u0442\u043e\u0440\u0430 z_id \u0430\u043f\u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433\u043e\u043c \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c transposed 2d convolution. <\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u0436\u0434\u044b\u0439 AADResBlck, \u043a\u0430\u043a \u0432\u0438\u0434\u043d\u043e \u0438\u0437 \u0440\u0438\u0441\u0443\u043d\u043a\u0430 (b), \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u0437 \u0441\u0435\u0431\u044f Residual block, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043f\u043e\u043c\u0438\u043c\u043e relu \u0438 \u0441\u0432\u0435\u0440\u0442\u043e\u043a \u043f\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u0435\u0442 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e (2 \u0438\u043b\u0438 3 \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0442\u043e\u0433\u043e, \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u0435\u0442 \u043b\u0438 \u0447\u0438\u0441\u043b\u043e \u0432\u0445\u043e\u0434\u043d\u044b\u0445\/\u0432\u044b\u0445\u043e\u0434\u043d\u044b\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432) AAD-\u0441\u043b\u043e\u0435\u0432.<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c AAD-\u0441\u043b\u043e\u0439, \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0435\u043d\u043d\u044b\u0439 AdaIN\/SPADE-\u0441\u043b\u043e\u044f\u043c\u0438 (\u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0438 \u0441 \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u043c\u0438 \u0432\u0435\u044f\u043d\u0438\u044f\u043c\u0438: <a href=\"https:\/\/arxiv.org\/pdf\/1910.13062v1.pdf\">\u0441\u0442\u0430\u0442\u044c\u044f1<\/a>, <a href=\"https:\/\/arxiv.org\/pdf\/1912.10321v1.pdf\">\u0441\u0442\u0430\u0442\u044c\u044f2<\/a>), \u0431\u0435\u0440\u0435\u0442 \u043d\u0430 \u0441\u0435\u0431\u044f \u043e\u0441\u043d\u043e\u0432\u043d\u0443\u044e \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u044f \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u043f\u0435\u0440\u0441\u043e\u043d\u044b \u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043d\u0430 \u0442\u0435\u043a\u0443\u0449\u0435\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u0438 \u0434\u0435\u043b\u0430\u0435\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435: <\/p>\n<p>  <\/p>\n<ul>\n<li>\u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0443\u0435\u0442 \u043a\u0430\u0436\u0434\u0443\u044e feature map \u043d\u0430 \u0432\u0445\u043e\u0434\u0435 (\u0434\u0435\u043b\u0430\u0435\u0442 instance normalization)<\/li>\n<li>\u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043f\u0435\u0440\u0441\u043e\u043d\u044b \u0447\u0435\u0440\u0435\u0437 fully connected-\u0441\u043b\u043e\u0438 \u043a \u043d\u0430\u0431\u043e\u0440\u0443 \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0439 \u043d\u0443\u0436\u043d\u043e\u0439 (\u043a\u0430\u043a \u0443 \u0444\u0438\u0447\u0435\u043c\u0430\u043f\u044b) \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u0434\u0435\u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0443\u0435\u0442 \u0443\u0436\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0444\u0438\u0447\u0438 \u043f\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u044b\u043c \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0438 \u0441\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c, \u043f\u043e\u043b\u0443\u0447\u0430\u044f A_k<\/li>\n<li>\u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043a \u043d\u0430\u0431\u043e\u0440\u0443 \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0438 \u0434\u0438\u0441\u043f\u0435\u0440\u0441\u0438\u0439 \u043d\u0443\u0436\u043d\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u0434\u0435\u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0443\u0435\u0442 \u0443\u0436\u0435 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0444\u0438\u0447\u0438 \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u044b\u043c \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u0438 \u0441\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c, \u043f\u043e\u043b\u0443\u0447\u0430\u044f I_k<\/li>\n<li>\u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e \u0441 \u044d\u0442\u0438\u043c \u043f\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u0444\u0438\u0447\u0435\u043c\u0430\u043f\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043c\u0430\u0441\u043a\u0430 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f (\u043c\u0430\u0441\u043a\u0430 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0444\u0438\u0447\u0435\u043c\u0430\u043f\u044b \u0441 \u0432\u0435\u0441\u0430\u043c\u0438 \u043e\u0442 0 \u0434\u043e 1)<\/li>\n<li>\u0432\u044b\u0445\u043e\u0434 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u044b\u043c \u0441\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c A_k \u0438 I_k \u043f\u043e \u043c\u0430\u0441\u043a\u0435.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u043d\u043e\u0433\u043e\u0443\u0440\u043e\u0432\u043d\u0435\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u043c\u0430\u0441\u043a\u043e\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043d\u0430\u043c \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0442\u044c, \u043a\u0430\u043a\u0430\u044f \u0438\u043d\u0444\u0430 \u0432 \u043a\u0430\u043a\u043e\u043c \u0440\u0435\u0433\u0438\u043e\u043d\u0435 \u0432\u0430\u0436\u043d\u0435\u0435 \u2014 \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043c\u043e\u0439 \u043f\u0435\u0440\u0441\u043e\u043d\u044b \u0438\u043b\u0438 \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043d\u0430 \u0437\u0430\u0434\u0430\u043d\u043d\u043e\u043c \u0443\u0440\u043e\u0432\u043d\u0435: \u0442\u0430\u043a, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043f\u0435\u0440\u0441\u043e\u043d\u044b \u0441\u0438\u043b\u044c\u043d\u043e \u0432\u043b\u0438\u044f\u0435\u0442 \u043d\u0430 \u0432\u0441\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u043d\u0438\u0437\u043a\u0438\u0445 \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u044f\u0445 (4&#215;4, 8&#215;8), \u043d\u0430 \u0441\u0440\u0435\u0434\u043d\u0438\u0445 \u0443\u0440\u043e\u0432\u043d\u044f\u0445 (16&#215;16, 32&#215;32) \u043c\u0430\u0441\u043a\u0430 \u043a\u043e\u043d\u0446\u0435\u043d\u0442\u0440\u0438\u0440\u0443\u0435\u0442 \u0432\u043b\u0438\u044f\u043d\u0438\u0435 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0438\u043c\u043e\u0439 \u043f\u0435\u0440\u0441\u043e\u043d\u044b \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0433\u0438\u043e\u043d\u044b (\u043a\u043e\u043d\u0442\u0443\u0440\u044b \u0433\u043b\u0430\u0437, \u0440\u0442\u0430, \u043b\u0438\u0446\u0430), \u043d\u0430 \u0432\u044b\u0441\u043e\u043a\u0438\u0445 \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u044f\u0445 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0439 \u0432\u043a\u043b\u0430\u0434 \u0432\u043d\u043e\u0441\u044f\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>Ablation study \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u043c\u0430\u0441\u043a\u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u043a\u0443\u0434\u0430 \u0431\u043e\u043b\u0435\u0435 \u0445\u043e\u0440\u043e\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b, \u0447\u0435\u043c \u043f\u0440\u0438 \u043f\u0440\u043e\u0441\u0442\u043e\u043c \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438\/\u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0430\u0446\u0438\u0438 A_k \u0438 I_k. \u0422\u0430\u043a\u0436\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u0435 \u0447\u0438\u0441\u043b\u0430 \u0441\u043b\u043e\u0435\u0432 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u0432\u0435\u0434\u0435\u0442 \u043a \u0443\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u044e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u043e\u0432 (\u043f\u043e \u0443\u043c\u043e\u043b\u0447\u0430\u043d\u0438\u044e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 8 \u0434\u043b\u044f \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a 256&#215;256).<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ps\/le\/tm\/psletmlc6cxzyaiklrvz-slhqlg.png\">  <\/p>\n<p>\u041f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043f\u043e\u043c\u0438\u043c\u043e \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u0433\u043e \u0434\u043b\u044f \u0433\u0430\u043d\u043e\u0432 adversarial loss \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f 3 \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043b\u043e\u0441\u0441\u0430: L_id \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u0435\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043f\u0435\u0440\u0441\u043e\u043d\u044b (\u0432 \u0434\u0430\u043d\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u0435 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043c\u0435\u0436\u0434\u0443 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u043c \u0438 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u043c \u0441\u043d\u0435\u0433\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f, \u0430 \u0440\u0430\u043d\u044c\u0448\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 L2 \u043c\u0435\u0436\u0434\u0443 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438, \u0445\u043e\u0442\u044f \u0432 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0435 \u043e\u0431\u044b\u0447\u043d\u043e \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u0432 Arcface \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u0432 \u044d\u0442\u043e \u043d\u0435 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u0438\u0430\u043b\u044c\u043d\u043e), L_rec \u2014 \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u043f\u043e\u043f\u0438\u043a\u0441\u0435\u043b\u044c\u043d\u0430\u044f L2-\u043e\u0448\u0438\u0431\u043a\u0430 \u0432\u043e\u0441\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f (\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u043b\u0443\u0447\u0430\u044f\u0445, \u043a\u043e\u0433\u0434\u0430 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 X_s \u0438 X_t \u043f\u043e\u0434\u0430\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u0430 \u0438 \u0442\u0430 \u0436\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0440\u0430\u043d\u044c\u0448\u0435 \u0430\u0432\u0442\u043e\u0440\u044b \u0434\u043b\u044f \u0441\u043b\u0443\u0447\u0430\u044f \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0438 \u0432\u0435\u0441 0.1), L_att \u2014 \u043b\u043e\u0441\u0441 \u0434\u043b\u044f \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0445 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u043e\u0432 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043d\u043e\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f Y_s,t.<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 AEI-Net \u0434\u0430\u0435\u0442 \u043d\u0435\u043f\u043b\u043e\u0445\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b, \u043e\u0434\u043d\u0430\u043a\u043e \u0443 \u043d\u0435\u0435 \u043c\u043e\u0433\u0443\u0442 \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u0442\u044c \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0432 \u0441\u043b\u0443\u0447\u0430\u0435, \u0435\u0441\u043b\u0438 \u043d\u0430 X_t \u043b\u0438\u0446\u043e \u0431\u0443\u0434\u0435\u0442 \u0447\u0430\u0441\u0442\u0438\u0447\u043d\u043e \u0447\u0435\u043c-\u0442\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u043e. \u0420\u0430\u043d\u0435\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0440\u0430\u0431\u043e\u0442\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u043e\u043d\u043d\u044b\u0435 \u0441\u0435\u0442\u043a\u0438, \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0449\u0438\u0435 \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0435\u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0435 \u0447\u0430\u0441\u0442\u0438 \u043b\u0438\u0446\u0430, \u0430 \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u0435 \u0447\u0430\u0441\u0442\u0438 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u043b\u043e\u0441\u044c \u0431\u0440\u0430\u0442\u044c \u0438\u0437 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f. \u0410\u0432\u0442\u043e\u0440\u044b \u0436\u0435 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u044d\u0442\u043e\u0439 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0435\u0449\u0435 \u043e\u0434\u043d\u0443 Unet-\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 Hear-Net, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u043d\u0430 \u0432\u0445\u043e\u0434 \u043f\u043e\u0434\u0430\u0435\u0442\u0441\u044f \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 Y_s,t, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u043c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435\u043c X_t \u0438 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c Y_t,t (\u043a\u043e\u0433\u0434\u0430 \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u043b\u0438 \u043d\u0430 X_t \u043b\u0438\u0446\u043e \u0438\u0437 \u0441\u0430\u043c\u043e\u0433\u043e X_t). \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f \u0442\u0430\u043a\u043e\u0432\u0430: \u0435\u0441\u043b\u0438 \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0430 \u043e\u0431\u0430 \u0432\u0445\u043e\u0434\u0430 AEI-Net \u043e\u0434\u043d\u043e \u0438 \u0442\u043e \u0436\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435, \u043e\u043d\u0430 \u0431\u0443\u0434\u0435\u0442 \u0440\u0430\u0437\u043c\u044b\u0432\u0430\u0442\u044c \u0438 \u0438\u0441\u043a\u0430\u0436\u0430\u0442\u044c \u0443\u0447\u0430\u0441\u0442\u043a\u0438, \u0433\u0434\u0435 \u043b\u0438\u0446\u043e \u0447\u0435\u043c-\u0442\u043e \u043f\u0435\u0440\u0435\u043a\u0440\u044b\u0442\u043e, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0440\u0430\u0437\u043d\u043e\u0441\u0442\u044c \u043c\u043e\u0436\u0435\u0442 \u0434\u0430\u0442\u044c \u043d\u0430\u043c \u043d\u0435\u043f\u043b\u043e\u0445\u0443\u044e \u043f\u043e\u0434\u0441\u043a\u0430\u0437\u043a\u0443, \u043a\u0430\u043a\u0438\u0435 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0443 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043b\u0438\u0446\u0430 \u043d\u0443\u0436\u0434\u0430\u044e\u0442\u0441\u044f \u0432 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0438.<\/p>\n<p>  <\/p>\n<p>\u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432 semi-supervised \u0440\u0435\u0436\u0438\u043c\u0435, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043d\u0435\u0442 ground truth, \u043d\u043e \u0435\u0441\u0442\u044c \u0434\u0432\u0430 \u043b\u043e\u0441\u0441\u0430, \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u0438\u0440\u0443\u044e\u0449\u0438\u0445 \u043e\u0434\u043d\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e \u043f\u043e\u0445\u043e\u0436\u0435\u0441\u0442\u044c \u043d\u0430 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043f\u0435\u0440\u0432\u043e\u0439 \u0441\u0435\u0442\u043a\u0438 Y_s,t \u0438 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b X_t (L_chg \u0438 L_rec \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e). \u041f\u043e\u0441\u043a\u043e\u043b\u044c\u043a\u0443 \u0437\u0430\u0447\u0430\u0441\u0442\u0443\u044e \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 \u043b\u0438\u0446 \u043d\u0435 \u0442\u0430\u043a \u0443\u0436 \u0438 \u043c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0441 \u0447\u0435\u043c-\u0442\u043e \u0437\u0430\u043a\u0440\u044b\u0442\u044b\u043c\u0438 \u043b\u0438\u0446\u0430\u043c\u0438, \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0441\u0438\u043d\u0442\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0435, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c\u044b\u0435 \u043d\u0430\u043b\u043e\u0436\u0435\u043d\u0438\u0435\u043c \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0438\u0437 EgoHands, GTEA Hand2K, ShapeNet \u043d\u0430 \u043b\u0438\u0446\u0430 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 (\u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435 CelebaHQ, FFHQ \u0438 VGGFace).<\/p>\n<p>  <\/p>\n<h3 id=\"6-towards-a-human-like-open-domain-chatbot\">6. Towards a Human-like Open-Domain Chatbot<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Daniel Adiwardana, Minh-Thang Luong, David R. So, Jamie Hall, Noah Fiedel, Romal Thoppilan, Zi Yang, Apoorv Kulshreshtha, Gaurav Nemade, Yifeng Lu, Quoc V. Le (Google Brain, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2001.09977\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/ai.googleblog.com\/2020\/01\/towards-conversational-agent-that-can.html\">Blog<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u0440\u0442\u0435\u043c \u0420\u043e\u0434\u0438\u0447\u0435\u0432 (\u0432 \u0441\u043b\u044d\u043a\u0435 fuckai)<\/p>\n<p>  <\/p>\n<p><strong>TL;DR<\/strong><br \/>  \u041a\u043e\u043c\u0430\u043d\u0434\u0430 \u0438\u0437 Google Brain \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 SOTA \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0443\u044e \u0447\u0430\u0442\u0431\u043e\u0442 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435\u043c Meena. \u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043e\u0433\u0440\u043e\u043c\u043d\u044b\u0439 Evolved Transformer \u0432 2.6B \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430 \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0432 340GB \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432 \u043d\u0430 \u043f\u043e\u0434\u0435 \u0438\u0437 2048 TPU v3 \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0438 30 \u0434\u043d\u0435\u0439. \u041c\u043e\u0434\u0435\u043b\u044c \u0440\u0430\u0437\u043d\u043e\u0441\u0438\u0442 \u0432\u0441\u0435 \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u044b\u0435 \u043e\u0431\u0449\u0435\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b\u0435 \u0447\u0430\u0442\u0431\u043e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u044b \u043f\u043e \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0438\u043c \u0438 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u043c\u0435\u0442\u0440\u0438\u043a\u0430\u043c. \u041f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u044b \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432, \u0441\u0443\u0434\u044f \u043f\u043e \u043d\u0438\u043c AGI \u0431\u043b\u0438\u0437\u043a\u043e.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/my\/cm\/nt\/mycmntlkahpuh6-5tk_osdnva9s.png\" width=\"500\" height=\"250\">  <\/p>\n<p><strong>\u0421\u0443\u0442\u044c<\/strong><br \/>  \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0438\u0437 \u0441\u0435\u0431\u044f seq2seq \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443, \u0433\u0434\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u2014 1 \u0431\u043b\u043e\u043a Evolved Transformer\u2019a, \u0434\u044d\u043a\u043e\u0434\u0435\u0440 \u2014 13 \u0442\u0430\u043a\u0438\u0445 \u0431\u043b\u043e\u043a\u043e\u0432. \u041d\u0430\u0433\u043b\u044f\u0434\u043d\u043e \u043d\u0430 \u043f\u0435\u0440\u0432\u043e\u0439 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0435 \u043a \u043f\u043e\u0441\u0442\u0443. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0431\u0434\u0436\u0435\u043a\u0442\u0438\u0432\u0430 \u2014 \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f perplexity(\u0434\u0430\u043b\u0435\u0435 ppl). \u0421\u0440\u0430\u0432\u043d\u0438\u043b\u0438\u0441\u044c \u0441 \u0432\u0430\u043d\u0438\u043b\u044c\u043d\u044b\u043c \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u043e\u043c, \u0443 \u043d\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u043e ppl \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u0445\u0443\u0436\u0435, 10.2 vs 10.7 ppl. <\/p>\n<p>  <\/p>\n<p>\u0422\u043e\u043a\u0435\u043d\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u0430\u044f \u2014 BPE, \u043d\u043e \u0441 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u0435 \u2014 \u0432\u0437\u044f\u043b\u0438 \u0442\u043e\u043b\u044c\u043a\u043e 8K byte-pairs. \u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u043f\u0440\u0438\u0447\u0438\u043d\u0430, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0433\u0440\u043e\u043c\u043d\u0430\u044f \u0438 \u0441 \u0442\u0430\u043a\u0438\u043c \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0441\u043b\u043e\u0432\u0430\u0440\u044f \u043e\u043d\u0430 \u0432\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u043f\u0430\u043c\u044f\u0442\u044c \u0438\u0445 TPU \u043d\u0430 16GB. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0432 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043f\u043e\u0434\u0430\u044e\u0442 \u0434\u043e 7 \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432\u044b\u0445 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u0439, \u0440\u0430\u0437\u043c\u0435\u0440 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u0434\u044d\u043a\u043e\u0434\u0435\u0440\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u043b\u0438 \u0432 128 \u0442\u043e\u043a\u0435\u043d\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>\u0422\u0440\u0435\u0439\u043d\u0441\u0435\u0442 \u043d\u0430\u043c\u0430\u0439\u043d\u0438\u043b\u0438 \u0438\u0437 \u201cpublic domain social media\u201d. \u041a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0445 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u043e\u0432 \u043d\u0435 \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442, \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e \u0440\u0435\u0434\u0434\u0438\u0442+\u0442\u0432\u0438\u0442\u0442\u0435\u0440+\u0447\u0442\u043e-\u0442\u043e \u0435\u0449\u0435. \u041f\u043e\u0444\u0438\u043b\u044c\u0442\u0440\u043e\u0432\u0430\u043b\u0438 \u043a\u043e\u0440\u043f\u0443\u0441 \u0443\u0434\u0430\u043b\u044f\u044f \u0443\u0440\u043b\u044b, \u043c\u0435\u043d\u0448\u0435\u043d\u044b, \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0435\/\u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043e\u0442\u0432\u0435\u0442\u044b, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043e\u0441\u043a\u043e\u0440\u0431\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0438 \u0442\u043e\u043a\u0441\u0438\u0447\u043d\u044b\u0435 \u0441\u043e\u043e\u0431\u0449\u0435\u043d\u0438\u044f. \u0412 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c 360GB \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432 \u0438\u043b\u0438 876M \u043f\u0430\u0440 (\u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442, \u0440\u0435\u0441\u043f\u043e\u043d\u0441).<\/p>\n<p>  <\/p>\n<p>\u0423\u0447\u0438\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0442\u0435\u0447\u0435\u043d\u0438\u0438 30 \u0434\u043d\u0435\u0439 \u043d\u0430 TPU \u043f\u043e\u0434\u0435 \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0435\u043c \u0438\u0437 2048 TPU v3. \u0417\u0430 \u0432\u0441\u0435 \u0432\u0440\u0435\u043c\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441\u0434\u0435\u043b\u0430\u043b\u0438 164 \u044d\u043f\u043e\u0445\u0438 \u043f\u043e \u043a\u043e\u0440\u043f\u0443\u0441\u0443, \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0438\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u0440\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0430 10 \u0442\u0440\u0438\u043b\u043b\u0438\u043e\u043d\u043e\u0432 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. \u042d\u0442\u043e \u0433\u0443\u0433\u043b \u0434\u0435\u0442\u043a\u0430. <\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u043e\u0442\u0432\u0435\u0442\u043e\u0432 \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u043b\u0438 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0442\u0440\u044e\u043a\u043e\u0432.<\/p>\n<p>  <\/p>\n<ol>\n<li>Sampling-and-rank \u2014 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u043c N \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u043e\u0432 \u043a\u0430\u043a\u0438\u043c-\u043b\u0438\u0431\u043e \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433\u043e\u043c, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 \u0441 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0439. \u0421\u0447\u0438\u0442\u0430\u0435\u043c \u0441\u043a\u043e\u0440\u044b \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0441\u044d\u043c\u043f\u043b\u0430 \u0438 \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u043c \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u043e\u043c \u0441 \u0442\u043e\u043f \u0441\u043a\u043e\u0440\u043e\u043c. \u0421\u043a\u043e\u0440 \u2014 \u043b\u043e\u0433 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u0430 \u043d\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043d\u0430 \u043a\u043e\u043b-\u0432\u043e \u0442\u043e\u043a\u0435\u043d\u043e\u0432, \u0447\u0442\u043e\u0431\u044b \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u044b \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0434\u043b\u0438\u043d\u0430\u043c\u0438. N \u0432\u0437\u044f\u043b\u0438 = 20.<\/li>\n<li>\u0417\u0430\u043c\u0435\u043d\u0438\u043b\u0438 \u0441\u044d\u043c\u043f\u043b\u0438\u043d\u0433 \u0441 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u043e\u0439 \u043d\u0430 top-k \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u2014 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u0443\u0435\u043c \u043d\u0435 \u043f\u043e \u0432\u0441\u0435\u043c\u0443 \u0441\u043b\u043e\u0432\u0430\u0440\u044e, \u0430 \u0442\u043e\u043b\u044c\u043a\u043e \u0438\u0437 \u0442\u043e\u043f k \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u044b\u0445 \u0442\u043e\u043a\u0435\u043d\u043e\u0432. <\/li>\n<li>\u0424\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044f \u043e\u0442 \u043f\u043e\u0432\u0442\u043e\u0440\u043e\u0432. \u0423 \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u043a\u043e\u043b, \u0447\u0442\u043e \u0438\u043d\u043e\u0433\u0434\u0430 \u043e\u043d\u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u0437\u0430\u0446\u0438\u043a\u043b\u0438\u0432\u0430\u0442\u044c\u0441\u044f \u0438 \u043f\u043e\u0432\u0442\u043e\u0440\u044f\u0442\u044c \u0438\u043b\u0438 \u0441\u0430\u043c\u0438\u0445 \u0441\u0435\u0431\u044f \u0438\u043b\u0438 \u0444\u0440\u0430\u0437\u0443 \u0441\u043e\u0431\u0435\u0441\u0435\u0434\u043d\u0438\u043a\u0430. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0440\u0438\u043a\u0440\u0443\u0442\u0438\u043c ngram\u2019\u043d\u0443\u044e \u0444\u0438\u043b\u044c\u0442\u0440\u0430\u0446\u0438\u044e \u0438 \u0432\u044b\u0431\u0440\u043e\u0441\u0438\u043c \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u044b \u0441 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u043d\u0433\u0440\u0430\u043c\u043d\u044b\u043c \u043f\u0435\u0440\u0435\u0441\u0435\u0447\u0435\u043d\u0438\u0435\u043c \u0441 \u0444\u0440\u0430\u0437\u0430\u043c\u0438 \u0438\u0437 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430.<\/li>\n<li>\u041d\u0430 \u0432\u044b\u0445\u043e\u0434\u0435 \u043d\u0430\u0432\u0435\u0440\u043d\u0443\u043b\u0438 \u0434\u043e\u043f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u043e\u0444\u0444\u0435\u043d\u0441\u0430 \u0438 \u0442\u043e\u043a\u0441\u0438\u0447\u043d\u044b\u0445 \u0440\u0435\u0441\u043f\u043e\u043d\u0441\u043e\u0432.<\/li>\n<\/ol>\n<p>  <\/p>\n<p><strong>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/strong><br \/>  \u0414\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0432\u0432\u0435\u043b\u0438 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0443\u044e \u043c\u0435\u0442\u0440\u0438\u043a\u0443 SSA \u2014 Sensibleness and Specificity Average. \u0410\u0441\u0435\u0441\u0441\u043e\u0440\u043e\u0432 \u043f\u0440\u043e\u0441\u0438\u043b\u0438 \u043e\u0446\u0435\u043d\u0438\u0432\u0430\u0442\u044c \u043a\u0430\u0436\u0434\u044b\u0439 \u043e\u0442\u0432\u0435\u0442 \u0447\u0430\u0442\u0431\u043e\u0442\u0430 \u043d\u0430 \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u043f\u043e \u0434\u0432\u0443\u043c \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043c\u0435\u0442\u0440\u0438\u043a\u0430\u043c. Sensibleness \u2014 \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0432\u0435\u0442 \u0438\u043c\u0435\u0435\u0442 \u0441\u043c\u044b\u0441\u043b \u0434\u043b\u044f \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430. \u0415\u0441\u043b\u0438 \u043e\u0442\u0432\u0435\u0442 \u043d\u0435\u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u044b\u0439, \u043d\u0435\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0439, \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0440\u0435\u0447\u0438\u0432\u044b\u0439, \u0444\u0430\u043a\u0442\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u044b\u0439 \u2014 \u0442\u043e \u043e\u043d \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442 0, \u0438\u043d\u0430\u0447\u0435 1. Specificity \u2014 \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0432\u0435\u0442 \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u043d\u044b\u0439 \u0438 \u0440\u0430\u0441\u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0435\u043d\u043d\u044b\u0439. SSA = (Sensibleness + Specificity) \/ 2. \u0421\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0447\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 SSA \u0434\u043b\u044f \u0447\u0430\u0442\u0431\u043e\u0442\u0430, \u0442\u0435\u043c \u0440\u0435\u043b\u0435\u0432\u0430\u043d\u0442\u043d\u0435\u0435 \u0438 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0435\u0435 \u043e\u043d \u043e\u0431\u0449\u0430\u0435\u0442\u0441\u044f.<\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u0432\u0437\u044f\u043b\u0438:<\/p>\n<p>  <\/p>\n<ul>\n<li>XiaoIce \u2014 \u0441\u0430\u043c\u044b\u0439 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0439 \u0447\u0430\u0442\u0431\u043e\u0442 \u0432 \u041a\u0438\u0442\u0430\u0435 \u043e\u0442 Microsoft, ~100M \u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439, \u043e\u0440\u0438\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d \u043d\u0430 \u044d\u043d\u0433\u0435\u0439\u0434\u0436\u043c\u0435\u043d\u0442 \u0438 \u044d\u043c\u043f\u0430\u0442\u0438\u044e.<\/li>\n<li>DialoGPT, \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0430\u044f SOTA \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442 MS, \u043f\u043e \u0441\u0443\u0442\u0438 GPT2 \u043d\u0430 745M \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0430\u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u0430\u044f \u043d\u0430 \u043e\u0433\u0440\u043e\u043c\u043d\u043e\u043c \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432\u043e\u043c \u043a\u043e\u0440\u043f\u0443\u0441\u0435 \u0438\u0437 \u0440\u0435\u0434\u0434\u0438\u0442\u0430.<\/li>\n<li>Mitsuku \u2014 \u0447\u0430\u0442\u0431\u043e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430, 5 \u043a\u0440\u0430\u0442\u043d\u044b\u0439 \u043f\u043e\u0431\u0435\u0434\u0438\u0442\u0435\u043b\u044c Loebner Prize \u2014 \u043a\u0440\u0443\u043f\u043d\u0435\u0439\u0448\u0438\u0439 \u0435\u0436\u0435\u0433\u043e\u0434\u043d\u044b\u0439 \u0422\u044e\u0440\u0438\u043d\u0433, \u0433\u0434\u0435 \u0447\u0430\u0442\u0431\u043e\u0442\u0443 \u043d\u0443\u0436\u043d\u043e \u0443\u0431\u0435\u0434\u0438\u0442\u044c \u0441\u0443\u0434\u044c\u044e \u0447\u0442\u043e \u043e\u043d \u2014 \u0447\u0435\u043b\u043e\u0432\u0435\u043a.<\/li>\n<li>Cleverbot \u2014 \u0447\u0430\u0442\u0431\u043e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u044f\u0432\u0438\u043b\u0430\u0441\u044c \u0435\u0449\u0435 \u0432 1986 \u0433\u043e\u0434\u0443, \u0436\u0438\u0432\u0430 \u043f\u043e \u0441\u0435\u0439 \u0434\u0435\u043d\u044c.<\/li>\n<\/ul>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ji\/zg\/fq\/jizgfqz01ekipypdvwyxtizlico.png\" width=\"500\" height=\"250\">  <\/p>\n<p>\u041a\u043e\u043d\u0435\u0447\u043d\u043e Meena \u0440\u0430\u0437\u043d\u0435\u0441\u043b\u0430 \u0432\u0441\u0435 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0447\u0430\u0442\u0431\u043e\u0442\u044b \u043f\u043e Sensibleness, Specificity, \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e SSA. \u0412 \u0441\u0442\u0430\u0442\u044c\u0435 \u0432 \u0430\u043f\u043f\u0435\u043d\u0434\u0438\u043a\u0441\u0435 \u0435\u0441\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432 \u0441 \u043a\u0430\u0436\u0434\u044b\u043c \u0438\u0437 \u0447\u0430\u0442\u0431\u043e\u0442\u043e\u0432, \u043a\u0430\u043a \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442\u0441\u044f \u043d\u0435 \u0447\u0435\u0440\u0438\u043f\u0438\u043a\u043d\u0443\u0442\u044b\u0445, \u043f\u043e \u043d\u0438\u043c \u0438 \u043f\u0440\u0430\u0432\u0434\u0430 \u0432\u0438\u0434\u043d\u043e \u0447\u0442\u043e Meena \u0445\u043e\u0440\u043e\u0448\u0430.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 ppl \u0438 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0439 SSA, \u0445\u043e\u0442\u044f \u0434\u043e\u043b\u0433\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0441\u0447\u0438\u0442\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0434\u0438\u0430\u043b\u043e\u0433\u043e\u0432\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043b\u043e\u0436\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0442\u044c \u0434\u0440\u0443\u0433 \u0441 \u0434\u0440\u0443\u0433\u043e\u043c \u043d\u0430 \u0430\u0432\u0442\u043e\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043c\u0435\u0442\u0440\u0438\u043a\u0430\u0445 \u043f\u043e \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u0438\u0445 \u0441\u043b\u0430\u0431\u043e\u0439 \u043a\u043e\u0440\u0440\u0435\u043b\u044f\u0446\u0438\u0438 \u0441 \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0438\u043c\u0438.<\/p>\n<p>  <\/p>\n<h3 id=\"7-positive-algorithmic-bias-cannot-stop-fragmentation-in-homophilic-social-networks\">7. Positive Algorithmic Bias Cannot Stop Fragmentation in Homophilic Social Networks<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Christian Blex, Taha Yasseri (Oxford, London, UK, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2001.02878v1\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0421\u0435\u043c\u0435\u043d \u0421\u0438\u043d\u0447\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 sem)<\/p>\n<p>  <\/p>\n<p><strong>TL;DR<\/strong><br \/>  \u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0438\u0448\u0443\u0442 \u043e \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0432 \u0441\u043e\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0441\u0435\u0442\u044f\u0445. \u041b\u044e\u0431\u0430\u044f \u0441\u043e\u0446\u0438\u0430\u043b\u044c\u043d\u0430\u044f \u0441\u0435\u0442\u044c, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0435\u0441\u0442\u044c \u043c\u0430\u043b\u0435\u0439\u0448\u0438\u0439 preferential attchment \u043f\u0440\u043e\u0446\u0435\u0441\u0441, \u0440\u0430\u043d\u043e \u0438\u043b\u0438 \u043f\u043e\u0437\u0434\u043d\u043e \u0441\u043a\u0430\u0442\u0438\u0442\u0441\u044f \u043a \u043f\u043e\u043b\u043d\u043e\u0439 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438. \u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430 \u044d\u0442\u043e\u0433\u043e \u0434\u043b\u044f \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0414\u0430\u043b\u0435\u0435 \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0432\u044f\u0442 \u0432\u043e\u043f\u0440\u043e\u0441, \u043c\u043e\u0433\u0443\u0442 \u043b\u0438 \u0430\u0434\u043c\u0438\u043d\u0438\u0441\u0442\u0440\u0430\u0442\u043e\u0440\u044b \u0441\u0435\u0442\u0438 \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0430 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438. \u0418 \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u0441\u043e\u0445\u0440\u0430\u043d\u0435\u043d\u0438\u0435 \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u044f \u0438 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u043e\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u044f \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043d\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e.<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u043e\u043f\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043d\u0430 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0441\u0442\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c: \u043c\u044b \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u043c \u0441 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0441\u0435\u0442\u0438, \u0433\u0434\u0435 \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0432\u0435\u0440\u0448\u0438\u043d\u044b \u0435\u0441\u0442\u044c \u043e\u0434\u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u0430 \u0441\u0432\u044f\u0437\u044c. \u0412\u0441\u0435 \u0432\u0435\u0440\u0448\u0438\u043d\u044b \u0434\u0432\u0443\u0445 \u0440\u0430\u0437\u043d\u044b\u0445 \u0446\u0432\u0435\u0442\u043e\u0432. \u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u0432\u0435\u0440\u0448\u0438\u043d\u044b \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043d\u043e\u0432\u0430\u044f \u0441\u0432\u044f\u0437\u044c \u0441 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0435\u043d\u0438\u0435\u043c (\u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0435\u043d\u0438\u0435 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0441\u043a\u043b\u043e\u043d\u043d\u043e\u0441\u0442\u044f\u043c\u0438 \u043b\u044e\u0434\u0435\u0439, \u0442\u0430\u043a \u0438 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u043c\u0438) \u0432 \u043f\u043e\u043b\u044c\u0437\u0443 &quot;\u0441\u0432\u043e\u0435\u0433\u043e&quot; \u0446\u0432\u0435\u0442\u0430. \u0427\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u0435 \u0438\u043c\u0435\u044e\u0449\u0438\u0445\u0441\u044f \u0441\u0432\u044f\u0437\u0435\u0439, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0442\u0435\u043d\u0438\u0435. \u0421 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e &quot;\u0437\u0430\u0431\u044b\u0432\u0430\u0435\u0442\u0441\u044f&quot; \u043e\u0434\u043d\u0430 \u0438\u0437 \u0441\u0442\u0430\u0440\u044b\u0445 \u0441\u0432\u044f\u0437\u0435\u0439, \u043f\u0440\u0438\u0447\u0435\u043c \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0437\u0430\u0431\u044b\u0442\u044c &quot;\u0434\u043e\u043b\u0433\u043e\u0436\u0438\u0432\u0443\u0449\u0443\u044e&quot; \u0441\u0432\u044f\u0437\u044c \u043c\u0435\u043d\u044c\u0448\u0435. \u0410\u0432\u0442\u043e\u0440\u044b \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u0442\u0430\u043a\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0435 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442 \u043a \u043f\u043e\u043b\u043d\u043e\u0439 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c \u0441\u043b\u0430\u0431\u044b\u0435 \u0441\u0432\u044f\u0437\u0438 (aka \u0434\u0440\u0443\u0437\u044c\u044f \u0434\u0440\u0443\u0437\u0435\u0439). \u0414\u0430\u043b\u044c\u0448\u0435 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c, \u0438\u043c\u0438\u0442\u0438\u0440\u0443\u044e\u0449\u0438\u0439 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0430\u0434\u043c\u0438\u043d\u0438\u0441\u0442\u0440\u0430\u0442\u043e\u0440\u043e\u0432 \u0441\u0435\u0442\u0438 \u0432\u043b\u0438\u044f\u0442\u044c \u043d\u0430 \u0446\u0432\u0435\u0442 (\u0442\u0438\u043f\u0430 \u043c\u044b \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0438 \u0441\u0432\u044f\u0437\u0435\u0439), \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0435 \u043d\u0435 \u0441\u043f\u043e\u0441\u043e\u0431\u0435\u043d \u0443\u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u0435 \u0441\u0432\u044f\u0437\u0435\u0439 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 0.5.<\/p>\n<p>  <\/p>\n<p>\u041f\u043b\u044e\u0441\u044b:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0418\u043d\u0442\u0440\u0438\u0433\u0443\u044e\u0449\u0430\u044f \u0442\u0435\u043c\u0430<\/li>\n<li>\u0418\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430 \u0441\u0430\u043c\u0430 \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430<\/li>\n<li>\u0421\u0442\u0440\u043e\u0433\u0438\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041c\u0438\u043d\u0443\u0441\u044b:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0412\u0441\u0435 \u0432 \u043f\u0440\u0435\u0434\u0435\u043b\u0430\u0445 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0433\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0438 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0441\u0435\u0442\u0438<\/li>\n<li>\u0422\u043e, \u0447\u0442\u043e \u043d\u0435\u043b\u044c\u0437\u044f \u0443\u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u0438\u0435 \u0441\u0432\u044f\u0437\u0435\u0439 \u043d\u0430 \u0443\u0440\u043e\u0432\u043d\u0435 0.5 \u043c\u0430\u043b\u043e \u043e \u0447\u0435\u043c \u0433\u043e\u0432\u043e\u0440\u0438\u0442: \u044d\u0442\u043e \u043a\u0430\u043a \u0432 \u0430\u043d\u0435\u043a\u0434\u043e\u0442\u0435 \u043f\u0440\u043e \u0444\u0438\u0437\u0438\u043a\u0430-\u0442\u0435\u043e\u0440\u0435\u0442\u0438\u043a\u0430, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u043f\u043e\u043f\u0440\u043e\u0441\u0438\u043b\u0438 \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0441\u0442\u0443\u043b\u0430 \u0441 \u0442\u0440\u0435\u043c\u044f \u043d\u043e\u0436\u043a\u0430\u043c\u0438 (\u043b\u0435\u0433\u043a\u043e \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u043e\u0441\u0442\u044c \u0441\u0442\u0443\u043b\u0430 \u0441 \u043d\u0443\u043b\u0435\u043c \u0438 \u0431\u0435\u0441\u043a\u043e\u043d\u0435\u0447\u043d\u044b\u043c \u0447\u0438\u0441\u043b\u043e\u043c \u043d\u043e\u0436\u0435\u043a, \u043d\u043e \u0441 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u043e\u043c \u0447\u0438\u0441\u043b\u043e\u043c \u043d\u043e\u0436\u0435\u043a \u0432\u043e\u0437\u043d\u0438\u043a\u0430\u044e\u0442 \u0442\u0440\u0443\u0434\u043d\u043e\u0441\u0442\u0438)<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0412\u0441\u043f\u043e\u043c\u043d\u0438\u043b\u0430\u0441\u044c \u0441\u0442\u0430\u0442\u044c\u044f (\u043d\u0435 \u043f\u043e\u043c\u043d\u044e \u0433\u0434\u0435) \u043e \u0442\u043e\u043c, \u0447\u0442\u043e \u043b\u044e\u0434\u0438 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u0432\u0448\u0438\u0435 \u0437\u0430 \u0425\u0438\u043b\u043b\u0430\u0440\u0438 \u0432 \u0421\u0428\u0410 \u043f\u0438\u0441\u0430\u043b\u0438, \u0447\u0442\u043e \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u044e\u0442, \u043a\u0442\u043e \u0433\u043e\u043b\u043e\u0441\u0443\u0435\u0442 \u0437\u0430 \u0422\u0440\u0430\u043c\u043f\u0430, \u0442\u0430\u043a \u043a\u0430\u043a \u0432\u0441\u0435, \u043a\u043e\u0433\u043e \u043e\u043d\u0438 \u0437\u043d\u0430\u044e\u0442 \u0442\u043e\u0436\u0435 \u0433\u043e\u043b\u043e\u0441\u043e\u0432\u0430\u043b\u0438 \u0437\u0430 \u0425\u0438\u043b\u043b\u0430\u0440\u0438: \u043a\u0430\u0436\u0435\u0442\u0441\u044f \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f \u044d\u0442\u043e \u043d\u0430\u0448\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c. \u041d\u0435 \u044f\u0441\u043d\u043e, \u0432 \u0447\u0435\u043c \u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u044c \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u043c\u043e\u0436\u0435\u0442 \u0432 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438? \u0418\u043b\u0438 \u0431\u044b\u0441\u0442\u0440\u043e\u043c \u0434\u043e\u0441\u0442\u0438\u0436\u0435\u043d\u0438\u0438 \u043f\u0440\u0435\u0434\u0435\u043b\u043e\u0432 \u0440\u043e\u0441\u0442\u0430? \u0412 \u0446\u0435\u043b\u043e\u043c \u043f\u043e\u0441\u0442\u0430\u043d\u043e\u0432\u043a\u0430 \u0432\u043e\u043f\u0440\u043e\u0441\u0430 \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0440\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0432\u043b\u0438\u044f\u0442\u044c \u043d\u0430 \u043f\u0440\u043e\u0446\u0435\u0441\u0441 \u0444\u0440\u0430\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u043b\u044e\u0431\u043e\u043f\u044b\u0442\u043d\u0430\u044f \u0438 \u043a\u0430\u0436\u0435\u0442\u0441\u044f, \u044d\u0442\u0430 \u0442\u0435\u043c\u0430 \u0434\u043e\u0432\u043e\u043b\u044c\u043d\u043e \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u0430.<\/p>\n<p>  <\/p>\n<h3 id=\"8-bert-of-theseus-compressing-bert-by-progressive-module-replacing\">8. BERT-of-Theseus: Compressing BERT by Progressive Module Replacing<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Canwen Xu, Wangchunshu Zhou, Tao Ge, Furu Wei, Ming Zhou (Wuhan and Beihang Universities, Microsoft Research Asia, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2002.02925\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/JetRunner\/BERT-of-Theseus\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0439 \u043c\u0435\u0442\u043e\u0434 Knowledge Distillation \u0438 \u0434\u0438\u0441\u0442\u0438\u043b\u044c\u043d\u0443\u043b\u0438 \u0441 \u043d\u0438\u043c BERT, \u043f\u043e\u043b\u0443\u0447\u0438\u0432 x1.98 \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c \u043f\u0440\u0438 98% \u043f\u0435\u0440\u0444\u043e\u043c\u0430\u043d\u0441\u0430 (\u0447\u0442\u043e \u043b\u0443\u0447\u0448\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0430 \u0434\u0440\u0443\u0433\u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432). \u0411\u043e\u043b\u0435\u0435 \u0442\u043e\u0433\u043e, \u043f\u043e\u0434\u0445\u043e\u0434 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f model-agnostic \u0438 \u043d\u0435 \u0442\u0440\u0435\u0431\u0443\u0435\u0442 \u0438\u0437\u043e\u0431\u0440\u0435\u0442\u0435\u043d\u0438\u044f \u043a\u0430\u043a\u0438\u0445-\u0442\u043e \u043e\u0441\u043e\u0431\u044b\u0445 distillation \u043b\u043e\u0441\u0441\u043e\u0432, \u0443\u0447\u0438\u0442\u0441\u044f \u043f\u043e\u0447\u0442\u0438 \u043a\u0430\u043a \u043e\u0431\u044b\u0447\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c end-to-end. \u041f\u043e\u0434\u0445\u043e\u0434 \u0432\u0434\u043e\u0445\u043d\u043e\u0432\u043b\u0451\u043d \u043f\u0430\u0440\u0430\u0434\u043e\u043a\u0441\u043e\u043c \u0422\u0435\u0441\u0435\u044f (\u0415\u0441\u043b\u0438 \u0432\u0441\u0435 \u0441\u043e\u0441\u0442\u0430\u0432\u043d\u044b\u0435 \u0447\u0430\u0441\u0442\u0438 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u0430 \u0431\u044b\u043b\u0438 \u0437\u0430\u043c\u0435\u043d\u0435\u043d\u044b, \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442 \u0442\u0435\u043c \u0436\u0435 \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u043c?) \u0438 \u043d\u0430\u0437\u0432\u0430\u043d Theseus Compression.<\/p>\n<p>  <\/p>\n<p>\u0421\u0443\u0442\u044c \u0435\u0433\u043e \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u0434\u0435\u043b\u0438\u0442\u0441\u044f \u043d\u0430 \u0443\u0447\u0430\u0441\u0442\u043a\u0438 \u043f\u043e \u0441\u043b\u043e\u044f\u043c, \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0441\u0442\u0430\u0432\u044f\u0442\u0441\u044f \u0432 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0438\u0435 \u0431\u043e\u043b\u0435\u0435 \u043b\u0435\u0433\u043a\u0438\u0435 \u0430\u043d\u0430\u043b\u043e\u0433\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 &quot;\u043f\u0440\u0438\u0441\u043e\u0435\u0434\u0438\u043d\u044f\u044e\u0442\u0441\u044f&quot; \u043a \u0442\u0435\u043c \u0436\u0435 \u0432\u0445\u043e\u0434\u0430\u043c-\u0432\u044b\u0445\u043e\u0434\u0430\u043c. \u0412\u0441\u0451 \u044d\u0442\u043e \u0443\u0447\u0438\u0442\u0441\u044f \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e, \u0430 \u0432 \u043a\u043e\u043d\u0446\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0437\u0430\u043c\u0435\u0449\u0430\u0435\u0442\u0441\u044f \u043f\u043e\u043a\u0443\u0441\u043e\u0447\u043d\u043e \u044d\u0442\u0438\u043c\u0438 \u043b\u0435\u0433\u043a\u0438\u043c\u0438 \u0430\u043d\u0430\u043b\u043e\u0433\u0430\u043c\u0438, \u0432 \u0438\u0442\u043e\u0433\u0435 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043b\u0435\u0433\u043a\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c. \u0418\u0441\u0445\u043e\u0434\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0437\u044b\u0432\u0430\u044e\u0442 predecessor, \u0430 \u043c\u043e\u0434\u0435\u043b\u044c-\u0437\u0430\u043c\u0435\u0441\u0442\u0438\u0442\u0435\u043b\u044c \u2014 successor (\u0432 \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u0432\u0435\u0441 teacher-student)<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ni\/9j\/mw\/ni9jmw4hqn2kxeedrb1igpbylr0.png\">  <\/p>\n<p>\u0412 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f forward \u043f\u0430\u0441\u0441 \u0438\u0434\u0451\u0442 \u0447\u0435\u0440\u0435\u0437 \u043a\u0430\u0436\u0434\u0443\u044e \u0433\u0440\u0443\u043f\u043f\u0443 \u043c\u043e\u0434\u0443\u043b\u0435\u0439 \u0441 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c\u044e p, \u0447\u0442\u043e \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430 \u0414\u0440\u043e\u043f\u0430\u0443\u0442 \u0438 \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0435\u0442\u0441\u044f \u0430\u0432\u0442\u043e\u0440\u0430\u043c\u0438 \u043a\u0430\u043a \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u044f. \u0422\u043e \u0435\u0441\u0442\u044c, \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0441\u0430\u0431\u0431\u043b\u043e\u043a\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0440\u0430\u043d\u0434\u043e\u043c\u043d\u043e\u0435 \u043e\u0442\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043b\u0438\u0431\u043e predecessor, \u043b\u0438\u0431\u043e successor.<\/p>\n<p>  <\/p>\n<p>\u0412\u0435\u0441\u0430 \u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u044b \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043c\u043e\u0434\u0443\u043b\u0435\u0439, \u043a\u0440\u043e\u043c\u0435 \u043c\u043e\u0434\u0443\u043b\u0435\u0439 successor, \u043d\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0432\u0441\u0451 \u0440\u0430\u0432\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u044e\u0442\u0441\u044f \u0441 \u0443\u0447\u0451\u0442\u043e\u043c predessor (\u0442.\u043a. \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f \u0447\u0435\u0440\u0435\u0437 \u043d\u0438\u0445 \u0442\u043e\u0436\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442). \u041e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u0438\u0442 \u0441 \u043e\u0431\u044b\u0447\u043d\u044b\u043c task-specific \u043b\u043e\u0441\u0441\u043e\u043c, CE, BCE, whatever, \u0447\u0442\u043e \u043e\u0431\u043b\u0435\u0433\u0447\u0430\u0435\u0442 \u043f\u043e\u0434\u0431\u043e\u0440 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>\u0423 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0437\u0430\u043c\u0435\u043d\u044b \u0431\u043b\u043e\u043a\u0430 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043e \u0434\u0432\u0430 \u0440\u0435\u0436\u0438\u043c\u0430 \u2014 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043d\u044b\u0439 \u0438 \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u044e\u0449\u0438\u0439\u0441\u044f. \u0412 \u043b\u044e\u0431\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043f\u043e\u0441\u043b\u0435 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u044d\u043f\u043e\u0445 \u0437\u0430\u043c\u0435\u0449\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0435\u0449\u0451 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0435 \u0432\u0440\u0435\u043c\u044f \u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0442\u0441\u044f \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e. <\/p>\n<p>  <\/p>\n<p>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0440\u0435\u043f\u043e\u0440\u0442\u044f\u0442 \u043a\u0430\u043a \u0421\u041e\u0422\u0410 \u0434\u043b\u044f knowledge distillation (\u043d\u0443 \u0430 \u043a\u043e\u0433\u0434\u0430 \u0440\u0435\u043f\u043e\u0440\u0442\u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u0435). \u041f\u043e\u0434\u0445\u043e\u0434 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043f\u043e\u0434\u0445\u043e\u0434\u0438\u0442 \u0434\u043b\u044f \u043b\u044e\u0431\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u0432 \u0442\u0447 \u0438 \u0434\u043b\u044f \u0420\u0435\u0437\u043d\u0435\u0442\u043e\u0432 \u0438 \u0433\u0440\u0430\u0444\u043e\u0432\u044b\u0445. \u0410\u0432\u0442\u043e\u0440\u044b \u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u0432 \u0431\u0443\u0434\u0443\u0449\u0435\u043c \u043f\u043e\u0440\u0435\u0441\u0435\u0440\u0447\u0438\u0442\u044c \u044d\u0442\u0443 \u0442\u0435\u043c\u0443<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/_n\/as\/sr\/_nassrmkl1wdnphraagh5zvx2he.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"9-a-simple-framework-for-contrastive-learning-of-visual-representations\">9. A Simple Framework for Contrastive Learning of Visual Representations<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Ting Chen, Simon Kornblith, Mohammad Norouzi, Geoffrey Hinton (Google Research, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2002.05709\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/google-research\/simclr\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p><strong>TL;DR<\/strong><br \/>  \u041d\u043e\u0432\u0430\u044f \u0421\u041e\u0422\u0410 \u0432 representation learning (\u0438 \u043f\u043e\u0447\u0442\u0438 \u0441\u043e\u0442\u0430 \u0432 semi-supervised \u0438 self-supervised) \u043e\u0442 Google Brain, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u0432\u043e\u0435\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0442\u043e\u0439 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043d\u0430\u043c, \u0447\u0442\u043e representation learning \u0435\u0449\u0451 \u043e\u0447\u0435\u043d\u044c \u0441\u043b\u0430\u0431\u043e \u0438\u0437\u0443\u0447\u0435\u043d<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b (\u043e\u0434\u0438\u043d \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u2014 \u0425\u0438\u043d\u0442\u043e\u043d) \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a SimCLR (simple framework for contrastive learning of visual representation), \u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0441\u043c\u043e\u0433\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u043f\u043e\u0432\u0435\u0440\u0445 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u043e\u043a\u0430\u0437\u0430\u043b 76.5% \u0442\u043e\u043f-1 \u043d\u0430 \u0438\u043c\u0430\u0434\u0436\u043d\u0435\u0442\u0435. \u0415\u0441\u043b\u0438 \u0435\u0433\u043e \u0437\u0430\u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0438\u0442\u044c \u043d\u0430 1% \u043e\u0442 \u0432\u0441\u0435\u0445 \u043b\u0435\u0439\u0431\u043b\u043e\u0432 \u0438\u043c\u0430\u0434\u0436\u043d\u0435\u0442\u0430, \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f 85.8% \u0442\u043e\u043f-5 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c.<\/p>\n<p>  <\/p>\n<p>\u0412 \u0440\u0430\u0431\u043e\u0442\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u043f\u043e\u0434\u0431\u043e\u0440 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0439 \u0438\u043c\u0435\u0435\u0442 \u043a\u0440\u0438\u0442\u0438\u0447\u0441\u043a\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u044d\u0442\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438<\/li>\n<li>MLP \u043f\u043e\u0432\u0435\u0440\u0445 \u0444\u0438\u0447\u0435\u0439 \u0441\u0435\u0442\u0438, \u0432\u044b\u0443\u0447\u0438\u0432\u0448\u0435\u0439 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438, \u043e\u0447\u0435\u043d\u044c \u0441\u0438\u043b\u044c\u043d\u043e \u0434\u043e\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442 \u043f\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0443<\/li>\n<li>contrastive learning \u0441\u0438\u043b\u044c\u043d\u043e \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u043e\u0442 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0431\u0430\u0442\u0447\u0435\u0439, \u0436\u0438\u0440\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0434\u043e\u043b\u0433\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/li>\n<\/ul>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hw\/px\/zj\/hwpxzjtpymhicqrxvhk81l_psou.png\" width=\"500\" height=\"250\">  <\/p>\n<p>\u0421\u0443\u0442\u044c \u043f\u043e\u0434\u0445\u043e\u0434\u0430:<\/p>\n<p>  <\/p>\n<ol>\n<li>\u043d\u0430\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0431\u0430\u0442\u0447 \u0438\u0437 N \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439<\/li>\n<li>\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u0443\u044e\u0442\u0441\u044f (\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u043e\u0441\u044c \u0432\u0441\u0435\u0433\u043e \u0422\u0420\u0418 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 (\u0440\u0430\u043d\u0434\u043e\u043c\u043a\u0440\u043e\u043f+\u0440\u0435\u0441\u0430\u0439\u0437, \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0446\u0432\u0435\u0442\u043e\u0432\u044b\u0435 \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u044f, \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u0433\u0430\u0443\u0441\u0441 \u0431\u043b\u044e\u0440)<\/li>\n<li>\u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0430-\u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u044d\u043a\u0441\u0442\u0440\u0430\u043a\u0442\u0438\u0442 \u0444\u0438\u0447\u0438 (\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f ResNet)<\/li>\n<li>\u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0430\u044f projection head \u0434\u0435\u043b\u0430\u0435\u0442 \u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u0443\u044e \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044e (\u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e \u043e\u0434\u043d\u043e\u0441\u043b\u043e\u0439\u043d\u043e\u0433\u043e MLP) \u0432 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e, \u0433\u0434\u0435 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043b\u043e\u0441\u0441<\/li>\n<li>\u043d\u0430\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432 \u043b\u043e\u0441\u0441 (\u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0441\u044f \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043e\u0434\u043d\u043e\u0433\u043e \u0438 \u0442\u043e\u0433\u043e \u0436\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0437\u0430\u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0445\u043e\u0436\u0438\u043c\u0438)<\/li>\n<\/ol>\n<p>  <\/p>\n<p><strong>\u041a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432 \u043b\u043e\u0441\u0441<\/strong> \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u0418\u0437 2N \u043f\u043e\u043b\u0443\u0447\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u043d\u0430 \u043e\u0434\u043d\u0443 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u0443\u044e \u043f\u0430\u0440\u0443 \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f 2(N-1) \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445. \u041b\u043e\u0441\u0441 \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0434\u043b\u044f \u0432\u0441\u0435\u0445 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0430\u0440 \u043f\u043e \u0444\u043e\u0440\u043c\u0443\u043b\u0435 \u043d\u0438\u0436\u0435: <\/p>\n<p>  <\/p>\n<p><math><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/767\/fd9\/b76\/767fd9b767dfc4599ad98055dce9e496.svg\" alt=\"$l_{i,j} = -log \\frac{exp(sim(z_i,z_j)\/\\tau)}{\\sum^{2N}_{k=1} \\mathbb{1}_{[k\\neq i]} exp(sim(z_i,z_k)\/\\tau)}$\" data-tex=\"display\"><\/math><\/p>\n<p>  <\/p>\n<p>\u0433\u0434\u0435 sim \u2014 \u044d\u0442\u043e cosine similarity \u043c\u0435\u0436\u0434\u0443 \u0432\u0435\u043a\u0442\u043e\u0440\u0430\u043c\u0438, 1 \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440\u043d\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f, \u0441\u0443\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e\u0431 \u043d\u0435 \u0441\u0447\u0438\u0442\u0430\u0442\u044c similarity \u043c\u0435\u0436\u0434\u0443 \u043e\u0434\u043d\u0438\u043c \u0438 \u0442\u0435\u043c \u0436\u0435 \u0441\u0435\u043c\u043f\u043b\u043e\u043c( 1=1 if k!=i), t \u2014 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0430. \u042d\u0442\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u0443\u0436\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u0430 \u0438 \u043d\u043e\u0441\u0438\u0442 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 NT-Xent (the normalized temperature-scaled cross entropy loss). <\/p>\n<p>  <\/p>\n<p>\u0423\u0447\u0438\u043b\u0438 \u043d\u0430 \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0431\u0430\u0442\u0447\u0430\u0445, \u043e\u0442 256 \u0434\u043e 8192. \u0422\u0430\u043a \u043a\u0430\u043a SGD \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0431\u0430\u0442\u0447\u0430\u0445 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043d\u0435\u0441\u0442\u0430\u0431\u0438\u043b\u0435\u043d, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440 LARS. \u0423\u0447\u0438\u043b\u0438 \u043d\u0430 Cloud TPU, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043e\u0442 32 \u0434\u043e 128 \u044f\u0434\u0435\u0440 (\u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u0431\u0430\u0442\u0447\u0430). \u041d\u0430 128 TPUv3 \u044f\u0434\u0440\u0430\u0445 \u0437\u0430\u043d\u0438\u043c\u0430\u043b\u043e 1.5 \u0447\u0430\u0441\u0430 \u043e\u0431\u0443\u0447\u0438\u0442\u044c ResNet-50 \u043d\u0430 \u0431\u0430\u0442\u0447\u0441\u0430\u0439\u0437\u0435 4096, 100 \u044d\u043f\u043e\u0445.<\/p>\n<p>  <\/p>\n<p>\u0418\u0437\u0443\u0447\u0438\u043b\u0438 \u043e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043d\u044b\u0445 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0439, \u043d\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0414\u043b\u044f \u0442\u0430\u043a\u043e\u0439 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043b\u043e\u0441\u0441\u0430 \u043b\u0443\u0447\u0448\u0435 \u0432\u0441\u0435\u0433\u043e \u0437\u0430\u0445\u043e\u0434\u0438\u0442 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u0438\u0437 \u0442\u0440\u0451\u0445 (\u043a\u0440\u043e\u043f-\u0440\u0435\u0441\u0430\u0439\u0437, \u0446\u0432\u0435\u0442, \u0433\u0430\u0443\u0441\u0441 \u0431\u043b\u044e\u0440).<\/li>\n<li>\u041a\u043e\u043c\u043f\u043e\u0437\u0438\u0446\u0438\u044f \u0430\u0443\u0433\u043e\u0432 \u0438\u043c\u0435\u0435\u0442 \u043a\u0440\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u0430\u0436\u043d\u043e\u0435 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u0435. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0430\u0441\u0441\u0438\u043c\u0435\u0442\u0440\u0438\u0447\u043d\u0443\u044e \u0441\u0445\u0435\u043c\u0443 \u2014 \u0432 \u043f\u0430\u0440\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043a\u0440\u043e\u043f-\u0440\u0435\u0441\u0430\u0439\u0437\u0438\u043b\u0438\u0441\u044c \u043e\u0431\u0430, \u0430 \u0432\u043e\u0442 \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u0430\u0443\u0433\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u043b\u0438\u0441\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043a \u043e\u0434\u043d\u043e\u043c\u0443.<\/li>\n<li>\u041a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432 \u043b\u0435\u0440\u043d\u0438\u043d\u0433 \u043d\u0443\u0436\u0434\u0430\u0435\u0442\u0441\u044f \u0432 \u0431\u043e\u043b\u0435\u0435 \u0441\u0438\u043b\u044c\u043d\u044b\u0445 \u0430\u0443\u0433\u0430\u0445, \u0447\u0435\u043c \u0441\u0443\u043f\u0435\u0440\u0432\u0430\u0439\u0437\u0435\u0434 \u043b\u0435\u0440\u043d\u0438\u043d\u0433<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041f\u043e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 projection head:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432 \u043b\u0435\u0440\u043d\u0438\u043d\u0433 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u043e\u0442 \u0431\u043e\u043b\u0435\u0435 \u0436\u0438\u0440\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439<\/li>\n<li>\u043d\u0435\u043b\u0438\u043d\u0435\u0439\u043d\u0430\u044f \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u044f \u0444\u0438\u0447\u0435\u0439 \u043f\u0435\u0440\u0435\u0434 \u043f\u043e\u0434\u0441\u0447\u0451\u0442\u043e\u043c \u043b\u043e\u0441\u0441\u0430 \u0443\u043b\u0443\u0447\u0448\u0430\u0435\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u044d\u0442\u0438\u0445 \u0444\u0438\u0447\u0435\u0439 (\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u0444\u0438\u0447\u0438 \u043f\u0435\u0440\u0435\u0434 projection head!)<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041f\u043e \u043b\u043e\u0441\u0441\u0443:<\/p>\n<p>  <\/p>\n<ul>\n<li>NT-Xent \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043b\u0443\u0447\u0448\u0435 \u0434\u0440\u0443\u0433\u0438\u0445 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432 (\u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0435\u043d\u044b \u0432 \u0441\u0442\u0430\u0442\u044c\u0435)<\/li>\n<li>\u043a\u043e\u043d\u0442\u0440\u0430\u0441\u0442\u0438\u0432 \u043b\u0435\u0440\u043d\u0438\u043d\u0433 \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0435\u0442 \u043e\u0442 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0431\u0430\u0442\u0447 \u0441\u0430\u0439\u0437\u043e\u0432 \u0438 \u0434\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0447\u0435\u043c \u0441\u0443\u043f\u0435\u0440\u0432\u0430\u0439\u0437\u0435\u0434 (\u043e\u0431\u044a\u044f\u0441\u043d\u044f\u044e\u0442 \u0442\u0435\u043c, \u0447\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u044d\u043c\u043f\u043b\u043e\u0432 \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435)<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u041d\u0430 12 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 (\u043d\u0435 Imagenet) \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u043f\u043e\u0432\u0435\u0440\u0445 \u0432\u044b\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u0444\u0438\u0447\u0435\u0439 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0441\u0440\u0430\u0432\u043d\u0438\u043c\u044b\u0435 \u0441 supervised \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b. \u0417\u0430\u0444\u0430\u0439\u043d\u0442\u044e\u043d\u0435\u043d\u043d\u0430\u044f \u0441\u0435\u043b\u0444-\u0441\u0443\u043f\u0435\u0440\u0432\u0430\u0439\u0437\u0435\u0434 \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043b\u0443\u0447\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b, \u0447\u0435\u043c \u0441\u0443\u043f\u0435\u0440\u0432\u0430\u0439\u0437\u0435\u0434 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d\u044b \u043d\u0430 10 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 \u0438\u0437 12.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/cw\/43\/qf\/cw43qfvuj0dujfraiu_o2jhmezy.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p>\u0412 \u0437\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u0434\u0435\u043b\u0430\u044e\u0442 \u0432\u044b\u0432\u043e\u0434, \u0447\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e\u0442\u0430 \u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u0443\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043c\u0435\u0442\u043e\u0434\u043e\u0432, \u0438 \u0447\u0442\u043e \u0441\u0438\u043b\u0430 \u0442\u0430\u043a\u043e\u0433\u043e \u043f\u0440\u043e\u0441\u0442\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0442\u043e\u043c, \u0447\u0442\u043e self-supervised \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0432\u0441\u0451 \u0435\u0449\u0451 \u043e\u0441\u0442\u0430\u0451\u0442\u0441\u044f \u0441\u0438\u043b\u044c\u043d\u043e \u043d\u0435\u0434\u043e\u0438\u0437\u0443\u0447\u0435\u043d\u043d\u044b\u043c<\/p>\n<p>  <\/p>\n<h3 id=\"10-badgr-an-autonomous-self-supervised-learning-based-navigation-system\">10. BADGR: An Autonomous Self-Supervised Learning-Based Navigation System<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Gregory Kahn, Pieter Abbeel, Sergey Levine (Berkeley AI Research, USA, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2002.05700\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/gkahn13\/badgr\">GitHub project<\/a> :: <a href=\"https:\/\/sites.google.com\/view\/badgr\">Video<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p>\u0427\u0430\u0441\u0442\u043e \u043d\u0430\u0432\u0438\u0433\u0430\u0446\u0438\u044f \u043c\u043e\u0431\u0438\u043b\u044c\u043d\u044b\u0445 \u0440\u043e\u0431\u043e\u0442\u043e\u0432 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0441\u043e\u0431\u043e\u0439 \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443, \u0433\u0434\u0435 \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0433\u0435\u043e\u043c\u0435\u0442\u0440\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u043a\u0430\u0440\u0442\u0430 \u043c\u0438\u0440\u0430, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0443\u0436\u0435 \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435. \u0422\u0430\u043a\u043e\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u0444\u0435\u0439\u043b\u0438\u0442\u0441\u044f, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0432 \u0442\u0440\u0430\u0432\u0435 \u2014 \u0435\u0451 \u0432\u043f\u043e\u043b\u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u043e\u0435\u0445\u0430\u0442\u044c \u0440\u043e\u0431\u043e\u0442, \u043d\u043e \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0432\u0438\u0433\u0430\u0446\u0438\u0438 \u0441\u0447\u0438\u0442\u0430\u0435\u0442 \u0442\u0440\u0430\u0432\u0443 \u043d\u0435\u043f\u0440\u0435\u043e\u0434\u043e\u043b\u0438\u043c\u044b\u043c \u043f\u0440\u0435\u043f\u044f\u0442\u0441\u0442\u0432\u0438\u0435\u043c. \u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0443, \u043a\u043e\u0442\u043e\u0440\u0443\u044e \u043d\u0430\u0437\u0432\u0430\u043b\u0438 BADGR\u2014Berkeley Autonomous Driving Ground Robot.<\/p>\n<p>  <\/p>\n<p>\u0421\u0443\u0442\u044c \u0435\u0451 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043d\u0430 \u0440\u043e\u0431\u043e\u0442\u0430 \u043d\u0430\u0432\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0441\u0435\u043d\u0441\u043e\u0440\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u044e\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u0441\u0442\u043e\u043b\u043a\u043d\u043e\u0432\u0435\u043d\u0438\u044f, \u043d\u0435\u0440\u043e\u0432\u043d\u0443\u044e \u0434\u043e\u0440\u043e\u0433\u0443, \u0441\u044a\u0435\u0437\u0434 \u0432 \u043a\u044e\u0432\u0435\u0442 \u0438 \u0442\u043f, \u0442.\u0435. \u043d\u0435\u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435. \u0417\u0430\u0442\u0435\u043c \u0440\u043e\u0431\u043e\u0442 \u043e\u0442\u043f\u0440\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432 \u043f\u0443\u0442\u0435\u0448\u0435\u0441\u0442\u0432\u0438\u0435 \u043f\u043e \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0440\u0435\u0434\u0435, \u0441\u043e\u0431\u0438\u0440\u0430\u044f \u0434\u0430\u043d\u043d\u044b\u0435 \u0438 \u0440\u0430\u0437\u043c\u0435\u0447\u0430\u044f \u0438\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0438 (\u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0441\u044d\u043c\u043f\u043b\u044b \u2014 \u043a\u0430\u043a \u0440\u0430\u0437 \u043d\u0435\u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u0435). \u041f\u043e\u0441\u043b\u0435 \u0440\u0430\u0437\u043c\u0435\u0442\u043a\u0438 \u0440\u043e\u0431\u043e\u0442 \u043e\u0431\u0443\u0447\u0430\u0435\u0442 CNN-LSTM \u043c\u043e\u0434\u0435\u043b\u044c\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0438\u0437 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0441 \u043a\u0430\u043c\u0435\u0440\u044b \u0441\u044d\u043c\u043f\u043b\u0438\u0442 \u043f\u043b\u0430\u043d\u0438\u0440\u0443\u0435\u043c\u044b\u0435 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u0438 \u0438\u0445 \u043f\u043e\u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u044f, \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0447\u0435\u0433\u043e \u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043b\u0430\u043d \u0434\u0432\u0438\u0436\u0435\u043d\u0438\u044f.<\/p>\n<p>  <\/p>\n<p>\u0420\u043e\u0431\u043e\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f Cearpath Jackak, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0441\u0442\u043e\u044f\u043b\u0438 6-DOF IMU sensors + GPS + wheel velocity sensors. \u0414\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u0434\u0432\u0435 \u043a\u0430\u043c\u0435\u0440\u044b 170 deg FOV 640&#215;480, \u043b\u0438\u0434\u0430\u0440 \u0438 \u043a\u043e\u043c\u043f\u0430\u0441. \u041d\u0430 \u0440\u043e\u0431\u043e\u0442\u0435 \u0443\u0441\u0442\u0430\u043d\u043e\u0432\u043b\u0435\u043d NVIDIA jetson TX2 \u0438 4G \u0441\u043c\u0430\u0440\u0442\u0444\u043e\u043d, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u043b \u0432\u0435\u0441\u0442\u0438 \u0432\u0438\u0434\u0435\u043e \u0441\u0442\u0440\u0438\u043c\u0438\u043d\u0433 \u0438 \u0443\u0434\u0430\u043b\u0451\u043d\u043d\u043e\u0435 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435.<\/p>\n<p>  <\/p>\n<p>\u0420\u043e\u0431\u043e\u0442 \u043d\u0430\u0441\u043e\u0431\u0438\u0440\u0430\u043b 42 \u0447\u0430\u0441\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 (34 \u0432 \u0433\u043e\u0440\u043e\u0434\u0435 \u0438 8 \u043d\u0430 \u0431\u0435\u0437\u0434\u043e\u0440\u043e\u0436\u044c\u0435) \u0432 \u0430\u0432\u0442\u043e\u043d\u043e\u043c\u043d\u043e\u043c \u0440\u0435\u0436\u0438\u043c\u0435, \u043d\u043e \u043f\u043e\u0441\u043b\u0435 \u0447\u0438\u0441\u0442\u043a\u0438 \u044d\u0442\u043e \u0441\u043e\u0441\u0442\u0430\u0432\u0438\u043b\u043e \u0432\u0441\u0435\u0433\u043e 720 000 \u0441\u044d\u043f\u043b\u043e\u0432. \u041f\u043e\u043a\u0430 \u0434\u0430\u0442\u043a\u0430 \u0441\u043e\u0431\u0438\u0440\u0430\u043b\u0430\u0441\u044c, \u0440\u043e\u0431\u043e\u0442 \u043f\u0435\u0440\u0438\u043e\u0434\u0435\u0441\u043a\u0438 \u0441\u0432\u0430\u043b\u0438\u0432\u0430\u043b\u0441\u044f, \u0435\u0433\u043e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u043b\u043e\u0441\u044c \u043f\u043e\u0434\u043d\u0438\u043c\u0430\u0442\u044c.<\/p>\n<p>  <\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c\u043a\u0430 \u043f\u0440\u0438\u043d\u0438\u043c\u0430\u0435\u0442 \u043d\u0430 \u0432\u0445\u043e\u0434 \u0434\u0430\u043d\u043d\u044b\u0435 \u0441 \u0441\u0435\u043d\u0441\u043e\u0440\u043e\u0432 \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c\u044b\u0445 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0439, \u043f\u0440\u0438\u0434\u0438\u043a\u0442\u0438\u0442 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u0435 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u0441\u0432\u043e\u0439 \u044d\u0432\u0435\u043d\u0442 (\u0441\u0442\u043e\u043b\u043a\u043d\u043e\u0432\u0435\u043d\u0438\u0435, \u043a\u044e\u0432\u0435\u0442 \u0438 \u0442\u043f).<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/gu\/uy\/ri\/guuyri7ltyp23oql6pzcb1yurko.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p>\u041d\u0430 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 \u0437\u0430\u0434\u0430\u0447\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u2014 \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u043c\u0443 \u0433\u0440\u0443\u0431\u043e\u043c\u0443 GPS \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0443, \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u044f \u0440\u0435\u0432\u0430\u0440\u0434 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0434\u043e \u0446\u0435\u043b\u0438 \u0441 \u043c\u0438\u043d\u0438\u043c\u0443\u043c\u043e\u043c \u043d\u0435\u0440\u043e\u0432\u043d\u043e\u0441\u0442\u0435\u0439). \u041f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0441\u0435\u0431\u044f \u043b\u0443\u0447\u0448\u0435 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u043e\u0433\u043e SLAM-P \u043e\u0442\u043d\u043e\u0441\u0442\u0438\u0435\u043b\u044c\u043d\u043e &quot;\u0440\u043e\u0432\u043d\u043e\u0441\u0442\u0438&quot; \u043c\u0430\u0440\u0448\u0440\u0443\u0442\u0430 (naive \u043f\u043e\u0434\u0445\u043e\u0434 \u2014 \u044d\u0442\u043e \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u044c \u043f\u043e \u0442\u0430\u0440\u0433\u0435\u0442 GPS \u0442\u0440\u0430\u0435\u043a\u0442\u043e\u0440\u0438). \u041c\u043e\u0434\u0435\u043b\u044c \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u043e\u0431\u043e\u0431\u0449\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u043d\u0435\u0432\u0438\u0434\u0438\u043c\u044b\u0435 \u043d\u0430 \u0442\u0440\u0435\u0439\u043d\u0435 \u0434\u0430\u043d\u043d\u044b\u0435.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/nz\/sn\/5t\/nzsn5tnzv-grx6cvf_bqcnjsxpu.png\" width=\"500\" height=\"250\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"11-training-large-neural-networks-with-constant-memory-using-a-new-execution-algorithm\">11. Training Large Neural Networks with Constant Memory using a New Execution Algorithm<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Bharadwaj Pudipeddi, Maral Mesmakhosroshahi, Jinwen Xi, Sujeeth Bharadwaj (Microsoft, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2002.05645\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p><strong>TL;DR;<\/strong><br \/>  \u041d\u043e\u0432\u044b\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u043e\u0442 Microsoft \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0436\u0438\u0440\u043d\u044b\u0435 \u0441\u0435\u0442\u0438 \u0437\u0430 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043d\u0443\u044e \u043f\u0430\u043c\u044f\u0442\u044c \u043f\u0440\u0438 \u043f\u043e\u0442\u0435\u0440\u044f\u0445 \u043f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043d\u0435 \u0431\u043e\u043b\u044c\u0448\u0435 40% \u0438 \u043e\u043a\u043e\u043b\u043e\u043b\u0438\u043d\u0435\u0439\u043d\u043e\u043c \u0441\u043a\u0430\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043c\u043e\u0434\u0435\u043b\u0438\/\u0431\u0430\u0442\u0447\u0430.<\/p>\n<p>  <\/p>\n<p>\u0412 \u043e\u0441\u043d\u043e\u0432\u0435 \u043c\u0435\u0442\u043e\u0434\u0430 \u043b\u0435\u0436\u0438\u0442 \u043d\u043e\u0432\u0430\u044f \u0441\u0445\u0435\u043c\u0430 \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u0438\u0437\u043c\u0430. \u0412\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431 \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435 \u043a\u043e\u043f\u0438\u044e \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0431\u0430\u0442\u0447\u0435 \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c \u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u043a\u0438 \u0438 \u043e\u0431\u043d\u043e\u0432\u043b\u044f\u0442\u044c \u0432\u0435\u0441\u0430 \u043f\u043e \u0432\u0441\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u044f\u043c, \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0434\u0435\u0440\u0436\u0430\u0442\u044c \u0432 \u043c\u043e\u043c\u0435\u043d\u0442 \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043a\u043e\u043f\u0438\u044e \u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0435\u0439\u0447\u0430\u0441 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u0442\u0441\u044f. \u0412\u0441\u044f \u0436\u0435 \u043c\u043e\u0434\u0435\u043b\u044c \u0445\u0440\u0430\u043d\u0438\u0442\u0441\u044f \u043d\u0430 \u0445\u043e\u0441\u0442\u0435 \u0441 CPU \u0438 DRAM (\u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 CPU)<\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u0434\u0445\u043e\u0434 \u043d\u0430\u0437\u0432\u0430\u043b\u0438 L2L (layer to layer). \u0412\u0430\u0440\u0438\u0430\u043d\u0442 \u0434\u043b\u044f distributed \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439 \u043d\u0430\u0437\u0432\u0430\u043b\u0438 L2L-p. \u0412\u0437\u044f\u0432 \u0437\u0430 \u0438\u0434\u0435\u044e \u044d\u0442\u0443 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443, \u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0432 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0435\u0449\u0451 \u0440\u0435\u0448\u0435\u043d\u0438\u0439 \u0434\u043b\u044f distributed \u043f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u044b\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439, \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u043c\u043e\u0433\u043b\u0438 \u043e\u0431\u0443\u0447\u0438\u0442\u044c BERT-Large \u0441 \u0431\u0430\u0442\u0447\u0441\u0430\u0439\u0437\u043e\u043c 32, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0432 \u0442\u043e\u043b\u044c\u043a\u043e 8GB \u043d\u0430 V100 (\u043f\u0440\u0438 \u043e\u0431\u044b\u0447\u043d\u043e\u043c \u043f\u043e\u0434\u0445\u043e\u0434\u0435 \u0432\u043b\u0435\u0437\u0430\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0431\u0430\u0442\u0447=2)<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/hs\/cf\/d2\/hscfd2g9b8efoac-ordpee1s59e.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0432 \u043a\u0443\u0440\u0441\u0435 \u043f\u0440\u043e DeepSpeed \u043e\u0442 \u0441\u0432\u043e\u0438\u0445 \u043a\u043e\u043b\u043b\u0435\u0433 \u0438 \u0437\u0430\u044f\u0432\u043b\u044f\u044e\u0442, \u0447\u0442\u043e \u044d\u0442\u0438 \u043c\u0435\u0442\u043e\u0434\u044b \u0432\u043f\u043e\u043b\u043d\u0435 \u0441\u0435\u0431\u0435 \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u044f\u0435\u043c\u044b. \u041a\u043e\u0434 \u043f\u0438\u0441\u0430\u043b\u0438 \u043d\u0430 PyTorch, \u0438\u0437-\u0437\u0430 \u0435\u0433\u043e \u0433\u0438\u0431\u043a\u043e\u0441\u0442\u0438, \u0442.\u043a. \u043d\u0430\u0434\u043e \u0431\u044b\u043b\u043e \u043f\u0435\u0440\u0435\u043f\u0438\u0441\u0430\u0442\u044c forward \u0438 backward (\u043e\u0431\u0435\u0449\u0430\u044e\u0442 \u0432\u044b\u043b\u043e\u0436\u0438\u0442\u044c \u043d\u0430 \u0433\u0438\u0442\u0445\u0430\u0431 \u0432 \u0441\u043a\u043e\u0440\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438). \u0417\u0430 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d \u0432\u0437\u044f\u043b\u0438 BERT-Large \u0438\u0437 Huggingface.<\/p>\n<p>  <\/p>\n<p>\u0421\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u0435 \u043f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438 \u0448\u0430\u0433\u0430 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f:<\/p>\n<p>  <\/p>\n<ul>\n<li>Baseline = 2.05sec<\/li>\n<li>L2L = 2.92sec<\/li>\n<li>L2L-p = 2.45sec<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0418\u0437 \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044f \u043f\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0433\u0438\u0433\u0430\u043d\u0442\u0441\u043a\u0438\u0439 BERT \u0430\u0436 \u0441 96 \u0441\u043b\u043e\u044f\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0435 \u0432\u043b\u0435\u0437\u0435\u0442 \u043d\u0430 V100 \u043f\u0440\u0438 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u043e\u043c \u043f\u043e\u0434\u0445\u043e\u0434\u0435.<\/p>\n<p>  <\/p>\n<p>\u041c\u0435\u0442\u0440\u0438\u043a\u0438 (F1 score) \u0441\u043e\u043f\u043e\u0441\u0442\u0430\u0432\u0438\u043c\u044b \u0438\u043b\u0438 \u0432\u044b\u0448\u0435 (AG \u2014 accumulated gradient):<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/dg\/hh\/bl\/dghhblbhsizecxlf2ua0e7nxn8g.png\">  <\/p>\n<p>\u0421 \u0440\u043e\u0441\u0442\u043e\u043c \u0431\u0430\u0442\u0447\u0430 \u043f\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0432\u044b\u0438\u0433\u0440\u044b\u0432\u0430\u0442\u044c L2L:<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/vq\/i2\/lp\/vqi2lpj9snnzn8adn1c147zw56s.png\" width=\"500\" height=\"250\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p>\u0418\u0442\u043e\u0433\u043e \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e \u0438\u0445 \u043c\u0435\u0442\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u0442\u044c BERT-Large \u043d\u0430 \u043e\u0434\u043d\u043e\u0439 GPU c 35% \u0443\u043c\u0435\u043d\u044c\u0435\u043d\u0438\u0435\u043c \u043f\u043e \u043f\u0430\u043c\u044f\u0442\u0438 \u043f\u0440\u0438 \u0431\u0430\u0442\u0447 \u0441\u0430\u0439\u0437\u0435 32 (\u043f\u0440\u043e\u0442\u0438\u0432 \u0431\u0430\u0442\u0447 \u0441\u0430\u0439\u0437\u0430 2 \u0443 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d\u0430). \u0422\u0430\u043a\u0436\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e L2L \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0437\u0430 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u043d\u043e\u0435 \u0432\u0440\u0435\u043c\u044f.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043b\u044e\u0431\u0443\u044e \u0433\u043b\u0443\u0431\u0438\u043d\u0443 (\u043b\u0438\u0448\u044c \u0431\u044b \u043d\u0430 DRAM \u0445\u043e\u0441\u0442\u0430 \u0431\u044b\u043b\u043e \u043c\u0435\u0441\u0442\u043e \u0434\u043b\u044f \u0445\u0440\u0430\u043d\u0435\u043d\u0438\u044f \u0432\u0441\u0435\u0439 \u043a\u043e\u043f\u0438\u0438 \u043c\u043e\u0434\u0435\u043b\u0438)\u0418 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d \u0432\u0430\u0436\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u2014 \u043a\u0430\u0436\u0434\u044b\u0439 \u0441\u043b\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u043e \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c \u043e\u0442 \u0434\u0440\u0443\u0433\u043e\u0433\u043e, \u0447\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b \u043a \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044e, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a Neaural Architecture Search (NAS)<\/p>\n<\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/493016\/\"> https:\/\/habr.com\/ru\/company\/ods\/blog\/493016\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/493016\/\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/gx\/-y\/xl\/gx-yxlo7xiz-5y8krpyoj3rgswq.png\">  <\/p>\n<p>  \u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u0446\u0435\u043d\u0437\u0438\u0438 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0442 \u0447\u043b\u0435\u043d\u043e\u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 Open Data Science \u0438\u0437 \u043a\u0430\u043d\u0430\u043b\u0430 #article_essense. \u0425\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0438\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0435\u0445 \u2014 \u0432\u0441\u0442\u0443\u043f\u0430\u0439\u0442\u0435 \u0432 <a href=\"http:\/\/ods.ai\/\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e<\/a>!<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043e\u0431\u0437\u043e\u0440\u044b 11 \u0441\u0442\u0430\u0442\u0435\u0439 \u043f\u043e Computer Vision, Natural Language Processing, Reinforcement learning \u0438 \u0434\u0440\u0443\u0433\u0438\u043c \u0442\u0435\u043c\u0430\u043c.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-300455","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/300455","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=300455"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/300455\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=300455"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=300455"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=300455"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}