{"id":304778,"date":"2020-06-03T15:01:31","date_gmt":"2020-06-03T15:01:31","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=304778"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=304778","title":{"rendered":"\u0420\u0443\u0431\u0440\u0438\u043a\u0430 \u00ab\u0427\u0438\u0442\u0430\u0435\u043c \u0441\u0442\u0430\u0442\u044c\u0438 \u0437\u0430 \u0432\u0430\u0441\u00bb. \u0410\u043f\u0440\u0435\u043b\u044c 2020. \u0427\u0430\u0441\u0442\u044c 2"},"content":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/505040\/\">\n<div style=\"text-align:center;\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/gx\/-y\/xl\/gx-yxlo7xiz-5y8krpyoj3rgswq.png\"><\/div>\n<p>  <\/p>\n<p>  \u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u0446\u0435\u043d\u0437\u0438\u0438 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0442 \u0447\u043b\u0435\u043d\u043e\u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 Open Data Science \u0438\u0437 \u043a\u0430\u043d\u0430\u043b\u0430 #article_essense. \u0425\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0438\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0435\u0445 \u2014 \u0432\u0441\u0442\u0443\u043f\u0430\u0439\u0442\u0435 \u0432 <a href=\"http:\/\/ods.ai\/\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e<\/a>!<\/p>\n<p>  <\/p>\n<p>\u0421\u0442\u0430\u0442\u044c\u0438 \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f:<\/p>\n<p>  <\/p>\n<ol>\n<li><a href=\"#1-grad-cam-visual-explanations-from-deep-networks-via-gradient-based-localization\">Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (Georgia Institute of Technology, Atlanta, USA, 2016)<\/a><\/li>\n<li><a href=\"#2-x3d-expanding-architectures-for-efficient-video-recognition\">X3D: Expanding Architectures for Efficient Video Recognition (Facebook AI Research, 2020)<\/a><\/li>\n<li><a href=\"#3-adaptive-attention-span-in-transformers\">Adaptive Attention Span in Transformers (Facebook AI Research, 2019)<\/a><\/li>\n<li><a href=\"#4-resnest-split-attention-networks\">ResNeSt: Split-Attention Networks (Amazon, 2020)<\/a><\/li>\n<li><a href=\"#5-weight-standardization\">Weight Standardization (Johns Hopkins University, 2019)<\/a><\/li>\n<li><a href=\"#6-supervised-contrastive-learning\">Supervised Contrastive Learning (Google Research, MIT, 2020)<\/a><\/li>\n<li><a href=\"#7-improved-training-speed-accuracy-and-data-utilization-through-loss-function-optimization\">Improved Training Speed, Accuracy, and Data Utilization Through Loss Function Optimization (USA, 2019)<\/a><\/li>\n<li><a href=\"#8-ttnet-real-time-temporal-and-spatial-video-analysis-of-table-tennis\">TTNet: Real-time temporal and spatial video analysis of table tennis (OSAI, 2020)<\/a><\/li>\n<li><a href=\"#9-learning-in-the-frequency-domain\">Learning in the Frequency Domain (Alibaba, Arizona, 2020)<\/a><\/li>\n<\/ol>\n<p><a name=\"habracut\"><\/a>  <\/p>\n<div class=\"spoiler\" role=\"button\" tabindex=\"0\">                         <b class=\"spoiler_title\">\u0421\u0441\u044b\u043b\u043a\u0438 \u043d\u0430 \u043f\u0440\u043e\u0448\u043b\u044b\u0435 \u0441\u0431\u043e\u0440\u043d\u0438\u043a\u0438 \u0441\u0435\u0440\u0438\u0438:<\/b>                         <\/p>\n<div class=\"spoiler_text\">\n<ul>\n<li>2020 \u0433\u043e\u0434: <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/493016\/\">\u042f\u043d\u0432\u0430\u0440\u044c \u2014 \u0424\u0435\u0432\u0440\u0430\u043b\u044c<\/a>, \u041c\u0430\u0440\u0442 <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/496024\/\">\u04471<\/a>, <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/497268\/\">\u04472<\/a>, \u0410\u043f\u0440\u0435\u043b\u044c <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/502786\/\">\u04471<\/a><\/li>\n<li>2019 \u0433\u043e\u0434: <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/471514\/\">\u042f\u043d\u0432\u0430\u0440\u044c \u2014 \u0418\u044e\u043d\u044c<\/a>, <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/472672\/\">\u0418\u044e\u043b\u044c \u2014 \u0421\u0435\u043d\u0442\u044f\u0431\u0440\u044c<\/a>, <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/485122\/\">\u041e\u043a\u0442\u044f\u0431\u0440\u044c \u2014 \u0414\u0435\u043a\u0430\u0431\u0440\u044c<\/a><\/li>\n<li><a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/352508\/\">\u0414\u0435\u043a\u0430\u0431\u0440\u044c 2017 \u2014 \u042f\u043d\u0432\u0430\u0440\u044c 2018<\/a>, <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/352518\/\">\u0424\u0435\u0432\u0440\u0430\u043b\u044c \u2014 \u041c\u0430\u0440\u0442 2018<\/a><\/li>\n<li>2017 \u0433\u043e\u0434: <a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/336624\/\">\u0410\u0432\u0433\u0443\u0441\u0442<\/a>, <a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/339094\/\">\u0421\u0435\u043d\u0442\u044f\u0431\u0440\u044c<\/a>, <a href=\"https:\/\/habrahabr.ru\/company\/ods\/blog\/343822\/\">\u041e\u043a\u0442\u044f\u0431\u0440\u044c \u2014 \u041d\u043e\u044f\u0431\u0440\u044c<\/a> <\/li>\n<\/ul>\n<\/div><\/div>\n<p>  <\/p>\n<h3 id=\"1-grad-cam-visual-explanations-from-deep-networks-via-gradient-based-localization\">1. Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Ramprasaath R. Selvaraju, Michael Cogswell, Abhishek Das, Ramakrishna Vedantam, Devi Parikh, Dhruv Batra (Georgia Institute of Technology, Atlanta, USA, 2016)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1610.02391\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p>\u0421\u0430\u043c\u044b\u0439 \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0438 \u043d\u0430\u0434\u0451\u0436\u043d\u044b\u0439 \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0441\u043f\u043e\u0441\u043e\u0431 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c: \u00ab\u0430 \u043a\u0443\u0434\u0430 \u0436\u0435 \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0435\u0439\u0440\u043e\u043d\u043a\u0430\u00bb?<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/j_\/-0\/gk\/j_-0gkpx5c2zbq-xwbdnlhu79ks.png\">  <\/p>\n<p>  \u042d\u0442\u043e\u0442 \u043c\u043d\u043e\u0433\u0438\u043c \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u0443\u044e \u0438\u043d\u0442\u0435\u0440\u043f\u0440\u0435\u0442\u0430\u0446\u0438\u044e \u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438, \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0432 \u0445\u0438\u0442\u043c\u0430\u043f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0439, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0438 \u043f\u0440\u0438 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0438 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430.<\/p>\n<p>  <\/p>\n<p>\u0421\u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0441 Guided Backprop \u043e\u043d \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0435\u0449\u0451 \u0432\u044b\u0434\u0435\u043b\u0438\u0442\u044c \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u0444\u0438\u0447\u0438 \u0438 \u0433\u0440\u0430\u043d\u0438, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0442\u0440\u0438\u0433\u0433\u0435\u0440\u0438\u043b\u0438\u0441\u044c \u0441\u0432\u0435\u0440\u0442\u043e\u0447\u043d\u044b\u0435 \u0444\u0438\u043b\u044c\u0442\u0440\u044b. \u0412\u0441\u0435 \u0432\u043c\u0435\u0441\u0442\u0435 \u044d\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043e\u0431\u044a\u044f\u0441\u043d\u0438\u0442\u044c \u043e\u0448\u0438\u0431\u043a\u0438 \u0438 \u0443\u0441\u043f\u0435\u0445\u0438 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438, \u043f\u043e\u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438 \u0434\u0435\u0431\u0430\u0433\u0435 \u0438 \u0434\u043e\u0442\u044e\u043d\u0438\u0432\u0430\u043d\u0438\u0438.<\/p>\n<p>  <\/p>\n<p><strong>\u0421\u0443\u0442\u044c \u043c\u0435\u0442\u043e\u0434\u0430<\/strong>:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0411\u0435\u0440\u0451\u043c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0438 \u0432\u044b\u0431\u0438\u0440\u0430\u0435\u043c \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043a\u043b\u0430\u0441\u0441, \u043f\u043e \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0431\u0443\u0434\u0435\u043c \u0434\u0435\u043b\u0430\u0442\u044c \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044e.<\/li>\n<li>\u041f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u043c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043d\u0430 \u0444\u043e\u0440\u0432\u0430\u0440\u0434.<\/li>\n<li>\u0421\u0447\u0438\u0442\u0430\u0435\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u0441\u043a\u043e\u0440\u0430 \u043a\u043b\u0430\u0441\u0441\u0430 (\u0434\u043e \u0441\u043e\u0444\u0442\u043c\u0430\u043a\u0441\u0430) \u043f\u043e \u0444\u0438\u0447\u0435\u043c\u0430\u043f\u0443 (\u0437\u0430\u043d\u0443\u043b\u044f\u0435\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432, \u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043f\u043e \u0432\u044b\u0431\u0440\u0430\u043d\u043d\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443 \u0440\u0430\u0432\u0435\u043d 1).<\/li>\n<li>\u0423\u043c\u043d\u043e\u0436\u0430\u0435\u043c \u0441\u0440\u0435\u0434\u043d\u0438\u0439 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043f\u043e \u0444\u0438\u0447\u0435\u043c\u0430\u043f\u0435 \u043d\u0430 \u0441\u0430\u043c \u0444\u0438\u0447\u0435\u043c\u0430\u043f, \u0441\u0443\u043c\u043c\u0438\u0440\u0443\u0435\u043c \u043f\u043e \u0432\u0441\u0435\u043c \u043a\u0430\u043d\u0430\u043b\u0430\u043c \u0438 \u0443\u0441\u0440\u0435\u0434\u043d\u044f\u0435\u043c.<\/li>\n<li>\u041f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u0435\u043c \u0447\u0435\u0440\u0435\u0437 ReLU \u2014 \u0442\u0430\u043a \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0445\u0438\u0442\u043c\u0430\u043f\u0430.<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ps\/bb\/jk\/psbbjk_6c1vcs4mug4aysofjbre.png\">  <\/p>\n<p>  \u0415\u0441\u043b\u0438 \u0435\u0449\u0451 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c Guided Backbropagation (\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u043f\u043e \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a \u0438\u043d\u043f\u0443\u0442 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044e) \u0438 \u0443\u043c\u043d\u043e\u0436\u0438\u0442\u044c \u0435\u0433\u043e \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u043e \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0438\u0432\u0448\u0443\u044e\u0441\u044f \u0445\u0438\u0442\u043c\u0430\u043f\u0443, \u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u0441\u044f \u043a\u0430\u0440\u0442\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430.<\/p>\n<p>  <\/p>\n<p>\u0415\u0441\u043b\u0438 \u0436\u0435 \u043f\u043e\u0441\u0447\u0438\u0442\u0430\u0442\u044c Grad-CAM \u0441 \u043e\u0442\u0440\u0438\u0446\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u043c \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 (-1 \u0432\u043c\u0435\u0441\u0442\u043e 1), \u0442\u043e \u043f\u043e\u0434\u0441\u0432\u0435\u0442\u044f\u0442\u0441\u044f \u0440\u0435\u0433\u0438\u043e\u043d\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u00ab\u043c\u0435\u0448\u0430\u044e\u0442\u00bb \u0438\u043b\u0438 \u00ab\u0441\u043c\u0443\u0449\u0430\u044e\u0442\u00bb \u0441\u0435\u0442\u044c \u043f\u043e \u044d\u0442\u043e\u043c\u0443 \u043a\u043b\u0430\u0441\u0441\u0443.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e\u0434\u0441\u0432\u0435\u0447\u0438\u0432\u0430\u043d\u0438\u0435 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u043e\u0432 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043f\u043e\u043d\u044f\u0442\u044c, \u043f\u043e\u0447\u0435\u043c\u0443 \u0436\u0435 \u043e\u0448\u0438\u0431\u043b\u0430\u0441\u044c \u0441\u0435\u0442\u044c, \u0434\u0430\u0436\u0435 \u0435\u0441\u043b\u0438 \u044d\u0442\u043e \u0441 \u043f\u0435\u0440\u0432\u043e\u0433\u043e \u0432\u0437\u0433\u043b\u044f\u0434\u0430 \u043d\u0435 \u0432\u0438\u0434\u043d\u043e, \u0431\u0443\u0434\u0435\u0442 \u0432\u0438\u0434\u043d\u043e, \u043d\u0430 \u043a\u0430\u043a\u0438\u0435 \u0434\u0435\u0442\u0430\u043b\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u043e\u043d\u0430 \u043e\u043f\u0438\u0440\u0430\u043b\u0430\u0441\u044c.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/xx\/kg\/nx\/xxkgnxjivwyezjwby3cmtk2qcoa.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  \u0422\u0430\u043a\u0436\u0435 \u044d\u0442\u043e\u0442 \u043f\u043e\u0434\u0445\u043e\u0434 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432 \u043a adversarial \u0430\u0442\u0430\u043a\u0430\u043c. \u041d\u0430 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0438\u0436\u0435 \u0441\u0435\u0442\u044c \u043f\u0440\u0435\u0434\u0438\u043a\u0442\u0438\u0442 \u043f\u043e adversarial \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044e \u043a\u043b\u0430\u0441\u0441 Airliner \u0441 \u0443\u0432\u0435\u0440\u0435\u043d\u043d\u043e\u0441\u0442\u044c\u044e 0.9999, \u043d\u043e \u0435\u0441\u043b\u0438 \u043e\u0442\u0440\u0438\u0441\u043e\u0432\u0430\u0442\u044c Grad-CAM \u043f\u043e \u043a\u043b\u0430\u0441\u0441\u0430\u043c Boxer \u0438\u043b\u0438 Cat, \u0442\u043e \u043e\u0442\u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435-\u043c\u0435\u043d\u0435\u0435 \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ci\/ev\/fn\/cievfnvydob5ii4n-3p4n9a_7xk.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  \u0422\u0430\u043a\u0436\u0435 \u043c\u043e\u0436\u043d\u043e \u0438\u0441\u043a\u0430\u0442\u044c bias \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u0441\u0435\u0442\u044c \u044f\u0432\u043d\u043e \u043e\u0432\u0435\u0440\u0444\u0438\u0442\u0438\u0442\u0441\u044f \u043d\u0435 \u043d\u0430 \u043f\u043e\u043b\u0435\u0437\u043d\u044b\u0435 \u043f\u0440\u0438\u0437\u043d\u0430\u043a\u0438, \u0430 \u043d\u0430 \u0447\u0430\u0441\u0442\u043e \u0441\u043e\u043f\u0443\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435.<\/p>\n<p>  <\/p>\n<p>\u0412 \u043f\u0440\u0438\u043c\u0435\u0440\u0435 \u043d\u0438\u0436\u0435 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0441\u0435\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0430 bias, \u0433\u043b\u044f\u0434\u044f \u0431\u043e\u043b\u044c\u0448\u0435 \u043d\u0430 \u043b\u0438\u0446\u0430 \u0438 \u043f\u0440\u0438\u0447\u0435\u0441\u043a\u0443, \u0447\u0435\u043c \u043d\u0430 \u0430\u0442\u0440\u0438\u0431\u0443\u0442\u044b, \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044f \u043a\u043b\u0430\u0441\u0441\u044b Doctor \u0438 Nurse.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/5a\/-h\/n5\/5a-hn5wgthi84s-3ake-jrqgxpc.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  \u0412 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 Image Captioning \u043c\u043e\u0436\u043d\u043e \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u043a\u0430\u043a\u0438\u0435 \u0441\u043b\u043e\u0432\u0430 \u0431\u044b\u043b\u0438 \u0432\u044b\u0437\u0432\u0430\u043d\u044b \u043a\u0430\u043a\u0438\u043c\u0438 \u0440\u0435\u0433\u0438\u043e\u043d\u0430\u043c\u0438.<\/p>\n<p>  <\/p>\n<h3 id=\"2-x3d-expanding-architectures-for-efficient-video-recognition\">2. X3D: Expanding Architectures for Efficient Video Recognition<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Christoph Feichtenhofer (Facebook AI Research, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2004.04730\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/facebookresearch\/SlowFast\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440 \u0411\u0435\u043b\u044c\u0441\u043a\u0438\u0445 (\u0432 \u0441\u043b\u044d\u043a\u0435 belskikh)<\/p>\n<p>  <\/p>\n<p>\u0420\u0443\u0447\u043d\u043e\u0439 NAS \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0432\u0438\u0434\u0435\u043e \u043e\u0442 FAIR, \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0431\u044b\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u043d\u0430 \u0443\u0434\u0438\u0432\u043b\u0435\u043d\u0438\u0435 \u0442\u043e\u043d\u043a\u0438\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0441 \u0445\u043e\u0440\u043e\u0448\u0438\u043c \u043f\u0435\u0440\u0444\u043e\u043c\u0430\u043d\u0441\u043e\u043c (\u0434\u043e \u04455 \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0439 \u0441\u043e\u0442\u044b \u0441 \u0442\u043e\u0439 \u0436\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e).<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440 \u043e\u0442\u043c\u0435\u0447\u0430\u0435\u0442, \u0447\u0442\u043e \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0432\u0438\u0434\u0435\u043e \u0438\u0434\u0443\u0442 \u043f\u043e \u043f\u0443\u0442\u0438 \u0430\u0434\u0430\u043f\u0442\u0430\u0446\u0438\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043a 3D \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u044f\u043c (\u0442\u0440\u0435\u0442\u044c\u0435 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u0438\u0435 \u0432 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u2014 \u0432\u0440\u0435\u043c\u044f), \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0447\u0435\u0433\u043e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043a\u0440\u0430\u0439\u043d\u0435 \u0436\u0438\u0440\u043d\u044b\u0435.<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440 \u0440\u0435\u0448\u0438\u043b \u043f\u043e\u0439\u0442\u0438 \u0434\u0440\u0443\u0433\u0438\u043c \u043f\u0443\u0442\u0451\u043c \u0432 \u043f\u043e\u0438\u0441\u043a\u0430\u0445 \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0439 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b, \u043e\u0431\u043e\u0437\u043d\u0430\u0447\u0438\u0432 \u0431\u0430\u0437\u043e\u0432\u0443\u044e \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c (\u0437\u0430 \u043e\u0441\u043d\u043e\u0432\u0443 \u0432\u0437\u044f\u043b MobileNet \u0441 \u0435\u0451 depthwise \u043a\u043e\u043d\u0432\u043e\u043b\u044e\u0446\u0438\u044f\u043c\u0438, \u043d\u043e \u0441\u0434\u0435\u043b\u0430\u043b \u0435\u0451 \u0435\u0449\u0451 \u0432 10 \u0440\u0430\u0437 \u043c\u0435\u043d\u044c\u0448\u0435 \u043f\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430\u043c), \u0438 \u0437\u0430\u0434\u0430\u0432 \u0435\u0439 \u0440\u044f\u0434 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0438\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u043f\u043e \u0432\u0440\u0435\u043c\u0435\u043d\u0438;<\/li>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0437 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u0442\u0440\u0435\u0437\u043a\u0430 (\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043a\u0430\u0434\u0440\u043e\u0432 \u0431\u0440\u0430\u0442\u044c);<\/li>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u044f (\u0432\u044b\u0441\u043e\u0442\u0430, \u0448\u0438\u0440\u0438\u043d\u0430);<\/li>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0433\u043b\u0443\u0431\u0438\u043d\u044b \u0441\u0435\u0442\u0438;<\/li>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0448\u0438\u0440\u0438\u043d\u044b \u0441\u0435\u0442\u0438 (\u043a\u043e\u043b-\u0432\u043e \u043a\u0430\u043d\u0430\u043b\u043e\u0432);<\/li>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442 \u0448\u0438\u0440\u0438\u043d\u044b \u0431\u043e\u0442\u043b\u043d\u0435\u043a\u0430.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u042d\u0442\u0438 \u0448\u0435\u0441\u0442\u044c \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432 \u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442 \u0440\u043e\u0441\u0442 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b. \u0427\u0435\u043c-\u0442\u043e \u043d\u0430\u043f\u043e\u043c\u0438\u043d\u0430\u0435\u0442 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b \u0440\u043e\u0441\u0442\u0430 EfficientNet.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/rh\/8f\/uy\/rh8fuy_pvnntj1nw4hk5poglley.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  \u0423 \u0431\u0430\u0437\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0441\u0435 \u044d\u0442\u0438 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b \u0440\u0430\u0432\u043d\u044b \u0435\u0434\u0438\u043d\u0438\u0446\u0435, \u044d\u0442\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f \u0441\u0443\u043f\u0435\u0440-\u043b\u0435\u0433\u043a\u043e\u0432\u0435\u0441\u043d\u0430\u044f \u0441\u0435\u0442\u043a\u0430 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440 \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u0430\u0434\u0440\u0430.<\/p>\n<p>  <\/p>\n<p>\u0423\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0440\u043e\u0441\u0442\u0430 \u043e\u0434\u0438\u043d \u0438\u0437 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f, \u0438 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0431\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u0435\u0451 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u0438 \u0444\u043b\u043e\u043f\u0441\u044b. (\u0442.\u0435. \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0448\u0430\u0433\u0435 \u0443\u0447\u0438\u0442\u0441\u044f \u0448\u0435\u0441\u0442\u044c \u043d\u043e\u0432\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439, \u043f\u043e \u043e\u0434\u043d\u043e\u0439 \u043d\u0430 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440);<\/li>\n<li>\u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0433\u043e\u0434\u043d\u044b\u0439 \u0442\u0440\u0435\u0439\u0434-\u043e\u0444\u0444 \u043f\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u044e \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0432\u043e\u0437\u0440\u043e\u0441\u0448\u0435\u0433\u043e \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430;<\/li>\n<li>\u0432\u044b\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043e\u0434\u043d\u0430 \u0441\u0430\u043c\u0430\u044f \u043b\u0443\u0447\u0448\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438 \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0430\u044f \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u044f \u0440\u043e\u0441\u0442\u0430.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0422\u0430\u043a \u0438 \u0431\u044b\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u0432\u0441\u0435 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b, \u043b\u0443\u0447\u0448\u0438\u0435 \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u043e\u0431\u0438\u043b\u0438 \u0421\u041e\u0422\u0423 \u043f\u0440\u0438 \u043c\u0435\u043d\u044c\u0448\u0435\u043c \u0447\u0438\u0441\u043b\u0435 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/7o\/jl\/8j\/7ojl8jrlvhzoed-pm5x9zygjmoe.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"3-adaptive-attention-span-in-transformers\">3. Adaptive Attention Span in Transformers<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Sainbayar Sukhbaatar, Edouard Grave, Piotr Bojanowski, Armand Joulin (Facebook AI Research, 2019)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1905.07799\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/facebookresearch\/adaptive-span\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u042e\u0440\u0438\u0439 \u041a\u0430\u0448\u043d\u0438\u0446\u043a\u0438\u0439 (\u0432 \u0441\u043b\u044d\u043a\u0435 yorko, \u043d\u0430 habr <a href=\"https:\/\/habr.com\/ru\/users\/yorko\/\">yorko<\/a>)<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u043a \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u043d\u0430 \u0434\u0430\u043d\u043d\u044b\u0439 \u043c\u043e\u043c\u0435\u043d\u0442 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u044b \u0432\u0441\u0435\u043c \u0445\u043e\u0440\u043e\u0448\u0438, \u043a\u0440\u043e\u043c\u0435 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043e\u043d\u0438 \u0434\u0438\u043a\u043e \u043f\u0440\u043e\u0436\u043e\u0440\u043b\u0438\u0432\u044b, \u043d\u043e \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u043d\u0435 \u0443\u043c\u0435\u044e\u0442 \u0441\u044a\u0435\u0434\u0430\u0442\u044c \u0434\u043b\u0438\u043d\u043d\u044b\u0435 \u043a\u0443\u0441\u043a\u0438 \u0442\u0435\u043a\u0441\u0442\u0430. \u041d\u0435 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u043e, \u0447\u0442\u043e \u043f\u043e\u0431\u0435\u0434\u0438\u0442, \u0440\u0435\u0444\u043e\u0440\u043c\u0435\u0440\u044b \u0438\u043b\u0438 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u043c\u044b\u0439 adaptive attention span, \u043d\u043e \u0438\u0434\u0435\u044f \u043f\u0430\u0440\u043d\u0435\u0439 \u0438\u0437 Facebook AI Research \u0432\u043e\u0442 \u043a\u0430\u043a\u0430\u044f: \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u0435\u043c \u0431\u0430\u0437\u043e\u0432\u044b\u0439 \u0431\u043b\u043e\u043a self-attention \u0442\u0430\u043a, \u0447\u0442\u043e\u0431 \u043e\u043d \u0441\u0430\u043c \u043f\u043e\u043d\u0438\u043c\u0430\u043b, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0430\u043b\u0435\u043a\u043e \u043d\u0430\u0434\u043e \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435.<\/p>\n<p>  <\/p>\n<p><strong>\u041f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442<\/strong>: \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u0434\u0435\u0440\u0436\u0438\u0432\u0430\u0442\u044c \u0434\u043b\u0438\u043d\u043d\u044b\u0439 \u0432\u0445\u043e\u0434 (\u0434\u043e 8\u043a \u0432 \u0438\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u0445), \u0447\u0442\u043e \u0445\u043e\u0440\u043e\u0448\u043e \u0432 char-level language modelling. \u0412\u044b\u0431\u0438\u043b\u0438 SOT\u0410 (\u043d\u0430 \u043c\u0430\u0439 2019 \u0433.) \u043d\u0430 text8k \u0438 enwiki8 \u0434\u0430 \u0435\u0449\u0435 \u0438 \u043c\u0435\u043d\u044c\u0448\u0435 FLOPS \u043f\u043e\u043d\u0430\u0434\u043e\u0431\u0438\u043b\u043e\u0441\u044c \u0437\u0430 \u0441\u0447\u0435\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u043a\u0430\u0436\u0434\u0430\u044f \u0433\u043e\u043b\u043e\u0432\u0430 \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0441\u043c\u043e\u0442\u0440\u0435\u043b\u0430 \u0432\u0441\u0435\u0433\u043e \u043d\u0430 300 \u0441\u0438\u043c\u0432\u043e\u043b\u043e\u0432.<\/p>\n<p>  <\/p>\n<p><strong>Self-attention heads<\/strong> \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442 \u2013 \u0434\u043b\u044f \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u044f \u0432\u0435\u043a\u0442\u043e\u0440\u0430, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0433\u043e \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0442\u043e\u043a\u0435\u043d t. \u041f\u0440\u043e\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u043e\u0441\u0442\u0430\u044f \u0430\u0440\u0438\u0444\u043c\u0435\u0442\u0438\u043a\u0430 (\u0442\u043e\u0447\u043d\u0435\u0435, \u043d\u0435\u043c\u043d\u043e\u0433\u043e \u043c\u0430\u0442\u0440\u0438\u0447\u043d\u044b\u0445 \u043f\u0435\u0440\u0435\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0439 \u0438 \u0441\u043e\u0444\u0442\u043c\u0430\u043a\u0441), \u0441\u0443\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043a\u0430\u0436\u0434\u043e\u043c\u0443 \u0442\u043e\u043a\u0435\u043d\u0443 \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u201c\u0433\u043e\u043b\u043e\u0432\u0430\u201d \u043d\u0430\u0437\u043d\u0430\u0447\u0438\u0442 \u0441\u0432\u043e\u0439 \u0432\u0435\u0441, \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0439 \u0442\u043e\u043a\u0435\u043d \u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0442\u0435\u043d \u043f\u0440\u0438 \u043f\u043e\u0441\u0442\u0440\u043e\u0435\u043d\u0438\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0430 t. \u0422\u0443\u0442 \u0441\u0447\u0438\u0442\u0430\u0435\u043c, \u0447\u0442\u043e \u0442\u043e\u043a\u0435\u043d\u044b \u0443\u043f\u043e\u0440\u044f\u0434\u043e\u0447\u0435\u043d\u044b \u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u0441\u043c\u043e\u0442\u0440\u0438\u0442 \u043d\u0430 S \u0448\u0430\u0433\u043e\u0432 \u043d\u0430\u0437\u0430\u0434, \u0442\u043e \u0435\u0441\u0442\u044c \u0434\u043e \u0442\u043e\u043a\u0435\u043d\u0430 t-S (S \u2013 \u043f\u043e \u0441\u0443\u0442\u0438 \u0440\u0430\u0437\u043c\u0435\u0440 \u043e\u043a\u043d\u0430, \u0438\u043b\u0438 \u0434\u043b\u0438\u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f self-attention). \u0410\u0432\u0442\u043e\u0440\u044b \u0443\u0433\u043b\u044f\u0434\u0435\u043b\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u043e\u0442\u043b\u0438\u0447\u0438\u0435 \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u044d\u0442\u0438\u0445 \u0432\u0435\u0441\u043e\u0432 \u0434\u043b\u044f \u0440\u0430\u0437\u043d\u044b\u0445 \u0433\u043e\u043b\u043e\u0432. \u041d\u0430 \u0440\u0438\u0441\u0443\u043d\u043a\u0435 \u0433\u043e\u043b\u043e\u0432\u0430 A \u201c\u0441\u043c\u043e\u0442\u0440\u0438\u0442\u201d \u043f\u043e \u0441\u0443\u0442\u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0432 \u0441\u043e\u0432\u0441\u0435\u043c \u043d\u0435\u0434\u0430\u043b\u0435\u043a\u043e\u0435 \u043f\u0440\u043e\u0448\u043b\u043e\u0435, \u0430 \u0432\u043e\u0442 \u0433\u043e\u043b\u043e\u0432\u0430 B \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u0431\u043e\u043b\u044c\u0448\u0435 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u2014 \u0432\u0435\u0441\u0430, \u0441 \u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u043f\u0440\u043e\u0448\u043b\u044b\u0435 \u0442\u043e\u043a\u0435\u043d\u044b, \u043d\u0430\u043c\u043d\u043e\u0433\u043e \u201c\u0431\u043e\u043b\u0435\u0435 \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u044b\u201c, \u0447\u0435\u043c \u0443 \u0433\u043e\u043b\u043e\u0432\u044b A.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/7u\/vj\/zn\/7uvjznb2sghtktmytpoflx22n9i.png\" width=\"400\" height=\"250\">  <\/p>\n<p>  \u041e\u0442\u0441\u044e\u0434\u0430 \u0438\u0434\u0435\u044f \u2013 \u043f\u0443\u0441\u0442\u044c \u043a\u0430\u0436\u0434\u0430\u044f \u0433\u043e\u043b\u043e\u0432\u0430 (self-attention head) \u0441\u0430\u043c\u0430 \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u0443\u0447\u0430\u0442\u044c\u0441\u044f \u0442\u043e\u043c\u0443, \u043d\u0430\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0434\u0430\u043b\u0435\u043a\u043e \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u0435\u0439 \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c. \u0422\u043e \u0435\u0441\u0442\u044c \u044d\u0442\u043e\u0442 S, \u0434\u043b\u0438\u043d\u0430 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c, \u0430 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c.<\/p>\n<p>  <\/p>\n<p>\u0427\u0442\u043e\u0431 \u0438\u0437\u0431\u0430\u0432\u0438\u0442\u044c\u0441\u044f \u043e\u0442 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0430 S \u043f\u0440\u0438\u0434\u0435\u0442\u0441\u044f \u0432\u0432\u0435\u0441\u0442\u0438 \u043d\u043e\u0432\u044b\u0439 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 R. \u041d\u043e \u0441\u0443\u0442\u044c \u043f\u0440\u043e\u0441\u0442\u0430\u044f: \u0442\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u0438 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0438 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0442\u043e\u043a\u0435\u043d\u0430 t \u043a\u0430\u0436\u0434\u044b\u0439 \u043f\u0440\u043e\u0447\u0438\u0439 \u0442\u043e\u043a\u0435\u043d \u0438\u0437 \u043f\u0440\u043e\u0448\u043b\u043e\u0433\u043e \u0431\u0443\u0434\u0435\u0442 \u0443\u0447\u0438\u0442\u044b\u0432\u0430\u0442\u044c\u0441\u044f \u0441 \u043f\u043e\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u0432\u0435\u0441\u043e\u043c (\u043e\u0431\u043e\u0437\u0432\u0430\u043b\u0438 \u044d\u0442\u043e soft-masking):<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e z \u0448\u0430\u0433\u043e\u0432 \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u0432\u0435\u0441\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0440\u0430\u0432\u043d\u044b 1 \u0438 self-attention \u0441\u0447\u0438\u0442\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u043f\u0440\u0435\u0436\u0434\u0435, \u0431\u0435\u0437 \u043f\u043e\u043f\u0440\u0430\u0432\u043e\u043a;<\/li>\n<li>\u043e\u0442 z \u0434\u043e z+R (R \u043c\u0430\u043b\u043e, \u043e\u043a\u043e\u043b\u043e 32) \u0448\u0430\u0433\u043e\u0432 \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u0432\u0435\u0441\u0430 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u043d\u0430\u0447\u0438\u043d\u0430\u044e\u0442 \u043b\u0438\u043d\u0435\u0439\u043d\u043e \u043f\u0430\u0434\u0430\u0442\u044c;<\/li>\n<li>z \u2013 \u0432\u044b\u0443\u0447\u0438\u0432\u0430\u0435\u043c\u044b\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440, \u0443 \u043a\u0430\u0436\u0434\u043e\u0439 \u0433\u043e\u043b\u043e\u0432\u044b \u0441\u0432\u043e\u0439;<\/li>\n<li>R \u2013 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440, \u0432 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u0445 32.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0427\u0442\u043e\u0431 \u0433\u043e\u043b\u043e\u0432\u044b \u043d\u0435 \u043e\u0431\u0443\u0447\u0438\u043b\u0438\u0441\u044c \u0442\u043e\u043c\u0443, \u0447\u0442\u043e\u0431 \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u043d\u0430 \u043c\u0438\u043b\u043b\u0438\u0430\u0440\u0434 \u0448\u0430\u0433\u043e\u0432 \u043d\u0430\u0437\u0430\u0434, \u0434\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0441\u0443\u043c\u043c\u0443 \u0432\u0441\u0435\u0445 |z| \u043a\u0430\u043a L1-\u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u044e \u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u044e \u043f\u043e\u0442\u0435\u0440\u044c \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0435\u0440\u0430 (\u043a\u043e\u0442\u043e\u0440\u0430\u044f cross-entropy \u043f\u0440\u0438 \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0438).<\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0435\u0449\u0435 \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u0441\u0434\u0435\u043b\u0430\u043b\u0438 z \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u043c, \u0437\u0430\u0432\u0438\u0441\u044f\u0449\u0438\u043c \u043e\u0442 t \u0447\u0435\u0440\u0435\u0437 \u043f\u0430\u0440\u0443 \u043e\u0431\u0443\u0447\u0430\u0435\u043c\u044b\u0445 \u0432\u0435\u043a\u0442\u043e\u0440\u043e\u0432.<\/p>\n<p>  <\/p>\n<p>\u0412 <strong>\u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u0430\u0445<\/strong> \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430 \u0432\u044b\u0441\u0442\u0430\u0432\u043b\u044f\u043b\u0441\u044f \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c: S = 8192. \u041d\u043e \u0433\u043e\u043b\u043e\u0432\u044b \u0432\u044b\u0443\u0447\u0438\u0432\u0430\u043b\u0438\u0441\u044c \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432\u0441\u0435\u0433\u043e \u043d\u0430 314 \u0442\u043e\u043a\u0435\u043d\u043e\u0432 \u0432 \u0438\u0441\u0442\u043e\u0440\u0438\u044e (\u0431\u043b\u0430\u0433\u043e\u0434\u0430\u0440\u044f \u043e\u043f\u0438\u0441\u0430\u043d\u043d\u043e\u0439 \u0432\u044b\u0448\u0435 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438).<\/p>\n<p>  <\/p>\n<p>\u0413\u043e\u043d\u044f\u043b\u0438 character-wise language modeling \u043d\u0430 \u0434\u0432\u0443\u0445 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 \u2013 text8k \u0438 enwiki8 \u2013 \u0438 \u0432\u044b\u0431\u0438\u043b\u0438 SOTA \u0441 \u043c\u0435\u043d\u044c\u0448\u0435\u0439 (\u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c) \u0434\u043b\u0438\u043d\u043e\u0439 \u043a\u043e\u043d\u0442\u0435\u043a\u0441\u0442\u0430, \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0433\u043e \u0434\u043b\u044f \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f self attention \u0438 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u0441 \u043c\u0435\u043d\u044c\u0448\u0438\u043c FLOPS. \u0417\u0430 \u0441\u0447\u0435\u0442 adaptive span \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u0435 \u043d\u0430 \u0438\u043d\u0444\u0435\u0440\u0435\u043d\u0441\u0435 \u2013 \u0432\u043f\u043b\u043e\u0442\u044c \u0434\u043e 70% FLOPS.<\/p>\n<p>  <\/p>\n<p>\u041a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u0438\u043b\u043b\u044e\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442 \u0432\u0441\u0435 \u043f\u043b\u044e\u0441\u044b \u0430\u0434\u0430\u043f\u0442\u0438\u0432\u043d\u043e\u0433\u043e vs. \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043e\u043a\u043d\u0430 (adaptive span vs. fixed span):<\/p>\n<p>  <\/p>\n<ul>\n<li>(\u0441\u043b\u0435\u0432\u0430) \u043b\u043e\u0441\u0441 \u043f\u0430\u0434\u0430\u0435\u0442 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u043f\u0440\u0438 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0438 \u043c\u0430\u043a\u0441\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u043e\u0433\u043e \u043e\u043a\u043d\u0430 (span limit \u043f\u043e \u043e\u0441\u0438 \u0438\u043a\u0441\u043e\u0432);<\/li>\n<li>(\u0432 \u0446\u0435\u043d\u0442\u0440\u0435) \u0441\u0440\u0435\u0434\u043d\u0438\u0439 \u0432\u044b\u0443\u0447\u0438\u0432\u0430\u0435\u043c\u044b\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u043e\u043a\u043d\u0430 (\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0432\u044b\u0448\u0435 \u0431\u044b\u043b z) \u043d\u0435\u0441\u0438\u043b\u044c\u043d\u043e \u0440\u0430\u0441\u0442\u0435\u0442 \u043f\u0440\u0438 \u0440\u043e\u0441\u0442\u0435 S \u0438 \u043e\u0441\u0442\u0430\u0435\u0442\u0441\u044f \u043c\u0430\u043b\u044b\u043c, \u0434\u043e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u0441\u043e\u0442\u0435\u043d;<\/li>\n<li>(\u0441\u043f\u0440\u0430\u0432\u0430) \u0442\u043e \u0436\u0435 \u0441\u0430\u043c\u043e\u0435 \u043f\u043e \u0444\u043b\u043e\u043f\u0441\u0430\u043c.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u0412\u044b\u0432\u043e\u0434<\/strong> \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u2013 \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u0432 \u043f\u0440\u043e\u0448\u043b\u043e\u0435 \u0432\u0441\u0435\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u043d\u0430 300 \u0437\u043d\u0430\u043a\u043e\u0432 \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0434\u043e\u0431\u0438\u0432\u0430\u0442\u044c\u0441\u044f SOTA \u0432 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u043f\u043e\u0441\u0438\u043c\u0432\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u044f\u0437\u044b\u043a\u043e\u0432\u043e\u0433\u043e \u043c\u043e\u0434\u0435\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ps\/r1\/um\/psr1umtanx02pnwqvkj_zcm9v70.png\">  <\/p>\n<p>  \u041e\u0442 \u0430\u0432\u0442\u043e\u0440\u0430 \u043e\u0431\u0437\u043e\u0440\u0430 \u043e\u0441\u0442\u0430\u043b\u0430\u0441\u044c \u043f\u0430\u0440\u0430 \u043f\u0440\u0435\u0442\u0435\u043d\u0437\u0438\u0439 \u043a \u0441\u0442\u0430\u0442\u044c\u0435:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u041a\u0443\u0447\u0430-\u043a\u0443\u0447\u0430 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432, \u043f\u0435\u0440\u0435\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0435 \u043a\u0430\u043a \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0432\u0441\u0435\u0432\u043e\u0437\u043c\u043e\u0436\u043d\u044b\u0435 \u0432\u0435\u0441\u0430, \u0434\u0440\u043e\u043f\u0430\u0443\u0442\u044b, \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438 \u0438 \u0442.\u0434. \u0412\u043f\u0435\u0447\u0430\u0442\u043b\u0435\u043d\u0438\u0435, \u0447\u0442\u043e \u0431\u0435\u0437 \u0434\u0438\u043a\u043e\u0433\u043e grid search \u043d\u0435 \u0437\u0430\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u043e. \u0425\u043e\u0442\u044f \u043a\u043e\u0434\u043e\u043c \u043f\u043e\u0434\u0435\u043b\u0438\u043b\u0438\u0441\u044c, \u0435\u0441\u043b\u0438 \u043f\u0440\u0438\u043b\u043e\u0436\u0438\u0442\u044c \u0443\u0441\u0438\u043b\u0438\u044f, \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0440\u0438\u0442\u044c, \u0437\u0430\u0445\u043e\u0434\u0438\u0442 \u043b\u0438 \u043e\u043d\u043e \u043f\u0440\u0438 \u043c\u0435\u043d\u0435\u0435 \u0441\u043a\u0440\u0443\u043f\u0443\u043b\u0435\u0437\u043d\u043e\u043c \u0432\u044b\u0431\u043e\u0440\u0435 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432.<\/li>\n<li>\u041f\u043e\u0447\u0435\u043c\u0443 \u043d\u0435 \u043e\u0431\u043e\u0431\u0449\u0438\u043b\u0438 \u043d\u0430 word-level LM? \u0417\u043d\u0430\u0447\u0438\u0442, \u043d\u0435 \u0441\u043c\u043e\u0433\u043b\u0438 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c.<\/li>\n<\/ul>\n<p>  <\/p>\n<h3 id=\"4-resnest-split-attention-networks\">4. ResNeSt: Split-Attention Networks<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Hang Zhang, Chongruo Wu, Zhongyue Zhang, Yi Zhu, Zhi Zhang, Haibin Lin, Yue Sun, Tong He, Jonas Mueller, R. Manmatha, Mu Li, Alexander Smola (Amazon, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2004.08955\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/zhanghang1989\/ResNeSt\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor, \u043d\u0430 habr <a href=\"https:\/\/habr.com\/ru\/users\/Artgor\/\">artgor<\/a>)<\/p>\n<p>  <\/p>\n<p>\u041d\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u044f ResNet-\u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440: split-attention \u0431\u043b\u043e\u043a. \u0414\u0430\u0451\u0442 \u0432\u044b\u0441\u043e\u043a\u043e\u0435 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0430 ImageNet (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, ResNeSt-269 \u0442\u0440\u0435\u043d\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0438 \u0447\u0443\u0442\u044c \u043b\u0443\u0447\u0448\u0435, \u0447\u0435\u043c EfficientNet-B7). \u041d\u043e, \u0447\u0442\u043e \u0432\u0430\u0436\u043d\u0435\u0435, \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 backbone \u0434\u043b\u044f \u0441\u0430\u043c\u044b\u0445 \u0440\u0430\u0437\u043d\u044b\u0445 \u0437\u0430\u0434\u0430\u0447 \u2014 \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043b\u044f segmentation \u0438 object detection.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ix\/ap\/ym\/ixapym3ve9xsd5cxbdpaekgmhme.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  <strong>\u041e\u0431\u043e\u0441\u043d\u043e\u0432\u0430\u043d\u0438\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f<\/strong><br \/>  \u0412 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u0435 \u0437\u0430\u0434\u0430\u0447 \u043f\u043e \u0440\u0430\u0431\u043e\u0442\u0435 \u0441 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f\u043c\u0438 \u043e\u0431\u044b\u0447\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 ResNet \u0438\u043b\u0438 \u0435\u0433\u043e \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u044b \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 backbone, \u043d\u043e \u044d\u0442\u0430 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0431\u044b\u043b\u0430 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u0430 \u0438\u043c\u0435\u043d\u043d\u043e \u0434\u043b\u044f \u0437\u0430\u0434\u0430\u0447 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0443 \u043d\u0435\u0451 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u043d\u044b\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 receptive field \u0438 \u043d\u0435\u0442 \u0432\u0437\u0430\u0438\u043c\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u044f \u043c\u0435\u0436\u0434\u0443 \u043a\u0430\u043d\u0430\u043b\u0430\u043c\u0438. \u0410 \u044d\u0442\u043e \u0437\u043d\u0430\u0447\u0438\u0442, \u0447\u0442\u043e \u043f\u0440\u0438\u0445\u043e\u0434\u0438\u0442\u0441\u044f \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0442\u044c \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u044b\u0435 \u0442\u0440\u044e\u043a\u0438, \u0447\u0442\u043e\u0431\u044b \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0448\u0435 \u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043d\u0430 \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a: \u043c\u043e\u0434\u0443\u043b\u044c \u0441 \u043f\u0438\u0440\u0430\u043c\u0438\u0434\u043e\u0439, long-range connections, cross-channel feature-map attention.<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0437\u0430\u0445\u043e\u0442\u0435\u043b\u0438 \u043f\u043e\u0438\u0441\u043a\u0430\u0442\u044c \u043d\u0435\u043a\u0438\u0439 \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0430\u043b\u044c\u043d\u044b\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043a \u0440\u0435\u0448\u0435\u043d\u0438\u044e \u044d\u0442\u043e\u0439 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442\u0441\u044f \u0434\u0432\u0435 \u043d\u043e\u0432\u044b\u0435 \u0432\u0435\u0449\u0438:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0432\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u043d\u0438\u0435 feature-map split attention \u0432 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u044b\u0435 \u0431\u043b\u043e\u043a\u0438, \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0437\u0430\u0442\u0440\u0430\u0442\u044b \u043d\u0435 \u0432\u044b\u0448\u0435, \u0447\u0435\u043c \u0443 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u043e\u0432 ResNet, \u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043b\u0443\u0447\u0448\u0435;<\/li>\n<li>\u043c\u043d\u043e\u0433\u043e \u0431\u0435\u043d\u0447\u043c\u0430\u0440\u043a\u043e\u0432 \u043d\u0430 \u0431\u043e\u043b\u044c\u0448\u0438\u0445 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430\u0445 \u043f\u043e \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0438 \u043f\u043e transfer learning.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0431\u043b\u043e\u043a\u0430<\/strong><br \/>  \u041d\u043e\u0432\u044b\u0439 \u0431\u043b\u043e\u043a \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f <em>Split-Attention Block<\/em>. \u041a\u0430\u0436\u0434\u0430\u044f \u0444\u0438\u0447\u0430 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0440\u0430\u0437\u0434\u0435\u043b\u0435\u043d\u0430 \u043d\u0430 K (cardinality) feature-map groups. \u0418 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0432\u043d\u0443\u0442\u0440\u0438 \u043a\u0430\u0436\u0434\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u044b \u043c\u043e\u0436\u043d\u043e \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e R (radix) \u0441\u043f\u043b\u0438\u0442\u043e\u0432, \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043e\u0431\u0449\u0435\u0435 \u0447\u0438\u0441\u043b\u043e feature groups \u2014 G = K * R. \u041a \u043a\u0430\u0436\u0434\u043e\u0439 \u0433\u0440\u0443\u043f\u043f\u0435 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0438\u043c\u0435\u043d\u0438\u0442\u044c \u043a\u0430\u043a\u0438\u0435-\u043d\u0438\u0431\u0443\u0434\u044c \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ql\/ka\/86\/qlka86ybhp3cvsqtb_9unc5wa7c.png\">  <\/p>\n<p>  \u0414\u043e\u0431\u0430\u0432\u0438\u043b\u0438 <strong>Split Attention in Cardinal Groups<\/strong>. \u0414\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 cardinal \u0433\u0440\u0443\u043f\u043f\u044b \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043e \u043e\u0431\u044a\u0435\u0434\u0438\u043d\u0435\u043d\u0438\u0435, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f \u043f\u043e\u044d\u043b\u0435\u043c\u0435\u043d\u0442\u043d\u043e\u0435 \u0441\u0443\u043c\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0432\u0434\u043e\u043b\u044c \u043c\u043d\u043e\u0433\u0438\u0445 \u0441\u043f\u043b\u0438\u0442\u043e\u0432.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/al\/94\/4x\/al944xtktaxqwzzmxtnaim3edkq.png\" width=\"250\" height=\"120\">  <\/p>\n<p>  <strong>ResNeSt Block<\/strong><br \/>  \u041f\u043e\u0441\u043b\u0435 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0435\u0433\u043e \u0448\u0430\u0433\u0430 \u0432\u0441\u0435 \u043a\u0430\u0440\u0434\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435 \u0433\u0440\u0443\u043f\u043f\u044b \u043c\u043e\u0436\u043d\u043e \u0441\u043a\u043e\u043d\u043a\u0430\u0442\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u043e\u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e. \u0424\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0439 output \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0432 residual \u0431\u043b\u043e\u043a\u0430\u0445 \u2014 shortcut connection, \u0435\u0441\u043b\u0438 \u0440\u0430\u0437\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u044c \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u0430\u044f, \u0435\u0441\u043b\u0438 \u0436\u0435 \u043d\u0435\u0442, \u0442\u043e \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u0435\u0442\u0441\u044f strided convolution \u0438\u043b\u0438 combined convolution-with-pooling.<\/p>\n<p>  <\/p>\n<p><strong>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430<\/strong><\/p>\n<p>  <\/p>\n<ul>\n<li><em>Average Downsampling<\/em>: \u0437\u0430\u043c\u0435\u043d\u0438\u043b\u0438 strided convolution \u0432 transitioning block \u043d\u0430 average pooling layer \u0441 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c 3 \u00d7 3. <\/li>\n<li><em>Tweaks from ResNet-D<\/em>: \u043f\u0435\u0440\u0432\u044b\u0439 \u0441\u043b\u043e\u0439 7\u04457 \u0437\u0430\u043c\u0435\u043d\u0438\u043b\u0438 \u043d\u0430 3 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 3\u04453, \u0447\u0442\u043e \u0434\u0430\u0435\u0442 \u0432\u044b\u0438\u0433\u0440\u044b\u0448 \u0432 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u044f\u0445.<\/li>\n<li>\u0414\u043e\u0431\u0430\u0432\u0438\u043b\u0438 average pooling 2&#215;2 \u043a shortcut connection \u043f\u0435\u0440\u0435\u0434 1&#215;1 convolution \u0434\u043b\u044f transitioning blocks with stride of two.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0430: Large Mini-batch Distributed Training<\/strong><br \/>  8 \u0441\u0435\u0440\u0432\u0435\u0440\u043e\u0432 \u043f\u043e 8 GPU. \u041b\u0438\u043d\u0435\u0439\u043d\u043e \u0441\u043a\u0435\u0439\u043b\u044f\u0442 \u043d\u0430\u0447\u0430\u043b\u044c\u043d\u0443\u044e learning rate \u0432 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0442 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043c\u0438\u043d\u0438-\u0431\u0430\u0442\u0447\u0430. \u0412\u043d\u0430\u0447\u0430\u043b\u0435 warm-up, \u043f\u043e\u0442\u043e\u043c cosine scheduler. BN \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440 \u03b3 \u0438\u043d\u0438\u0446\u0438\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0440\u0430\u0432\u043d\u044b\u043c 0 \u0434\u043b\u044f \u043a\u0430\u0436\u0434\u043e\u0439 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0439 BN \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438 \u0432 \u043a\u0430\u0436\u0434\u043e\u043c \u0431\u043b\u043e\u043a\u0435. Label Smoothing, Auto Augmentation, Mixup, Large Crop Size (224 \u0438 256), Regularization (dropout, dropblock, weight decay).<\/p>\n<p>  <\/p>\n<p><strong>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0430 \u043d\u0430 ImageNet<\/strong><br \/>  \u0421 \u043a\u0430\u0436\u0434\u044b\u043c \u043c\u0438\u043d\u0438-\u0431\u0430\u0442\u0447\u0435\u043c \u0434\u0435\u043b\u0430\u044e\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0435\u0435:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u0438\u0437 autoaugment;<\/li>\n<li>\u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 (random size crop, random horizontal flip, color jittering, and changing the lighting);<\/li>\n<li>\u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0447\u0435\u0440\u0435\u0437 mean, std;<\/li>\n<li>mixup.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>270 \u044d\u043f\u043e\u0445, weight decay 0.0001, momentum 0.9, cosine learning rate schedule with the first 5 epochs reserved for warm-up. \u0420\u0430\u0437\u043c\u0435\u0440 \u043c\u0438\u043d\u0438-\u0431\u0430\u0442\u0447\u0430\u2026 8192 for ResNeSt-50, 4096 for ResNeSt 101, and 2048 for ResNeSt-{200, 269}.<\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u043f\u043e\u0434\u0441\u0447\u0435\u0442\u0430 \u0441\u043a\u043e\u0440\u0430 \u0434\u0435\u043b\u0430\u044e\u0442 \u0440\u0435\u0441\u0430\u0439\u0437 \u043a 1\/0.875 \u043e\u0442 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 \u043a\u0440\u043e\u043f\u0430 \u043f\u043e \u043a\u043e\u0440\u043e\u0442\u043a\u043e\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u0435 \u0438 \u043d\u0430\u043a\u043b\u0430\u0434\u044b\u0432\u0430\u044e\u0442 center crop.\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043d\u0430 mxnet, glouncv.<\/p>\n<p>  <\/p>\n<p><strong>Ablation Study<\/strong><br \/>  \u041e\u0442\u0434\u0435\u043b\u044c\u043d\u043e \u0441\u0442\u043e\u0438\u0442 \u043e\u0442\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 radix \u0441 0 \u0434\u043e 4 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043b\u0443\u0447\u0448\u0430\u0435\u0442 top-1 accuracy, \u043d\u043e \u0435\u0449\u0451 \u0438 latency, \u0430 \u0442\u0430\u043a\u0436\u0435 memory usage.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/b8\/5j\/vl\/b85jvlzqg4aeq_h_v-zjkzbddoy.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<h3 id=\"5-weight-standardization\">5. Weight Standardization<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Siyuan Qiao, Huiyu Wang, Chenxi Liu, Wei Shen, Alan Yuille (Johns Hopkins University, 2019)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1903.10520\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/joe-siyuan-qiao\/WeightStandardization\/\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u042d\u043c\u0438\u043b\u044c \u0417\u0430\u043a\u0438\u0440\u043e\u0432 (\u0432 \u0441\u043b\u044d\u043a\u0435 bonlime)<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0440\u0435\u0448\u0430\u044e\u0442 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u0443 micro-batch training, \u043a\u043e\u0433\u0434\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435 BatchNorm (BN) \u0437\u0430\u0442\u0440\u0443\u0434\u043d\u0435\u043d\u043e. GroupNorm \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u043c\u043e\u0436\u0435\u0442 \u0441\u043b\u0443\u0436\u0438\u0442\u044c \u0445\u043e\u0440\u043e\u0448\u0435\u0439 \u0430\u043b\u044c\u0442\u0435\u0440\u043d\u0430\u0442\u0438\u0432\u043e\u0439, \u043d\u043e \u0434\u043e \u0441\u0438\u0445 \u043f\u043e\u0440 \u043e\u043d \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u043b \u0441\u0435\u0431\u044f \u0445\u0443\u0436\u0435 \u0447\u0435\u043c BN. \u0423\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e BN \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442 \u0442\u0435\u043c, \u0447\u0442\u043e \u0441\u0433\u043b\u0430\u0436\u0438\u0432\u0430\u0435\u0442 loss landscape \u0438 \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e. \u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u0434\u0440\u0443\u0433\u043e\u0439 \u0441\u043f\u043e\u0441\u043e\u0431 \u0441\u0433\u043b\u0430\u0434\u0438\u0442\u044c loss landscape (\u0438 \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0434\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e \u044d\u0442\u043e \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442 \u043a\u043e\u043d\u0441\u0442\u0430\u043d\u0442\u0443 \u041b\u0438\u043f\u0448\u0438\u0446\u0430). \u041a\u0430\u043a \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434 + GroupNorm \u0441 BS=1 \u0434\u0430\u0451\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043b\u0443\u0447\u0448\u0435, \u0447\u0435\u043c BN + \u0431\u043e\u043b\u044c\u0448\u043e\u0439 BS.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/qi\/ze\/hv\/qizehvu3-htdleatnajjhlu1nyq.png\" width=\"400\" height=\"250\">  <\/p>\n<p>  \u0421\u0442\u0430\u0442\u044c\u044f \u0441 \u043e\u0447\u0435\u043d\u044c \u043f\u0440\u043e\u0441\u0442\u043e\u0439 \u0438\u0434\u0435\u0435\u0439 \u0438 \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u044e\u0449\u0438\u043c\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c\u0438, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043f\u043e\u0447\u0435\u043c\u0443-\u0442\u043e \u043e\u0441\u0442\u0430\u043b\u0430\u0441\u044c \u0431\u0435\u0437 \u043e\u0441\u043e\u0431\u043e\u0433\u043e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u044f.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/c5\/f6\/yb\/c5f6ybigaxoqi-as1sppferw4ja.png\" width=\"400\" height=\"250\">  <\/p>\n<p>  <strong>\u041e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0438\u0434\u0435\u044f<\/strong>: BN \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0438 \u043a\u0430\u043a \u0441\u043b\u0435\u0434\u0441\u0442\u0432\u0438\u0435 \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e. \u0410 \u0434\u0430\u0432\u0430\u0439\u0442\u0435 \u0431\u0443\u0434\u0435\u043c \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0435\u0449\u0435 \u0438 \u0432\u0435\u0441\u0430 \u0443 \u0441\u043b\u043e\u0451\u0432, \u0447\u0442\u043e\u0431\u044b \u0435\u0449\u0435 \u0441\u0438\u043b\u044c\u043d\u0435\u0435 \u0443\u043f\u0440\u043e\u0441\u0442\u0438\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e \u0441\u0443\u0442\u0438 \u0433\u043b\u0430\u0432\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0432\u0441\u0435\u0439 \u0441\u0442\u0430\u0442\u044c\u0438: <strong>GN &lt; BS &lt; GN + WS &lt; BS + WS<\/strong>. WS c\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e \u0434\u043e\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/2d\/lm\/oc\/2dlmoc2kkm7mukgekumut_bf-cw.png\">  <\/p>\n<p>  \u041f\u043e\u043f\u0440\u043e\u0431\u043e\u0432\u0430\u043b\u0438 \u043e\u0431\u0443\u0447\u0438\u0442\u044c ResNeXt 50 (101) \u0442\u043e\u043b\u044c\u043a\u043e \u0441 GN \u2014 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0445\u0443\u0436\u0435 \u0447\u0435\u043c \u0443 ResNet 50 (101). \u0410 \u0432\u043e\u0442 \u0435\u0441\u043b\u0438 \u0434\u043e\u0431\u0430\u0432\u0438\u0442\u044c WS, \u0442\u043e ResNeXt \u0441\u0440\u0430\u0437\u0443 \u043d\u0430\u0447\u0438\u043d\u0430\u0435\u0442 \u0443\u0447\u0438\u0442\u044c\u0441\u044f \u0433\u043e\u0440\u0430\u0437\u0434\u043e \u043b\u0443\u0447\u0448\u0435. \u041d\u0438\u043a\u0430\u043a\u0438\u0445 \u0433\u0438\u043f\u0435\u0440-\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u043d\u0435 \u0442\u044e\u043d\u0438\u043b\u0438, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 GN c groups=32.<\/p>\n<p>  <\/p>\n<p>\u041f\u043e \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043d\u0430 COCO WS \u043e\u043f\u044f\u0442\u044c \u0441\u0442\u0430\u0431\u0438\u043b\u044c\u043d\u043e \u0434\u043e\u043a\u0438\u0434\u044b\u0432\u0430\u0435\u0442 \u0438 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u043b\u0443\u0447\u0448\u0435 \u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0431\u043e\u043b\u0435\u0435 \u0433\u043b\u0443\u0431\u043e\u043a\u0438\u0435 \u0441\u0435\u0442\u0438.<\/p>\n<p>  <\/p>\n<h3 id=\"6-supervised-contrastive-learning\">6. Supervised Contrastive Learning<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Prannay Khosla, Piotr Teterwak, Chen Wang, Aaron Sarna, Yonglong Tian, Phillip Isola, Aaron Maschinot, Ce Liu, Dilip Krishnan (Google Research, MIT, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2004.11362\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/HobbitLong\/SupContrast\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0410\u043d\u0434\u0440\u0435\u0439 \u041b\u0443\u043a\u044c\u044f\u043d\u0435\u043d\u043a\u043e (\u0432 \u0441\u043b\u044d\u043a\u0435 artgor, \u043d\u0430 habr <a href=\"https:\/\/habr.com\/ru\/users\/Artgor\/\">artgor<\/a>)<\/p>\n<p>  <\/p>\n<p>\u041f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u043d\u043e\u0432\u044b\u0439 \u043b\u043e\u0441\u0441 \u043d\u0430 \u0437\u0430\u043c\u0435\u043d\u0443 cross-entropy: \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u0443\u044e\u0442 batch contrastive loss. \u042d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0441\u0445\u043e\u0436\u0438\u043c\u0438, \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0440\u0430\u0437\u043d\u044b\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u2014 \u0440\u0430\u0437\u043d\u044b\u043c\u0438. \u0415\u0449\u0451 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0440\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 \u0438 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438.<\/p>\n<p>  <\/p>\n<p>\u041c\u043e\u0434\u0435\u043b\u044c\u043a\u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u043a\u0440\u0443\u0442\u044b\u043c\u0438 (\u043f\u043e \u0441\u0440\u0430\u0432\u043d\u0435\u043d\u0438\u044e \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u043c\u043e\u0434\u0435\u043b\u044f\u043c\u0438, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0438\u043c\u0438 autoaugment) \u0438 \u0440\u043e\u0431\u0430\u0441\u0442\u043d\u044b\u043c\u0438. \u0412 \u043e\u0431\u0449\u0435\u043c \u043f\u043e \u0441\u0443\u0442\u0438 \u043f\u043e\u0445\u043e\u0436\u0435 \u043d\u0430 triplet loss, \u043d\u043e \u0432 \u043d\u0435\u043c \u043d\u0435 \u043f\u043e \u043e\u0434\u043d\u043e\u0439 \u043f\u0430\u0440\u0435 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445-\u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u0430 \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0438 \u043c\u043d\u043e\u0433\u043e \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445.<\/p>\n<p>  <\/p>\n<p>Cross-entropy \u0430\u043a\u0442\u0438\u0432\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0437\u0430\u0434\u0430\u0447\u0430\u0445 \u0441 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430\u043c\u0438, \u043d\u043e \u0443 \u043d\u0435\u0439 \u0435\u0441\u0442\u044c \u0440\u044f\u0434 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0445 \u043f\u0440\u043e\u0431\u043b\u0435\u043c. \u0411\u044b\u043b\u043e \u0441\u0434\u0435\u043b\u0430\u043d\u043e \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u043f\u044b\u0442\u043e\u043a \u0434\u043b\u044f \u0438\u0445 \u0438\u0441\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f, \u0442\u0430\u043a\u0438\u0435 \u043a\u0430\u043a label smoothing, self-distillation, mixup \u0438 \u0434\u0440\u0443\u0433\u0438\u0435.<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0442 \u043d\u043e\u0432\u044b\u0439 \u043b\u043e\u0441\u0441, \u043e\u0441\u043d\u043e\u0432\u043d\u0430\u044f \u0441\u0443\u0442\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u0434\u043e\u043b\u0436\u043d\u044b \u0431\u044b\u0442\u044c \u0431\u043b\u0438\u0436\u0435 \u0434\u0440\u0443\u0433 \u043a \u0434\u0440\u0443\u0433\u0443, \u0447\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0440\u0430\u0437\u043d\u044b\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432. \u042d\u0442\u043e\u0442 \u043b\u043e\u0441\u0441 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043f\u043e \u0444\u0430\u043a\u0442\u0443 \u043f\u0440\u043e\u0434\u043e\u043b\u0436\u0435\u043d\u0438\u0435\u043c \u0438\u0434\u0435\u0438 contrastive objective functions, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0445\u043e\u0440\u043e\u0448\u043e \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432 self-supervised learning. \u041d\u0443 \u0438 \u043b\u043e\u0433\u0438\u0447\u043d\u043e, \u0447\u0442\u043e \u0435\u0441\u0442\u044c \u0441\u0432\u044f\u0437\u044c \u0441 metric learning.<\/p>\n<p>  <\/p>\n<p>\u0412 contrastive \u043b\u043e\u0441\u0441\u0430\u0445 \u0435\u0441\u0442\u044c \u0434\u0432\u0435 &quot;\u043f\u0440\u043e\u0442\u0438\u0432\u043e\u043f\u043e\u043b\u043e\u0436\u043d\u044b\u0435 \u0441\u0438\u043b\u044b&quot;. \u041f\u0435\u0440\u0432\u0430\u044f &quot;\u0441\u0438\u043b\u0430&quot; \u0442\u044f\u043d\u0435\u0442 \u044f\u043a\u043e\u0440\u044c \u0431\u043b\u0438\u0436\u0435 \u043a \u043e\u0434\u043d\u0438\u043c \u0442\u043e\u0447\u043a\u0430\u043c, \u0432\u0442\u043e\u0440\u0430\u044f \u0442\u043e\u043b\u043a\u0430\u0435\u0442 \u0435\u0433\u043e \u043f\u043e\u0434\u0430\u043b\u044c\u0448\u0435 \u043e\u0442 \u0434\u0440\u0443\u0433\u0438\u0445 \u0442\u043e\u0447\u0435\u043a. \u041f\u0435\u0440\u0432\u044b\u0435 \u2014 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0435 \u0441\u0435\u043c\u043f\u043b\u044b, \u0432\u0442\u043e\u0440\u044b\u0435 \u2014 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435. \u041e\u0434\u043d\u043e \u0438\u0437 \u043a\u043b\u044e\u0447\u0435\u0432\u044b\u0445 \u043d\u043e\u0432\u0448\u0435\u0441\u0442\u0432 \u0441\u0442\u0430\u0442\u044c\u0438 \u2014 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0443 \u043d\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 \u043c\u043d\u043e\u0433\u043e \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0438 \u043c\u043d\u043e\u0433\u043e \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u043c\u043f\u043b\u043e\u0432 \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u044f\u043a\u043e\u0440\u044c, \u043f\u0440\u0438\u0447\u0451\u043c \u0432\u044b\u0431\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u043b\u0443\u0447\u0448\u0435 \u0447\u0435\u043c \u0432 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u0445.<\/p>\n<p>  <\/p>\n<p>\u0427\u0442\u043e <strong>\u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0433\u043e \u0434\u0430\u0435\u0442 \u0441\u0442\u0430\u0442\u044c\u044f<\/strong>:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0432\u043e\u0442 \u044d\u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439 \u043b\u043e\u0441\u0441;<\/li>\n<li>\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0430\u0446\u0438\u044f \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438 \u0440\u043e\u0431\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438 \u043d\u0430 Imagenet;<\/li>\n<li>\u044d\u0442\u043e\u0442 \u043b\u043e\u0441\u0441 \u043c\u0435\u043d\u0435\u0435 \u0447\u0443\u0432\u0441\u0442\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0439 \u043a \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u043c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432;<\/li>\n<li>\u0434\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u0447\u0435\u0441\u043a\u0438, \u0447\u0442\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043b\u043e\u0441\u0441\u0430 \u0441\u043f\u043e\u0441\u043e\u0431\u0441\u0442\u0432\u0443\u0435\u0442 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044e \u043d\u0430 hard positive \u0438 hard negative;<\/li>\n<li>\u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e triplet loss \u2014 \u0447\u0430\u0441\u0442\u043d\u044b\u0439 \u0441\u043b\u0443\u0447\u0430\u0439 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0433\u043e.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u041e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u0430<\/strong><br \/>  \u0412\u043d\u0430\u0447\u0430\u043b\u0435 \u043e\u0431\u044a\u044f\u0441\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u0443\u0442\u044c contrastive learning loss for self-supervised representation learning, \u0430 \u043f\u043e\u0442\u043e\u043c \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0435\u0433\u043e \u043c\u043e\u0434\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u043b\u0438.<\/p>\n<p>  <\/p>\n<p><strong>Representation Learning Framework<\/strong><br \/>  \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u0432 \u0446\u0435\u043b\u043e\u043c \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0442\u0430\u043a\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b:<\/p>\n<p>  <\/p>\n<ul>\n<li><em>data augmentation module<\/em>. \u0411\u0435\u0440\u0435\u043c \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0443 \u0438 \u0441\u043e\u0437\u0434\u0430\u0435\u043c \u0438\u0437 \u043d\u0435\u0451 \u0434\u0432\u0435 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0445. \u041f\u0435\u0440\u0432\u044b\u0439 \u0448\u0430\u0433 \u0442\u0430\u043a\u043e\u0439 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u2014 random crop, \u0430 \u0437\u0430\u0442\u0435\u043c resize \u0434\u043e \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. \u0412\u0442\u043e\u0440\u043e\u0439 \u0448\u0430\u0433 \u2014 \u0443\u0436\u0435 \u0441\u0430\u043c\u0430 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f, \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u043e\u0431\u0443\u044e\u0442 3 \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430: autoaugment, randaugment, simaugment (random color distortion + Gaussian blurring + sparse image warp);<\/li>\n<li><em>encoder<\/em> \u2014 \u043f\u0440\u043e\u0441\u0442\u043e backbone. \u0410\u0432\u0442\u043e\u0440\u044b \u0431\u0440\u0430\u043b\u0438 ResNet-50 \u0438 ResNet-200, \u043d\u0430 \u0432\u044b\u0445\u043e\u0434 \u0431\u0435\u0440\u0435\u043c \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 pooling, \u0442.\u0435. \u0432\u0435\u043a\u0442\u043e\u0440 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c 2048;<\/li>\n<li><em>projection network<\/em>. \u0411\u0435\u0440\u0443\u0442 output \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u043f\u0440\u043e\u043f\u0443\u0441\u043a\u0430\u044e\u0442 \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u0443\u044e \u0441\u0435\u0442\u044c. \u0412 \u0434\u0430\u043d\u043d\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435 MLP \u0441 \u043e\u0434\u043d\u0438\u043c \u0441\u043a\u0440\u044b\u0442\u044b\u043c \u0441\u043b\u043e\u0435\u043c, \u0440\u0430\u0437\u043c\u0435\u0440 \u0432\u044b\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0441\u043b\u043e\u044f \u2014 128. \u0412\u0435\u043a\u0442\u043e\u0440 \u0435\u0449\u0451 \u0440\u0430\u0437 \u043d\u043e\u0440\u043c\u0430\u043b\u0438\u0437\u0443\u044e\u0442 \u0434\u043b\u044f \u043f\u043e\u0434\u0441\u0447\u0435\u0442\u0430 \u043b\u043e\u0441\u0441\u0430. \u042d\u0442\u043e\u0442 MLP \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u043b\u044f \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438 supervised contrastive loss. \u041f\u043e\u0441\u043b\u0435 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438 MLP \u0443\u0431\u0438\u0440\u0430\u044e\u0442 \u0438 \u0437\u0430\u043c\u0435\u043d\u044f\u044e\u0442 \u043d\u0430 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u043b\u0438\u043d\u0435\u0439\u043d\u044b\u0439 \u0441\u043b\u043e\u0439. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0434\u0430\u0435\u0442 \u0431\u043e\u043b\u0435\u0435 \u0445\u043e\u0440\u043e\u0448\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043d\u0430 downstream \u0437\u0430\u0434\u0430\u0447\u0430\u0445.<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/yl\/he\/4l\/ylhe4l7ffdiewrlufvrzxswjc-0.png\">  <\/p>\n<p>  <strong>Contrastive Losses: Self-Supervised and Supervised<\/strong><br \/>  \u0412 \u0446\u0435\u043b\u043e\u043c \u043f\u043e\u0434\u0445\u043e\u0434 \u0437\u0430\u043a\u043b\u044e\u0447\u0430\u0435\u0442\u0441\u044f \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u0438\u0437 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0431\u0430\u0442\u0447\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0434\u0432\u0430 \u043d\u043e\u0432\u044b\u0445 \u2014 \u0441 \u0440\u0430\u0437\u043d\u044b\u043c\u0438 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u044f\u043c\u0438.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/en\/vy\/z0\/envyz0sxyx_woexe16_tzd_p_qc.png\">  <\/p>\n<p>  <strong>Self-Supervised Contrastive Loss<\/strong><br \/>  \u041f\u0443\u0441\u0442\u044c i \u2014 \u0438\u043d\u0434\u0435\u043a\u0441 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, j(i) \u2014 \u0438\u043d\u0434\u0435\u043a\u0441 \u0432\u0442\u043e\u0440\u043e\u0439 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438, \u043f\u0440\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0438, \u0447\u0442\u043e \u043e\u043d\u0438 \u0431\u044b\u043b\u0438 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0438\u0437 \u043e\u0434\u043d\u043e\u0439 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438. <\/p>\n<p>  <\/p>\n<p>\u041b\u043e\u0441\u0441 \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c. \u041f\u043e \u0444\u0430\u043a\u0442\u0443 \u0443 \u043d\u0430\u0441 i \u2014 \u044f\u043a\u043e\u0440\u044c, j(i) \u2014 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u0435\u043c\u043f\u043b, \u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0441 \u0434\u0440\u0443\u0433\u0438\u043c\u0438 \u0438\u043d\u0434\u0435\u043a\u0441\u0430\u043c\u0438 \u2014 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u0441\u0435\u043c\u043f\u043b\u044b. \u041f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043d\u0430 \u043a\u0430\u0436\u0434\u044b\u0439 \u044f\u043a\u043e\u0440\u044c \u0443 \u043d\u0430\u0441 1 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0439 \u0441\u0435\u043c\u043f\u043b \u0438 2N-2 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445.<\/p>\n<p>  <\/p>\n<p><math><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/57e\/631\/414\/57e631414a29c970c1183ba6376293c7.svg\" alt=\"$L^{self}=\\sum^{2N}_{i=1} L^{self}_i, \\qquad L^{self}_i=-log\\frac{exp(z_i \\cdot z_{j(i)}\/\\tau)}{\\sum^{2N}_{k=1} 1_{i \\neq k} exp(z_i \\cdot z_k\/\\tau)}$\" data-tex=\"display\"><\/math><\/p>\n<p>  <\/p>\n<p><strong>Supervised Contrastive Loss<\/strong><br \/>  \u041c\u044b \u0445\u043e\u0442\u0438\u043c \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u044c \u043b\u043e\u0441\u0441 \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u043e\u043d \u043c\u043e\u0433 \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u043c\u0438 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u043c\u0438 \u043a\u0435\u0439\u0441\u0430\u043c\u0438.\u0422\u0435\u043f\u0435\u0440\u044c \u0432 \u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u0435 \u043d\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0438\u0437 \u043e\u0434\u043d\u043e\u0439 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439, \u043d\u043e \u0438 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0441 \u0442\u0430\u043a\u0438\u043c \u0436\u0435 \u043a\u043b\u0430\u0441\u0441\u043e\u043c. \u0418 \u0442\u0435\u043f\u0435\u0440\u044c \u0432\u044b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0441\u0431\u043b\u0438\u0436\u0430\u044e\u0442 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u043e\u0434\u0438\u043d\u0430\u043a\u043e\u0432\u044b\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432.<\/p>\n<p>  <\/p>\n<p><math><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/74e\/3a5\/ee2\/74e3a5ee28e87189e8f194b8baf3055d.svg\" alt=\"$L^{sup}=\\sum^{2N}_{i=1} L^{sup}_i, \\qquad L^{sup}_i= \\frac{-1}{2 N_{y_i} - 1} \\sum^{2N}_{j=1} 1_{i \\neq j} \\cdot 1_{y_i = y_j} \\cdot log\\frac{exp(z_i \\cdot z_j\/\\tau)}{\\sum^{2N}_{k=1} 1_{i \\neq k} exp(z_i \\cdot z_k\/\\tau)}$\" data-tex=\"display\"><\/math><\/p>\n<p>  <\/p>\n<p>\u0412 \u0440\u0430\u0431\u043e\u0442\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u043d\u043e, \u0447\u0442\u043e:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u044e\u0442 \u0444\u043e\u043a\u0443\u0441\u0438\u0440\u043e\u0432\u043a\u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u043d\u0430 \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445, \u0430 \u043d\u0435 \u043d\u0430 \u043b\u0435\u0433\u043a\u0438\u0445;<\/li>\n<li>\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0441\u0432\u044f\u0437\u044c \u0441 \u0442\u0440\u0438\u043f\u043b\u0435\u0442 \u043b\u043e\u0441\u0441\u043e\u043c.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/strong><br \/>  \u041f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u043e \u043d\u0430 ImageNet \u0438 \u0440\u043e\u0431\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u044c \u043a \u0440\u0430\u0437\u043d\u044b\u043c \u0432\u0430\u0440\u0438\u0430\u043d\u0442\u0430\u043c \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u0439 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/9c\/xe\/io\/9cxeioxtv4nk8dj6em0w_tqtfka.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  <em>Effect of Number of Positives<\/em><br \/>  \u041f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u0447\u0442\u043e \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u043c\u043f\u043b\u043e\u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u043c\u043e\u0433\u0430\u0435\u0442.<\/p>\n<p>  <\/p>\n<p><strong>\u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0430<\/strong><br \/>  \u0412\u043d\u0430\u0447\u0430\u043b\u0435 700 \u044d\u043f\u043e\u0445 \u0442\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u043a\u0438 \u0441 supervised contrastive loss. \u041d\u043e, \u043a\u0430\u043a \u0443\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u044e\u0442 \u0430\u0432\u0442\u043e\u0440\u044b, \u043c\u043e\u0436\u043d\u043e \u0438 &quot;\u0432\u0441\u0435\u0433\u043e \u043b\u0438\u0448\u044c&quot; 350 \u2014 \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u0430. \u0422\u0440\u0435\u043d\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u043d\u0430 50% \u043c\u0435\u0434\u043b\u0435\u043d\u043d\u0435\u0435, \u0447\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u043e cross entropy. \u0418\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 LARS \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0442\u043e\u0440. \u0422\u0440\u0435\u043d\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0441 \u0440\u0430\u0437\u043c\u0435\u0440\u043e\u043c \u0431\u0430\u0442\u0447\u0430 8192, \u043d\u043e \u043f\u0438\u0448\u0443\u0442, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0438 2048. \u0420\u0430\u0437\u043c\u0435\u0440 \u0431\u0430\u0442\u0447\u0430 \u0440\u0435\u0430\u043b\u044c\u043d\u043e \u0432\u0430\u0436\u0435\u043d, \u0438\u0431\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0441\u043e\u0437\u0434\u0430\u0442\u044c \u0431\u043e\u043b\u044c\u0448\u0435 \u043f\u043e\u0437\u0438\u0442\u0438\u0432\u043d\u044b\u0445 \u0438 \u043d\u0435\u0433\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u043c\u043f\u043b\u043e\u0432. \u0415\u0449\u0451 \u043e\u043d\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0442\u0435\u043c\u043f\u0435\u0440\u0430\u0442\u0443\u0440\u0443 \u043a\u0430\u043a \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440.<\/p>\n<p>  <\/p>\n<h3 id=\"7-improved-training-speed-accuracy-and-data-utilization-through-loss-function-optimization\">7. Improved Training Speed, Accuracy, and Data Utilization Through Loss Function Optimization<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Santiago Gonzalez, Risto Miikkulainen (USA, 2019)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/1905.11528v3\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0414\u0435\u043d\u0438\u0441 \u0412\u043e\u0440\u043e\u0442\u044b\u043d\u0446\u0435\u0432 (\u0432 \u0441\u043b\u044d\u043a\u0435 tEarth, \u043d\u0430 habr <a href=\"https:\/\/habr.com\/ru\/users\/tEarth\/\">tEarth<\/a>)<\/p>\n<p>  <\/p>\n<p>\u0418\u0442\u0430\u043a, \u043c\u044b \u0443\u0436\u0435 \u0443\u043c\u0435\u0435\u043c \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b \u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0441\u0435\u0442\u043a\u0438 \u0447\u0435\u0440\u0435\u0437 NAS, \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0432\u0435\u0441 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0447\u0435\u0440\u0435\u0437 active learning \u0438 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0442\u044c \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0445\u043e\u0440\u043e\u0448\u0438\u0435 \u0430\u0443\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0447\u0435\u0440\u0435\u0437 autoaugment. \u041d\u0435 \u0442\u0430\u043a \u043c\u043d\u043e\u0433\u043e \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0432 \u043f\u0430\u0439\u043f\u043b\u0430\u0439\u043d\u0435 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u043d\u0435 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u0438 \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438 \u0437\u0430\u0434\u0430\u044e\u0442\u0441\u044f \u0432\u043e\u043f\u0440\u043e\u0441\u043e\u043c, <strong>\u043c\u043e\u0436\u0435\u043c \u043b\u0438 \u043c\u044b \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043b\u043e\u0441\u0441 \u0434\u043b\u044f \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043b\u043e\u0441\u0441\u0430?<\/strong> \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043b\u043e\u0441\u0441\u0430 \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 L1 \u0438\u043b\u0438 L2 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u043c\u043e\u0433\u0430\u044e\u0442 \u0431\u043e\u0440\u043e\u0442\u044c\u0441\u044f \u0441 \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435\u043c \u043c\u043e\u0434\u0435\u043b\u0435\u0439.<\/p>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0432 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u044e\u0442 Genetic Loss-function Optimization (GLO) \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438 \u043b\u043e\u0441\u0441\u0430 \u2014 \u043e\u0431\u044b\u0447\u043d\u044b\u0439 \u0433\u0435\u043d\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u0438:<\/p>\n<p>  <\/p>\n<ol>\n<li>\n<p>\u0417\u0430\u0434\u0430\u0435\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u043e \u043f\u043e\u0438\u0441\u043a\u0430 \u043d\u043e\u0432\u044b\u0445 \u043b\u043e\u0441\u0441\u043e\u0432.<br \/>  <u>Unary Operators<\/u>: log(\u25e6), \u25e62, \u221a\u25e6<br \/>  <u>Binary Operators<\/u>: +, \u2217, \u2212, \u00f7<br \/>  <u>Leaf Nodes<\/u>: x, y, 1, \u22121, \u0433\u0434\u0435 x \u2014 ground truth label, y \u2014 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435.<br \/>  \u041f\u0440\u0438\u043c\u0435\u0440 \u043d\u043e\u0432\u043e\u0433\u043e \u043b\u043e\u0441\u0441\u0430: log(y) + x\/y<\/p>\n<p>  <\/li>\n<li>\n<p>\u0421\u0435\u043c\u043f\u043b\u0438\u043c \u043d\u043e\u0432\u044b\u0435 \u043b\u043e\u0441\u0441\u044b (\u043f\u043e\u043f\u0443\u043b\u044f\u0446\u0438\u044f=80), \u043e\u0431\u0443\u0447\u0430\u0435\u043c \u0441\u0435\u0442\u044c, \u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0446\u0435\u043b\u0435\u0432\u0443\u044e \u043c\u0435\u0442\u0440\u0438\u043a\u0443 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 (\u0432 \u0434\u0430\u043d\u043d\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0435 \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u043b\u043e\u0441\u0441\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f logloss).<\/p>\n<p>  <\/li>\n<li>\n<p>\u041e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c fittest \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u043e\u0432, \u043c\u0443\u0442\u0438\u0440\u0443\u0435\u043c, \u0440\u0435\u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u0443\u0435\u043c, \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u0435\u043c.<\/p>\n<p>  <\/li>\n<\/ol>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 \u0434\u0432\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430 \u2014 MNIST \u0438 CIFAR-10, \u043e\u0431\u0443\u0447\u0430\u043b\u0438 \u043f\u0440\u043e\u0441\u0442\u0443\u044e AlexNet \u0441\u0435\u0442\u043a\u0443. \u0410\u0432\u0442\u043e\u0440\u0430\u043c \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u043d\u0430\u0439\u0442\u0438 \u0434\u0432\u0430 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u043b\u043e\u0441\u0441\u0430 \u2014 \u0411\u0430\u0439\u043a\u0430\u043b \u0438 \u0411\u0430\u0439\u043a\u0430\u043b CMA. \u041e\u0431\u0430 \u043b\u043e\u0441\u0441\u0430 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438 \u0445\u043e\u0440\u043e\u0448\u0438\u0435 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u0435\u043b\u0438 \u043d\u0430 \u0432\u0430\u043b\u0438\u0434\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u043c \u0441\u0435\u0442\u0435, \u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u043d\u0430 \u043e\u0442\u043b\u043e\u0436\u0435\u043d\u043d\u043e\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0432\u044b\u0448\u0435, \u0447\u0435\u043c \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u0441 \u0431\u0435\u0439\u0437\u043b\u0430\u0439\u043d \u043b\u043e\u0441\u0441\u043e\u043c (logloss). \u0410\u0432\u0442\u043e\u0440\u044b \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043b\u0438 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043b\u043e\u0441\u0441\u044b \u0438 \u043f\u0440\u0438\u0448\u043b\u0438 \u043a \u0432\u044b\u0432\u043e\u0434\u0443, \u0447\u0442\u043e \u0441\u043a\u043e\u0440\u0435\u0435 \u0432\u0441\u0435\u0433\u043e, \u043f\u0440\u0438\u0440\u043e\u0441\u0442 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u0441\u044f \u0438\u0437-\u0437\u0430 \u043d\u0435\u044f\u0432\u043d\u043e\u0439 \u0440\u0435\u0433\u0443\u043b\u044f\u0440\u0438\u0437\u0430\u0446\u0438\u0438.<\/p>\n<p>  <\/p>\n<p><math><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/formulas\/9ec\/b2b\/b66\/9ecb2bb669151ec3e2d6c7d49e6cadc2.svg\" alt=\"$L_{Baikal} = -\\frac{1}{n} \\sum^n_{i=0} \\left(log(y_i) - \\frac{x_i}{y_i}\\right).$\" data-tex=\"display\"><\/math><\/p>\n<p>  <\/p>\n<p>\u041b\u043e\u0441\u0441 \u0411\u0430\u0439\u043a\u0430\u043b CMA \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u043e\u0433\u043e \u0432\u044b\u0448\u0435 \u043d\u0430\u043b\u0438\u0447\u0438\u0435\u043c \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 6 \u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u043e\u0432.<\/p>\n<p>  <\/p>\n<h3 id=\"8-ttnet-real-time-temporal-and-spatial-video-analysis-of-table-tennis\">8. TTNet: Real-time temporal and spatial video analysis of table tennis<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Roman Voeikov, Nikolay Falaleev, Ruslan Baikulov (OSAI, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2004.09927\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/lab.osai.ai\/datasets\/openttgames\/\">Dataset<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0420\u043e\u043c\u0430\u043d \u0412\u043e\u0435\u0439\u043a\u043e\u0432 (\u0432 \u0441\u043b\u044d\u043a\u0435 sparkling_brick)<\/p>\n<p>  <\/p>\n<p>\u0412 \u0441\u0442\u0430\u0442\u044c\u0435 \u043e\u043f\u0438\u0441\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0441\u0435\u0442\u0438 \u0438 \u043f\u043e\u0434\u0445\u043e\u0434 \u0434\u043b\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f \u0442\u0440\u0451\u0445 CV \u0437\u0430\u0434\u0430\u0447 \u0432 \u0432\u0438\u0434\u0435\u043e \u0430\u043d\u0430\u043b\u0438\u0437\u0435 \u043d\u0430\u0441\u0442\u043e\u043b\u044c\u043d\u043e\u0433\u043e \u0442\u0435\u043d\u043d\u0438\u0441\u0430: \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438 \u0441\u043e\u0431\u044b\u0442\u0438\u0439, \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438 \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438 \u043c\u044f\u0447\u0430. \u0413\u043b\u0430\u0432\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u044d\u0442\u043e \u0438\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u0439 \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442\u0441\u044f, \u0447\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0445\u043e\u0440\u043e\u0448\u0435\u0439 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438 \u0432 \u043c\u0443\u043b\u044c\u0442\u0438\u0442\u0430\u0441\u043a-\u043f\u043e\u0434\u0445\u043e\u0434\u0435 \u0438 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u043e\u0447\u0435\u043d\u044c \u0431\u044b\u0441\u0442\u0440\u043e (\u0432 120 fps).<\/p>\n<p>  <\/p>\n<p><strong>\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u0430<\/strong><br \/>  \u0425\u043e\u0442\u0435\u043b\u043e\u0441\u044c \u0431\u044b \u0438\u043c\u0435\u0442\u044c \u043e\u0434\u043d\u0443 \u0441\u0438\u0441\u0442\u0435\u043c\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0435\u0448\u0430\u0435\u0442 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0437\u0430\u0434\u0430\u0447\u0438 \u0430\u043d\u0430\u043b\u0438\u0442\u0438\u043a\u0438 \u0434\u043b\u044f \u0434\u0430\u043d\u043d\u043e\u0433\u043e \u0441\u043f\u043e\u0440\u0442\u0430, \u0430 \u043a\u0430\u043a \u0437\u0430\u0434\u0430\u0447\u0430-\u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u0442 \u0441\u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0430\u043d\u043d\u044b\u0445, \u0447\u0442\u043e\u0431\u044b \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u0438\u0433\u0440\u044b \u0438 \u0432\u0435\u0441\u0442\u0438 \u0441\u0447\u0451\u0442 \u0431\u0435\u0437 \u0443\u0447\u0430\u0441\u0442\u0438\u044f \u0436\u0438\u0432\u043e\u0433\u043e \u0441\u0443\u0434\u044c\u0438. \u0414\u043b\u044f \u044d\u0442\u043e\u0433\u043e \u043d\u0443\u0436\u043d\u0430 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u043e\u0431 \u0438\u0433\u0440\u043e\u0432\u044b\u0445 \u0441\u043e\u0431\u044b\u0442\u0438\u044f\u0445 (\u043e\u0442\u0441\u043a\u043e\u043a\u0438 \u043e\u0442 \u0441\u0442\u043e\u043b\u0430 \u0438 \u043f\u043e\u043f\u0430\u0434\u0430\u043d\u0438\u044f \u0432 \u0441\u0435\u0442\u043a\u0443), \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u044b \u043c\u044f\u0447\u0430 \u0438 \u043f\u043e\u043b\u043e\u0436\u0435\u043d\u0438\u0435 \u0441\u0442\u043e\u043b\u0430 \u0438 \u0438\u0433\u0440\u043e\u043a\u043e\u0432. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u043c\u044f\u0447 \u0432 \u043d\u0430\u0441\u0442\u043e\u043b\u044c\u043d\u043e\u043c \u0442\u0435\u043d\u043d\u0438\u0441\u0435 \u043f\u043e\u0440\u043e\u0439 \u043b\u0435\u0442\u0430\u0435\u0442 \u0441\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u044c\u044e \u0431\u043e\u043b\u0435\u0435 100 \u043a\u043c\/\u0447, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u043d\u0430 \u0432\u0445\u043e\u0434 \u0438\u043c\u0435\u0435\u043c \u0432\u0438\u0434\u0435\u043e \u0432 120 fps \u0438 \u0445\u043e\u0442\u0438\u043c \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u0435\u0433\u043e \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u043c \u0432\u0440\u0435\u043c\u0435\u043d\u0438.<\/p>\n<p>  <\/p>\n<p><strong>\u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430<\/strong><br \/>  \u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0431\u044b\u0441\u0442\u0440\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0441\u0434\u0435\u043b\u0430\u043b\u0438 \u0441\u0435\u0442\u044c \u0441 \u043e\u0431\u0449\u0438\u043c feature extractor\u2019\u043e\u043c \u0438 3-\u043c\u044f \u0432\u044b\u0445\u043e\u0434\u0430\u043c\u0438 \u043f\u043e\u0434 \u043a\u0430\u0436\u0434\u0443\u044e \u0438\u0437 \u0437\u0430\u0434\u0430\u0447: object detection, semantic segmentation \u0438 event spotting (action recognition). \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u044d\u043a\u0431\u043e\u043d\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438 VGG-like \u044d\u043d\u043a\u043e\u0434\u0435\u0440. <\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u043f\u0435\u0440\u0432\u043e\u0439 \u0437\u0430\u0434\u0430\u0447\u0438 \u043f\u043e\u0441\u043b\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u043f\u0430\u0440\u044b \u0444\u0443\u043b\u043b-\u043a\u043e\u043d\u0435\u043a\u0442\u0435\u0434 \u0441\u043b\u043e\u0451\u0432 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0432\u0435\u043a\u0442\u043e\u0440\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442 \u043c\u044f\u0447\u0430 \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u0439 \u043e\u0441\u0438 (x \u0438 y) \u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u044e\u0442\u0441\u044f \u0433\u0440\u0443\u0431\u044b\u0435 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u044b, \u0432\u043e\u043a\u0440\u0443\u0433 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0434\u0435\u043b\u0430\u0435\u0442\u0441\u044f \u043a\u0440\u043e\u043f \u0438\u0437 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u043e\u043f\u043a\u0438 full HD \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438 \u043f\u043e\u0434\u0430\u0451\u0442\u0441\u044f \u0432\u043e \u0432\u0442\u043e\u0440\u043e\u0439 \u0430\u043d\u0430\u043b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 feature extractor, \u043e\u0442\u043a\u0443\u0434\u0430 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442\u0441\u044f \u0443\u0442\u043e\u0447\u043d\u0451\u043d\u043d\u044b\u0435 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u044b \u043c\u044f\u0447\u0430.<\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0437\u0430\u0434\u0430\u0447\u0438 \u0441\u0435\u043c\u0430\u043d\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0439 Unet \u043f\u043e\u0434\u0445\u043e\u0434 \u2014 \u0444\u0438\u0447\u0438 \u0438\u0437 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0440\u0430\u0437\u0432\u043e\u0440\u0430\u0447\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0432 \u0434\u0435\u043a\u043e\u0434\u0435\u0440\u0435 \u0441 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u0435\u043c skip-connections.<\/p>\n<p>  <\/p>\n<p>\u0414\u0430\u043b\u0435\u0435 \u0441\u0430\u043c\u0430\u044f \u0433\u043b\u0430\u0432\u043d\u0430\u044f \u0437\u0430\u0434\u0430\u0447\u0430 \u2014 \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u044f \u0441\u043e\u0431\u044b\u0442\u0438\u0439 (\u043f\u043e \u044d\u0442\u043e\u0439 \u043f\u0440\u0438\u0447\u0438\u043d\u0435 \u043d\u0430 \u0432\u0445\u043e\u0434 \u043f\u043e\u0434\u0430\u0451\u0442\u0441\u044f \u043d\u0435 \u043e\u0434\u043d\u0430 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u0430 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0441\u0442\u043e\u043f\u043a\u0430 \u043a\u0430\u0434\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0442\u0430\u043a\u0436\u0435 \u0438 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u0423\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e). \u0424\u0438\u0447\u0438 \u0438\u0437 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430, \u043e\u0442\u0440\u0430\u0431\u043e\u0442\u0430\u0432\u0448\u0435\u0433\u043e \u043d\u0430 \u043a\u0440\u043e\u043f\u0435 \u0438\u0437 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a \u0441 \u0432\u044b\u0441\u043e\u043a\u0438\u043c \u0440\u0430\u0437\u0440\u0435\u0448\u0435\u043d\u0438\u0435\u043c, \u043a\u043e\u043d\u043a\u0430\u0442\u0438\u043d\u0438\u0440\u0443\u044e\u0442\u0441\u044f \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u044e\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0441\u0432\u0451\u0440\u0442\u043e\u043a \u0438 \u0444\u0443\u043b\u043b-\u043a\u043e\u043d\u0435\u043a\u0442\u0435\u0434\u043e\u0432 \u0438 \u0432 \u0438\u0442\u043e\u0433\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0441\u043e\u0431\u044b\u0442\u0438\u0439.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/ux\/0f\/ny\/ux0fnycc-5g20qvc-gxx0iueavm.png\">  <\/p>\n<p>  <strong>\u041e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438<\/strong><br \/>  \u041f\u043e \u0441\u0443\u0442\u0438, \u0434\u043b\u044f \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 \u0441\u043e\u0431\u044b\u0442\u0438\u0439 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u043d\u0435 3D \u0441\u0432\u0451\u0440\u0442\u043a\u0438, \u0430 \u043e\u0431\u044b\u0447\u043d\u044b\u0435 2D \u043d\u0430\u0434 \u0441\u0442\u0430\u043a\u043d\u0443\u0442\u044b\u043c\u0438 \u043a\u0430\u0434\u0440\u0430\u043c\u0438. \u041a\u0430\u043a \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0430 \u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0430 (\u0432 experiments \u043d\u0435 \u0432\u043e\u0448\u043b\u043e), \u043c\u043e\u0434\u0435\u043b\u044c \u0441 \u043e\u0431\u044b\u0447\u043d\u044b\u043c\u0438 \u0441\u0432\u0451\u0440\u0442\u043a\u0430\u043c\u0438 \u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u0443\u0435\u0442 \u0442\u0430\u043a\u0443\u044e \u0436\u0435 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c \u0434\u043b\u044f \u043d\u0430\u0448\u0438\u0445 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0439.<\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442 \u043c\u044f\u0447\u0430 \u0442\u0430\u0440\u0433\u0435\u0442 \u0441\u0442\u0440\u043e\u0438\u0442\u0441\u044f \u0442\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0447\u0442\u043e \u043f\u043e \u043a\u0430\u0436\u0434\u043e\u0439 \u043e\u0441\u0438 \u043a\u043e\u043d\u0441\u0442\u0440\u0443\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d\u0430 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u0441 \u0446\u0435\u043d\u0442\u0440\u043e\u043c \u0442\u0430\u043c, \u0433\u0434\u0435 ground truth \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u044b.<\/p>\n<p>  <img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/4q\/uy\/d2\/4quyd2ud68ppj2ndssggxryfq2w.png\" width=\"500\" height=\"300\">  <\/p>\n<p>  <strong>\u041b\u043e\u0441\u0441\u044b<\/strong><br \/>  \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043b\u043e\u0441\u0441\u043e\u0432 \u0434\u043b\u044f \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f DICE + BCE, \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u044f \u0433\u0430\u0443\u0441\u0441\u0438\u0430\u043d \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442 BCE \u0438 \u043a\u0440\u043e\u0441\u0441-\u044d\u043d\u0442\u0440\u043e\u043f\u0438\u044f \u0434\u043b\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0435\u0439 \u0441\u043e\u0431\u044b\u0442\u0438\u0439. \u0412\u0435\u0441\u0430 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u043b\u043e\u0441\u0441\u0430 \u044f\u0432\u043b\u044f\u043b\u0438\u0441\u044c \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u044b\u043c \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u043c \u0432 \u0445\u043e\u0434\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u0430\u0432\u0442\u043e\u0431\u0430\u043b\u0430\u043d\u0441\u0438\u0440\u043e\u0432\u043a\u0438.<\/p>\n<p>  <\/p>\n<p><strong>\u0412\u0445\u043e\u0434<\/strong><br \/>  \u0412\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u0435\u043d\u0437\u043e\u0440 \u2014 \u044d\u0442\u043e \u0441\u0442\u043e\u043f\u043a\u0430 \u0438\u0437 9 \u043f\u043e\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043a\u0430\u0434\u0440\u043e\u0432. \u0412\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0439 \u0442\u0430\u0440\u0433\u0435\u0442 \u2014 \u0441\u043e\u0431\u044b\u0442\u0438\u0435 \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u043d\u0430 5-\u043c \u043a\u0430\u0434\u0440\u0435, \u0430 \u043a\u043e\u043e\u0440\u0434\u0438\u043d\u0430\u0442\u044b \u043c\u044f\u0447\u0430 \u0438 \u043c\u0430\u0441\u043a\u0438 \u043d\u0443\u0436\u043d\u043e \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u0442\u044c \u0434\u043b\u044f \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0435\u0433\u043e, 9-\u0433\u043e \u043a\u0430\u0434\u0440\u0430. \u0414\u043b\u044f \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u0431\u044b \u0441\u0435\u0442\u044c \u0432\u044b\u0443\u0447\u0438\u043b\u0430 \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u043e \u0440\u0430\u0441\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u0435 \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u0438 \u0434\u043b\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0442\u0430\u043a\u0436\u0435 \u0441\u0442\u043e\u043f\u043a\u0438 \u043a\u0430\u0434\u0440\u043e\u0432, \u0441\u0434\u0432\u0438\u043d\u0443\u0442\u044b\u0435 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043a\u0430\u0434\u0440\u0430 \u0441 \u0441\u043e\u0431\u044b\u0442\u0438\u0435\u043c \u0432\u043f\u0435\u0440\u0451\u0434 \u0438 \u043d\u0430\u0437\u0430\u0434.<\/p>\n<p>  <\/p>\n<p><strong>\u0420\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b<\/strong><br \/>  \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0438\u043b\u043e\u0441\u044c \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0441\u0435\u0442\u043a\u0443, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u0432 120 fps \u0438 \u043d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u043a\u0430\u0434\u0440\u0435 \u043d\u0430\u0445\u043e\u0434\u0438\u0442 \u043c\u044f\u0447 \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e 97.5% \u0438 \u0441\u0440\u0435\u0434\u043d\u0435\u043a\u0432\u0430\u0434\u0440\u0430\u0442\u0438\u0447\u043d\u043e\u0439 \u043e\u0448\u0438\u0431\u043a\u043e\u0439 \u0432 2 \u043f\u0438\u043a\u0441\u0435\u043b\u044f, \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0438\u0433\u0440\u043e\u0432\u044b\u0435 \u0441\u043e\u0431\u044b\u0442\u0438\u044f \u0441 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e \u0432 97%, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u043c\u0430\u0441\u043a\u0438 \u043b\u044e\u0434\u0435\u0439, \u0441\u0442\u043e\u043b\u0430 \u0438 \u0442\u0430\u0431\u043b\u043e. \u0412\u0441\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u044b \u043d\u0430 \u0441\u043e\u0432\u043c\u0435\u0441\u0442\u043d\u043e \u043f\u0443\u0431\u043b\u0438\u043a\u0443\u0435\u043c\u043e\u043c \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435, \u0442\u0430\u043a \u043a\u0430\u043a \u043f\u043e\u0434 \u0442\u0430\u043a\u0443\u044e \u0441\u043f\u0435\u0446\u0438\u0444\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0437\u0430\u0434\u0430\u0447\u0443 \u043d\u0435 \u0431\u044b\u043b\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043e \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0445 \u0434\u0430\u043d\u043d\u044b\u0445.<\/p>\n<p>  <\/p>\n<h3 id=\"9-learning-in-the-frequency-domain\">9. Learning in the Frequency Domain<\/h3>\n<p>  <\/p>\n<p>\u0410\u0432\u0442\u043e\u0440\u044b \u0441\u0442\u0430\u0442\u044c\u0438: Kai Xu, Minghai Qin, Fei Sun, Yuhao Wang, Yen-Kuang Chen, Fengbo Ren (Alibaba, Arizona, 2020)<br \/>  <a href=\"https:\/\/arxiv.org\/abs\/2002.12416\">\u041e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438<\/a> :: <a href=\"https:\/\/github.com\/calmevtime\/DCTNet\">GitHub project<\/a><br \/>  \u0410\u0432\u0442\u043e\u0440 \u043e\u0431\u0437\u043e\u0440\u0430: \u0412\u0430\u0434\u0438\u043c \u041f\u0435\u0442\u0440\u043e\u0432 (\u0432 \u0441\u043b\u044d\u043a\u0435 graviton, \u043d\u0430 habr <a href=\"https:\/\/habr.com\/ru\/users\/belgraviton\/\">belgraviton<\/a>)<\/p>\n<p>  <\/p>\n<p><strong>\u041a\u043e\u0440\u043e\u0442\u043a\u043e<\/strong><br \/>  \u041f\u0435\u0440\u0435\u0445\u043e\u0434 \u0438\u0437 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043b\u0438 \u0432\u0440\u0435\u043c\u0435\u043d\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0432 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u043e\u0435 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u0435 \u0424\u0443\u0440\u044c\u0435) \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0432 \u0431\u043e\u043b\u044c\u0448\u043e\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u0439 \u0432 \u043d\u0430\u0443\u043a\u0435 \u0438 \u0442\u0435\u0445\u043d\u0438\u043a\u0435.<\/p>\n<p>  <\/p>\n<p>\u0414\u0430\u043d\u043d\u044b\u0439 \u043f\u0435\u0440\u0435\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0438\u0437\u0431\u0435\u0436\u0430\u0442\u044c \u0437\u0430\u0442\u0440\u0430\u0442\u043d\u044b\u0445 \u0432\u044b\u0447\u0438\u0441\u043b\u0435\u043d\u0438\u0439: <\/p>\n<p>  <\/p>\n<ul>\n<li>\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u0432\u0435\u0440\u0442\u043a\u0430 \u0441 \u043e\u0447\u0435\u043d\u044c \u0431\u043e\u043b\u044c\u0448\u0438\u043c \u044f\u0434\u0440\u043e\u043c \u0437\u0430\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0430 \u043f\u0440\u043e\u0441\u0442\u043e\u0435 \u0443\u043c\u043d\u043e\u0436\u0435\u043d\u0438\u0435 \u0432 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u043e\u043c \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435;<\/li>\n<li>\u0438\u0434\u0435\u0438 \u0442\u0430\u043a\u0436\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0434\u043b\u044f \u0441\u0436\u0430\u0442\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0432 JPEG \u0444\u0430\u0439\u043b\u044b, \u0433\u0434\u0435 \u0441\u043e\u0445\u0440\u0430\u043d\u044f\u0435\u0442\u0441\u044f \u043d\u0438\u0437\u043a\u043e\u0447\u0430\u0441\u0442\u043e\u0442\u043d\u0430\u044f \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0430\u044f \u0441\u043d\u0438\u043c\u043a\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u0432\u0430\u0436\u043d\u0430 \u0434\u043b\u044f \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0432\u043e\u0441\u043f\u0440\u0438\u044f\u0442\u0438\u044f.<\/li>\n<\/ul>\n<p>  <\/p>\n<p>\u0412 \u0440\u0430\u0431\u043e\u0442\u0435 \u043f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d \u0441\u043f\u043e\u0441\u043e\u0431 \u0437\u0430\u043c\u0435\u043d\u044b \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u0431\u043b\u043e\u043a\u0430 \u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u0443\u044e \u0441\u0435\u0442\u044c \u0441 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435\u043c \u044d\u0442\u0438\u0445 \u0436\u0435 \u0438\u0434\u0435\u0439. \u0414\u0430\u0432\u0430\u0439\u0442\u0435 \u043f\u0435\u0440\u0435\u0432\u0435\u0434\u0435\u043c \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0432 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u043e\u0435 \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438 \u0432\u044b\u0431\u0440\u043e\u0441\u0438\u043c \u043d\u0435\u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0442\u0438\u0432\u043d\u044b\u0435 \u043a\u0430\u043d\u0430\u043b\u044b. \u0418 \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0437\u0430 \u0441\u0447\u0435\u0442 \u044d\u0442\u043e\u0433\u043e \u0448\u0430\u0433\u0430 \u043c\u043e\u0436\u043d\u043e \u0440\u0435\u0448\u0438\u0442\u044c \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0437\u0430\u0434\u0430\u0447:<\/p>\n<p>  <\/p>\n<ul>\n<li>\u0441\u0436\u0430\u0442\u0438\u0435 \u0432\u044b\u0441\u043e\u0442\u044b \u0438 \u0448\u0438\u0440\u0438\u043d\u044b \u0441\u043d\u0438\u043c\u043a\u0430 (\u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043f\u043e\u0434\u0430\u0447\u0438 \u043d\u0430 \u0432\u0445\u043e\u0434 \u0441\u0435\u0442\u0438 \u0431\u043e\u043b\u044c\u0448\u0418\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u043d\u0435 \u043d\u0443\u0436\u043d\u044b MaxPooling \u0432 \u043f\u0435\u0440\u0432\u044b\u0445 \u0441\u043b\u043e\u044f\u0445 \u0441\u0435\u0442\u0438);<\/li>\n<li>\u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u041e\u0433\u043e \u0447\u0438\u0441\u043b\u0430 \u0432\u0445\u043e\u0434\u043d\u044b\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432 (\u043a\u0430\u043d\u0430\u043b\u044b \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0447\u0430\u0441\u0442\u043e\u0442\u0430\u043c), \u043d\u0435 \u043d\u0443\u0436\u0435\u043d \u043a\u043e\u043d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u043d\u044b\u0439 \u0441\u043b\u043e\u0439 (3-&gt;64) \u0432 \u043f\u0435\u0440\u0432\u044b\u0445 \u0441\u043b\u043e\u044f\u0445 \u0441\u0435\u0442\u0438;<\/li>\n<li>\u0442\u0430\u043a \u043a\u0430\u043a \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u043c\u043e\u0436\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0449\u0430\u0442\u044c, \u043c\u043e\u0436\u043d\u043e \u0434\u043e\u0431\u0438\u0442\u044c\u0441\u044f \u0443\u0441\u043a\u043e\u0440\u0435\u043d\u0438\u044f \u0440\u0430\u0431\u043e\u0442\u044b \u0438 \u0432\u0441\u0435\u0439 \u0441\u0435\u0442\u0438 (\u0437\u0430 \u0441\u0447\u0435\u0442 \u0443\u043c\u0435\u043d\u044c\u0448\u0435\u043d\u0438\u044f \u0447\u0438\u0441\u043b\u0430 \u043a\u0430\u043d\u0430\u043b\u043e\u0432) \u0438 \u0442\u043e\u043b\u044c\u043a\u043e \u0441\u043a\u043e\u0440\u043e\u0441\u0442\u0438 \u0437\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0434\u0430\u043d\u043d\u044b\u0445 \u043d\u0430 \u0413\u041f\u0423.<\/li>\n<\/ul>\n<p>  <\/p>\n<p><strong>\u041f\u0440\u0435\u0434\u0448\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043f\u043e\u0434\u0445\u043e\u0434\u044b<\/strong><\/p>\n<p>  <\/p>\n<ul>\n<li>\u043a\u043e\u044d\u0444\u0444\u0438\u0446\u0438\u0435\u043d\u0442\u044b \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0424\u0443\u0440\u044c\u0435 \u0438 \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u0433\u043e \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0438\u0437\u0434\u0430\u0432\u043d\u0430 \u0432 \u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u043f\u043e\u0434\u0445\u043e\u0434\u0430\u0445 \u043a \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u043c\u0443 \u0437\u0440\u0435\u043d\u0438\u044e \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0444\u0438\u0447;<\/li>\n<li>\u0443\u0436\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u0440\u0430\u0431\u043e\u0442\u044b \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u044e\u0449\u0438\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u044b\u0435 \u0445\u0430\u0440\u0430\u043a\u0442\u0435\u0440\u0438\u0441\u0442\u0438\u043a\u0438 \u0434\u043b\u044f \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439, \u043d\u043e \u0442\u0435\u043a\u0443\u0449\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u0440\u0435\u0434\u043b\u0430\u0433\u0430\u0435\u0442 \u0438\u0445 \u0432 \u043e\u0431\u043e\u0431\u0449\u0435\u043d\u043d\u043e\u043c \u0432\u0438\u0434\u0435, \u0447\u0442\u043e \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0438\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0430 \u0431\u043e\u043b\u0435\u0435 \u0448\u0438\u0440\u043e\u043a\u043e\u043c \u043a\u0440\u0443\u0433\u0435 \u0437\u0430\u0434\u0430\u0447, \u0447\u0442\u043e \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043e \u0432 \u0441\u0442\u0430\u0442\u044c\u0435.<\/li>\n<\/ul>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/uw\/15\/t8\/uw15t8v1isbp_emjl7nw5-lp9me.png\">  <\/p>\n<p>  <strong>\u041f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d\u043d\u044b\u0439 \u043f\u0440\u0435\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f<\/strong><\/p>\n<p>  <\/p>\n<p>\u041c\u043d\u043e\u0433\u0438\u0435 \u0448\u0430\u0433\u0438 \u043f\u0440\u0435\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0438\u043d\u0433\u0430 \u0432\u0437\u044f\u0442\u044b \u0438\u0437 JPEG.<\/p>\n<p>  <\/p>\n<ol>\n<li>\u0412\u0445\u043e\u0434\u043d\u043e\u0435 RGB \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u0443\u0435\u0442\u0441\u044f \u0432 YCbCr \u0444\u043e\u0440\u043c\u0430\u0442 (Y \u2014 \u044f\u0440\u043a\u043e\u0441\u0442\u044c, Cb \u0438 Cr \u2014 \u0441\u0438\u043d\u044f\u044f \u0438 \u043a\u0440\u0430\u0441\u043d\u0430\u044f \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b).<\/li>\n<li>\u0418\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0431\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430 \u0431\u043b\u043e\u043a\u0438 8\u04458, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0432\u0435\u0440\u0433\u0430\u044e\u0442\u0441\u044f \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u043c\u0443 \u043f\u0440\u0435\u043e\u0431\u0440\u0430\u0437\u043e\u0432\u0430\u043d\u0438\u044e. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u0431\u043b\u043e\u043a 8\u04458 \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u0443\u0436\u0435 \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u0440\u0430\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u0443\u044e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044e, \u0430 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u0443\u044e.<\/li>\n<li>\u041a\u0430\u0436\u0434\u044b\u0439 \u0431\u043b\u043e\u043a 8\u04458, \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0449\u0438\u0439 64 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b \u0430\u043c\u043f\u043b\u0438\u0442\u0443\u0434 \u0447\u0430\u0441\u0442\u043e\u0442, \u0442\u0440\u0430\u043d\u0441\u0444\u043e\u0440\u043c\u0438\u0440\u0443\u0435\u0442\u0441\u044f \u0432 64 \u043a\u0430\u043d\u0430\u043b\u0430 (&quot;DCT reshape&quot; \u043d\u0430 \u0440\u0438\u0441\u0443\u043d\u043a\u0435). \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c, \u0432\u044b\u0441\u043e\u0442\u0430 \u0438 \u0448\u0438\u0440\u0438\u043d\u0430 \u0443\u043c\u0435\u043d\u044c\u0448\u0430\u0435\u0442\u0441\u044f \u0432 8 \u0440\u0430\u0437, \u0430 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u0443\u0432\u0435\u043b\u0438\u0447\u0438\u0432\u0430\u0435\u0442\u0441\u044f \u0432 64 \u0440\u0430\u0437\u0430. \u0422.\u043a. \u0438\u0441\u0445\u043e\u0434\u043d\u043e \u0431\u044b\u043b\u043e 3 \u043a\u0430\u043d\u0430\u043b\u0430, \u0442\u043e \u0432\u0441\u0435\u0433\u043e \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u0442\u0441\u044f 192 \u043a\u0430\u043d\u0430\u043b\u0430. <\/li>\n<li>\u041e\u0434\u043d\u0430\u043a\u043e, \u0438\u0437 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u043d\u0435 \u0432\u0441\u0435 \u043e\u0431\u043b\u0430\u0434\u0430\u044e\u0442 \u0445\u043e\u0440\u043e\u0448\u0435\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c\u044e. \u0427\u0430\u0441\u0442\u044c \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u0443\u0434\u0430\u043b\u0435\u043d\u0430. \u041f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0443\u0434\u0430\u043b\u0435\u043d\u0438\u044f 85% \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u0431\u0435\u0437 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0439 \u043f\u043e\u0442\u0435\u0440\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/li>\n<li>\u041f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u0434\u0430\u043d\u043d\u044b\u0435 \u0440\u0430\u0437\u043c\u0435\u0440\u0430 (H\/8, W\/8, 64C \u0438\u043b\u0438 X\u0421 \u043f\u0440\u0438 \u0443\u0440\u0435\u0437\u0430\u043d\u0438\u0438 \u043a\u0430\u043d\u0430\u043b\u043e\u0432) \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u0434\u0430\u0432\u0430\u0442\u044c \u043d\u0430 \u0432\u0445\u043e\u0434 \u0441\u0442\u0430\u043d\u0434\u0430\u0440\u0442\u043d\u044b\u0445 \u0431\u043b\u043e\u043a\u043e\u0432 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u043e\u0439 \u0441\u0435\u0442\u0438 \u0431\u0435\u0437 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u044f MaxPooling \u0438 \u0434\u0440\u0443\u0433\u0438\u0445 \u0441\u0436\u0438\u043c\u0430\u044e\u0449\u0438\u0445 \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0439.<\/li>\n<\/ol>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/od\/bn\/fx\/odbnfx20mp0v5cwgrvhduy75pc4.png\">  <\/p>\n<p>  <strong>\u0412\u044b\u0431\u043e\u0440 \u043b\u0443\u0447\u0448\u0438\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432<\/strong><\/p>\n<p>  <\/p>\n<ol>\n<li>\u041f\u0440\u0435\u0434\u043b\u043e\u0436\u0435\u043d <em>\u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434<\/em>, \u043e\u0431\u0435\u0441\u043f\u0435\u0447\u0438\u0432\u0430\u044e\u0449\u0438\u0439 \u0432\u044b\u0431\u043e\u0440 \u043b\u0443\u0447\u0448\u0438\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u0434\u0438\u043d\u0430\u043c\u0438\u0447\u0435\u0441\u043a\u0438 \u0432\u043e \u0432\u0440\u0435\u043c\u044f \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e gate-\u0431\u043b\u043e\u043a\u0430, \u043f\u043e\u0445\u043e\u0436\u0435\u0433\u043e \u043d\u0430 SE-\u0431\u043b\u043e\u043a. \u041e\u0442\u043b\u0438\u0447\u0438\u0435 \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u043a\u0430\u043d\u0430\u043b\u044b \u043d\u0435 \u0432\u0437\u0432\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f, \u043a\u0430\u043a \u0432 SE-\u0431\u043b\u043e\u043a\u0435, \u0430 \u0432\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f \u0438\u043b\u0438 \u0438\u0441\u043a\u043b\u044e\u0447\u0430\u044e\u0442\u0441\u044f \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e.<\/li>\n<li>\u0422\u0430\u043a\u0436\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u0435\u043d <em>\u0441\u0442\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u043e\u0434\u0445\u043e\u0434<\/em>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c \u0441\u0442\u0440\u043e\u044f\u0442\u0441\u044f heat maps \u0434\u043b\u044f \u0430\u043a\u0442\u0438\u0432\u0430\u0446\u0438\u0438 \u0447\u0430\u0441\u0442\u043e\u0442\u043d\u044b\u0445 \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u043d\u0430 \u043d\u0430\u0431\u043e\u0440\u0435 \u0434\u0430\u043d\u043d\u044b\u0445. \u041f\u043e \u0440\u0438\u0441\u0443\u043d\u043a\u0443 \u0441 \u0445\u0438\u0442\u043c\u0430\u043f\u0430\u043c\u0438 \u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e \u0431\u043e\u043b\u0435\u0435 \u043d\u0438\u0437\u043a\u043e\u0447\u0430\u0441\u0442\u043e\u0442\u043d\u044b\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f \u0447\u0430\u0449\u0435. \u0421\u043b\u0435\u0434\u0443\u0435\u0442 \u0437\u0430\u043c\u0435\u0442\u0438\u0442\u044c, \u0447\u0442\u043e \u0443\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0435 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442\u044b \u0438\u0433\u0440\u0430\u044e\u0442 \u043a\u043b\u044e\u0447\u0435\u0432\u0443\u044e \u0440\u043e\u043b\u044c \u0438 \u0434\u043b\u044f \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0432\u043e\u0441\u043f\u0440\u0438\u044f\u0442\u0438\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439.<\/li>\n<\/ol>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/7w\/lu\/zj\/7wluzjjyew99fd8wmrbug4qtz6y.png\">  <\/p>\n<p>  <\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/yv\/zm\/b-\/yvzmb-cx8j5wsguv0lzrd2wszb0.png\">  <\/p>\n<p>  <\/p>\n<p>  <\/p>\n<p><strong>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/strong><\/p>\n<p>  <\/p>\n<p>\u0414\u043b\u044f \u0437\u0430\u0434\u0430\u0447 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 (ImageNet), \u0434\u0435\u0442\u0435\u043a\u0446\u0438\u0438 \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 (COCO) \u043f\u043e\u0434\u0445\u043e\u0434 \u043f\u043e\u0437\u0432\u043e\u043b\u044f\u0435\u0442 \u0434\u043e\u0431\u0438\u0442\u0441\u044f \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u044f \u0432 \u0441\u0440\u0435\u0434\u043d\u0435\u043c \u0432 1% \u0437\u0430 \u0441\u0447\u0435\u0442 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u0445\u043e\u0434\u043d\u043e\u0433\u043e (3-\u0445 \u043a\u0430\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e) \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u0431\u043e\u043b\u044c\u0448\u0435\u0433\u043e \u0440\u0430\u0437\u043c\u0435\u0440\u0430. \u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u0435\u0442 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u0435\u043d\u044c\u0448\u0435\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043a\u0430\u043d\u0430\u043b\u043e\u0432 \u043f\u0440\u0438 \u043d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u043c \u0443\u0445\u0443\u0434\u0448\u0435\u043d\u0438\u0438 \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u0438.<\/p>\n<p>  <img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/k0\/a3\/td\/k0a3td_6qwvlp93iz8kqgjtbmve.png\"><\/div>\n<p> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/505040\/\"> https:\/\/habr.com\/ru\/company\/ods\/blog\/505040\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"\n<div class=\"post__text post__text-html post__text_v1\" id=\"post-content-body\" data-io-article-url=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/505040\/\">\n<div style=\"text-align:center;\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/webt\/gx\/-y\/xl\/gx-yxlo7xiz-5y8krpyoj3rgswq.png\"><\/div>\n<p>  <\/p>\n<p>  \u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u041f\u0440\u043e\u0434\u043e\u043b\u0436\u0430\u0435\u043c \u043f\u0443\u0431\u043b\u0438\u043a\u043e\u0432\u0430\u0442\u044c \u0440\u0435\u0446\u0435\u043d\u0437\u0438\u0438 \u043d\u0430 \u043d\u0430\u0443\u0447\u043d\u044b\u0435 \u0441\u0442\u0430\u0442\u044c\u0438 \u043e\u0442 \u0447\u043b\u0435\u043d\u043e\u0432 \u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u0430 Open Data Science \u0438\u0437 \u043a\u0430\u043d\u0430\u043b\u0430 #article_essense. \u0425\u043e\u0442\u0438\u0442\u0435 \u043f\u043e\u043b\u0443\u0447\u0430\u0442\u044c \u0438\u0445 \u0440\u0430\u043d\u044c\u0448\u0435 \u0432\u0441\u0435\u0445 \u2014 \u0432\u0441\u0442\u0443\u043f\u0430\u0439\u0442\u0435 \u0432 <a href=\"http:\/\/ods.ai\/\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e<\/a>!<\/p>\n<p>  <\/p>\n<p>\u0421\u0442\u0430\u0442\u044c\u0438 \u043d\u0430 \u0441\u0435\u0433\u043e\u0434\u043d\u044f:<\/p>\n<p>  <\/p>\n<ol>\n<li><a href=\"#1-grad-cam-visual-explanations-from-deep-networks-via-gradient-based-localization\">Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization (Georgia Institute of Technology, Atlanta, USA, 2016)<\/a><\/li>\n<li><a href=\"#2-x3d-expanding-architectures-for-efficient-video-recognition\">X3D: Expanding Architectures for Efficient Video Recognition (Facebook AI Research, 2020)<\/a><\/li>\n<li><a href=\"#3-adaptive-attention-span-in-transformers\">Adaptive Attention Span in Transformers (Facebook AI Research, 2019)<\/a><\/li>\n<li><a href=\"#4-resnest-split-attention-networks\">ResNeSt: Split-Attention Networks (Amazon, 2020)<\/a><\/li>\n<li><a href=\"#5-weight-standardization\">Weight Standardization (Johns Hopkins University, 2019)<\/a><\/li>\n<li><a href=\"#6-supervised-contrastive-learning\">Supervised Contrastive Learning (Google Research, MIT, 2020)<\/a><\/li>\n<li><a href=\"#7-improved-training-speed-accuracy-and-data-utilization-through-loss-function-optimization\">Improved Training Speed, Accuracy, and Data Utilization Through Loss Function Optimization (USA, 2019)<\/a><\/li>\n<li><a href=\"#8-ttnet-real-time-temporal-and-spatial-video-analysis-of-table-tennis\">TTNet: Real-time temporal and spatial video analysis of table tennis (OSAI, 2020)<\/a><\/li>\n<li><a href=\"#9-learning-in-the-frequency-domain\">Learning in the Frequency Domain (Alibaba, Arizona, 2020)<\/a><\/li>\n<\/ol>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-304778","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/304778","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=304778"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/304778\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=304778"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=304778"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=304778"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}