{"id":473597,"date":"2025-09-02T17:02:52","date_gmt":"2025-09-02T17:02:52","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=473597"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=473597","title":{"rendered":"<span>\u0417\u0430\u0449\u0438\u0442\u0430 \u043e\u0442 \u043d\u0435\u0432\u0438\u0434\u0438\u043c\u043e\u0433\u043e \u0448\u0443\u043c\u0430: \u043a\u0430\u043a \u043b\u043e\u043c\u0430\u0442\u044c \u0438 \u0447\u0438\u043d\u0438\u0442\u044c \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7f3\/5cc\/8b0\/7f35cc8b0770cc64c5ef0385e9f8be1d.jpg\" width=\"1280\" height=\"720\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/7f3\/5cc\/8b0\/7f35cc8b0770cc64c5ef0385e9f8be1d.jpg 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7f3\/5cc\/8b0\/7f35cc8b0770cc64c5ef0385e9f8be1d.jpg 781w\" loading=\"lazy\" decode=\"async\"\/><\/figure>\n<p>\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442! \u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0415\u0432\u0433\u0435\u043d\u0438\u0439 \u041f\u0438\u0449\u0438\u043a, \u0438 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u044f \u0445\u043e\u0447\u0443 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441 \u0432\u0430\u043c\u0438 \u043e\u043f\u044b\u0442\u043e\u043c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043c\u0435\u0442\u043e\u0434\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0430\u0442\u0430\u043a, \u043d\u0430\u0434 \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u044f \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0441\u0442\u0432\u043e\u043c \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440\u0430 \u0420\u043e\u0433\u0430\u0447\u0435\u0432\u0430, \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044f \u0433\u0440\u0443\u043f\u043f\u044b \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f AI VK, \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043c\u0430\u0441\u0442\u0435\u0440\u0441\u043a\u043e\u0439 \u043f\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c \u0438 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430\u043c \u0418\u0418 \u0432 \u0418\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u2011\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0448\u043a\u043e\u043b\u0435 \u041d\u0418\u0423 \u0412\u0428\u042d \u0438 VK.<\/p>\n<p>\u0421\u00a0\u043a\u0430\u0436\u0434\u044b\u043c \u0430\u043f\u0434\u0435\u0439\u0442\u043e\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u0440\u0430\u0441\u0442\u0451\u0442 \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439, \u043f\u043e\u0441\u0432\u044f\u0449\u0451\u043d\u043d\u044b\u0445 \u0438\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u043c. \u041a\u043e\u0433\u0434\u0430 \u043e\u0442\u00a0\u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043a\u0440\u0435\u0434\u0438\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u0430\u0432\u0442\u043e\u043f\u0438\u043b\u043e\u0442 \u043d\u0430\u00a0\u0448\u043e\u0441\u0441\u0435 \u0438\u043b\u0438\u00a0\u0434\u0438\u0430\u0433\u043d\u043e\u0437 \u0432\u00a0\u043a\u0430\u0440\u0434\u0438\u043e\u043b\u043e\u0433\u0438\u0438, \u0446\u0435\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0441\u044f \u043a\u00a0\u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043e\u0442\u043c\u0435\u0442\u043a\u0435. \u041d\u0435\u0443\u0434\u0438\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u00a0\u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438\u00a0\u2014 \u043e\u0442\u00a0\u043f\u043e\u0438\u0441\u043a\u0430 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0434\u043e\u00a0\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u0437\u0430\u0449\u0438\u0442\u044b\u00a0\u2014 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u044b\u0432\u0435\u0434\u0435\u043d\u044b \u0432\u00a0\u043f\u0435\u0440\u0432\u0443\u044e\u00a0\u043b\u0438\u043d\u0438\u044e \u043f\u0440\u0438\u043e\u0440\u0438\u0442\u0435\u0442\u043e\u0432.<\/p>\n<p>\u041f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0442 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u2011\u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0434\u043b\u044f\u00a0\u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044f \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u0434\u043b\u044f\u00a0\u0430\u0442\u0430\u043a. \u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u0435\u0434\u00a0\u2014 \u0430\u0442\u0430\u043a\u0438, \u043c\u0438\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u0432\u0448\u0438\u0435 \u0438\u0437\u00a0\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043e\u0434\u043d\u043e\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043c\u0438\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u043a\u0430\u043a\u00a0\u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0443 \u0441\u00a0\u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430\u00a0\u0446\u0435\u043b\u0443\u044e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443.<\/p>\n<h2>\u0422\u0430\u043a\u0441\u043e\u043d\u043e\u043c\u0438\u044f \u0430\u0442\u0430\u043a: \u043a\u0442\u043e, \u043a \u043a\u0430\u043a\u043e\u0439 \u0434\u0432\u0435\u0440\u0438 \u0438 \u0441 \u043a\u0430\u043a\u0438\u043c \u043b\u043e\u043c\u043e\u043c<\/h2>\n<p>\u041d\u0430\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0441\u0430\u043c\u0430 \u043f\u043e\u00a0\u0441\u0435\u0431\u0435 \u0430\u0442\u0430\u043a\u0430 \u043d\u0430\u00a0\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c\u00a0\u2014 \u044d\u0442\u043e \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u043e <strong>\u0434\u043e\u0441\u0442\u0443\u043f<\/strong> \u0438 <strong>\u043c\u0435\u0442\u043e\u0434<\/strong>. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u043c, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c, \u0430\u00a0\u043f\u043e\u0442\u043e\u043c\u00a0\u2014 \u043a\u0430\u043a\u00a0\u0431\u0443\u0434\u0435\u043c \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u0442\u044c.<\/p>\n<p><em>White\/Gray\/Black\u2011box\u00a0\u2014 \u0442\u0440\u0438 \u0440\u0435\u0436\u0438\u043c\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u0432\u0435\u0441\u0430\u043c \u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043c\u043e\u0434\u0435\u043b\u0438<\/em>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>\u0422\u0438\u043f \u0434\u043e\u0441\u0442\u0443\u043f\u0430<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0427\u0442\u043e\u00a0\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>White\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440: \u0432\u0435\u0441\u0430, \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>Gray\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0430\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u0438\u043d\u0441\u0430\u0439\u0434: \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438\u00a0\u0435\u0435 \u0447\u0430\u0441\u0442\u0438 \u043c\u044b \u0437\u043d\u0430\u0435\u043c, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c \u0432\u0435\u0441\u0430\u043c\u0438.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>Black\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u0438\u0448\u044c API\u2011\u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442: \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0432\u0435\u0442 \u043f\u043e\u00a0\u0432\u0445\u043e\u0434\u043d\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b: Adversarial, Jailbreak, Poisoning, Backdoor.<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>\u041c\u0435\u0442\u043e\u0434<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0421\u0443\u0442\u044c \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0413\u0434\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Adversarial<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0435\u0434\u0432\u0430 \u0437\u0430\u043c\u0435\u0442\u043d\u044b\u0439 \u0448\u0443\u043c \u2192 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u043f\u0443\u0444\u0438\u043d\u0433 \u0434\u043e\u0440\u043e\u0436\u043d\u044b\u0445 \u0437\u043d\u0430\u043a\u043e\u0432.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Jailbreak<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0445\u043e\u0434 \u0437\u0430\u0449\u0438\u0442\u043d\u044b\u0445 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0434\u043b\u044f\u00a0LLM \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u0430.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0430\u0442\u2011\u0431\u043e\u0442\u044b \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0439: ChatGPT, Claude, Gemini.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Poisoning<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435\u00bb \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0431\u0435\u0437\u00a0\u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Backdoor<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0432\u00a0\u0434\u0430\u043d\u043d\u044b\u0435 \u0442\u0440\u0438\u0433\u0433\u0435\u0440 \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0431\u0435\u0437\u00a0\u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h3>\u041f\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n<p><strong>White\u2011box\u2011\u0430\u0442\u0430\u043a\u0430<\/strong>\u00a0\u2014 \u043a\u043e\u0433\u0434\u0430 \u0442\u0435\u0431\u0435 \u0434\u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u044e\u0447\u0438 \u043e\u0442\u00a0\u043a\u0432\u0430\u0440\u0442\u0438\u0440\u044b, \u043d\u043e\u00a0\u0438 \u043f\u043b\u0430\u043d \u0432\u0441\u0435\u0445 \u044d\u043b\u0435\u043a\u0442\u0440\u043e\u043a\u0430\u0431\u0435\u043b\u0435\u0439. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, \u0435\u0451 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043a\u0438 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b, \u0432\u0435\u0441\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b, \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043f\u043e\u00a0\u0449\u0435\u043b\u0447\u043a\u0443 \u043f\u0430\u043b\u044c\u0446\u0435\u0432. \u041c\u0438\u043d\u0443\u0441 \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d: \u0432 99% \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u0443\u00a0\u0430\u0442\u0430\u043a\u0443\u044e\u0449\u0435\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u043d\u0435\u0442 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u0442\u0430\u043a\u043e\u043c\u0443 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438.<\/p>\n<p><strong>Black\u2011box<\/strong>\u00a0\u2014 \u0434\u0438\u0430\u043c\u0435\u0442\u0440\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u043f\u043e\u043b\u043e\u0436\u043d\u0430\u044f \u043a <em>white\u2011box<\/em> \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f: \u043c\u044b \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u043c, \u0432\u0438\u0434\u0438\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0430\u0451\u043c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434, \u0438 \u043a\u0430\u043a\u043e\u0439 \u043e\u0442\u0432\u0435\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0442\u0434\u0430\u043b\u0430\u00a0\u2014 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439.<\/p>\n<p><strong>Gray\u2011box<\/strong>\u00a0\u2014 \u0437\u043e\u043b\u043e\u0442\u0430\u044f \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430: \u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0437\u043d\u0430\u043d\u0438\u044f\u043c\u0438 \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u044c, \u043d\u043e\u00a0\u043d\u0435\u0442 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u0430. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0437\u043d\u0430\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0432\u043d\u0443\u0442\u0440\u0438 VLM \u0438 \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u0439\u0442\u0438 \u0435\u0433\u043e \u0432\u0435\u0441\u0430. \u041c\u043d\u043e\u0433\u0438\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432\u00a0\u0442\u0430\u043a\u043e\u043c \u0441\u0435\u0442\u0430\u043f\u0435: \u0438 \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u043e, \u0438 \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043a\u043e\u043f\u0430\u0442\u044c\u0441\u044f, \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044f \u043c\u0435\u0442\u043e\u0434\u044b \u043d\u0430\u00a0\u043e\u0441\u043d\u043e\u0432\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b.<\/p>\n<h3>\u041f\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0443 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0430\u0442\u0430\u043a\u0438<\/h3>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6cb\/004\/649\/6cb00464950070f6d17b1dda258573ae.png\" alt=\"FGSM: \u043e\u0434\u043d\u0430 \u0441\u0442\u0440\u043e\u0447\u043a\u0430 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0433\u0438\u0431\u0431\u043e\u043d\u0430.\" title=\"FGSM: \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043f\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0443, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0433\u0438\u0431\u0431\u043e\u043d\u0430.\" width=\"811\" height=\"329\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/6cb\/004\/649\/6cb00464950070f6d17b1dda258573ae.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/6cb\/004\/649\/6cb00464950070f6d17b1dda258573ae.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>FGSM: \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043f\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0443, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0433\u0438\u0431\u0431\u043e\u043d\u0430.<\/figcaption><\/div>\n<\/figure>\n<p><strong>Adversarial.<\/strong> \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440\u00a0\u2014 FGSM: \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043f\u043e\u00a0\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0443, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u0433\u0438\u0431\u0431\u043e\u043d\u0430.<\/p>\n<p>\u0417\u0430\u00a0\u0441\u0447\u0451\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u00a0\u0448\u0430\u0433 \u043f\u043e\u00a0\u0437\u043d\u0430\u043a\u0443 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u0435\u043d, \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0438\u0439 \u0433\u043b\u0430\u0437 \u043d\u0435\u00a0\u0437\u0430\u043c\u0435\u0447\u0430\u0435\u0442 \u043f\u043e\u0434\u043c\u0435\u043d\u0443, \u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u0440\u0430\u0434\u043e\u0441\u0442\u043d\u043e \u043a\u0440\u0438\u0447\u0438\u0442: \u00abGibbon\u00a0\u2014 99.3%\u00bb.<\/p>\n<p><strong>Jailbreak.<\/strong> \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u00a0\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u043c\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u0443 \u0445\u0438\u0442\u0440\u044b\u0439 prompt, \u043e\u0431\u0445\u043e\u0434\u044f\u0449\u0438\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 (\u043f\u0435\u0447\u0430\u043b\u044c\u043d\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 DAN, aka <em>Do\u2011Anything\u2011Now<\/em>).<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/808\/03c\/eff\/80803ceffc5ae1328caa0bab7df621ec.png\" alt=\"\u041f\u0440\u0438\u043c\u0435\u0440 \u0430\u0442\u0430\u043a\u0438 DAN\" width=\"1163\" height=\"919\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/808\/03c\/eff\/80803ceffc5ae1328caa0bab7df621ec.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/808\/03c\/eff\/80803ceffc5ae1328caa0bab7df621ec.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u0430\u0442\u0430\u043a\u0438 DAN<\/figcaption><\/div>\n<\/figure>\n<p><strong>Poisoning.<\/strong> \u0422\u0443\u0442 \u043c\u044b \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u043c\u0441\u044f \u0433\u043b\u0443\u0431\u0436\u0435: \u043d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u00a0\u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u043f\u043e\u0434\u043c\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435\u00bb \u043f\u0440\u0438\u043c\u0435\u0440\u044b. \u0420\u0438\u0441\u043a? \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e \u043d\u0435\u0441\u0451\u0442 \u0432\u00a0\u0441\u0435\u0431\u0435 \u043e\u0448\u0438\u0431\u043a\u0443.<\/p>\n<p><strong>Backdoor<\/strong>\u00a0\u2014 \u0441\u0442\u0430\u0440\u0448\u0438\u0439 \u0431\u0440\u0430\u0442 <em>poisoning<\/em>: \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u043c\u0438\u00bb \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0432\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0442\u0440\u0438\u0433\u0433\u0435\u0440 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0438\u043a\u0441\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u043e\u0434\u044f\u043d\u043e\u0439 \u0437\u043d\u0430\u043a). \u041d\u0430\u00a0\u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0441\u0435\u0442\u044c \u0432\u0435\u0434\u0451\u0442 \u0441\u0435\u0431\u044f \u043e\u0431\u0440\u0430\u0437\u0446\u043e\u0432\u043e, \u043d\u043e\u00a0\u0441\u0442\u043e\u0438\u0442 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0442\u0440\u0438\u0433\u0433\u0435\u0440\u00a0\u2014 \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442.<\/p>\n<p><em>Poisoning<\/em>\/<em>backdoor<\/em>\u2011\u0430\u0442\u0430\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0432\u00a0\u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0436\u0438\u0437\u043d\u0438, \u0442. \u043a. \u043d\u0443\u0436\u0435\u043d \u043f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u0437\u0430\u00a0\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<h3>\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u0430\u0442\u0430\u043a<\/h3>\n<p>\u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u0443\u0435\u043c\u0441\u044f \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 \u043c\u0435\u0442\u043e\u0434\u0430\u0445 \u0430\u0442\u0430\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u0432 \u0441\u0432\u043e\u0435\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0438 \u2014 <strong>PGD, RayS, SurFree \u0438 M-Attack.<\/strong><\/p>\n<h4>PGD<\/h4>\n<p>PGD \u2014 \u0438\u0442\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u043c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0448\u0430\u0433\u0430 \u043e\u0431\u0440\u0435\u0437\u0430\u0435\u043c \u0432\u0441\u0451, \u0447\u0442\u043e \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u0437\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0449\u0438\u0439 L\u221e-\u0448\u0430\u0440 \u043f\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0438\u043a\u0441\u0435\u043b\u044f.<\/p>\n<p><strong>\u0428\u0430\u0433 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430:<\/strong><\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\" x^{t+1}=\\Pi_{x+S}(x^t+\\alpha \\cdot sign(\\nabla_x L(\\Theta ,x^t,y))),\" alt=\" x^{t+1}=\\Pi_{x+S}(x^t+\\alpha \\cdot sign(\\nabla_x L(\\Theta ,x^t,y))),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/81d\/009\/76281d009c627d2e084688b8e4c99a88.svg\" width=\"363\" height=\"25\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/81d\/009\/76281d009c627d2e084688b8e4c99a88.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/81d\/009\/76281d009c627d2e084688b8e4c99a88.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><strong>\u0421\u0438\u043c\u0432\u043e\u043b<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"x^t\" alt=\"x^t\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f03\/c0b\/e14\/f03c0be14d0370dd8d4902fd0d20ee71.svg\" width=\"18\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f03\/c0b\/e14\/f03c0be14d0370dd8d4902fd0d20ee71.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f03\/c0b\/e14\/f03c0be14d0370dd8d4902fd0d20ee71.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043d\u0430 t-\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"S\" alt=\"S\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a46\/448\/292\/a46448292ab045317b0f9c6338935a33.svg\" width=\"13\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a46\/448\/292\/a46448292ab045317b0f9c6338935a33.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a46\/448\/292\/a46448292ab045317b0f9c6338935a33.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u044b\u0439 \u00ab\u0440\u0430\u0434\u0438\u0443\u0441\u00bb<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"\u03a0\" alt=\"\u03a0\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e43\/426\/62f\/e4342662f51ffec9d7e72e386c3e5f8f.svg\" width=\"15\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e43\/426\/62f\/e4342662f51ffec9d7e72e386c3e5f8f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e43\/426\/62f\/e4342662f51ffec9d7e72e386c3e5f8f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"\u03b1\" alt=\"\u03b1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4bd\/3c1\/bbb\/4bd3c1bbb6ba07a53b3470478b13e842.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4bd\/3c1\/bbb\/4bd3c1bbb6ba07a53b3470478b13e842.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4bd\/3c1\/bbb\/4bd3c1bbb6ba07a53b3470478b13e842.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0448\u0430\u0433 \u0430\u0442\u0430\u043a\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/e2b\/ea3\/762e2bea3d70f0061bf4f1f813953932.svg\" width=\"13\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/e2b\/ea3\/762e2bea3d70f0061bf4f1f813953932.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/762\/e2b\/ea3\/762e2bea3d70f0061bf4f1f813953932.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c (cross-entropy \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u0430)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"\u03b8\" alt=\"\u03b8\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d40\/36a\/146\/d4036a146568747250c4361c184565d4.svg\" width=\"9\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d40\/36a\/146\/d4036a146568747250c4361c184565d4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d40\/36a\/146\/d4036a146568747250c4361c184565d4.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0432\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f6\/732\/0ad\/4f67320addf51c907b366a385f73c85e.svg\" width=\"10\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f6\/732\/0ad\/4f67320addf51c907b366a385f73c85e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4f6\/732\/0ad\/4f67320addf51c907b366a385f73c85e.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0438\u0441\u0442\u0438\u043d\u043d\u0430\u044f \u043c\u0435\u0442\u043a\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"\\nabla_x\" alt=\"\\nabla_x\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8a8\/89e\/0b2\/8a889e0b235a35d54d99a3f882cddc84.svg\" width=\"26\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8a8\/89e\/0b2\/8a889e0b235a35d54d99a3f882cddc84.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8a8\/89e\/0b2\/8a889e0b235a35d54d99a3f882cddc84.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043f\u043e \u0432\u0445\u043e\u0434\u043d\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0415\u0441\u043b\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b1f\/b2d\/99db1fb2deacffddf3a2e9447fd0feec.svg\" width=\"13\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b1f\/b2d\/99db1fb2deacffddf3a2e9447fd0feec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b1f\/b2d\/99db1fb2deacffddf3a2e9447fd0feec.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0442\u043e \u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u044f\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0442\u0443\u0442 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b: \u043d\u0435\u0442 \u0441\u0442\u043e\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0439 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0438, \u0447\u0442\u043e \u0437\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u0441\u044f \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0447\u043d\u0451\u0442 \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f.\u00a0<strong>White-box<\/strong>-\u0441\u0435\u0442\u0430\u043f \u2014 \u043d\u0443\u0436\u043d\u043e \u0438\u043c\u0435\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0432\u0435\u0441\u0430\u043c \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430\u043c.<\/p>\n<h4>RayS<\/h4>\n<p>RayS\u00a0\u2014 query\u2011based black\u2011box\u2011\u0430\u0442\u0430\u043a\u0430 \u0446\u0435\u043b\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439, \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c \u0432\u00a0\u043e\u0431\u043b\u0430\u0441\u0442\u044c \u043d\u0430 <strong>\u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f<\/strong>.<\/p>\n<p><strong>\u041a\u043e\u043d\u0446\u0435\u043f\u0442<\/strong>: \u043f\u0435\u0440\u0435\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u0435\u043a\u0442\u043e\u0440\u044b <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2b\/4ac\/a24\/d2b4aca24c173b67c349c074ea147b4e.svg\" width=\"10\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2b\/4ac\/a24\/d2b4aca24c173b67c349c074ea147b4e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2b\/4ac\/a24\/d2b4aca24c173b67c349c074ea147b4e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438\u0437\u00a0\u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0432\u0435\u0440\u0448\u0438\u043d <img decoding=\"async\" class=\"formula inline\" source=\"L\u221e\" alt=\"L\u221e\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c0f\/b82\/201\/c0fb822017bef773515ec18eee0d79e8.svg\" width=\"33\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c0f\/b82\/201\/c0fb822017bef773515ec18eee0d79e8.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c0f\/b82\/201\/c0fb822017bef773515ec18eee0d79e8.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u200b\u2011\u0448\u0430\u0440\u0430 \u0438 \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0438\u0449\u0435\u043c \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0434\u0438\u0443\u0441 <img decoding=\"async\" class=\"formula inline\" source=\"r\" alt=\"r\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a34\/8f8\/692\/a348f8692e5fcbc1dd50d4b897ae4987.svg\" width=\"9\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a34\/8f8\/692\/a348f8692e5fcbc1dd50d4b897ae4987.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a34\/8f8\/692\/a348f8692e5fcbc1dd50d4b897ae4987.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043f\u0440\u0438\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c <img decoding=\"async\" class=\"formula inline\" source=\"x+r\\cdot d\" alt=\"x+r\\cdot d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bcb\/309\/708\/bcb3097085418de3530f2b8307a80b1f.svg\" width=\"68\" height=\"18\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bcb\/309\/708\/bcb3097085418de3530f2b8307a80b1f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bcb\/309\/708\/bcb3097085418de3530f2b8307a80b1f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"x_{adv}=x+r\\cdot d,\" alt=\"x_{adv}=x+r\\cdot d,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/797\/43a\/55b\/79743a55b9cd20d8b65b3dba82797861.svg\" width=\"134\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/797\/43a\/55b\/79743a55b9cd20d8b65b3dba82797861.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/797\/43a\/55b\/79743a55b9cd20d8b65b3dba82797861.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dc9\/378\/1f4\/dc93781f4566a649ad189f2b23629b3f.svg\" width=\"10\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dc9\/378\/1f4\/dc93781f4566a649ad189f2b23629b3f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dc9\/378\/1f4\/dc93781f4566a649ad189f2b23629b3f.svg 781w\" loading=\"lazy\" decode=\"async\"\/><em> <\/em>\u2014\u200a \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0435\u043a\u0442\u043e\u0440-\u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u0437 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430;<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"r\" alt=\"r\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/070\/3ec\/027\/0703ec027e54bbfa5af0c305196e9a6f.svg\" width=\"9\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/070\/3ec\/027\/0703ec027e54bbfa5af0c305196e9a6f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/070\/3ec\/027\/0703ec027e54bbfa5af0c305196e9a6f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0434\u043b\u044f \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e <img decoding=\"async\" class=\"formula inline\" source=\"d\" alt=\"d\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0d1\/798\/84d\/0d179884de9674c173083d52955bfdbf.svg\" width=\"10\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0d1\/798\/84d\/0d179884de9674c173083d52955bfdbf.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0d1\/798\/84d\/0d179884de9674c173083d52955bfdbf.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1af\/391\/f82\/1af391f82c844e0613a2dfd1470341bc.png\" alt=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 RayS\" title=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 RayS\" width=\"1119\" height=\"975\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/1af\/391\/f82\/1af391f82c844e0613a2dfd1470341bc.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/1af\/391\/f82\/1af391f82c844e0613a2dfd1470341bc.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 RayS<\/figcaption><\/div>\n<\/figure>\n<h4>SurFree<\/h4>\n<p>SurFree\u00a0\u2014 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d\u00a0<em>query-based<\/em>\u00a0\u043f\u043e\u0434\u0445\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0442\u0430\u0440\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043f\u0430\u0441\u0442\u044c \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f. \u041f\u043e\u0438\u0441\u043a \u0440\u0430\u0434\u0438\u0443\u0441\u0430 \u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0438\u043d\u0430\u0447\u0435, \u0447\u0435\u043c \u0432\u00a0<em>RayS<\/em>: \u0442\u0443\u0442 \u043c\u044b \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0443\u0433\u043e\u043b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u043e\u0433\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u043d\u043e \u0438\u0449\u0435\u043c \u0435\u0433\u043e \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0431\u044b\u043b\u043e \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a18\/a9a\/421\/a18a9a42186333faeaacca7db71a1db2.png\" alt=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 SurFree\" title=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 SurFree\" width=\"1640\" height=\"1306\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/a18\/a9a\/421\/a18a9a42186333faeaacca7db71a1db2.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a18\/a9a\/421\/a18a9a42186333faeaacca7db71a1db2.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 SurFree<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u0442\u0430\u0440\u0442\u0443\u0435\u043c \u0441 \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"x_b\" alt=\"x_b\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/faf\/9a5\/8e1\/faf9a58e12ba434a9ce4db5ba1ebdb27.svg\" width=\"19\" height=\"15\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/faf\/9a5\/8e1\/faf9a58e12ba434a9ce4db5ba1ebdb27.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/faf\/9a5\/8e1\/faf9a58e12ba434a9ce4db5ba1ebdb27.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u043d\u0430 decision boundary, \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u043f\u043e\u043c\u0435\u0447\u0430\u0435\u043c <img decoding=\"async\" class=\"formula inline\" source=\"x_o\" alt=\"x_o\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cea\/a3b\/259\/ceaa3b259a7a0a202f0489f13808a959.svg\" width=\"20\" height=\"15\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cea\/a3b\/259\/ceaa3b259a7a0a202f0489f13808a959.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/cea\/a3b\/259\/ceaa3b259a7a0a202f0489f13808a959.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0446\u0438\u043a\u043b\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u043c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430:\u00a0\u00a0<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"z(\\alpha ,\\Theta )=d(1-\\alpha )(cos\\Theta u+sin\\Theta v)+x_o,\" alt=\"z(\\alpha ,\\Theta )=d(1-\\alpha )(cos\\Theta u+sin\\Theta v)+x_o,\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/20e\/415\/e1e\/20e415e1e4f5fe0184abe1ad16fead5e.svg\" width=\"352\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/20e\/415\/e1e\/20e415e1e4f5fe0184abe1ad16fead5e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/20e\/415\/e1e\/20e415e1e4f5fe0184abe1ad16fead5e.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p><strong>\u200b<\/strong>\u0433\u0434\u0435:<\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"d=\\parallel x_b-x_o\\parallel_2\" alt=\"d=\\parallel x_b-x_o\\parallel_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/991\/fe9\/2e9\/991fe92e9cc7dc53618fc7113cdaa5e3.svg\" width=\"128\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/991\/fe9\/2e9\/991fe92e9cc7dc53618fc7113cdaa5e3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/991\/fe9\/2e9\/991fe92e9cc7dc53618fc7113cdaa5e3.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043e\u0442 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0434\u043e \u0442\u043e\u0447\u043a\u0438 \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"u=\\frac{x_b\u2011x_o}{d}\" alt=\"u=\\frac{x_b\u2011x_o}{d}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c9d\/691\/937\/c9d6919377204028210e3dc0ba285b2f.svg\" width=\"92\" height=\"50\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c9d\/691\/937\/c9d6919377204028210e3dc0ba285b2f.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c9d\/691\/937\/c9d6919377204028210e3dc0ba285b2f.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"v\" alt=\"v\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e73\/525\/e5f\/e73525e5f8b60fb9a7f441a14e2f35f3.svg\" width=\"9\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e73\/525\/e5f\/e73525e5f8b60fb9a7f441a14e2f35f3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e73\/525\/e5f\/e73525e5f8b60fb9a7f441a14e2f35f3.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u0435\u043d <img decoding=\"async\" class=\"formula inline\" source=\"u\" alt=\"u\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/368\/a31\/de0\/368a31de07e781c93013dc69ca2b8438.svg\" width=\"11\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/368\/a31\/de0\/368a31de07e781c93013dc69ca2b8438.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/368\/a31\/de0\/368a31de07e781c93013dc69ca2b8438.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7e2\/7c7\/216\/7e27c72166f9698c292e82f36626285b.svg\" width=\"13\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7e2\/7c7\/216\/7e27c72166f9698c292e82f36626285b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/7e2\/7c7\/216\/7e27c72166f9698c292e82f36626285b.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\u03b8\" alt=\"\u03b8\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/58d\/85c\/558\/58d85c55875da4400123e06806dbfdae.svg\" width=\"9\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/58d\/85c\/558\/58d85c55875da4400123e06806dbfdae.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/58d\/85c\/558\/58d85c55875da4400123e06806dbfdae.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0443\u0433\u043e\u043b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430, <img decoding=\"async\" class=\"formula inline\" source=\"\u03b1\" alt=\"\u03b1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/750\/50a\/282\/75050a282d3d691a6c84699fb18938fc.svg\" width=\"12\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/750\/50a\/282\/75050a282d3d691a6c84699fb18938fc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/750\/50a\/282\/75050a282d3d691a6c84699fb18938fc.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u0443\u0435\u0442 \u0440\u0430\u0434\u0438\u0443\u0441.<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u0435 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"\\alpha =1-cos\\Theta\" alt=\"\\alpha =1-cos\\Theta\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/864\/589\/bed\/864589bed96ae1055cb16926c2551617.svg\" width=\"114\" height=\"18\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/864\/589\/bed\/864589bed96ae1055cb16926c2551617.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/864\/589\/bed\/864589bed96ae1055cb16926c2551617.svg 781w\" loading=\"lazy\" decode=\"async\"\/>. \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0444\u043e\u0440\u043c\u0443\u043b\u0443:\u00a0<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"z^*(\\Theta )=dcos\\Theta (cos\\Theta u+sin\\Theta v)+x_o\" alt=\"z^*(\\Theta )=dcos\\Theta (cos\\Theta u+sin\\Theta v)+x_o\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f1\/dfa\/88a\/0f1dfa88a61509f92b016e70407ab120.svg\" width=\"316\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f1\/dfa\/88a\/0f1dfa88a61509f92b016e70407ab120.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f1\/dfa\/88a\/0f1dfa88a61509f92b016e70407ab120.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u041e\u0434\u0438\u043d \u0448\u0430\u0433 \u0438\u0442\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0430\u0442\u0430\u043a\u0438:<\/p>\n<ol>\n<li>\n<p>\u0438\u0449\u0435\u043c \u043d\u043e\u0432\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440-\u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 <img decoding=\"async\" class=\"formula inline\" source=\"v\" alt=\"v\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/865\/0c9\/2e0\/8650c92e00360d504c3ff455b687c4c9.svg\" width=\"9\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/865\/0c9\/2e0\/8650c92e00360d504c3ff455b687c4c9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/865\/0c9\/2e0\/8650c92e00360d504c3ff455b687c4c9.svg 781w\" loading=\"lazy\" decode=\"async\"\/> (\u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"u\" alt=\"u\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f0\/99e\/c1f\/0f099ec1fab01d551894a0a98ae14b54.svg\" width=\"11\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f0\/99e\/c1f\/0f099ec1fab01d551894a0a98ae14b54.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/0f0\/99e\/c1f\/0f099ec1fab01d551894a0a98ae14b54.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0438 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u043c <img decoding=\"async\" class=\"formula inline\" source=\"L\" alt=\"L\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b23\/dd3\/901\/b23dd39010e04768dd0f4dd38c03665b.svg\" width=\"13\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b23\/dd3\/901\/b23dd39010e04768dd0f4dd38c03665b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b23\/dd3\/901\/b23dd39010e04768dd0f4dd38c03665b.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c);<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0437\u043d\u0430\u043a <img decoding=\"async\" class=\"formula inline\" source=\"\u03b8\" alt=\"\u03b8\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/889\/633\/310\/88963331055ece287e4e1f5b6e8eea17.svg\" width=\"9\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/889\/633\/310\/88963331055ece287e4e1f5b6e8eea17.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/889\/633\/310\/88963331055ece287e4e1f5b6e8eea17.svg 781w\" loading=\"lazy\" decode=\"async\"\/>;<\/p>\n<\/li>\n<li>\n<p>\u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0438\u0449\u0435\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\u03b8\" alt=\"\u03b8\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b82\/ce2\/9ba\/b82ce29ba45d0e2df1130a869bc6a7c6.svg\" width=\"9\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b82\/ce2\/9ba\/b82ce29ba45d0e2df1130a869bc6a7c6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b82\/ce2\/9ba\/b82ce29ba45d0e2df1130a869bc6a7c6.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0434\u043b\u044f \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<\/ol>\n<p><strong>\u0411\u043e\u043b\u044c<\/strong> \u0442\u0430 \u0436\u0435: \u043b\u0438\u043c\u0438\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041d\u0435 \u0443\u0441\u043f\u0435\u043b\u0438 \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 <img decoding=\"async\" class=\"formula inline\" source=\"\u03b8\" alt=\"\u03b8\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ba0\/3e7\/62f\/ba03e762f91a354f718e5a725b15c1ec.svg\" width=\"9\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ba0\/3e7\/62f\/ba03e762f91a354f718e5a725b15c1ec.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ba0\/3e7\/62f\/ba03e762f91a354f718e5a725b15c1ec.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0430\u0442\u0430\u043a\u0430 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u0443\u0434\u0430\u0447\u043d\u043e\u0439.<\/p>\n<h4>M-Attack<\/h4>\n<p>\u0411\u0435\u0440\u0451\u043c \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u0438\u0437<img decoding=\"async\" class=\"formula inline\" source=\"K\" alt=\"K\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/12c\/5f8\/e92\/12c5f8e9216294eb8c3f03ddc130d936.svg\" width=\"17\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/12c\/5f8\/e92\/12c5f8e9216294eb8c3f03ddc130d936.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/12c\/5f8\/e92\/12c5f8e9216294eb8c3f03ddc130d936.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0435\u0439 PGD \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0448\u0443\u043c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b <strong>\u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u0430\u044f \u0441\u0445\u043e\u0436\u0435\u0441\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u043c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f<\/strong> \u0441\u0442\u0440\u0435\u043c\u0438\u043b\u0430\u0441\u044c \u043a 1.<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"L_M(x)=\\frac{1}{K}\\sum_{i=1}^K \\cos(f_k(x),f_k(x_{target})),\" alt=\"L_M(x)=\\frac{1}{K}\\sum_{i=1}^K \\cos(f_k(x),f_k(x_{target})),\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/367\/890\/bec\/367890becd9e1e7bf7f9a61ea3123065.svg\" width=\"326\" height=\"60\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/367\/890\/bec\/367890becd9e1e7bf7f9a61ea3123065.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/367\/890\/bec\/367890becd9e1e7bf7f9a61ea3123065.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"K\" alt=\"K\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/772\/ff7\/7d9\/772ff77d96df515833e79d67032181cc.svg\" width=\"17\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/772\/ff7\/7d9\/772ff77d96df515833e79d67032181cc.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/772\/ff7\/7d9\/772ff77d96df515833e79d67032181cc.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0432\u00a0\u0430\u043d\u0441\u0430\u043c\u0431\u043b\u0435;<br \/><img decoding=\"async\" class=\"formula inline\" source=\"f_k\u200b(\u22c5)\" alt=\"f_k\u200b(\u22c5)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b9d\/be8\/e4f\/b9dbe8e4f320d24abb2da20cc797f851.svg\" width=\"43\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b9d\/be8\/e4f\/b9dbe8e4f320d24abb2da20cc797f851.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b9d\/be8\/e4f\/b9dbe8e4f320d24abb2da20cc797f851.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u00a0\u2014 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043e\u0442<img decoding=\"async\" class=\"formula inline\" source=\"k\" alt=\"k\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d8c\/808\/769\/d8c808769911425b3295bab253872c8b.svg\" width=\"10\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d8c\/808\/769\/d8c808769911425b3295bab253872c8b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d8c\/808\/769\/d8c808769911425b3295bab253872c8b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2011\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430;<br \/><img decoding=\"async\" class=\"formula inline\" source=\"\\cos(\u22c5,\u22c5)\" alt=\"\\cos(\u22c5,\u22c5)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f25\/f83\/95e\/f25f8395e54bdb2d81017fc3b7f24b5b.svg\" width=\"61\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f25\/f83\/95e\/f25f8395e54bdb2d81017fc3b7f24b5b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f25\/f83\/95e\/f25f8395e54bdb2d81017fc3b7f24b5b.svg 781w\" loading=\"lazy\" decode=\"async\"\/><em> <\/em>\u2014 \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u0430\u044f \u0441\u0445\u043e\u0436\u0435\u0441\u0442\u044c.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a6a\/7bd\/935\/a6a7bd9359998824602aa5db09b50e08.png\" alt=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 M-Attack\" title=\"\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 M-Attack\" width=\"1600\" height=\"498\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/a6a\/7bd\/935\/a6a7bd9359998824602aa5db09b50e08.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a6a\/7bd\/935\/a6a7bd9359998824602aa5db09b50e08.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 M-Attack<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f<\/strong><\/p>\n<ul>\n<li>\n<p>\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 <em>\u0442\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0433\u043e<\/em> \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 VLM: \u0435\u0441\u043b\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0434\u0440\u0443\u0433\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438\u043b\u0438\u00a0\u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043c\u043e\u0436\u0435\u0442 \u043d\u0435\u00a0\u0441\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c;<\/p>\n<\/li>\n<li>\n<p>\u043d\u0430\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u043c\u0438\u043d\u0443\u0441\u044b PGD (white\u2011box, \u0447\u0438\u0441\u043b\u043e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439).<\/p>\n<\/li>\n<\/ul>\n<h2>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043c\u0435\u0442\u043e\u0434\u043e\u0432<\/h2>\n<p>\u041f\u0440\u0438\u0448\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043e\u0442 \u0442\u0435\u043e\u0440\u0438\u0438 \u043a \u0442\u043e\u043c\u0443 \u0441\u0430\u043c\u043e\u043c\u0443 \u0444\u043e\u043a\u0443\u0441\u0443 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f: <strong>\u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0443\u0434\u0430\u0447\u043d\u0443\u044e \u0430\u0442\u0430\u043a\u0443 \u043d\u0430\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043f\u0440\u044f\u043c\u043e \u0432 \u0433\u043e\u0442\u043e\u0432\u0443\u044e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c<\/strong>?<\/p>\n<p><strong>\u0418\u0434\u0435\u044f \u043f\u0440\u043e\u0441\u0442\u0430\u044f<\/strong>: \u0435\u0441\u043b\u0438 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0432\u043d\u0443\u0442\u0440\u0438 VLM \u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d \u0438 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c (\u0430 \u044d\u0442\u043e \u0447\u0430\u0441\u0442\u043e\u0435 \u044f\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u043b\u044f\u00a0<em>VLM<\/em>-\u043c\u043e\u0434\u0435\u043b\u0435\u0439), \u0442\u043e \u0438 \u00ab\u044f\u0434\u0440\u043e\u00bb \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u044b\u043c. \u0417\u043d\u0430\u0447\u0438\u0442, \u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c\u00a0<em>adversarial<\/em>-\u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0433\u043e\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430, \u0430 \u043f\u043e\u0442\u043e\u043c \u0443\u0436\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c VLM <strong>\u0432 \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u043e\u043c\u00a0<em>black-box<\/em>-\u0441\u0435\u0442\u0430\u043f\u0435 \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445<\/strong> \u2014 \u0431\u0435\u0437 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0432\u0435\u0441\u0430\u043c \u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430\u043c.<\/p>\n<p><strong>\u041f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e:<\/strong><\/p>\n<ol>\n<li>\n<p>\u041f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 VLM \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0441 \u00ab\u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u043d\u044b\u043c\u00bb vision\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u043c.<\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 vision\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432<\/strong>. \u0421\u0430\u043c\u044b\u0435 \u0447\u0430\u0441\u0442\u043e \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u043c\u044b\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b\u00a0\u2014 OpenAI CLIP ViT\u2011L\/14\u00a0\u0438 Google SigLIP\u2011SO400M.<\/p>\n<\/li>\n<\/ol>\n<p><em>\u041f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0435 VLM \u0438 \u0442\u043e, \u043a\u0430\u043a\u0438\u0435 vision-\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0438\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f:<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\"><strong>VLM<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Vision Encoder<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-1.5<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Molmo<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Phi-3.5-Vision<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-NeXT-Video<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-Onevision-Qwen2<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">MiniCPM-V2.6<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">PaliGemma2<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h3>\u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u0430\u0442\u0430\u043a\u0438 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 VLM<\/h3>\n<p>\u041f\u043e\u0434\u0445\u043e\u0434\u0438\u043c \u043a \u0441\u0430\u043c\u043e\u043c\u0443 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u043c\u0443: \u043a\u0430\u043a \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0443 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 VLM. \u0414\u0430\u043d\u043d\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0431\u044b\u043b \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d \u043d\u0430 \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a VLM-\u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u043e \u0430\u0442\u0430\u043a\u0438 \u0438 \u043f\u043e\u0441\u043b\u0435.<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0430\u0442\u0430\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c\u00a0<em>RayS<\/em>\u00a0\u0438\u00a0<em>SurFree<\/em>. \u0414\u043b\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0430\u0442\u0430\u043a \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438. \u0412 \u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u2014 \u044d\u0442\u043e \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0445\u043e\u0436\u0435\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u043f\u043e\u00a0<em>CLIP<\/em>-\u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0441 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u043c \u043a\u043b\u0430\u0441\u0441\u043e\u043c. \u041e\u0442\u0441\u044e\u0434\u0430 \u0438 \u043b\u043e\u0433\u0438\u043a\u0430:<\/p>\n<ol>\n<li>\n<p>\u041a\u0430\u0436\u0434\u043e\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0447\u0435\u0440\u0435\u0437 <strong>\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440<\/strong>, \u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439, \u0447\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 CLIP.<\/p>\n<\/li>\n<li>\n<p>\u0410\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0441 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0439 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043f\u043e <strong>\u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u0439 \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438<\/strong>. \u0421\u0430\u043c\u044b\u0439 \u0431\u043b\u0438\u0437\u043a\u0438\u0439 \u2014 \u0438 \u0435\u0441\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0410\u0442\u0430\u043a\u0430 \u0437\u0430\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0443\u0441\u043f\u0435\u0448\u043d\u0430\u044f, \u0435\u0441\u043b\u0438 <strong>\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u2260 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0439<\/strong>.<\/p>\n<\/li>\n<\/ol>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/46f\/688\/47a\/46f68847adac6b31e7339858fb3322de.png\" alt=\"\u041a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 adversarial \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432\" width=\"1131\" height=\"813\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/46f\/688\/47a\/46f68847adac6b31e7339858fb3322de.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/46f\/688\/47a\/46f68847adac6b31e7339858fb3322de.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u041a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 adversarial \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043e\u0442\u00a0<em>RayS<\/em>\u00a0\u0438\u00a0<em>SurFree<\/em>\u00a0\u043f\u043e\u0434\u0430\u0451\u043c \u0432 VLM \u0438 \u043f\u0440\u043e\u0441\u0438\u043c \u0434\u0430\u0442\u044c \u043e\u0442\u0432\u0435\u0442 \u0432 \u0432\u0438\u0434\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430. \u0415\u0441\u043b\u0438 \u043a\u043b\u0430\u0441\u0441 \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e, \u0437\u043d\u0430\u0447\u0438\u0442, \u0430\u0442\u0430\u043a\u0430 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0438 \u043d\u0430 VLM.<\/p>\n<h3>\u0414\u0430\u043d\u043d\u044b\u0435<\/h3>\n<p>\u0427\u0442\u043e \u043a\u0430\u0441\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u2014 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0438\u0437 <strong>CIFAR-10<\/strong>, <strong>CIFAR-100<\/strong> \u0438 <strong>CALTECH-101<\/strong>:<\/p>\n<ul>\n<li>\n<p>\u0414\u043b\u044f <strong>RayS<\/strong> \u2014 1000 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0438\u0437 CIFAR-10, CIFAR-100;<\/p>\n<\/li>\n<li>\n<p>\u0414\u043b\u044f <strong>SurFree<\/strong> \u2014 1487 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0438\u0437 CIFAR-10 \u0438 503 \u0438\u0437 20 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 CALTECH-101.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e 20 \u043a\u043b\u0430\u0441\u0441\u043e\u0432, \u0430 \u043d\u0435 \u0432\u0441\u0435 101? \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e VLM-\u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u0436\u0435 \u043d\u0430 \u00ab\u0447\u0438\u0441\u0442\u044b\u0445\u00bb \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0447\u0430\u0441\u0442\u043e \u043e\u0448\u0438\u0431\u0430\u043b\u0438\u0441\u044c \u0441 \u0442\u0430\u043a\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u043a\u043b\u0430\u0441\u0441\u043e\u0432.<\/p>\n<h3>\u041e\u0446\u0435\u043d\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/h3>\n<p>\u0427\u0442\u043e\u0431\u044b \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u0430\u0442\u0430\u043a\u0438, \u0432\u0432\u043e\u0434\u0438\u0442\u0441\u044f <strong>ASR (Attack Success Rate)<\/strong> \u2014 \u044d\u0442\u043e \u0434\u043e\u043b\u044f \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0445 \u0430\u0442\u0430\u043a, \u043a\u043e\u0433\u0434\u0430:<\/p>\n<ol>\n<li>\n<p>\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e;<\/p>\n<\/li>\n<li>\n<p>\u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u2014 <strong>\u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e<\/strong>.<\/p>\n<\/li>\n<\/ol>\n<p>\u0424\u043e\u0440\u043c\u0443\u043b\u0430:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\" ASR(f,x,\\hat{x},y)=\\frac{1}{m}\\sum_{i=1}^{n}\\left [ f(x_i)=y_i \\right ]\\cdot \\left [ f(\\hat{x}_i)\\neq y_i \\right ],\" alt=\" ASR(f,x,\\hat{x},y)=\\frac{1}{m}\\sum_{i=1}^{n}\\left [ f(x_i)=y_i \\right ]\\cdot \\left [ f(\\hat{x}_i)\\neq y_i \\right ],\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec2\/574\/c88\/ec2574c88cf4dc9b06bc288e0439e629.svg\" width=\"429\" height=\"57\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec2\/574\/c88\/ec2574c88cf4dc9b06bc288e0439e629.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ec2\/574\/c88\/ec2574c88cf4dc9b06bc288e0439e629.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"f\" alt=\"f\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b77\/547\/99db7754711b928a7ca9fe74c50a56ba.svg\" width=\"11\" height=\"21\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b77\/547\/99db7754711b928a7ca9fe74c50a56ba.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/99d\/b77\/547\/99db7754711b928a7ca9fe74c50a56ba.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (VLM);<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"x\" alt=\"x\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93c\/b9a\/579\/93cb9a57950dbb4251c137f0f2e96074.svg\" width=\"11\" height=\"12\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93c\/b9a\/579\/93cb9a57950dbb4251c137f0f2e96074.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/93c\/b9a\/579\/93cb9a57950dbb4251c137f0f2e96074.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"\\hat{x}\" alt=\"\\hat{x}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/79c\/2c0\/32a\/79c2c032a51f841fa6a4e3daf0056af1.svg\" width=\"11\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/79c\/2c0\/32a\/79c2c032a51f841fa6a4e3daf0056af1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/79c\/2c0\/32a\/79c2c032a51f841fa6a4e3daf0056af1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0432\u0435\u0440\u0441\u0438\u0438 \u0442\u0435\u0445 \u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"y\" alt=\"y\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d62\/ce9\/a3d\/d62ce9a3dba2fbe654dd239e5d9ac388.svg\" width=\"10\" height=\"16\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d62\/ce9\/a3d\/d62ce9a3dba2fbe654dd239e5d9ac388.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d62\/ce9\/a3d\/d62ce9a3dba2fbe654dd239e5d9ac388.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u200b\u200b\u200b \u2014 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"[\u22c5]\" alt=\"[\u22c5]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dac\/db9\/b3f\/dacdb9b3ffc11d2f4a5ea9a85b3410e4.svg\" width=\"16\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dac\/db9\/b3f\/dacdb9b3ffc11d2f4a5ea9a85b3410e4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/dac\/db9\/b3f\/dacdb9b3ffc11d2f4a5ea9a85b3410e4.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440 (\u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u202f1, \u0435\u0441\u043b\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f, \u0438\u043d\u0430\u0447\u0435\u202f0);<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"m=\\sum_{i=1}^n\u200b[f(x_i\u200b)=y_i\u200b]\" alt=\"m=\\sum_{i=1}^n\u200b[f(x_i\u200b)=y_i\u200b]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/825\/053\/da2\/825053da2bef37cda22cecb2cdc59a21.svg\" width=\"179\" height=\"57\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/825\/053\/da2\/825053da2bef37cda22cecb2cdc59a21.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/825\/053\/da2\/825053da2bef37cda22cecb2cdc59a21.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e.<\/p>\n<\/li>\n<\/ul>\n<p>\u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u0431\u0435\u0437 \u0430\u0442\u0430\u043a\u0438 \u043e\u0448\u0438\u0431\u0430\u043b\u0430\u0441\u044c, \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0437\u0430 \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0435 \u0430\u0442\u0430\u043a\u0438 \u2014 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u043c\u0435\u0442\u0440\u0438\u043a\u0435 \u0442\u0430\u043a\u0438\u0435 \u0441\u043b\u0443\u0447\u0430\u0438 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0434\u0438\u0442\u044c, \u0447\u0442\u043e \u0430\u0442\u0430\u043a\u0430 \u0434\u0430\u0451\u0442 \u044d\u0444\u0444\u0435\u043a\u0442 <strong>\u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0438\u0437-\u0437\u0430 \u0448\u0443\u043c\u0430<\/strong>, \u0434\u043e\u043f\u043e\u043b\u043d\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0441\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u043b\u0438 ASR \u0441 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430\u043c\u0438 \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f\u0445, \u0437\u0430\u0448\u0443\u043c\u043b\u0451\u043d\u043d\u044b\u0445 <strong>\u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u0433\u0430\u0443\u0441\u0441\u043e\u0432\u044b\u043c \u0448\u0443\u043c\u043e\u043c<\/strong>, \u043d\u043e \u0442\u0430\u043a\u043e\u0439 \u0436\u0435 \u0430\u043c\u043f\u043b\u0438\u0442\u0443\u0434\u044b. \u042d\u0442\u043e \u0434\u0430\u0451\u0442 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u0447\u0435\u0441\u0442\u043d\u043e\u0439 \u043f\u0440\u043e\u0432\u0435\u0440\u043a\u0438 \u0440\u0430\u0431\u043e\u0442\u043e\u0441\u043f\u043e\u0441\u043e\u0431\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438, \u0430 \u043d\u0435 \u043f\u0440\u043e\u0441\u0442\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0433\u043e \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044f.<\/p>\n<h2>\u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u0430\u0442\u0430\u043a\u0438 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 Video-VLM<\/h2>\n<p>\u0412\u0438\u0434\u0435\u043e\u043f\u043e\u0442\u043e\u043a \u0434\u0440\u043e\u0431\u0438\u043c \u043d\u0430\u00a0N \u043a\u0430\u0434\u0440\u043e\u0432 \u0438 <strong>\u0430\u0442\u0430\u043a\u0443\u0435\u043c \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u0430\u0434\u0440 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e<\/strong>\u00a0\u2014 \u0440\u043e\u0432\u043d\u043e \u0442\u0430\u043a\u00a0\u0436\u0435, \u043a\u0430\u043a\u00a0\u0431\u0443\u0434\u0442\u043e \u043f\u0435\u0440\u0435\u0434 \u043d\u0430\u043c\u0438 \u043f\u0430\u0447\u043a\u0430 \u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u043a. \u0413\u043e\u0442\u043e\u0432\u044b\u0439 \u043d\u0430\u0431\u043e\u0440 \u043a\u0430\u0434\u0440\u043e\u0432 \u0441\u043e\u0431\u0438\u0440\u0430\u0435\u043c \u043e\u0431\u0440\u0430\u0442\u043d\u043e \u0432\u00a0\u0440\u043e\u043b\u0438\u043a \u0438 \u0441\u043a\u0430\u0440\u043c\u043b\u0438\u0432\u0430\u0435\u043c Video\u2011VLM. \u041f\u0440\u0438\u00a0\u044d\u0442\u043e\u043c \u043d\u0435\u043e\u0431\u044f\u0437\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u0432\u0441\u0435 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u0430\u0434\u0440\u044b, \u0432\u00a0\u0440\u0430\u0431\u043e\u0442\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u0438 \u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0433\u043e \u0432\u0438\u0434\u0435\u043e\u0440\u043e\u043b\u0438\u043a\u0430 \u043f\u043e\u00a0\u043d\u0430\u0431\u043e\u0440\u0443 \u00ab\u0447\u0438\u0441\u0442\u044b\u0445\u00bb \u0438 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u0434\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0431\u0443\u0434\u0443\u0442 \u043e\u043f\u0438\u0441\u0430\u043d\u044b \u043d\u0438\u0436\u0435.<\/p>\n<p>\u0417\u0430\u0447\u0430\u0441\u0442\u0443\u044e \u0432 \u043b\u044e\u0431\u043e\u0439\u00a0<em>Video\u2011VLM<\/em>\u00a0\u0435\u0441\u0442\u044c \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435: \u0438\u0437 \u0434\u043b\u0438\u043d\u043d\u043e\u0433\u043e \u0432\u0438\u0434\u0435\u043e \u0432\u044b\u0431\u0438\u0440\u0430\u044e\u0442 \u043a\u0430\u0434\u0440\u044b, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0434\u0430\u043b\u0435\u0435 \u043f\u0440\u043e\u0445\u043e\u0434\u044f\u0442 \u0447\u0435\u0440\u0435\u0437\u00a0<em>vision\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440<\/em>, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e. \u0427\u0442\u043e\u0431\u044b \u0438\u043c\u0435\u0442\u044c \u043f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u043d\u0430\u0434 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u043c, \u044f \u0434\u0435\u043b\u0430\u044e \u044d\u0442\u043e \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0438 \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u044e \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432, \u0433\u0434\u0435 \u0441\u043e\u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u0435 \u00ab\u0447\u0438\u0441\u0442\u044b\u0445\u00bb \u0438 \u00ab\u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445\u00bb \u043a\u0430\u0434\u0440\u043e\u0432 \u0432\u0430\u0440\u044c\u0438\u0440\u0443\u0435\u0442\u0441\u044f.<\/p>\n<h3>Multimodal M-Attack (MMM-Attack)<\/h3>\n<p>\u0411\u0430\u0437\u043e\u0439 \u0441\u043b\u0443\u0436\u0438\u0442\u00a0<strong><em>M-Attack<\/em><\/strong>, \u0432 \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u00a0<strong><em>PGD<\/em><\/strong>-\u0430\u0442\u0430\u043a\u0430 \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u0443\u044e \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438 \u043a\u0440\u043e\u043f\u0430 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u0438 \u043a\u0440\u043e\u043f\u0430 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439. \u0415\u0433\u043e \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u0432\u044b\u0433\u043b\u044f\u0434\u0438\u0442 \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\"L_M(f_a,f_t,I_a,I_t)=\\frac{1}{N}\\sum_{i=1}^{N}\\frac{&lt; f_{a}^{i}(I_a),f_{t}^{i}(I_t)&gt;}{\\left\\| f_{a}^{i}(I_a)\\right\\|_2\\cdot\\left\\|f_{t}^{i}(I_t)\\right\\|_2},\" alt=\"L_M(f_a,f_t,I_a,I_t)=\\frac{1}{N}\\sum_{i=1}^{N}\\frac{&lt; f_{a}^{i}(I_a),f_{t}^{i}(I_t)&gt;}{\\left\\| f_{a}^{i}(I_a)\\right\\|_2\\cdot\\left\\|f_{t}^{i}(I_t)\\right\\|_2},\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4c0\/555\/e72\/4c0555e7200da2d770f0ba928cf385e1.svg\" width=\"410\" height=\"60\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4c0\/555\/e72\/4c0555e7200da2d770f0ba928cf385e1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4c0\/555\/e72\/4c0555e7200da2d770f0ba928cf385e1.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435<\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"f_a\" alt=\"f_a\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/587\/792\/7e9\/5877927e9c1467ab8701df1ab8b4f17e.svg\" width=\"19\" height=\"21\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/587\/792\/7e9\/5877927e9c1467ab8701df1ab8b4f17e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/587\/792\/7e9\/5877927e9c1467ab8701df1ab8b4f17e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>,\u2005<img decoding=\"async\" class=\"formula inline\" source=\"f_t\" alt=\"f_t\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d5c\/eb4\/e2a\/d5ceb4e2a44004fbb48422c96875e3c2.svg\" width=\"17\" height=\"21\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d5c\/eb4\/e2a\/d5ceb4e2a44004fbb48422c96875e3c2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d5c\/eb4\/e2a\/d5ceb4e2a44004fbb48422c96875e3c2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"N\" alt=\"N\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/682\/f04\/3a2\/682f043a24f35ed7762e6e6ba65e2e97.svg\" width=\"17\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/682\/f04\/3a2\/682f043a24f35ed7762e6e6ba65e2e97.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/682\/f04\/3a2\/682f043a24f35ed7762e6e6ba65e2e97.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 (\u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0445 \u0438 \u0446\u0435\u043b\u0435\u0432\u044b\u0445 \u043a\u0440\u043e\u043f\u043e\u0432, \u0432 M-Attack \u043e\u043d\u0438 \u0441\u043e\u0432\u043f\u0430\u0434\u0430\u044e\u0442);<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"I_a\" alt=\"I_a\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/210\/b50\/921\/210b50921ce1a8b2f3dc1fe72819125e.svg\" width=\"18\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/210\/b50\/921\/210b50921ce1a8b2f3dc1fe72819125e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/210\/b50\/921\/210b50921ce1a8b2f3dc1fe72819125e.svg 781w\" loading=\"lazy\" decode=\"async\"\/>,\u2005<img decoding=\"async\" class=\"formula inline\" source=\"I_t\u200a\" alt=\"I_t\u200a\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d06\/3ab\/0e7\/d063ab0e740ce3d4065411d84452d454.svg\" width=\"16\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d06\/3ab\/0e7\/d063ab0e740ce3d4065411d84452d454.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d06\/3ab\/0e7\/d063ab0e740ce3d4065411d84452d454.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043a\u0440\u043e\u043f\u044b \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439.<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u044b \u0436\u0435 \u0440\u0435\u0448\u0438\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \u0441\u0440\u0430\u0437\u0443 \u0441 \u0434\u0432\u0443\u0445 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439 \u0434\u043b\u044f \u0431\u043e\u043b\u044c\u0448\u0435\u0439 \u0432\u0430\u0440\u0438\u0430\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438, \u043f\u043e\u044d\u0442\u043e\u043c\u0443 \u0431\u044b\u043b\u0438 \u0441\u043e\u0431\u0440\u0430\u043d\u044b \u0447\u0435\u0442\u0432\u0451\u0440\u043a\u0438 <img decoding=\"async\" class=\"formula inline\" source=\"(I_a, T_a, I_t, T_t)\" alt=\"(I_a, T_a, I_t, T_t)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c7c\/d3c\/264\/c7cd3c264c3d84acfaee6727503cf5d6.svg\" width=\"114\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c7c\/d3c\/264\/c7cd3c264c3d84acfaee6727503cf5d6.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c7c\/d3c\/264\/c7cd3c264c3d84acfaee6727503cf5d6.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u0441\u043e\u0441\u0442\u043e\u044f\u0449\u0438\u0435 \u0438\u0437 \u0434\u0432\u0443\u0445 \u043a\u0440\u043e\u043f\u043e\u0432: \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0434\u0432\u0443\u0445 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0439 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439. \u0422\u0435\u043f\u0435\u0440\u044c \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043c \u0430\u0442\u0430\u043a\u0443 \u0441\u0440\u0430\u0437\u0443 \u043f\u043e \u0442\u0440\u0451\u043c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c:<\/p>\n<ol>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2i_{target}\" alt=\"i2i_{target}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/973\/916\/547\/97391654781e4d141d4aacad657cd2d5.svg\" width=\"62\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/973\/916\/547\/97391654781e4d141d4aacad657cd2d5.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/973\/916\/547\/97391654781e4d141d4aacad657cd2d5.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(I_a)\" alt=\"f(I_a)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg\" width=\"44\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0443 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(I_t)\" alt=\"f(I_t)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/057\/19c\/3ec\/05719c3ecb3086fb298835b8d16986c2.svg\" width=\"42\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/057\/19c\/3ec\/05719c3ecb3086fb298835b8d16986c2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/057\/19c\/3ec\/05719c3ecb3086fb298835b8d16986c2.svg 781w\" loading=\"lazy\" decode=\"async\"\/>;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2t_{target} \" alt=\"i2t_{target} \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bc9\/728\/2b8\/bc97282b8d26155a9a54cd65014f5299.svg\" width=\"62\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bc9\/728\/2b8\/bc97282b8d26155a9a54cd65014f5299.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bc9\/728\/2b8\/bc97282b8d26155a9a54cd65014f5299.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u043f\u0440\u0438\u0431\u043b\u0438\u0437\u0438\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(I_a)\" alt=\"f(I_a)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg\" width=\"44\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/727\/585\/4c2\/7275854c241bb5816a7935b2920687de.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043a \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0443 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(T_t)\" alt=\"f(T_t)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/319\/77a\/ee6\/31977aee61ce8e0d74cd20700d8ce97a.svg\" width=\"44\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/319\/77a\/ee6\/31977aee61ce8e0d74cd20700d8ce97a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/319\/77a\/ee6\/31977aee61ce8e0d74cd20700d8ce97a.svg 781w\" loading=\"lazy\" decode=\"async\"\/>;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2t_{original}\" alt=\"i2t_{original}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a96\/e2c\/8c5\/a96e2c8c5067bded0bd103c47930041e.svg\" width=\"74\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a96\/e2c\/8c5\/a96e2c8c5067bded0bd103c47930041e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a96\/e2c\/8c5\/a96e2c8c5067bded0bd103c47930041e.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043e\u0442\u0434\u0430\u043b\u0438\u0442\u044c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(I_a)\" alt=\"f(I_a)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/de1\/c74\/574\/de1c7457423e4fc060785cc40e080ba9.svg\" width=\"44\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/de1\/c74\/574\/de1c7457423e4fc060785cc40e080ba9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/de1\/c74\/574\/de1c7457423e4fc060785cc40e080ba9.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"f(T_a)\" alt=\"f(T_a)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4e8\/163\/233\/4e8163233dd3aeeffb8d9c96a6b7ca87.svg\" width=\"47\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4e8\/163\/233\/4e8163233dd3aeeffb8d9c96a6b7ca87.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4e8\/163\/233\/4e8163233dd3aeeffb8d9c96a6b7ca87.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<\/ol>\n<p>\u0418\u0442\u043e\u0433\u043e\u0432\u0430\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c \u0434\u043b\u044f PGD \u0432 MMM-Attack:<\/p>\n<p><img decoding=\"async\" class=\"formula\" source=\" \\begin{aligned} L\\!\\bigl(f_I, f_T, I_a, T_a, I_t, T_t\\bigr)    &amp;=\\; w_{1}\\cdot L_{M}\\!\\bigl(f_I,f_T,I_a,T_t\\bigr)\\\\[2pt]    &amp;\\;-\\; w_{2}\\cdot L_{M}\\!\\bigl(f_I,f_T,I_a,T_a\\bigr)\\\\[2pt]    &amp;\\;+\\; w_{3}\\cdot L_{M}\\!\\bigl(f_I,f_I,I_a,I_t\\bigr). \\end{aligned} \" alt=\" \\begin{aligned} L\\!\\bigl(f_I, f_T, I_a, T_a, I_t, T_t\\bigr)    &amp;=\\; w_{1}\\cdot L_{M}\\!\\bigl(f_I,f_T,I_a,T_t\\bigr)\\\\[2pt]    &amp;\\;-\\; w_{2}\\cdot L_{M}\\!\\bigl(f_I,f_T,I_a,T_a\\bigr)\\\\[2pt]    &amp;\\;+\\; w_{3}\\cdot L_{M}\\!\\bigl(f_I,f_I,I_a,I_t\\bigr). \\end{aligned} \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e9d\/b7c\/370\/e9db7c3702fc68096f0b28857057f054.svg\" width=\"411\" height=\"93\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e9d\/b7c\/370\/e9db7c3702fc68096f0b28857057f054.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e9d\/b7c\/370\/e9db7c3702fc68096f0b28857057f054.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435:  <\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"f_I \" alt=\"f_I \" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/478\/f16\/1e5\/478f161e59c4c07012edb2a239d6836b.svg\" width=\"18\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/478\/f16\/1e5\/478f161e59c4c07012edb2a239d6836b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/478\/f16\/1e5\/478f161e59c4c07012edb2a239d6836b.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u2014 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0438\u0437 CLIP\/SigLIP \u043f\u043e\u0434\u0445\u043e\u0434\u043e\u0432,<img decoding=\"async\" class=\"formula inline\" source=\" f_T\" alt=\" f_T\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/430\/155\/42b\/43015542bdb662a42b03cb16111eaf04.svg\" width=\"21\" height=\"20\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/430\/155\/42b\/43015542bdb662a42b03cb16111eaf04.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/430\/155\/42b\/43015542bdb662a42b03cb16111eaf04.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0438\u043c \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"w_1,w_2,w_3\\in[0,1]\" alt=\"w_1,w_2,w_3\\in[0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f26\/946\/f76\/f26946f765008f941fa9372975b55c89.svg\" width=\"147\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f26\/946\/f76\/f26946f765008f941fa9372975b55c89.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/f26\/946\/f76\/f26946f765008f941fa9372975b55c89.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u0432\u0435\u0441\u0430 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/99e\/c83\/56a\/99ec8356ad74db3d80d1b3e40e619e99.png\" alt=\"\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c MMM-Attack: \u0441\u043b\u0435\u0432\u0430 \u2014 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0435 \u0432\u0438\u0434\u0435\u043e; \u0441\u0442\u0440\u0435\u043b\u043a\u0438 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u044e\u0442, \u043a\u0430\u043a\u0438\u0435 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0438 \u0441\u0442\u044f\u0433\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u0438\u043b\u0438 \u0440\u0430\u0441\u0442\u0430\u043b\u043a\u0438\u0432\u0430\u044e\u0442\u0441\u044f\" title=\"\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c MMM-Attack: \u0441\u043b\u0435\u0432\u0430 \u2014 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0435 \u0432\u0438\u0434\u0435\u043e\" width=\"1600\" height=\"744\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/99e\/c83\/56a\/99ec8356ad74db3d80d1b3e40e619e99.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/99e\/c83\/56a\/99ec8356ad74db3d80d1b3e40e619e99.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption>\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c MMM-Attack: \u0441\u043b\u0435\u0432\u0430 \u2014 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0435 \u0432\u0438\u0434\u0435\u043e<\/figcaption><\/div>\n<\/figure>\n<h3>Frame Selection \u2014 \u0448\u0435\u0441\u0442\u044c \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0435\u0432 \u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0438\u0442\u043e\u0433\u043e\u0432\u043e\u0433\u043e \u0432\u0438\u0434\u0435\u043e\u0440\u043e\u043b\u0438\u043a\u0430<\/h3>\n<p>\u041f\u043e\u0441\u043b\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a \u043a\u0430\u0436\u0434\u044b\u0439 \u043a\u0430\u0434\u0440 \u0431\u044b\u043b \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d \u0441 \u043f\u043e\u043c\u043e\u0449\u044c\u044e <em>MMM-Attack<\/em>:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\"><strong>\u0421\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0427\u0442\u043e \u043f\u043e\u043f\u0430\u0434\u0430\u0435\u0442 \u0432 \u0438\u0442\u043e\u0433\u043e\u0432\u044b\u0439 \u0440\u043e\u043b\u0438\u043a<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">0<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0441\u0435 \u043a\u0430\u0434\u0440\u044b \u2014 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u044b\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">1<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u043b\u0443\u0447\u0430\u0439\u043d\u043e <strong>1<\/strong> \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u0430\u0434\u0440, \u043e\u0441\u0442\u0430\u043b\u044c\u043d\u044b\u0435 \u2014 \u0447\u0438\u0441\u0442\u044b\u0435<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">0.25 N<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u00bc \u043a\u0430\u0434\u0440\u043e\u0432 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u044b<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">0.5 N<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u00bd \u043a\u0430\u0434\u0440\u043e\u0432 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u044b<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">0.75 N<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u00be \u043a\u0430\u0434\u0440\u043e\u0432 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u044b<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"163\" width=\"163\">\n<p align=\"left\">N<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0412\u0441\u0435 <strong>N<\/strong> \u043a\u0430\u0434\u0440\u043e\u0432 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u044b<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u041e\u0436\u0438\u0434\u0430\u0435\u043c, \u0447\u0442\u043e \u0440\u043e\u0441\u0442 \u0434\u043e\u043b\u0438 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u0434\u0440\u043e\u0432 \u043f\u043e\u0432\u044b\u0441\u0438\u0442 \u0438\u0442\u043e\u0433\u043e\u0432\u0443\u044e \u043c\u0435\u0442\u0440\u0438\u043a\u0443 IoU.<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u0434\u0432\u0435 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0435 \u0432\u044b\u0431\u043e\u0440\u043a\u0438, \u043a\u0430\u0436\u0434\u0430\u044f \u0440\u0435\u0448\u0430\u043b\u0430 \u0441\u0432\u043e\u044e \u0437\u0430\u0434\u0430\u0447\u0443. \u041f\u0435\u0440\u0432\u0430\u044f \u2014 \u043a\u0430\u043b\u0438\u0431\u0440\u043e\u0432\u043e\u0447\u043d\u044b\u0439\u00a0<em>HPO<\/em>-\u043d\u0430\u0431\u043e\u0440 \u043d\u0430 \u0431\u0430\u0437\u0435\u00a0<em>VQA<\/em>-\u043a\u043e\u0440\u043f\u0443\u0441\u0430\u00a0<em>RLAIF-V<\/em>: \u0438\u0437 \u043d\u0435\u0433\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u0432\u044b\u0431\u0438\u0440\u0430\u043b\u0438 \u043e\u0431\u044a\u0435\u043a\u0442, \u0431\u0440\u0430\u043b\u0438 \u0435\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0438 \u0442\u0435\u043a\u0441\u0442\u043e\u0432\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435, \u043f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u043b\u044c\u043d\u044b\u0439 \u043e\u0431\u044a\u0435\u043a\u0442 \u2014 \u043e\u043d \u0441\u0442\u0430\u043d\u043e\u0432\u0438\u043b\u0441\u044f \u00ab\u0446\u0435\u043b\u0435\u0432\u043e\u0439\u00bb \u043f\u0430\u0440\u043e\u0439. \u0422\u0430\u043a\u0438\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0441\u0444\u043e\u0440\u043c\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0447\u0435\u0442\u0432\u0451\u0440\u043a\u0438 \u0432\u0438\u0434\u0430: \u00ab\u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 + \u0435\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \/ \u0446\u0435\u043b\u0435\u0432\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 + \u0435\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u00bb.<\/p>\n<p>\u0412\u0442\u043e\u0440\u0430\u044f \u0432\u044b\u0431\u043e\u0440\u043a\u0430 \u043d\u0443\u0436\u043d\u0430 \u0431\u044b\u043b\u0430 \u0434\u043b\u044f \u0441\u0430\u043c\u043e\u0433\u043e \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0430 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 <em>Video-VLM<\/em>. \u0417\u0430 \u043e\u0441\u043d\u043e\u0432\u0443 \u0432\u0437\u044f\u043b\u0438 \u043f\u0443\u0431\u043b\u0438\u0447\u043d\u044b\u0439 \u0434\u0430\u0442\u0430\u0441\u0435\u0442<a href=\"https:\/\/huggingface.co\/datasets\/lmms-lab\/LLaVA-Video-178K\" rel=\"noopener noreferrer nofollow\"> LLaVA-Video-178K<\/a> \u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e \u0438\u0437\u0432\u043b\u0435\u043a\u043b\u0438 \u0441\u0442\u043e \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0445 (\u0434\u043e \u0442\u0440\u0438\u0434\u0446\u0430\u0442\u0438 \u0441\u0435\u043a\u0443\u043d\u0434) \u0440\u043e\u043b\u0438\u043a\u043e\u0432. \u041a\u0430\u0436\u0434\u044b\u0439 \u0432\u0438\u0434\u00ad\u0435\u043e\u0444\u0430\u0439\u043b \u0440\u0430\u0432\u043d\u043e\u043c\u0435\u0440\u043d\u043e \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043f\u043e \u0434\u0435\u0441\u044f\u0442\u044c \u043a\u0430\u0434\u0440\u043e\u0432 \u0438 \u0434\u043b\u044f \u043f\u043e\u043b\u0443\u0447\u0438\u0432\u0448\u0438\u0445\u0441\u044f \u043a\u043b\u0438\u043f\u043e\u0432 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f \u0447\u0435\u0440\u0435\u0437 \u043c\u043e\u0434\u0435\u043b\u044c<a href=\"https:\/\/huggingface.co\/lmms-lab\/LLaVA-NeXT-Video-7B\" rel=\"noopener noreferrer nofollow\"> LLaVA-NeXT-Video-7B<\/a>. \u0418\u0442\u043e\u0433\u043e\u043c \u0441\u0442\u0430\u043b\u0438 \u0441\u0442\u043e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u0444\u043e\u0440\u043c\u0430\u0442\u0430 \u00ab\u0432\u0438\u0434\u0435\u043e \u0438\u0437 \u0434\u0435\u0441\u044f\u0442\u0438 \u043a\u0430\u0434\u0440\u043e\u0432 + \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435\u00bb, \u0438\u0437 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0437\u0430\u0442\u0435\u043c \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u0441\u0442\u043e \u043f\u0430\u0440 \u00ab\u0430\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0439 \u0440\u043e\u043b\u0438\u043a \/ \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0440\u043e\u043b\u0438\u043a\u00bb \u2014 \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u044d\u0442\u043e\u043c \u043d\u0430\u0431\u043e\u0440\u0435 \u043f\u0440\u043e\u0432\u043e\u0434\u0438\u043b\u0430\u0441\u044c <em>MMM-Attack<\/em>.<\/p>\n<h3>\u041e\u0446\u0435\u043d\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/h3>\n<p>\u0414\u043b\u044f \u043e\u0446\u0435\u043d\u043a\u0438 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0430\u0441\u044c \u043c\u0435\u0442\u0440\u0438\u043a\u0430 IoU \u043c\u0435\u0436\u0434\u0443:<\/p>\n<ul>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"s_1\" alt=\"s_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9ba\/bc7\/c1e\/9babc7c1e53d1006561d27499d94dcea.svg\" width=\"18\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9ba\/bc7\/c1e\/9babc7c1e53d1006561d27499d94dcea.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/9ba\/bc7\/c1e\/9babc7c1e53d1006561d27499d94dcea.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043e\u0442\u0432\u0435\u0442 <em>Video-VLM<\/em> \u043d\u0430 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u0440\u043e\u043b\u0438\u043a;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"s_2\" alt=\"s_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a78\/2eb\/a94\/a782eba94878d8ff8125d98e2173b4b2.svg\" width=\"18\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a78\/2eb\/a94\/a782eba94878d8ff8125d98e2173b4b2.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/a78\/2eb\/a94\/a782eba94878d8ff8125d98e2173b4b2.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u2014 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0432\u0438\u0434\u0435\u043e, \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 <em>\u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0439 Video-VLM.<\/em><\/p>\n<\/li>\n<\/ul>\n<p><img decoding=\"async\" class=\"formula\" source=\" IoU(s_{1},s_{2}) \\;=\\; \\frac{\\bigl|\\,t(s_{1})\\cap t(s_{2})\\,\\bigr|}      {\\bigl|\\,t(s_{1})\\cup t(s_{2})\\,\\bigr|},\" alt=\" IoU(s_{1},s_{2}) \\;=\\; \\frac{\\bigl|\\,t(s_{1})\\cap t(s_{2})\\,\\bigr|}      {\\bigl|\\,t(s_{1})\\cup t(s_{2})\\,\\bigr|},\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bae\/182\/b78\/bae182b78145efe4152c9ccfe8a7cc3e.svg\" width=\"260\" height=\"58\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bae\/182\/b78\/bae182b78145efe4152c9ccfe8a7cc3e.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/bae\/182\/b78\/bae182b78145efe4152c9ccfe8a7cc3e.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<p>\u0433\u0434\u0435 \u0444\u0443\u043d\u043a\u0446\u0438\u044f <img decoding=\"async\" class=\"formula inline\" source=\"t(\u22c5)\" alt=\"t(\u22c5)\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e2a\/659\/2f3\/e2a6592f3e769129c2e16ab3cb7a17fe.svg\" width=\"27\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e2a\/659\/2f3\/e2a6592f3e769129c2e16ab3cb7a17fe.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e2a\/659\/2f3\/e2a6592f3e769129c2e16ab3cb7a17fe.svg 781w\" loading=\"lazy\" decode=\"async\"\/>\u0440\u0430\u0437\u0431\u0438\u0432\u0430\u0435\u0442 \u0441\u0442\u0440\u043e\u043a\u0443 \u043f\u043e \u043f\u0440\u043e\u0431\u0435\u043b\u0443 \u043d\u0430 \u0441\u043b\u043e\u0432\u0430, \u043f\u0440\u0438\u0432\u043e\u0434\u0438\u0442 \u0441\u043b\u043e\u0432\u0430 \u043a lower\u2011case, \u0443\u0434\u0430\u043b\u044f\u0435\u0442 \u043f\u0443\u043d\u043a\u0442\u0443\u0430\u0446\u0438\u044e \u0438 \u043e\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u0442 \u0442\u043e\u043b\u044c\u043a\u043e \u0443\u043d\u0438\u043a\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u043b\u043e\u0432\u0430 \u0432 \u0432\u0438\u0434\u0435 \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430.<\/p>\n<p><code>t(\u00ab\u0410\u0442\u0430\u043a\u0430 \u043d\u0430 \u044d\u043d\u043a\u043e\u0434\u0435\u0440, \u043d\u0435 \u043d\u0430 VLM!\u00bb)\u2005\u200a=\u2005\u200a{\u0430\u0442\u0430\u043a\u0430, \u043d\u0430, \u044d\u043d\u043a\u043e\u0434\u0435\u0440, \u043d\u0435, vlm}<\/code><\/p>\n<h3>HPO<\/h3>\n<p>\u0414\u043b\u044f \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0439 \u0430\u0442\u0430\u043a\u0438 \u043f\u0440\u0438 \u043f\u043e\u043c\u043e\u0449\u0438 <em>HPO<\/em> \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u044e\u0442\u0441\u044f \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0435 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b:<\/p>\n<ul>\n<li>\n<p>\u0432\u0435\u0441\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"w_1\" alt=\"w_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5a\/229\/1aa\/c5a2291aaf10aa1f862cdedab1a3fb69.svg\" width=\"23\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5a\/229\/1aa\/c5a2291aaf10aa1f862cdedab1a3fb69.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5a\/229\/1aa\/c5a2291aaf10aa1f862cdedab1a3fb69.svg 781w\" loading=\"lazy\" decode=\"async\"\/>,<img decoding=\"async\" class=\"formula inline\" source=\"w_2\" alt=\"w_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/618\/1e3\/b98\/6181e3b98b4a23247223e71c7b2e08c1.svg\" width=\"23\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/618\/1e3\/b98\/6181e3b98b4a23247223e71c7b2e08c1.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/618\/1e3\/b98\/6181e3b98b4a23247223e71c7b2e08c1.svg 781w\" loading=\"lazy\" decode=\"async\"\/>,<img decoding=\"async\" class=\"formula inline\" source=\"w_3 \\in [0,1]\" alt=\"w_3 \\in [0,1]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8bf\/e41\/e98\/8bfe41e9890f4ec1e9464559f9aaad28.svg\" width=\"85\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8bf\/e41\/e98\/8bfe41e9890f4ec1e9464559f9aaad28.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/8bf\/e41\/e98\/8bfe41e9890f4ec1e9464559f9aaad28.svg 781w\" loading=\"lazy\" decode=\"async\"\/> \u0434\u043b\u044f \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c \u0432 PGD;<\/p>\n<\/li>\n<li>\n<p>\u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u044b \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u043e\u0432 \u043a\u0440\u043e\u043f\u0430 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u043e\u0433\u043e \u043a\u0430\u0434\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"s_l\\in [0.3, 0.6]\" alt=\"s_l\\in [0.3, 0.6]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/839\/f99\/c65\/839f99c65dbaa8f53facca9de1234353.svg\" width=\"109\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/839\/f99\/c65\/839f99c65dbaa8f53facca9de1234353.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/839\/f99\/c65\/839f99c65dbaa8f53facca9de1234353.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"s_h\\in [0.6, 0.9]\" alt=\"s_h\\in [0.6, 0.9]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/74c\/f3e\/02a\/74cf3e02a5423370146d83d2da8013e9.svg\" width=\"112\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/74c\/f3e\/02a\/74cf3e02a5423370146d83d2da8013e9.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/74c\/f3e\/02a\/74cf3e02a5423370146d83d2da8013e9.svg 781w\" loading=\"lazy\" decode=\"async\"\/>;<\/p>\n<\/li>\n<li>\n<p>\u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u044b \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u043e\u0432 \u043a\u0440\u043e\u043f\u0430 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u043a\u0430\u0434\u0440\u0430 <img decoding=\"async\" class=\"formula inline\" source=\"t_l\\in [0.3, 0.6]\" alt=\"t_l\\in [0.3, 0.6]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/42a\/b59\/6aa\/42ab596aa169cca17ca2cd2a5b170077.svg\" width=\"106\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/42a\/b59\/6aa\/42ab596aa169cca17ca2cd2a5b170077.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/42a\/b59\/6aa\/42ab596aa169cca17ca2cd2a5b170077.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"t_h\\in [0.6, 0.9]\" alt=\"t_h\\in [0.6, 0.9]\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d9b\/e0a\/092\/d9be0a092f47b28bc9cd6c3278ed79dd.svg\" width=\"110\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d9b\/e0a\/092\/d9be0a092f47b28bc9cd6c3278ed79dd.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d9b\/e0a\/092\/d9be0a092f47b28bc9cd6c3278ed79dd.svg 781w\" loading=\"lazy\" decode=\"async\"\/>.<\/p>\n<\/li>\n<\/ul>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a99\/238\/64d\/a9923864d6f979249eb1c49e99ea0072.png\" alt=\"Grid vs Random vs Bayesian: \u0433\u043e\u043b\u0443\u0431\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438, \u0436\u0451\u043b\u0442\u0430\u044f \u2014 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 optimum, \u0437\u0432\u0451\u0437\u0434\u043e\u0447\u043a\u0430 \u2014 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 optimum\" title=\"Grid Search vs Random Search vs Bayesian Optimization: \u0433\u043e\u043b\u0443\u0431\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438, \u0436\u0451\u043b\u0442\u0430\u044f \u0437\u0432\u0435\u0437\u0434\u043e\u0447\u043a\u0430 \u2014 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u043f\u0442\u0438\u043c\u0443\u043c, \u0441\u0438\u043d\u044f\u044f \u0437\u0432\u0451\u0437\u0434\u043e\u0447\u043a\u0430 \u2014 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u043f\u0442\u0438\u043c\u0443\u043c\" width=\"1443\" height=\"850\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/a99\/238\/64d\/a9923864d6f979249eb1c49e99ea0072.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/a99\/238\/64d\/a9923864d6f979249eb1c49e99ea0072.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><em>Grid Search vs Random Search vs Bayesian Optimization: \u0433\u043e\u043b\u0443\u0431\u044b\u0435 \u0442\u043e\u0447\u043a\u0438 \u2014 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438, \u0436\u0451\u043b\u0442\u0430\u044f \u0437\u0432\u0435\u0437\u0434\u043e\u0447\u043a\u0430 \u2014 \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u043f\u0442\u0438\u043c\u0443\u043c, \u0441\u0438\u043d\u044f\u044f \u0437\u0432\u0451\u0437\u0434\u043e\u0447\u043a\u0430 \u2014 \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u044b\u0439 \u043e\u043f\u0442\u0438\u043c\u0443\u043c<\/em><\/figcaption><\/div>\n<\/figure>\n<p>\u041a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u0432\u044b\u0448\u0435 \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442, \u043f\u043e\u0447\u0435\u043c\u0443 \u0431\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f (<em>BO<\/em>) \u0432\u044b\u0433\u043e\u0434\u043d\u0435\u0439: \u0432\u043c\u0435\u0441\u0442\u043e \u043f\u0435\u0440\u0435\u0431\u043e\u0440\u0430 \u043e\u0433\u0440\u043e\u043c\u043d\u043e\u0433\u043e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0439 (<em>Grid Search<\/em>) \u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u00ab\u0432\u044b\u0441\u0442\u0440\u0435\u043b\u043e\u0432\u00bb, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043d\u0435 \u0444\u0430\u043a\u0442, \u0447\u0442\u043e \u043f\u043e\u043f\u0430\u0434\u0443\u0442 \u0432 \u043d\u0443\u0436\u043d\u0443\u044e \u043e\u0431\u043b\u0430\u0441\u0442\u044c (<em>Random Search<\/em>) \u043e\u043d\u0430 \u0441 \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0435\u0439 \u0432\u0441\u0435 \u0431\u043b\u0438\u0436\u0435 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u043a \u0433\u043b\u043e\u0431\u0430\u043b\u044c\u043d\u043e\u043c\u0443 \u043e\u043f\u0442\u0438\u043c\u0443\u043c\u0443.\u00a0<\/p>\n<p>\u0422\u0430\u043a\u0436\u0435 \u0431\u044b\u043b\u0438 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u044b \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u043f\u043e \u0432\u043e\u0441\u044c\u043c\u0438 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u044f\u043c <img decoding=\"async\" class=\"formula inline\" source=\"(w_1, w_2, w_3) \\in \\left\\{ 0,1\\right\\}^3\" alt=\"(w_1, w_2, w_3) \\in \\left\\{ 0,1\\right\\}^3\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b7\/42f\/f5b\/3b742ff5bc18766d76ef33ebae095075.svg\" width=\"181\" height=\"26\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b7\/42f\/f5b\/3b742ff5bc18766d76ef33ebae095075.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/3b7\/42f\/f5b\/3b742ff5bc18766d76ef33ebae095075.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, \u043e\u0441\u0442\u0430\u0432\u0438\u0432 \u043a\u0440\u043e\u043f-\u0434\u0438\u0430\u043f\u0430\u0437\u043e\u043d\u044b \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u043c\u0438 \u043d\u0430 \u043b\u0443\u0447\u0448\u0438\u0445 \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044f\u0445 \u0441 <em>BO<\/em>. \u0412\u0441\u0435 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \u0434\u0430\u043b\u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0445\u0443\u0436\u0435, \u0447\u0435\u043c \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u044b\u0435 \u043f\u043e BO \u043a\u043e\u043d\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u0438, \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0447\u0442\u043e \u0432\u0430\u0436\u043d\u043e \u2014 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 (1,1,1) \u0431\u044b\u043b\u0438 \u0441\u0430\u043c\u044b\u043c\u0438 \u0432\u044b\u0441\u043e\u043a\u0438\u043c\u0438 \u0441\u0440\u0435\u0434\u0438 \u0432\u043e\u0441\u044c\u043c\u0438 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0439 (\u0438 \u0432 \u0446\u0435\u043b\u043e\u043c \u0441 \u0443\u0432\u0435\u043b\u0438\u0447\u0435\u043d\u0438\u0435\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u0445 \u0432\u0435\u0441\u043e\u0432 \u0432 \u043a\u043e\u043c\u0431\u0438\u043d\u0430\u0446\u0438\u0438 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0440\u043e\u0441\u043b\u0438), \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u0438\u0442 \u043e \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u0432\u0441\u0435\u0445 \u0442\u0440\u0435\u0445 \u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0432 \u0430\u0442\u0430\u043a\u0435. <\/p>\n<p>\u0418\u0442\u043e\u0433\u043e:<em> MMM-Attack<\/em> \u0434\u0430\u0451\u0442 \u0442\u0440\u0438 \u043d\u0435\u0437\u0430\u0432\u0438\u0441\u0438\u043c\u044b\u0445 \u0440\u044b\u0447\u0430\u0433\u0430 \u0434\u0430\u0432\u043b\u0435\u043d\u0438\u044f (<img decoding=\"async\" class=\"formula inline\" source=\"i2i\" alt=\"i2i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e21\/8fe\/60a\/e218fe60a5306f38ce0ae80adc5871ca.svg\" width=\"23\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e21\/8fe\/60a\/e218fe60a5306f38ce0ae80adc5871ca.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e21\/8fe\/60a\/e218fe60a5306f38ce0ae80adc5871ca.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"i2t_{target}\" alt=\"i2t_{target}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ed3\/7ab\/6c5\/ed37ab6c52fb1c1ad1047f8316bf9ef4.svg\" width=\"62\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ed3\/7ab\/6c5\/ed37ab6c52fb1c1ad1047f8316bf9ef4.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/ed3\/7ab\/6c5\/ed37ab6c52fb1c1ad1047f8316bf9ef4.svg 781w\" loading=\"lazy\" decode=\"async\"\/>, <img decoding=\"async\" class=\"formula inline\" source=\"i2t_{original}\" alt=\"i2t_{original}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5c\/707\/4e5\/c5c7074e5ee31700ef9b4db0120bfe1c.svg\" width=\"74\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5c\/707\/4e5\/c5c7074e5ee31700ef9b4db0120bfe1c.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/c5c\/707\/4e5\/c5c7074e5ee31700ef9b4db0120bfe1c.svg 781w\" loading=\"lazy\" decode=\"async\"\/>) \u2014 \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0434\u0440\u0443\u0433 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0430 \u043a \u043e\u0434\u043d\u043e\u043c\u0443, \u0432\u0441\u0435\u0433\u0434\u0430 \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0434\u0432\u0430 \u0434\u0440\u0443\u0433\u0438\u0445.<\/p>\n<p>\u0411\u0430\u0439\u0435\u0441\u043e\u0432\u0441\u043a\u0430\u044f \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044f \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e \u044d\u043a\u043e\u043d\u043e\u043c\u0438\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0435 \u0440\u0435\u0441\u0443\u0440\u0441\u044b \u0438 \u0431\u044b\u0441\u0442\u0440\u0435\u0435 \u0432\u044b\u0432\u043e\u0434\u0438\u0442 \u043d\u0430 \u0440\u0430\u0431\u043e\u0447\u0438\u0435 \u043a\u043e\u043d\u0444\u0438\u0433\u0438, \u0447\u0435\u043c \u043f\u0440\u0438\u0432\u044b\u0447\u043d\u044b\u0439 <em>grid-search<\/em> \u0438\u043b\u0438 <em>random-search<\/em>.<\/p>\n<h3>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u043c\u0435\u0442\u043e\u0434\u0430 \u0438 \u0447\u0442\u043e \u0441 \u043d\u0438\u043c\u0438 \u0434\u0435\u043b\u0430\u0442\u044c<\/h3>\n<p><strong>\u041f\u0435\u0440\u0432\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435<\/strong> \u2014 \u043c\u044b \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c, \u0447\u0442\u043e \u0432\u00a0<em>Video-VLM<\/em>\u00a0\u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442\u0441\u044f \u0438\u043c\u0435\u043d\u043d\u043e \u0442\u043e\u0442\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043c\u044b \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043b\u0438, \u043b\u0438\u0431\u043e \u0445\u043e\u0442\u044f \u0431\u044b \u0435\u0433\u043e \u0441\u0445\u043e\u0436\u0438\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442. \u0412 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438 \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u0435\u0440\u0432\u0438\u0441\u0430 \u043c\u043e\u0433\u043b\u0438 \u043f\u043e\u0434\u043c\u0435\u043d\u0438\u0442\u044c\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043d\u0430 \u0441\u0432\u043e\u0439 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0432\u0430\u0440\u0438\u0430\u043d\u0442.<\/p>\n<p>\u041f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u0441\u043d\u044f\u0442\u044c \u043d\u0435\u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u043e\u0441\u0442\u044c \u043d\u0435\u043b\u044c\u0437\u044f, \u0437\u0430\u0442\u043e \u0435\u0451 <strong>\u043c\u043e\u0436\u043d\u043e \u0441\u043e\u043a\u0440\u0430\u0442\u0438\u0442\u044c<\/strong>:<\/p>\n<ol>\n<li>\n<p><strong>\u041f\u0435\u0440\u0435\u0431\u043e\u0440 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 CLIP\/SigLIP \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440.<\/strong> \u042f \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u044e \u0430\u0442\u0430\u043a\u0443 \u0447\u0435\u0440\u0435\u0437 5-6 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 (OpenAI ViT-L\/14, OpenAI ViT-B\/16, Google SigLIP-SO400M \u0438 \u0442. \u0434.) \u0438 \u0441\u043c\u043e\u0442\u0440\u044e, \u0433\u0434\u0435 \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u0440\u0430\u0431\u043e\u0442\u0430\u0435\u0442 \u043b\u0443\u0447\u0448\u0435.\u00a0<\/p>\n<\/li>\n<li>\n<p><strong>\u041f\u043e\u0438\u0441\u043a \u043f\u043e \u0441\u0442\u0430\u0442\u044c\u0435.<\/strong> \u0415\u0441\u043b\u0438 \u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u0435\u0441\u0442\u044c \u0441\u0442\u0430\u0442\u044c\u044f \u2014 \u0447\u0438\u0442\u0430\u044e, \u043a\u0430\u043a\u0438\u0435 <em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0430\u0432\u0442\u043e\u0440\u044b \u0443\u043f\u043e\u043c\u0438\u043d\u0430\u043b\u0438.\u00a0<\/p>\n<\/li>\n<\/ol>\n<p><strong>\u0412\u0442\u043e\u0440\u043e\u0435 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u0435<\/strong> \u2014 <em>\u0441\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u0441\u0443\u0440\u0440\u043e\u0433\u0430\u0442\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438<\/em>. \u041f\u0440\u0438\u0447\u0438\u043d\u044b \u043f\u0440\u043e\u0432\u0430\u043b\u043e\u0432 \u0442\u0438\u043f\u0438\u0447\u043d\u044b\u0435:<\/p>\n<ul>\n<li>\n<p>\u043d\u0435 \u0442\u0435 \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b: <em>PGD<\/em> \u043d\u0435 \u043c\u043e\u0436\u0435\u0442 \u0441\u0434\u0435\u043b\u0430\u0442\u044c \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u0443\u044e \u043e\u043f\u0442\u0438\u043c\u0438\u0437\u0430\u0446\u0438\u044e \u0438\u0437-\u0437\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f \u043f\u043e \u0434\u0435\u043b\u044c\u0442\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f, <em>RayS<\/em> \u0443\u043f\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0432 \u043b\u0438\u043c\u0438\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u043d\u0435 \u0445\u0432\u0430\u0442\u0430\u0435\u0442 \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u0440\u0435\u0441\u0443\u0440\u0441\u043e\u0432.<\/p>\n<\/li>\n<\/ul>\n<p><strong>\u0422\u0440\u0435\u0442\u0438\u0439 \u0444\u0430\u043a\u0442\u043e\u0440<\/strong> \u2014 <em>Video-VLM<\/em> \u0441\u0430\u043c\u0430 \u0440\u0435\u0448\u0430\u0435\u0442, \u043a\u0430\u043a\u0438\u0435 \u043a\u0430\u0434\u0440\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c. \u0414\u043e\u043f\u0443\u0441\u0442\u0438\u043c, \u0430\u0432\u0442\u043e\u0440\u044b \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0440\u043e\u0432\u043d\u043e \u0442\u0440\u0438 \u00ab\u0437\u043e\u043b\u043e\u0442\u044b\u0445\u00bb \u0444\u0440\u0435\u0439\u043c\u0430, \u0430 \u0432\u044b \u0430\u0442\u0430\u043a\u0443\u0435\u0442\u0435 \u043a\u0430\u0436\u0434\u044b\u0439 \u0434\u0435\u0441\u044f\u0442\u044b\u0439 \u2014 \u0432\u0430\u0448\u0438 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u0430\u0434\u0440\u044b \u043d\u0435 \u0431\u0443\u0434\u0443\u0442 \u043e\u0431\u0440\u0430\u0431\u043e\u0442\u0430\u043d\u044b. \u0427\u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0434\u0435\u043b\u0430\u0442\u044c \u0432 \u0442\u0430\u043a\u043e\u043c \u0441\u043b\u0443\u0447\u0430\u0435:<\/p>\n<ul>\n<li>\n<p><strong>\u0410\u0442\u0430\u043a\u043e\u0432\u0430\u0442\u044c \u043a\u0430\u0434\u0440\u044b-\u044f\u043a\u043e\u0440\u044f.<\/strong> \u0412 \u043d\u043e\u0432\u043e\u0441\u0442\u043d\u044b\u0445 \u0440\u043e\u043b\u0438\u043a\u0430\u0445 \u044d\u0442\u043e \u0442\u0438\u0442\u0443\u043b\u044c\u043d\u044b\u0439 \u0441\u043b\u0430\u0439\u0434, \u0432 TikTok \u2014 \u043f\u0435\u0440\u0432\u044b\u0439 \u043a\u0430\u0434\u0440;<\/p>\n<\/li>\n<li>\n<p><strong>\u0411\u0430\u043b\u0430\u043d\u0441 \u043c\u0435\u0436\u0434\u0443 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u044c\u044e \u0438 \u0437\u0430\u043c\u0435\u0442\u043d\u043e\u0441\u0442\u044c\u044e:<\/strong> \u0430\u0442\u0430\u043a\u0430 \u0432\u0441\u0435\u0445 N \u043a\u0430\u0434\u0440\u043e\u0432 = \u0431\u041e\u043b\u044c\u0448\u0430\u044f \u0432\u0435\u0440\u043e\u044f\u0442\u043d\u043e\u0441\u0442\u044c \u0443\u0441\u043f\u0435\u0445\u0430, \u043d\u043e \u0438 \u0431\u041e\u043b\u044c\u0448\u0430\u044f \u0437\u0430\u043c\u0435\u0442\u043d\u043e\u0441\u0442\u044c, \u043e\u0434\u043d\u0430\u043a\u043e \u0435\u0441\u043b\u0438 \u0432\u044b \u043e\u043f\u0430\u0441\u0430\u0435\u0442\u0435\u0441\u044c \u043f\u0440\u043e\u0431\u043b\u0435\u043c \u0438\u0437-\u0437\u0430 \u0441\u044d\u043c\u043f\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f, \u044d\u0442\u043e\u0442 \u0432\u0430\u0440\u0438\u0430\u043d\u0442 \u0434\u043b\u044f \u0432\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u0432\u0430\u043b\u0438\u0434\u043d\u044b\u043c.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0439 \u043f\u043e \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0441\u0442\u0438, \u043d\u043e \u043d\u0435 \u043f\u043e \u0432\u0430\u0436\u043d\u043e\u0441\u0442\u0438 \u043d\u044e\u0430\u043d\u0441 \u2014 <strong>\u043d\u0430\u043b\u0438\u0447\u0438\u0435<\/strong> <strong>\u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u044d\u043a\u0440\u0430\u043d\u0435<\/strong>. \u0415\u0441\u043b\u0438 \u0440\u043e\u043b\u0438\u043a \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u00ab<em>hello-world<\/em>\u00bb \u0431\u0430\u043d\u043d\u0435\u0440, <em>Video-VLM<\/em> \u0441 \u0440\u0430\u0434\u043e\u0441\u0442\u044c\u044e \u0443\u0445\u0432\u0430\u0442\u0438\u0442\u0441\u044f \u0437\u0430 <em>OCR<\/em> \u0438 \u043f\u0440\u043e\u0438\u0433\u043d\u043e\u0440\u0438\u0440\u0443\u0435\u0442 \u0432\u0430\u0448\u0443 \u0430\u0442\u0430\u043a\u0443.<\/p>\n<h3>\u0427\u0442\u043e \u0437\u0434\u0435\u0441\u044c \u043d\u043e\u0432\u043e\u0433\u043e<\/h3>\n<p>\u0411\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0445 \u0430\u0442\u0430\u043a \u043f\u0440\u0435\u0434\u043f\u043e\u0447\u0438\u0442\u0430\u0435\u0442 \u043e\u0434\u043d\u043e\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438: \u043b\u0438\u0431\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430 \u2192 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0430, \u043b\u0438\u0431\u043e \u0442\u0435\u043a\u0441\u0442 \u2192 \u0442\u0435\u043a\u0441\u0442. <strong><em>MMM-Attack<\/em><\/strong> \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u0435\u0442 \u0441\u0440\u0430\u0437\u0443 \u0442\u0440\u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0430\u0442\u0430\u043a\u0438:<\/p>\n<ol>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2i\" alt=\"i2i\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/98f\/3f4\/d26\/98f3f4d26ad185658a6c0a8be828259b.svg\" width=\"23\" height=\"17\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/98f\/3f4\/d26\/98f3f4d26ad185658a6c0a8be828259b.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/98f\/3f4\/d26\/98f3f4d26ad185658a6c0a8be828259b.svg 781w\" loading=\"lazy\" decode=\"async\"\/><strong> (\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u2192 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435)<\/strong> \u2014 \u0441\u043c\u0435\u0449\u0435\u043d\u0438\u0435 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043a\u0430\u0440\u0442\u0438\u043d\u043e\u0447\u043d\u043e\u0433\u043e \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u043a \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2t_{target}\" alt=\"i2t_{target}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2e\/de4\/5c9\/d2ede45c9b4f9d7ff84f4a82e0927c03.svg\" width=\"62\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2e\/de4\/5c9\/d2ede45c9b4f9d7ff84f4a82e0927c03.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/d2e\/de4\/5c9\/d2ede45c9b4f9d7ff84f4a82e0927c03.svg 781w\" loading=\"lazy\" decode=\"async\"\/><strong> (\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u2192 \u0446\u0435\u043b\u0435\u0432\u043e\u0439 \u0442\u0435\u043a\u0441\u0442)<\/strong> \u2014 \u0437\u0430\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0431\u044b\u0442\u044c \u043f\u043e\u0445\u043e\u0436\u0438\u043c \u043d\u0430 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p><img decoding=\"async\" class=\"formula inline\" source=\"i2t_{original}\" alt=\"i2t_{original}\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e91\/fc0\/8d8\/e91fc08d8d3c77fb5801446ac9664e5a.svg\" width=\"74\" height=\"22\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e91\/fc0\/8d8\/e91fc08d8d3c77fb5801446ac9664e5a.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/e91\/fc0\/8d8\/e91fc08d8d3c77fb5801446ac9664e5a.svg 781w\" loading=\"lazy\" decode=\"async\"\/><strong> (\u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u2192 \u0441\u043e\u0431\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0442\u0435\u043a\u0441\u0442)<\/strong> \u2014 \u043e\u0442\u0434\u0430\u043b\u044f\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f \u043e\u0442 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430 \u0435\u0451 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0433\u043e \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u044f.<\/p>\n<\/li>\n<\/ol>\n<p>\u0422\u0430\u043a\u043e\u0439 \u0442\u0440\u043e\u0439\u043d\u043e\u0439 \u043b\u043e\u0441\u0441 \u0433\u0438\u0431\u0447\u0435: \u0435\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0432\u0434\u0440\u0443\u0433 \u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432\u0430 \u043a \u043e\u0434\u043d\u043e\u043c\u0443 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044e, \u043e\u0441\u0442\u0430\u044e\u0442\u0441\u044f \u0434\u0432\u0430 \u0434\u0440\u0443\u0433\u0438\u0445.\u00a0<\/p>\n<p>\u041f\u043e\u043b\u044c\u0437\u0430 \u0434\u043b\u044f \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u044f \u043f\u043e\u0442\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u044b\u0445 \u0443\u043b\u0443\u0447\u0448\u0435\u043d\u0438\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u0432 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u043e\u0447\u0435\u0432\u0438\u0434\u043d\u0430: \u0432\u043c\u0435\u0441\u0442\u043e \u0442\u043e\u0433\u043e \u0447\u0442\u043e\u0431\u044b \u0437\u0430\u0449\u0438\u0449\u0430\u0442\u044c\u0441\u044f \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442 \u043e\u0434\u043d\u043e\u0433\u043e \u0432\u0438\u0434\u0430 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439, \u0432\u044b \u0438\u0437\u0443\u0447\u0430\u0435\u0442\u0435, \u043a\u0430\u043a \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u0440\u0435\u0430\u0433\u0438\u0440\u0443\u0435\u0442 \u043d\u0430 <strong>\u043a\u043e\u043c\u0431\u0438\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435<\/strong> \u0430\u0442\u0430\u043a\u0438.\u00a0<\/p>\n<h2>\u042d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b<\/h2>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 <em>VLM<\/em> \u0432 \u0441\u0435\u0442\u0430\u043f\u0435 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0432\u044b\u0431\u0440\u0430\u043b <strong><em>LLaVA-1.5-7B<\/em><\/strong> \u0438 <strong><em>Molmo-7B<\/em><\/strong>. \u041e\u0431\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 <em>OpenAI CLIP ViT-L\/14 @ 336px<\/em>.<\/p>\n<h3>RayS vs SurFree \u2014 \u043c\u0435\u0442\u0440\u0438\u043a\u0438<\/h3>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\"><strong>Dataset<\/strong><\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"left\"><strong>VLM<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Attack ASR<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Noise ASR<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Samples (m)<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-10<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"left\">LLaVA-1.5-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4184<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.0354<\/p>\n<\/td>\n<td>\n<p align=\"left\">423<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-10<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"left\">Molmo-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4394<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.0947<\/p>\n<\/td>\n<td>\n<p align=\"left\">380<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-100<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"left\">LLaVA-1.5-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4430<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1341<\/p>\n<\/td>\n<td>\n<p align=\"left\">246<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-100<\/p>\n<\/td>\n<td data-colwidth=\"140\" width=\"140\">\n<p align=\"left\">Molmo-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4736<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1821<\/p>\n<\/td>\n<td>\n<p align=\"left\">247<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>RayS: \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0430\u0442\u0430\u043a\u0438 \u043f\u0440\u043e\u0442\u0438\u0432 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0433\u043e \u0448\u0443\u043c\u0430.<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\"><strong>Dataset<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>VLM<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Attack ASR<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Noise ASR<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Samples (m)<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-10<\/p>\n<\/td>\n<td>\n<p align=\"left\">LLaVA-1.5-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3561<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.0298<\/p>\n<\/td>\n<td>\n<p align=\"left\">1140<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CIFAR-10<\/p>\n<\/td>\n<td>\n<p align=\"left\">Molmo-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3844<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1047<\/p>\n<\/td>\n<td>\n<p align=\"left\">1069<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CALTECH-101<\/p>\n<\/td>\n<td>\n<p align=\"left\">LLaVA-1.5-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.5471<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1570<\/p>\n<\/td>\n<td>\n<p align=\"left\">382<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">CALTECH-101<\/p>\n<\/td>\n<td>\n<p align=\"left\">Molmo-7B<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3047<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1627<\/p>\n<\/td>\n<td>\n<p align=\"left\">338<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>SurFree: \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u0430\u0442\u0430\u043a\u0438 \u043f\u0440\u043e\u0442\u0438\u0432 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u043e\u0433\u043e \u0448\u0443\u043c\u0430.<\/em><\/p>\n<p>\u0413\u0434\u0435 \u0431\u044b \u043d\u0438 \u0437\u0430\u043f\u0443\u0441\u043a\u0430\u043b\u0438 \u0430\u0442\u0430\u043a\u0443, <strong><em>ASR<\/em> \u043d\u0430 \u043f\u043e\u0440\u044f\u0434\u043e\u043a \u0432\u044b\u0448\u0435<\/strong>, \u0447\u0435\u043c \u0443 \u0430\u0442\u0430\u043a\u0438 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u0448\u0443\u043c\u043e\u043c \u2014 \u0437\u043d\u0430\u0447\u0438\u0442, \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0435\u0430\u0433\u0438\u0440\u0443\u044e\u0442 \u0438\u043c\u0435\u043d\u043d\u043e \u043d\u0430 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f \u043e\u0442 \u0430\u0442\u0430\u043a, \u0430 \u043d\u0435 \u043d\u0430 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0435 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u044f.\u00a0<\/p>\n<p>\u0412 \u0440\u0430\u043c\u043a\u0430\u0445 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f \u0447\u0430\u0441\u0442\u043e\u0442\u044b \u043f\u043e\u044f\u0432\u043b\u0435\u043d\u0438\u044f \u043e\u0448\u0438\u0431\u043e\u043a \u043d\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 30 \u043a\u043b\u0430\u0441\u0441\u0430\u0445 \u0431\u044b\u043b\u043e \u0432\u044b\u044f\u0432\u043b\u0435\u043d\u043e, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u0438 \u043f\u043e\u0434 \u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435\u043c \u0430\u0442\u0430\u043a \u0441\u043a\u043b\u043e\u043d\u043d\u044b \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f \u043d\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0445 \u043f\u0430\u0440\u0430\u0445 \u043a\u043b\u0430\u0441\u0441\u043e\u0432. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0435\u0441\u043b\u0438 \u043f\u043e\u0441\u043c\u043e\u0442\u0440\u0435\u0442\u044c \u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 <em>LLaVA-1.5-7B<\/em> \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 <em>CALTECH-101-20<\/em> \u0434\u043b\u044f \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043a\u043b\u0430\u0441\u0441\u0430 \u00ab<em>accordion<\/em>\u00bb, \u0442\u043e \u043c\u043e\u0436\u043d\u043e \u0443\u0432\u0438\u0434\u0435\u0442\u044c, \u0447\u0442\u043e \u0432 15 \u0438\u0437 16 \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0442\u0432\u0435\u0442\u0438\u043b\u0430, \u0447\u0442\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u043b\u0430\u0441\u0441\u043e\u043c \u00ab<em>electric_guitar<\/em>\u00bb. \u0421\u0445\u043e\u0436\u0438\u0435 \u0437\u0430\u0432\u0438\u0441\u0438\u043c\u043e\u0441\u0442\u0438 \u043c\u043e\u0436\u043d\u043e \u043d\u0430\u0431\u043b\u044e\u0434\u0430\u0442\u044c \u0438 \u0434\u043b\u044f \u0434\u0440\u0443\u0433\u0438\u0445 \u043f\u0430\u0440 \u043a\u043b\u0430\u0441\u0441\u043e\u0432, \u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u044b\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u044b \u043d\u0430 \u0440\u0438\u0441\u0443\u043d\u043a\u0435:<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/508\/6c1\/c8a\/5086c1c8a8a7adb5fba689e33a10c79b.png\" alt=\"\u0422\u0435\u043f\u043b\u043e\u043a\u0430\u0440\u0442\u0430 \u043e\u0448\u0438\u0431\u043e\u043a SurFree: \u0441\u043b\u0435\u0432\u0430 \u2014 CIFAR-10, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 CALTECH-101.\" title=\"\u0427\u0430\u0441\u0442\u043e\u0442\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043f\u043e \u043a\u043b\u0430\u0441\u0441\u0430\u043c \u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0438 SurFree: \u0441\u043b\u0435\u0432\u0430 \u2014 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 CIFAR-10, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 CALTECH-101-20\" width=\"1600\" height=\"818\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/508\/6c1\/c8a\/5086c1c8a8a7adb5fba689e33a10c79b.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/508\/6c1\/c8a\/5086c1c8a8a7adb5fba689e33a10c79b.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><em>\u0427\u0430\u0441\u0442\u043e\u0442\u0430 \u043e\u0448\u0438\u0431\u043e\u043a \u043f\u043e \u043a\u043b\u0430\u0441\u0441\u0430\u043c \u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0438 SurFree: \u0441\u043b\u0435\u0432\u0430 \u2014 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 CIFAR-10, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u043d\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 CALTECH-101-20<\/em><\/figcaption><\/div>\n<\/figure>\n<p>\u0414\u0430\u043b\u0435\u0435 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u0430 \u043d\u0430\u0433\u043b\u044f\u0434\u043d\u0430\u044f \u0432\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 <em>ant<\/em>: \u0441\u043b\u0435\u0432\u0430 \u043a\u0430\u0434\u0440 \u043f\u043e\u0441\u043b\u0435 \u0430\u0442\u0430\u043a\u0438 <strong><em>SurFree<\/em><\/strong>, \u0432 \u0446\u0435\u043d\u0442\u0440\u0435 \u2014 \u0442\u043e\u0442 \u0436\u0435 \u043a\u0430\u0434\u0440 \u0441\u043e \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u043c \u0448\u0443\u043c\u043e\u043c, \u0441\u043f\u0440\u0430\u0432\u0430 \u2014 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435 \u0431\u0435\u0437 \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0439. \u0412 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0430\u0442\u0430\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437\u043c\u0435\u043d\u0438\u043b\u0430 \u0441\u0432\u043e\u0451 \u0440\u0435\u0448\u0435\u043d\u0438\u0435 \u043d\u0430 \u043a\u043b\u0430\u0441\u0441, \u043e\u0442\u043b\u0438\u0447\u043d\u044b\u0439 \u043e\u0442 <em>ant<\/em>, \u043f\u0440\u0438 \u0442\u043e\u043c \u0447\u0442\u043e \u0432\u043d\u0435\u0441\u0451\u043d\u043d\u044b\u0435 \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u044f \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u0443\u043b\u043e\u0432\u0438\u043c\u044b \u0434\u043b\u044f \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043e\u0442 \u0430\u0442\u0430\u043a\u0438 <em>SurFree<\/em>.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bdd\/93a\/1a8\/bdd93a1a89c68a15de402c005da217b2.png\" alt=\"\u041f\u0440\u0438\u043c\u0435\u0440 \u0430\u0442\u0430\u043a\u0438 SurFree \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 \u043c\u0443\u0440\u0430\u0432\u0435\u0439. \u0421\u043b\u0435\u0432\u0430: SurFree, \u043f\u043e \u0446\u0435\u043d\u0442\u0440\u0443: \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u0448\u0443\u043c, \u0441\u043f\u0440\u0430\u0432\u0430: \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435.\" width=\"1600\" height=\"549\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/bdd\/93a\/1a8\/bdd93a1a89c68a15de402c005da217b2.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/bdd\/93a\/1a8\/bdd93a1a89c68a15de402c005da217b2.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><em>\u041f\u0440\u0438\u043c\u0435\u0440 \u0430\u0442\u0430\u043a\u0438 SurFree \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0430 \u043c\u0443\u0440\u0430\u0432\u0435\u0439. \u0421\u043b\u0435\u0432\u0430: SurFree, \u043f\u043e \u0446\u0435\u043d\u0442\u0440\u0443: \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0439 \u0448\u0443\u043c, \u0441\u043f\u0440\u0430\u0432\u0430: \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0435<\/em>.<\/figcaption><\/div>\n<\/figure>\n<h3>\u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 Video-VLM<\/h3>\n<p><strong><em>HPO-v1<\/em><\/strong> \u2014 \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u0438\u0437 5 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0438\u0437 <em>CLIP<\/em> \u0438 <em>SigLIP<\/em> \u0441\u0435\u043c\u0435\u0439\u0441\u0442\u0432. <strong><em>HPO-v2<\/em><\/strong> \u2014 \u043e\u0434\u0438\u043d \u0435\u0434\u0438\u043d\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 <em>OpenAI<\/em> <em>CLIP<\/em> <em>ViT-L\/14 @ 336px<\/em>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><strong>\u0413\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>HPO-v1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>HPO-v2<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"w_1\" alt=\"w_1\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b39\/8e6\/04f\/b398e604ff30b79032ea46c2bf8cae43.svg\" width=\"23\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b39\/8e6\/04f\/b398e604ff30b79032ea46c2bf8cae43.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b39\/8e6\/04f\/b398e604ff30b79032ea46c2bf8cae43.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.9495<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.8508<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"w_2\" alt=\"w_2\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/699\/c06\/24f\/699c0624f1b58a0ff89efe4d7147a2d8.svg\" width=\"23\" height=\"14\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/699\/c06\/24f\/699c0624f1b58a0ff89efe4d7147a2d8.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/699\/c06\/24f\/699c0624f1b58a0ff89efe4d7147a2d8.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4019<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1927<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"w_3\" alt=\"w_3\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2af\/5a2\/512\/2af5a2512057d353569b896b3f7460b3.svg\" width=\"23\" height=\"15\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2af\/5a2\/512\/2af5a2512057d353569b896b3f7460b3.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/2af\/5a2\/512\/2af5a2512057d353569b896b3f7460b3.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3010<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.8091<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"s_l\" alt=\"s_l\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5d6\/4ca\/df1\/5d64cadf10495e106462f51d2ebab714.svg\" width=\"15\" height=\"15\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5d6\/4ca\/df1\/5d64cadf10495e106462f51d2ebab714.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/5d6\/4ca\/df1\/5d64cadf10495e106462f51d2ebab714.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3178<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4989<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"s_h\" alt=\"s_h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4d2\/e44\/711\/4d2e447119d7acf0df76a29c8e4de117.svg\" width=\"19\" height=\"15\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4d2\/e44\/711\/4d2e447119d7acf0df76a29c8e4de117.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/4d2\/e44\/711\/4d2e447119d7acf0df76a29c8e4de117.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.7291<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.7952<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"t_l\" alt=\"t_l\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b12\/8f2\/975\/b128f297588fdb87c3da21ac44a4bf21.svg\" width=\"13\" height=\"19\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b12\/8f2\/975\/b128f297588fdb87c3da21ac44a4bf21.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/b12\/8f2\/975\/b128f297588fdb87c3da21ac44a4bf21.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.3192<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.4256<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><img decoding=\"async\" class=\"formula inline\" source=\"t_h\" alt=\"t_h\" src=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/365\/f78\/2f8\/365f782f8d0fc80d2f30696957773697.svg\" width=\"17\" height=\"19\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/365\/f78\/2f8\/365f782f8d0fc80d2f30696957773697.svg 780w,&#10;       https:\/\/habrastorage.org\/getpro\/habr\/upload_files\/365\/f78\/2f8\/365f782f8d0fc80d2f30696957773697.svg 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.6172<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.6153<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u041b\u0443\u0447\u0448\u0438\u0435 \u043d\u0430\u0441\u0442\u0440\u043e\u0439\u043a\u0438 \u043f\u043e HPO.<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><strong>\u041c\u0435\u0442\u0440\u0438\u043a\u0430<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>HPO-v1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>HPO-v2<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"234\" width=\"234\">\n<p align=\"left\"><strong>IoU<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.1525<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1392<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u0418\u0442\u043e\u0433\u043e\u0432\u044b\u0435 \u043c\u0435\u0442\u0440\u0438\u043a\u0438 \u043f\u043e HPO.<\/em><\/p>\n<h3>MMM-Attack \u2014 single vs multi encoder<\/h3>\n<ul>\n<li>\n<p><strong><em>ME-HPO-v1<\/em><\/strong><em> <\/em>\u2014 5 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 + \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b v1;<\/p>\n<\/li>\n<li>\n<p><strong><em>SE-HPO-v1<\/em><\/strong> \u2014 1 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 + \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b v1;<\/p>\n<\/li>\n<li>\n<p><strong><em>SE-HPO-v2<\/em><\/strong> \u2014 1 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 + \u0433\u0438\u043f\u0435\u0440\u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u044b v2.<\/p>\n<\/li>\n<\/ul>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\"><strong>Frame Sel.<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>ME-HPO-v1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>SE-HPO-v1<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>SE-HPO-v2<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">0<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1736<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1736<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1736<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">1<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1825<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1767<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1767<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">0.25N<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1872<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1816<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1834<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">0.5N<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2110<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1937<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.1942<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">0.75N<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2249<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2048<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2085<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">N<\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>0.2597<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2352<\/p>\n<\/td>\n<td>\n<p align=\"left\">0.2435<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0410\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0432\u0441\u0435\u0433\u0434\u0430 \u0434\u0430\u0451\u0442 \u0431\u043e\u043b\u0435\u0435 \u0432\u044b\u0441\u043e\u043a\u0438\u0439\u00a0<em>IoU<\/em>, \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0436\u0434\u0430\u044f \u0442\u0435\u0437\u0438\u0441\u00a0<em>M-Attack<\/em>: \u0447<strong>\u0435\u043c \u0440\u0430\u0437\u043d\u043e\u043e\u0431\u0440\u0430\u0437\u043d\u0435\u0435 \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c, \u0442\u0435\u043c \u0431\u043e\u043b\u044c\u0448\u0435 \u0448\u0430\u043d\u0441 \u043d\u0430 \u0443\u0441\u043f\u0435\u0448\u043d\u0443\u044e \u0430\u0442\u0430\u043a\u0443<\/strong>.<\/p>\n<p>\u0420\u043e\u0441\u0442\u00a0<em>IoU<\/em>\u00a0\u0441 \u0447\u0438\u0441\u043b\u043e\u043c \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0445 \u043a\u0430\u0434\u0440\u043e\u0432 \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d. \u041f\u0440\u0438 \u0432\u044b\u0431\u043e\u0440\u0435 1 \u043a\u0430\u0434\u0440\u0430 \u0438\u0437 10 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u0432\u0441\u0451 \u0435\u0449\u0451 \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u044f\u044e\u0449\u0438\u0439 \u2014\u00a0<em>Video-VLM<\/em>\u00a0\u043f\u0435\u0440\u0435\u0445\u043e\u0434\u0438\u0442 \u043a \u0442\u0435\u043a\u0441\u0442\u0443, \u0431\u043b\u0438\u0437\u043a\u043e\u043c\u0443 \u043a \u0446\u0435\u043b\u0435\u0432\u043e\u043c\u0443, \u043d\u043e \u043f\u0440\u0438 \u044d\u0442\u043e\u043c \u0440\u0430\u0437\u043d\u0438\u0446\u0430 \u0433\u043b\u0430\u0437\u0430\u043c\u0438 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438 \u043d\u0435\u0443\u043b\u043e\u0432\u0438\u043c\u0430.<\/p>\n<figure class=\"full-width\"><img decoding=\"async\" src=\"https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7b3\/5a4\/d51\/7b35a4d517151e4401f6fa144ae2e91a.png\" alt=\"\u0422\u0440\u0438 \u043f\u0435\u0440\u0432\u044b\u0445 \u043a\u0430\u0434\u0440\u0430: \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439, \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0446\u0435\u043b\u0435\u0432\u043e\u0439 (\u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f \u00ab1\u00bb).\" title=\"\u0422\u0440\u0438 \u043f\u0435\u0440\u0432\u044b\u0445 \u043a\u0430\u0434\u0440\u0430 \u0432\u0438\u0434\u0435\u043e: \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439, \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0446\u0435\u043b\u0435\u0432\u043e\u0439 (\u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f \u00ab1\u00bb)\" width=\"1477\" height=\"890\" sizes=\"auto, (max-width: 780px) 100vw, 50vw\" srcset=\"https:\/\/habrastorage.org\/r\/w780\/getpro\/habr\/upload_files\/7b3\/5a4\/d51\/7b35a4d517151e4401f6fa144ae2e91a.png 780w,&#10;       https:\/\/habrastorage.org\/r\/w1560\/getpro\/habr\/upload_files\/7b3\/5a4\/d51\/7b35a4d517151e4401f6fa144ae2e91a.png 781w\" loading=\"lazy\" decode=\"async\"\/><\/p>\n<div><figcaption><em>\u0422\u0440\u0438 \u043f\u0435\u0440\u0432\u044b\u0445 \u043a\u0430\u0434\u0440\u0430 \u0432\u0438\u0434\u0435\u043e: \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439, \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b, \u0446\u0435\u043b\u0435\u0432\u043e\u0439 (\u0441\u0442\u0440\u0430\u0442\u0435\u0433\u0438\u044f \u00ab1\u00bb)<\/em><\/figcaption><\/div>\n<\/figure>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"134\" width=\"134\">\n<p align=\"left\"><strong>Type<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Text (\u0441\u043e\u043a\u0440.)<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"134\" width=\"134\">\n<p align=\"left\">Original<\/p>\n<\/td>\n<td>\n<p align=\"left\">The video shows a group of people walking around a city street, with some individuals standing and others walking. The scene appears to be a casual, everyday setting, possibly a public area or a busy street.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"134\" width=\"134\">\n<p align=\"left\">Target<\/p>\n<\/td>\n<td>\n<p align=\"left\">The video shows a person holding a tennis ball and a bottle of water, presumably preparing to play tennis or practice. The person is wearing a black hoodie and appears to be in an outdoor setting with a building in the background. The focus is on the person and their actions with the ball and water bottle, suggesting they are either about to start a game or take a break during a game.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"134\" width=\"134\">\n<p align=\"left\">Adversarial \u00abN\u00bb<\/p>\n<\/td>\n<td>\n<p align=\"left\">The video shows a group of people playing tennis on a court. Some of them are holding tennis rackets and hitting the ball back and forth, while others are watching or waiting for their turn. The setting appears to be an urban outdoor court with buildings in the background. The focus is on the activity of the players and the game being played.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"134\" width=\"134\">\n<p align=\"left\">Adversarial \u00ab1\u00bb<\/p>\n<\/td>\n<td>\n<p align=\"left\">The video shows a group of people playing tennis on a city street. They are hitting the ball back and forth, and some of them are watching the game. The players are dressed in casual sportswear, and the setting appears to be an urban environment with buildings in the background.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h2>\u0418\u0442\u043e\u0433\u0438<\/h2>\n<p>\u0412 \u0440\u0430\u043c\u043a\u0430\u0445 \u043f\u0440\u043e\u0434\u0435\u043b\u0430\u043d\u043d\u043e\u0439 \u0440\u0430\u0431\u043e\u0442\u044b \u0443\u0434\u0430\u043b\u043e\u0441\u044c \u0438\u0437\u0443\u0447\u0438\u0442\u044c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0430\u0442\u0430\u043a \u043d\u0430 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430\u0434\u0430\u043f\u0442\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u0430\u0442\u0430\u043a \u0434\u043b\u044f \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0430 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043d\u0430\u00a0<em>VLM<\/em>, \u0430 \u0442\u0430\u043a\u0436\u0435 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c \u0441\u0432\u043e\u0439 \u043f\u043e\u0434\u0445\u043e\u0434 \u2014\u00a0<em>MMM-Attack<\/em>\u00a0\u2014 \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435\u00a0<em>M-Attack<\/em>\u00a0\u0434\u043b\u044f \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0430 \u0430\u0442\u0430\u043a\u0438 \u0441 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u0438\u0445 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u043d\u0430\u00a0<em>Video-VLM<\/em>. \u0411\u044b\u043b\u0438 \u0438\u0437\u043c\u0435\u0440\u0435\u043d\u044b \u0438 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u044b \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u043e\u0432. \u041c\u043d\u043e\u0433\u0438\u0435 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442\u044b \u043c\u043e\u0436\u043d\u043e \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0443\u0434\u0430\u0447\u043d\u044b\u043c\u0438, \u0442. \u043a. \u043a\u043e\u043d\u0435\u0447\u043d\u0430\u044f \u0446\u0435\u043b\u044c \u2014 \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u0435 \u043f\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u2014 \u0431\u044b\u043b\u0430 \u0434\u043e\u0441\u0442\u0438\u0433\u043d\u0443\u0442\u0430.<\/p>\n<p>\u0414\u0430\u043d\u043d\u0430\u044f \u0440\u0430\u0431\u043e\u0442\u0430 \u043c\u043e\u0436\u0435\u0442 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c\u0441\u044f \u0432 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043e\u0441\u043d\u043e\u0432\u044b \u0434\u043b\u044f \u0434\u0430\u043b\u044c\u043d\u0435\u0439\u0448\u0438\u0445 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u044f \u0438 \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u0430\u0442\u0430\u043a \u043d\u0430 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u043f\u043e\u043b\u0435\u0437\u043d\u0430 \u0434\u043b\u044f \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u0431\u043e\u0440\u044c\u0431\u044b \u0441 \u0442\u0430\u043a\u0438\u043c\u0438 \u0430\u0442\u0430\u043a\u0430\u043c\u0438 \u0441 \u0446\u0435\u043b\u044c\u044e \u0437\u0430\u0449\u0438\u0442\u044b \u0441\u0438\u0441\u0442\u0435\u043c, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0449\u0438\u0445 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0436\u0438\u0437\u043d\u0438.<\/p>\n<p>\u041a\u0435\u0439\u0441 \u0431\u044b\u043b \u043f\u0440\u0435\u0434\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d AI VK.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/930714\/\"> https:\/\/habr.com\/ru\/articles\/930714\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<figure class=\"full-width\"><\/figure>\n<p>\u0412\u0441\u0435\u043c \u043f\u0440\u0438\u0432\u0435\u0442! \u041c\u0435\u043d\u044f \u0437\u043e\u0432\u0443\u0442 \u0415\u0432\u0433\u0435\u043d\u0438\u0439 \u041f\u0438\u0449\u0438\u043a, \u0438 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u044f \u0445\u043e\u0447\u0443 \u043f\u043e\u0434\u0435\u043b\u0438\u0442\u044c\u0441\u044f \u0441 \u0432\u0430\u043c\u0438 \u043e\u043f\u044b\u0442\u043e\u043c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043c\u0435\u0442\u043e\u0434\u0430 \u043f\u0435\u0440\u0435\u043d\u043e\u0441\u0430 \u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0435\u0432\u044b\u0445 \u0430\u0442\u0430\u043a, \u043d\u0430\u0434 \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u044f \u0440\u0430\u0431\u043e\u0442\u0430\u043b \u043f\u043e\u0434 \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0441\u0442\u0432\u043e\u043c \u0410\u043b\u0435\u043a\u0441\u0430\u043d\u0434\u0440\u0430 \u0420\u043e\u0433\u0430\u0447\u0435\u0432\u0430, \u0440\u0443\u043a\u043e\u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044f \u0433\u0440\u0443\u043f\u043f\u044b \u043a\u043e\u043c\u043f\u044c\u044e\u0442\u0435\u0440\u043d\u043e\u0433\u043e \u0437\u0440\u0435\u043d\u0438\u044f AI VK, \u0432 \u0440\u0430\u043c\u043a\u0430\u0445 \u043c\u0430\u0441\u0442\u0435\u0440\u0441\u043a\u043e\u0439 \u043f\u043e \u0441\u0435\u0440\u0432\u0438\u0441\u0430\u043c \u0438 \u043f\u043b\u0430\u0442\u0444\u043e\u0440\u043c\u0430\u043c \u0418\u0418 \u0432 \u0418\u043d\u0436\u0435\u043d\u0435\u0440\u043d\u043e\u2011\u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0448\u043a\u043e\u043b\u0435 \u041d\u0418\u0423 \u0412\u0428\u042d \u0438 VK.<\/p>\n<p>\u0421\u00a0\u043a\u0430\u0436\u0434\u044b\u043c \u0430\u043f\u0434\u0435\u0439\u0442\u043e\u043c \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439 \u0440\u0430\u0441\u0442\u0451\u0442 \u0438 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439, \u043f\u043e\u0441\u0432\u044f\u0449\u0451\u043d\u043d\u044b\u0445 \u0438\u0445 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u043c. \u041a\u043e\u0433\u0434\u0430 \u043e\u0442\u00a0\u0440\u0430\u0431\u043e\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0437\u0430\u0432\u0438\u0441\u044f\u0442 \u043a\u0440\u0435\u0434\u0438\u0442\u043d\u044b\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u0430\u0432\u0442\u043e\u043f\u0438\u043b\u043e\u0442 \u043d\u0430\u00a0\u0448\u043e\u0441\u0441\u0435 \u0438\u043b\u0438\u00a0\u0434\u0438\u0430\u0433\u043d\u043e\u0437 \u0432\u00a0\u043a\u0430\u0440\u0434\u0438\u043e\u043b\u043e\u0433\u0438\u0438, \u0446\u0435\u043d\u0430 \u043e\u0448\u0438\u0431\u043a\u0438 \u0441\u0442\u0440\u0435\u043c\u0438\u0442\u0441\u044f \u043a\u00a0\u043d\u0435\u043f\u0440\u0438\u043b\u0438\u0447\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u043e\u0439 \u043e\u0442\u043c\u0435\u0442\u043a\u0435. \u041d\u0435\u0443\u0434\u0438\u0432\u0438\u0442\u0435\u043b\u044c\u043d\u043e, \u0447\u0442\u043e\u00a0\u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438\u00a0\u2014 \u043e\u0442\u00a0\u043f\u043e\u0438\u0441\u043a\u0430 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0435\u0439 \u0434\u043e\u00a0\u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u0435\u0442\u043e\u0434\u043e\u0432 \u0437\u0430\u0449\u0438\u0442\u044b\u00a0\u2014 \u0441\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u044b\u0432\u0435\u0434\u0435\u043d\u044b \u0432\u00a0\u043f\u0435\u0440\u0432\u0443\u044e\u00a0\u043b\u0438\u043d\u0438\u044e \u043f\u0440\u0438\u043e\u0440\u0438\u0442\u0435\u0442\u043e\u0432.<\/p>\n<p>\u041f\u0430\u0440\u0430\u043b\u043b\u0435\u043b\u044c\u043d\u043e \u044d\u0432\u043e\u043b\u044e\u0446\u0438\u043e\u043d\u0438\u0440\u0443\u044e\u0442 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u044b\u0435 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u0441\u0440\u0430\u0437\u0443 \u043d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043e\u0434\u0435\u043b\u0435\u0439\u2011\u043a\u043e\u043c\u043f\u043e\u043d\u0435\u043d\u0442 \u0434\u043b\u044f\u00a0\u0440\u0430\u0437\u043d\u044b\u0445 \u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0435\u0439, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043e\u0442\u043a\u0440\u044b\u0432\u0430\u044f \u0431\u043e\u043b\u044c\u0448\u0435 \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u0435\u0439 \u0434\u043b\u044f\u00a0\u0430\u0442\u0430\u043a. \u041b\u043e\u0433\u0438\u0447\u043d\u044b\u0439 \u0441\u043b\u0435\u0434\u00a0\u2014 \u0430\u0442\u0430\u043a\u0438, \u043c\u0438\u0433\u0440\u0438\u0440\u043e\u0432\u0430\u0432\u0448\u0438\u0435 \u0438\u0437\u00a0\u043a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u043e\u0434\u043d\u043e\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043c\u0438\u0440\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u043e\u0439 \u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u044b \u043c\u043e\u0434\u0435\u043b\u0435\u0439. \u0421\u0435\u0433\u043e\u0434\u043d\u044f \u0432\u00a0\u0441\u0442\u0430\u0442\u044c\u0435 \u0440\u0430\u0437\u0431\u0435\u0440\u0451\u043c, \u043a\u0430\u043a\u00a0\u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0443 \u0441\u00a0\u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430\u00a0\u0446\u0435\u043b\u0443\u044e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443.<\/p>\n<h2>\u0422\u0430\u043a\u0441\u043e\u043d\u043e\u043c\u0438\u044f \u0430\u0442\u0430\u043a: \u043a\u0442\u043e, \u043a \u043a\u0430\u043a\u043e\u0439 \u0434\u0432\u0435\u0440\u0438 \u0438 \u0441 \u043a\u0430\u043a\u0438\u043c \u043b\u043e\u043c\u043e\u043c<\/h2>\n<p>\u041d\u0430\u00a0\u043f\u0440\u0430\u043a\u0442\u0438\u043a\u0435 \u0441\u0430\u043c\u0430 \u043f\u043e\u00a0\u0441\u0435\u0431\u0435 \u0430\u0442\u0430\u043a\u0430 \u043d\u0430\u00a0\u043d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u044c\u00a0\u2014 \u044d\u0442\u043e \u0432\u0441\u0435\u0433\u0434\u0430 \u043f\u0440\u043e <strong>\u0434\u043e\u0441\u0442\u0443\u043f<\/strong> \u0438 <strong>\u043c\u0435\u0442\u043e\u0434<\/strong>. \u0421\u043d\u0430\u0447\u0430\u043b\u0430 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u043c, \u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438 \u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u0443\u00a0\u043d\u0430\u0441 \u0435\u0441\u0442\u044c, \u0430\u00a0\u043f\u043e\u0442\u043e\u043c\u00a0\u2014 \u043a\u0430\u043a\u00a0\u0431\u0443\u0434\u0435\u043c \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u0442\u044c.<\/p>\n<p><em>White\/Gray\/Black\u2011box\u00a0\u2014 \u0442\u0440\u0438 \u0440\u0435\u0436\u0438\u043c\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u0432\u0435\u0441\u0430\u043c \u0438 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0435 \u043c\u043e\u0434\u0435\u043b\u0438<\/em>.<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>\u0422\u0438\u043f \u0434\u043e\u0441\u0442\u0443\u043f\u0430<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0427\u0442\u043e\u00a0\u0434\u043e\u0441\u0442\u0443\u043f\u043d\u043e<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>White\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041f\u043e\u043b\u043d\u044b\u0439 \u043d\u0430\u0431\u043e\u0440: \u0432\u0435\u0441\u0430, \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>Gray\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0430\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u0438\u043d\u0441\u0430\u0439\u0434: \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u043c\u043e\u0434\u0435\u043b\u0438 \u0438\u043b\u0438\u00a0\u0435\u0435 \u0447\u0430\u0441\u0442\u0438 \u043c\u044b \u0437\u043d\u0430\u0435\u043c, \u043d\u043e\u00a0\u043d\u0435\u00a0\u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c \u0432\u0435\u0441\u0430\u043c\u0438.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"120\" width=\"120\">\n<p align=\"left\"><strong>Black\u2011box<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041b\u0438\u0448\u044c API\u2011\u044d\u043d\u0434\u043f\u043e\u0438\u043d\u0442: \u043c\u043e\u0436\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c \u0442\u043e\u043b\u044c\u043a\u043e \u043e\u0442\u0432\u0435\u0442 \u043f\u043e\u00a0\u0432\u0445\u043e\u0434\u043d\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c.<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p><em>\u041e\u0441\u043d\u043e\u0432\u043d\u044b\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b: Adversarial, Jailbreak, Poisoning, Backdoor.<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>\u041c\u0435\u0442\u043e\u0434<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0421\u0443\u0442\u044c \u043e\u043f\u0435\u0440\u0430\u0446\u0438\u0438<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0413\u0434\u0435 \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u0442\u0441\u044f<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Adversarial<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0435\u0434\u0432\u0430 \u0437\u0430\u043c\u0435\u0442\u043d\u044b\u0439 \u0448\u0443\u043c \u2192 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u0448\u0438\u0431\u0430\u0435\u0442\u0441\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0421\u043f\u0443\u0444\u0438\u043d\u0433 \u0434\u043e\u0440\u043e\u0436\u043d\u044b\u0445 \u0437\u043d\u0430\u043a\u043e\u0432.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Jailbreak<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u041e\u0431\u0445\u043e\u0434 \u0437\u0430\u0449\u0438\u0442\u043d\u044b\u0445 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c\u043e\u0432 \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0441\u00a0\u043f\u043e\u043c\u043e\u0449\u044c\u044e \u0441\u043f\u0435\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u043e\u043c\u043f\u0442\u0430 \u0434\u043b\u044f\u00a0LLM \u0447\u0430\u0442\u2011\u0431\u043e\u0442\u0430.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0427\u0430\u0442\u2011\u0431\u043e\u0442\u044b \u043a\u0440\u0443\u043f\u043d\u044b\u0445 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0439: ChatGPT, Claude, Gemini.<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Poisoning<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435\u00bb \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0431\u0435\u0437\u00a0\u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"121\" width=\"121\">\n<p align=\"left\"><strong>Backdoor<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u0432\u00a0\u0434\u0430\u043d\u043d\u044b\u0435 \u0442\u0440\u0438\u0433\u0433\u0435\u0440 \u043d\u0430\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c \u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f.<\/p>\n<\/td>\n<td>\n<p align=\"left\">\u0414\u0430\u0442\u0430\u0441\u0435\u0442\u044b \u0431\u0435\u0437\u00a0\u043c\u043e\u0434\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h3>\u041f\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0443 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n<p><strong>White\u2011box\u2011\u0430\u0442\u0430\u043a\u0430<\/strong>\u00a0\u2014 \u043a\u043e\u0433\u0434\u0430 \u0442\u0435\u0431\u0435 \u0434\u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u043d\u0435\u00a0\u0442\u043e\u043b\u044c\u043a\u043e \u043a\u043b\u044e\u0447\u0438 \u043e\u0442\u00a0\u043a\u0432\u0430\u0440\u0442\u0438\u0440\u044b, \u043d\u043e\u00a0\u0438 \u043f\u043b\u0430\u043d \u0432\u0441\u0435\u0445 \u044d\u043b\u0435\u043a\u0442\u0440\u043e\u043a\u0430\u0431\u0435\u043b\u0435\u0439. \u0410\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430, \u0435\u0451 \u043e\u0441\u043e\u0431\u0435\u043d\u043d\u043e\u0441\u0442\u0438 \u0438 \u043d\u0435\u0434\u043e\u0441\u0442\u0430\u0442\u043a\u0438 \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b, \u0432\u0435\u0441\u0430 \u0434\u043e\u0441\u0442\u0443\u043f\u043d\u044b, \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u044b \u0432\u044b\u0447\u0438\u0441\u043b\u044f\u044e\u0442\u0441\u044f \u043f\u043e\u00a0\u0449\u0435\u043b\u0447\u043a\u0443 \u043f\u0430\u043b\u044c\u0446\u0435\u0432. \u041c\u0438\u043d\u0443\u0441 \u043e\u0447\u0435\u0432\u0438\u0434\u0435\u043d: \u0432 99% \u0441\u043b\u0443\u0447\u0430\u0435\u0432 \u0443\u00a0\u0430\u0442\u0430\u043a\u0443\u044e\u0449\u0435\u0439 \u0441\u0442\u043e\u0440\u043e\u043d\u044b \u043d\u0435\u0442 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a\u00a0\u0442\u0430\u043a\u043e\u043c\u0443 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u0438.<\/p>\n<p><strong>Black\u2011box<\/strong>\u00a0\u2014 \u0434\u0438\u0430\u043c\u0435\u0442\u0440\u0430\u043b\u044c\u043d\u043e \u043f\u0440\u043e\u0442\u0438\u0432\u043e\u043f\u043e\u043b\u043e\u0436\u043d\u0430\u044f \u043a <em>white\u2011box<\/em> \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u044f: \u043c\u044b \u0432\u043e\u043e\u0431\u0449\u0435 \u043d\u0438\u0447\u0435\u0433\u043e \u043d\u0435\u00a0\u0437\u043d\u0430\u0435\u043c, \u0432\u0438\u0434\u0438\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u0434\u0430\u043d\u043d\u044b\u0435, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043f\u043e\u0434\u0430\u0451\u043c \u043d\u0430\u00a0\u0432\u0445\u043e\u0434, \u0438 \u043a\u0430\u043a\u043e\u0439 \u043e\u0442\u0432\u0435\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0442\u0434\u0430\u043b\u0430\u00a0\u2014 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u044b\u0439 \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0439.<\/p>\n<p><strong>Gray\u2011box<\/strong>\u00a0\u2014 \u0437\u043e\u043b\u043e\u0442\u0430\u044f \u0441\u0435\u0440\u0435\u0434\u0438\u043d\u0430: \u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u043c\u0438 \u0437\u043d\u0430\u043d\u0438\u044f\u043c\u0438 \u043f\u0440\u043e\u00a0\u043c\u043e\u0434\u0435\u043b\u044c, \u043d\u043e\u00a0\u043d\u0435\u0442 \u043f\u043e\u043b\u043d\u043e\u0433\u043e \u0434\u043e\u0441\u0442\u0443\u043f\u0430. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0437\u043d\u0430\u0435\u043c \u0442\u043e\u043b\u044c\u043a\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0432\u043d\u0443\u0442\u0440\u0438 VLM \u0438 \u043c\u043e\u0436\u0435\u043c \u043d\u0430\u0439\u0442\u0438 \u0435\u0433\u043e \u0432\u0435\u0441\u0430. \u041c\u043d\u043e\u0433\u0438\u0435 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0449\u0438\u0435 \u043c\u0435\u0442\u043e\u0434\u044b \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0432\u00a0\u0442\u0430\u043a\u043e\u043c \u0441\u0435\u0442\u0430\u043f\u0435: \u0438 \u0440\u0435\u0430\u043b\u0438\u0441\u0442\u0438\u0447\u043d\u043e, \u0438 \u0432\u00a0\u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u043e\u0436\u043d\u043e \u043f\u043e\u043a\u043e\u043f\u0430\u0442\u044c\u0441\u044f, \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u044f \u043c\u0435\u0442\u043e\u0434\u044b \u043d\u0430\u00a0\u043e\u0441\u043d\u043e\u0432\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b.<\/p>\n<h3>\u041f\u043e \u0441\u043f\u043e\u0441\u043e\u0431\u0443 \u043f\u0440\u043e\u0432\u0435\u0434\u0435\u043d\u0438\u044f \u0430\u0442\u0430\u043a\u0438<\/h3>\n<figure class=\"full-width\">\n<div><figcaption>FGSM: \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043f\u043e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0443, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u0433\u0438\u0431\u0431\u043e\u043d\u0430.<\/figcaption><\/div>\n<\/figure>\n<p><strong>Adversarial.<\/strong> \u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440\u00a0\u2014 FGSM: \u043e\u0434\u0438\u043d \u0448\u0430\u0433 \u043f\u043e\u00a0\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0443, \u0438 \u043f\u0430\u043d\u0434\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432\u00a0\u0433\u0438\u0431\u0431\u043e\u043d\u0430.<\/p>\n<p>\u0417\u0430\u00a0\u0441\u0447\u0451\u0442 \u0442\u043e\u0433\u043e, \u0447\u0442\u043e\u00a0\u0448\u0430\u0433 \u043f\u043e\u00a0\u0437\u043d\u0430\u043a\u0443 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u0435\u043d, \u0447\u0435\u043b\u043e\u0432\u0435\u0447\u0435\u0441\u043a\u0438\u0439 \u0433\u043b\u0430\u0437 \u043d\u0435\u00a0\u0437\u0430\u043c\u0435\u0447\u0430\u0435\u0442 \u043f\u043e\u0434\u043c\u0435\u043d\u0443, \u0430\u00a0\u043c\u043e\u0434\u0435\u043b\u044c \u0443\u0436\u0435 \u0440\u0430\u0434\u043e\u0441\u0442\u043d\u043e \u043a\u0440\u0438\u0447\u0438\u0442: \u00abGibbon\u00a0\u2014 99.3%\u00bb.<\/p>\n<p><strong>Jailbreak.<\/strong> \u0414\u043e\u0431\u0430\u0432\u043b\u044f\u0435\u043c \u043a\u00a0\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u043c\u0443 \u0437\u0430\u043f\u0440\u043e\u0441\u0443 \u0445\u0438\u0442\u0440\u044b\u0439 prompt, \u043e\u0431\u0445\u043e\u0434\u044f\u0449\u0438\u0439 \u0441\u0438\u0441\u0442\u0435\u043c\u043d\u044b\u0435 \u043f\u0440\u0430\u0432\u0438\u043b\u0430 (\u043f\u0435\u0447\u0430\u043b\u044c\u043d\u043e \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439 DAN, aka <em>Do\u2011Anything\u2011Now<\/em>).<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u041f\u0440\u0438\u043c\u0435\u0440 \u0430\u0442\u0430\u043a\u0438 DAN<\/figcaption><\/div>\n<\/figure>\n<p><strong>Poisoning.<\/strong> \u0422\u0443\u0442 \u043c\u044b \u0437\u0430\u0431\u0438\u0440\u0430\u0435\u043c\u0441\u044f \u0433\u043b\u0443\u0431\u0436\u0435: \u043d\u0430\u00a0\u044d\u0442\u0430\u043f\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u00a0\u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u043f\u043e\u0434\u043c\u0435\u0448\u0438\u0432\u0430\u044e\u0442\u0441\u044f \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435\u00bb \u043f\u0440\u0438\u043c\u0435\u0440\u044b. \u0420\u0438\u0441\u043a? \u041c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u0436\u0438\u0437\u043d\u0435\u043d\u043d\u043e \u043d\u0435\u0441\u0451\u0442 \u0432\u00a0\u0441\u0435\u0431\u0435 \u043e\u0448\u0438\u0431\u043a\u0443.<\/p>\n<p><strong>Backdoor<\/strong>\u00a0\u2014 \u0441\u0442\u0430\u0440\u0448\u0438\u0439 \u0431\u0440\u0430\u0442 <em>poisoning<\/em>: \u0432\u043c\u0435\u0441\u0442\u0435 \u0441 \u00ab\u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u043c\u0438\u00bb \u0434\u0430\u043d\u043d\u044b\u043c\u0438 \u0432\u0441\u0442\u0440\u0430\u0438\u0432\u0430\u0435\u043c \u0442\u0440\u0438\u0433\u0433\u0435\u0440 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u0438\u043a\u0441\u0435\u043b\u044c\u043d\u044b\u0439 \u0432\u043e\u0434\u044f\u043d\u043e\u0439 \u0437\u043d\u0430\u043a). \u041d\u0430\u00a0\u043e\u0431\u044b\u0447\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0441\u0435\u0442\u044c \u0432\u0435\u0434\u0451\u0442 \u0441\u0435\u0431\u044f \u043e\u0431\u0440\u0430\u0437\u0446\u043e\u0432\u043e, \u043d\u043e\u00a0\u0441\u0442\u043e\u0438\u0442 \u043f\u043e\u043a\u0430\u0437\u0430\u0442\u044c \u0442\u0440\u0438\u0433\u0433\u0435\u0440\u00a0\u2014 \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0437\u0430\u0440\u0430\u043d\u0435\u0435 \u0437\u0430\u0434\u0430\u043d\u043d\u044b\u0439 \u043e\u0442\u0432\u0435\u0442.<\/p>\n<p><em>Poisoning<\/em>\/<em>backdoor<\/em>\u2011\u0430\u0442\u0430\u043a\u0438 \u043f\u043e\u0447\u0442\u0438 \u043d\u0435\u00a0\u0432\u0441\u0442\u0440\u0435\u0447\u0430\u044e\u0442\u0441\u044f \u0432\u00a0\u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0439 \u0436\u0438\u0437\u043d\u0438, \u0442. \u043a. \u043d\u0443\u0436\u0435\u043d \u043f\u043e\u043b\u043d\u044b\u0439 \u043a\u043e\u043d\u0442\u0440\u043e\u043b\u044c \u0437\u0430\u00a0\u043f\u0440\u043e\u0446\u0435\u0441\u0441\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f.<\/p>\n<h3>\u0410\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u0430\u0442\u0430\u043a<\/h3>\n<p>\u0412 \u0434\u0430\u043d\u043d\u043e\u0439 \u0441\u0442\u0430\u0442\u044c\u0435 \u0441\u0444\u043e\u043a\u0443\u0441\u0438\u0440\u0443\u0435\u043c\u0441\u044f \u043d\u0430 \u0447\u0435\u0442\u044b\u0440\u0435\u0445 \u043c\u0435\u0442\u043e\u0434\u0430\u0445 \u0430\u0442\u0430\u043a\u0438, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b \u0432 \u0441\u0432\u043e\u0435\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0438 \u2014 <strong>PGD, RayS, SurFree \u0438 M-Attack.<\/strong><\/p>\n<h4>PGD<\/h4>\n<p>PGD \u2014 \u0438\u0442\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e \u0438\u0437\u043c\u0435\u043d\u044f\u0435\u043c \u0432\u0445\u043e\u0434\u043d\u043e\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044e \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430 \u0444\u0443\u043d\u043a\u0446\u0438\u0438 \u043f\u043e\u0442\u0435\u0440\u044c, \u043f\u043e\u0441\u043b\u0435 \u043a\u0430\u0436\u0434\u043e\u0433\u043e \u0448\u0430\u0433\u0430 \u043e\u0431\u0440\u0435\u0437\u0430\u0435\u043c \u0432\u0441\u0451, \u0447\u0442\u043e \u0432\u044b\u0445\u043e\u0434\u0438\u0442 \u0437\u0430 \u043e\u0433\u0440\u0430\u043d\u0438\u0447\u0438\u0432\u0430\u044e\u0449\u0438\u0439 L\u221e-\u0448\u0430\u0440 \u043f\u043e \u0437\u043d\u0430\u0447\u0435\u043d\u0438\u044e \u043f\u0438\u043a\u0441\u0435\u043b\u044f.<\/p>\n<p><strong>\u0428\u0430\u0433 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430:<\/strong><\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\"><strong>\u0421\u0438\u043c\u0432\u043e\u043b<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>\u0417\u043d\u0430\u0447\u0435\u043d\u0438\u0435<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0430\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043d\u0430 t-\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0434\u043e\u043f\u0443\u0441\u0442\u0438\u043c\u044b\u0439 \u00ab\u0440\u0430\u0434\u0438\u0443\u0441\u00bb<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u043f\u0440\u043e\u0435\u043a\u0446\u0438\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0448\u0430\u0433 \u0430\u0442\u0430\u043a\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0444\u0443\u043d\u043a\u0446\u0438\u044f \u043f\u043e\u0442\u0435\u0440\u044c (cross-entropy \u0434\u043b\u044f \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0442\u043e\u0440\u0430)<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0432\u0435\u0441\u0430 \u043c\u043e\u0434\u0435\u043b\u0438<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0438\u0441\u0442\u0438\u043d\u043d\u0430\u044f \u043c\u0435\u0442\u043a\u0430<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td data-colwidth=\"84\" width=\"84\">\n<p align=\"left\">\n<\/td>\n<td>\n<p align=\"left\">\u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442 \u043f\u043e \u0432\u0445\u043e\u0434\u043d\u044b\u043c \u0434\u0430\u043d\u043d\u044b\u043c<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<p>\u0415\u0441\u043b\u0438 \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043c\u044b \u043c\u0438\u043d\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 , \u0442\u043e \u0434\u043b\u044f \u0430\u0442\u0430\u043a\u0438 \u0445\u043e\u0447\u0435\u0442\u0441\u044f \u043c\u0430\u043a\u0441\u0438\u043c\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u0442\u044c, \u0442\u0435\u043c \u0441\u0430\u043c\u044b\u043c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u044f\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0441\u0442\u043e\u0440\u043e\u043d\u0443 \u043d\u0435\u043a\u043e\u0440\u0440\u0435\u043a\u0442\u043d\u043e\u0433\u043e \u0440\u0435\u0448\u0435\u043d\u0438\u044f.<\/p>\n<p>\u041f\u0440\u0438 \u044d\u0442\u043e\u043c \u0442\u0443\u0442 \u0435\u0441\u0442\u044c \u0441\u0432\u043e\u0438 \u043f\u0440\u043e\u0431\u043b\u0435\u043c\u044b: \u043d\u0435\u0442 \u0441\u0442\u043e\u043f\u0440\u043e\u0446\u0435\u043d\u0442\u043d\u043e\u0439 \u0433\u0430\u0440\u0430\u043d\u0442\u0438\u0438, \u0447\u0442\u043e \u0437\u0430 \u0444\u0438\u043a\u0441\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0447\u0438\u0441\u043b\u043e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u0438\u0437\u043c\u0435\u043d\u0438\u0442\u0441\u044f \u0442\u0430\u043a, \u0447\u0442\u043e \u043c\u043e\u0434\u0435\u043b\u044c \u043d\u0430\u0447\u043d\u0451\u0442 \u043e\u0448\u0438\u0431\u0430\u0442\u044c\u0441\u044f.\u00a0<strong>White-box<\/strong>-\u0441\u0435\u0442\u0430\u043f \u2014 \u043d\u0443\u0436\u043d\u043e \u0438\u043c\u0435\u0442\u044c \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0432\u0435\u0441\u0430\u043c \u043c\u043e\u0434\u0435\u043b\u0438 \u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430\u043c.<\/p>\n<h4>RayS<\/h4>\n<p>RayS\u00a0\u2014 query\u2011based black\u2011box\u2011\u0430\u0442\u0430\u043a\u0430 \u0446\u0435\u043b\u044c \u043a\u043e\u0442\u043e\u0440\u043e\u0439, \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043f\u0430\u0434\u0430\u0442\u044c \u0432\u00a0\u043e\u0431\u043b\u0430\u0441\u0442\u044c \u043d\u0430 <strong>\u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f<\/strong>.<\/p>\n<p><strong>\u041a\u043e\u043d\u0446\u0435\u043f\u0442<\/strong>: \u043f\u0435\u0440\u0435\u0431\u0438\u0440\u0430\u0435\u043c \u0432\u0435\u043a\u0442\u043e\u0440\u044b  \u0438\u0437\u00a0\u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0432\u0435\u0440\u0448\u0438\u043d \u200b\u2011\u0448\u0430\u0440\u0430 \u0438 \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0438\u0449\u0435\u043c \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439 \u0440\u0430\u0434\u0438\u0443\u0441 , \u043f\u0440\u0438\u00a0\u043a\u043e\u0442\u043e\u0440\u043e\u043c  \u043c\u0435\u043d\u044f\u0435\u0442 \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435 \u043c\u043e\u0434\u0435\u043b\u0438:<\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p><em> <\/em>\u2014\u200a \u043b\u0443\u0447\u0448\u0438\u0439 \u0432\u0435\u043a\u0442\u043e\u0440-\u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0438\u0437 \u0434\u0438\u0441\u043a\u0440\u0435\u0442\u043d\u043e\u0433\u043e \u043d\u0430\u0431\u043e\u0440\u0430;<\/p>\n<p> \u2014 \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u0442\u0441\u044f \u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0434\u043b\u044f \u0442\u0435\u043a\u0443\u0449\u0435\u0433\u043e .<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 RayS<\/figcaption><\/div>\n<\/figure>\n<h4>SurFree<\/h4>\n<p>SurFree\u00a0\u2014 \u0435\u0449\u0451 \u043e\u0434\u0438\u043d\u00a0<em>query-based<\/em>\u00a0\u043f\u043e\u0434\u0445\u043e\u0434, \u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u0441\u0442\u0430\u0440\u0430\u0435\u0442\u0441\u044f \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u0442\u044c \u043c\u043e\u0434\u0435\u043b\u044c \u043f\u043e\u043f\u0430\u0441\u0442\u044c \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0443 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f. \u041f\u043e\u0438\u0441\u043a \u0440\u0430\u0434\u0438\u0443\u0441\u0430 \u0438 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u043e\u0438\u0441\u0445\u043e\u0434\u0438\u0442 \u0438\u043d\u0430\u0447\u0435, \u0447\u0435\u043c \u0432\u00a0<em>RayS<\/em>: \u0442\u0443\u0442 \u043c\u044b \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0443\u0433\u043e\u043b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u043e\u0433\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u0440\u0435\u0448\u0435\u043d\u0438\u044f, \u043d\u043e \u0438\u0449\u0435\u043c \u0435\u0433\u043e \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0431\u044b\u043b\u043e \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e.<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 SurFree<\/figcaption><\/div>\n<\/figure>\n<p>\u0421\u0442\u0430\u0440\u0442\u0443\u0435\u043c \u0441 \u0443\u0436\u0435 \u043d\u0430\u0439\u0434\u0435\u043d\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u043d\u0430 decision boundary, \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u043f\u043e\u043c\u0435\u0447\u0430\u0435\u043c . \u041d\u0430 \u043a\u0430\u0436\u0434\u043e\u043c \u0446\u0438\u043a\u043b\u0435 \u0433\u0435\u043d\u0435\u0440\u0438\u0440\u0443\u0435\u043c \u043a\u0430\u043d\u0434\u0438\u0434\u0430\u0442\u0430:\u00a0\u00a0<\/p>\n<p><strong>\u200b<\/strong>\u0433\u0434\u0435:<\/p>\n<ul>\n<li>\n<p>\u2014 \u0440\u0430\u0441\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043e\u0442 \u0438\u0441\u0445\u043e\u0434\u043d\u043e\u0439 \u0442\u043e\u0447\u043a\u0438 \u0434\u043e \u0442\u043e\u0447\u043a\u0438 \u043d\u0430 \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p> \u2014 \u0435\u0434\u0438\u043d\u0438\u0447\u043d\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440 \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043a \u0433\u0440\u0430\u043d\u0438\u0446\u0435 \u043f\u0440\u0438\u043d\u044f\u0442\u0438\u044f \u0440\u0435\u0448\u0435\u043d\u0438\u044f;<\/p>\n<\/li>\n<li>\n<p> \u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u0435\u043d  \u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u043c  \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c;<\/p>\n<\/li>\n<li>\n<p> \u2014 \u0443\u0433\u043e\u043b \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430,  \u043a\u043e\u0440\u0440\u0435\u043a\u0442\u0438\u0440\u0443\u0435\u0442 \u0440\u0430\u0434\u0438\u0443\u0441.<\/p>\n<\/li>\n<\/ul>\n<p>\u041c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0435 \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u0435 \u0434\u043e\u0441\u0442\u0438\u0433\u0430\u0435\u0442\u0441\u044f \u043f\u0440\u0438 . \u041f\u043e\u0434\u0441\u0442\u0430\u0432\u043b\u044f\u0435\u043c \u0438 \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u0444\u043e\u0440\u043c\u0443\u043b\u0443:\u00a0<\/p>\n<p>\u041e\u0434\u0438\u043d \u0448\u0430\u0433 \u0438\u0442\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u043e\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 \u0430\u0442\u0430\u043a\u0438:<\/p>\n<ol>\n<li>\n<p>\u0438\u0449\u0435\u043c \u043d\u043e\u0432\u044b\u0439 \u0432\u0435\u043a\u0442\u043e\u0440-\u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435  (\u043e\u0440\u0442\u043e\u0433\u043e\u043d\u0430\u043b\u044c\u043d\u044b\u0439  \u0438 \u043f\u0440\u0435\u0434\u044b\u0434\u0443\u0449\u0438\u043c  \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f\u043c);<\/p>\n<\/li>\n<li>\n<p>\u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0437\u043d\u0430\u043a ;<\/p>\n<\/li>\n<li>\n<p>\u0431\u0438\u043d\u0430\u0440\u043d\u044b\u043c \u043f\u043e\u0438\u0441\u043a\u043e\u043c \u0438\u0449\u0435\u043c \u043a\u043e\u043d\u043a\u0440\u0435\u0442\u043d\u044b\u0439  \u0434\u043b\u044f \u043c\u0438\u043d\u0438\u043c\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438\u0441\u043a\u0430\u0436\u0435\u043d\u0438\u044f.<\/p>\n<\/li>\n<\/ol>\n<p><strong>\u0411\u043e\u043b\u044c<\/strong> \u0442\u0430 \u0436\u0435: \u043b\u0438\u043c\u0438\u0442 \u0437\u0430\u043f\u0440\u043e\u0441\u043e\u0432. \u041d\u0435 \u0443\u0441\u043f\u0435\u043b\u0438 \u043f\u043e\u0434\u043e\u0431\u0440\u0430\u0442\u044c \u043e\u043f\u0442\u0438\u043c\u0430\u043b\u044c\u043d\u044b\u0439  \u2014 \u0430\u0442\u0430\u043a\u0430 \u0431\u0443\u0434\u0435\u0442 \u043d\u0435 \u0441\u0442\u043e\u043b\u044c \u0443\u0434\u0430\u0447\u043d\u043e\u0439.<\/p>\n<h4>M-Attack<\/h4>\n<p>\u0411\u0435\u0440\u0451\u043c \u0430\u043d\u0441\u0430\u043c\u0431\u043b\u044c \u0438\u0437 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u043a\u0430\u0436\u0434\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0435\u0439 PGD \u043f\u043e\u0434\u0431\u0438\u0440\u0430\u0435\u043c \u0448\u0443\u043c \u0442\u0430\u043a, \u0447\u0442\u043e\u0431\u044b <strong>\u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u0430\u044f \u0441\u0445\u043e\u0436\u0435\u0441\u0442\u044c \u043c\u0435\u0436\u0434\u0443 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u043e\u043c \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b\u044c\u043d\u043e\u0433\u043e \u0438 \u0446\u0435\u043b\u0435\u0432\u043e\u0433\u043e \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u044f<\/strong> \u0441\u0442\u0440\u0435\u043c\u0438\u043b\u0430\u0441\u044c \u043a 1.<\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<p>\u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432 \u0432\u00a0\u0430\u043d\u0441\u0430\u043c\u0431\u043b\u0435;<br \/>\u00a0\u2014 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043e\u0442\u2011\u0433\u043e \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430;<br \/><em> <\/em>\u2014 \u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u0430\u044f \u0441\u0445\u043e\u0436\u0435\u0441\u0442\u044c.<\/p>\n<figure class=\"full-width\">\n<div><figcaption>\u0412\u0438\u0437\u0443\u0430\u043b\u0438\u0437\u0430\u0446\u0438\u044f \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0430 M-Attack<\/figcaption><\/div>\n<\/figure>\n<p><strong>\u041e\u0433\u0440\u0430\u043d\u0438\u0447\u0435\u043d\u0438\u044f<\/strong><\/p>\n<ul>\n<li>\n<p>\u0437\u0430\u0432\u0438\u0441\u0438\u0442 \u043e\u0442 <em>\u0442\u043e\u0433\u043e \u0441\u0430\u043c\u043e\u0433\u043e<\/em> \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 VLM: \u0435\u0441\u043b\u0438 \u0432\u043d\u0443\u0442\u0440\u0438 \u0434\u0440\u0443\u0433\u0430\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0430 \u0438\u043b\u0438\u00a0\u0434\u043e\u043e\u0431\u0443\u0447\u0435\u043d\u043d\u0430\u044f \u0432\u0435\u0440\u0441\u0438\u044f \u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u0435\u0440\u0435\u043d\u043e\u0441 \u043c\u043e\u0436\u0435\u0442 \u043d\u0435\u00a0\u0441\u0440\u0430\u0431\u043e\u0442\u0430\u0442\u044c;<\/p>\n<\/li>\n<li>\n<p>\u043d\u0430\u0441\u043b\u0435\u0434\u0443\u0435\u0442 \u043c\u0438\u043d\u0443\u0441\u044b PGD (white\u2011box, \u0447\u0438\u0441\u043b\u043e \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0439).<\/p>\n<\/li>\n<\/ul>\n<h2>\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0430 \u043c\u0435\u0442\u043e\u0434\u043e\u0432<\/h2>\n<p>\u041f\u0440\u0438\u0448\u043b\u043e \u0432\u0440\u0435\u043c\u044f \u043f\u0435\u0440\u0435\u0439\u0442\u0438 \u043e\u0442 \u0442\u0435\u043e\u0440\u0438\u0438 \u043a \u0442\u043e\u043c\u0443 \u0441\u0430\u043c\u043e\u043c\u0443 \u0444\u043e\u043a\u0443\u0441\u0443 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f: <strong>\u043c\u043e\u0436\u043d\u043e \u043b\u0438 \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0443\u0434\u0430\u0447\u043d\u0443\u044e \u0430\u0442\u0430\u043a\u0443 \u043d\u0430\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u043f\u0440\u044f\u043c\u043e \u0432 \u0433\u043e\u0442\u043e\u0432\u0443\u044e \u043c\u0443\u043b\u044c\u0442\u0438\u043c\u043e\u0434\u0430\u043b\u044c\u043d\u0443\u044e \u043c\u043e\u0434\u0435\u043b\u044c<\/strong>?<\/p>\n<p><strong>\u0418\u0434\u0435\u044f \u043f\u0440\u043e\u0441\u0442\u0430\u044f<\/strong>: \u0435\u0441\u043b\u0438 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0432\u043d\u0443\u0442\u0440\u0438 VLM \u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d \u0438 \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u0434\u043e\u0441\u0442\u0430\u0442\u043e\u0447\u043d\u043e \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u043c (\u0430 \u044d\u0442\u043e \u0447\u0430\u0441\u0442\u043e\u0435 \u044f\u0432\u043b\u0435\u043d\u0438\u0435 \u0434\u043b\u044f\u00a0<em>VLM<\/em>-\u043c\u043e\u0434\u0435\u043b\u0435\u0439), \u0442\u043e \u0438 \u00ab\u044f\u0434\u0440\u043e\u00bb \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u0438 \u043e\u0441\u0442\u0430\u043d\u0435\u0442\u0441\u044f \u0438\u0434\u0435\u043d\u0442\u0438\u0447\u043d\u044b\u043c. \u0417\u043d\u0430\u0447\u0438\u0442, \u043f\u0440\u043e\u0431\u0443\u0435\u043c \u043f\u043e\u043b\u0443\u0447\u0438\u0442\u044c\u00a0<em>adversarial<\/em>-\u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u043b\u044f \u043f\u0440\u0435\u0434\u043f\u043e\u043b\u0430\u0433\u0430\u0435\u043c\u043e\u0433\u043e\u00a0<em>vision<\/em>-\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430, \u0430 \u043f\u043e\u0442\u043e\u043c \u0443\u0436\u0435 \u0442\u0435\u0441\u0442\u0438\u0440\u0443\u0435\u043c VLM <strong>\u0432 \u043f\u043e\u043b\u043d\u043e\u0446\u0435\u043d\u043d\u043e\u043c\u00a0<em>black-box<\/em>-\u0441\u0435\u0442\u0430\u043f\u0435 \u043d\u0430 \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445<\/strong> \u2014 \u0431\u0435\u0437 \u0434\u043e\u0441\u0442\u0443\u043f\u0430 \u043a \u0432\u0435\u0441\u0430\u043c \u0438 \u0433\u0440\u0430\u0434\u0438\u0435\u043d\u0442\u0430\u043c.<\/p>\n<p><strong>\u041f\u043e\u0447\u0435\u043c\u0443 \u044d\u0442\u043e \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e:<\/strong><\/p>\n<ol>\n<li>\n<p>\u041f\u043e\u0434\u0430\u0432\u043b\u044f\u044e\u0449\u0435\u0435 \u0431\u043e\u043b\u044c\u0448\u0438\u043d\u0441\u0442\u0432\u043e \u0441\u043e\u0432\u0440\u0435\u043c\u0435\u043d\u043d\u044b\u0445 VLM \u043e\u0431\u0443\u0447\u0430\u044e\u0442\u0441\u044f \u0441 \u00ab\u0437\u0430\u043c\u043e\u0440\u043e\u0436\u0435\u043d\u043d\u044b\u043c\u00bb vision\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u043c.<\/p>\n<\/li>\n<li>\n<p><strong>\u041d\u0435\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u043d\u0430\u0431\u043e\u0440 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0445 vision\u2011\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u043e\u0432<\/strong>. \u0421\u0430\u043c\u044b\u0435 \u0447\u0430\u0441\u0442\u043e \u0432\u0441\u0442\u0440\u0435\u0447\u0430\u0435\u043c\u044b\u0435 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b\u00a0\u2014 OpenAI CLIP ViT\u2011L\/14\u00a0\u0438 Google SigLIP\u2011SO400M.<\/p>\n<\/li>\n<\/ol>\n<p><em>\u041f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u044b\u0435 VLM \u0438 \u0442\u043e, \u043a\u0430\u043a\u0438\u0435 vision-\u044d\u043d\u043a\u043e\u0434\u0435\u0440\u044b \u0432\u043d\u0443\u0442\u0440\u0438 \u043d\u0438\u0445 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044e\u0442\u0441\u044f:<\/em><\/p>\n<div>\n<div class=\"table\">\n<table>\n<tbody>\n<tr>\n<td>\n<p align=\"left\"><strong>VLM<\/strong><\/p>\n<\/td>\n<td>\n<p align=\"left\"><strong>Vision Encoder<\/strong><\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-1.5<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Molmo<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">Phi-3.5-Vision<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-NeXT-Video<\/p>\n<\/td>\n<td>\n<p align=\"left\">OpenAI CLIP ViT-L\/14<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">LLaVA-Onevision-Qwen2<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">MiniCPM-V2.6<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<tr>\n<td>\n<p align=\"left\">PaliGemma2<\/p>\n<\/td>\n<td>\n<p align=\"left\">Google SigLIP-SO400M<\/p>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n<\/div>\n<\/div>\n<h3>\u041f\u0435\u0440\u0435\u043d\u043e\u0441 \u0430\u0442\u0430\u043a\u0438 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 VLM<\/h3>\n<p>\u041f\u043e\u0434\u0445\u043e\u0434\u0438\u043c \u043a \u0441\u0430\u043c\u043e\u043c\u0443 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u043e\u043c\u0443: \u043a\u0430\u043a \u0438\u043c\u0435\u043d\u043d\u043e \u043f\u0435\u0440\u0435\u043d\u0435\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0443 \u0441 \u044d\u043d\u043a\u043e\u0434\u0435\u0440\u0430 \u043d\u0430 VLM. \u0414\u0430\u043d\u043d\u044b\u0439 \u044d\u043a\u0441\u043f\u0435\u0440\u0438\u043c\u0435\u043d\u0442 \u0431\u044b\u043b \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d \u043d\u0430 \u0438\u0437\u0443\u0447\u0435\u043d\u0438\u0435 \u0442\u043e\u0433\u043e, \u043a\u0430\u043a VLM-\u043c\u043e\u0434\u0435\u043b\u044c \u0431\u0443\u0434\u0435\u0442 \u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0434\u043e \u0430\u0442\u0430\u043a\u0438 \u0438 \u043f\u043e\u0441\u043b\u0435.<\/p>\n<p>\u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u0431\u0430\u0437\u043e\u0432\u044b\u0445 \u0430\u0442\u0430\u043a \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c\u00a0<em>RayS<\/em>\u00a0\u0438\u00a0<em>SurFree<\/em>. \u0414\u043b\u044f \u0434\u0430\u043d\u043d\u044b\u0445 \u0430\u0442\u0430\u043a \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0438\u0442\u044c \u043a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438. \u0412 \u043c\u043e\u0451\u043c \u0441\u043b\u0443\u0447\u0430\u0435 \u2014 \u044d\u0442\u043e \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u0435 \u043d\u0430\u0438\u0431\u043e\u043b\u0435\u0435 \u043f\u043e\u0445\u043e\u0436\u0435\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430 \u043f\u043e\u00a0<em>CLIP<\/em>-\u043a\u043b\u0430\u0441\u0441\u0438\u0444\u0438\u043a\u0430\u0446\u0438\u0438 \u0441 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u043c \u043a\u043b\u0430\u0441\u0441\u043e\u043c. \u041e\u0442\u0441\u044e\u0434\u0430 \u0438 \u043b\u043e\u0433\u0438\u043a\u0430:<\/p>\n<ol>\n<li>\n<p>\u041a\u0430\u0436\u0434\u043e\u0435 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u043a\u043b\u0430\u0441\u0441\u0430 \u043f\u0440\u0435\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u0441\u044f \u0432 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u0447\u0435\u0440\u0435\u0437 <strong>\u0442\u0435\u043a\u0441\u0442\u043e\u0432\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440<\/strong>, \u0442\u043e\u0442 \u0441\u0430\u043c\u044b\u0439, \u0447\u0442\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0441\u044f \u043f\u0440\u0438 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 CLIP.<\/p>\n<\/li>\n<li>\n<p>\u0410\u0442\u0430\u043a\u0443\u0435\u043c\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043f\u0440\u043e\u0433\u043e\u043d\u044f\u0435\u0442\u0441\u044f \u0447\u0435\u0440\u0435\u0437 \u0432\u0438\u0437\u0443\u0430\u043b\u044c\u043d\u044b\u0439 \u044d\u043d\u043a\u043e\u0434\u0435\u0440, \u043f\u043e\u043b\u0443\u0447\u0430\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433.<\/p>\n<\/li>\n<li>\n<p>\u0421\u0440\u0430\u0432\u043d\u0438\u0432\u0430\u0435\u043c \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433 \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438 \u0441 \u044d\u043c\u0431\u0435\u0434\u0434\u0438\u043d\u0433\u0430\u043c\u0438 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0439 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 \u043f\u043e <strong>\u043a\u043e\u0441\u0438\u043d\u0443\u0441\u043d\u043e\u0439 \u0431\u043b\u0438\u0437\u043e\u0441\u0442\u0438<\/strong>. \u0421\u0430\u043c\u044b\u0439 \u0431\u043b\u0438\u0437\u043a\u0438\u0439 \u2014 \u0438 \u0435\u0441\u0442\u044c \u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u0438\u0435.<\/p>\n<\/li>\n<li>\n<p>\u0410\u0442\u0430\u043a\u0430 \u0437\u0430\u0441\u0447\u0438\u0442\u044b\u0432\u0430\u0435\u0442\u0441\u044f \u043a\u0430\u043a \u0443\u0441\u043f\u0435\u0448\u043d\u0430\u044f, \u0435\u0441\u043b\u0438 <strong>\u043f\u0440\u0435\u0434\u0441\u043a\u0430\u0437\u0430\u043d\u043d\u044b\u0439 \u043a\u043b\u0430\u0441\u0441 \u2260 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0439<\/strong>.<\/p>\n<\/li>\n<\/ol>\n<figure class=\"full-width\">\n<div><figcaption>\u041a\u0440\u0438\u0442\u0435\u0440\u0438\u0439 \u0443\u0441\u043f\u0435\u0448\u043d\u043e\u0441\u0442\u0438 \u043e\u0434\u043d\u043e\u0439 \u0438\u0442\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u044d\u043d\u043a\u043e\u0434\u0435\u0440 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u043f\u0440\u0438 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 adversarial \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432<\/figcaption><\/div>\n<\/figure>\n<p>\u041f\u043e\u0441\u043b\u0435 \u044d\u0442\u043e\u0433\u043e \u043f\u043e\u043b\u0443\u0447\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u043e\u0442\u00a0<em>RayS<\/em>\u00a0\u0438\u00a0<em>SurFree<\/em>\u00a0\u043f\u043e\u0434\u0430\u0451\u043c \u0432 VLM \u0438 \u043f\u0440\u043e\u0441\u0438\u043c \u0434\u0430\u0442\u044c \u043e\u0442\u0432\u0435\u0442 \u0432 \u0432\u0438\u0434\u0435 \u043e\u0434\u043d\u043e\u0433\u043e \u043a\u043b\u0430\u0441\u0441\u0430. \u0415\u0441\u043b\u0438 \u043a\u043b\u0430\u0441\u0441 \u043e\u0442\u043b\u0438\u0447\u0430\u0435\u0442\u0441\u044f \u043e\u0442 \u0438\u0441\u0442\u0438\u043d\u043d\u043e\u0433\u043e, \u0437\u043d\u0430\u0447\u0438\u0442, \u0430\u0442\u0430\u043a\u0430 \u0441\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u0438 \u043d\u0430 VLM.<\/p>\n<h3>\u0414\u0430\u043d\u043d\u044b\u0435<\/h3>\n<p>\u0427\u0442\u043e \u043a\u0430\u0441\u0430\u0435\u0442\u0441\u044f \u0441\u0430\u043c\u0438\u0445 \u0434\u0430\u043d\u043d\u044b\u0445 \u2014 \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043b\u0438\u0441\u044c \u043f\u043e\u0434\u043c\u043d\u043e\u0436\u0435\u0441\u0442\u0432\u0430 \u0438\u0437 <strong>CIFAR-10<\/strong>, <strong>CIFAR-100<\/strong> \u0438 <strong>CALTECH-101<\/strong>:<\/p>\n<ul>\n<li>\n<p>\u0414\u043b\u044f <strong>RayS<\/strong> \u2014 1000 \u0441\u043b\u0443\u0447\u0430\u0439\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0438\u0437 CIFAR-10, CIFAR-100;<\/p>\n<\/li>\n<li>\n<p>\u0414\u043b\u044f <strong>SurFree<\/strong> \u2014 1487 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432 \u0438\u0437 CIFAR-10 \u0438 503 \u0438\u0437 20 \u043a\u043b\u0430\u0441\u0441\u043e\u0432 CALTECH-101.<\/p>\n<\/li>\n<\/ul>\n<p>\u041f\u043e\u0447\u0435\u043c\u0443 \u0438\u043c\u0435\u043d\u043d\u043e 20 \u043a\u043b\u0430\u0441\u0441\u043e\u0432, \u0430 \u043d\u0435 \u0432\u0441\u0435 101? \u041f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e VLM-\u043c\u043e\u0434\u0435\u043b\u0438 \u0434\u0430\u0436\u0435 \u043d\u0430 \u00ab\u0447\u0438\u0441\u0442\u044b\u0445\u00bb \u043f\u0440\u0438\u043c\u0435\u0440\u0430\u0445 \u0441\u043b\u0438\u0448\u043a\u043e\u043c \u0447\u0430\u0441\u0442\u043e \u043e\u0448\u0438\u0431\u0430\u043b\u0438\u0441\u044c \u0441 \u0442\u0430\u043a\u0438\u043c \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e\u043c \u043a\u043b\u0430\u0441\u0441\u043e\u0432.<\/p>\n<h3>\u041e\u0446\u0435\u043d\u043a\u0430 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0430<\/h3>\n<p>\u0427\u0442\u043e\u0431\u044b \u043e\u0446\u0435\u043d\u0438\u0442\u044c \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u044c \u0430\u0442\u0430\u043a\u0438, \u0432\u0432\u043e\u0434\u0438\u0442\u0441\u044f <strong>ASR (Attack Success Rate)<\/strong> \u2014 \u044d\u0442\u043e \u0434\u043e\u043b\u044f \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0445 \u0430\u0442\u0430\u043a, \u043a\u043e\u0433\u0434\u0430:<\/p>\n<ol>\n<li>\n<p>\u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u043c\u043e\u0434\u0435\u043b\u044c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u044f\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e;<\/p>\n<\/li>\n<li>\n<p>\u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043f\u0440\u0438\u043c\u0435\u0440 \u2014 <strong>\u043d\u0435\u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e<\/strong>.<\/p>\n<\/li>\n<\/ol>\n<p>\u0424\u043e\u0440\u043c\u0443\u043b\u0430:<\/p>\n<p>\u0433\u0434\u0435:<\/p>\n<ul>\n<li>\n<p> \u2014 \u0430\u0442\u0430\u043a\u0443\u0435\u043c\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c (VLM);<\/p>\n<\/li>\n<li>\n<p> \u2014 \u0438\u0441\u0445\u043e\u0434\u043d\u044b\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b;<\/p>\n<\/li>\n<li>\n<p>\u2014 \u0430\u0442\u0430\u043a\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u0432\u0435\u0440\u0441\u0438\u0438 \u0442\u0435\u0445 \u0436\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432;<\/p>\n<\/li>\n<li>\n<p>\u200b\u200b\u200b \u2014 \u0438\u0441\u0442\u0438\u043d\u043d\u044b\u0435 \u043c\u0435\u0442\u043a\u0438;<\/p>\n<\/li>\n<li>\n<p> \u2014 \u0438\u043d\u0434\u0438\u043a\u0430\u0442\u043e\u0440 (\u0432\u043e\u0437\u0432\u0440\u0430\u0449\u0430\u0435\u0442\u202f1, \u0435\u0441\u043b\u0438 \u0443\u0441\u043b\u043e\u0432\u0438\u0435 \u0432\u044b\u043f\u043e\u043b\u043d\u044f\u0435\u0442\u0441\u044f, \u0438\u043d\u0430\u0447\u0435\u202f0);<\/p>\n<\/li>\n<li>\n<p>\u2014 \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u043e \u043f\u0440\u0438\u043c\u0435\u0440\u043e\u0432, \u043d\u0430 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043c\u043e\u0434\u0435\u043b\u044c \u0438\u0437\u043d\u0430\u0447\u0430\u043b\u044c\u043d\u043e \u043e\u0442\u0432\u0435\u0447\u0430\u0435\u0442 \u043f\u0440\u0430\u0432\u0438\u043b\u044c\u043d\u043e.<\/p>\n<\/li>\n<\/ul>\n<p>\u0415\u0441\u043b\u0438 \u043c\u043e\u0434\u0435\u043b\u044c \u0438 \u0431\u0435\u0437 \u0430\u0442\u0430\u043a\u0438 \u043e\u0448\u0438\u0431\u0430\u043b\u0430\u0441\u044c, \u0441\u0447\u0438\u0442\u0430\u0442\u044c \u0442\u0430\u043a\u0438\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u044b \u0437\u0430 \u0443\u0441\u043f\u0435\u0448\u043d\u044b\u0435 \u0430\u0442\u0430\u043a\u0438 \u2014 \u0431\u0435\u0441\u0441\u043c\u044b\u0441\u043b\u0435\u043d\u043d\u043e. \u041f\u043e\u044d\u0442\u043e\u043c\u0443 \u0432 \u043c\u0435\u0442\u0440\u0438\u043a\u0435 \u0442\u0430\u043a\u0438\u0435 \u0441\u043b\u0443\u0447\u0430\u0438 \u043e\u0442\u0431\u0440\u0430\u0441\u044b\u0432\u0430\u044e\u0442\u0441\u044f.<\/p>\n<p>\u0427\u0442\u043e\u0431\u044b \u043f\u043e\u0434\u0442\u0432\u0435\u0440\u0434\u0438\u0442\u044c, \u0447\u0442\u043e \u0430\u0442\u0430\u043a\u0430 \u0434\u0430\u0451\u0442 \u044d\u0444\u0444\u0435\u043a\u0442 <strong>\u043d<\/strong><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-473597","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/473597","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=473597"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/473597\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=473597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=473597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=473597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}