{"id":428676,"date":"2024-08-08T21:00:34","date_gmt":"2024-08-08T21:00:34","guid":{"rendered":"http:\/\/savepearlharbor.com\/?p=428676"},"modified":"-0001-11-30T00:00:00","modified_gmt":"-0001-11-29T21:00:00","slug":"","status":"publish","type":"post","link":"https:\/\/savepearlharbor.com\/?p=428676","title":{"rendered":"<span>\u0411\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u044c ML \u2014 \u0444\u0430\u043d\u0442\u0430\u0437\u0438\u0438, \u0438\u043b\u0438 \u0440\u0435\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u044c?<\/span>"},"content":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u042f \u0430\u0432\u0442\u043e\u0440 \u043a\u0430\u043d\u0430\u043b\u0430 <a href=\"https:\/\/t.me\/borismlsec\" rel=\"noopener noreferrer nofollow\">\u00ab\u0411\u043e\u0440\u0438\u0441_\u044c \u0441 ml\u00bb<\/a>, \u0433\u0434\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0432 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043a\u0430\u043a \u0437\u0430\u0449\u0438\u0449\u0430\u0442\u044c \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435. \u042d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f &#8212; \u0432\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u0441\u043b\u044b\u0448\u0430\u043b \u043e \u0442\u0430\u043a\u0438\u0445 \u043f\u043e\u043d\u044f\u0442\u0438\u044f\u0445, \u043a\u0430\u043a MLSecOps, Adversarial Attacks, Prompt Injection\/Jailbreaking, \u043d\u043e \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u043b, \u043a\u0430\u043a\u043e\u0439 \u0432\u043e \u0432\u0441\u0435\u043c \u044d\u0442\u043e\u043c \u0441\u043c\u044b\u0441\u043b? \u0415\u0441\u0442\u044c \u043b\u0438 \u0432 \u044d\u0442\u043e\u043c \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0430\u044f, \u0438 \u043d\u0435 \u0432\u043e\u044e\u044e\u0442 \u043b\u0438 \u044d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u044b \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0441 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u043c\u044b\u043c \u043c\u043e\u043d\u0441\u0442\u0440\u043e\u043c?..<\/p>\n<p>\u0414\u0430, <a href=\"https:\/\/t.me\/addlist\/MjjAykHIZps0M2Vi\" rel=\"noopener noreferrer nofollow\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0433\u043e \u0418\u0418<\/a> \u043c\u043d\u043e\u0433\u043e \u043f\u0438\u0448\u0435\u0442 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 ml-\u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u0440\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438 MLSecOps, \u043f\u043e \u0440\u0435\u0433\u0443\u043b\u044f\u0442\u043e\u0440\u043d\u0443\u044e \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c&#8230; \u041d\u043e \u044d\u0442\u043e \u0432\u0441\u0435 \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u0431\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043e\u0442 \u0436\u0438\u0437\u043d\u0438. \u041a\u0430\u043a \u0434\u043e\u043b\u0436\u0435\u043d \u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0437\u043b\u043e\u0443\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0438\u043a, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0447\u0442\u043e\u0431\u044b \u043e\u0431\u043e\u0439\u0442\u0438 anomaly detection \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u0439 UEBA\/SIEM, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, Boundary Attack? \u0418\u043b\u0438 \u043a\u0430\u043a \u0435\u043c\u0443 \u0434\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0434\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043a\u0430\u043a \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u0442\u044c \u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043b\u044f <a href=\"https:\/\/arxiv.org\/pdf\/2108.01644\" rel=\"noopener noreferrer nofollow\">\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439<\/a>)?<br \/>\u041f\u0440\u0435\u0434\u0441\u0442\u043e\u0438\u0442 \u043b\u0438 \u043d\u0430\u0439\u0442\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043d\u0430 \u044d\u0442\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0432 \u0431\u0443\u0434\u0443\u0449\u0435\u043c, \u0438\u043b\u0438 \u043e\u043d\u0438 \u0435\u0441\u0442\u044c \u0443\u0436\u0435 \u0441\u0435\u0433\u043e\u0434\u043d\u044f? \u0410 \u043c\u043e\u0436\u0435\u0442, \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0439 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u043b\u0438\u0448\u044c \u0432 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u043e\u0441\u043e\u0431\u043e \u043f\u0440\u043e\u0441\u0432\u0435\u0449\u0435\u043d\u043d\u044b\u0445 \u0441\u043b\u0443\u0436\u0438\u0442\u0435\u043b\u0435\u0439 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 ML? \u0421\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043e\u0442\u043c\u0435\u0447\u0443 \u0442\u0435 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u0435\u043d\u0438\u044f \u0432\u043b\u0438\u044f\u043d\u0438\u044f \u043d\u0430 \u0441\u0430\u043c\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0410\u0442\u0430\u043a\u0438 \u0442\u0438\u043f\u0430 supply chain, \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0430\u0446\u0438\u0438 \u043a\u043e\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0433\u043e \u044f \u043e\u0441\u0442\u0430\u0432\u043b\u044e \u0437\u0430 \u0441\u043a\u043e\u0431\u043a\u0430\u043c\u0438, \u0430 \u0442\u043e\u0447\u043d\u0435\u0435 &#8212; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u0431\u0443\u0434\u0435\u0442 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0437 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0445 \u0441\u0441\u044b\u043b\u043e\u043a. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 <a href=\"https:\/\/medium.com\/@joas.brito\/machine-learning-vulnerabilities-40a4ac3cd859\" rel=\"noopener noreferrer nofollow\">\u0442\u0443\u0442<\/a>.<\/p>\n<h2>\u041f\u043e\u0438\u0441\u043a. \u041f\u0435\u0440\u0432\u0430\u044f \u043d\u0430\u0445\u043e\u0434\u043a\u0430<\/h2>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441 \u043d\u0430\u0447\u0430\u043b\u0430 \u0433\u043e\u0434\u0430 \u043c\u0435\u043d\u044f \u0431\u0435\u0441\u043f\u043e\u043a\u043e\u0438\u043b\u043e, \u0447\u0442\u043e \u043b\u0438\u0448\u044c \u0432 \u0430\u043a\u0430\u0434\u0435\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u0432\u0435\u0434\u0435\u0442\u0441\u044f \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043f\u043e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u0430\u0442\u0430\u043a \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u043d\u0430\u0447\u0430\u043b\u0430\u0441\u044c \u043e\u043d\u0430 \u0435\u0449\u0435 \u0441 2014 \u0433\u043e\u0434\u0430, <a href=\"https:\/\/arxiv.org\/pdf\/1412.6572\" rel=\"noopener noreferrer nofollow\">\u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e adversarial examples<\/a> \u043e\u0442 Ian Goodfellow. \u041d\u043e\u00a0\u0432 \u043d\u043e\u0432\u043e\u0441\u0442\u044f\u0445 \u0438 \u043e\u0442\u0447\u0435\u0442\u0430\u0445 \u043f\u043e\u00a0\u0440\u0430\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044e \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c, \u0447\u0442\u043e\u00a0\u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0443\u0432\u0438\u0434\u0435\u0442\u044c\u00a0\u2014 \u044d\u0442\u043e \u043a\u0430\u043a\u00a0\u043e\u043f\u0440\u043e\u0441\u0442\u043e\u0432\u043e\u043b\u043e\u0441\u0438\u043b\u0441\u044f \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0447\u0430\u0442\u0431\u043e\u0442, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u043f\u0440\u043e\u0434\u0430\u0442\u044c \u043c\u0430\u0448\u0438\u043d\u0443 \u0437\u0430 $1, \u0438\u043b\u0438\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u0447\u0430\u043b \u0440\u0443\u0433\u0430\u0442\u044c \u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u044e \u0441\u0432\u043e\u0435\u0439\u00a0\u0436\u0435 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438. \u041f\u0440\u043e \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u0441\u0442\u0440\u0430\u0448\u0438\u043b\u043a\u0438 \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c <a href=\"https:\/\/www.hackerone.com\/ai\/top-10-ai-embarrassments\" rel=\"noopener noreferrer nofollow\">\u0442\u0443\u0442<\/a>.<\/p>\n<p>\u041f\u0435\u0440\u0432\u044b\u043c \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0442\u0430\u043b\u043e \u0442\u043e, \u0447\u0442\u043e \u043d\u0435 \u0432\u0441\u0451 \u0432 <a href=\"https:\/\/atlas.mitre.org\/studies\" rel=\"noopener noreferrer nofollow\">MITRE ATLAS Case Studies<\/a> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u043d\u044b\u043c\u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f\u043c\u0438.<\/p>\n<h3>Model Evasion<\/h3>\n<p>\u2796\u041e\u0431\u043c\u0430\u043d \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f\u00a0\u043b\u0438\u0447\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u00a0\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u0443\u0434\u043e\u0441\u0442\u043e\u0432\u0435\u0440\u0435\u043d\u0438\u044f. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0004\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u041e\u0431\u043c\u0430\u043d \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0436\u0435\u0440\u0442\u0432\u044b \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0439 \u0441 \u0447\u0435\u0440\u043d\u043e\u0433\u043e \u0440\u044b\u043d\u043a\u0430. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0017\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u0421\u0430\u043c\u044b\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0435, \u043a\u0430\u043a\u00a0\u043f\u043e\u00a0\u043c\u043d\u0435, \u043a\u0435\u0439\u0441\u044b, \u0445\u043e\u0442\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u0442\u0430\u043a \u0442\u0443\u0442 \u043d\u0435\u0442<\/em><\/p>\n<h3>Data Poisoning<\/h3>\n<p>\u2796\u041d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u043d\u0434\u043e\u0440\u043e\u0432 \u0441\u0442\u0430\u043b\u0438 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \u043a\u0430\u043a \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435, \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0432 \u0438\u0445 \u0441 VirusTotal \u0438 \u043e\u0431\u0443\u0447\u0438\u0432 \u043d\u0430 \u043d\u0438\u0445 \u0441\u0432\u043e\u0438 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043e\u043d\u0438 \u0438\u043c\u0438\u0442\u0438\u0440\u0443\u044e\u0442 \u0434\u043e\u0431\u0440\u043e\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u041f\u041e. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0002\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u0427\u0430\u0442\u0431\u043e\u0442 Microsoft Tay \u043e\u0431\u0443\u0447\u0438\u043b\u0441\u044f \u043d\u0430 \u043f\u043b\u043e\u0445\u0438\u0445 \u0442\u0432\u0438\u0442\u0430\u0445 \u0438 \u0441\u0442\u0430\u043b \u043d\u0435\u043d\u0430\u0432\u0438\u0434\u0435\u0442\u044c \u043f\u043e\u043b \u043c\u0438\u0440\u0430. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0009\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0443 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043b\u0438\u0446\u0430, \u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0006\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u0417\u0434\u0435\u0441\u044c \u0442\u043e\u0436\u0435 \u043d\u0435\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 &#171;\u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445&#187; \u0438\u043d\u044a\u0435\u043a\u0446\u0438\u0439, \u043d\u043e \u043f\u043e \u043b\u043e\u0433\u0438\u043a\u0430 \u0448\u0430\u0433\u043e\u0432 \u0430\u0442\u0430\u043a\u0438 \u0441\u043e\u0431\u043b\u044e\u0434\u0435\u043d\u0430<\/em><\/p>\n<h3>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0432 \u043a\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n<p>\u2796\u0421\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u0434 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 dependency-\u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a PyTorch \u043f\u0440\u0438\u0432\u0435\u043b \u043a \u043d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u044e \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0015\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f supply chain \u0430\u0442\u0430\u043a\u0430.<\/em><\/p>\n<h2>\u0410 \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u0432 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0435?<\/h2>\n<p>\u041e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u0432\u043d\u043e\u0441\u0438\u0442 \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0444\u0438\u0440\u043c\u0430 Trail of Bits, \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0449\u0430\u044f\u0441\u044f \u043a\u043e\u043d\u0441\u0430\u043b\u0442\u0438\u043d\u0433\u043e\u043c \u0432 \u043a\u0438\u0431\u0435\u0440\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. \u0418, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0443 \u043d\u0438\u0445 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b\u0439 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 awesome-ml-security, \u0433\u0434\u0435 \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0447\u0438\u0445 \u0441\u0441\u044b\u043b\u043e\u043a, \u0435\u0441\u0442\u044c \u0438 \u043e\u0442\u043b\u0438\u0447\u043d\u0430\u044f \u0442\u0430\u0431\u043b\u0438\u0447\u043a\u0430 \u0441 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u0430\u043c\u0438 <a href=\"https:\/\/github.com\/trailofbits\/awesome-ml-security?tab=readme-ov-file#notable-incidents\" rel=\"noopener noreferrer nofollow\">Notable Incidents<\/a>. <\/p>\n<p>\u041f\u0440\u043e \u0432\u0441\u0451 \u0435\u0451 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043d\u0435 \u0441\u0442\u0430\u043d\u0443, \u0437\u0430\u043e\u0441\u0442\u0440\u044e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u0430\u0440\u0435 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u0438\u0437 \u043d\u0435\u0435.<br \/>\u2796<a href=\"https:\/\/github.com\/moohax\/Proof-Pudding\" rel=\"noopener noreferrer nofollow\">\u041e\u0431\u043c\u0430\u043d \u0430\u043d\u0442\u0438\u0441\u043f\u0430\u043c-\u043c\u043e\u0434\u0435\u043b\u0438 ProofPoint<\/a>. \u0421\u0443\u0442\u044c \u0442\u0430\u043a\u0430\u044f &#8212; \u0440\u0435\u0441\u0435\u0440\u0447\u0435\u0440\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b\u0438 \u0441\u043a\u043e\u043b\u044c\u043a\u043e-\u0442\u043e \u043f\u0438\u0441\u0435\u043c \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 \u043f\u0440\u0443\u0444\u043f\u043e\u0438\u043d\u0442\u043e\u043c (33\u043a \u0432 \u043e\u0431\u0449\u0435\u0439 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438), \u0438 \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 AWS SES (\u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0432\u0438\u0434\u0438\u043c\u043e \u043f\u043e\u0434\u0440\u0430\u0437\u0443\u043c\u0435\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u043b\u0438\u0447\u0438\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u0430). \u0414\u0430\u043b\u0435\u0435 \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u0430 \u044d\u0442\u0438\u0445 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 MLP \u043d\u0430 BagOfWords \u0438 LSTM\u043a\u0443, \u0438 \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0432\u044b\u0442\u0430\u0449\u0438\u043b\u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u0441\u043b\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044f\u0442 \u0441\u043a\u043e\u0440 \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0432\u0435\u0440\u0445. \u041f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043d\u0430\u0433\u0435\u043d\u0435\u0440\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0445 \u043f\u0438\u0441\u0435\u043c \u0431\u0435\u0437 \u044d\u0442\u0438\u0445 \u0441\u043b\u043e\u0432 \u0438 \u0434\u043e\u0441\u0442\u0438\u0433\u043b\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430.<br \/>\u2796 <a href=\"https:\/\/www.theverge.com\/2021\/8\/18\/22630439\/apple-csam-neuralhash-collision-vulnerability-flaw-cryptography\" rel=\"noopener noreferrer nofollow\">\u041e\u0431\u043c\u0430\u043d Apple NeuralHashing<\/a>. \u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u043a\u0430\u043a \u0437\u0430\u0440\u0435\u0432\u0435\u0440\u0441\u0438\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u0441\u044f\u043a\u0438\u0445 \u043d\u0435\u043f\u0440\u0438\u0441\u0442\u043e\u0439\u043d\u044b\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e \u043e\u043d \u043d\u0435\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432 \u043a \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430\u043c \u0438 \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438. \u0410 \u043f\u043e\u0442\u043e\u043c \u0435\u0449\u0435 \u0438 \u043d\u0430\u0448\u043b\u0438 \u0441\u043b\u0443\u0447\u0430\u0439 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044f \u0445\u044d\u0448\u0430 \u0443 \u0434\u0432\u0443\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439. \u042d\u043f\u043f\u043b \u0432 \u043e\u0442\u0432\u0435\u0442 \u0441\u043a\u0430\u0437\u0430\u043b\u0430, \u0447\u0442\u043e \u0432\u0441\u0435 \u043e\u043a, \u0442\u0430\u043a \u0438 \u0431\u044b\u043b\u043e \u0437\u0430\u0434\u0443\u043c\u0430\u043d\u043e ?.<\/p>\n<h2>\u041f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0439 \u0438 \u0432\u0441\u0435\u043c \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439<\/h2>\n<p>\u041e\u0442\u043c\u0435\u0447\u0443 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e <a href=\"https:\/\/incidentdatabase.ai\/\" rel=\"noopener noreferrer nofollow\">AI Incidents DataBase<\/a>, \u0442\u0430\u043a \u043a\u0430\u043a \u043c\u043d\u043e\u0433\u0438\u0435 \u0441\u0442\u0430\u0432\u044f\u0442 \u0435\u0435 \u0432 \u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u0430\u043a &#171;\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0441\u0431\u043e\u0440\u043d\u0438\u043a \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0445 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432&#187;. \u041e\u0434\u043d\u0430\u043a\u043e \u043b\u0438\u0447\u043d\u043e \u044f \u043f\u043e\u043a\u0430 \u043d\u0435 \u043d\u0430\u0445\u043e\u0436\u0443 \u0435\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439. \u042f \u043d\u0435 \u0441\u043c\u043e\u0433 \u043d\u0430 \u043d\u0435\u0439 \u043d\u0430\u0439\u0442\u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0431\u044b\u043b\u0430 \u0437\u0430\u0442\u0440\u043e\u043d\u0443\u0442\u0430 \u0438 \u0441\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0438\u043b\u0438 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c ML-\u0441\u0438\u0441\u0442\u0435\u043c\u044b. \u0412 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u044d\u0442\u043e \u0441\u043e\u0431\u0440\u0430\u043d\u0438\u0435 \u043f\u043e\u043f\u0443\u043b\u0438\u0441\u0442\u0441\u043a\u0438\u0445 \u043d\u043e\u0432\u043e\u0441\u0442\u0435\u0439. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443 &#171;model backdoor&#187; \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0430 <a href=\"https:\/\/incidentdatabase.ai\/cite\/571\/#r3221\" rel=\"noopener noreferrer nofollow\">\u0443\u0442\u0435\u0447\u043a\u0438 38 TB \u0434\u0430\u043d\u043d\u044b\u0445 \u0443 Microsoft<\/a>. \u0410 \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443 &#171;poisoning&#187; \u0445\u043e\u0442\u044c \u043c\u043d\u0435 \u0438 \u0432\u044b\u0434\u0430\u043b\u0430\u0441\u044c \u0432\u0440\u043e\u0434\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430\u044f \u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e \u0442\u043e, \u043a\u0430\u043a \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 <a href=\"https:\/\/incidentdatabase.ai\/cite\/156\/#r1515\" rel=\"noopener noreferrer nofollow\">Amazon \u0441\u0442\u0430\u043b\u0430 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u0442\u043e\u0432\u0430\u0440\u044b, \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u0434\u043b\u044f \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0441\u0443\u0438\u0446\u0438\u0434\u0430<\/a>, \u043d\u043e \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0434\u0435\u0442\u0430\u043b\u0435\u0439 \u0438 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0435\u0439 \u0432 \u043d\u0435\u0439 \u043d\u0435\u0442.<\/p>\n<h2>\u041a\u043e\u043f\u043d\u0435\u043c \u0433\u043b\u0443\u0431\u0436\u0435<\/h2>\n<p>\u0412 \u0442\u0430\u0431\u043b\u0438\u0447\u043a\u0435 Trail of Bits \u0441\u043b\u0430\u0439\u0434\u0435 64 <a href=\"https:\/\/github.com\/moohax\/Talks\/blob\/master\/slides\/DerbyCon19.pdf\" rel=\"noopener noreferrer nofollow\">\u0432\u043e\u0442 \u044d\u0442\u043e\u0439 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e\u0439 \u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438<\/a> \u0441 DerbyCon2019 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 4 \u0441\u0443\u043f\u0435\u0440\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0430\u0442\u0430\u043a \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u044f\u043c \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0430\u0442\u0430\u043a. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u0440\u0438\u0432\u0435\u0434\u0443 <a href=\"https:\/\/skylightcyber.com\/2019\/07\/18\/cylance-i-kill-you\/\" rel=\"noopener noreferrer nofollow\">\u043a\u0435\u0439\u0441 \u043e\u0431\u043c\u0430\u043d\u0430 \u0430\u043d\u0442\u0438\u0432\u0438\u0440\u0443\u0441\u0430 Cylance<\/a>. <\/p>\n<p>\u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u0438\u0437 Skylight Cyber \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e, \u0438\u043c\u0435\u044f \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u043e\u043c\u0443 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044e \u0430\u043d\u0442\u0438\u0432\u0438\u0440\u0443\u0441\u0430, \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u0430\u043d\u0430\u043b\u0438\u0437 \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u044b (\u0432\u043a\u043b\u044e\u0447\u0438\u0432 <a href=\"https:\/\/home-support.cylance.com\/hc\/en-us\/articles\/115013840527-How-to-Cylance-Agent-Advanced-UI-Mode\" rel=\"noopener noreferrer nofollow\">verbose logging<\/a>). \u041f\u0440\u043e\u0432\u0435\u0434\u044f \u0442\u0430\u043a\u043e\u0439 \u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u043d\u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e Cylance EPP \u0438\u043c\u0435\u0435\u0442 \u0443\u043a\u043b\u043e\u043d \u043f\u0440\u0438 \u0432\u044b\u043d\u0435\u0441\u0435\u043d\u0438\u0438 \u0432\u0435\u0440\u0434\u0438\u043a\u0442\u0430 \u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f, \u0435\u0441\u043b\u0438 \u043e\u043d\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u0447\u043a\u0438 \u0432 \u043a\u043e\u0434\u0435 \u0444\u0430\u0439\u043b\u0430 (\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0444\u0438\u0447\u0438 ml-\u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043b\u0438 \u0438\u0437 \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044f \u0442\u0435\u0445 \u0438\u043b\u0438 \u0438\u043d\u044b\u0445 \u0441\u0442\u0440\u043e\u043a \u043a\u043e\u0434\u0430 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u043e\u0439 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b). \u0414\u0430\u043b\u0435\u0435 \u043e\u043d\u0438 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0439 &#171;\u0426\u0435\u043d\u0442\u0440\u043e\u0438\u0434\u044b&#187;. \u0415\u0433\u043e \u0441\u0443\u0442\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u044d\u0442\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u043c\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432. \u041a\u0430\u0436\u0434\u0430\u044f \u0446\u0435\u043d\u0442\u0440\u043e\u0438\u0434\u0430 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043f\u043b\u043e\u0445\u043e\u0439 \u0438\u043b\u0438 \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0444\u0430\u0439\u043b, \u0438 \u0438\u0445 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0438\u043c\u0435\u043d\u0430\u043c \u0444\u0430\u0439\u043b\u043e\u0432. \u0410 \u0443 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0431\u044b\u043b\u043e \u043a\u0430\u043a \u0443 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d-\u0438\u0433\u0440\u044b Rocket League, \u0438 \u043e\u043d\u0430 \u0431\u044b\u043b\u0430 \u043e\u0442\u043c\u0435\u0447\u0435\u043d\u0430 \u043a\u0430\u043a whitelist (\u0442\u043e \u0435\u0441\u0442\u044c \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u043d\u0430 \u043d\u0435\u0435 \u0444\u0430\u0439\u043b\u044b \u0442\u043e\u0436\u0435 \u043f\u043e\u043f\u0430\u0434\u0430\u043b\u0438 \u0432 whitelist). \u0418 \u043a\u0443\u043b\u044c\u043c\u0438\u043d\u0430\u0446\u0438\u044f &#8212; \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u044e\u0442 \u0438\u0433\u0440\u0443, \u0432\u044b\u0442\u0430\u0441\u043a\u0438\u0432\u0430\u044e\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u043a\u043e\u0434\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u0437\u043d\u0430\u043b\u0438 \u0438\u0437 \u0441\u043e\u0441\u0442\u0430\u0432\u0430 \u0444\u0438\u0447\u0435\u0439 \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0438 \u043f\u0440\u0438\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043a \u0432\u0438\u0440\u0443\u0441\u0430\u043c. \u0418\u0442\u043e\u0433 &#8212; 100% \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u0442\u043e\u043f-10 \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043e\u0432 \u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043c\u0430\u044f 2019, \u0438 \u043f\u043e\u0447\u0442\u0438 90% \u043d\u0430 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0438\u0437 384 \u043c\u0430\u043b\u0432\u0430\u0440\u0435\u0439.<\/p>\n<h2>\u0418\u0442\u043e\u0433. \u0420\u0435\u0441\u0443\u0440\u0441\u044b \u0441 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u0430\u043c\u0438<\/h2>\n<p>\u041e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f, \u043d\u0435 \u0441\u043e\u0432\u0441\u0435\u043c \u0432 \u043a\u043e\u0441\u043c\u043e\u0441\u0435 \u043f\u0443\u0441\u0442\u043e. \u0414\u0430, \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0441\u0448\u0435\u0441\u0442\u0432\u0438\u0439 \u0441 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435\u043c \u0437\u043d\u0430\u043d\u0438\u0439 \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0441\u0435 \u0435\u0449\u0435 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e, \u043d\u043e, \u043a\u0430\u043a \u043c\u044b \u0442\u0435\u043f\u0435\u0440\u044c \u0432\u0438\u0434\u0438\u043c, \u0445\u0430\u043a\u0435\u0440\u0441\u043a\u0430\u044f \u043c\u044b\u0441\u043b\u044c \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435. \u0414\u0430\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u043d\u0430\u0445\u043e\u0434\u044f\u0442\u0441\u044f \u0432 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f, \u0438 \u043b\u0438\u0448\u044c \u0432\u043e\u043f\u0440\u043e\u0441 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u043a\u043e\u0433\u0434\u0430 \u044d\u0442\u043e\u0442 \u0432\u0435\u043a\u0442\u043e\u0440 \u0443\u0433\u0440\u043e\u0437 \u0441\u0442\u0430\u043d\u0435\u0442 \u043d\u043e\u0432\u044b\u043c \u0442\u0440\u0435\u043d\u0434\u043e\u043c \u0432\u0441\u0435\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. <\/p>\n<p>\u0410 \u0435\u0449\u0435 \u0443 \u043c\u0435\u043d\u044f \u0432 \u0437\u0430\u0433\u0430\u0448\u043d\u0438\u043a\u0435 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0441\u0441\u044b\u043b\u043a\u0438, \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043f\u043e\u0438\u0441\u043a\u0430, \u043d\u043e \u043d\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u0438 \u043d\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u043d\u044b\u0435. \u041f\u0440\u0438 \u0436\u0435\u043b\u0430\u043d\u0438\u0438, \u0432\u044b \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0438 \u0441\u0430\u043c\u0438 \u0438\u0445 \u0440\u0430\u0441\u043a\u043e\u043f\u0430\u0442\u044c \u043f\u043e \u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u043c\u043d\u043e\u044e \u0432\u044b\u0448\u0435 \u0441\u0441\u044b\u043b\u043a\u0430\u043c. \u041d\u0443 \u0438\u043b\u0438 \u043f\u043e\u0434\u043e\u0436\u0434\u0438\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u044f \u0441\u0434\u0435\u043b\u0430\u044e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043e\u0431\u0437\u043e\u0440 \ud83d\ude09<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/atlas.mitre.org\/studies\" rel=\"noopener noreferrer nofollow\">MITRE ATLAS Case Studies<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/trailofbits\/awesome-ml-security\" rel=\"noopener noreferrer nofollow\">\u0422\u0430\u0431\u043b\u0438\u0447\u043a\u0430 \u043e\u0442 Trail of Bits<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/oecd.ai\/en\/incidents?search_terms=%5B%5D&amp;and_condition=false&amp;from_date=2014-01-01&amp;to_date=2024-01-12&amp;properties_config=%7B%22principles%22:%5B%5D,%22industries%22:%5B%5D,%22harm_types%22:%5B%5D,%22harm_levels%22:%5B%5D,%22harmed_entities%22:%5B%5D%7D&amp;only_threats=false&amp;order_by=date&amp;num_results=20\" rel=\"noopener noreferrer nofollow\">OECD AI Monitoring<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/incidentdatabase.ai\/\" rel=\"noopener noreferrer nofollow\">AI Incidents DataBase<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/moohax\/Talks\/blob\/master\/slides\/DerbyCon19.pdf\" rel=\"noopener noreferrer nofollow\">64 \u0441\u043b\u0430\u0439\u0434 \u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438<\/a> \u043e\u0442 <a href=\"https:\/\/twitter.com\/moo_hax\" rel=\"noopener noreferrer nofollow\">Will Pearce<\/a> \u0438 <a href=\"https:\/\/twitter.com\/monoxgas\" rel=\"noopener noreferrer nofollow\">Nick Landers<\/a>.<\/p>\n<\/li>\n<\/ul>\n<hr\/>\n<p>\u0423\u0434\u0430\u0447\u043d\u044b\u0445 \u0432\u0430\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439 \u0438 \u043f\u043e\u0438\u0441\u043a\u043e\u0432, \u043a\u043e\u043b\u043b\u0435\u0433\u0438!<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/834800\/\"> https:\/\/habr.com\/ru\/articles\/834800\/<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<div><!--[--><!--]--><\/div>\n<div id=\"post-content-body\">\n<div>\n<div class=\"article-formatted-body article-formatted-body article-formatted-body_version-2\">\n<div xmlns=\"http:\/\/www.w3.org\/1999\/xhtml\">\n<p>\u041f\u0440\u0438\u0432\u0435\u0442, \u0425\u0430\u0431\u0440! \u042f \u0430\u0432\u0442\u043e\u0440 \u043a\u0430\u043d\u0430\u043b\u0430 <a href=\"https:\/\/t.me\/borismlsec\" rel=\"noopener noreferrer nofollow\">\u00ab\u0411\u043e\u0440\u0438\u0441_\u044c \u0441 ml\u00bb<\/a>, \u0433\u0434\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b\u0432\u0430\u044e \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0432 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438, \u0430 \u0442\u0430\u043a\u0436\u0435 \u043a\u0430\u043a \u0437\u0430\u0449\u0438\u0449\u0430\u0442\u044c \u0441\u0438\u0441\u0442\u0435\u043c\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u043d\u044f\u0435\u0442\u0441\u044f \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435. \u042d\u0442\u0430 \u0441\u0442\u0430\u0442\u044c\u044f &#8212; \u0432\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0434\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u0441\u043b\u044b\u0448\u0430\u043b \u043e \u0442\u0430\u043a\u0438\u0445 \u043f\u043e\u043d\u044f\u0442\u0438\u044f\u0445, \u043a\u0430\u043a MLSecOps, Adversarial Attacks, Prompt Injection\/Jailbreaking, \u043d\u043e \u043d\u0438\u043a\u043e\u0433\u0434\u0430 \u043d\u0435 \u043f\u043e\u043d\u0438\u043c\u0430\u043b, \u043a\u0430\u043a\u043e\u0439 \u0432\u043e \u0432\u0441\u0435\u043c \u044d\u0442\u043e\u043c \u0441\u043c\u044b\u0441\u043b? \u0415\u0441\u0442\u044c \u043b\u0438 \u0432 \u044d\u0442\u043e\u043c \u043a\u0430\u043a\u0430\u044f-\u0442\u043e \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u044f\u044e\u0449\u0430\u044f, \u0438 \u043d\u0435 \u0432\u043e\u044e\u044e\u0442 \u043b\u0438 \u044d\u043d\u0442\u0443\u0437\u0438\u0430\u0441\u0442\u044b \u044d\u0442\u043e\u0433\u043e \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u0441 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u043c\u044b\u043c \u043c\u043e\u043d\u0441\u0442\u0440\u043e\u043c?..<\/p>\n<p>\u0414\u0430, <a href=\"https:\/\/t.me\/addlist\/MjjAykHIZps0M2Vi\" rel=\"noopener noreferrer nofollow\">\u0441\u043e\u043e\u0431\u0449\u0435\u0441\u0442\u0432\u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0433\u043e \u0418\u0418<\/a> \u043c\u043d\u043e\u0433\u043e \u043f\u0438\u0448\u0435\u0442 \u043e \u0442\u043e\u043c, \u043a\u0430\u043a \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0442 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0435 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 ml-\u043c\u043e\u0434\u0435\u043b\u0438, \u043f\u0440\u043e \u0444\u0440\u0435\u0439\u043c\u0432\u043e\u0440\u043a\u0438 MLSecOps, \u043f\u043e \u0440\u0435\u0433\u0443\u043b\u044f\u0442\u043e\u0440\u043d\u0443\u044e \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c&#8230; \u041d\u043e \u044d\u0442\u043e \u0432\u0441\u0435 \u043a\u0430\u043a \u0431\u0443\u0434\u0442\u043e \u0431\u044b \u0434\u0430\u043b\u0435\u043a\u043e \u043e\u0442 \u0436\u0438\u0437\u043d\u0438. \u041a\u0430\u043a \u0434\u043e\u043b\u0436\u0435\u043d \u0434\u0435\u0439\u0441\u0442\u0432\u043e\u0432\u0430\u0442\u044c \u0437\u043b\u043e\u0443\u043c\u044b\u0448\u043b\u0435\u043d\u043d\u0438\u043a, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0447\u0442\u043e\u0431\u044b \u043e\u0431\u043e\u0439\u0442\u0438 anomaly detection \u043c\u043e\u0434\u0435\u043b\u044c \u0432 \u0440\u0430\u0431\u043e\u0442\u0430\u044e\u0449\u0435\u0439 UEBA\/SIEM, \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u0443\u044f, \u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, Boundary Attack? \u0418\u043b\u0438 \u043a\u0430\u043a \u0435\u043c\u0443 \u0434\u043e\u0431\u0440\u0430\u0442\u044c\u0441\u044f \u0434\u043e \u0434\u0430\u043d\u043d\u044b\u0445 \u0438 \u043a\u0430\u043a \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0438\u0442\u044c \u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 (\u043d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u0434\u043b\u044f <a href=\"https:\/\/arxiv.org\/pdf\/2108.01644\" rel=\"noopener noreferrer nofollow\">\u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0433\u0435\u043d\u0435\u0440\u0430\u0442\u0438\u0432\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439<\/a>)?<br \/>\u041f\u0440\u0435\u0434\u0441\u0442\u043e\u0438\u0442 \u043b\u0438 \u043d\u0430\u0439\u0442\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043d\u0430 \u044d\u0442\u0438 \u0432\u043e\u043f\u0440\u043e\u0441\u044b \u0432 \u0431\u0443\u0434\u0443\u0449\u0435\u043c, \u0438\u043b\u0438 \u043e\u043d\u0438 \u0435\u0441\u0442\u044c \u0443\u0436\u0435 \u0441\u0435\u0433\u043e\u0434\u043d\u044f? \u0410 \u043c\u043e\u0436\u0435\u0442, \u0441\u0446\u0435\u043d\u0430\u0440\u0438\u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0439 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438 \u0441\u0443\u0449\u0435\u0441\u0442\u0432\u0443\u044e\u0442 \u043b\u0438\u0448\u044c \u0432 \u0432\u043e\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u043e\u0441\u043e\u0431\u043e \u043f\u0440\u043e\u0441\u0432\u0435\u0449\u0435\u043d\u043d\u044b\u0445 \u0441\u043b\u0443\u0436\u0438\u0442\u0435\u043b\u0435\u0439 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0435\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 ML? \u0421\u0435\u0439\u0447\u0430\u0441 \u0440\u0430\u0437\u0431\u0435\u0440\u0435\u043c\u0441\u044f.<\/p>\n<p>\u0413\u043b\u0430\u0432\u043d\u044b\u043c \u043e\u0431\u0440\u0430\u0437\u043e\u043c \u043e\u0442\u043c\u0435\u0447\u0443 \u0442\u0435 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u044b, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0438\u0442\u0441\u044f \u0438\u0437\u043c\u0435\u043d\u0435\u043d\u0438\u0435 \u0434\u0430\u043d\u043d\u044b\u0445 \u0434\u043b\u044f \u043e\u0441\u0443\u0449\u0435\u0441\u0442\u0432\u043b\u0435\u043d\u0438\u044f \u0432\u043b\u0438\u044f\u043d\u0438\u044f \u043d\u0430 \u0441\u0430\u043c\u0443 \u043c\u043e\u0434\u0435\u043b\u044c \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0410\u0442\u0430\u043a\u0438 \u0442\u0438\u043f\u0430 supply chain, \u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0430\u0446\u0438\u0438 \u043a\u043e\u0434\u0430 \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u043f\u043e\u0434\u043e\u0431\u043d\u043e\u0433\u043e \u044f \u043e\u0441\u0442\u0430\u0432\u043b\u044e \u0437\u0430 \u0441\u043a\u043e\u0431\u043a\u0430\u043c\u0438, \u0430 \u0442\u043e\u0447\u043d\u0435\u0435 &#8212; \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u044f \u0431\u0443\u0434\u0435\u0442 \u0432 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0438\u0437 \u043f\u0440\u0438\u0432\u0435\u0434\u0435\u043d\u043d\u044b\u0445 \u0441\u0441\u044b\u043b\u043e\u043a. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440 <a href=\"https:\/\/medium.com\/@joas.brito\/machine-learning-vulnerabilities-40a4ac3cd859\" rel=\"noopener noreferrer nofollow\">\u0442\u0443\u0442<\/a>.<\/p>\n<h2>\u041f\u043e\u0438\u0441\u043a. \u041f\u0435\u0440\u0432\u0430\u044f \u043d\u0430\u0445\u043e\u0434\u043a\u0430<\/h2>\n<p>\u041f\u0440\u0438\u043c\u0435\u0440\u043d\u043e \u0441 \u043d\u0430\u0447\u0430\u043b\u0430 \u0433\u043e\u0434\u0430 \u043c\u0435\u043d\u044f \u0431\u0435\u0441\u043f\u043e\u043a\u043e\u0438\u043b\u043e, \u0447\u0442\u043e \u043b\u0438\u0448\u044c \u0432 \u0430\u043a\u0430\u0434\u0435\u043c\u0438\u0447\u0435\u0441\u043a\u043e\u0439 \u0441\u0440\u0435\u0434\u0435 \u0432\u0435\u0434\u0435\u0442\u0441\u044f \u0434\u0435\u044f\u0442\u0435\u043b\u044c\u043d\u043e\u0441\u0442\u044c \u043f\u043e \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0435 \u0430\u0442\u0430\u043a \u043d\u0430 \u043c\u043e\u0434\u0435\u043b\u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f. \u0418 \u043d\u0430\u0447\u0430\u043b\u0430\u0441\u044c \u043e\u043d\u0430 \u0435\u0449\u0435 \u0441 2014 \u0433\u043e\u0434\u0430, <a href=\"https:\/\/arxiv.org\/pdf\/1412.6572\" rel=\"noopener noreferrer nofollow\">\u0441\u0442\u0430\u0442\u044c\u0438 \u043f\u0440\u043e adversarial examples<\/a> \u043e\u0442 Ian Goodfellow. \u041d\u043e\u00a0\u0432 \u043d\u043e\u0432\u043e\u0441\u0442\u044f\u0445 \u0438 \u043e\u0442\u0447\u0435\u0442\u0430\u0445 \u043f\u043e\u00a0\u0440\u0430\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044e \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u043c\u0430\u043a\u0441\u0438\u043c\u0443\u043c, \u0447\u0442\u043e\u00a0\u043c\u043e\u0436\u043d\u043e\u00a0\u0431\u044b\u043b\u043e \u0443\u0432\u0438\u0434\u0435\u0442\u044c\u00a0\u2014 \u044d\u0442\u043e \u043a\u0430\u043a\u00a0\u043e\u043f\u0440\u043e\u0441\u0442\u043e\u0432\u043e\u043b\u043e\u0441\u0438\u043b\u0441\u044f \u043e\u0447\u0435\u0440\u0435\u0434\u043d\u043e\u0439 \u0447\u0430\u0442\u0431\u043e\u0442, \u043a\u043e\u0442\u043e\u0440\u043e\u0433\u043e \u0437\u0430\u0441\u0442\u0430\u0432\u0438\u043b\u0438 \u043f\u0440\u043e\u0434\u0430\u0442\u044c \u043c\u0430\u0448\u0438\u043d\u0443 \u0437\u0430 $1, \u0438\u043b\u0438\u00a0\u043a\u043e\u0442\u043e\u0440\u044b\u0439 \u043d\u0430\u0447\u0430\u043b \u0440\u0443\u0433\u0430\u0442\u044c \u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u044e \u0441\u0432\u043e\u0435\u0439\u00a0\u0436\u0435 \u043a\u043e\u043c\u043f\u0430\u043d\u0438\u0438. \u041f\u0440\u043e \u043f\u043e\u0434\u043e\u0431\u043d\u044b\u0435 \u0441\u0442\u0440\u0430\u0448\u0438\u043b\u043a\u0438 \u043c\u043e\u0436\u0435\u0442\u0435 \u043f\u043e\u0447\u0438\u0442\u0430\u0442\u044c <a href=\"https:\/\/www.hackerone.com\/ai\/top-10-ai-embarrassments\" rel=\"noopener noreferrer nofollow\">\u0442\u0443\u0442<\/a>.<\/p>\n<p>\u041f\u0435\u0440\u0432\u044b\u043c \u043e\u0442\u043a\u0440\u044b\u0442\u0438\u0435\u043c \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0442\u0430\u043b\u043e \u0442\u043e, \u0447\u0442\u043e \u043d\u0435 \u0432\u0441\u0451 \u0432 <a href=\"https:\/\/atlas.mitre.org\/studies\" rel=\"noopener noreferrer nofollow\">MITRE ATLAS Case Studies<\/a> \u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043b\u0430\u0431\u043e\u0440\u0430\u0442\u043e\u0440\u043d\u044b\u043c\u0438 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f\u043c\u0438.<\/p>\n<h3>Model Evasion<\/h3>\n<p>\u2796\u041e\u0431\u043c\u0430\u043d \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f\u00a0\u043b\u0438\u0447\u043d\u043e\u0441\u0442\u0438 \u043f\u043e\u00a0\u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u0432\u043e\u0434\u0438\u0442\u0435\u043b\u044c\u0441\u043a\u043e\u0433\u043e \u0443\u0434\u043e\u0441\u0442\u043e\u0432\u0435\u0440\u0435\u043d\u0438\u044f. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0004\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u041e\u0431\u043c\u0430\u043d \u043c\u043e\u0434\u0435\u043b\u0438 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043d\u0438\u044f \u0447\u0435\u043b\u043e\u0432\u0435\u043a\u0430 \u0447\u0435\u0440\u0435\u0437 \u0441\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0435 \u0432\u0438\u0434\u0435\u043e \u0436\u0435\u0440\u0442\u0432\u044b \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0439 \u0441 \u0447\u0435\u0440\u043d\u043e\u0433\u043e \u0440\u044b\u043d\u043a\u0430. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0017\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u0421\u0430\u043c\u044b\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0435, \u043a\u0430\u043a\u00a0\u043f\u043e\u00a0\u043c\u043d\u0435, \u043a\u0435\u0439\u0441\u044b, \u0445\u043e\u0442\u044f \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u043d\u0438\u044f \u043c\u0430\u0442\u0435\u043c\u0430\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 \u0430\u0442\u0430\u043a \u0442\u0443\u0442 \u043d\u0435\u0442<\/em><\/p>\n<h3>Data Poisoning<\/h3>\n<p>\u2796\u041d\u0435\u0441\u043a\u043e\u043b\u044c\u043a\u043e \u0432\u0435\u043d\u0434\u043e\u0440\u043e\u0432 \u0441\u0442\u0430\u043b\u0438 \u0438\u0434\u0435\u043d\u0442\u0438\u0444\u0438\u0446\u0438\u0440\u043e\u0432\u0430\u0442\u044c \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0444\u0430\u0439\u043b\u044b \u043a\u0430\u043a \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u044b\u0435, \u0437\u0430\u0433\u0440\u0443\u0437\u0438\u0432 \u0438\u0445 \u0441 VirusTotal \u0438 \u043e\u0431\u0443\u0447\u0438\u0432 \u043d\u0430 \u043d\u0438\u0445 \u0441\u0432\u043e\u0438 \u043c\u043e\u0434\u0435\u043b\u0438, \u043a\u043e\u0433\u0434\u0430 \u043d\u0430 \u0441\u0430\u043c\u043e\u043c \u0434\u0435\u043b\u0435 \u043e\u043a\u0430\u0437\u0430\u043b\u043e\u0441\u044c, \u0447\u0442\u043e \u043e\u043d\u0438 \u0438\u043c\u0438\u0442\u0438\u0440\u0443\u044e\u0442 \u0434\u043e\u0431\u0440\u043e\u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0435 \u041f\u041e. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0002\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u0427\u0430\u0442\u0431\u043e\u0442 Microsoft Tay \u043e\u0431\u0443\u0447\u0438\u043b\u0441\u044f \u043d\u0430 \u043f\u043b\u043e\u0445\u0438\u0445 \u0442\u0432\u0438\u0442\u0430\u0445 \u0438 \u0441\u0442\u0430\u043b \u043d\u0435\u043d\u0430\u0432\u0438\u0434\u0435\u0442\u044c \u043f\u043e\u043b \u043c\u0438\u0440\u0430. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0009\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/>\u2796\u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u044c \u043f\u043e\u043b\u0443\u0447\u0438\u043b \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u0445\u0440\u0430\u043d\u0438\u043b\u0438\u0449\u0443 \u0430\u043a\u0442\u0443\u0430\u043b\u044c\u043d\u043e\u0439 \u043e\u0431\u0443\u0447\u0430\u044e\u0449\u0435\u0439 \u0432\u044b\u0431\u043e\u0440\u043a\u0438 \u043c\u043e\u0434\u0435\u043b\u0438 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u043b\u0438\u0446\u0430, \u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b \u0432\u043e\u0437\u043c\u043e\u0436\u043d\u043e\u0441\u0442\u044c \u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u044f. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0006\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u0417\u0434\u0435\u0441\u044c \u0442\u043e\u0436\u0435 \u043d\u0435\u0442 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u0442\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0433\u043e \u043f\u043e\u0434\u0445\u043e\u0434\u0430 \u043a \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u0438 &#171;\u043e\u0442\u0440\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u0445&#187; \u0438\u043d\u044a\u0435\u043a\u0446\u0438\u0439, \u043d\u043e \u043f\u043e \u043b\u043e\u0433\u0438\u043a\u0430 \u0448\u0430\u0433\u043e\u0432 \u0430\u0442\u0430\u043a\u0438 \u0441\u043e\u0431\u043b\u044e\u0434\u0435\u043d\u0430<\/em><\/p>\n<h3>\u0412\u0432\u0435\u0434\u0435\u043d\u0438\u0435 \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043d\u043e\u0439 \u043d\u0430\u0433\u0440\u0443\u0437\u043a\u0438 \u0432 \u043a\u043e\u0434 \u043c\u043e\u0434\u0435\u043b\u0438<\/h3>\n<p>\u2796\u0421\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0439 \u043a\u043e\u0434 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 dependency-\u0431\u0438\u0431\u043b\u0438\u043e\u0442\u0435\u043a PyTorch \u043f\u0440\u0438\u0432\u0435\u043b \u043a \u043d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u044e \u043a\u043e\u043d\u0444\u0438\u0434\u0435\u043d\u0446\u0438\u0430\u043b\u044c\u043d\u043e\u0441\u0442\u0438. <a href=\"https:\/\/atlas.mitre.org\/studies\/AML.CS0015\" rel=\"noopener noreferrer nofollow\">\u0421\u0441\u044b\u043b\u043a\u0430<\/a>.<br \/><em>\u041a\u043b\u0430\u0441\u0441\u0438\u0447\u0435\u0441\u043a\u0430\u044f supply chain \u0430\u0442\u0430\u043a\u0430.<\/em><\/p>\n<h2>\u0410 \u0447\u0442\u043e \u0433\u043e\u0432\u043e\u0440\u044f\u0442 \u0432 \u043e\u043f\u0435\u043d\u0441\u043e\u0440\u0441\u0435?<\/h2>\n<p>\u041e\u0447\u0435\u043d\u044c \u043c\u043d\u043e\u0433\u043e \u043f\u0440\u0438\u0432\u043d\u043e\u0441\u0438\u0442 \u0432 \u043e\u0442\u043a\u0440\u044b\u0442\u044b\u0435 \u0438\u0441\u0442\u043e\u0447\u043d\u0438\u043a\u0438 \u0444\u0438\u0440\u043c\u0430 Trail of Bits, \u0437\u0430\u043d\u0438\u043c\u0430\u044e\u0449\u0430\u044f\u0441\u044f \u043a\u043e\u043d\u0441\u0430\u043b\u0442\u0438\u043d\u0433\u043e\u043c \u0432 \u043a\u0438\u0431\u0435\u0440\u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. \u0418, \u0432 \u0447\u0430\u0441\u0442\u043d\u043e\u0441\u0442\u0438, \u0443 \u043d\u0438\u0445 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u044b\u0439 \u0440\u0435\u043f\u043e\u0437\u0438\u0442\u043e\u0440\u0438\u0439 awesome-ml-security, \u0433\u0434\u0435 \u0441\u0440\u0435\u0434\u0438 \u043f\u0440\u043e\u0447\u0438\u0445 \u0441\u0441\u044b\u043b\u043e\u043a, \u0435\u0441\u0442\u044c \u0438 \u043e\u0442\u043b\u0438\u0447\u043d\u0430\u044f \u0442\u0430\u0431\u043b\u0438\u0447\u043a\u0430 \u0441 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u0430\u043c\u0438 <a href=\"https:\/\/github.com\/trailofbits\/awesome-ml-security?tab=readme-ov-file#notable-incidents\" rel=\"noopener noreferrer nofollow\">Notable Incidents<\/a>. <\/p>\n<p>\u041f\u0440\u043e \u0432\u0441\u0451 \u0435\u0451 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435 \u0433\u043e\u0432\u043e\u0440\u0438\u0442\u044c \u043d\u0435 \u0441\u0442\u0430\u043d\u0443, \u0437\u0430\u043e\u0441\u0442\u0440\u044e \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u0442\u043e\u043b\u044c\u043a\u043e \u043d\u0430 \u043f\u0430\u0440\u0435 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u0438\u0437 \u043d\u0435\u0435.<br \/>\u2796<a href=\"https:\/\/github.com\/moohax\/Proof-Pudding\" rel=\"noopener noreferrer nofollow\">\u041e\u0431\u043c\u0430\u043d \u0430\u043d\u0442\u0438\u0441\u043f\u0430\u043c-\u043c\u043e\u0434\u0435\u043b\u0438 ProofPoint<\/a>. \u0421\u0443\u0442\u044c \u0442\u0430\u043a\u0430\u044f &#8212; \u0440\u0435\u0441\u0435\u0440\u0447\u0435\u0440\u044b \u043e\u0442\u043f\u0440\u0430\u0432\u0438\u043b\u0438 \u0441\u043a\u043e\u043b\u044c\u043a\u043e-\u0442\u043e \u043f\u0438\u0441\u0435\u043c \u043d\u0430 \u0441\u0435\u0440\u0432\u0435\u0440 \u0441 \u043f\u0440\u0443\u0444\u043f\u043e\u0438\u043d\u0442\u043e\u043c (33\u043a \u0432 \u043e\u0431\u0449\u0435\u0439 \u0441\u043b\u043e\u0436\u043d\u043e\u0441\u0442\u0438), \u0438 \u0441\u043e\u0431\u0440\u0430\u043b\u0438 \u043e\u0442\u0432\u0435\u0442\u044b \u043c\u043e\u0434\u0435\u043b\u0438 \u0441 \u0441\u0435\u0440\u0432\u0435\u0440\u0430 AWS SES (\u043a \u043a\u043e\u0442\u043e\u0440\u043e\u043c\u0443 \u0432\u0438\u0434\u0438\u043c\u043e \u043f\u043e\u0434\u0440\u0430\u0437\u0443\u043c\u0435\u0432\u0430\u0435\u0442\u0441\u044f \u043d\u0430\u043b\u0438\u0447\u0438\u0435 \u0434\u043e\u0441\u0442\u0443\u043f\u0430). \u0414\u0430\u043b\u0435\u0435 \u043e\u0431\u0443\u0447\u0438\u043b\u0438 \u043d\u0430 \u044d\u0442\u0438\u0445 \u043e\u0442\u0432\u0435\u0442\u0430\u0445 MLP \u043d\u0430 BagOfWords \u0438 LSTM\u043a\u0443, \u0438 \u0432 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0435 \u0432\u044b\u0442\u0430\u0449\u0438\u043b\u0438 \u0441\u043f\u0438\u0441\u043e\u043a \u0441\u043b\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0432\u044b\u0432\u043e\u0434\u044f\u0442 \u0441\u043a\u043e\u0440 \u0441\u043a\u043e\u043f\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438 \u0432\u0432\u0435\u0440\u0445. \u041f\u043e\u0441\u043b\u0435 \u0447\u0435\u0433\u043e \u043d\u0430\u0433\u0435\u043d\u0435\u0440\u0438\u043b\u0438 \u043d\u043e\u0432\u044b\u0445 \u043f\u0438\u0441\u0435\u043c \u0431\u0435\u0437 \u044d\u0442\u0438\u0445 \u0441\u043b\u043e\u0432 \u0438 \u0434\u043e\u0441\u0442\u0438\u0433\u043b\u0438 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u0430.<br \/>\u2796 <a href=\"https:\/\/www.theverge.com\/2021\/8\/18\/22630439\/apple-csam-neuralhash-collision-vulnerability-flaw-cryptography\" rel=\"noopener noreferrer nofollow\">\u041e\u0431\u043c\u0430\u043d Apple NeuralHashing<\/a>. \u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u043f\u043e\u043a\u0430\u0437\u0430\u043b\u0438, \u043a\u0430\u043a \u0437\u0430\u0440\u0435\u0432\u0435\u0440\u0441\u0438\u0442\u044c \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u0438\u044f \u0432\u0441\u044f\u043a\u0438\u0445 \u043d\u0435\u043f\u0440\u0438\u0441\u0442\u043e\u0439\u043d\u044b\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439, \u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e \u043e\u043d \u043d\u0435\u0443\u0441\u0442\u043e\u0439\u0447\u0438\u0432 \u043a \u043f\u043e\u0432\u043e\u0440\u043e\u0442\u0430\u043c \u0438 \u043e\u0431\u0440\u0435\u0437\u0430\u043d\u0438\u044e \u043a\u0430\u0440\u0442\u0438\u043d\u043a\u0438. \u0410 \u043f\u043e\u0442\u043e\u043c \u0435\u0449\u0435 \u0438 \u043d\u0430\u0448\u043b\u0438 \u0441\u043b\u0443\u0447\u0430\u0439 \u0441\u043e\u0432\u043f\u0430\u0434\u0435\u043d\u0438\u044f \u0445\u044d\u0448\u0430 \u0443 \u0434\u0432\u0443\u0445 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439. \u042d\u043f\u043f\u043b \u0432 \u043e\u0442\u0432\u0435\u0442 \u0441\u043a\u0430\u0437\u0430\u043b\u0430, \u0447\u0442\u043e \u0432\u0441\u0435 \u043e\u043a, \u0442\u0430\u043a \u0438 \u0431\u044b\u043b\u043e \u0437\u0430\u0434\u0443\u043c\u0430\u043d\u043e ?.<\/p>\n<h2>\u041f\u0440\u043e\u043f\u0443\u0449\u0435\u043d\u043d\u044b\u0439 \u0438 \u0432\u0441\u0435\u043c \u0438\u0437\u0432\u0435\u0441\u0442\u043d\u044b\u0439<\/h2>\n<p>\u041e\u0442\u043c\u0435\u0447\u0443 \u043e\u0442\u0434\u0435\u043b\u044c\u043d\u043e <a href=\"https:\/\/incidentdatabase.ai\/\" rel=\"noopener noreferrer nofollow\">AI Incidents DataBase<\/a>, \u0442\u0430\u043a \u043a\u0430\u043a \u043c\u043d\u043e\u0433\u0438\u0435 \u0441\u0442\u0430\u0432\u044f\u0442 \u0435\u0435 \u0432 \u043f\u0440\u0438\u043c\u0435\u0440, \u043a\u0430\u043a &#171;\u0431\u043e\u043b\u044c\u0448\u043e\u0439 \u0441\u0431\u043e\u0440\u043d\u0438\u043a \u0440\u0435\u0430\u043b\u044c\u043d\u044b\u0445 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432&#187;. \u041e\u0434\u043d\u0430\u043a\u043e \u043b\u0438\u0447\u043d\u043e \u044f \u043f\u043e\u043a\u0430 \u043d\u0435 \u043d\u0430\u0445\u043e\u0436\u0443 \u0435\u0435 \u043f\u043e\u043b\u0435\u0437\u043d\u043e\u0439. \u042f \u043d\u0435 \u0441\u043c\u043e\u0433 \u043d\u0430 \u043d\u0435\u0439 \u043d\u0430\u0439\u0442\u0438 \u0438\u043c\u0435\u043d\u043d\u043e \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u043e\u0432 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438, \u0432 \u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0431\u044b\u043b\u0430 \u0437\u0430\u0442\u0440\u043e\u043d\u0443\u0442\u0430 \u0438 \u0441\u043a\u043e\u043c\u043f\u0440\u043e\u043c\u0435\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0430 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0438\u043b\u0438 \u0438\u043d\u0444\u0440\u0430\u0441\u0442\u0440\u0443\u043a\u0442\u0443\u0440\u043d\u0430\u044f \u0447\u0430\u0441\u0442\u044c ML-\u0441\u0438\u0441\u0442\u0435\u043c\u044b. \u0412 \u043e\u0441\u043d\u043e\u0432\u043d\u043e\u043c \u044d\u0442\u043e \u0441\u043e\u0431\u0440\u0430\u043d\u0438\u0435 \u043f\u043e\u043f\u0443\u043b\u0438\u0441\u0442\u0441\u043a\u0438\u0445 \u043d\u043e\u0432\u043e\u0441\u0442\u0435\u0439. \u041d\u0430\u043f\u0440\u0438\u043c\u0435\u0440, \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443 &#171;model backdoor&#187; \u043f\u043e\u044f\u0432\u043b\u044f\u0435\u0442\u0441\u044f \u043a\u0430\u0440\u0442\u043e\u0447\u043a\u0430 <a href=\"https:\/\/incidentdatabase.ai\/cite\/571\/#r3221\" rel=\"noopener noreferrer nofollow\">\u0443\u0442\u0435\u0447\u043a\u0438 38 TB \u0434\u0430\u043d\u043d\u044b\u0445 \u0443 Microsoft<\/a>. \u0410 \u043f\u043e \u0437\u0430\u043f\u0440\u043e\u0441\u0443 &#171;poisoning&#187; \u0445\u043e\u0442\u044c \u043c\u043d\u0435 \u0438 \u0432\u044b\u0434\u0430\u043b\u0430\u0441\u044c \u0432\u0440\u043e\u0434\u0435 \u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u0430\u044f \u043d\u043e\u0432\u043e\u0441\u0442\u044c \u043f\u0440\u043e \u0442\u043e, \u043a\u0430\u043a \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0442\u0435\u043b\u044c\u043d\u0430\u044f \u0441\u0438\u0441\u0442\u0435\u043c\u0430 <a href=\"https:\/\/incidentdatabase.ai\/cite\/156\/#r1515\" rel=\"noopener noreferrer nofollow\">Amazon \u0441\u0442\u0430\u043b\u0430 \u0432\u044b\u0434\u0430\u0432\u0430\u0442\u044c \u0442\u043e\u0432\u0430\u0440\u044b, \u043f\u043e\u0434\u0445\u043e\u0434\u044f\u0449\u0438\u0435 \u0434\u043b\u044f \u0441\u043e\u0432\u0435\u0440\u0448\u0435\u043d\u0438\u044f \u0441\u0443\u0438\u0446\u0438\u0434\u0430<\/a>, \u043d\u043e \u043d\u0438\u043a\u0430\u043a\u0438\u0445 \u0442\u0435\u0445\u043d\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0434\u0435\u0442\u0430\u043b\u0435\u0439 \u0438 \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u0442\u0435\u043b\u044c\u043d\u044b\u0445 \u043f\u043e\u0434\u0440\u043e\u0431\u043d\u043e\u0441\u0442\u0435\u0439 \u0432 \u043d\u0435\u0439 \u043d\u0435\u0442.<\/p>\n<h2>\u041a\u043e\u043f\u043d\u0435\u043c \u0433\u043b\u0443\u0431\u0436\u0435<\/h2>\n<p>\u0412 \u0442\u0430\u0431\u043b\u0438\u0447\u043a\u0435 Trail of Bits \u0441\u043b\u0430\u0439\u0434\u0435 64 <a href=\"https:\/\/github.com\/moohax\/Talks\/blob\/master\/slides\/DerbyCon19.pdf\" rel=\"noopener noreferrer nofollow\">\u0432\u043e\u0442 \u044d\u0442\u043e\u0439 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e\u0439 \u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438<\/a> \u0441 DerbyCon2019 \u0430\u0432\u0442\u043e\u0440\u044b \u043f\u0440\u0438\u0432\u043e\u0434\u044f\u0442 4 \u0441\u0443\u043f\u0435\u0440\u0438\u043d\u0442\u0435\u0440\u0435\u0441\u043d\u044b\u0445 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u0430\u0442\u0430\u043a \u043d\u0430 \u043e\u0441\u043d\u043e\u0432\u0435 \u0430\u043d\u0430\u043b\u0438\u0437\u0430 \u0434\u0430\u043d\u043d\u044b\u0445 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u043c\u043e\u0434\u0435\u043b\u0435\u0439 \u0438 \u0441\u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u0438\u044f \u043f\u0440\u044f\u043c \u0441\u043b\u043e\u0436\u043d\u044b\u0445 \u0430\u0442\u0430\u043a. \u0412 \u043a\u0430\u0447\u0435\u0441\u0442\u0432\u0435 \u043f\u0440\u0438\u043c\u0435\u0440\u0430 \u043f\u0440\u0438\u0432\u0435\u0434\u0443 <a href=\"https:\/\/skylightcyber.com\/2019\/07\/18\/cylance-i-kill-you\/\" rel=\"noopener noreferrer nofollow\">\u043a\u0435\u0439\u0441 \u043e\u0431\u043c\u0430\u043d\u0430 \u0430\u043d\u0442\u0438\u0432\u0438\u0440\u0443\u0441\u0430 Cylance<\/a>. <\/p>\n<p>\u0418\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u0442\u0435\u043b\u0438 \u0438\u0437 Skylight Cyber \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u0430\u043b\u0438, \u0447\u0442\u043e, \u0438\u043c\u0435\u044f \u0434\u043e\u0441\u0442\u0443\u043f \u043a \u043a\u043b\u0438\u0435\u043d\u0442\u0441\u043a\u043e\u043c\u0443 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044e \u0430\u043d\u0442\u0438\u0432\u0438\u0440\u0443\u0441\u0430, \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0432\u0435\u0441\u0442\u0438 \u0430\u043d\u0430\u043b\u0438\u0437 \u0435\u0433\u043e \u0440\u0430\u0431\u043e\u0442\u044b (\u0432\u043a\u043b\u044e\u0447\u0438\u0432 <a href=\"https:\/\/home-support.cylance.com\/hc\/en-us\/articles\/115013840527-How-to-Cylance-Agent-Advanced-UI-Mode\" rel=\"noopener noreferrer nofollow\">verbose logging<\/a>). \u041f\u0440\u043e\u0432\u0435\u0434\u044f \u0442\u0430\u043a\u043e\u0439 \u0441\u0430\u043c\u043e\u0441\u0442\u043e\u044f\u0442\u0435\u043b\u044c\u043d\u043e, \u043e\u043d\u0438 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0438\u043b\u0438, \u0447\u0442\u043e Cylance EPP \u0438\u043c\u0435\u0435\u0442 \u0443\u043a\u043b\u043e\u043d \u043f\u0440\u0438 \u0432\u044b\u043d\u0435\u0441\u0435\u043d\u0438\u0438 \u0432\u0435\u0440\u0434\u0438\u043a\u0442\u0430 \u043e \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438 \u043f\u0440\u0438\u043b\u043e\u0436\u0435\u043d\u0438\u044f, \u0435\u0441\u043b\u0438 \u043e\u043d\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u0447\u043a\u0438 \u0432 \u043a\u043e\u0434\u0435 \u0444\u0430\u0439\u043b\u0430 (\u043f\u043e\u0442\u043e\u043c\u0443 \u0447\u0442\u043e \u0444\u0438\u0447\u0438 ml-\u043c\u043e\u0434\u0435\u043b\u0438 \u0441\u043e\u0441\u0442\u043e\u044f\u043b\u0438 \u0438\u0437 \u0431\u0443\u043a\u0432\u0430\u043b\u044c\u043d\u043e \u0441\u043e\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u044f \u0442\u0435\u0445 \u0438\u043b\u0438 \u0438\u043d\u044b\u0445 \u0441\u0442\u0440\u043e\u043a \u043a\u043e\u0434\u0430 \u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u0443\u0435\u043c\u043e\u0439 \u043f\u0440\u043e\u0433\u0440\u0430\u043c\u043c\u044b). \u0414\u0430\u043b\u0435\u0435 \u043e\u043d\u0438 \u043f\u0440\u043e\u0430\u043d\u0430\u043b\u0438\u0437\u0438\u0440\u043e\u0432\u0430\u043b\u0438 \u0434\u0440\u0443\u0433\u043e\u0439 \u043c\u0435\u0445\u0430\u043d\u0438\u0437\u043c \u043f\u0440\u043e\u0434\u0443\u043a\u0442\u0430, \u043d\u0430\u0437\u044b\u0432\u0430\u0435\u043c\u044b\u0439 &#171;\u0426\u0435\u043d\u0442\u0440\u043e\u0438\u0434\u044b&#187;. \u0415\u0433\u043e \u0441\u0443\u0442\u044c \u0432 \u0442\u043e\u043c, \u0447\u0442\u043e \u044d\u0442\u043e \u043a\u043b\u0430\u0441\u0442\u0435\u0440\u0430 \u0440\u0430\u0437\u043b\u0438\u0447\u043d\u044b\u0445 \u0438\u0441\u043f\u043e\u043b\u043d\u044f\u0435\u043c\u044b\u0445 \u0444\u0430\u0439\u043b\u043e\u0432. \u041a\u0430\u0436\u0434\u0430\u044f \u0446\u0435\u043d\u0442\u0440\u043e\u0438\u0434\u0430 \u043e\u0442\u043e\u0431\u0440\u0430\u0436\u0430\u0435\u0442 \u043a\u0430\u043a\u043e\u0439-\u0442\u043e \u043f\u043b\u043e\u0445\u043e\u0439 \u0438\u043b\u0438 \u0445\u043e\u0440\u043e\u0448\u0438\u0439 \u0444\u0430\u0439\u043b, \u0438 \u0438\u0445 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u044f \u0441\u043e\u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044e\u0442 \u0438\u043c\u0435\u043d\u0430\u043c \u0444\u0430\u0439\u043b\u043e\u0432. \u0410 \u0443 \u043e\u0434\u043d\u043e\u0439 \u0438\u0437 \u043d\u0438\u0445 \u043d\u0430\u0437\u0432\u0430\u043d\u0438\u0435 \u0431\u044b\u043b\u043e \u043a\u0430\u043a \u0443 \u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u043e\u0439 \u043e\u043d\u043b\u0430\u0439\u043d-\u0438\u0433\u0440\u044b Rocket League, \u0438 \u043e\u043d\u0430 \u0431\u044b\u043b\u0430 \u043e\u0442\u043c\u0435\u0447\u0435\u043d\u0430 \u043a\u0430\u043a whitelist (\u0442\u043e \u0435\u0441\u0442\u044c \u043f\u043e\u0445\u043e\u0436\u0438\u0435 \u043d\u0430 \u043d\u0435\u0435 \u0444\u0430\u0439\u043b\u044b \u0442\u043e\u0436\u0435 \u043f\u043e\u043f\u0430\u0434\u0430\u043b\u0438 \u0432 whitelist). \u0418 \u043a\u0443\u043b\u044c\u043c\u0438\u043d\u0430\u0446\u0438\u044f &#8212; \u0430\u0432\u0442\u043e\u0440\u044b \u0441\u043a\u0430\u0447\u0438\u0432\u0430\u044e\u0442 \u0438\u0433\u0440\u0443, \u0432\u044b\u0442\u0430\u0441\u043a\u0438\u0432\u0430\u044e\u0442 \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u0441\u0442\u0440\u043e\u043a\u0438 \u043a\u043e\u0434\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u0443\u0437\u043d\u0430\u043b\u0438 \u0438\u0437 \u0441\u043e\u0441\u0442\u0430\u0432\u0430 \u0444\u0438\u0447\u0435\u0439 \u0441\u043a\u043e\u0440\u0438\u043d\u0433\u043e\u0432\u043e\u0439 \u043c\u043e\u0434\u0435\u043b\u0438, \u0438 \u043f\u0440\u0438\u0431\u0430\u0432\u043b\u044f\u044e\u0442 \u043a \u0432\u0438\u0440\u0443\u0441\u0430\u043c. \u0418\u0442\u043e\u0433 &#8212; 100% \u044d\u0444\u0444\u0435\u043a\u0442\u0438\u0432\u043d\u043e\u0441\u0442\u0438 \u0430\u0442\u0430\u043a\u0438 \u043d\u0430 \u0442\u043e\u043f-10 \u0432\u0440\u0435\u0434\u043e\u043d\u043e\u0441\u043e\u0432 \u043d\u0430 \u0441\u043e\u0441\u0442\u043e\u044f\u043d\u0438\u0435 \u043c\u0430\u044f 2019, \u0438 \u043f\u043e\u0447\u0442\u0438 90% \u043d\u0430 \u0432\u044b\u0431\u043e\u0440\u043a\u0435 \u0438\u0437 384 \u043c\u0430\u043b\u0432\u0430\u0440\u0435\u0439.<\/p>\n<h2>\u0418\u0442\u043e\u0433. \u0420\u0435\u0441\u0443\u0440\u0441\u044b \u0441 \u0438\u043d\u0446\u0438\u0434\u0435\u043d\u0442\u0430\u043c\u0438<\/h2>\n<p>\u041e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442\u0441\u044f, \u043d\u0435 \u0441\u043e\u0432\u0441\u0435\u043c \u0432 \u043a\u043e\u0441\u043c\u043e\u0441\u0435 \u043f\u0443\u0441\u0442\u043e. \u0414\u0430, \u043c\u0430\u0441\u0448\u0442\u0430\u0431\u043d\u044b\u0445 \u043f\u0440\u043e\u0438\u0441\u0448\u0435\u0441\u0442\u0432\u0438\u0439 \u0441 \u043f\u0440\u0438\u043c\u0435\u043d\u0435\u043d\u0438\u0435\u043c \u0437\u043d\u0430\u043d\u0438\u0439 \u043e\u0431 \u0443\u044f\u0437\u0432\u0438\u043c\u043e\u0441\u0442\u044f\u0445 \u0441\u0438\u0441\u0442\u0435\u043c \u0438 \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u043e\u0432 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432\u0441\u0435 \u0435\u0449\u0435 \u043d\u0435 \u043f\u0440\u043e\u0438\u0437\u043e\u0448\u043b\u043e, \u043d\u043e, \u043a\u0430\u043a \u043c\u044b \u0442\u0435\u043f\u0435\u0440\u044c \u0432\u0438\u0434\u0438\u043c, \u0445\u0430\u043a\u0435\u0440\u0441\u043a\u0430\u044f \u043c\u044b\u0441\u043b\u044c \u043d\u0435 \u0441\u0442\u043e\u0438\u0442 \u043d\u0430 \u043c\u0435\u0441\u0442\u0435. \u0414\u0430\u043d\u043d\u044b\u0435 \u0437\u043d\u0430\u043d\u0438\u044f \u043d\u0430\u0445\u043e\u0434\u044f\u0442\u0441\u044f \u0432 \u0441\u0432\u043e\u0431\u043e\u0434\u043d\u043e\u043c \u0434\u043e\u0441\u0442\u0443\u043f\u0435, \u043e\u043f\u0440\u0435\u0434\u0435\u043b\u0435\u043d\u043d\u044b\u0435 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442\u044b \u0443\u0436\u0435 \u043f\u043e\u044f\u0432\u043b\u044f\u044e\u0442\u0441\u044f, \u0438 \u043b\u0438\u0448\u044c \u0432\u043e\u043f\u0440\u043e\u0441 \u0432\u0440\u0435\u043c\u0435\u043d\u0438, \u043a\u043e\u0433\u0434\u0430 \u044d\u0442\u043e\u0442 \u0432\u0435\u043a\u0442\u043e\u0440 \u0443\u0433\u0440\u043e\u0437 \u0441\u0442\u0430\u043d\u0435\u0442 \u043d\u043e\u0432\u044b\u043c \u0442\u0440\u0435\u043d\u0434\u043e\u043c \u0432\u0441\u0435\u0439 \u0438\u043d\u0444\u043e\u0440\u043c\u0430\u0446\u0438\u043e\u043d\u043d\u043e\u0439 \u0431\u0435\u0437\u043e\u043f\u0430\u0441\u043d\u043e\u0441\u0442\u0438. <\/p>\n<p>\u0410 \u0435\u0449\u0435 \u0443 \u043c\u0435\u043d\u044f \u0432 \u0437\u0430\u0433\u0430\u0448\u043d\u0438\u043a\u0435 \u043e\u0441\u0442\u0430\u043b\u0438\u0441\u044c \u0438 \u0434\u0440\u0443\u0433\u0438\u0435 \u0441\u0441\u044b\u043b\u043a\u0438, \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u043d\u044b\u0435 \u0432 \u043f\u0440\u043e\u0446\u0435\u0441\u0441\u0435 \u043f\u043e\u0438\u0441\u043a\u0430, \u043d\u043e \u043d\u0435 \u043f\u0440\u043e\u0432\u0435\u0440\u0435\u043d\u043d\u044b\u0435 \u0438 \u043d\u0435 \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u043d\u044b\u0435. \u041f\u0440\u0438 \u0436\u0435\u043b\u0430\u043d\u0438\u0438, \u0432\u044b \u0441\u043c\u043e\u0436\u0435\u0442\u0435 \u0438 \u0441\u0430\u043c\u0438 \u0438\u0445 \u0440\u0430\u0441\u043a\u043e\u043f\u0430\u0442\u044c \u043f\u043e \u043e\u0441\u0442\u0430\u0432\u043b\u0435\u043d\u043d\u044b\u043c \u043c\u043d\u043e\u044e \u0432\u044b\u0448\u0435 \u0441\u0441\u044b\u043b\u043a\u0430\u043c. \u041d\u0443 \u0438\u043b\u0438 \u043f\u043e\u0434\u043e\u0436\u0434\u0438\u0442\u0435, \u043a\u043e\u0433\u0434\u0430 \u044f \u0441\u0434\u0435\u043b\u0430\u044e \u0441\u043b\u0435\u0434\u0443\u044e\u0449\u0438\u0439 \u043e\u0431\u0437\u043e\u0440 \ud83d\ude09<\/p>\n<ul>\n<li>\n<p><a href=\"https:\/\/atlas.mitre.org\/studies\" rel=\"noopener noreferrer nofollow\">MITRE ATLAS Case Studies<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/trailofbits\/awesome-ml-security\" rel=\"noopener noreferrer nofollow\">\u0422\u0430\u0431\u043b\u0438\u0447\u043a\u0430 \u043e\u0442 Trail of Bits<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/oecd.ai\/en\/incidents?search_terms=%5B%5D&amp;and_condition=false&amp;from_date=2014-01-01&amp;to_date=2024-01-12&amp;properties_config=%7B%22principles%22:%5B%5D,%22industries%22:%5B%5D,%22harm_types%22:%5B%5D,%22harm_levels%22:%5B%5D,%22harmed_entities%22:%5B%5D%7D&amp;only_threats=false&amp;order_by=date&amp;num_results=20\" rel=\"noopener noreferrer nofollow\">OECD AI Monitoring<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/incidentdatabase.ai\/\" rel=\"noopener noreferrer nofollow\">AI Incidents DataBase<\/a><\/p>\n<\/li>\n<li>\n<p><a href=\"https:\/\/github.com\/moohax\/Talks\/blob\/master\/slides\/DerbyCon19.pdf\" rel=\"noopener noreferrer nofollow\">64 \u0441\u043b\u0430\u0439\u0434 \u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0446\u0438\u0438<\/a> \u043e\u0442 <a href=\"https:\/\/twitter.com\/moo_hax\" rel=\"noopener noreferrer nofollow\">Will Pearce<\/a> \u0438 <a href=\"https:\/\/twitter.com\/monoxgas\" rel=\"noopener noreferrer nofollow\">Nick Landers<\/a>.<\/p>\n<\/li>\n<\/ul>\n<hr\/>\n<p>\u0423\u0434\u0430\u0447\u043d\u044b\u0445 \u0432\u0430\u043c \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u0439 \u0438 \u043f\u043e\u0438\u0441\u043a\u043e\u0432, \u043a\u043e\u043b\u043b\u0435\u0433\u0438!<\/p>\n<\/p>\n<\/div>\n<\/div>\n<\/div>\n<p><!----><!----><\/div>\n<p><!----><!----><br \/> \u0441\u0441\u044b\u043b\u043a\u0430 \u043d\u0430 \u043e\u0440\u0438\u0433\u0438\u043d\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 <a href=\"https:\/\/habr.com\/ru\/articles\/834800\/\"> https:\/\/habr.com\/ru\/articles\/834800\/<\/a><br \/><\/br><\/br><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"tags":[],"class_list":["post-428676","post","type-post","status-publish","format-standard","hentry"],"_links":{"self":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/428676","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=428676"}],"version-history":[{"count":0,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=\/wp\/v2\/posts\/428676\/revisions"}],"wp:attachment":[{"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=428676"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=428676"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/savepearlharbor.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=428676"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}